Этические принципы в технологиях: когда коммерция берет верх над исследованиями

• Автор:
• Имя автора

  Квантумран Форсайт
• 15 февраля 2023

Сводка статистики

Из-за потенциальных опасностей и алгоритмической предвзятости, которые системы искусственного интеллекта (ИИ) могут создавать для избранных групп меньшинств, многие федеральные агентства и компании все чаще требуют от поставщиков технологий публиковать этические рекомендации о том, как они разрабатывают и внедряют ИИ. Однако применение этих рекомендаций в реальной жизни гораздо сложнее и туманнее.

Контекст этического конфликта

В Силиконовой долине предприятия все еще изучают, как лучше всего применять этические принципы на практике, в том числе задавая вопрос: «Сколько стоит расставить приоритеты этики?» 2 декабря 2020 года Тимнит Гебру, один из руководителей группы этического ИИ Google, опубликовала твит, в котором сообщила, что ее уволили. Она пользовалась большим уважением в сообществе ИИ за свою предвзятость и исследования в области распознавания лиц. Инцидент, приведший к ее увольнению, касался статьи, в соавторстве с которой она выступила и которую Google решил, что она не соответствует их стандартам публикации. 

Однако Гебру и другие утверждают, что увольнение было мотивировано связями с общественностью, а не прогрессом. Увольнение произошло после того, как Гебру поставил под сомнение приказ не публиковать исследование о том, как ИИ, имитирующий человеческий язык, может нанести вред маргинализированным группам населения. В феврале 2021 года также была уволена соавтор Гебру Маргарет Митчелл. 

Google заявил, что Митчелл нарушил кодекс поведения и политику безопасности компании, переместив электронные файлы за пределы компании. Митчелл не стал уточнять причины ее увольнения. Этот шаг вызвал шквал критики, в результате чего к февралю 2021 года Google объявила об изменениях в своей политике разнообразия и исследований. Этот инцидент — лишь один пример того, как этические конфликты разделяют крупные технологические фирмы и их якобы объективные исследовательские отделы.

Разрушительное воздействие

Согласно Harvard Business Review, самой большой проблемой, с которой сталкиваются владельцы бизнеса, является поиск баланса между внешним давлением, необходимым для реагирования на этические кризисы, и внутренними требованиями своих компаний и отраслей. Критика извне подталкивает компании к переоценке своей деловой практики. Однако давление со стороны руководства, отраслевая конкуренция и общие рыночные ожидания в отношении того, как следует вести бизнес, иногда могут создавать уравновешивающие стимулы, благоприятствующие статус-кво. Соответственно, этические конфликты будут только усиливаться по мере развития культурных норм и по мере того, как компании (особенно влиятельные технологические фирмы) продолжают раздвигать границы новых методов ведения бизнеса, которые они могут внедрить для получения новых доходов.

Еще одним примером корпораций, борющихся с этим этическим балансом, является компания Meta. Чтобы устранить разрекламированные этические недостатки, в 2020 году Facebook создал независимый наблюдательный совет, наделенный полномочиями отменять решения о модерации контента, даже те, которые были приняты основателем Марком Цукербергом. В январе 2021 года комитет вынес свои первые решения по спорному контенту и отменил большинство рассмотренных им дел. 

Однако, учитывая миллиарды постов в Facebook ежедневно и неисчислимое количество жалоб на контент, надзорный совет работает намного медленнее, чем традиционные правительства. Тем не менее, правление сделало несколько обоснованных рекомендаций. В 2022 году комиссия посоветовала Meta Platforms бороться с инцидентами с доксингом, опубликованными в Facebook, запретив пользователям делиться домашними адресами людей на платформах, даже если они общедоступны. Правление также выступило за то, чтобы Facebook открыла канал связи, чтобы прозрачно объяснить, почему происходят нарушения и как они решаются.

Последствия этических конфликтов в частном секторе

Более широкие последствия этических конфликтов в частном секторе могут включать: 

• Больше компаний создают независимые советы по этике для надзора за соблюдением этических принципов в своей деловой практике.
• Усиление критики со стороны академических кругов по поводу того, как коммерциализация технологических исследований привела к появлению более сомнительных практик и систем.
• Растет утечка мозгов из государственного сектора, поскольку технологические фирмы охотятся за талантливыми государственными и университетскими исследователями искусственного интеллекта, предлагая солидные зарплаты и льготы.
• Правительства все чаще требуют, чтобы все фирмы публиковали свои этические принципы, независимо от того, предоставляют ли они технологические услуги или нет.
• Более откровенные исследователи увольняются из крупных компаний из-за конфликта интересов только для того, чтобы их быстро заменили.

Вопросы для рассмотрения

• Как, по вашему мнению, этические конфликты повлияют на продукты и услуги, которые получают потребители?
• Что могут сделать фирмы, чтобы обеспечить прозрачность своих технологических исследований?