Посол Google в области искусственного интеллекта балансирует между шумихой и гибелью

Jun 22, 2024

Маунтин-Вью, Калифорния. На фоне ажиотажа по поводу искусственного интеллекта на ежегодной конференции разработчиков Google в мае Джеймсу Манике, новому руководителю отдела технологий и общества, пришлось поговорить о недостатках ИИ.

Перед тем, как тысячи людей собрались на открытой арене, Маньика обсудил проблему фейковых изображений и то, как ИИ отражает расизм и сексизм в обществе. Он предупредил, что по мере совершенствования технологий возникнут новые проблемы.

Но будьте уверены, что Google применяет «ответственный подход к ИИ», — сказал он собравшимся. Слова «смелый и ответственный» вспыхнули на огромном экране, затмив Манику, пока он говорил.

Эта фраза стала девизом Google в эпоху искусственного интеллекта, своего рода заменой слова «не будь злым», мантры, которую компания удалила из преамбулы своего кодекса поведения в 2018 году. Эта фраза резюмирует общее послание Кремниевой долины об искусственном интеллекте. , поскольку многие из наиболее влиятельных лидеров технологической индустрии спешат разрабатывать все более мощные версии технологии, одновременно предупреждая о ее опасностях и призывая к государственному надзору и регулированию.

Маньика, бывший советник по технологиям администрации Обамы, родившийся в Зимбабве и получивший докторскую степень в области искусственного интеллекта в Оксфорде, принял эту двойственность в своей новой роли посла Google в области искусственного интеллекта. Он настаивает на том, что эта технология принесет поразительную пользу человеческой цивилизации и что Google станет подходящим управляющим этого светлого будущего. Но вскоре после конференции разработчиков Маньика вместе с сотнями исследователей ИИ подписал заявление, состоящее из одного предложения, в котором предупредил, что ИИ представляет «риск исчезновения» наравне с «пандемиями и ядерной войной».

ИИ — это «удивительная, мощная, преобразующая технология», — сказала Маньика в недавнем интервью. В то же время он допустил, что «могут случиться плохие вещи».

Критики говорят, что плохие вещи уже происходят. С момента своего выпуска в ноябре прошлого года ChatGPT OpenAI изобрел массу ложной информации, включая фальшивый скандал о сексуальных домогательствах, в котором был назван настоящий профессор права. Версии модели Stable Diffusion компании Stability AI с открытым исходным кодом создали поток реалистичных изображений сексуального насилия над детьми, подрывая усилия по борьбе с реальными преступлениями. Ранняя версия Bing от Microsoft стала тревожно мрачной и враждебной по отношению к пользователям. А недавнее расследование Washington Post показало, что несколько чат-ботов, в том числе Бард из Google, рекомендовали опасно низкокалорийные диеты, сигареты и даже ленточных червей в качестве способов похудеть.

«Продукты Google для искусственного интеллекта, включая Bard, уже причиняют вред. И в этом проблема «смелости» в сочетании с «ответственной» разработкой ИИ», — сказала Тамара Книз, старший научный сотрудник и директор проекта Data & Society, некоммерческой организации, изучающей влияние ИИ.

«Крупные технологические компании призывают к регулированию», — сказал Низ. «Но в то же время они быстро доставляют продукцию практически без надзора».

Регуляторы по всему миру сейчас пытаются решить, как регулировать эту технологию, в то время как уважаемые исследователи предупреждают о долгосрочных вредах, в том числе о том, что однажды технология может превзойти человеческий интеллект. Почти каждую неделю на Капитолийском холме проходят слушания, посвященные искусственному интеллекту.

Если у ИИ есть проблемы с доверием, то и у Google тоже. Компания долгое время пыталась убедить пользователей в том, что она может защитить огромный объем данных, которые она собирает из их истории поиска и почтовых ящиков. Репутация компании особенно шаткая, когда дело касается ИИ: в 2020 году она уволила известного исследователя этики ИИ Тимнит Гебру после того, как она опубликовала статью, в которой утверждалось, что ИИ компании может быть заражен расизмом и сексизмом из-за данных, на которых он обучался.

Между тем, технологический гигант находится под значительным конкурентным давлением: Google запустил своего чат-бота в начале этого года, спеша наверстать упущенное после того, как ChatGPT и другие конкуренты уже захватили общественное внимание. Конкуренты, такие как Microsoft, и множество хорошо финансируемых стартапов рассматривают ИИ как способ ослабить контроль Google над интернет-экономикой.