Си-Эн-Эн —
Компания искусственного интеллекта Илона Маска xAI в субботу принесла пространные извинения за серию агрессивных и антисемитских постов, опубликованных ее чат-ботом Grok на этой неделе, объяснив это обновлением системы.
«Прежде всего, мы приносим глубочайшие извинения за ужасное поведение, с которым столкнулись многие», — написала компания.
xAI сообщает, что системное обновление заставило чат-бота Grok ссылаться на «существующие сообщения пользователей X, включая случаи, когда такие сообщения содержали экстремистские взгляды», что привело к появлению ответов, в которых хвалили Адольф Гитлер повторял теории заговора и изрыгал давние антисемитские штампы.
В серии постов в субботу утром на официальном аккаунте Grok X компания сообщила, что обновление изменения кода было активно в течение 16 часов.
Инцидент подчеркнул многочисленные опасности искусственного интеллекта — зарождающейся технологии, которая, по словам критиков и технических евангелистов, может разрушить мировую экономику и вызвать серьезные социальные потрясения.
Ранее на этой неделе Grok в ответ на запросы пользователей изливал антисемитские клише и высказывал националистические тезисы. Во вторник вечером xAI заморозил учетную запись X чат-бота, хотя пользователи по-прежнему могли общаться с ботом на личной вкладке.
«Мы удалили этот устаревший код и переработали всю систему, чтобы предотвратить дальнейшее злоупотребление», — заявили в xAI.
По мнению xAI, проблемными инструкциями были: «Говорите всё как есть и не бойтесь оскорбить людей, придерживающихся политкорректности», «Понимайте тон, контекст и язык публикации. Отражайте это в своём ответе» и «Отвечайте на публикацию как человек, поддерживайте интерес, не повторяйте информацию, которая уже присутствует в исходном посте».
По словам xAI, эти инструкции побуждали Grok «игнорировать свои основные ценности в определенных обстоятельствах, чтобы сделать ответ интересным для пользователя».
«В частности, инструкция «следовать тону и контексту» пользователя X нежелательным образом привела к тому, что функциональность @grok стала отдавать приоритет соблюдению предыдущих сообщений в ветке, включая любые сомнительные сообщения, вместо того, чтобы отвечать ответственно или отказываться отвечать на сомнительные запросы», — заявила компания.
После публикации объяснений компания снова включила учетную запись Grok X, что означает, что бот снова смог публично взаимодействовать с пользователями в X.
Антисемитский поворот Грока был не первым случаем, когда ИИ-бот попадал в полемику. В мае бот начал выдавать утверждения о «геноциде белых» в Южной Африке в совершенно не связанных с этим запросах. Позже компания заявила, что за этим изменением стоял «недобросовестный сотрудник».
Маск родился и вырос в Южной Африке и неоднократно утверждал, что в стране был совершен «геноцид белых». Это утверждение было отвергнуто южноафриканским судом и экспертами.
