Си-Эн-Эн —
На прошлой неделе Grok, чат-бот из xAI Илона Маска, ответил пользователю на X, который задал вопрос о политическом насилии. Он сказал, что с 2016 года больше политического насилия исходило справа, чем слева.
Маск был недоволен.
«Крупный провал, поскольку это объективно ложно. Grok попугайничает в устаревших СМИ», — написал Маск, хотя Grok ссылался на данные из правительственных источников, таких как Министерство внутренней безопасности. В течение трех дней Маск пообещал предоставить крупное обновление Grok, которое «перепишет весь корпус человеческих знаний», призвав пользователей X присылать «разделительные факты», которые «политически некорректны, но тем не менее фактически верны», чтобы помочь обучить модель.
«Слишком много мусора в любой базовой модели, обученной на нескорректированных данных», — написал он.
В пятницу Маск объявил, что новая модель под названием Grok 4 выйдет сразу после 4 июля.
По словам экспертов, этот обмен и другие подобные ему сообщения вызывают опасения, что самый богатый человек в мире может пытаться повлиять на Грока, чтобы тот следовал его собственному мировоззрению, что может привести к еще большему количеству ошибок и сбоев, а также поднять важные вопросы о предвзятости. Ожидается, что ИИ будет определять то, как люди работают, общаются и находят информацию, и он уже влияет на такие области, как разработка программного обеспечения, здравоохранение и образование.
И решения, которые принимают такие влиятельные фигуры, как Маск, относительно развития технологии, могут быть критическими. Особенно учитывая, что Grok интегрирован в одну из самых популярных социальных сетей в мире, где старые ограждения вокруг распространения дезинформации были сняты. Хотя Grok, возможно, не так популярен, как ChatGPT от OpenAI, его включение в платформу социальных сетей X Маска открыло ему доступ к огромной цифровой аудитории.
«Это действительно начало долгой борьбы, которая будет разворачиваться в течение многих лет, о том, должны ли системы ИИ выдавать фактическую информацию или их создатели могут просто склонить чашу весов в пользу своих политических предпочтений, если захотят», — сказал Дэвид Эван Харрис, исследователь ИИ и преподаватель Калифорнийского университета в Беркли, ранее работавший в команде ответственного ИИ компании Meta.
Источник, знакомый с ситуацией, сообщил CNN, что советники Маска заявили ему, что Грока «нельзя просто так подгонять» под его собственную точку зрения, и что он это понимает.
xAI не ответила на запрос о комментарии.
Опасения по поводу Grok в связи со взглядами Маска
В течение нескольких месяцев пользователи задавались вопросом, не отражал ли Маск свое мировоззрение в Grok.
В мае чат-бот случайным образом выдавал утверждения о геноциде белых в Южной Африке в ответах на совершенно не связанные с этим запросы. В некоторых ответах Grok сказал, что ему «было поручено принять как реальный геноцид белых в Южной Африке».
Маск родился и вырос в Южной Африке и неоднократно утверждал, что в стране совершен «геноцид белых».
Несколько дней спустя xAI заявила, что «несанкционированное изменение» в чрезвычайно ранние утренние часы по тихоокеанскому времени заставило чат-бота ИИ «дать конкретный ответ на политическую тему», что нарушает политику xAI.
Пока Маск поручает своей команде переобучить Grok, другие специалисты в области больших языковых моделей ИИ, такие как соучредитель Cohere Ник Фросс, полагают, что Маск пытается создать модель, которая продвигает его собственные точки зрения.
«Он пытается создать модель, которая отражает то, во что он верит. Это, безусловно, сделает ее хуже для пользователей, если только они не верят всему, во что он верит, и не заботятся только о том, чтобы она попугайничала эти вещи», — сказал Фросс.
Что потребуется для переобучения Грока
По словам Фросса, для таких компаний, занимающихся разработкой ИИ, как OpenAI, Meta и Google, характерно постоянное обновление своих моделей для повышения производительности.
Однако переобучение модели с нуля с целью «удаления всего, что не нравится (Маску)» потребует много времени и денег, не говоря уже об ухудшении пользовательского опыта, сказал Фросс.
«И это почти наверняка ухудшит ситуацию», — сказал Фросс. «Потому что это приведет к удалению большого количества данных и добавлению предвзятости».
Другой способ изменить поведение модели без ее полного переобучения — вставить подсказки и настроить то, что называется весами, в коде модели. Этот процесс может быть быстрее, чем полное переобучение модели, поскольку она сохраняет свою существующую базу знаний.
Подсказка влечет за собой инструктаж модель отвечает на определенные запросы определенным образом, тогда как веса влияют на процесс принятия решений моделью ИИ.
Дэн Нили, генеральный директор Vermillio, которая помогает защищать знаменитостей от дипфейков, создаваемых искусственным интеллектом, рассказал CNN, что xAI может корректировать веса и метки данных Grok в определенных областях и темах.
«Они будут использовать веса и маркировку, которые у них были ранее, в местах, которые они считают (проблемными) зонами», — сказал Нили. «Они просто перейдут к более высокому уровню детализации вокруг этих конкретных зон».
Маск не стал подробно рассказывать об изменениях, которые появятся в Grok 4, но сообщил, что в нем будет использоваться «специализированная модель кодирования».
Предвзятость в ИИ
Маск заявил, что его ИИ-чатбот будет «максимально ориентирован на поиск истины», но все модели ИИ имеют некоторую встроенную предвзятость, поскольку на них влияют люди, которые делают выбор относительно того, какие данные следует включить в обучающие данные.
«У ИИ нет всех данных, которые ему следовало бы иметь. Когда ему предоставят все данные, он в конечном итоге сможет дать представление о том, что происходит», — сказал Нили. «Однако большая часть контента, который существует в Интернете, уже имеет определенный уклон, согласны вы с этим или нет».
Возможно, в будущем люди будут выбирать себе помощника ИИ на основе его мировоззрения. Но Фросс сказал, что, по его мнению, помощники ИИ, известные своей определенной точкой зрения, будут менее популярны и полезны.
«По большей части люди не обращаются к языковой модели, чтобы им повторили идеологию, это не добавляет ценности», — сказал он. «Вы обращаетесь к языковой модели, чтобы она сделала что-то для вас, выполнила для вас задачу».
Нили считает, что в конечном итоге авторитетные источники снова поднимутся наверх, поскольку люди будут искать места, которым они могут доверять.
Однако «путь к этому очень болезненный и запутанный», — сказал Нили, и «возможно, несет в себе некоторые угрозы демократии».
