На этой фотографии изображен портативный смартфон с иконками некоторых основных приложений на основе искусственного интеллекта, включая LLM-приложения, чат-боты и генеративный ИИ, а также логотипы (слева направо) Lumo (Proton AG), Meta AI, Mistral Vibe (ранее Le Chat), Grok (xAI), Copilot (Microsoft), Gemini (Google), Claude (Anthropic), Perplexity, Deepseek, Chat GPT (OpenAI), Notebook LLM (Google) и музыкального приложения на основе генеративного ИИ Suno. Фотография сделана в Сен-Манде, к востоку от Парижа, 15 июля 2026 года. Фото: Martin Lelievre/AFP/Getty Images
8 минут чтения
Теперь же тревогу забил относительно молодой исследователь.
«Они несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», — написал Коксон.
Сообщение Коксона привлекло внимание после того, как более опытный сотрудник компании Anthropic, Эван Хабингер, прокомментировал правоту Коксона.
«Мы действительно искренне верим, что ИИ может уничтожить всех людей!» — написал Хубингер на X. Он заявил, что лично считает вероятность этого менее 10% в течение следующего десятилетия, и, несмотря на благие намерения Anthropic, у компании нет плана по предотвращению так называемого сверхинтеллекта, который может превзойти способность человека управлять ИИ. Сверхинтеллект, состояние, при котором ИИ превосходит человеческие возможности, — это широко обсуждаемая теоретическая веха, для которой нет контрольной точки; одни исследователи ИИ считают, что она уже достигнута, другие — что она никогда не наступит.
Вскоре после этого Хубингер уточнил свое заявление в последующем посте, сообщив, что в собственном отчете Anthropic о рисках признается обеспокоенность, но говорится, что нынешний ИИ имеет мало шансов получить такую власть. В ответ на запрос о комментарии Anthropic направила CNN к последующему посту Хубингера.
Генеральный директор Anthropic Дарио Амодей также неоднократно предупреждал, что гонка за быстрым развитием технологий может непреднамеренно привести к катастрофической ошибке, вызванной человеческим фактором, в результате которой компания потеряет контроль над своим искусственным интеллектом.
«Это сложная инженерная задача, и я думаю, что что-то пойдет не так с чьей-нибудь системой искусственного интеллекта. Надеюсь, не с нашей», — сказал Амодей газете New York Times в феврале.
стагнация регулирования
Несмотря на постоянный поток предупреждений, регулирование, похоже, еще далеко. Администрация Трампа активно работала над подрывом государственного регулирования ИИ, а Конгресс до сих пор не желает ограничивать эту технологию. Часто повторяется: любая попытка регулирования ИИ представляет собой капитуляцию перед Китаем, который не находится под такими ограничениями.
Однако Китай ввел регулирование в сфере ИИ, в частности, направленное на управление рисками и обеспечение безопасности. В прошлом году правительство обязало компании, занимающиеся ИИ, маркировать контент, созданный с помощью ИИ, чтобы сделать его прозрачным и отслеживаемым. Тем не менее, Китай сопротивляется жесткому регулированию, которое могло бы предотвратить проблемы, поднятые исследователями из Силиконовой долины.
Соответствующая карта
Между тем, по крайней мере в США, компании, занимающиеся искусственным интеллектом, в той или иной степени несут ответственность за саморегулирование.
Источники, знакомые с ходом встречи администрации Трампа и нескольких ведущих компаний в сфере ИИ, сообщили CNN, что Белый дом движется к созданию добровольной системы проверки определенных моделей ИИ перед их запуском.
По данным многочисленных источников, знакомых с ситуацией, среди представителей были представители OpenAI, Anthropic, Google и Meta. Согласно указу президента от июня, детали структуры не будут опубликованы, и многие из стандартов, изложенных в ней, будут засекречены.
В июле Альтман предположил, что, возможно, пришло время замедлить развитие ИИ, заявив в подкасте Invest Like The Best, что недавние инциденты с тестированием сложных моделей поднимают «долгосрочные вопросы» о том, как компаниям, занимающимся ИИ, следует управлять быстрым развитием его возможностей.
«Возможно, нам придется замедлить темпы развития ИИ, чтобы дать обществу достаточно времени для адаптации к этим новым уровням возможностей», — сказал Альтман.
ИИ Посмотреть все темы Facebook Твитнуть Email Ссылка Темы Ссылка скопирована! Подписаться
