На этой фотоиллюстрации, сделанной в Брюсселе, Бельгия, 24 февраля 2026 года, на экране мобильного телефона отображается логотип Anthropic AI. (Фото Джонатана Раа/NurPhoto через Getty Images) Джонатан Раа/NurPhoto/Getty Images
4 минуты чтения
Один из примеров, подробно описанных в отчете, касался запроса на помощь в написании заявки на грант для финансирования исследований по изучению трансмиссивности и уклонения от иммунного ответа вируса чикунгунья.
В другом случае исследователь за пределами США использовал ген Клода для работы над проблемой птичьего гриппа, сосредоточившись на адаптации вирусов к млекопитающим и на том, как это вызывает тяжелые заболевания.
В отчете также подробно описываются случаи исследований ортопоксвирусов — группы, в которую входят вирус оспы (variola), вызывающий оспу, и вирус оспы крупного рогатого скота (mpox), — а также ядовитых токсинов.
Разработка лекарств считается одним из наиболее перспективных и многообещающих применений ИИ; лидеры отрасли часто указывают на его потенциал в лечении рака и других заболеваний. Но те же самые свойства, которые делают ИИ мощным инструментом для открытия новых материалов и лекарств, помогающих людям, могут также сделать его полезным для разработки биологического оружия в руках злоумышленников.
Компания Anthropic заявила, что хочет, чтобы ее модели были полезны для научных исследований, но последние модели стали способны на гораздо более сложную работу, чем предыдущие версии, — и потенциал злоупотреблений возрастает вместе с потенциальными преимуществами. Компания добавила, что злоумышленники могут попытаться использовать полезные биологические применения ИИ для «поддержания своего рода „правдоподобного отрицания“» потенциально вредных исследований.
«По мере того, как наши модели становятся все более совершенными, приближаясь или превосходя экспертные показатели в решении сложных научных задач, мы ожидаем, что их влияние будет только возрастать как в полезных, так и в потенциально вредных контекстах», — говорится в отчете Anthropic. «По мере более широкого использования моделей ИИ поставщики будут продолжать получать информацию об угрозах, связанных с их реальным применением, которой не хватает даже правительствам и межправительственным организациям».
Компания заявила, что последние модели, включая Claude Fable 5, имеют «более надежные средства защиты, ограничивающие доступ к широкому спектру биологических исследований двойного назначения».
Соответствующая карта
Компания Anthropic заявила, что есть доказательства эффективности принятых мер защиты, но по мере усложнения моделей искусственного интеллекта и потенциальных угроз потребуются еще более надежные системы безопасности. В отчете компания также отметила, что это помешало попыткам использовать ее модели для операций по наблюдению, мошенничества и разработки обычного оружия, такого как беспилотники и ракеты.
Это заявление последовало за растущим числом предупреждений от сотрудников, занимающихся разработкой ИИ, которые недавно покинули свои компании из-за опасений по поводу безопасности. Некоторые выразили обеспокоенность тем, что технология развивается слишком быстро и однажды превзойдет способность человека контролировать ее, а также призвали правительства рассмотреть способы замедления развития, если ситуация выйдет из-под контроля.
«Если экстраполировать данные на будущее, то уровень возможностей этих ИИ… может вызвать настоящий хаос», — заявил в среду в интервью Андерсону Куперу на CNN бывший сотрудник компании Anthropic Джейкоб Коксон.
На этой неделе в теме на форуме X 27-летний исследователь в области ИИ заявил: «Люди, создающие ИИ, искренне верят, что к концу десятилетия он может нас всех уничтожить».
Статья по теме
Джеффри Хинтон, лауреат Нобелевской премии в области компьютерных наук, в Торонто, 19 июня 2024 года. Крис Янг/The Canadian Press/AP/File
4 минуты чтения
В среду Коксон заявил, что это позволит взломать критически важную инфраструктуру или создать «биологическое оружие, способное привести к вымиранию».
«Существует множество способов, которыми искусственный интеллект может проявлять себя в окружающем мире», — сказал он.
В июле около 1400 сотрудников компаний, занимающихся искусственным интеллектом, подписали открытое письмо, призывающее правительство США регулировать эту технологию, чтобы обуздать крупные технологические компании и замедлить темпы развития ИИ для обеспечения его безопасности. А на этой неделе главный научный сотрудник OpenAI Якуб Пачоцкий предупредил, что возможности ИИ развиваются быстрее, чем исследователи способны надежно отслеживать и контролировать их.
На данный момент компании, занимающиеся искусственным интеллектом, в значительной степени контролируют его самостоятельно. Администрация Трампа работала над подрывом государственного регулирования в области ИИ, а Конгресс пока не желает ограничивать развитие этой технологии.
«Мы считаем, что миру пошло бы на пользу, если бы отрасль приняла законный и поддающийся проверке способ совместной работы, чтобы регулировать темпы внедрения эффективных моделей», — говорится в заявлении Anthropic, опубликованном в среду.
В подготовке этого репортажа принимала участие Клэр Даффи из CNN.
ИИ Посмотреть все темы Facebook Твитнуть Email Ссылка Темы Ссылка скопирована! Подписаться
