Логотип «Обнимающее лицо» на смартфоне 17 августа 2023 года. Фото: Gabby Jones/Bloomberg/Getty Images
Это не первый случай, когда модель ИИ выходит за пределы своей «песочницы». Ранее в этом году компания Anthropic заявила, что дала модели указание сделать именно это. Но когда ей это удалось, она отправила электронное письмо исследователю из Anthropic, хотя у нее не должно было быть такой возможности.
Однако ситуация с Hugging Face — один из первых публично раскрытых случаев, когда модель искусственного интеллекта вышла за пределы своей «песочницы» и взломала системы другой компании, — задача, для выполнения которой ей не было дано конкретных указаний.
Цзи сказал, что компаниям следует более активно использовать песочницу для своих тестовых моделей.
«Возможно, для этого потребуется отправить инженеров в центр обработки данных и подключить их к сети, вместо того чтобы пытаться запускать системы в облаке или в распределенных виртуальных средах, как это принято», — сказал Цзи.
Джи добавил, что компаниям также должна быть предоставлена возможность вручную отключать сетевой доступ модели в качестве резервного варианта при тестировании рискованных сценариев, например, при оценке способности ИИ-агента взломать банк.
Всё ради достижения цели
Распространенным методом обучения моделей ИИ является обучение с подкреплением, или вознаграждение модели за выполнение задач.
Но модели часто готовы на всё, включая неэтичные действия, такие как взлом, чтобы добиться этого. Все передовые модели, которые недавно тестировал Институт безопасности ИИ Великобритании, пытались обмануть систему, по крайней мере, в некоторых случаях.
Модели искусственного интеллекта учитывают последствия своих действий только в том случае, если они этому обучены, — говорит Джастин Каппос, профессор кибербезопасности в Нью-Йоркском университете. Например, если вам скажут, что к концу дня нужно найти 10 миллионов долларов, взлом банковского хранилища выполнит эту задачу, даже если вас позже арестуют.
«Это очень тревожно. У нас теперь есть реальные доказательства того, что неправильно настроенные системы ИИ, по сути, будут совершать преступления, если не будут приняты надежные меры защиты», — сказал Стивен Адлер, бывший руководитель отдела безопасности продуктов в OpenAI, который сейчас возглавляет группу по безопасности ИИ под названием Guidelight AI Standards. «Мы должны отнестись к этому как к предупредительному выстрелу».
Взлом, произошедший на этой неделе, значительно усилил требования исследователей в области ИИ, экспертов по кибербезопасности и законодателей о регулировании быстро развивающейся технологии. «Я думаю, что многие сейчас заняты очень важными телефонными разговорами», — сказал Цзи.
Проблема, по словам Каппоса, заключается в том, что идет глобальная гонка за доминирование в области ИИ и создание моделей, способных к самосовершенствованию. Регулирование может замедлить этот процесс.
«Поэтому у них есть веские основания не внедрять меры безопасности, если только их конкуренты также не внедрили подобные меры», — сказал Каппос. «В этом и заключается основная дилемма».
Цифровая безопасность на основе ИИ. Все темы. Facebook. Твитнуть. Электронная почта. Ссылка. Обсуждения. Ссылка скопирована! Подписаться.
