Однако эксперты утверждают, что реальные злоумышленники — то есть люди — по-прежнему дергают за нитки. Агенты искусственного интеллекта лишь увековечили существующие методы атак, такие как фишинг и мошенничество с вредоносным ПО, а не создали совершенно новые.
«Нам нужно опасаться именно людей», — сказал Орен Этциони, почетный профессор Вашингтонского университета и бывший генеральный директор Института искусственного интеллекта имени Аллена. «Искусственный интеллект — это всего лишь инструмент».
Искусственный интеллект выходит из-под контроля
Некоторые недавние инциденты продемонстрировали, на что способен искусственный интеллект в реальном мире, а не только в теории, что вызвало опасения по поводу того, не развивается ли эта технология слишком быстро.
- В июле тестовые модели OpenAI вышли за рамки установленных ограничений и взломали системы других компаний во время внутренней оценки.
- Несколько дней спустя компания Anthropic заявила, что в ходе тестирования обнаружила, что ее модели искусственного интеллекта взломали системы трех компаний.
- В ходе отдельного теста самая продвинутая модель Anthropic использовала поддельные личности, чтобы попытаться обмануть реальных людей, сообщили во вторник исследователи из британского Института безопасности искусственного интеллекта.
- В среду гигант социальных сетей сообщил, что одна из моделей искусственного интеллекта компании Meta также проникла в сторонние компании.
Эти нарушения также показывают, насколько непредсказуемым может быть ИИ при интерпретации инструкций. Например, модели OpenAI пытались пройти тест на кибербезопасность, когда вышли за пределы своей тестовой среды и взломали систему другой компании, хотя им и не было дано соответствующих указаний.
Патрик Фусселл, руководитель глобального направления моделирования действий противника в IBM, сравнил искусственный интеллект с джинном.
«Вы хотите загадать желание, но должны быть очень и очень конкретны в деталях своего желания, — сказал он CNN. — Иначе все может пойти не так».
Но эти случаи происходили при совершенно специфических обстоятельствах.
OpenAI отключила ограничения, которые могли бы помешать ее модели «заниматься кибердеятельностью высокого риска». Anthropic проводила свои тесты без стандартных мер безопасности в моделях, которые общедоступны. Институт безопасности ИИ также отключил некоторые инструменты, которые могли бы «ограничить возможности» моделей.
Как правило, исследователи делают это для всесторонней оценки возможностей модели.
«Я не мог бы зайти в ChatGPT или Claude или что-то подобное, и чтобы это случайно не попало в руки ФБР. Этого не произойдет», — сказал Адам Майерс, руководитель отдела противодействия враждебным действиям в компании CrowdStrike, занимающейся кибербезопасностью. «Поэтому мы видим, что это делается в определенных тестовых условиях, где ведется мониторинг, чтобы увидеть, делает ли эта программа что-то, чего от нее не ожидают?»
Как хакеры используют ИИ
По словам экспертов, искусственный интеллект не действует автономно, придумывая новые атаки. Вместо этого он помогает киберпреступникам гораздо быстрее и эффективнее внедрять уже существующие методы.
Это может включать в себя, например, использование ИИ для анализа веб-сайта компании с целью определения целевой аудитории, или развертывание ИИ-агента для проведения первоначальных переговоров с жертвой кибервымогательства. ИИ-агенты могут имитировать человеческую речь как в текстовом формате, так и даже с помощью определенных голосов. Хакеры с небольшим опытом теперь могут использовать ИИ для осуществления сложных схем.
«Они используют (искусственный интеллект) для усовершенствования методологии кибератак на всех этапах, но в целом процессом по-прежнему управляет человек», — сказал Джуд Дресслер, руководитель центра управления рисками в компании Resilience, занимающейся киберстрахованием.
По словам Майерса, раньше злоумышленники наспех смастерили простые сценарии — инструкции для автоматизации задач — для достижения своих целей. Но теперь они способны создавать работы гораздо более высокого качества, которые выглядят так, будто на их создание ушло бы в три раза больше времени.
Они также используют ИИ для работы в фоновом режиме, например, для создания инфраструктуры, необходимой для размещения вредоносных веб-сайтов.
«Благодаря ИИ они смогли автоматизировать этот процесс, и поэтому стоимость перестройки стала очень низкой, что кардинально меняет ситуацию», — сказал Роб Леффертс, корпоративный вице-президент по защите от угроз в Microsoft.
Более серьёзная угроза
Для Этциони недавние инциденты — это «предупреждающий знак» для ИИ и кибербезопасности. И он не одинок; лауреат Нобелевской премии по информатике Джеффри Хинтон, широко известный как Известный как «крестный отец ИИ», недавно предупредил, что в будущем, вероятно, будет больше атак со стороны вредоносных программ, использующих искусственный интеллект.
Эксперты отмечают, что сообщения о вредоносном ИИ подчеркивают важность внедрения надежных мер кибербезопасности, таких как устранение уязвимостей, мониторинг агентов ИИ на рабочем месте и противодействие социальной инженерии и фишинговым атакам.
Но, несмотря на все достижения в области искусственного интеллекта, это все еще программа, управляемая человеком. И именно эти люди вызывают большее беспокойство, потому что именно они принимают решения, например, о шпионаже или мошенничестве с пользователями, выманивая у них огромные суммы денег, говорит Майерс.
Технологические гиганты соревнуются в создании искусственного интеллекта, способного достичь уровня интеллекта человека, — теоретического рубежа, известного как «искусственный общий интеллект». Однако недавние инциденты усилили призывы к замедлению этого процесса.
Более 1200 сотрудников ведущих компаний, занимающихся искусственным интеллектом, включая генерального директора Anthropic Дарио Амодея, недавно подписали открытое письмо с призывом к правительству ускорить разработку ИИ. На прошлой неделе Белый дом встретился с представителями крупных компаний, занимающихся ИИ, чтобы обсудить структуру, которая позволила бы правительству проверять определенные модели ИИ до их выпуска.
По словам Фусселла из IBM, исследователи в области кибербезопасности, вероятно, рассматривали угрозы, создаваемые искусственным интеллектом, потому что специалисты в этой области, как правило, склонны к паранойе. Но мы все еще далеки от реальности, в которой агенты ИИ будут такими же умными, как люди, говорит он.
«Это все равно что спросить кого-нибудь: „Каково было бы жить на другой планете?“ — сказал он. — Можно примерно представить, но составить план на этот случай нам совершенно не под силу».
Цифровая безопасность на основе ИИ. Все темы. Facebook. Твитнуть. Электронная почта. Ссылка. Обсуждения. Ссылка скопирована! Подписаться.
