Почти каждый, кто пользовался Интернетом, вероятно, сталкивался с этим тревожным моментом, когда всплывало окно, утверждающее, что на вашем устройстве есть вирус, и предлагающее вам нажать на ссылку для технической поддержки или загрузки программного обеспечения безопасности. Это распространенное онлайн-мошенничество, и Google стремится бороться с ним более агрессивно, используя искусственный интеллект.
Google заявляет, что теперь использует версию своей модели искусственного интеллекта Gemini, которая работает на устройствах пользователей, чтобы обнаруживать и предупреждать пользователей о так называемых мошеннических схемах «технической поддержки».
Это лишь один из множества способов, с помощью которых Google использует достижения в области искусственного интеллекта для лучшей защиты пользователей от мошенничества в Chrome, Поиске и операционной системе Android, говорится в сообщении компании в блоге в четверг.
Объявление появилось в то время, когда ИИ позволил мошенникам легче создавать большие объемы убедительного фейкового контента — эффективно снижая барьер для осуществления мошенничества, которое может быть использовано для кражи денег или личной информации жертв. По данным лоббистской группы Global Anti-Scam Alliance, потребители во всем мире потеряли более 1 триллиона долларов из-за мошенничества в прошлом году. Поэтому Google и другие организации все чаще используют ИИ для борьбы с мошенниками.
Фироз Парах, старший директор по инжинирингу Google Search, сказал, что борьба с мошенниками «всегда была эволюционной игрой», в которой злоумышленники учатся и развиваются по мере того, как технологические компании внедряют новые средства защиты.
«Теперь у обеих сторон есть новые инструменты», — сказал Парах в интервью CNN. «Итак, возникает вопрос, как можно использовать этот инструмент более эффективно? Кто проявляет немного большую активность в этом отношении?»
Хотя Google уже давно использует машинное обучение для защиты своих сервисов, новейшие достижения ИИ привели к улучшению понимания языка и распознавания образов, что позволяет технологии быстрее и эффективнее выявлять мошенничество.
Google заявила, что в режиме безопасного просмотра Chrome «улучшенная защита» на десктопе ее модель искусственного интеллекта на устройстве теперь может эффективно сканировать веб-страницу в режиме реального времени, когда пользователь нажимает на нее, чтобы искать потенциальные угрозы. Это важно, потому что иногда злоумышленники заставляют свои страницы выглядеть иначе для существующих инструментов Google для обнаружения мошенничества, чем для пользователей, тактика, называемая «маскировкой», о которой компания предупреждала в прошлом году, набирает популярность.
«А поскольку модель под названием Gemini Nano работает на вашем устройстве, сервис работает быстрее и защищает конфиденциальность пользователей», — говорит Джасика Бава, менеджер по продуктам Google Chrome.
Как и в случае с существующим режимом безопасного просмотра Chrome, если пользователь попытается получить доступ к потенциально небезопасному сайту, он увидит предупреждение, прежде чем ему будет предоставлена возможность продолжить просмотр страницы.
В другом обновлении Google будет предупреждать пользователей Android, если они получают оповещения с подозрительных сайтов в Chrome, и позволит им автоматически отписаться, если у них включены уведомления сайтов Chrome.
Google также использовал ИИ для обнаружения мошеннических результатов и предотвращения их появления в Поиске, независимо от того, на каком устройстве находятся пользователи. С тех пор как три года назад Google Search впервые запустил версии своих систем защиты от мошенничества на базе ИИ, теперь он блокирует в 20 раз больше проблемных страниц.
«Мы увидели это невероятное преимущество благодаря нашей способности понимать язык, нюансы и связи между сущностями, что действительно изменило то, как мы обнаруживаем этих мошенников», — сказал он, добавив, что только в 2024 году компания ежедневно удаляла сотни миллионов результатов поиска мошеннических сообщений благодаря достижениям в области искусственного интеллекта.
Например, Парах сказал, что ИИ улучшил способность выявлять и устранять мошенничество, когда злоумышленники создают поддельные страницы «обслуживания клиентов» или номера телефонов для авиакомпаний. Google утверждает, что теперь количество мошеннических атак в поисковых запросах, связанных с авиалиниями, сократилось на 80%.
Google — не единственная компания, использующая ИИ для борьбы с недобросовестными игроками. Британская компания мобильной связи O2 заявила в прошлом году, что борется с телефонными мошенниками с помощью «Daisy», разговорного чат-бота на основе ИИ, призванного удерживать мошенников на телефоне, давая им меньше времени на общение с потенциальными жертвами. Microsoft также запустила инструмент, который использует ИИ для анализа телефонных разговоров, чтобы определить, может ли звонок быть мошенническим, и оповестить пользователя соответствующим образом. А Министерство финансов США заявило в прошлом году, что ИИ помог ему выявить и вернуть мошенничество с чеками на сумму 1 миллиард долларов только в 2024 финансовом году.
