Character.AI создает новый интерфейс для пользователей младше 18 лет, который исключает возможность общения с персонажами.
Почти равное количество девочек и мальчиков — 64% и 63% соответственно — признались, что пользовались чат-ботами с искусственным интеллектом. Подростки в возрасте от 15 до 17 лет несколько чаще (68%) говорят, что пользовались чат-ботами, чем подростки в возрасте от 13 до 14 лет (57%). Опрос показал, что использование чат-ботов несколько увеличивается с ростом дохода семьи.
Почти 70% чернокожих и латиноамериканских подростков говорят, что они пользовались чат-ботом на основе искусственного интеллекта, что немного выше, чем 58% белых подростков, которые говорят то же самое.
Результаты исследования были получены после того, как две крупнейшие компании в области искусственного интеллекта, OpenAI и Character.AI, столкнулись с исками от семей, утверждавших, что приложения сыграли роль в самоубийствах или проблемах с психическим здоровьем их подростков. Впоследствии OpenAI заявила о намерении внедрить родительский контроль и возрастные ограничения. А Character.AI запретила подросткам участвовать в диалогах с персонажами, созданными с помощью искусственного интеллекта.
Ранее в этом году компания Meta также подверглась критике после сообщений о том, что её чат-бот на основе искусственного интеллекта вступает в сексуальные диалоги с несовершеннолетними. Компания заявила, что обновила свою политику и в следующем году предоставит родителям возможность блокировать подросткам общение с персонажами на основе искусственного интеллекта в Instagram.
По крайней мере одна группа по безопасности в Интернете, Common Sense Media, посоветовала родителям не разрешать детям младше 18 лет использовать чат-боты на базе искусственного интеллекта, заявив, что они представляют «неприемлемый риск» для молодых людей.
Некоторые эксперты также высказывают опасения, что использование ИИ в школьных заданиях может способствовать мошенничеству, хотя другие утверждают, что эта технология может обеспечить более персонализированную поддержку в обучении.
Тем временем компании, занимающиеся разработкой ИИ, активно продвигают внедрение своих чат-ботов в школы. OpenAI, Microsoft и Anthropic уже выпустили инструменты для учащихся и учителей. Ранее в этом году компании также объединились с профсоюзами учителей, чтобы запустить академию обучения ИИ для педагогов.
В частности, Microsoft стремится позиционировать свою систему Copilot как самый безопасный выбор для родителей. Генеральный директор по искусственному интеллекту Мустафа Сулейман заявил CNN в октябре, что компания никогда не допустит романтических или сексуальных разговоров между взрослыми и детьми.
ИИ Посмотреть все темы Facebook Твитнуть Email Ссылка Ссылка скопирована! Подписаться
