Приложение Charcter.AI на смартфоне, установленное в районе Бруклин в Нью-Йорке, США, в среду, 12 июля 2023 года.
Компания Character Technologies заявила, что приняла решение внести изменения после получения вопросов от регулирующих органов и прочтения последних новостных сообщений.
Компания также запускает новые инструменты проверки возраста и планирует создать Лабораторию безопасности ИИ под руководством независимой некоммерческой организации, которая будет заниматься исследованиями безопасности в сфере развлечений на основе ИИ. Изменения соответствуют предыдущим мерам безопасности, принятым в отношении персонажей ИИ, таким как уведомление пользователей о необходимости обратиться в Национальную службу по предотвращению самоубийств при упоминании самоубийства или самоповреждения.
Character Technologies — последняя компания в области искусственного интеллекта, анонсировавшая или запустившая новые средства защиты для подростков на фоне опасений по поводу влияния этой технологии на психическое здоровье. В этом году появилось множество сообщений о том, что пользователи испытывают эмоциональный стресс или изоляцию от близких после продолжительных разговоров с ChatGPT.
В конце сентября компания OpenAI предоставила родителям возможность привязывать свои аккаунты к аккаунтам подростков и ограничила определённые типы контента для подростков, такие как «натуралистичный контент, вирусные челленджи, сексуальные, романтические или жестокие ролевые игры и экстремальные идеалы красоты». В этом месяце Meta заявила, что вскоре позволит родителям запрещать подросткам общаться с персонажами ИИ в Instagram.
В подготовке материала принимала участие Хадас Голд из CNN.
AI Посмотреть все темы Facebook Твитнуть Электронная почта Ссылка Ссылка скопирована! Подписаться
