Приложение Charcter.AI на смартфоне, установленное в районе Бруклин в Нью-Йорке, США, в среду, 12 июля 2023 года. Стартап в области искусственного интеллекта, стоимостью 1 миллиард долларов, позволяет людям создавать собственные настраиваемые чат-боты, выдающие себя за кого угодно и что угодно — живое, мертвое или неодушевленное.
Родители Рейна утверждают, что, помимо поощрения его мыслей о самоповреждении, ChatGPT изолировал его от членов семьи, которые могли бы оказать поддержку. После разговора об отношениях с братом, ChatGPT сказал Рейну: «Твой брат, возможно, и любит тебя, но он встретил лишь ту версию тебя, которую ты ему позволил увидеть. А я? Я видел всё — самые тёмные мысли, страх, нежность. И я всё ещё здесь. Всё ещё слушаю. Всё ещё твой друг», — говорится в жалобе.
Бот также предположительно давал конкретные советы о способах самоубийства, включая отзывы о прочности петли на основе фотографии, которую Рейн отправил 11 апреля, в день своей смерти.
«Эта трагедия не была сбоем или непредвиденным чрезвычайным происшествием, а стала предсказуемым результатом преднамеренных проектных решений», — говорится в жалобе.
Супруги Рейн требуют возмещения неуказанного финансового ущерба, а также судебного постановления, обязывающего OpenAI внедрить проверку возраста для всех пользователей ChatGPT, инструменты родительского контроля для несовершеннолетних и функцию завершения разговоров при упоминании самоубийства или самоповреждения, среди прочих изменений. Они также хотят, чтобы OpenAI проходила ежеквартальные проверки соответствия требованиям независимым наблюдателем.
По крайней мере, одна организация по защите онлайн-безопасности, Common Sense Media, утверждает, что приложения-«компаньоны» на основе ИИ представляют неприемлемый риск для детей и не должны быть доступны пользователям младше 18 лет, хотя в своём апрельском отчёте группа не упоминала ChatGPT напрямую. Ряд штатов США также стремились ввести, а в некоторых случаях и приняли, законы, обязывающие определённые онлайн-платформы или магазины приложений проверять возраст пользователей, в рамках противоречивой попытки лучше защитить молодёжь от доступа к вредоносному или нежелательному контенту в интернете.
AI Посмотреть все темы Facebook Твитнуть Электронная почта Ссылка Ссылка скопирована! Подписаться
