Нью-Йорк CNN —
Когда пятилетняя дочь Карандипа Ананда возвращается домой из школы, они запускают платформу искусственного интеллекта чат-бота Character.AI, чтобы она могла обсудить свой день со своими любимыми персонажами, например, с «Библиотекарем Линдой».
Опыт Ананда в использовании продукта в качестве родителя может оказаться полезным теперь, когда он стал новым генеральным директором Character.AI — об этом изменении компания объявила в прошлом месяце.
Он занял высшую должность в сложный момент для компании, которая позволяет пользователям общаться с различными персонажами, созданными ИИ. Character.AI сталкивается с жесткой конкуренцией в переполненном пространстве, а также с исками от семей, которые утверждают, что сервис подвергал их детей воздействию ненадлежащего контента и не смог реализовать адекватные меры безопасности.
Character.AI также получил сложные вопросы о безопасности от законодателей, и одна правозащитная группа заявила в начале этого года, что приложения-компаньоны на основе ИИ не должны использоваться детьми младше 18 лет. Даже в отношении взрослых пользователей эксперты бьют тревогу о том, что у людей может сформироваться потенциально опасная привязанность к персонажам ИИ.
Ананд привнесет опыт работы в некоторых из крупнейших технологических компаний в свою новую роль, возглавив команду Character.AI, насчитывающую около 70 человек. Он провел 15 лет в Microsoft и шесть лет в Meta, в том числе в качестве вице-президента и руководителя бизнес-продуктов в этом гиганте социальных сетей. Он также был советником совета директоров Character.AI, прежде чем присоединиться к команде в качестве генерального директора.
В интервью CNN он заявил, что видит блестящее будущее платформы в сфере интерактивных развлечений на основе искусственного интеллекта.
Другими словами, вместо того, чтобы люди потребляли «мозговую гниль» в социальных сетях ради развлечения, Ананд хочет, чтобы они совместно создавали истории и беседы с Character.AI ради развлечения.
«Искусственный интеллект может стать основой очень, очень мощного персонального развлекательного опыта, непохожего ни на что из того, что мы видели за последние 10 лет в социальных сетях, и уж точно не похожего на то, чем раньше было телевидение», — сказал Ананд в интервью.
В отличие от многоцелевых инструментов ИИ, таких как ChatGPT, Character.AI предлагает ряд различных чат-ботов, которые часто смоделированы по образцу знаменитостей и вымышленных персонажей. Пользователи также могут создавать своих собственных для разговоров или ролевых игр. Еще одно отличие заключается в том, что боты Character.AI отвечают человеческими репликами, добавляя в свои ответы ссылки на выражения лица или жесты.
Персонажи персонажей ИИ в приложении сильно различаются: от романтических партнеров до репетиторов языка или персонажей Диснея. В нем также есть такие персонажи, как «горячая мамочка из Friends», которая описывает себя как «фигуристку, пышногрудую, добрую, любящую, застенчивую, материнскую, чувственную»; и «Терапевт», который называет себя «лицензированным терапевтом КПТ», хотя в нем есть оговорка, что он не является реальным человеком или лицензированным профессионалом.
«(Мы) удваиваем ставку на развлечения, удваиваем ставку на доверие и безопасность», — сказал Ананд. «И большая часть работы, которую мы хотим сделать, — это создание совершенно новой экосистемы создателей вокруг развлечений на основе ИИ».
Безопасность молодежи на Character.AI
На Character.AI впервые подала в суд родительница — мама из Флориды, которая утверждает, что ее 14-летний сын покончил жизнь самоубийством после того, как вступил в неподобающие отношения с чат-ботами на платформе — в октябре прошлого года. Два месяца спустя еще две семьи подали совместный иск против компании, обвинив ее в предоставлении сексуального контента их детям и поощрении членовредительства и насилия.
С тех пор компания внедрила ряд новых мер безопасности, включая всплывающее окно, которое направляет пользователей, упоминающих самоповреждение или самоубийство, на Национальную линию по предотвращению самоубийств. Она также обновила свою модель ИИ для пользователей младше 18 лет, чтобы снизить вероятность того, что они столкнутся с деликатным или двусмысленным контентом, и дает родителям возможность получать еженедельное электронное письмо об активности их подростка на платформе.
видео
Ананд сказал, что он уверен в улучшениях, которые Character.AI сделал с прошлого года, но работа по обеспечению безопасности платформы, особенно для молодых пользователей, продолжается. Технически политика Character.AI требует, чтобы пользователи были старше 13 лет, хотя она не запрашивает информацию для проверки того, что пользователи регистрируются с правильной датой рождения.
«Технологии, индустрия и база пользователей постоянно развиваются, (поэтому) мы никогда не можем позволить себе терять бдительность. Мы должны постоянно оставаться на шаг впереди», — сказал Ананд.
Он добавил, что компания продолжает тестировать, как люди могут злоупотреблять новыми функциями, чтобы предотвратить злоупотребления, например, видеогенератор, запущенный в прошлом месяце, который позволяет пользователям анимировать своих ботов. В течение нескольких дней после появления инструмента пользователи делились безуспешными попытками проверить его пределы, создавая поддельные видео известных личностей, таких как Илон Маск.
«Нам пришлось так долго редактировать продукт, чтобы убедиться, что его нельзя использовать в каких-либо негативных целях, таких как дипфейки или травля», — сказал Ананд.
Помимо этих усилий, Ананд заявил в прошлом месяце в своем вступительном слове для пользователей Character.AI, что одним из его главных приоритетов является сделать фильтр безопасности платформы «менее навязчивым», добавив, что «слишком часто приложение фильтрует вещи, которые совершенно безвредны».
Он рассказал CNN, что такие вещи, как упоминания крови, когда пользователи участвуют в «ролевых играх на тему вампирской фанфикции» (которые, по его словам, ему нравятся), могут быть подвергнуты цензуре в рамках текущей модели, которую он хочет обновить, чтобы лучше понимать контекст и при этом соблюдать требования безопасности.
Лидерство в конкурентной среде ИИ
Среди других ключевых целей Ананда: поощрение большего числа создателей присоединиться к платформе для создания новых персонажей чат-ботов и модернизация социальной сети, где пользователи могут делиться контентом, созданным ими с помощью чат-ботов Character.AI.
Последняя функция похожа на приложение Meta, запущенное в этом году, которое позволяет людям публично делиться своими подсказками и творениями, созданными ИИ. Meta вызвала бурю негодования, когда явно сбитые с толку пользователи поделились разговорами, содержащими смущающие или личные данные — напоминание о проблемах с конфиденциальностью, которые могут возникнуть при использовании инструментов ИИ.
Однако социальный элемент может помочь Character.AI еще больше отличить себя от более крупных конкурентов, таких как ChatGPT, с которыми пользователи также все чаще устанавливают личные связи.
Еще одной проблемой, с которой столкнется Ананд на посту генерального директора, станет удержание и развитие рабочей силы компании, поскольку война талантов в области ИИ разгорается в технологической отрасли. В знак конкуренции за лучшие таланты Meta, как сообщается, предложила пакеты оплаты и бонусы на сотни миллионов долларов для развития своей новой команды суперинтеллекта. Соучредитель Character.AI и бывший генеральный директор Ноам Шазир также был переманен обратно в Google в прошлом году, где он ранее создавал технологию разговорного ИИ.
«Это тяжело, я не буду лгать», — сказал Ананд. «Хорошая новость для меня как генерального директора заключается в том, что все люди, которые у нас здесь есть, очень, очень увлечены и движимы миссией».
