Нью-Йорк CNN —
Генеральный директор OpenAI Сэм Альтман заявил, что мир может оказаться на грани «кризиса мошенничества» из-за того, что искусственный интеллект позволяет злоумышленникам выдавать себя за других людей.
«Меня пугает то, что, судя по всему, некоторые финансовые учреждения всё ещё принимают отпечаток голоса в качестве подтверждения личности при переводе крупных сумм или для каких-либо других действий — вы говорите контрольную фразу, и они просто это делают», — сказал Альтман. «Это просто безумие, что этим всё ещё занимаются… ИИ полностью превзошёл большинство существующих способов аутентификации, за исключением паролей».
Эти комментарии стали частью его обширного интервью, посвящённого экономическому и социальному влиянию ИИ, которое он дал во вторник в Федеральной резервной системе. Он также рассказал аудитории, среди которой были представители крупных финансовых институтов США, о той роли, которую, по его мнению, ИИ будет играть в экономике.
Его появление совпало с ожидаемой публикацией Белым домом в ближайшие дни «Плана действий в области ИИ» — политического документа, определяющего подход к регулированию этой технологии и содействующего доминированию Америки в сфере ИИ.
Компания OpenAI, предоставившая рекомендации для плана, в последние месяцы расширила свое присутствие на Капитолийском холме и вокруг него.
Во вторник компания подтвердила, что откроет свой первый офис в Вашингтоне, округ Колумбия, в начале следующего года, где разместятся около 30 сотрудников. Чан Парк, руководитель отдела глобальных отношений OpenAI в США и Канаде, возглавит новый офис вместе с Джо Ларсоном, который покидает оборонную технологическую компанию Anduril, чтобы занять пост вице-президента OpenAI по работе с правительством.
Компания будет использовать это пространство для размещения политиков, демонстрации новых технологий и проведения тренингов по ИИ, например, для учителей и государственных служащих. Здесь также будут проводиться исследования экономического влияния ИИ и способов улучшения доступа к этой технологии.
Несмотря на предупреждения Альтмана о рисках, связанных с этой технологией, OpenAI призвала администрацию Трампа избегать регулирования, которое, по её мнению, может помешать технологическим компаниям конкурировать с зарубежными инновациями в области ИИ. Ранее в этом месяце Сенат США проголосовал за исключение из законопроекта Трампа спорного положения, которое запрещало бы штатам применять законы, связанные с ИИ, в течение 10 лет.
Кризис мошенничества
Альтман не одинок в своих опасениях, что ИИ приведет к резкому росту мошенничества.
В прошлом году ФБР предупреждало о подобных мошенничествах, связанных с «клонированием» голоса и видео с помощью ИИ. Многие родители сообщали, что технология голосового ИИ использовалась для обмана, чтобы выманить у них деньги, убеждая их, что их дети попали в беду. Ранее в этом месяце официальные лица США предупредили, что кто-то, используя ИИ для имитации голоса госсекретаря Марко Рубио, связался с министрами иностранных дел, губернатором США и членом Конгресса.
«Я очень обеспокоен тем, что нам грозит серьезный, надвигающийся кризис мошенничества», — сказал Альтман.
«Сейчас это голосовой звонок; скоро это будет видеозвонок или FaceTime, неотличимые от реальности», — сказал Альтман. Он предупредил, что, хотя его компания не разрабатывает подобные инструменты для имитации, это вызов, с которым миру вскоре придётся столкнуться по мере развития искусственного интеллекта. Альтман поддерживает инструмент The Orb, разработанный компанией Tools for Humanity, который, по его словам, предоставит «доказательство человеческой природы» в мире, где ИИ затрудняет различение того, что и кто является реальным в интернете.
Альтман также объяснил, что не даёт ему спать по ночам: мысль о том, что злоумышленники создадут и будут злоупотреблять искусственным интеллектом (ИИ) до того, как остальной мир станет достаточно развитым, чтобы защититься от такой атаки, — например, если противник США использует ИИ для атаки на американскую энергосистему или создаст биологическое оружие. Этот комментарий может свидетельствовать об опасениях в Белом доме и на Капитолийском холме по поводу того, что Китай опережает американские технологические компании в области ИИ.
Альтман также выразил обеспокоенность перспективой потери людьми контроля над сверхразумной системой искусственного интеллекта или предоставления этой технологии слишком большого права принятия решений. Различные технологические компании, включая OpenAI, стремятся к созданию сверхразума на основе искусственного интеллекта, и Альтман заявил, что, по его мнению, к 2030-м годам искусственный интеллект может значительно превзойти человеческие возможности, но пока неясно, как именно они определяют этот рубеж и когда, если вообще когда-либо, достигнут его.
Влияние ИИ на рабочие места? «Никто не знает»
Однако Альтман заявил, что он не так обеспокоен, как некоторые его коллеги в Кремниевой долине, потенциальным влиянием ИИ на рабочую силу, после того как такие лидеры, как генеральный директор Anthropic Дарио Амодеи и генеральный директор Amazon Энди Джасси, предупредили, что эта технология отнимет рабочие места.
Вместо этого Альтман полагает, что «никто не знает, что произойдет дальше».
«Существует множество действительно умных прогнозов, — сказал он. — „О, вот это произойдёт с этой экономикой“. Никто этого не знает. На мой взгляд, это слишком сложная система, слишком новая и влиятельная технология, её очень сложно предсказать».
Тем не менее, у него есть некоторые мысли. Он сказал, что, хотя «целые классы профессий исчезнут», появятся новые. И Альтман повторил свой предыдущий прогноз: если бы мир мог заглянуть на 100 лет вперёд, рабочие будущего, вероятно, не имели бы того, что есть у рабочих сегодня. подумайте о «реальных рабочих местах».
«У вас есть всё, что вам может понадобиться. Вам нечего делать», — сказал Альтман о будущих работниках. «Поэтому вы придумываете себе работу, чтобы поиграть в глупую игру со статусом, занять своё время и почувствовать себя полезным другим людям».
Похоже, Альтман считает, что нам не следует беспокоиться о том, что ИИ отнимет у нас рабочие места, поскольку в будущем нам в любом случае не понадобятся рабочие места, хотя он и не уточнил, как будущие инструменты ИИ будут, например, надежно защищать интересы в суде, чистить кому-то зубы или строить дома.
В связи с выступлением Альтмана компания OpenAI опубликовала отчет, составленный ее главным экономистом Ронни Чаттерджи, в котором описываются преимущества ChatGPT в плане производительности труда работников.
В докладе Чаттерджи, который присоединился к OpenAI в качестве первого главного экономиста после того, как занимал должность координатора по Закону о CHIPS и науке в администрации Байдена, сравнил ИИ с такими преобразующими технологиями, как электричество и транзистор. Он отметил, что число пользователей ChatGPT по всему миру достигло 500 миллионов.
Согласно отчёту, 20% пользователей в США используют ChatGPT в качестве «персонального репетитора» для «обучения и повышения квалификации», хотя в нём не уточняется, чему именно люди учатся с помощью сервиса. Чаттерджи также отметил, что более половины американских пользователей ChatGPT — это люди в возрасте от 18 до 34 лет, «что говорит о возможной долгосрочной экономической выгоде от дальнейшего использования инструментов ИИ на рабочем месте».
В следующем году Чаттерджи планирует работать с экономистами Джейсоном Фурманом и Майклом Стрэйном над более масштабным исследованием влияния ИИ на рабочие места и рабочую силу в США. Работа будет проходить в новом офисе в Вашингтоне, округ Колумбия.
