Компания, поддерживаемая Сэмом Альтманом, разработала амбициозный план по решению одной из самых сложных проблем Интернета — различению людей и искусственных ботов.
В нем задействована сфера.
Когда я попробовал, Сфера не смогла распознать во мне «уникального человека», но, как оказалось, это отчасти так и задумано.
Я ношу линзы, блокирующие синий свет, с легким желтоватым оттенком, поэтому Шар, очевидно, подумал, что я пытаюсь обмануть его, скрывая свою личность.
«Что ж, это печально, но я благодарен, что он вас отверг», — сказал мне Тиаго Сада, директор по продуктам компании, стоящей за Orb, после того, как инструмент вернул сообщение о том, что «что-то закрывает ваше лицо».
Orb, созданный компанией Tools for Humanity, соучредителем которой является Альтман, стремится обеспечить, по ее словам, более эффективный метод проверки личности в эпоху искусственного интеллекта.
Например, теперь, когда системы ИИ могут понимать изображения, уже не только люди могут выбирать фотографии школьных автобусов в традиционных системах CAPTCHA. И борьба с ботами имеет решающее значение, поскольку фейковые аккаунты стали более заметными повсюду, от сайтов по продаже билетов до приложений для знакомств. Более того, армии ботов могут использоваться для распространения кампаний по преследованию или дезинформации в социальных сетях, а мошенничество с использованием ИИ уже обходится дорого пострадавшим семьям и компаниям.
«Каждый раз, когда у любого артиста по всему миру билеты выходят в эфир, боты идут и покупают билеты, и они взвинчивают цены», — говорит Сада. «Я все время сижу в приложениях для знакомств, и, наверное, каждую неделю я натыкаюсь на аккаунт, который я думаю: «О, почему у этого человека шесть пальцев?» Ну, а оказалось, что это был ИИ».
Тем не менее, убедить большое количество людей позволить сверкающему, выглядящему как в научно-фантастическом фильме Шару сфотографировать их лица, чтобы подтвердить их человечность и создать онлайн-пространства, свободные от ботов, может оказаться непростой задачей.
Гонконг уже запретил проект из-за проблем с конфиденциальностью. А регуляторы данных в других местах, включая Соединенное Королевство, инициировали расследования в отношении Orbs; компания заявляет, что Orbs в настоящее время недоступен в Соединенном Королевстве. А некоторые критики говорят, что Orb является частью будущего ИИ, продвигаемого такими лидерами технологий, как Альтман, и не все этого хотят.
Но Сада сказал, что, по его мнению, потребность в сервисе уже очевидна. «Каждый веб-сайт, будь то финансы, социальные сети, коммерция, что угодно, мы считаем, что доказательство человека является суперактуальным».
Как работает Orb
Сада рассказал, что когда пользователь сканирует свое лицо с помощью Orb, технология фотографирует его глаза и лицо, чтобы проанализировать такие параметры, как размер и реакция на свет.
Когда Orb подтверждает «человечность» пользователя, он отправляет уникальный «WorldID» в приложение на его телефоне. Идея заключается в том, что WorldID будет служить своего рода цифровым паспортом для проверки личности пользователя в ряде онлайн-сервисов. Это что-то вроде Face ID, но без необходимости использования iPhone и потенциально применимо в большем количестве сервисов.
Сада предполагает, например, что если банк захочет подтвердить личность клиента перед раскрытием финансовой информации, он может использовать ваш WorldID вместо контрольных вопросов, которые мошеннику будет легче угадать.
Условия обслуживания с Клэр Даффи Мошенничество с использованием голоса ИИ растет. Вот как вы остаетесь в безопасности. Гэри Шилдхорн бросился на помощь, когда ему позвонили голосом сына и сообщили, что он попал в тюрьму после автомобильной аварии. Так продолжалось до тех пор, пока ему не позвонил по FaceTime его сын, который на самом деле не был в тюрьме. Гэри стал целью мошенничества с использованием голоса ИИ, которое почти стоило ему 9000 долларов. По мере развития технологий ИИ такие мошенничества становятся все более распространенными и эффективными. Эксперт по цифровой криминалистике Хани Фарид объясняет, как работает эта технология и как люди могут защитить себя. 14 января 2025 г. • 27 мин …
- Подкасты Apple
- Спотифай
- Пандора
- Подключайтесь
- Радио iHeart
- Радио.ком
- Амазонка
- RSS
В настоящее время существует несколько практических вариантов использования WorldID. Но его можно использовать ограниченно на некоторых платформах, включая Reddit и Shopify, где пользователи могут получить доступ к «человеческим» сабреддитам или розничным сделкам, сказал Сада.
Более 12 миллионов человек уже подтвердили свою личность с помощью Orbs, которые доступны и бесплатны для использования в более чем 20 странах в торговых центрах и других центральных местах или на мероприятиях Tools for Humanity. Позже в этом году компания планирует запустить услугу по доставке Orbs прямо на дом для более легкой проверки, начав с Латинской Америки.
Orb временно недоступен в Соединенных Штатах, пока идет обновление технологии, но компания заявляет, что он будет запущен снова «скоро». Приложение World пока по-прежнему доступно.
Вопросы безопасности
Компания Tools for Humanity создала Orb для сети «World» — платформу с открытым исходным кодом, которая служит своего рода цифровым центром для «проверенных» людей.
Пользователи World в некоторых странах могут покупать и продавать криптовалюту «Worldcoin», токен, доступный только для людей в сети. Компания подарила некоторым пользователям Orb немного Worldcoin в обмен на фотографирование их лиц. (CNN не предлагали криптовалюту, которая недоступна в Соединенных Штатах, при тестировании устройства.)
Сетевой проект был запущен как Worldcoin в 2023 году, прежде чем в прошлом году был переименован в «World», оставив название токена неизменным. Лидеры заявили, что усилия могут помочь справиться с «экономическими последствиями» ИИ; например, предоставив средства для предоставления всеобщего базового дохода, идея которого является сторонником Альтман.
На данный момент основным источником дохода Tools for Humanity является продажа или сдача в аренду сфер «операторам сообщества» мира, которые зарабатывают дополнительные Worldcoin в обмен на привлечение новых пользователей в сеть, хотя компания заявила, что изучает дополнительные источники дохода.
Как и многие другие криптовалютные проекты, Worldcoin привлек к себе особое внимание. Некоторые скептики выразили опасения, что предложение пользователям криптовалюты в обмен на использование технологии может побудить их игнорировать потенциальные риски конфиденциальности. Другие беспокоились, что проект может централизовать слишком много власти под руководством Альтмана, который и так играет огромную роль в том, что, как ожидается, станет революционной технологической трансформацией.
Ребрендинг, проведенный прошлой осенью, рассматривался как вероятная попытка расширить идентичность компании за пределы ее первоначальной криптовалютной деятельности.
Сада говорит, что Tools for Humanity говорит, что Worldcoin дает пользователям право собственности на сеть World. Tools for Humanity не ответила на запрос о комментарии от имени Альтмана, ее председателя.
Orb также подвергается постоянному контролю со стороны регуляторов конфиденциальности в Европе и других странах, поскольку он использует конфиденциальные биометрические данные для проверки личности пользователей.
По данным Tools for Humanity, фотографии, сделанные Orb, отправляются на телефоны пользователей вместе с их WorldID, а затем автоматически удаляются с устройства, поэтому компания не сохраняет никаких биометрических данных. Данные шифруются по пути на устройства пользователей, где пользователи могут настроить приложение на требование аутентификации перед его открытием. Компания также открыла исходный код большей части технологий, лежащих в основе Orb, что, по ее словам, является попыткой позволить третьим лицам проверять ее заявления о безопасности.
«Не очень интуитивно понятно, что что-то вроде этого… является частным», — сказал Сада. «Мы думаем, что частная жизнь — это свобода, и что-то вроде World существует в первую очередь для защиты свободы людей».
Исправление: Предыдущая версия этой истории неверно указала, где запрещены Orbs. В настоящее время они запрещены в Гонконге.
