Дональд Трамп готовится войти в Белый дом во второй раз. В его повестку дня войдет контроль за развитием искусственного интеллекта, потенциально самой мощной технологии нашего времени.
Избранный президент пообещал «сократить избыточное регулирование» и привлек технологического миллиардера Илона Маска, еще одного критика правительственных правил, для руководства усилиями. В частности, Республиканская партия в своей предвыборной платформе заявила, что отменит масштабный указ, подписанный президентом Джо Байденом, в котором излагались действия по управлению рисками национальной безопасности ИИ и предотвращению дискриминации со стороны систем ИИ, среди прочих целей.
В документе республиканцев говорится, что указ содержит «радикальные левые идеи», которые препятствуют инновациям.
Сандра Вахтер, профессор технологий и регулирования Оксфордского института Интернета при Оксфордском университете, внимательно следит за тем, что произойдет дальше. По ее словам, ИИ полон рисков, которые «нужно было устранить еще вчера» посредством жесткого регулирования.
Вот некоторые опасности неограниченного ИИ.
Дискриминация
В течение многих лет системы ИИ демонстрировали свою способность воспроизводить предубеждения общества — например, по поводу расы и пола — поскольку эти системы обучаются на данных о прошлых действиях людей, многие из которых имеют эти предубеждения. Когда ИИ используется для принятия решения о том, кого нанять или одобрить ипотеку, результат часто может быть дискриминационным.
«Этим технологиям присуща предвзятость, поскольку они смотрят на исторические данные, чтобы попытаться предсказать будущее… они узнают, кого нанимали в прошлом, кто сидел в тюрьме в прошлом», — сказал Вахтер. «И поэтому очень часто и почти всегда эти решения предвзяты».
Она добавила, что без надежных ограждений «проблемные решения прошлого будут перенесены в будущее».
Использование ИИ в предиктивном правоприменении является одним из примеров, сказал Эндрю Стрейт, заместитель директора Института Ады Лавлейс, Некоммерческая организация со штаб-квартирой в Лондоне, исследующая безопасность и этику ИИ.
Он отметил, что некоторые полицейские управления в Соединенных Штатах использовали программное обеспечение на основе искусственного интеллекта, обученное на исторических данных о преступлениях, чтобы предсказывать, где вероятнее всего будут происходить будущие преступления. Поскольку эти данные часто отражают чрезмерный контроль полиции над определенными сообществами, сказал Стрэйт, основанные на них прогнозы заставляют полицию сосредоточивать свое внимание на тех же сообществах и сообщать о большем количестве преступлений там. Между тем, другие районы с потенциально таким же или более высоким уровнем преступности контролируются меньше.
Дезинформация
ИИ способен генерировать вводящие в заблуждение изображения, аудио и видео, которые можно использовать, чтобы создать видимость того, что человек сделал или сказал что-то, чего он не делал. Это, в свою очередь, может быть использовано для влияния на выборы или создания поддельных порнографических изображений для преследования людей, среди других потенциальных злоупотреблений.
Изображения, созданные с помощью искусственного интеллекта, широко распространялись в социальных сетях в преддверии президентских выборов в США, состоявшихся в начале этого месяца, включая поддельные изображения Камалы Харрис, перепубликованные самим Маском.
В мае Министерство внутренней безопасности США в бюллетене, распространенном среди государственных и местных чиновников и опубликованном CNN, заявило, что искусственный интеллект, скорее всего, предоставит иностранным агентам и внутренним экстремистам «расширенные возможности для вмешательства» в выборы.
А в январе более 20 000 человек в Нью-Гемпшире получили робозвонок — автоматическое сообщение, проигрываемое по телефону, — который использовал ИИ, чтобы имитировать голос Байдена, советуя им не голосовать на президентских праймериз. За робозвонками стоял, как он признался, Стив Крамер, работавший на перспективную кампанию демократов-предвыборщиков Дина Филлипса против Байдена. Кампания Филлипса отрицала какую-либо причастность к робозвонкам.
В прошлом году жертвами созданных с помощью ИИ неконсенсуальных порнографических изображений стали такие известные женщины, как Тейлор Свифт и конгрессмен Александрия Окасио-Кортес, а также девочки из старших классов.
Опасное злоупотребление и экзистенциальный риск
Исследователи ИИ и игроки отрасли подчеркнули еще большие риски, которые несет технология. Они варьируются от ChatGPT, предоставляющего легкий доступ к всеобъемлющей информации о том, как совершать преступления, такие как экспорт оружия в страны, на которые наложены санкции, до ИИ, выходящего из-под контроля человека.
«Вы можете использовать ИИ для создания очень сложных кибератак, вы можете автоматизировать взлом, вы можете фактически создать автономную систему оружия, которая может нанести вред миру», — сказал CNN Манодж Чаудхари, главный технический директор Jitterbit, американской компании-разработчика программного обеспечения.
В марте в докладе, подготовленном по заказу Госдепартамента США, предупреждалось о «катастрофических» рисках национальной безопасности, которые несет быстро развивающийся ИИ, и содержался призыв к «чрезвычайным» мерам нормативной защиты наряду с другими мерами. Самые передовые системы ИИ могут в худшем случае «представлять угрозу вымирания для человеческого вида», — говорится в докладе.
В соответствующем документе говорится, что системы ИИ могут использоваться для реализации «мощных кибератак, способных вывести из строя критически важную инфраструктуру», а также для целого ряда рисков.
Что дальше?
Помимо указа Байдена, в прошлом году его администрация также получила от 15 ведущих технологических компаний обещания повысить безопасность их систем искусственного интеллекта, хотя все обязательства являются добровольными.
А такие штаты, как Колорадо и Нью-Йорк, возглавляемые демократами, приняли собственные законы об ИИ. Например, в Нью-Йорке любая компания, использующая ИИ для подбора сотрудников, должна привлечь независимого аудитора, чтобы проверить, что система непредвзята.
«Разрабатывается лоскутное (регулирование ИИ в США), но оно очень фрагментарно и не очень всеобъемлюще», — сказал Стрэйт из Института Ады Лавлейс.
Он отметил, что «еще слишком рано говорить наверняка», расширит ли новая администрация Трампа эти правила или отменит их.
Однако он обеспокоен тем, что отмена указа Байдена будет означать конец Института безопасности ИИ правительства США. Приказ создал этот «невероятно важный институт», сказал Стрэйт CNN, поручив ему тщательно изучать риски, возникающие из передовых моделей ИИ, прежде чем они будут представлены общественности.
Вполне возможно, что Маск будет настаивать на более жестком регулировании ИИ, как он делал это ранее. Он собирается играть видную роль в следующей администрации в качестве соруководителя нового «Департамента эффективности правительства» (DOGE).
Маск неоднократно выражал опасения, что ИИ представляет экзистенциальную угрозу человечеству, хотя одна из его компаний, xAI, сама разрабатывает генеративный чат-бот на основе ИИ.
Маск был «очень большим сторонником» законопроекта, который сейчас отменён в Калифорнии, отметил Стрейт. Законопроект был направлен на предотвращение некоторых из самых катастрофических последствий ИИ, например, последствий систем, которые могут стать неконтролируемыми. Гэвин Ньюсом, губернатор Калифорнии от Демократической партии, наложил вето на законопроект в сентябре, сославшись на угрозу, которую он представляет для инноваций.
Маск «крайне обеспокоен катастрофическим риском ИИ. Возможно, это станет предметом будущего указа Трампа», — сказал Стрейт.
Но ближний круг Трампа не ограничивается Маском и включает в себя Джей Ди Вэнса. В июле будущий вице-президент заявил, что его беспокоят «попытки упреждающего чрезмерного регулирования» в сфере ИИ, поскольку они «укрепят уже существующих технологических игроков и фактически усложнят для новых участников создание инноваций, которые станут движущей силой следующего поколения американского роста».
Tesla (TSLA) Маска можно охарактеризовать как одного из таких технологических игроков. В прошлом году Маск ошеломил инвесторов разговорами об инвестициях Tesla в ИИ, а в своем последнем отчете о доходах компания заявила, что по-прежнему сосредоточена на «критических инвестициях в проекты ИИ» среди других приоритетов.
