Фотография Папы Франциска в стильной белой куртке-пуховике стала вирусной в прошлом году, вызвав шквал комментариев по поводу его выбора одежды и даже вопросов о том, есть ли у него стилист. Но возникла проблема: изображение оказалось «дипфейком», созданным с помощью искусственного интеллекта.
На этой неделе Папа должен сделать историческое вмешательство в дебаты вокруг ИИ на саммите G7 в регионе Апулия на юге Италии. В пятницу Франциск станет первым Папой, принявшим участие в саммите лидеров самых развитых экономик мира, когда он примет участие в сессии, посвященной ИИ. Президент США Джо Байден, католик, у которого теплые отношения с Фрэнсисом, входит в число лидеров, которые, как ожидается, будут присутствовать на встрече.
87-летний понтифик полон решимости использовать мягкую силу своей канцелярии, чтобы попытаться гарантировать, что развитие искусственного интеллекта будет служить человечеству и не превратится в монстра Франкенштейна 21-го века.
Для Папы, который в молодости получил образование химика, развитие науки и техники следует приветствовать; он считает, что ИИ открывает новые захватывающие возможности. Но Папа предвидит и серьезные риски.
В сообщении, опубликованном в конце прошлого года, он предупредил, что может возникнуть «технологическая диктатура». если не будет введено достаточное регулирование, подчеркнув угрозы, исходящие от систем вооружения, управляемых ИИ, и опасность того, что технологии могут быть использованы не по назначению для наблюдения за обществом и вмешательства в выборы. ИИ, считает Папа, может сделать мир лучше, только если он служит «общему благу» и не увеличивает неравенство.
Папа и Ватикан настаивают на создании этической основы для поддержки разработки и использования ИИ. С 2020 года Папская академия жизни Ватикана, организация, выступающая за Католическое моральное учение о биоэтике продвигает «Римский призыв к этике ИИ» — документ, устанавливающий шесть принципов этики ИИ, среди которых прозрачность, инклюзивность, ответственность и беспристрастность.
Ватикан ищет поддержки со стороны крупных технологических компаний и правительств. На данный момент документ подписали Microsoft (MSFT), IBM (IBM) и Cisco Systems (CSCO), а также Продовольственная и сельскохозяйственная организация ООН, министерство инноваций Италии и многочисленные религиозные лидеры.
Ожидается, что на саммите G7 Папа призовет мировых лидеров работать вместе над регулированием ИИ, повторив свой призыв в конце прошлого года о заключении «обязывающего международного договора» для предотвращения вредных практик и поощрения лучших из них. Законодатели Европейского Союза уже приняли закон, регулирующий ИИ, а двухпартийная группа сенаторов США разработала планы регулирования ИИ, которые могут привести к принятию федерального законодательства.
«Папа не инженер, но его беспокоят социальные аспекты и последствия ИИ», — сказал CNN отец Паоло Бенанти, францисканский монах и профессор, который работал с Ватиканом над проблемой ИИ. Бенанти также является членом консультативного органа ООН по ИИ. Он ожидает, что на саммите G7 Папа подчеркнет элементы своих предыдущих посланий по этому вопросу.
«Основной подход Фрэнсиса сосредоточен на том, что означают новые технологии для нашего сосуществования: какие элементы ИИ вызывают неравенство человечества, а также на таких темах, как распространение фейковых новостей в общественных местах. Он смотрит на мир и видит, что глобальный Юг не имеет такого же доступа к технологиям, как другие части мира».
Бенанти сказал, что Франциск был чувствителен к «большим вызовам, стоящим перед человечеством», отметив что он начал свое папство с освещения тяжелого положения мигрантов. Он также рассмотрел угрозу, исходящую от изменения климата, в важном папском документе. и теперь сосредоточен на искусственном интеллекте, добавил Бенанти.
Архиепископ Винченцо Палья, президент Папской академии жизни, сказал CNN, что «только регулирование на международном уровне может дать действительные и ощутимые результаты в прекращении злоупотреблений, манипуляций и инструментализации» новых технологий. Он добавил, что стремление академии к созданию более этичного ИИ направлено на обеспечение «пути устойчивого развития для всего человечества».
Италия, которая в настоящее время председательствует в G7, в прошлом году наложила временный запрет на ChatGPT, чат-бота и виртуального помощника, из соображений конфиденциальности и планирует наказать за неправомерное использование ИИ. Джорджия Мелони, премьер-министр Италии, заявила, что, по ее мнению, присутствие Папы в Апулии «внесет решающий вклад в разработку этической и культурной нормативной базы» для ИИ. Она сказала, что крайне важно использовать «лучшие этические и интеллектуальные размышления» в этой области, добавив, что «Римский призыв к этике ИИ» помог создать идея «алгоретики» — этики для алгоритмы.
Решение Франциска стать первым Папой, принявшим участие в саммите G7, свидетельствует о его желании быть там, где «на самом деле происходят настоящие дебаты», написал папский советник отец Антонио Спадаро в X, ранее в Twitter. Находясь в Апулии, Франциск будет иметь возможность напрямую поговорить с лицами, принимающими решения, и его решение подчеркивает видение Папы Церкви. который взаимодействует с миром, а не отступает от него.
Отец Филип Ларри, автор книги об искусственном интеллекте «Искусственное человечество» и бывший декан философского факультета Папского Латеранского университета в Риме, назвал решение Франциска принять участие в нем «весьма удивительным», но, по мнению Ларри, оно «повлияет на итоги» саммита.
«ИИ и новые технологии находятся на экране радара Папы Франциска», — сказал CNN Ларри, ныне профессор философии в Бостонском колледже. «(Он) хочет использовать богатство католической традиции, чтобы взвесить важность размышлений об этических последствиях ИИ. И его личное присутствие в (Апулии) свидетельствует об актуальности этого послания: он часто ссылается на «человекоцентрированный ИИ», чтобы донести свою точку зрения».
«Глубокий фейковый» образ Папы Римского в пуховике стал знаковым моментом для развития искусственного интеллекта и глубокого фейка, продемонстрировав возможности новых технологий манипулирования изображениями.
Франциск обратился к этому вопросу, когда ранее в этом году предупредил о дезинформации и распространении изображений, которые «выглядят совершенно правдоподобными, но ложными». Он отметил: «Я тоже был объектом этого».
Это был не просто образ в пуховике: Папа неоднократно становился объектом глубокой фальшивки: циркулировали компьютерные изображения, на которых он катается на скейтборде, ездит на мотоцикле и даже сливается с толпой на фестивале Burning Man в Неваде.
Понятно, что Фрэнсис рассматривает ИИ как часть того, что он назвал «эпохальным изменением», происходящим в начале 21 века.
Его решение принять участие в саммите G7 указывает на то, что он хочет, чтобы Церковь быть в центре дискуссий о том, как разворачиваются эти изменения, и способствовать тому, чтобы новые технологии могли принести пользу всему человечеству.
