Когда во вторник ученый-компьютерщик Джеффри Хинтон получил Нобелевскую премию по физике за свою работу в области машинного обучения, он сразу же выступил с предупреждением о мощи технологии, которую его исследования помогли продвинуть вперед: искусственного интеллекта.
«Это будет сравнимо с промышленной революцией», — сказал он сразу после объявления. «Но вместо того, чтобы превосходить людей по физической силе, это превзойдет людей по интеллектуальным способностям. У нас нет опыта того, каково это — иметь вещи умнее нас».
Хинтон, который, как известно, ушел из Google, чтобы предупредить о потенциальных опасностях ИИ, был назван крестным отцом этой технологии. Теперь он связан с Университетом Торонто, и он разделил премию с профессором Принстонского университета Джоном Хопфилдом «за основополагающие открытия и изобретения, которые позволяют машинному обучению с помощью искусственных нейронных сетей».
И хотя Хинтон признает, что ИИ может преобразовать части общества в лучшую сторону, что приведет к «огромному повышению производительности» в таких областях, как здравоохранение, например, он также подчеркнул потенциал «ряда возможных плохих последствий, в частности, угрозу выхода этих вещей из-под контроля».
«Я обеспокоен тем, что общим последствием этого может стать то, что системы, более разумные, чем мы, в конечном итоге возьмут под контроль», — сказал он.
Хинтон не первый лауреат Нобелевской премии, который предупреждает о рисках технологии, которую он помог создать. Вот взгляд на других, кто высказывал подобные предостережения относительно своей собственной работы.
1935: Ядерное оружие
Нобелевскую премию по химии 1935 года разделили супруги Фредерик Жолио и Ирен Жолио-Кюри (дочь лауреатов Марии и Пьера Кюри) за открытие первых искусственно созданных радиоактивных атомов. Это была работа, которая внесла вклад в важные достижения в медицине, включая лечение рака, а также в создание атомной бомбы.
Свою Нобелевскую лекцию того года Жолио завершил предупреждением о том, что будущие ученые «смогут осуществлять превращения взрывного типа, настоящие химические цепные реакции».
«Если такие трансмутации действительно распространятся в материи, можно представить себе колоссальное высвобождение полезной энергии», — сказал он. «Но, к сожалению, если зараза распространится на все элементы нашей планеты, последствия развязывания такого катаклизма можно будет рассматривать только с опасением».
Тем не менее, Жолио предсказал, что это будет «процесс, который [будущие] исследователи, несомненно, попытаются реализовать, приняв, как мы надеемся, необходимые меры предосторожности».
1945: Устойчивость к антибиотикам
Сэр Александр Флеминг разделил Нобелевскую премию по медицине 1945 года с Эрнстом Чейном и сэром Эдвардом Флори за открытие пенициллина и его применение для лечения бактериальных инфекций.
Флеминг сделал первое открытие в 1928 году, и к тому времени, когда он прочитал свою Нобелевскую лекцию в 1945 году, у него уже было важное предупреждение для мира: «Несложно сделать микробы устойчивыми к пенициллину в лабораторных условиях, подвергая их воздействию концентраций, недостаточных для их уничтожения, и то же самое время от времени происходило в организме», — сказал он.
«Может наступить время, когда пенициллин сможет купить любой желающий в магазине, — продолжил он. — Тогда возникает опасность, что невежественный человек может легко ввести себе недостаточную дозу и, подвергая свои микробы воздействию нелетальных количеств препарата, сделать их устойчивыми».
«Это была очень важная и пророческая мысль много лет назад», — сказал доктор Джеффри Гербер, врач-инфекционист Детской больницы Филадельфии и медицинский директор Программы по контролю за антимикробными препаратами.
По данным Всемирной организации здравоохранения, спустя почти столетие после первого открытия Флеминга, устойчивость к противомикробным препаратам (устойчивость патогенов, таких как бактерии, к препаратам, предназначенным для их лечения) считается одной из самых серьезных угроз мировому общественному здравоохранению. Только в 2019 году она стала причиной 1,27 миллиона смертей.
Ключевой частью предостережения Флеминга, возможно, было чрезмерно широкое применение антибиотиков, а не идея низких дозировок.
«Чаще всего людям дают антибиотики совершенно без необходимости», — сказал Гербер CNN в электронном письме. И «все чаще мы видим микробы, устойчивые почти ко всем (а иногда и ко всем) антибиотикам, которые у нас есть».
1980: Рекомбинантная ДНК
Пол Берг, получивший в 1980 году Нобелевскую премию по химии за разработку рекомбинантной ДНК — технологии, которая помогла дать толчок развитию биотехнологической отрасли, — не предупреждал столь же решительно, как некоторые его коллеги-лауреаты, о потенциальных рисках своего исследования.
Однако он признал наличие опасений относительно того, к чему может привести генная инженерия, включая биологическое оружие, генетически модифицированные продукты питания и генную терапию — форму медицины, которая подразумевает замену дефектного гена, вызывающего заболевание, на нормально функционирующий.
В своей Нобелевской лекции 1980 года Берг сосредоточился конкретно на генной терапии, заявив, что этот подход «имеет много подводных камней и неизвестных, среди которых вопросы, касающиеся осуществимости и желательности для любого конкретного генетического заболевания, не говоря уже о рисках».
«Мне кажется», — продолжил он, — «что если мы когда-либо собираемся двигаться в этом направлении, нам понадобятся более подробные знания о том, как организованы человеческие гены, как они функционируют и регулируются».
Спустя десятилетия в интервью Берг отметил, что он и другие ученые в этой области уже публично признали потенциальную опасность этой технологии и работы над ограждениями на конференции, известной как Асиломар, в 1975 году.
«Опасения по поводу рекомбинантной ДНК или генной инженерии исходили от ученых, так что это был очень важный факт», — сказал он в интервью научному обозревателю Джоанне Роуз в 2001 году, согласно стенограмме на веб-сайте Нобелевской премии.
Публично признав риски и необходимость их изучения, Берг сказал: «Мы добились огромного общественного восхищения, если можно так выразиться, и терпимости, и поэтому нам разрешили фактически заняться вопросом, как мы можем предотвратить возникновение опасных вещей в результате нашей работы?»
По его словам, к 2001 году «опыт и проведенные эксперименты показали, что первоначальные опасения, в возможность которых мы действительно верили, на самом деле не существовали».
Теперь генная терапия является растущей областью медицины, с одобренными методами лечения серповидноклеточной анемии, мышечной дистрофии и некоторых наследственных форм слепоты, хотя она не используется широко, поскольку ее все еще сложно применять и она очень дорогая. В ранние дни эта технология привела к смерти в 1999 году 17-летнего участника клинического испытания Джесси Гелсингера, что подняло этические вопросы о том, как проводились исследования, и замедлило работу в этой области.
И хотя Берг сам высказывал опасения, свою Нобелевскую лекцию в 1980 году он завершил призывом к оптимизму и «необходимости двигаться вперед».
«Прорыв в области рекомбинантной ДНК дал нам новый и мощный подход к вопросам, которые интриговали и мучили человека на протяжении столетий», — сказал он. «Я бы, например, не отказался от этого вызова».
Дженнифер Дудна получила Нобелевскую премию по химии в 2020 году за работу над новым методом редактирования генов. Nobel Prize Outreach/Brittany Hosea-Small/Handout/Reuters 2020: Редактирование генов
Четыре года назад Дженнифер Дудна и Эммануэль Шарпантье разделили Нобелевскую премию по химии за разработку метода редактирования генома под названием CRISPR-Cas9.
В своей лекции Дудна подробно рассказала о «необычайных и захватывающих возможностях» использования этой технологии в здравоохранении, сельском хозяйстве и биомедицине.
Однако она уточнила, что работа должна проводиться гораздо более осторожно применительно к человеческим половым клеткам, генетические изменения которых будут передаваться потомству, в отличие от соматических клеток, где любые генетические изменения будут ограничиваться индивидуумом.
«Наследуемость делает редактирование генома зародышевых клеток очень мощным инструментом, когда мы думаем об использовании его в растениях или использовании его для создания лучших животных моделей человеческих болезней, например», — сказал Дудна. «Это совсем другое, когда мы думаем об огромных этических и социальных проблемах, возникающих в связи с возможностью использования редактирования зародышевой линии у людей».
Дудна, основательница Института инновационной геномики, заявила на этой неделе в интервью CNN, что, по ее мнению, «соответствующие предупреждения со стороны ученых о потенциальном ненадлежащем использовании их открытий являются важной обязанностью и полезной общественной услугой, особенно когда работа имеет широкие общественные последствия».
«Те из нас, кто ближе всего к науке CRISPR, понимают, что это мощный инструмент, который может позитивно преобразовать наше здоровье и мир, но потенциально может быть использован во зло», — сказала она. «Мы видели эту возможность двойного использования с другими преобразующими технологиями, такими как ядерная энергетика, а теперь и с ИИ».
В подготовке этого репортажа приняли участие Кристиан Эдвардс и Кэти Хант из CNN.
