Губернатор Калифорнии Гэвин Ньюсом в воскресенье наложил вето на горячо оспариваемый законопроект о безопасности искусственного интеллекта после того, как технологическая индустрия выступила с возражениями, заявив, что он может вытеснить компании, занимающиеся ИИ, из штата и помешать инновациям.
Ньюсом сообщил, что он попросил ведущих экспертов по генеративному ИИ помочь Калифорнии «разработать работоспособные защитные ограждения», которые будут сосредоточены «на разработке эмпирического, научно обоснованного анализа траектории». Он также приказал государственным агентствам расширить свою оценку рисков потенциальных катастрофических событий, связанных с использованием ИИ.
Ньюсом сообщил, что попросил ведущих экспертов по генеративному ИИ помочь Калифорнии «разработать работоспособные защитные ограждения», которые будут сосредоточены «на разработке эмпирического, научно обоснованного анализа траектории». Он также приказал государственным агентствам расширить свою оценку рисков потенциальных катастрофических событий, связанных с использованием ИИ.
Генеративный ИИ, способный создавать текст, фотографии и видео в ответ на открытые подсказки, вызвал как ажиотаж, так и опасения, что он может сделать некоторые профессии ненужными, повлиять на результаты выборов и потенциально превзойти людей, а также иметь катастрофические последствия.
Автор законопроекта, сенатор-демократ Скотт Винер, заявил, что законодательство необходимо для защиты общественности до того, как достижения в области ИИ станут либо громоздкими, либо неконтролируемыми. Индустрия ИИ быстро растет в Калифорнии, и некоторые лидеры усомнились в будущем этих компаний в штате, если законопроект станет законом.
В воскресенье Винер заявил, что вето делает Калифорнию менее безопасной и означает, что «компании, стремящиеся создать чрезвычайно мощную технологию, не сталкиваются с обязательными ограничениями». Он добавил, что «добровольные обязательства со стороны промышленности не подлежат исполнению и редко приносят пользу обществу».
«Мы не можем позволить себе ждать, пока произойдет крупная катастрофа, прежде чем принять меры по защите населения», — сказал Ньюсом, но добавил, что не согласен: «Мы должны согласиться на решение, которое не основано на эмпирическом анализе траектории систем и возможностей ИИ».
Ньюсом сказал, что будет работать с законодательным органом по законодательству об ИИ во время его следующей сессии. Это происходит, когда законодательство в Конгрессе США по установлению гарантий застопорилось, а администрация Байдена продвигает предложения по нормативному надзору за ИИ.
Ньюсом заявил, что «подход, применимый только к Калифорнии, вполне может быть оправдан, особенно в отсутствие федеральных действий со стороны Конгресса».
Коалиция технологической отрасли «Палата прогресса» высоко оценила вето Ньюсома, заявив, что «технологическая экономика Калифорнии всегда процветала за счет конкуренции и открытости».
Среди прочего, эта мера потребовала бы проведения испытаний безопасности для многих самых передовых моделей ИИ, разработка которых стоит более 100 миллионов долларов, или тех, которые требуют определенного объема вычислительной мощности. Разработчикам программного обеспечения ИИ, работающим в штате, также пришлось бы описать методы отключения моделей ИИ, по сути, аварийный выключатель.
Законопроект предусматривал создание государственного органа для надзора за разработкой так называемых «пограничных моделей», превосходящих возможности самых передовых существующих моделей.
Законопроект столкнулся с сильным противодействием со стороны широкого круга групп. Alphabet's Google, поддерживаемые Microsoft OpenAI и Meta Platforms, все из которых разрабатывают генеративные модели ИИ, выразили свою обеспокоенность по поводу предложения.
Некоторые демократы в Конгрессе США, включая представителя Нэнси Пелоси, также выступили против. Среди сторонников был генеральный директор Tesla Илон Маск, который также управляет фирмой искусственного интеллекта под названием xAI. Поддерживаемая Amazon компания Anthropic заявила, что выгоды от законопроекта, вероятно, перевешивают издержки, хотя и добавила, что все еще есть некоторые аспекты, которые кажутся тревожными или неоднозначными.
Ньюсом отдельно подписал закон, требующий от штата оценить потенциальные угрозы, которые генеративный ИИ представляет для критической инфраструктуры Калифорнии.
По словам Ньюсома, штат анализирует риски энергетической инфраструктуры и ранее созывал поставщиков электроэнергии, а в следующем году проведет такую же оценку рисков для поставщиков водной инфраструктуры, а позднее и для сектора связи.
