Руководители OpenAI были обеспокоены тем, что компания создает технологический эквивалент ядерной бомбы, а ее смотритель Сэм Альтман двигался так быстро, что рисковал глобальной катастрофой.
Поэтому совет уволил его. Возможно, в конечном итоге это и было логичным решением.
Но способ увольнения Альтмана – внезапно, непрозрачно и без предупреждения некоторых крупнейших заинтересованных сторон и партнеров OpenAI – не поддается логике. И это грозило нанести больший ущерб, чем если бы правление вообще не предприняло подобных действий.
Совет директоров компании несет обязательства, прежде всего, перед своими акционерами. Крупнейшим акционером OpenAI является Microsoft, компания, которая предоставила Altman & Co. 13 миллиардов долларов, чтобы помочь Bing, Office, Windows и Azure обойти Google и опередить Amazon, IBM и других разработчиков искусственного интеллекта.
Тем не менее, Microsoft не была проинформирована об увольнении Альтмана до тех пор, пока «незадолго до» публичного объявления, по словам корреспондента CNN Кара Свишер, которая говорила с источниками, осведомленными об увольнении советом директоров ее генерального директора. Акции Microsoft упали после увольнения Альтмана.
Сотрудникам также не сообщили эту новость заранее. Не был также и Грег Брокман, соучредитель и бывший президент компании, который сказал в сообщении на X, что узнал об увольнении Альтмана за несколько минут до того, как это произошло. Брокман, ключевой сторонник Альтмана и его стратегического руководства компанией, подал в отставку в пятницу. Другие сторонники Альтмана также направились к выходу.
Внезапно OpenAI оказался в кризисе. Сообщения о том, что Альтман и бывшие сторонники OpenAI собирались основать собственное предприятие, рисковали свести на нет все, над чем компания так усердно работала в течение последних нескольких лет.
Итак, днем позже правление, как сообщается, попросило пересдачу и попыталось вернуть Альтмана. Это был шокирующий поворот событий и позорное заявление компании, которую многие считают самым многообещающим производителем самых интересных новых технологий.
Странная структура платы
Причудливая структура правления OpenAI усложняла ситуацию.
Компания является некоммерческой. Но Альтман, Брокман и главный научный сотрудник Илья Суцкевер в 2019 году сформировали OpenAI LP, коммерческую организацию, существующую в структуре более крупной компании. Эта коммерческая компания всего за несколько лет подняла OpenAI с бесполезной стоимости до оценки в 90 миллиардов долларов, и Альтмана многие считают вдохновителем этого плана и ключом к успеху компании.
Тем не менее, компания с такими крупными спонсорами, как Microsoft и венчурная компания Thrive Capital, обязана развивать свой бизнес и зарабатывать деньги. Инвесторы хотят быть уверены в том, что они получают отдачу от вложенных средств, и они не известны своей терпеливостью.
Вероятно, это заставило Альтмана подтолкнуть коммерческую компанию к более быстрому внедрению инноваций и выходу на рынок со своей продукцией. В соответствии с великой традицией Кремниевой долины «двигайся быстро и ломай вещи», эти продукты поначалу не всегда работают так хорошо.
Возможно, это нормально, когда это приложение для знакомств или платформа социальных сетей. Совсем другое дело, когда эта технология настолько хорошо имитирует человеческую речь и поведение, что может обмануть людей, заставив их поверить, что ее фальшивые разговоры и изображения реальны.
И именно это, как сообщается, напугало правление компании, контрольный пакет которого по-прежнему контролировался некоммерческим крылом компании. Свишер сообщил, что недавняя конференция разработчиков OpenAI стала переломным моментом: Альтман объявил, что OpenAI предоставит инструменты, чтобы каждый мог создать свою собственную версию ChatGPT.
Для Суцкевера и правления это был слишком большой шаг.
Предупреждение не без оснований
По словам Альтмана, компания играла с огнем.
Когда четыре года назад Альтман основал OpenAI LP, новая компания отметила в своем уставе, что по-прежнему «обеспокоена» потенциалом ИИ «вызвать быстрые изменения» для человечества. Это может произойти непреднамеренно, когда технология выполняет вредоносные задачи из-за плохого кода, или намеренно, когда люди подрывают системы искусственного интеллекта в злых целях. Поэтому компания обязалась уделять приоритетное внимание безопасности, даже если это означало снижение прибыли для ее заинтересованных сторон.
Альтман также призвал регулирующие органы установить ограничения на использование ИИ, чтобы такие люди, как он, не могли нанести серьезный ущерб обществу.
«Будет ли [ИИ] похож на печатный станок, который широко распространит знания, власть и обучение по всему ландшафту, который расширит возможности обычных, повседневных людей, что приведет к большему процветанию и, прежде всего, к большей свободе?» — сказал он на майских слушаниях в подкомитете Сената, настаивая на регулировании. «Или это будет больше похоже на атомную бомбу – огромный технологический прорыв, но последствия (тяжелые, ужасные) продолжают преследовать нас по сей день?»
Сторонники искусственного интеллекта считают, что эта технология способна произвести революцию в любой отрасли и улучшить человечество. У него есть потенциал для улучшения образования, финансов, сельского хозяйства и здравоохранения.
Но у него также есть потенциал отнять у людей рабочие места: в ближайшие пять лет могут исчезнуть 14 миллионов рабочих мест, предупредил Всемирный экономический форум в апреле. ИИ особенно хорош в распространении вредной дезинформации. А некоторые, в том числе бывший член правления OpenAI Илон Маск, опасаются, что эта технология превзойдет человечество по интеллекту и может уничтожить жизнь на планете.
Не как справиться с кризисом
Учитывая эти угрозы – реальные или мнимые – неудивительно, что правление было обеспокоено тем, что Альтман двигался слишком быстрыми темпами. Возможно, они почувствовали себя обязанными избавиться от него и заменить кем-то, кто, по их мнению, был бы более осторожен с потенциально опасной технологией.
Но OpenAI работает не в вакууме. У него есть заинтересованные стороны, некоторые из них вложили в компанию миллиарды. А так называемые взрослые в комнате действовали, как выразился Свишер: как «машина-клоун, врезавшаяся в золотую жилу», цитируя слова известного генерального директора Meta Марка Цукерберга о Твиттере.
Привлечение Microsoft к принятию решения, информирование сотрудников, работа с Альтманом над достойным планом выхода… все это было бы решением, которое чаще всего использовалось бы правлением компании размером с OpenAI – и все с потенциально лучшими результатами.
Microsoft, несмотря на свою огромную долю, не занимает места в совете директоров OpenAI из-за странной структуры компании. Теперь ситуация может измениться, согласно многочисленным новостным сообщениям, в том числе Wall Street Journal и New York Times. Одно из требований компании, включая возвращение Альтмана, — занять место за столом.
Благодаря возможностям OpenAI, подобным ChatGPT, встроенным в Bing и другие основные продукты, Microsoft считала, что разумно инвестировала в многообещающую новую технологию будущего. Поэтому, должно быть, это стало шоком для генерального директора Сатьи Наделлы и его команды, когда они вместе с остальным миром в пятницу вечером узнали об увольнении Альтмана.
Правление разозлило могущественного союзника и могло измениться навсегда из-за того, как оно отреагировало на отстранение Альтмана. В конечном итоге это может привести к тому, что у руля снова окажется Альтман, коммерческая компания войдет в совет некоммерческих организаций, а в OpenAI произойдет масштабный сдвиг в культуре.
Альтернативно, он может стать конкурентом Альтмана, который в конечном итоге может решить основать новую компанию и переманить таланты из OpenAI.
В любом случае, OpenAI, вероятно, сейчас находится в худшем положении, чем в пятницу, до увольнения Альтмана. И это была проблема, которую, по иронии судьбы, можно было бы избежать, если бы замедлились.
Эта история была обновлена, чтобы прояснить первое предложение.
