Пять лет назад имя OpenAI знали лишь немногие. Сегодня оно играет ключевую роль в программном обеспечении Microsoft, участвуя в создании всего, начиная от программного кода и заканчивая академическими эссе и автоматизированными кампаниями по дезинформации. В то же время существует обеспокоенность тем, что его инициативы могут привести к катастрофическим последствиям в стремлении к сверхинтеллектуальному общему искусственному интеллекту (AGI).
В своей книге Супрематия: ИИ, ChatGPT и гонка, которая изменит мир журналистка Парми Олсон тщательно документирует эволюцию двух крупных конкурентов в области ИИ: американского OpenAI и его британского соперника, DeepMind. Наратив исследует их стремление не только разработать продвинутые модели ИИ, способные генерировать изображения или составлять электронные письма, но и AGI — интеллект, потенциально превосходящий человеческие когнитивные способности.
Может показаться неожиданным, что OpenAI, известная созданием ChatGPT, изначально была основана с целью достижения AGI. Несмотря на предупреждения генерального директора Сэма Альтмана о потенциальных опасностях, это стремление остается в центре их миссии. Аналогично, Демис Хасабис соучредил DeepMind в 2010 году с той же целью: использовать AGI для разгадки сложностей вселенной, включая такие темы, как наука и философия. Хасабис предсказывал пятилетний срок для этой задачи, хотя прошло уже 14 лет.
Еще один интересный аспект, раскрытый в книге Олсон, заключается в том, что Илон Маск предоставил раннюю финансовую поддержку OpenAI отчасти из-за своих опасений по поводу Хасабиса. Маск смотрел на Хасабиса, который ранее создал игру Evil Genius, с подозрением и, как сообщается, назвал его «Гитлером ИИ».
Обе компании действовали под убеждением, что достижение AGI раньше их соперников имеет решающее значение для обеспечения благоприятного применения технологии, как это определено их собственными стандартами.
Тем не менее, требования финансирования быстро прервали их высокие амбиции. Разработка ИИ — это дорогостоящая затея; вычислительная мощность, необходимая для этого, огромна, требующая десятков тысяч графических процессоров, каждый из которых стоит около 40 000 долларов. Кроме того, конкуренция за лучшие таланты приводит к завышенным зарплатам, причем элитные специалисты часто зарабатывают миллионы. Эта финансовая реальность — причина, по которой ведущие корпорации сейчас доминируют на рынке ИИ.
После многих лет наблюдения за тем, как выдающиеся таланты привлекаются гигантами вроде Google и Facebook, OpenAI и DeepMind перешли к партнерствам с более крупными технологическими компаниями. В 2019 году OpenAI приняла значительные инвестиции от Microsoft, что позволило технологическому гиганту приобрести 49-процентную долю. Тем временем DeepMind была поглощена Google, хотя её основатели пытались сохранить некоторый уровень контроля через определенные условия.
DeepMind настаивала на создании этического комитета для контроля за ответственным развитием AGI. К сожалению, Google позволила этому комитету собираться только один раз. Олсон подробно описывает трудности Хасабиса в установлении эффективного управления проектом, несмотря на обещания Google о росте полномочий DeepMind после реорганизации в Alphabet — обещание, которое в конечном итоге оказалось пустым. Замечательно, что ведущие исследователи в этой области, похоже, уязвимы для корпоративной манипуляции.
Финансовая поддержка от Microsoft и Google дала им значительное влияние и власть над будущим направления ИИ. В результате OpenAI теперь обязана регулярно обновлять свои модели, чтобы помочь Microsoft опередить конкурентов. Аналогично, внимание DeepMind переместилось к улучшению рекламных технологий и функций поиска Google, при этом Хасабис сейчас возглавляет их инициативы в области ИИ, в то время как поиски AGI стали второстепенной, вечной задачей.
Олсон искусно строит свой рассказ, чтобы сделать сложные разработки ИИ доступными для широкой аудитории. На протяжении всей книги она включает технические знания, позволяя читателям узнать о последних достижениях. Читатели также обнаружат увлекательные анекдоты о ключевых фигурах в секторе ИИ, включая инцидент с кратковременным увольнением и восстановлением Альтмана, а также противоречивое заявление соучредителя Google Лари Пейджа о приоритете людей над будущими постчеловеческими сущностями, которое он назвал «специстским». Другие примеры включают требования сотрудников DeepMind о том, чтобы клубника не имела стеблей, чтобы сэкономить время, и Илью Сутскевера, бывшего главного ученого OpenAI, который возглавлял захваченные вдохновением выкрики «чувствуйте AGI!»
Вопрос остается: мы готовы к прорыву AGI? Олсон описывает AGI как в первую очередь теоретическое, но одновременно называет его «самой трансформирующей технологией, которую мы когда-либо видели». Если AGI еще не стал реальностью, как его можно считать трансформирующим? Она ссылается на бывшего менеджера OpenAI, который утверждает: «Если вы посмотрите на то, что они строят, это всего лишь языковая модель».
В конечном итоге Олсон предполагает, что в вопросах будущего ИИ «у нас мало выбора». Однако это утверждение вызывает споры. В то время как влиятельные фигуры, такие как Альтман и гиганты Big Tech, обладают значительным влиянием, они не имеют окончательной власти. Например, Альтман был вынужден изменить свои предыдущие угрозы по поводу европейского регулирования, подчеркивая проблемы, с которыми сталкиваются технологические компании. Кроме того, Google недавно проиграла значительный антимонопольный иск о своей практике поиска в США, а её материнская компания Alphabet сталкивается с перспективой распада. Калифорния приняла быстрые законы по ИИ и исследует внешние аудиты для моделей ИИ. Хотя AGI представляет собой явные риски, Супрематия служит убедительным напоминанием о важности восстановления нашей автономии в этой развивающейся сфере.
Супрематия: ИИ, ChatGPT и гонка, которая изменит мир Парми Олсон (Macmillan Business £22, 336 стр).
