В течение последней недели в американских СМИ развернулась кампания по поводу надвигающейся «катастрофы ИИ», которая, как пишет газета New York Times (NYT), предупреждает о «непредсказуемом, вышедшем из-под контроля искусственном интеллекте».
Опасности, создаваемые созданием все более мощных систем ИИ корпорациями, стремящимися к прибыли, реальны. Но цель этой кампании в СМИ — гарантировать, что они никогда не станут предметом рационального публичного обсуждения. Подлинное предупреждение было подхвачено, усилено и превращено в чрезвычайную ситуацию, которая используется для того, чтобы более непосредственно связать разработку технологии с геополитическими интересами американского империализма и вывести ее за пределы досягаемости любого демократического контроля.
Катализатором стала отставка 8 сентября исследователя из компании Anthropic Джейкоба Коксона, который заявил, что «люди, разрабатывающие ИИ, искренне верят, что к концу десятилетия он может убить нас всех». Коксон отказался от нереализованных акций корпорации и заявил, что покидает отрасль. Эван Хубингер, руководитель исследований по согласованию в Anthropic, поддержал его на следующий день: «Джейкоб прав — мы действительно искренне верим, что ИИ может убить всех людей! Лично я думаю, что шансы этого — более 10 процентов в течение следующего десятилетия». Хубингер добавил, что нынешние модели представляют небольшой риск, а опасность заключается в самосовершенствующихся системах, которые сейчас разрабатываются.
Метод знаком. В сентябре 2002 года, когда администрация Буша-младшего готовилась к вторжению в Ирак, на каждом телеканале звучала фраза: «Мы не хотим, чтобы “дымящийся пистолет” [якобы неопровержимые доказательства того, что Ирак обладает оружием массового поражения] обернулся ядерным грибом». В 2020 году, когда правящий класс начал демонтировать меры защиты от COVID-19, звучала фраза: «Лекарство не должно быть хуже самой болезни». В каждом случае предупреждение превращалось в панику, и эта паника использовалась для продвижения заранее подготовленных мер. Так происходит и сейчас. Все, от Барака Обамы, Камалы Харрис и Берни Сандерса до Стива Бэннона и Илона Маска, высказались в связи с этой ситуацией.
В субботу генеральный директор Anthropic Дарио Амодеи опубликовал эссе «Мы должны контролировать развитие ИИ» (We Must Pace the Frontier), которое в течение нескольких часов поддержали Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Маск, самый богатый человек в мире. В понедельник NYT на первой полосе опубликовала анализ Дэвида Сэнгера, назвавшего «доминирование в сфере ИИ» «главной проблемой национальной безопасности этого столетия».
В эссе Амодеи предлагается создание должностей «встроенных оценщиков», выбранных самими лабораториями, — форма саморегулирования, призванная предотвратить любое обязательное государственное регулирование. Корпорации, разрабатывающие ИИ, добиваются федерального приоритета над законами штатов, касающимися этой технологии. Лаборатории, вместе с вытекающей из этого секретностью и юридической неприкосновенностью, интегрируются в аппарат национальной безопасности. Паника имеет целью утвердить тот принцип, что только корпорации, создавшие опасность, компетентны ею управлять. Это своего рода охранительный ров вокруг действующих игроков, вырытый в тот момент, когда Anthropic готовится к размещению своих акций на бирже.
Непосредственным контекстом этой кампании является несомненный рост возможностей новейших моделей обработки больших данных, в частности, Fable и Mythos 5.1 от Anthropic, выпущенных 1 сентября, и Astra от OpenAI, выпущенной 3 сентября. Эти системы способны самостоятельно работать над задачами в течение нескольких часов или даже дней подряд и решать сложные проблемы с невероятной скоростью.
Руководители компаний намерены использовать эти системы для проведения масштабной атаки на рабочие места. Амодеи заявил изданию Axios в мае 2025 года, что ИИ может уничтожить половину всех рабочих мест начального уровня в офисной сфере и довести уровень безработицы до 10–20 процентов в течение пяти лет, а в январе предупредил, что уволенные работники «могут сформировать безработный или низкооплачиваемый “низший класс”». Альтман заявил Федеральной резервной системе, что «целые категории рабочих мест исчезнут».
Наряду с угрозой потери рабочих мест существуют опасности, связанные с использованием этих систем самими лабораториями, которые ведут гонку за созданием наиболее эффективных моделей, победителю которой обещают несметные богатства.
Наиболее опасным примером стал взлом платформы Hugging Face моделями корпорации OpenAI. Согласно собственным отчетам OpenAI, они тестировали модель, «обученную высокой устойчивости», на предмет возможностей хакинга, и, что особенно важно, средства защиты при этом были «намеренно отключены».
В период с конца мая по 5 июля сотрудники OpenAI трижды наблюдали случаи выхода моделей из подконтрольной среды, однако тестирование каждый раз продолжалось. С 9 по 13 июля около 700 ИИ-агентов, вырвавшись из системы благодаря уязвимостям в программном обеспечении израильско-американской компании JFrog, взломали платформу Hugging Face, используя утекшие учетные данные и уязвимости в собственных системах Hugging Face.
Компания OpenAI не опубликовала отчеты, запрошенные членами Конгресса и Hugging Face. Никаких уголовных обвинений предъявлено не было. Компания Hugging Face, которую Nvidia впоследствии согласилась приобрести, не подала иск. По сообщениям, она уведомила ФБР, но бюро отказалось от комментариев.
Подробности того, что генеральный директор Hugging Face назвал «беспрецедентной» кибератакой с использованием ИИ, раскрывают реальные опасности ИИ. Это было не просто результатом присущих большим языковым моделям характеристик. Это стало следствием грубой халатности крупной корпорации, занимающейся ИИ, которая использовала модель, способную к хакингу, с намеренно отключенными средствами защиты и игнорировала неоднократные предупреждения.
Ничто из того, что предлагают лаборатории ИИ, никоим образом не уменьшит эти опасности. Напротив, решение, предлагаемое Амодеи, направлено на еще более тесную координацию с правительством США в его противостоянии с Китаем. Если американские лаборатории замедлят темпы, пишет он, «тогда (неконтролируемые) проекты, связанные с Коммунистической партией Китая, вырвутся вперед, создав значительный риск для национальной безопасности. Я согласен с министром финансов Бессентом в том, что китайское лидерство в области ИИ будет представлять серьезную опасность для Соединенных Штатов и всего мира».
Он заявляет: «Таким образом, ключевой частью стратегии развития демократии является поддержание как можно большего превосходства демократий над автократиями в области ИИ, чтобы дать нам необходимое пространство для эффективного развития».
«Демократия», по мнению Амодеи, — это формула, с помощью которой должна быть легитимизирована интеграция корпораций, разрабатывающих ИИ, в военную машину. Соединенные Штаты — это не «демократия». Президент Трамп, открытый поклонник Гитлера, не приемлющий никакого правового контроля над своей властью, ведет незаконные войны по всему миру и вооружает Израиль для геноцида в Газе. Модели Anthropic использовались при похищении президента Венесуэлы в январе этого года, а в системе наведения корпорации Palantir — в ходе войны против Ирана, где в первое же утро ракетный удар убил 165 детей в начальной школе для девочек в Минабе.
В ответ на кампанию паники Трамп заявил: «Утверждение о том, что “ИИ захватит мир”, — это обман», — и призвал к полной отмене всех климатических ограничений на развитие центров обработки данных для ИИ. Он похвастался: «ИИ и центры обработки данных станут величайшим двигателем экономического развития в истории — более мощным, чем нефть, золото, алмазы или даже Интернет».
Трамп выражает мнение той фракции финансовой олигархии США, которая больше всего опасается, что любое падение рынка вызовет финансовый коллапс. Таким образом, «катастрофа ИИ» оспаривается внутри самого правящего класса: между фракцией, чье благосостояние связано с бумом центров обработки данных и рынком, и лабораториями и органами национальной безопасности, для которых эта технология прежде всего является оружием. NYT выражает мнение последних.
Наибольшая опасность заключается в анархическом характере самого развития этой технологии. Системы огромной и до сих пор не измеренной мощности создаются горсткой конкурирующих корпораций, соревнующихся друг с другом за долю рынка и рыночную капитализацию, при этом механизмы защиты отключаются, когда они замедляют гонку, и отсутствует какой-либо общественный контроль.
Это те же самые люди, которые ведут мир к грани ядерной войны, которые позволили пандемии убить десятки миллионов людей вместо того, чтобы прервать процесс извлечения прибыли, и которые отказались от любых попыток остановить глобальное потепление.
Та же самая мощь, которая делает эту технологию столь опасной в руках олигархии, в руках рабочего класса превратит её в потенциально невероятно мощный инструмент человеческого прогресса. Искусственный интеллект можно использовать для разработки лекарств и вакцин, выявления эпидемий до их распространения, диагностики заболеваний для миллиардов людей, никогда не обращавшихся к специалисту, обеспечения каждого ребёнка учителем на каждом языке, планирования производства и распределения в мировом масштабе, чтобы не уничтожались запасы продовольствия, пока люди голодают, а также проведения реорганизации энергетики и промышленности, необходимой для того, чтобы остановить глобальное потепление.
Технологические олигархи постоянно говорят о «соответствии» технологий потребностям «общества». Но они преспокойно игнорируют тот факт, что «общество» состоит из антагонистических классов, и что их программа по сокращению рабочих мест подавляющего большинства населения напрямую противоречит стремлению людей, которых они намерены уволить, прокормиться.
Иными словами, «соответствие» ИИ капитализму — это соответствие программе войны и стремительного роста неравенства.
Эссе Амодеи, независимо от его намерений, — это признание. Он пишет, что темпы развития необходимо замедлить, но признает, что это невозможно из-за конкуренции между корпорациями и соперничества с Китаем. Он описывает технологию, развитие которой капитализм не в состоянии контролировать, и предлагает государству взять её под свой контроль в военных целях. Вопрос о том, кто контролирует темпы развития этой технологии и с какой целью, — это вопрос, который вся эта шумиха призвана скрыть от общественности.
Резолюция, принятая на съезде Партии Социалистического Равенства в августе этого года, «отвергает как некритическое благоговение, пропагандируемое апологетами индустрии, так и иррациональный страх технофобов, осознавая подлинно революционный и противоречивый характер технологии», и требует, чтобы «крупные корпорации в сфере ИИ, облачных вычислений, полупроводников и цифровых платформ [были] экспроприированы и преобразованы в общественные предприятия под демократическим контролем рабочего класса».
Единственный способ «привести» технологии в соответствие с потребностями подавляющего большинства общества — это осуществление социального контроля над производительными силами со стороны рабочего класса, то есть социализм.