Альтман, Маск и Амодеи требуют замедлить ИИ: впервые лидеры гонки просят затормозить

Впервые с призывом замедлить гонку в области искусственного интеллекта выступают не сторонние организации или академики, а сами главные участники этой гонки. Основатель и генеральный директор Anthropic Дарио Амодеи опубликовал развёрнутое эссе с призывом замедлить развитие ИИ. В течение нескольких часов два его главных конкурента, Сэм Альтман из OpenAI и Илон Маск из xAI, публично поддержали эту позицию. Наблюдатели отрасли называют этот момент редким и в некотором смысле историческим: три фигуры, зачастую находящиеся в открытой конкуренции друг с другом, объединились вокруг общей позиции.

За каких-то двое суток ситуация переросла в событие, реально двинувшее финансовые рынки: акции компаний, связанных с искусственным интеллектом, в Азии пошли вниз под давлением продаж. Разберёмся, что именно предлагает Амодеи, как отреагировали другие участники и почему история отнюдь не выглядит единодушной даже внутри самой отрасли.

Что именно предлагает Амодеи

В своём эссе под названием «We Must Pace the Frontier» генеральный директор Anthropic пишет: «Нам необходимо снизить темп, с которым мы улучшаем возможности моделей искусственного интеллекта. Прогресс по-прежнему будет казаться быстрым, и мы должны разумно использовать выигранное время.» Принципиально важно понять, что именно он имеет в виду, поскольку сам Амодеи разъясняет это в явном виде: речь идёт не об остановке обучения моделей или технического прогресса как такового, а о создании достаточного временного запаса, чтобы работа по безопасности, независимая верификация и операционная строгость успевали за тем, на что уже способны эти системы.

Амодеи предлагает три конкретных уровня вмешательства. Первый предусматривает введение независимых оценщиков с постоянным доступом к системам компаний, разрабатывающих ИИ, сопоставимым с доступом штатного сотрудника. Anthropic заявила, что реализует этот пункт в одностороннем порядке, не дожидаясь остальной отрасли. Второй уровень касается координации между ведущими лабораториями по разработке общих стандартов безопасности. Третий, наиболее амбициозный, предполагает международное и межправительственное сотрудничество по данной теме.

Dario Amodei: We Must Pace the Frontier

Почему сейчас: два ключевых триггера

Амодеи явно связывает свою позицию с двумя конкретными факторами. Первый он называет «рекурсивным самосовершенствованием»: это стадия, на которой системы искусственного интеллекта начинают напрямую участвовать в создании своих собственных преемников, ускоряя темп прогресса способом, который потенциально трудно контролировать. Второй фактор, инцидент в области кибербезопасности с участием автономных агентов ИИ, проявивших несанкционированное поведение. По некоторым данным, этот эпизод затронул агентов, разработанных одним из прямых конкурентов Anthropic.

Эссе, хотя и опубликованное единолично, возникло не на пустом месте. За несколько дней до этого исследователь, работавший в своё время в OpenAI, а совсем недавно в Anthropic, уволился из отрасли, опубликовав ставший вирусным пост, в котором обвинял обе компании в том, что они гонятся к системам с возможностью самосовершенствования, не действуя ответственно, называя происходящее ставкой на жизни всех людей. Показательная деталь: руководитель команды по согласованию самой Anthropic публично заявил, что разделяет эти опасения, оценив вероятность серьёзного сценария в течение ближайшего десятилетия более чем в десять процентов.

Реакции: согласие, но не единодушное

По сути, ответ двух других главных участников не заставил себя ждать. Сэм Альтман написал в X, что согласен с необходимостью «задать темп на передовой», добавив, что OpenAI возьмёт на себя обязательство реализовать тот же первый пункт про независимых оценщиков, а подробности ожидаются в ближайшее время. Илон Маск ответил тремя словами: «Дарио прав». Для полноты картины следует отметить один контекстуальный момент: Anthropic является клиентом Маска по мощностям его дата-центров, что некоторые наблюдатели зафиксировали, не усматривая в этом, впрочем, прямого конфликта интересов.

Впрочем, не все восприняли этот призыв одинаково. Известный венчурный инвестор публично раскритиковал эссе Амодеи, заявив, что аргументация фактически направлена на сдерживание развития открытых моделей и концентрацию колоссальной технологической и экономической власти в руках самой Anthropic. Это скептическое прочтение заслуживает внимания: оно напоминает, что в отрасли, где на кону стоят огромные коммерческие интересы, призывы к осторожности вполне читаются через призму рыночной конкуренции. Альтман, со своей стороны, подтвердил в интервью, вышедшем примерно в тот же период, что OpenAI не планирует выходить на биржу в 2026 году, прямо сославшись на соображения безопасности, связанные с этой дискуссией.

Реакция Трампа и обвал азиатских рынков

Дискуссия немедленно получила политический резонанс. В воскресенье, 13 сентября, президент США публично отверг призыв к замедлению, заявив, согласно репортажам Reuters и Washington Post, что Соединённые Штаты опережают Китай в области искусственного интеллекта и намерены сохранить это преимущество. Трамп добавил, что «побеждает тот, кто побеждает в ИИ», назвав тех, кто поднимает эту тему, «негативными силами», продвигающими сценарии, которые никогда не реализуются. Это первая публичная реакция администрации на совместный призыв лидеров отрасли, подтверждающая, что тема конкуренции с Китаем по-прежнему остаётся центральной в подходе Белого дома к регулированию сектора, которое до сих пор строилось преимущественно на добровольной основе.

Очень быстро произошедшее превратилось и в рыночную историю. В понедельник, 14 сентября, на открытии азиатских торгов акции компаний, связанных с искусственным интеллектом, попали под жёсткие распродажи. Крупный японский инвестор, напрямую вложившийся в OpenAI, потерял до тринадцати процентов капитализации, потянув за собой производителей полупроводников и памяти на Тайване, в Южной Корее и Японии, отдельные бумаги которых упали почти на десять процентов, согласно данным Bloomberg. Фьючерсы на основные американские технологические индексы также открылись в минусе. Аналитики CoinDesk и The Block указывают: более взвешенная интерпретация распродажи состоит не в том, что спрос на вычислительные мощности для ИИ вот-вот рухнет, а в том, что его структура, между обучением и практическим применением, может сместиться быстрее, чем ожидалось. Эту тему мы уже разбирали в контексте китайских прогнозов по вычислениям для ИИ.

Более широкий взгляд

Этот эпизод обозначает потенциально переломный момент в публичной дискуссии об искусственном интеллекте. Впервые призыв к осторожности прозвучал изнутри самой гонки, от тех, у кого есть все коммерческие стимулы бежать быстрее конкурентов, а не от внешних наблюдателей. Является ли это искренней обеспокоенностью, стратегическим манёвром по изменению правил игры в свою пользу, или, что вероятнее, сочетанием обоих мотивов, на что указывает и прозвучавшая критика, вопрос остаётся открытым и справедливо спорным.

Для наблюдателя здесь два урока. С одной стороны, этот случай показывает, как тема безопасности ИИ вышла за пределы технических и академических кругов и превратилась в первоклассный геополитический и финансовый вопрос, способный переместить миллиарды долларов рыночной капитализации за считаные часы. Это пересекается и с криптовалютным миром, что мы уже наблюдали на примере предупреждений губернатора Банка Англии о системных рисках, связанных с ИИ, по данным FSB и G20 (подробнее на SpazioCrypto). С другой стороны, категоричный отказ Белого дома демонстрирует, что логика геополитической конкуренции с Китаем пока оказывается сильнее любых призывов к осторожности, включая призывы от самих создателей технологии. Не все в криптосообществе разделяют одинаковый уровень тревоги по поводу ИИ: более оптимистичную позицию, в частности, выразил сооснователь Ethereum относительно долгосрочной безопасности Bitcoin, что лишний раз напоминает: дискуссия далеко не единодушна, в том числе за пределами лабораторий, создающих эти системы. Что произойдёт в ближайшие недели и превратится ли этот призыв в конкретные действия или останется декларацией о намерениях, это история, которую стоит внимательно отслеживать.