Финансовая
квинтэссенция Федор
Рогач

Экспортный контроль в отношении систем Fable и Mythos поставил под сомнение методы надзора Вашингтона за наиболее мощными технологиями ИИ. Компания стоимостью $900 млрд была вынуждена приостановить доступ к своим разработкам спустя всего несколько дней после их релиза

По данным источника, близкого к компании, Anthropic дали всего 90 минут на выполнение предписания. При этом детальные претензии до выпуска приказа не озвучивались. В минувшие выходные компания направила в Вашингтон группу ведущих технических специалистов в попытке локализовать последствия инцидента.

Amazon «приложил руку» к блокировке

Поводом для директивы стал отчет исследователей Amazon. Они обнаружили в модели Fable потенциальную возможность «джейлбрейка» — способа обхода встроенных ограничений системы для извлечения данных об уязвимостях в программном обеспечении. Изначально Amazon поделилась этими выводами с самой Anthropic. Гендиректор Amazon Энди Джасси обсудил данную проблему с официальными лицами США в пятницу.

Сообщается, что Джасси, чья компания инвестировала в Anthropic $13 млрд, в целом обеспокоен возможностями передовых моделей, его претензии распространяются не только на партнера. В Amazon заявили: «Правительства нередко обращаются к нам за консультацией по потенциальным рискам безопасности. Мы не раскрываем детали таких обсуждений».

Источники, знакомые с ситуацией, подчеркивают парадоксальность происходящего: модель Fable была протестирована и одобрена к запуску структурами того же министерства торговли всего за несколько дней до ее официального выхода.

Anthropic оспаривает действия администрации. Представители компании утверждают, что выявленные уязвимости не уникальны, они есть в конкурирующих системах, включая те, что разрабатываются OpenAI. Ситуация высветила отсутствие четких правил игры в вопросе контроля над самыми мощными ИИ-системами в США.

Устранение уязвимостей такого типа потребует недель исследований и разработки, при этом эксперты по безопасности предупреждают: нет никаких гарантий, что на их месте не возникнут новые. Источник, близкий к Anthropic, сообщил, что компания плотно взаимодействует с правительством, пытаясь найти точки соприкосновения и определить дальнейшие шаги.

Руководители ИТ-компаний и исследователи подчеркивают: использование механизмов экспортного контроля для решения вопросов безопасности моделей создает опасную неопределенность вокруг внедрения передового ИИ.

«Полностью устранить возможность „джейлбрейка“ в таких моделях невозможно, это крайне неточная наука, и об этом все знают», — отмечает Хелен Тонер, бывший член совета директоров OpenAI и исполнительный директор Центра безопасности и новых технологий Джорджтаунского университета. — «Безусловно, правительству стоит ожидать, что модели OpenAI и Google способны на аналогичные вещи».

Кэти Муссурис, исследователь в области безопасности, ознакомившаяся с выводами Amazon, утверждает, что выявленные способности модели (включая поиск потенциальных киберуязвимостей) не являются чем-то из ряда вон выходящим.

По ее словам, модели конкурентов, включая GPT 5.5 от OpenAI, способны на то же самое. Муссурис, возглавляющая компанию Luta Security, убеждена, что встроенные ограничения модели работали штатно. «Администрация совершила ошибку», — резюмировала она.

Anthropic узнал, что такое политическое давление

Вмешательство властей выглядит особенно резонансным, поскольку глава Anthropic Дарио Амодеи был одним из самых активных лидеров индустрии, предупреждавших об опасностях, которые несут в себе продвинутые системы.

Последняя разработка компании, система Mythos, продемонстрировала способность преодолевать некоторые существующие средства киберзащиты. Перед широким релизом на прошлой неделе Anthropic работала с правительственными чиновниками над планом контролируемого развертывания модели.

Приказ о заморозке последовал за серией публичных столкновений высокопоставленных государственных деятелей с руководством Anthropic. Споры касались регулирования ИИ, а также использования технологий компании в системах внутренней слежки и летальном автономном оружии. Ранее Пентагон внес Anthropic в список угроз национальной безопасности в цепочке поставок; на данный момент стороны ведут судебное разбирательство по поводу этого статуса.

Администрация Трампа охарактеризовала предпринятые меры как вопрос национальной безопасности, не связанный с прошлыми спорами. Официальный представитель США сообщил Financial Times, что устранение уязвимости («патч» джейлбрейка) может разрешить текущее противостояние.

Однако министр обороны Пит Хегсет прямо связал этот эпизод со своей критикой в адрес Anthropic. В социальной сети X он написал, что его ведомство ранее выставило компанию «из своего здания навсегда», добавив: «Каждый новый день доказывает, что это был верный шаг».

Международное сообщество недовольно методами США

Европейская комиссия, недавно получившая доступ к новейшим моделям Anthropic, заявила, что оценивает последствия директивы для своих граждан.

«Эти модели дают значительные преимущества, в том числе для киберзащиты, но они также порождают серьезные опасения в сфере кибербезопасности, которые необходимо устранить», — отметили в Комиссии. Там также подчеркнули, что это общая проблема, не ограничивающаяся одной юрисдикцией или компанией, и что чрезвычайные меры «не должны носить дискриминационный характер в отношении партнеров».

Хелен Тонер считает, что выбранный властями инструмент — экспортный контроль — крайне плохо подходит для решения поставленных задач. «Он лишает иностранные правительства возможности использовать технологию в то самое время, когда союзники должны применять её для целей киберобороны», — пояснила она.

Ранее Белый дом подавал сигналы о менее интервенционистском подходе к развертыванию передовых моделей. Указ, подписанный в начале этого месяца, не содержал механизмов, позволяющих правительству США блокировать релиз моделей. По словам источника, близкого к OpenAI, ведущие ИИ-компании сотрудничали с правительством в рамках реализации этого указа.

Источник.