Anthropic об открытых весах: не запрет, а тесты для мощных моделей
Дарио Амодеи объяснил позицию Anthropic: открытые модели без опасных возможностей — общественное благо, а мощным системам нужны обязательные тесты.
Факты проверены 28 июля 2026 года. Anthropic не предлагает запрещать модели с открытыми весами как категорию. Компания считает модели без опасных возможностей общественным благом, но предлагает обязательные проверки достаточно мощных открытых и закрытых систем на кибер-, биологические риски и проблемы согласования с намерениями человека.
Эту позицию 27 июля изложил генеральный директор Anthropic Дарио Амодеи. Поводом стало отраслевое письмо в защиту открытых весов и обвинения в том, что разработчик Claude добивается ограничений ради защиты закрытой бизнес-модели. Амодеи отрицает такой мотив и проводит границу по возможностям модели, а не по способу распространения.
Открытые веса не равны полному открытому исходному коду
Модель с открытыми весами можно скачать, запустить на своей инфраструктуре и модифицировать. После публикации копии нельзя отозвать у всех владельцев, а встроенные ограничения можно удалить. У закрытой модели разработчик сохраняет контроль над доступом через собственный сервис или API.
Термины open-weight и open source нельзя считать полными синонимами. По определению Open Source Initiative, для полноценной открытости нужны не только параметры, но и код обучения, сведения о данных и условия, позволяющие использовать, изучать, изменять и распространять систему. Подробнее о практическом выборе мы писали в разборе о том, чем открытые веса отличаются от закрытого API.
Где Anthropic проводит границу риска
В первичном посте Anthropic Амодеи называет две группы опасений. Первая связана с геополитикой: по его оценке, авторитарное государство может создать более мощную модель и применить её для военного превосходства или массового наблюдения. Открытость здесь вторична: наиболее опасная система, пишет он, может остаться секретной.
Вторая группа касается возможного применения мощных моделей в кибератаках, биологических атаках и проблем согласования поведения модели с целями разработчиков. Anthropic считает открытые веса потенциально более рискованными, потому что владелец копии может убрать ограничения, работать без мониторинга и продолжить использование после того, как разработчик обнаружит проблему.
Это позиция компании, а не доказательство того, что любая открытая модель опаснее закрытой. Сам Амодеи предлагает решать вопрос испытаниями до выпуска. Британский AI Security Institute в июле обнаружил, что проверенные открытые модели отставали от закрытого киберфронтира на четыре–семь месяцев. На узких киберзадачах разрыв сократился до четырёх–пяти месяцев против шести–десяти в большей части 2025 года. Эти тесты измеряют возможности в контролируемой среде, а не реальный ущерб.
Три меры Anthropic вместо запрета
Предложения Амодеи сосредоточены на вычислительной инфраструктуре, промышленной дистилляции и проверках перед выпуском. По состоянию на 28 июля это позиция компании, а не действующий международный режим.
| Предлагаемая мера | Какую проблему должна решать | К каким моделям относится | Чего это не означает | Источник |
|---|---|---|---|---|
| Ограничить поставки передовых чипов и оборудования для их производства в Китай, пресекать контрабанду | Сдержать обучение моделей, которые, по оценке Anthropic, могут дать авторитарному государству преимущество | К цепочке поставок вычислительных ресурсов, независимо от будущей открытости модели | Не запрет на использование всех открытых моделей американскими компаниями | Anthropic, 27.07.2026 |
| Противодействовать промышленной дистилляции закрытых моделей | Не дать разработчикам обходить дефицит чипов, массово обучая модель на ответах более сильной системы | К крупным операциям по извлечению возможностей; открытые веса конечной модели для этого тезиса вторичны | Не общий запрет дистилляции как метода обучения и оценки | Anthropic, отраслевое письмо |
| Обязательные проверки до выпуска | Измерить кибер-, биологические риски и проблемы согласования вместо предположений об опасности формата | Ко всем достаточно мощным моделям, открытым и закрытым, независимо от страны происхождения | Не требование тестировать небольшие модели стартапов и академических групп по тем же правилам | Anthropic, 27.07.2026 |
Самая спорная мера — борьба с промышленной дистилляцией. Anthropic утверждает, что она позволяет китайским лабораториям приблизиться к американскому фронтиру на несколько месяцев при меньших затратах вычислений. Одновременно компания признаёт сложность контроля: массовые сети поддельных учётных записей часто обнаруживают уже после передачи большого объёма ответов. Отдельный конфликт вокруг этого метода мы разбирали в материале о том, почему Anthropic связывает промышленную дистилляцию с экспортным контролем.
Почему Anthropic не подписала отраслевое письмо
Письмо Open Weights and American AI Leadership вышло 24 июля. Среди подписантов указаны NVIDIA, Google, OpenAI, Microsoft, Meta, Hugging Face, Mozilla и другие компании; Anthropic в списке нет. Авторы просят власти США не вводить преждевременные ограничения, расширять доступ к вычислениям и общим наборам данных, а нарушения при дистилляции преследовать адресно.
Амодеи согласен с аргументами о доступности, конкуренции и контроле заказчика над собственной инфраструктурой. Расхождение начинается в разделе о безопасности. Авторы письма считают, что открытые модели дают защитникам доступ к сопоставимым возможностям и позволяют большему числу исследователей искать уязвимости. Глава Anthropic отвечает, что преимущество защитников нельзя считать автоматическим, особенно в биологии, и требует подтвердить его испытаниями.
Коммерческий интерес остаётся частью спора
Anthropic зарабатывает на доступе к закрытым моделям, поэтому ограничения для открытых конкурентов способны дать компании коммерческую выгоду. Axios отмечает, что этот аргумент публично выдвигал советник Белого дома по ИИ Дэвид Сакс. Амодеи признаёт, что запрет защитил бы американские лаборатории от части конкуренции, но утверждает, что это не его цель.
Наличие коммерческого интереса не доказывает скрытый мотив, но повышает требования к проверяемости предложений. В посте Anthropic нет числового порога «достаточно мощной» модели, списка обязательных тестов и механизма глобального исполнения. Более того, Амодеи пишет, что действенная система потребует участия Китая. Пока эти детали не определены, формула «регулировать возможности, а не лицензию» задаёт направление, но не готовое правило.
Практический критерий для регулятора должен быть нейтральным к бизнес-модели: одинаковые проверяемые пороги для открытых и закрытых систем, независимая методика и заранее описанные последствия провала. Схожую проблему мы рассматривали на примере того, как контроль frontier-моделей возникает через тесты и государственные меры.
Короткие ответы
Хочет ли Anthropic запретить открытые модели?
Нет. В официальной позиции от 27 июля компания прямо отрицает призыв к запрету моделей с открытыми весами как категории и называет системы без опасных возможностей общественным благом.
Почему открытые веса, по мнению Anthropic, могут быть рискованнее?
После публикации весов разработчик не может отозвать все копии, гарантированно сохранить ограничения или видеть способы применения. Anthropic считает это дополнительным риском для достаточно мощных систем; реальный масштаб риска компания предлагает определять испытаниями.
Какие меры предлагает Дарио Амодеи вместо запрета?
Три меры: контроль поставок передовых чипов авторитарным государствам, противодействие промышленной дистилляции и обязательные проверки достаточно мощных моделей до выпуска.
Относится ли требование проверок только к открытым моделям?
Нет. Предложение Anthropic охватывает достаточно мощные открытые и закрытые модели независимо от страны происхождения. Небольшие системы стартапов и академических групп Амодеи предлагает освободить от такого режима.
Спор вокруг позиции Anthropic идёт не по простой оси «открыто или закрыто». Компания предлагает привязать регулирование к уровню возможностей, но отрасли ещё предстоит договориться о порогах, испытаниях и независимом контроле. Без этих деталей даже формально нейтральное правило может на практике усилить крупнейших разработчиков закрытых моделей.
