Anthropic Claude: от стартапа по безопасности ИИ к лидеру рынка

Anthropic основали в 2021 году Дарио и Даниэла Амодеи — брат и сестра, ушедшие из OpenAI. С ними ушли несколько ведущих исследователей. Причина — разногласия по вопросам безопасности ИИ и стратегии развития. Три года спустя Anthropic оценивается в $60 миллиардов, а Claude конкурирует с GPT-4 за звание лучшей языковой модели.

Предыстория: почему ушли из OpenAI

Дарио Амодеи возглавлял исследовательское направление в OpenAI. Он участвовал в создании GPT-2 и GPT-3. К 2020 году внутри OpenAI нарастали противоречия: коммерциализация ускорялась, а вопросы безопасности, по мнению части команды, отходили на второй план.

Амодеи не были первыми — из OpenAI уходили и до них. Но их уход был системным: вместе с основателями ушли около десяти исследователей, включая специалистов по alignment, интерпретируемости и масштабированию моделей. Anthropic с первого дня позиционировалась как AI safety company — компания, для которой безопасность ИИ не дополнение к продукту, а фундамент.

Финансирование: $7 миллиардов за три года

Несмотря на исследовательскую миссию, Anthropic привлекла одно из крупнейших финансирований в истории ИИ:

• 2023: Amazon инвестирует $4 миллиарда, став крупнейшим инвестором
• 2024: Google вкладывает $2 миллиарда (в дополнение к ранним инвестициям)
• 2024: общая оценка достигает $60 миллиардов

Логика инвесторов: Anthropic строит модели, конкурирующие с OpenAI, но с другим подходом к безопасности. Для Amazon — это ключевой ИИ-партнёр для AWS. Для Google — диверсификация ставок помимо собственного Gemini.

Технологии: что сделала Anthropic

Constitutional AI

Фирменный метод alignment. Вместо дорогой человеческой разметки (RLHF) Anthropic использует набор принципов — «конституцию» — и саму модель для оценки ответов. Модель критикует собственные ответы, ревизирует их и учится на ревизиях. Это масштабируемее и прозрачнее: принципы опубликованы, процесс воспроизводим.

Интерпретируемость

Anthropic — лидер в исследованиях интерпретируемости: понимании того, как нейросеть принимает решения. В мае 2024 года команда опубликовала работу по «feature extraction» из Claude 3 Sonnet — идентификации конкретных концепций (города, эмоции, программные конструкции), закодированных в нейронах модели. Это не просто академическое упражнение: понимание внутреннего устройства модели — путь к предсказуемости и контролю.

Responsible Scaling Policy

Anthropic первой опубликовала формализованную политику ответственного масштабирования. Определены уровни возможностей модели (ASL — AI Safety Levels) и требования безопасности для каждого уровня. Модель не выпускается, пока не проходит тестирование, соответствующее её уровню. Другие компании (OpenAI, Google) позже адаптировали похожие фреймворки.

Claude: хронология моделей

Claude 1 (март 2023)

Первая публичная модель. Контекстное окно 9 000 токенов. Качество — между GPT-3.5 и GPT-4. Главное отличие — поведение: Claude 1 отвечал более осторожно и вежливо, что отражало подход Constitutional AI.

Claude 2 (июль 2023)

Контекстное окно выросло до 100 000 токенов — на тот момент крупнейшее в индустрии. Модель стала значительно умнее, особенно в программировании и математике. Поддержка загрузки документов через веб-интерфейс.

Claude 3 (март 2024)

Переломный момент. Три модели: Haiku (быстрая), Sonnet (баланс), Opus (флагман). Claude 3 Opus по бенчмаркам сравнялся с GPT-4 Turbo, а на некоторых задачах превзошёл его. Впервые — поддержка изображений (vision). Контекстное окно: 200 000 токенов.

Claude 3.5 Sonnet (июнь 2024)

Модель среднего тиера, которая превзошла Claude 3 Opus — предыдущий флагман. Claude 3.5 Sonnet стал одной из самых популярных моделей среди разработчиков: быстрый, умный, отлично работает с кодом. По бенчмаркам — на уровне GPT-4o при значительно меньшей стоимости.

Claude 3.5 Haiku и Computer Use (октябрь 2024)

Anthropic представила Computer Use — возможность модели управлять компьютером через графический интерфейс: двигать мышь, кликать, набирать текст, навигировать между окнами. Claude стал первой моделью с публичным API для управления GUI.

Продукты и API

claude.ai — веб-интерфейс для диалога с Claude. Бесплатный тариф с ограничениями, Pro ($20/месяц) с приоритетным доступом и увеличенными лимитами.

Claude API — для разработчиков. Messages API, tool use (function calling), vision, streaming. Ценообразование по токенам.

Claude for Enterprise — для организаций: SSO, администрирование, гарантии обработки данных (данные не используются для обучения), расширенные лимиты.

Claude Code — терминальный агент для программистов. Читает кодовую базу, вносит изменения, запускает команды. Отдельный продукт, не плагин к IDE.

Сильные стороны Claude

Работа с длинным контекстом. 200 000 токенов — не просто число. Anthropic показала, что Claude надёжно находит и использует информацию из всех частей контекста (тест «needle in a haystack»). Это критично для анализа длинных документов и кодовых баз.

Следование инструкциям. Claude точнее конкурентов выполняет сложные, многоступенчатые инструкции. Системный промпт соблюдается стабильнее.

Безопасность без потери полезности. Claude отказывает редко — но когда отказывает, делает это по делу. Баланс overrefusal/helpfulness — один из лучших в индустрии.

Кодинг. Claude 3.5 Sonnet — одна из самых сильных моделей для программирования. По бенчмарку SWE-bench (решение реальных issues из GitHub) Claude лидирует.

Конкуренция и позиционирование

Anthropic занимает уникальную позицию. OpenAI — массовый рынок и бренд ChatGPT. Google — интеграция в экосистему (Search, Workspace, Cloud). Anthropic делает ставку на качество модели, безопасность и developer experience.

Эта стратегия работает: Claude стал моделью по умолчанию для значительной части разработчиков, особенно для задач, требующих длинного контекста, точного следования инструкциям и работы с кодом.

Хронология Anthropic: ключевые даты

Почему основатели ушли из OpenAI

Группа во главе с Дарио Амодеи (VP of Research в OpenAI) покинула компанию из-за разногласий в подходе к безопасности ИИ:

• OpenAI ускоряла развёртывание GPT-4 без, по мнению основателей, достаточного тестирования на безопасность
• Коммерческое давление от Microsoft ($13 млрд инвестиций) влияло на исследовательские приоритеты
• Разногласия по вопросу governance: Anthropic выбрала структуру Public Benefit Corporation вместо for-profit

Концепция «Constitutional AI»

Ключевое технологическое отличие Anthropic — метод обучения Constitutional AI (CAI):

• Модель обучается следовать набору принципов («конституции»), а не только RLHF от людей
• Это снижает зависимость от ручной разметки и позволяет масштабировать safety-тренинг
• Claude менее склонен к harmful outputs даже при adversarial prompting по сравнению с GPT-4

Бизнес-модель и конкуренты

• Прямые конкуренты: OpenAI (ChatGPT), Google DeepMind (Gemini), xAI (Grok), Meta (Llama)
• Клиенты API: Notion, Slack, Quora (Poe), Amazon Bedrock, Salesforce Einstein
• Выручка 2025: по оценкам аналитиков, ~$1.5–2 млрд ARR — рост в 3× за год
• Основные инвесторы: Amazon (крупнейший), Google, Spark Capital, Salesforce

Читайте также

• Claude 4: что нового в модели Anthropic
• Claude API: руководство для разработчиков
• Безопасность ИИ: что такое alignment