Войти Подписаться

безопасность

Безопасность ИИ: атаки на языковые модели, защита данных, alignment и этические вопросы применения AI.

Anthropic отказывается от военного контракта с Пентагоном на 200 млн долларов

ИИ идёт на войну: Anthropic против Пентагона, протесты и 1000 целей за сутки

Как конфликт Anthropic с Пентагоном вокруг контракта на $200 млн стал стресс-тестом для всей индустрии ИИ: протесты QuitGPT, взлёт Claude и реальное применение в военных операциях.

GitHub issue о критической supply-chain уязвимости в LiteLLM

безопасность

Взлом LiteLLM на PyPI: как хакеры превратили ИИ-библиотеку в кражу паролей

Хакерская группа TeamPCP опубликовала вредоносные версии LiteLLM на PyPI. Трёхступенчатый стилер крал credential'ы и распространялся по Kubernetes-кластерам. Разбираем цепочку атаки и способы защиты.

Сенатор Элизабет Уоррен и глава Пентагона Пит Хегсет

Уоррен назвала блокировку Anthropic «местью» Пентагона — суд решит судьбу ИИ-контрактов 24 марта

Сенатор Уоррен назвала блокировку Anthropic «местью» Пентагона за отказ снять ограничения Claude. 24 марта суд Сан-Франциско решит судьбу ИИ-контрактов.

AI Act в ЕС: регулирование ИИ для разработчиков

аналитика

AI Act в ЕС: что означает для разработчиков

AI Act вступает в силу — разбираем, что закон ЕС об ИИ означает для разработчиков, стартапов и open-source проектов.

Этика ИИ: ответственность за ошибки языковых моделей

аналитика

Этика ИИ: кто отвечает, когда модель ошибается

Автопилот совершает ДТП, медицинская модель ставит неверный диагноз, чат-бот даёт опасный совет. Кто отвечает — разработчик, оператор или пользователь?

ИИ и авторское право: где проходит граница

аналитика

ИИ и авторское право: где проходит граница

Суды в США, ЕС и Китае уже вынесли первые решения по авторскому праву на AI-контент. Единой позиции нет, но контуры правил проступают.

Безопасность ИИ и alignment: согласование целей модели

Безопасность ИИ: что такое alignment и почему это важно

Что такое alignment в ИИ: RLHF, Constitutional AI, red teaming. Почему обеспечение безопасности языковых моделей — одна из главных задач отрасли.

Telegram-канал @toolarium