OpenAI beneficial trait training: как RL делает модели устойчивее
OpenAI проверила beneficial-trait training: 5% данных в RL post-training улучшили 44 из 53 evals. Разбираем, что это значит для alignment и где границы вывода.
безопасность
Безопасность ИИ: атаки на языковые модели, защита данных, alignment и этические вопросы применения AI.
Аудит прозрачности DiffusionGemma: что видно в reasoning
Свежий аудит DiffusionGemma проверяет, насколько reasoning у diffusion-LLM остаётся наблюдаемым: opaque serial depth, token bottleneck и monitorability.
MosaicLeaks: как deep-research агенты выдают секреты через поиск
MosaicLeaks показывает, что deep-research агент может раскрыть приватные факты не ответом, а журналом внешних поисковых запросов.
DeepMind AI Control Roadmap: как Google предлагает контролировать сильных AI-агентов
Google DeepMind выпустила AI Control Roadmap: дорожную карту системных защит для сильных AI-агентов внутри корпоративной инфраструктуры.
Отравление AI search через Reddit: как UGC попадает в ответы
Исследование Cornell показывает, как UGC на Reddit, Quora и Wikipedia может отравлять ответы AI search. Объясняем WARP, риски цитат и границы выводов.
OpenAI health intelligence в ChatGPT: где границы рывка
OpenAI заявляет, что GPT-5.5 Instant стал лучше отвечать на вопросы о здоровье. Разбираем HealthBench, врачебные evals и границы claims.
Anthropic jailbreaks: почему Fable 5 нельзя защитить одним патчем
Anthropic jailbreaks стали поводом для отключения Fable 5 и Mythos 5. Разбираем, почему guardrails снижают риск, но не доказывают отсутствие всех обходов.