Claude Code backdoor: что заявила китайская NVDB
Китайская NVDB заявила о backdoor-риске в Claude Code. Разбираем, что известно о версиях 2.1.91-2.1.196, почему важен контекст Anthropic и как компаниям читать такой warning.
безопасность
Безопасность ИИ: атаки на языковые модели, защита данных, alignment и этические вопросы применения AI.
HalluSquatting: supply-chain атака на AI coding tools
HalluSquatting делает галлюцинации LLM риском цепочки поставки: coding agent может скачать и запустить ресурс, который атакующий занял заранее.
Jacobian Lens Claude: как Anthropic читает J-Space
Anthropic показала Jacobian Lens и J-Space — часть внутренней рабочей памяти Claude. Разбираем метод, safety-кейсы и границы вывода про сознание.
Китайские export controls для AI-моделей: новый риск для Европы
Китай может ограничить зарубежный доступ к топовым AI-моделям. Разбираем, почему экспортный контроль смещается от чипов к API и весам.
Автономные UGV в Украине: что показали Lancer от Forterra
Forterra раскрыла применение 100+ Lancer в Украине. Разбираем, где автономность работает, где нужен оператор и почему это вопрос AI safety.
Почему SFT data filtering плохо убирает поведение LLM
SFT data filtering кажется простым способом убрать нежелательное поведение LLM, но новые эксперименты показывают: черты могут переноситься через teacher model, prompt distribution и соседние сигналы в SFT-данных.
Доверие к AI coding agents: уроки истории Claude Code
История Claude Code и Google Save Media показывает: AI-агентам нужно доверять не только код, но и прозрачность данных, telemetry и opt-out.