Prompt injection в jqwik: stdout как риск для AI coding agents
jqwik 1.10.0 добавил prompt injection в stdout тестового движка. Разбираем, почему проблема не в одной строке, а в том, что AI coding agents читают логи как рабочий контекст.
Последние
Архив всех последних публикаций Toolarium без дублирования главной страницы.
AI-агенты в финансах: что меняет торговля через Robinhood
AI-агенты переходят от финансовых советов к операциям с деньгами. Разбираем на кейсах Robinhood, ChatGPT, Anthropic и Visa, где нужны лимиты и контроль.
Mistral Vibe: рабочая агентная платформа для команд
Mistral Vibe объединяет Work, Code и Le Chat вокруг задач, коннекторов и pull request. Что подтверждено официально и где остаются вопросы.
AI safety закон Иллинойса: SB 315 прошёл обе палаты
SB 315 прошёл обе палаты Иллинойса и может стать новым американским стандартом AI safety для frontier labs: аудит, отчёты, инциденты и роль штатов.
Yandex ARGUS рекомендации: как Яндекс уходит от каскадов
Яндекс показал, как ARGUS переводит рекомендации от каскадов и ручных признаков к генеративной модели пользовательских последовательностей.
Google Cloud и Gemini API keys: где ломается AI security
Почему старые Google API keys стали опаснее после Gemini: публичные ключи, счета за инференс, задержки budget alerts и окно отзыва до 23 минут.
Квантизация LLM может ломать alignment: почему perplexity не хватает
Разбор arXiv-работы Quantization Undoes Alignment: как 3-bit квантизация может добавлять bias и почему safety-аудит нужен после сжатия.