Автономные дроны с ИИ: где заканчивается оператор

Автономные дроны с ИИ - это военные беспилотники, которые после запуска могут сами распознавать, выбирать или поражать цель по заданным параметрам. Ключевой вопрос не в том, есть ли внутри "искусственный интеллект", а в том, остаётся ли человек в цепочке применения силы.

12 июня 2026 года Ars Technica пересказала материал New Scientist о заявленном разовом тесте в Украине: по словам украинского предпринимателя Александра Кохановского, группа квадрокоптеров якобы атаковала цели без видеоканала, оператора и возможности вмешаться на финальном участке. Это не доказанный публичной записью эпизод и не сигнал, что война уже массово перешла к полностью автономным убийственным системам.

Но как маркер он важен. Даже если принять рассказ как ограниченный тест, он показывает, где проходит новая граница: между FPV-дроном, которому оператор вручную доводит удар, и системой, которой заранее задают район и профиль цели, а дальше она сама ищет, выбирает и атакует.

Что важно знать

• Источник новости - New Scientist; Ars Technica 12 июня 2026 года выпустила материал о том же эпизоде.
• Речь идёт о заявленном тесте двухлетней давности, а не о подтверждённой массовой практике.
• По пересказам материала, в тесте участвовали 10 AI-controlled квадрокоптеров, которые летели 3-5 км и переходили в автономный режим атаки.
• Публичной записи самих автономных ударов нет; результаты якобы проверяли уже после атаки с помощью пилотируемых дронов.
• ICRC определяет автономные вооружения как системы, которые выбирают и применяют силу без человеческого вмешательства.

Чем автономный дрон отличается от обычного FPV

FPV-дрон сам по себе не делает оружие автономным. В классическом сценарии человек видит картинку с камеры, выбирает цель, ведёт аппарат и принимает последнее решение. Да, связь может рваться, автоматика может стабилизировать полёт, а компьютерное зрение - помогать удерживать объект. Но пока человек подтверждает удар и может отменить действие, это другой класс риска.

Автономность появляется там, где оператор перестаёт выбирать конкретную цель и момент применения силы. Он задаёт район, ограничения и профиль цели, после чего система сама реагирует на данные сенсоров. Именно эту границу ICRC считает проблемной: пользователь может уже не знать, какую именно цель система выберет, где и когда будет нанесён удар.

Что именно утверждается про украинский тест

По материалу New Scientist, на который ссылается Ars Technica, тест якобы прошёл около двух лет назад в районе Бахмута и Часова Яра. Кохановский утверждает, что дроны были запрограммированы долететь до фронта, затем включить режим поиска и поражения целей без связи с оператором. В открытом описании это выглядит как "запустить и отпустить", а не как удалённое пилотирование.

Дальше начинается зона, где редакционно важна осторожность. У нас нет независимой видеозаписи атаки, нет официального подтверждения Минобороны Украины и нет технического описания модели распознавания. Известно только утверждение поставщика технологии и пересказ журналистов. Поэтому корректная формулировка - "заявленный разовый тест полностью автономных дронов", а не "ИИ впервые доказанно убил людей".

Эта оговорка не обнуляет тему. Даже единичный тест показывает, что дешевый квадрокоптер с компьютерным зрением и автономной навигацией может приблизиться к той границе, которую раньше обсуждали в контексте дорогих ракет, систем ПВО и морских боеприпасов. Разница в масштабе: FPV и малые дроны производятся быстро, теряются часто и могут обновляться быстрее, чем международные правила успевают договариваться о терминах.

Почему это вопрос AI safety, а не только военного права

В гражданском ИИ слово safety часто означает alignment, отказ от опасных инструкций или защиту от prompt injection. В автономном оружии safety звучит жёстче: система должна быть ограничена по месту, времени, типу целей, условиям среды, правам на действие и возможности остановки.

Если модель ошиблась в чат-боте, пользователь получает плохой совет. Если модель ошиблась в контуре оружия, ошибка может стать ударом. Поэтому здесь мало сказать "модель хорошо распознаёт цель". Нужно знать, на каких данных она обучалась, как ведёт себя в тумане, дыму, помехах, среди ложных целей, рядом с гражданскими объектами и при частичной потере сенсоров.

Это близко к базовой теме безопасности ИИ и alignment, но с более узким контуром. Речь не о том, "злая" ли модель. Речь о том, кто задаёт цель, кто проверяет распознавание, кто может отменить действие и кто отвечает, если система выбрала не тот объект.

Украина уже живёт в частичной автономии

CSIS в большом разборе украинских AI-enabled autonomous capabilities пишет, что полной автономной войны на поле боя пока нет как массовой реальности. Есть другое: ИИ всё активнее закрывает отдельные функции - анализ видео с дронов, распознавание целей, сопровождение объекта, автономную навигацию и последний участок полёта.

По оценке CSIS, onboard automatic target recognition снижает нагрузку на оператора и в оптимальных условиях может помогать захватывать цели на дистанции до 2 км. Автономная навигация, по тому же разбору, повышает вероятность успешного поражения цели: с примерно 10-20% для ручного управления в сложных условиях до 70-80% в сценариях с автономной навигацией. Эти цифры важны не как рекламный буклет, а как объяснение давления: если система резко повышает шанс успеха и снижает потребность в опытном операторе, соблазн убрать человека из финального решения будет расти.

В этом месте полезна соседняя рамка из материала про безопасность агентских систем. Автономность оценивается не по одному слову "ИИ", а по контуру: сенсоры, модель, права на действие, журналы, мониторинг, кнопка остановки, процедура разбора ошибок. Для военного дрона этот контур должен быть ещё строже.

Human-in-the-loop - не декоративная галочка

Sky Sentinel хорошо показывает разницу между "автоматически распознать" и "автоматически убить". Business Insider со ссылкой на украинского командира описывал систему так: она сама сканирует воздушное пространство, распознаёт угрозы, рассчитывает траекторию и точку стрельбы, но всё ещё требует человеческого разрешения перед огнём. Это компромисс: машина делает то, что человек физически не успевает, но финальное право на применение силы не исчезает.

У этой схемы тоже есть слабое место. Если система работает быстро, оператор может превратиться в человека, который автоматически жмёт "подтвердить", потому что не успевает проверить аргументы модели. Тогда human-in-the-loop формально остаётся, а по сути становится резиновой печатью. Для safety это почти так же опасно, как полное отсутствие человека.

ICRC предлагает регулировать автономные вооружения через ограничения по типам целей, длительности, географии, масштабу применения, условиям среды и требованиям к human-machine interaction. Отдельно ICRC выступает за запрет систем, которые применяют силу против людей без достаточного человеческого контроля. Это не абстрактная этика. Это попытка сохранить различение, пропорциональность и ответственность - три вещи, которые плохо переносятся в чёрный ящик дешёвого дрона.

Почему один тест может изменить рынок оружия

Новость важна не потому, что один эпизод вдруг доказывает наступление "войны машин". Не доказывает. Она важна потому, что показывает направление экономического давления. Связь глушат, хороших операторов не хватает, дроны теряются тысячами, а фронт требует дешёвых систем, которые работают даже при помехах.

В такой среде автономные функции становятся не футуризмом, а практической инженерией. Сначала модель помогает удерживать цель. Потом - лететь без GPS. Потом - выбирать объект по признакам. Потом возникает вопрос: если всё это уже работает, зачем ждать оператора на последней секунде?

Ответ простой и неудобный: потому что последняя секунда и есть место ответственности. Если её убрать, война получает дешёвую систему, которая может сама назначить человека целью. А потом такую систему смогут копировать не только государства, но и группы с гораздо меньшими ресурсами.

Что смотреть дальше

Первый сигнал - официальная позиция Украины по финальному применению ИИ в ударных дронах. Пока открытые материалы дают слова участников рынка и журналистские пересказы, но не ясный публичный документ. Второй сигнал - появление записей или независимых разборов таких тестов. Без телеметрии, видео и технического описания невозможно понять, был ли это действительно автономный выбор цели или более простая автоматика.

Третий сигнал - рост defensive autonomy: перехватчиков Shahed, автоматических турелей, систем ПВО малого радиуса. Там автономность будет продаваться как защита гражданских городов, и аргумент будет сильным. Но именно в таких "защитных" системах рынок может быстрее нормализовать режим, где человек наблюдает за машиной, а не принимает каждое решение.

Наконец, стоит следить за dual-use-компаниями и военными закупками. Мы уже разбирали, почему модели не стоит бездумно пускать к военному коду. С дронами ставки выше: код не просто помогает разработчику, а может стать частью цепочки обнаружения, выбора и поражения цели.

FAQ

Чем автономный дрон отличается от FPV-дрона?

FPV-дрон обычно ведёт оператор: он видит видеопоток, выбирает цель и подтверждает удар. Автономный дрон после запуска может сам распознавать цель и действовать по заданным параметрам. Граница проходит там, где человек перестаёт выбирать конкретную цель и момент применения силы.

Что значит human-in-the-loop?

Human-in-the-loop означает, что человек остаётся внутри цепочки решения и должен подтвердить критическое действие, например применение оружия. Есть ещё human-on-the-loop: система действует сама, а человек наблюдает и может вмешаться. Самый рискованный режим - human-out-of-the-loop, где финальное решение принимает система.

Почему автономные дроны с ИИ важны для AI safety?

Потому что это пример ИИ, у которого есть физическое действие и необратимый вред. Safety здесь означает не только точность модели, но и ограничения по целям, месту, времени, журналирование, возможность остановки и понятную ответственность человека.

Главное

Сообщение New Scientist и Ars Technica не стоит читать как окончательное доказательство новой эпохи, где ИИ уже массово убивает без людей. Правильнее читать его как предупреждение: техническая граница стала тоньше. Компьютерное зрение, автономная навигация и дешёвые ударные дроны сходятся в одном устройстве.

Если человек остаётся в контуре только номинально, автономные дроны с ИИ превращают safety из лабораторной темы в вопрос жизни, права и ответственности. И чем дешевле такие системы, тем быстрее этот вопрос выйдет за пределы одной войны.

Читайте также

• Безопасность ИИ: что такое alignment и почему это важно
• Безопасность агентских систем: атаки, GPU-часы и MEMO
• Mistral предупреждает Францию: почему Mythos не стоит пускать к военному коду

Источники и проверка фактов

Факты проверены 12 июня 2026 года. Быстро меняющиеся утверждения о тесте сформулированы как сообщения источников и слова участника рынка, а не как установленный независимой экспертизой факт.

• New Scientist: Fully autonomous drones have killed human soldiers for the first time, использовано для исходного сообщения о заявленном тесте, 10 дронах, дистанции 3-5 км, отсутствии видеоканала и оговорке о разовом характере эпизода.
• Ars Technica: Ukraine's one-time test used fully autonomous drones to kill Russian soldiers, опубликовано 12 июня 2026 года; использовано как вторичный источник и редакционный повод.
• ICRC: position on autonomous weapon systems, использовано для определения autonomous weapon systems, рисков потери человеческого контроля и рекомендаций по ограничениям.
• CSIS: Ukraine's Future Vision and Current Capabilities for Waging AI-Enabled Autonomous Warfare, использовано для рамки partial autonomy, ATR, автономной навигации, human oversight и оценок 2 км / 70-80%.
• ASIL: Lethal Autonomous Weapons Systems & International Law, использовано для терминов human-in-the-loop, human-on-the-loop и human-out-of-the-loop.
• Business Insider: Ukraine is using an AI-powered, automated turret to shoot down Russia's Shahed drones, использовано для деталей Sky Sentinel, человеческого разрешения на огонь, стоимости около $150 000 и сравнения с Patriot.
• UNITED24 Media: Sky Sentinel, использовано для изображения и сверки описания украинской AI-controlled air-defense turret.