Военен дрон е атакувал автономно хора за първи път през миналата година, се казва в доклад на ООН. Въпреки че пълните подробности за инцидента, станал в Либия, не са публикувани и не е ясно дали е имало жертви, събитието накара специалистите да се замислят. Ако това наистина се е случило, тогава международните усилия за забрана на летални автономни оръжия може да са закъснели.

Прогнозите, че войната за бъдещето ще бъде война на роботи, се доближават до реалността.

Въпросният робот е квадрокоптер Kargu-2 е използван от силите на либийското правителство срещу бунтовниците, водени от Халифа Хафтар. По време на атаката апаратът патрулира във въздуха, без да получава команди от операторите.

Концептуално Kargu-2 почти не се отличава с нищо особено от съвременните стандарти. Разработен и произведен е от STM - турската компания Savunma Teknolojileri Mühendislik ve Ticaret AŞ. Дронът започва да се произвежда през 2019 година, тежи 15 килограма и може да се задържи във въздуха до 30 минути.

Kargu използва базирана на машинно обучение обектна класификация, за да си избира цели според STM, а също така има възможности да работи в групи от 20 дрона.

„Смъртоносните автономни оръжейни системи са програмирани да атакуват цели, без да се изисква връзка между оператора и оръжието: всъщност истинска способност „стреляй, забрави и намери“ (fire, forget and find), пишат експертите в доклада от 548 страници нат Експертната група на Съвета за сигурност.

Много изследователи по роботика и изкуствен интелект в миналото, включително Илон Мъск, и няколко други видни личности като Стивън Хокинг и Ноам Чомски призовават за забрана на „нападателни автономни оръжия“, като тези с потенциал да търсят и убиват конкретни хора, разчитащи на софтуер.

Експертите предупреждават, че наборите от данни, използвани за обучение на тези автономни роботи-убийци за класифициране и идентифициране на обекти като автобуси, автомобили и цивилни, може да не са достатъчно стабилни и че системата за изкуствен интелект (AI) може да прави грешки. Те също така предупредиха за „черната кутия“ в машинното обучение, при която процесът на вземане на решения в системите за изкуствен интелект често е непрозрачен, създавайки реален риск напълно автономните военни дронове да поразяват грешни цели, като причините остават трудни за разгадаване.

Експертите смятат, че ниската цена и доста широките за устройство от този клас възможности осигуряват добър потенциал за износ на този дрон, а потенциалните купувачи включват страните от Близкия изток.

Захари Каленборн (Zachary Kallenborn), консултант по националната сигурност и специалист по дронове, смята, че има по-голям риск нещо да се обърка, когато няколко такива автономни безпилотни летателни апарата общуват и координират действията си:

„Повече автономни оръжия означава повече възможности за провал. Това е основната вероятност. Комуникацията създава рискове от каскада от грешки, при която грешка от една единица се споделя с друга“, пише The Bulletin.

"Ако някой е бил убит при автономна атака, това вероятно ще представлява исторически първи известен случай за автономни оръжия, базирани на изкуствен интелект, използвани за убиване", добавя експертът.

^{Много държави и групировки вече използват малки военни дронове, които могат да хвърлят гранати или да взривяват целите си с експлозив. Новият дрон, наречен Songar и произведен от базираната в Анкара електронна компания Asisguard, е първият дрон, който е оборудван с огнестрелно оръжие и е готов за експлоатация.} 

Справка: Analysis of the Influence of Foggy Weather Environment on the Detection Effect of Machine Vision Obstacles
Zhaohui Liu, Yongjiang He,Chao Wang and Runze Song
Department of Transportation Engineering, College of Transportation, Shandong University of Science and Technology, Qingdao 266590, China
Sensors 2020, 20(2), 349; https://doi.org/10.3390/s20020349

Източници:

Drones may have attacked humans fully autonomously for the first time, NewScientist

Was a flying killer robot used in Libya? Quite possibly, Zachary Kallenborn, The Bulletin

Military drones may have attacked humans for first time without being instructed to, UN report says, The Independent

Още по темата

30/01/2020

Животът

Коронавирусът - изтекло биооръжие? История на патогените в биологичната война

13/12/2019

Технологии

Турция ще получи военни дронове, въоръжени с картечница (видео)

15/10/2017

Скептик

Мит и истина: откъде идва Франкенщайн?

18/03/2022

Човекът

80 години по-късно трите правила на роботиката на Азимов имат нужда от ревизия