Призракът на машинния убиец продължава. В какво вярва президентът Путин?

Поддръжниците на военните роботи (1) твърдят, че автоматизираните оръжия предоставят повече възможности за защита на човешкия живот. Машините са в състояние да се приближат по-близо до врага от войниците и да преценят правилно заплахата. А емоциите понякога парализират способността за вземане на правилни решения.

Много защитници на използването на роботи-убийци силно вярват, че те ще направят войните по-малко кървави, защото ще загинат по-малко войници. Те отбелязват, че макар и да не изпитват съжаление, роботите са имунизирани срещу негативни човешки емоции като паника, гняв и отмъщение, които често водят до военни престъпления.

Правозащитниците също използват аргумента, че военните са довели до огромно намаляване на цивилните жертви през последния половин век, а роботизирането на армията позволява механизъм за по-стриктно прилагане на законите на войната. Те твърдят, че машините ще станат етични, когато бъдат оборудвани със софтуер, който ще ги принуди да се подчиняват на законите на войната.

Разбира се, огромен брой хора, включително много известни, не споделят това мнение от години. През април 2013 г. стартира международна кампания под мотото (2). В рамките на него неправителствените организации настояват за пълна забрана на използването на автономни оръжия. Експерти от много страни за първи път седнаха да обсъдят тази тема на Конференцията на ООН за разоръжаване в Женева през май 2014 г. В доклад, публикуван няколко месеца по-късно от Хюман Райтс Уоч и учени от Харвардския университет, се казва, че автономните биха били твърде опасни - те сами избират целите си и убиват хора. В същото време не е много ясно кой трябва да носи отговорност.

2. Демонстрация като част от акция „Спрете роботите убийци“

Какво може да направи рояк малки дронове

Споровете около роботите убийци (ROU) се водят от години и не отшумяват. Последните месеци донесоха нови опити за спиране на военни роботи и вълна от съобщения за нови проекти от този тип, някои от които дори се тестват в реални бойни условия.

През ноември 2017 г. показва видео смъртоносни рояци мини-дронове ., в ужасяващо действие. Зрителите видяха, че вече не ни трябват тежките бойни машини, танкове или ракети, хвърлени от Хищниците, за да убиваме масово и с картечници. Водещият режисьор Стюарт Ръсел, професор по изкуствен интелект в Бъркли, казва:

-

Миналата пролет петдесет професори Водещите световни университети подписаха апел до Корейския институт за напреднали науки и технологии (KAIST) и неговия партньор Hanwha Systems. те обявиха, че няма да сътрудничат на университета и да приемат гости на KAIST. Причината беше изграждането на "автономни оръжия", извършено от двете институции. KAIST отрече публикациите в медиите.

Малко след това в САЩ повече от 3 служители на Google протестира срещу работата на фирмата за военните. Те бяха загрижени, че Google си партнира с правителствен проект с кодово име Maven, който има за цел да използва AI за разпознаване на обекти и лица във видеоклипове на военни дронове. От ръководството на компанията казват, че целта на Maven е да спасява животи и да спасява хората от досадна работа, а не от агресия. Протестиращите не бяха убедени.

Следващата част от битката беше декларацията експерти по изкуствен интелект, вкл. работи по проект на Google и Илон Мъск. Обещават да не разработват роботи. Те също така призовават правителствата да засилят усилията си за регулиране и ограничаване на тези оръжия.

В изявлението се казва отчасти, че „решението за отнемане на човешки живот никога не трябва да се взема от машина“. Въпреки че армиите по света са оборудвани с много автоматични устройства, понякога с висока степен на автономност, много експерти се опасяват, че в бъдеще тази технология може да стане напълно автономна, позволявайки убиване без никакво участие на човешки оператор и командир.

Експертите също така предупреждават, че автономните машини за убийство могат да бъдат дори по-опасни от "ядрените, химически и биологични оръжия", защото лесно могат да излязат извън контрол. Общо през юли миналата година писмо под егидата на Института за бъдещето на живота (FGI) беше подписано от 170 организации и 2464 физически лица. В първите месеци на 2019 г. група медицински учени, свързани с FLI, отново призоваха за ново писмо, забраняващо разработването на контролирани от изкуствен интелект (AI) оръжия.

Миналогодишната августовска среща на ООН в Гнево относно възможното правно регулиране на военните „роботи убийци“ завърши с успех... машини. Група държави, включително САЩ, Русия и Израел, блокираха по-нататъшната работа по въвеждането на международна забрана за тези оръжия (проект за конвенция за забрана или ограничаване на употребата на определени конвенционални оръжия, CCW). Неслучайно тези страни са известни с работата си по усъвършенствани системи от автономни и роботизирани оръжия.

Русия се фокусира върху бойните роботи

Президентът Владимир Путин често е цитиран да казва за военните системи за изкуствен интелект и бойните роботи:

-.

говори открито за разработването на автономни оръжия. Началникът на Генералния щаб на въоръжените сили генерал Валери Герасимов наскоро каза пред военната агенция Интерфакс-АВН, че използването на роботи ще бъде една от основните характеристики на бъдещите войни. Той добави, че Русия се опитва напълно автоматизира бойното поле. Подобни коментари направиха вицепремиерът Дмитрий Рогозин и министърът на отбраната Сергей Шойгу. Председателят на комисията по отбрана и сигурност на Съвета на федерацията Виктор Бондарев каза, че Русия се стреми да се развива Roju технологиитова би позволило на мрежите от дронове да функционират като едно цяло.

Това не е изненадващо, ако си спомним, че първите телетанкове са разработени в Съветския съюз през 30-те години. Използвани са в началото на Втората световна война. Днес Русия също твори танкови роботи стават все по-автономни.

Държавата на Путин наскоро изпрати своя собствена в Сирия Боен безпилотен автомобил Уран-9 (3). устройството загуби контакт с наземните контролни точки, имаше проблеми със системата на окачването, а оръжията му не функционираха перфектно и не поразиха движещи се цели. Не звучи много сериозно, но мнозина смятат сирийското изтриване за добър боен тест, който ще позволи на руснаците да подобрят машината.

Роскосмос одобри предварителен план за изпращане на два робота до Международната космическа станция до август тази година. Fedor (4) в безпилотния съюз. Не като товар, но. Както във филма RoboCop, Федор владее оръжие и демонстрира смъртоносна стрелба по време на упражнения по стрелба.

Въпросът е защо робот в космоса ще бъде въоръжен? Има съмнения, че въпросът не е само в наземните приложения. Междувременно на Земята руският производител на оръжия Калашников показа визуализация робът Игореккоето, въпреки че предизвика много смях, сигнализира, че компанията сериозно работи върху автономни бойни машини. През юли 2018 г. Калашников обяви, че създава оръжие, което използва, за да взема решения „стреля или не стреля“.

Към тази информация трябва да се добавят сведения, че руският оръжейник Дигтярев разработи малък автономен танк Nerekht която може да се движи безшумно към целта си сама и след това да експлодира с мощна сила, за да унищожи други или цели сгради. Както и Танк Т14 Армата , гордостта на руските въоръжени сили, е проектирана за възможно дистанционно управление и безпилотно шофиране. Sputnik твърди, че руските военни инженери работят за превръщането на Т-14 в напълно автономна бронирана машина.

Директива за възражения

Самите американски военни наложиха доста ясно ограничение на нивото на автономност на своите оръжия. През 2012 г. Министерството на отбраната на САЩ издаде Директива 3000.09, която гласи, че хората трябва да имат право да възразяват срещу действията на въоръжени роботи. (въпреки че може да има някои изключения). Тази директива остава в сила. Сегашната политика на Пентагона е, че решаващият фактор при използването на оръжие винаги трябва да бъде човек и такава преценка трябва да бъде. отговаря на законите на войната.

Въпреки че американците използват летящи, Predator, Reaper и много други супермашини от десетилетия, те не са били и не са автономни модели. Те се управляват от оператори дистанционно, понякога от разстояние от няколко хиляди километра. С премиерата на прототипа започна разгорещена дискусия за автономността на машините от този тип. дрон X-47B (5), който не само летеше самостоятелно, но можеше и да излита от самолетоносач, да каца върху него и да презарежда гориво във въздуха. Значението също е да се стреля или бомбардира без човешка намеса. Проектът обаче все още е в процес на тестване и преглед.

5. Изпитания на безпилотния X-47B на американски самолетоносач

През 2003 г. Министерството на отбраната започва да експериментира с малък робот, подобен на танк. SPOES оборудвана с картечница. През 2007 г. е изпратен в Ирак. програмата обаче приключи, след като роботът започна да се държи хаотично, движейки пушката си хаотично. В резултат на това американската армия изостави изследванията върху въоръжени наземни роботи в продължение на много години.

В същото време американската армия увеличи разходите си за операции от 20 милиона долара през 2014 г. на 156 милиона долара през 2018 г. Този бюджет вече скочи до 2019 милиона долара през 327 г. Това е кумулативно увеличение от 1823% само за няколко години. Експерти твърдят, че още през 2025 г. американската армия може да има бойно поле повече войници роботи, отколкото хора.

Напоследък много спорове предизвикаха и обявиха американската армия Проект ATLAS () - автоматичен. В медиите това беше оценено като нарушение на гореспоменатата Директива 3000.09. Американската армия обаче отрича и уверява, че изключването на човек от цикъла на вземане на решения е изключено.

AI разпознава акулите и цивилните

Защитниците на автономните оръжия обаче имат нови аргументи. проф. Роналд Аркин, роботист от Технологичния институт на Джорджия, заявява в своите публикации, че В съвременната война интелигентните оръжия са от съществено значение за избягване на цивилни жертви, тъй като техниките за машинно обучение могат ефективно да помогнат за разграничаването между бойци и цивилни, както и важни и маловажни цели.

Пример за такива умения за изкуствен интелект е патрулирането на австралийски плажове. дронове Little Ripperоборудван със системата SharkSpotter, разработена от Технологичния университет в Сидни. Тази система автоматично сканира водата за акули и предупреждава оператора, когато види нещо опасно. (6) Може да идентифицира хора, делфини, лодки, дъски за сърф и предмети във водата, за да ги различи от акулите. Той може да открие и идентифицира около шестнадесет различни вида с висока точност.

6. Разпознати акули в системата SharkSpotter

Тези усъвършенствани методи за машинно обучение повишават точността на въздушното разузнаване с повече от 90%. За сравнение, човек оператор в подобна ситуация разпознава точно 20-30% от обектите във въздушните снимки. В допълнение, идентификацията все още се проверява от човек преди аларма.

На бойното поле операторът, виждайки изображението на екрана, трудно може да определи дали хората на земята са бойци с АК-47 в ръце или например фермери с щуки. Аркин отбелязва, че хората са склонни да „виждат това, което искат да видят“, особено в стресови ситуации. Този ефект допринесе за случайното сваляне на ирански самолет от USS Vincennes през 1987 г. Разбира се, според него управляваните от изкуствен интелект оръжия биха били по-добри от сегашните „умни бомби“, които всъщност не са разумни. Миналия август саудитска ракета с лазерно насочване удари автобус, пълен с ученици в Йемен, убивайки четиридесет деца.

„Ако училищният автобус е правилно етикетиран, идентифицирането му в автономна система може да бъде сравнително лесно“, твърди Аркин в Popular Mechanics.

Изглежда обаче, че тези аргументи не убеждават активистите срещу автоматичните убийци. Освен заплахата от роботи-убийци трябва да се има предвид и друго важно обстоятелство. Дори една "добра" и "внимателна" система може да бъде хакната и превзета от много лоши хора. Тогава всички аргументи в защита на военната техника губят силата си.