Войната на алгоритмите

Когато става въпрос за използването на изкуствен интелект в армията, кошмарът на научната фантастика веднага се събужда, бунтарски и смъртоносен AI, който се надига срещу човечеството, за да го унищожи. За съжаление, страховете на военните и лидерите, че „врагът ще ни настигне“ са също толкова силни при разработването на алгоритми за война.

Алгоритмична войнакойто според мнозина би могъл фундаментално да промени облика на бойното поле, както го познаваме, главно защото войната ще бъде по-бърза, далеч по-напред от способността на хората да вземат решения. американски генерал Джак Шанахан (1), ръководител на Съвместния център за изкуствен интелект на САЩ, подчертава обаче, че преди да въведем изкуствен интелект в арсеналите, трябва да гарантираме, че тези системи все още са под човешки контрол и не започват войни сами.

„Ако врагът има машини и алгоритми, ние ще загубим този конфликт“

Способност за шофиране алгоритмична война се основава на използването на напредъка в компютърните технологии в три основни области. Първо десетилетия на експоненциален растеж на изчислителната мощносттова значително подобри производителността на машинното обучение. Второ бърз растеж на ресурсите „Големи данни“, тоест огромни, обикновено автоматизирани, управлявани и непрекъснато създавани набори от данни, подходящи за машинно обучение. Третото засяга бързо развитие на технологиите за облачни изчисления, чрез който компютрите могат лесно да имат достъп до ресурси от данни и да ги обработват за решаване на проблеми.

Военен алгоритъмкакто е определено от експертите, първо трябва да се изрази с компютърен код. Второ, то трябва да е резултат от платформа, способна както да събира информация, така и да прави избор, вземайки решения, които поне на теория не изискват човешка намеса. Трето, което изглежда очевидно, но не непременно, тъй като само в действие става ясно дали техника, предназначена за нещо друго, може да бъде полезна във война и обратно, тя трябва да може да работи в условия. въоръжен конфликт.

Анализът на горните направления и тяхното взаимодействие показва това алгоритмична война не е отделна технология като напр. енергийно оръжие или хиперзвукови ракети. Неговото въздействие е широкообхватно и постепенно става повсеместно във военните действия. За първи път военни превозни средства те стават интелигентни, което потенциално прави отбранителните сили, които ги прилагат, по-ефективни и ефективни. Такива интелигентни машини имат ясни ограничения, които трябва да бъдат добре разбрани.

"" каза Шанахан миналата есен в интервю с бившия главен изпълнителен директор на Google Ерик Шмид и вицепрезидент на Google по международните въпроси Кент Уокър. "".

Проектодокладът на Съвета за национална сигурност на САЩ за AI се позовава на Китай повече от 50 пъти, подчертавайки официалната цел на Китай да стане световен лидер в AI до 2030 г. (Вижте също: ).

Тези думи бяха изречени във Вашингтон на специална конференция, която се проведе, след като гореспоменатият център Shanakhan представи пред Конгреса своя предварителен доклад, изготвен в сътрудничество с известни експерти в областта на изкуствения интелект, включително директорът на Microsoft Research Eric Horwitz, изпълнителният директор на AWS Анди Джаса и Главен изследовател на Google Cloud Андрю Мур. Окончателният доклад ще бъде публикуван през октомври 2020 г.

Служителите на Google протестират

Преди няколко години Пентагонът се включи. алгоритмична война и редица проекти, свързани с AI по проекта Maven, базирани на сътрудничество с технологични компании, включително Google и стартиращи компании като Clarifai. Ставаше дума основно за работа върху изкуствен интелектза улесняване на идентифицирането на обекти на.

Когато през пролетта на 2018 г. стана известно за участието на Google в проекта, хиляди служители на гиганта Mountain View подписаха отворено писмо, протестиращо срещу участието на компанията във военни действия. След месеци на трудови вълнения Google прие собствен набор от правила за AIкоето включва забрана за участие в събития.

Google също така се ангажира да завърши договора за Project Maven до края на 2019 г. Излизането на Google не сложи край на Project Maven. Закупен е от Палантир на Питър Тийл. Военновъздушните сили и морската пехота на САЩ планират да използват специални безпилотни летателни апарати, като Global Hawk, като част от проекта Maven, всеки от които трябва да наблюдава визуално до 100 квадратни километра.

По повод случващото се около Project Maven стана ясно, че американската армия спешно се нуждае от собствен облак. Това каза Шанахан по време на конференцията. Това беше очевидно, когато видеозаписите и системните актуализации трябваше да бъдат транспортирани с камиони до военни инсталации, разпръснати из полето. В сградата унифицирани облачни изчисления, който ще помогне за решаването на проблеми от този тип, като част от проект за унифицирана ИТ инфраструктура за армията на джедаите, Microsoft, Amazon, Oracle и IBM. Google не е заради техните етични кодекси.

От изявлението на Шанахан става ясно, че голямата революция с изкуствен интелект в армията едва започва. И ролята на неговия център във въоръжените сили на САЩ нараства. Това ясно се вижда в прогнозния бюджет на JAIC. През 2019 г. тя възлиза на малко под 90 милиона долара. През 2020 г. той вече трябва да е 414 милиона долара, или около 10 процента от бюджета на Пентагона за изкуствен интелект от 4 милиарда долара.

Машината разпознава предал се войник

Американските войски вече са оборудвани със системи като Phalanx (2), което е вид автономно оръжие, използвано на корабите на ВМС на САЩ за атака на входящи ракети. Когато бъде открита ракета, тя се включва автоматично и унищожава всичко по пътя си. Според Форд той може да атакува с четири или пет ракети за половин секунда, без да се налага да преминава и да гледа всяка цел.

Друг пример е полуавтономната Harpy (3), търговска безпилотна система. Харпията се използва за унищожаване на радари на противника. Например, през 2003 г., когато САЩ нанесоха удар по Ирак, който имаше бордови радарни системи за прихващане, израелските дронове помогнаха за намирането и унищожаването им, така че американците да могат безопасно да летят във въздушното пространство на Ирак.

3. Пускане на дрона от системата IAI Harpy

Друг добре познат пример за автономни оръжия е Корейска система Samsung SGR-1, намиращ се в демилитаризираната зона между Северна и Южна Корея, предназначен да идентифицира и стреля по нарушители на разстояние до четири километра. Според описанието системата „може да направи разлика между лице, което се предава, и лице, което не се предава“ въз основа на позицията на ръцете им или разпознаване на позицията на оръжието в ръцете им.

4. Демонстрация на засичане на предаващ се войник от системата Samsung SGR-1

Американците се страхуват да не бъдат изоставени

В момента поне 30 страни по света използват автоматични оръжия с различни нива на развитие и използване на AI. Китай, Русия и САЩ виждат изкуствения интелект като незаменим елемент в изграждането на бъдещата си позиция в света. „Който и да спечели състезанието с изкуствен интелект, ще управлява света“, каза руският президент Владимир Путин на студентите през август 2017 г. Президентът на Китайската народна република Си Дзинпин не е правил толкова високопоставени изявления в медиите, но той е основният двигател на директивата, призоваваща Китай да стане доминираща сила в областта на ИИ до 2030 г.

В Съединените щати нараства загрижеността относно „ефекта на сателита“, който показа, че Съединените щати са изключително зле подготвени да се справят с новите предизвикателства, породени от изкуствения интелект. И това може да бъде опасно за мира, дори само защото страната, застрашена от господство, може да иска да елиминира стратегическото предимство на врага по друг начин, тоест чрез война.

Въпреки че първоначалната цел на проекта Maven беше да помогне за намирането на ислямски бойци от ISIS, значението му за по-нататъшното развитие на военните системи за изкуствен интелект е огромно. Електронната война, базирана на записващи устройства, монитори и сензори (включително мобилни, летящи) е свързана с огромен брой хетерогенни потоци от данни, които могат да бъдат ефективно използвани само с помощта на AI алгоритми.

Хибридното бойно поле се превърна военна версия на IoT, богата на важна информация за оценка на тактически и стратегически заплахи и възможности. Възможността да управлявате тези данни в реално време има големи ползи, но неуспехът да се поучите от тази информация може да бъде катастрофален. Възможността за бързо обработване на потока от информация от различни платформи, работещи в множество области, осигурява две основни военни предимства: скорост i достъпност. Изкуственият интелект ви позволява да анализирате динамичните условия на бойното поле в реално време и да нанасяте удари бързо и оптимално, като същевременно минимизирате риска за собствените си сили.

Това ново бойно поле също е повсеместно и. AI е в основата на така наречените рояци от дронове, които получиха много внимание през последните години. С помощта на повсеместни сензори, не само позволява на дронове да се движат по враждебен терен, но в крайна сметка може да позволи формирането на сложни формирования от различни видове безпилотни летателни апарати, действащи в много области, с допълнителни оръжия, които позволяват сложни бойни тактики, незабавно адаптиращи се към враг. маневри, за да се възползват от бойното поле и да докладват за променящите се условия.

Напредъкът в целевото обозначаване и навигация с помощта на AI също подобрява перспективите за ефективност в широк спектър от тактически и стратегически отбранителни системи, особено противоракетната отбрана, чрез подобряване на методите за откриване, проследяване и идентифициране на цели.

постоянно увеличава силата на симулациите и инструментите за игри, използвани за изследване на ядрени и конвенционални оръжия. Масовото моделиране и симулация ще бъдат от съществено значение за разработването на всеобхватна система от няколко домейна от целеви системи за боен контрол и сложни мисии. AI също така обогатява многостранните взаимодействия (5). AI позволява на играчите да добавят и променят променливи в играта, за да изследват как динамичните условия (оръжие, участие на съюзници, допълнителни войски и т.н.) могат да повлияят на производителността и вземането на решения.

За военните идентифицирането на обекти е естествена отправна точка за AI. Първо, необходим е цялостен и бърз анализ на нарастващия брой изображения и информация, събрани от спътници и дронове, за да се намерят обекти с военно значение, като ракети, движение на войски и други данни, свързани с разузнаването. Днес бойното поле обхваща всички пейзажи – море, суша, въздух, космос и киберпространство – в глобален мащаб.

Кибер пространствокато присъщо дигитален домейн, той е естествено подходящ за AI приложения. От обидна страна, AI може да помогне за намиране и насочване към отделни мрежови възли или индивидуални акаунти за събиране, нарушаване или дезинформиране. Кибератаките срещу вътрешна инфраструктура и командни мрежи могат да бъдат катастрофални. Що се отнася до отбраната, изкуственият интелект може да помогне за откриване на такива прониквания и намиране на разрушителни аномалии в граждански и военни операционни системи.

Очаквана и опасна скорост

Въпреки това, бързото вземане на решения и бързото изпълнение може да не ви послужат добре. за ефективно управление на кризи. Предимствата на изкуствения интелект и автономните системи на бойното поле може да не оставят време за дипломация, която, както знаем от историята, често е била успешна като средство за предотвратяване или управление на криза. На практика забавянето, спирането на пауза и времето за преговори могат да бъдат ключът към победата или поне предотвратяването на катастрофа, особено когато са заложени ядрени оръжия.

Решенията за война и мир не могат да бъдат оставени на предсказуем анализ. Има фундаментални различия в начина, по който данните се използват за научни, икономически, логистични и прогнозни цели. човешкото поведение.

Някои може да възприемат ИИ като сила, която отслабва взаимната стратегическа чувствителност и по този начин увеличава риска от война. Случайно или умишлено повредени данни могат да накарат AI системите да извършват непреднамерени действия, като погрешно идентифициране и насочване към грешни цели. Скоростта на действие, постулирана в случай на разработване на военни алгоритми, може да означава преждевременна или дори ненужна ескалация, която пречи на рационалното управление на кризата. От друга страна, алгоритмите също няма да чакат и да обясняват, защото се очаква и да са бързи.

Смущаващ аспект функциониране на алгоритми за изкуствен интелект също представена от нас наскоро в MT. Дори експертите не знаят точно как AI води до резултатите, които виждаме в изхода.

В случай на военни алгоритми не можем да си позволим такова невежество за природата и как те ги „мислят“. Не искаме да се събуждаме посред нощ от ядрени изригвания, защото „нашият“ или „техният“ изкуствен интелект е решил, че е време най-накрая да разреши играта.