Кабинет на ужасите

Възходът на машините и завземането на властта от изкуствен интелект. Свят на тотално наблюдение и социален контрол. Ядрената война и дегенерацията на цивилизацията. Много тъмни видения на бъдещето, нарисувани преди много години, трябваше да се случат днес. А междувременно поглеждаме назад и изглежда, че те не са били там. Сигурен ли си?

Има доста стереотипен репертоар от популярни дистопични пророчества (за черната визия на бъдещето). В допълнение към най-често срещаните, свързани с унищожаването на природната среда и ресурси, широко разпространено е мнението, че най-новите технологии увреждат междуличностната комуникация, взаимоотношенията и обществото.

Виртуалното пространство измамно ще замени реалното участие в света. Други антиутопични възгледи виждат технологичното развитие като начин за увеличаване на социалното неравенство, концентриране на властта и богатството в ръцете на малки групи. Високите изисквания на съвременните технологии концентрират знания и умения в тесни кръгове от привилегировани лица, увеличават наблюдението на хората и унищожават неприкосновеността на личния живот.

Според много футуристи, по-високата производителност и по-големият видим избор могат да навредят на качеството на човешкия живот, като причиняват стрес, застрашават работните места и ни правят все по-материални по отношение на света.

Един от известните технологични "дистопийци", Джеймс Глейк, дава на пръв поглед тривиален пример за дистанционно управление за телевизор като класическо изобретение, което не решава нито един съществен проблем, пораждайки много нови. Gleick, цитирайки технически историк Едуард Тенер, пише, че възможността и лекотата на превключване на канали с помощта на дистанционното управление служи преди всичко за разсейване на зрителя все повече и повече.

Вместо удовлетворение, хората са все по-неудовлетворени от каналите, които гледат. Вместо да задоволи нуждите, има чувство на безкрайно разочарование.

Ще ни държат ли колите на резервации?

Ще успеем ли да контролираме това нещо, което е неизбежно и вероятно ще дойде скоро? Над изкуствен интелект? Ако това трябва да е така, както заявяват много дистопични видения, тогава не. (1).

Трудно е да се контролира нещо, което е в пъти по-силно от нас. с увеличаване на броя на задачите. Преди XNUMX години никой не би повярвал, че може да разчете емоциите в гласа и лицето на човек много по-точно, отколкото ние самите. Междувременно обучените в момента алгоритми вече са в състояние да направят това, анализирайки израженията на лицето, тембъра и начина, по който говорим.

Компютрите рисуват картини, композират музика и един от тях дори спечели конкурс за поезия в Япония. Те отдавна бият хората на шаха, научавайки играта от нулата. Същото важи и за много по-сложната игра Go.

той се подчинява на законите на все по-бързото ускорение. Това, което AI е постигнал – с помощта на хората – през последните десетилетия, ще се удвои през следващите няколко години, може би само месеци, а след това ще отнеме само седмици, дни, секунди…

Както се оказа наскоро, алгоритмите, използвани в смартфоните или на летищата за анализиране на снимки от вездесъщи камери, могат не само да разпознаят някого в различни кадри, но и да определят изключително интимни психологически характеристики. Да кажеш, че това е огромен риск за поверителността, е все едно да не кажеш нищо. Тук не става дума за просто наблюдение, следене на всяка стъпка, а за информация, която възниква в резултат на самия външен вид на човек, за неговите скрити желания и лични предпочитания. 

Алгоритмите могат да научат това сравнително бързо, като анализират стотици хиляди случаи, което е много повече, отколкото дори най-проницателният човек може да види през живота си. Въоръжени с толкова богат опит, те са в състояние да сканират човек по-точно дори от най-опитния психолог, анализатор на езика на тялото и жестовете.

Така че истинската смразяваща антиутопия не е, че компютрите играят шах или се противопоставят на нас, а че могат да видят душата ни по-дълбоко от всеки друг освен нас самите, пълна със забрани и блокове в разпознаването на тези или други наклонности.

Илон Мъск вярва, че тъй като системите с изкуствен интелект започват да се учат и разсъждават във все по-голям мащаб, „интелигентността“ може да се развие някъде дълбоко в уеб слоеве, незабележимо за нас.

Според американско проучване, публикувано през 2016 г., през следващите 45 години изкуственият интелект има 50% шанс да надмине хората във всички задачи. Синоптиците казват, че да, AI ще реши проблема с рака, ще подобри и ускори икономиката, ще осигури забавление, ще подобри качеството и продължителността на живота, ще ни образова така, че да не можем да живеем без него, но е възможно един ден без омраза, само защото въз основа на логически изчисления, тя просто ни премахва. Може би няма да работи физически, защото във всяка система си струва да спестявате, архивирате и съхранявате ресурси, които „може да се окажат полезни някой ден“. Да, това е ресурсът, който можем да бъдем за AI. Защитена работна сила?

Оптимистите се утешават с факта, че винаги има възможност да извадите щепсела от контакта. Всичко обаче не е толкова просто. Вече човешкият живот е станал толкова зависим от компютрите, че радикална стъпка срещу тях би била катастрофа за нас.

В края на краищата ние все повече създаваме базирани на изкуствен интелект системи за вземане на решения, давайки им право да управляват самолети, да задават лихвени проценти, да управляват електроцентрали – знаем, че алгоритмите ще го направят много по-добре от нас. В същото време ние не разбираме напълно как се вземат тези цифрови решения.

Има опасения, че свръхинтелигентни командни системи като "Намаляване на задръстванията" могат да ги накарат да заключат, че единственият ефективен начин да се свърши работата е... да се намали населението с една трета или дори наполовина.

Да, струва си да дадете на машината най-важната инструкция като „Първо, спасете човешки живот!“. Кой знае обаче дали тогава дигиталната логика ще доведе до затвора на човечеството или под плевнята, където може да сме в безопасност, но със сигурност не и свободни.

Киберпрестъпността като услуга

В миналото антиутопиите и образите на пост-апокалиптичния свят в литературата и киното обикновено се развиват в пост-ядрената ера. Днес ядреното унищожение не изглежда необходимо за катастрофата и унищожаването на света, какъвто го познаваме, макар и не по начина, по който си го представяме. , едва ли ще унищожи света както в "Терминатор", където беше съчетано с ядрено унищожение. Ако го правеше, тя нямаше да е суперинтелигентност, а примитивна сила. В крайна сметка дори човечеството все още не е осъзнало глобалния сценарий на опустошителен ядрен конфликт.

Истинският машинен апокалипсис може да бъде много по-малко впечатляващ.

Кибервойна, вирусни атаки, хакване на системи и ransomware, ransomware (2) парализират и унищожават нашия свят не по-малко ефективно от бомбите. Ако мащабът им се разшири, може да влезем във фаза на всеобхватна война, в която ще станем жертви и заложници на машини, въпреки че от тях не се изисква да действат автономно и е възможно хората все още да стоят зад всичко.

Миналото лято Агенцията за киберсигурност и сигурност на инфраструктурата на САЩ (CISA) нарече атаките на ransomware „най-видимата заплаха за киберсигурността“.

CISA твърди, че много дейности, при които киберпрестъпник прихваща и криптира данните на човек или организация и след това изнудва откуп, никога не се съобщават, защото жертвата плаща на киберпрестъпниците и не желае да публикува проблеми с техните несигурни системи. На микро ниво киберпрестъпниците често са насочени към възрастни хора, които имат проблеми с разграничаването между честно и нечестно съдържание в интернет. Те правят това със злонамерен софтуер, вграден в прикачен файл към имейл или изскачащ прозорец на заразен уебсайт. В същото време атаките срещу големи корпорации, болници, държавни агенции и правителства се увеличават.

Последните бяха особено насочени заради чувствителните данни, които притежаваха, и възможността да плащат големи откупи.

Някои данни, като здравната информация, са много по-ценни за собственика от други и могат да направят престъпниците повече пари. Крадците могат да прихващат или поставят под карантина големи блокове от клинични данни, важни за грижите за пациентите, като резултати от тестове или информация за лекарства. Когато животът е заложен на карта, в болницата няма място за преговори. Една от американските болници беше затворена окончателно през ноември миналата година след терористичната атака през август.

Вероятно с времето ще се влоши само. През 2017 г. Министерството на вътрешната сигурност на САЩ обяви, че кибератаките могат да бъдат насочени към критична инфраструктура като водоснабдителни услуги. И инструментите, необходими за извършване на подобни действия, са все по-достъпни за по-малките оператори, на които те продават пакети от софтуер за откуп като софтуер на Cerber и Petya и начисляват такса за откуп след успешни атаки. Въз основа на киберпрестъпността като услуга.

Опасно нарушение в генома

Една от популярните теми на дистопията е генетиката, манипулирането на ДНК и отглеждането на хора – освен това „програмирани“ по правилния начин (органи, корпорации, военни).

Съвременното въплъщение на тези тревоги е метод за популяризиране CRISPR генно редактиране (3). Механизмите, които съдържа, предизвикват преди всичко загриженост. форсиране на желаните функции в следващите поколения и техният потенциал се разпространява сред цялото население. Един от изобретателите на тази техника, Дженифър Дудна, дори наскоро призова за мораториум върху подобни техники за редактиране на "зародишна линия" поради потенциално катастрофални последици.

Припомнете си, че преди няколко месеца китайски учен Той Jiankui е широко критикуван за редактиране на гените на човешки ембриони, за да ги имунизира срещу вируса на СПИН. Причината беше, че направените от него промени можеха да се предават от поколение на поколение с непредвидими последици.

Особено загриженост предизвиква т. нар. d (генно преписване, генно задвижване), т.е. генетично проектиран механизъм, който кодира система за редактиране в ДНК на даден индивид генома CRISPR / CAS9 като го настроите да редактира този вариант на нежелания ген. Поради това потомците автоматично (без участието на генетици) презаписват нежелания генен вариант с желания.

Въпреки това, нежелан генен вариант може да бъде получен от потомство "като подарък" от немодифициран друг родител. Така че генният двигател нека разбием Менделски закони за наследственосттакоито казват, че половината от доминантните гени отиват при потомството от единия родител. Накратко, това в крайна сметка ще доведе до разпространението на въпросния генен вариант сред цялото население.

Биолог в Станфордския университет Кристина Смолке, обратно на панел по генно инженерство през 2016 г., предупреди, че този механизъм може да има вредни и в екстремни случаи ужасяващи последици. Генният двигател може да мутира, докато преминава през поколенията и да причинява генетични нарушения като хемофилия или хемофилия.

Както четем в статия, публикувана в Nature Reviews от изследователи от Калифорнийския университет, Ривърсайд, дори ако стремежът работи по предназначение в една популация на организъм, същата наследствена черта може да бъде вредна, ако по някакъв начин бъде въведена в друга популация. . същия вид.

Съществува и опасност учените да създават генни задвижвания при затворени врати и без партньорска проверка. Ако някой умишлено или неволно въведе вреден генен двигател в човешкия геном, като например такъв, който унищожава нашата резистентност към грипа, това може дори да означава край на вида хомо сапиенс...

Капитализъм за наблюдение

Версия на дистопията, която бившите писатели на научна фантастика едва ли биха могли да си представят, е реалността на интернет и особено на социалните медии, с всичките й широко описвани разклонения, които унищожават личния живот, взаимоотношенията и психологическата цялост на хората.

Този свят е нарисуван само в по-нови художествени изпълнения, като това, което можехме да видим в поредицата Черно огледало в епизода от 2016 г. „Гмуркането“ (4). Шошана Зубов, икономист от Харвард, нарича тази реалност напълно зависима от социалното самоутвърждаване и напълно „деприватизирана“. надзорен капитализъм (), и в същото време коронната работа на Google и Facebook.

4. Сцена от "Черно огледало" - епизод "Гмуркане"

Според Zuboff, Google е първият изобретател. Освен това непрекъснато разширява дейностите си за наблюдение, например чрез привидно невинни проекти за интелигентни градове. Пример за това е проектът за най-иновативния квартал в света на Sidewalk Labs, дъщерно дружество на Google. кей в Торонто.

Google планира да събере всички най-малки данни за живота на жителите на брега, тяхното движение и дори дишане с помощта на вездесъщи сензори за наблюдение.

Също така е трудно да се избере интернет антиутопия, за която не може да се говори във Facebook. Капитализмът за наблюдение може да е изобретен от Google, но именно Facebook го изведе на съвсем ново ниво. Това беше направено чрез социални и емоционални вирусни механизми и безмилостно преследване дори на онези, които не са потребители на платформата Зукърбърг.

Охранен AI, потопен във виртуална реалност, живеещ с UBI

Според много футуристи бъдещето на света и технологиите се обозначава с пет съкращения – AI, AR, VR, BC и UBI.

Читателите на "МТ" сигурно добре знаят какви са и от какво се състоят първите три. Познатото се оказва и четвъртото, "БК", когато разберем за какво става дума. А петата? UBD е съкращение на понятието, което означава "универсален основен доход » (5). Това е обществена полза, постулирана от време на време, която ще бъде предоставена на всеки човек, освободен от работа, докато се развиват други технологии, особено AI.

5. Универсален основен доход - UBI

Швейцария дори представи идеята на референдум миналата година, но нейните граждани я отхвърлиха, опасявайки се, че въвеждането на гарантиран доход ще доведе до наводнение от имигранти. UBI също носи със себе си редица други опасности, включително риска от увековечаване на съществуващите социални неравенства.

Всяка от технологичните революции зад акронима (вижте също:) – ако се разпространява и развива в очакваната посока – има огромни последици за човечеството и нашия свят, включително, разбира се, огромна доза антиутопия. Например, смята се, че може да замени четиригодишните изборни цикли и да доведе до референдуми по безброй въпроси.

Виртуалната реалност от своя страна е в състояние да „изключи“ част от човечеството от реалния свят. Както се случи, например, с корейката Джанг Джи-сун, която след смъртта на дъщеря си през 2016 г. от неизлечимо заболяване оттогава се срещна с аватара си във VR. Виртуалното пространство също създава нови видове проблеми или всъщност прехвърля всички стари познати проблеми в „новия“ свят или дори в много други светове. Донякъде вече виждаме това в социалните мрежи, където се случва твърде малко харесвания на публикации да доведат до депресия и самоубийство.

Пророчески приказки повече или по-малко

В крайна сметка, историята на създаването на дистопични видения също учи на предпазливост при формулирането на прогнози.

6. Корица на "Острови в мрежата"

Заснет миналата година беше известният научнофантастичен шедьовър на Ридли Скотловец на android» От 1982г. Възможно е да се обсъжда изпълнението или не на много конкретни елементи, но е безспорно, че най-важното пророчество относно съществуването в нашето време на интелигентни, хуманоидни андроиди, в много отношения превъзхождащи хората, все още не е станало реалност.

Ще сме готови да търпим още много пророчески удари."невроманти»т. е. романи Уилям Гибсън от 1984 г., който популяризира концепцията за "киберпространството".

През това десетилетие обаче се появява една малко по-малко известна книга (у нас почти изцяло, защото не е преведена на полски), която предсказва днешното време много по-точно. Говоря за романтикаОстрови в мрежата"(6) Брус Стърлинг от 1988 г., поставено през 2023 г. Той представя свят, потопен в нещо подобно на Интернет, известно като "мрежата". Той се контролира от големи международни корпорации. „Островите в мрежата“ се отличават с това, че осигуряват контрол, наблюдение и монополизиране на предполагаемия безплатен интернет.

Интересно е също да се предвидят военни операции, извършвани с помощта на безпилотни летателни апарати (дронове) срещу онлайн пирати/терористи. Оператори на хиляди мили разстояние със защитени настолни компютри – откъде да знаем това? Книгата не е за безкрайния конфликт с ислямския тероризъм, а за борбата срещу силите, които се противопоставят на глобализацията. Светът на островите в мрежата също е изпълнен с потребителски устройства, които много приличат на смарт часовници и умни спортни обувки.

Има още една книга от 80-те години, която, въпреки че някои от събитията изглеждат по-фантастични, върши добра работа, като илюстрира съвременните ни дистопични страхове. Това "Софтуер за георадари", История Руди Рукърпоставена през 2020 г. Светът, състоянието на обществото и неговите конфликти изглеждат невероятно подобни на това, с което имаме работа днес. Има и роботи, известни като бопъри, които са придобили самосъзнание и са избягали в градовете на Луната. Този елемент все още не се е материализирал, но бунтът на машините се превръща в постоянен рефрен на черни предсказания.

Визиите на нашето време в книгите също са поразително точни в много отношения. Октавия Батлер, особено вПритчи за сеяча» (1993). Действието започва през 2024 г. в Лос Анджелис и се развива в Калифорния, опустошена от наводнения, бури и суши, причинени от изменението на климата. Семействата от средната и работническата класа се срещат в затворени общности, докато се опитват да избягат от външния свят с пристрастяващи наркотици и комплекти за виртуална реалност. Появяват се нови религии и конспиративни теории. Бежанският керван се насочва на север, за да избегне екологичен и социален колапс. На власт идва президент, който използва лозунга на кампанията „Направете Америка отново велика“ (това е слоганът на Доналд Тръмп) ...

Втората книга на Бътлър, "Притча за талантитеразказва как членове на нов религиозен култ напускат Земята в космически кораб, за да колонизират Алфа Кентавър.

***

Каква е поуката от това обширно проучване на прогнози и видения, направени преди няколко десетилетия относно ежедневието ни?

Вероятно фактът е, че дистопията се случва често, но най-често само частично.