Кабинетот на ужасите

Подемот на машините и преземањето на власта од страна на вештачката интелигенција. Свет на целосен надзор и социјална контрола. Нуклеарна војна и дегенерација на цивилизацијата. Многу темни визии за иднината, насликани пред многу години, требаше да се случат денес. Во меѓувреме, гледаме наназад и се чини дека тие никогаш не постоеле. Дали си сигурен?

Постои прилично стереотипен репертоар на популарни дистописки пророштва (во однос на црната визија за иднината). Покрај најчестите поврзани со уништувањето на природната средина и ресурсите, широко се верува дека новите технологии се штетни за меѓучовечката комуникација, односите и општеството.

Виртуелниот простор на измамен начин ќе го замени вистинското учество во светот. Други дистописки гледишта го гледаат технолошкиот развој како начин за зголемување на социјалната нееднаквост, концентрирање на моќта и богатството во рацете на тесните групи. Високите барања на модерната технологија ги концентрираат знаењата и вештините во тесни кругови на привилегирани поединци, го зголемуваат надзорот над луѓето и ја уништуваат приватноста.

Според многу футуристи, поголемата продуктивност и зголемениот видлив избор може да му наштетат на квалитетот на животот на една личност, предизвикувајќи стрес, заканувачки работни места, правејќи нè сè поматеријалисти за светот.

Еден од познатите технолошки „дистопијци“, Џејмс Глеик, го дава навидум тривијалниот пример на далечински управувач за телевизор како класичен изум кој не решава ниту еден значаен проблем, предизвикувајќи многу нови. Глеик, цитирајќи историчар на технологијата Едвард Тенер, пишува дека способноста и леснотијата за менување на каналите со користење на далечинското првенствено служи за се повеќе да го одвлекува вниманието на гледачот.

Наместо задоволство, луѓето се повеќе се незадоволни од каналите што ги гледаат. Наместо задоволување на потребите, постои чувство на бескрајно разочарување.

Дали машините ќе не задржат на резервации?

Дали ќе можеме да го контролираме ова нешто што е неизбежно и веројатно ќе се појави наскоро? За вештачка интелигенција? Ако ова мора да биде случај, како што прогласуваат многу дистописки визии, тогаш не. (1).

Тешко е да се контролира нешто што е многукратно посилно од нас. како што се зголемува бројот на задачите. Пред 20 години, никој не би верувал дека ќе може да ги чита емоциите во гласот и лицето на една личност многу попрецизно отколку што ние самите можеме. Во меѓувреме, тековно обучените алгоритми веќе се способни за тоа, да ги анализираат изразите на лицето, темброт и начинот на кој зборуваме.

Компјутерите цртаат слики, компонираат музика, а еден дури и победи на поетски натпревар во Јапонија. Долго време ги тепаат луѓето во шах, учејќи ја играта од нула. Истото важи и за многу покомплексната игра Go.

ги почитува законите за сè побрзо забрзување. Она што го постигна вештачката интелигенција - со човечка помош - во изминатите децении ќе се удвои во следните неколку години, можеби само месеци, а потоа ќе бидат потребни само недели, денови, секунди...

Како што се испостави неодамна, алгоритмите што се користат во паметните телефони или на аеродромите за анализа на фотографии од сеприсутните камери се способни не само да препознаат некого во различни рамки, туку и да идентификуваат исклучително интимни психолошки карактеристики. Да се ​​каже дека ова е огромен ризик за приватност е потценување. Не станува збор за едноставен надзор, следење на секој чекор, туку за информации што произлегуваат како резултат на самиот изглед на една личност, за неговите скриени желби и лични преференци. 

Алгоритмите можат релативно брзо да го научат ова со анализа на стотици илјади случаи, што е многу повеќе отколку што може да види дури и најпаметните луѓе во текот на животот. Вооружени со толкаво богатство на искуство, тие се способни да скенираат личност попрецизно дури и од најискусниот психолог, говорот на телото и аналитичарот на гестови.

Значи, вистинската застрашувачка дистопија не е тоа што компјутерите играат шах или одат против нас, туку што можат да ја видат нашата душа подлабоко од кој било друг од нас самите, полна со забрани и блокади во препознавањето на тие или други склоности.

Илон Маск верува дека како што системите за вештачка интелигенција почнуваат да учат и размислуваат во сè поголеми размери, „интелигенцијата“ можеби еволуира некаде длабоко во веб слоеви, незабележано од нас.

Според една американска студија објавена во 2016 година, вештачката интелигенција има 45 отсто шанси да ги надмине луѓето во сите задачи во следните 50 години. Синоптичарите велат дека да, вештачката интелигенција ќе го реши проблемот со ракот, ќе ја подобри и забрза економијата, ќе обезбеди забава, ќе го подобри квалитетот и должината на животот, ќе не едуцира за да не можеме да живееме без неа, но можно е еден ден, без омразата, само врз основа на логично пресметување, едноставно не отстранува. Можеби тоа не е можно физички, затоа што во секој систем вреди да се акумулираат, архивираат и складираат ресурси кои „можеби некогаш да бидат корисни“. Да, ова е ресурсот што можеме да станеме за вештачката интелигенција. Заштитени човечки резерви?

Оптимистите се тешат со фактот дека секогаш постои можност да се повлече приклучокот од штекерот. Сепак, сè не е толку едноставно. Веќе човечкиот живот стана толку зависен од компјутерите што радикален чекор против нив би бил катастрофален за нас.

На крајот на краиштата, ние сè повеќе создаваме системи за донесување одлуки базирани на вештачка интелигенција, давајќи им право да пилотираат авиони, да поставуваат каматни стапки, да управуваат со електрани - знаеме дека алгоритмите ќе го направат тоа многу подобро од нас. Во исто време, не разбираме целосно како се донесуваат овие дигитални одлуки.

Постојат стравувања дека супер-интелигентните командни системи како Reduce Congestion може да ги наведат да заклучат дека единствениот ефикасен начин да се заврши работата е... да се намали популацијата за една третина или дури за половина.

Да, вреди да се даде на машината најважната инструкција како „Прво, спаси човечки живот!“ Меѓутоа, кој знае дали тогаш дигиталната логика ќе доведе до затворање на човештвото или во штала, каде што можеби ќе бидеме безбедни, но секако не и слободни.

Сајбер криминалот како услуга

Во минатото, дистопиите и сликите на постапокалиптичен свет во литературата и филмот вообичаено се наоѓаа во ерата по нуклеарната војна. Денес, нуклеарното уништување не изгледа неопходно за да се катастрофа и уништи светот каков што го знаеме, иако не на начинот на кој го замислуваме. , малку е веројатно дека ќе го уништи светот како во „Терминаторот“, каде што беше комбиниран со нуклеарно уништување. Ако го направи ова, не би била суперинтелигенција, туку примитивна сила. На крајот на краиштата, дури и човештвото сè уште не го сфатило глобалното сценарио за деструктивен нуклеарен конфликт.

Вистинската машинска апокалипса можеби е многу помалку импресивна.

Сајбер војна, вирусни напади, системски хакирање и откупни софтвери, откупни софтвери (2) го парализираат и уништуваат нашиот свет ефикасно како бомбите. Ако нивниот размер се прошири, можеби ќе влеземе во фаза на сеопфатна тотална војна, во која ќе станеме жртви и заложници на машините, иако тие не се обврзани да дејствуваат автономно, а можно е сепак луѓето да стојат зад се.

Минатото лето, американската агенција за сајбер-простор и безбедност на инфраструктурата (CISA) ги нарече нападите со откупни софтвери „најистакната закана за сајбер-безбедноста“.

CISA тврди дека многу активности во кои сајбер-криминалецот пресретнува и шифрира податоци на личност или организација, а потоа изнудува откуп за тоа, никогаш не се пријавени бидејќи жртвата им плаќа на сајбер криминалците и не е подготвена да ги објави проблемите со нивните небезбедни системи. На микро ниво, сајбер-криминалците често ги таргетираат постарите возрасни лица кои имаат проблем да разликуваат искрена и нечесна содржина на интернет. Тие го прават тоа користејќи малициозен софтвер вграден во прилог на е-пошта или скокачки прозорец на заразена веб-локација. Во исто време, нападите врз големите корпорации, болници, владини агенции и влади се зголемуваат.

Последните беа особено насочени поради чувствителните податоци што ги поседуваа и потенцијалот за високи плаќања за откуп.

Некои информации, како што се здравствените информации, се многу повредни за сопственикот од другите и можат да донесат повеќе пари за криминалците. Крадците можат да пресретнат или да стават во карантин големи блокови клинички податоци важни за грижата за пациентот, како што се резултатите од тестовите или информациите за лековите. Кога се загрозени животи, во болницата нема простор за преговарање. Една американска болница беше трајно затворена во ноември минатата година по терористичкиот напад во август.

Веројатно само ќе се влоши со текот на времето. Во 2017 година, американското Министерство за домашна безбедност објави дека сајбер нападите би можеле да бидат насочени кон критична инфраструктура како што се водоводните претпријатија. И алатките потребни за извршување на таквите акции се повеќе им се достапни на помалите оператори, на кои им продаваат комплети за откупни софтвери како софтверот Cerber и Petya и наплаќаат такса за откуп по успешните напади. Врз основа на компјутерскиот криминал како услуга.

Опасно нарушување во геномот

Една од популарните теми на дистопијата е генетиката, манипулацијата со ДНК и размножувањето на луѓето - покрај тоа, „програмирани“ на вистински начин (од властите, корпорациите, војската).

Современото олицетворение на овие нервози е метод на популаризација CRISPR генско уредување (3). Механизмите што ги содржи се првенствено загрижувачки. форсирање на саканите функции во следните генерации и нивниот потенцијал се проширил на целото население. Еден од пронаоѓачите на оваа техника, Џенифер Даудна, дури неодамна повика на мораториум на таквите техники за уредување на герминативните линии поради потенцијалните катастрофални последици.

Да потсетиме дека пред неколку месеци еден кинески научник Тој е Џианкуи беше широко критикуван за уредување на гените на човечките ембриони за да ги имунизира против вирусот СИДА. Причината беше што промените што ги направи може да се пренесуваат од генерација на генерација со непредвидливи последици.

Особено загрижувачки се таканаречените d (препишување на гени, генски погон), т.е. механизам за генетско инженерство, кој се состои во кодирање на систем за уредување во ДНК на дадена индивидуа CRISPR/CAS9 геном со поставување да ја уреди оваа варијанта на несаканиот ген. Благодарение на ова, потомците автоматски (без учество на генетичарите) ја препишуваат несаканата генска варијанта со саканата.

Сепак, несаканата генска варијанта може да биде примена од потомството како „подарок“ од немодифицираниот друг родител. Значи, генскиот нагон ви овозможува да се скршите Менделови закони за наследувањекои укажуваат дека половина од доминантните гени потомството ги наследува од едниот родител. Накратко, ова на крајот ќе доведе до ширење на варијантата на генот низ целата популација.

Биолог на Универзитетот Стенфорд Кристина Смолке, назад на панелот за генетско инженерство во 2016 година, предупреди дека овој механизам може да има штетни и, во екстремни случаи, ужасни последици. Погонот на гените има способност да мутира додека минува низ генерации и да предизвика генетски нарушувања како што се хемофилија или хемофилија.

Како што читаме во трудот објавен во Nature Reviews од истражувачите од Универзитетот во Калифорнија, Риверсајд, дури и ако погонот работи како што е дизајниран кај една популација на организам, истата наследна карактеристика може да биде штетна ако некако се внесе во друга популација. истиот поглед.

Исто така, постои опасност научниците да создаваат генски погони зад затворени врати и без преглед од колеги. Ако некој намерно или ненамерно внесе штетен генетски нагон во човечкиот геном, како оној што ја уништува нашата отпорност на грип, тоа може да значи и крај на видот хомо сапиенс...

Надзорен капитализам

Верзија на дистопија која поранешните писатели на научна фантастика тешко можеа да ја замислат е реалноста на Интернетот, а особено на социјалните медиуми, со сите негови широко опишани последици што ја уништуваат приватноста, односите и психолошкиот интегритет на луѓето.

Овој свет е обоен само со понови уметнички изведби, како што можевме да го видиме во ТВ серијата Црно огледало, во епизодата од 2016 година „The Dive“ (4). Шошана Зубоф, економист од Харвард, ја нарекува оваа реалност целосно зависна од општествената самопотврда и целосно „деприватизирана“. надзорен капитализам (), а воедно и крунско достигнување на Google и Facebook.

4. Сцена од „Црно огледало“ - епизода „Нуркање“

Според Зубоф, Google е првиот пронаоѓач. Покрај тоа, таа постојано ги проширува своите активности за надзор, на пример преку навидум невини проекти за „паметен град“. Пример е проектот „Најиновативниот округ во светот“ на Sidewalk Labs, подружница на Google. пристаниште во Торонто.

Google планира секоја минута да собира податоци за животот на жителите на брегот, нивните движења, па дури и нивното дишење користејќи сеприсутни сензори за следење.

Исто така, тешко е да се избере интернет дистопија која не доаѓа предвид на Фејсбук. Надзорниот капитализам можеби е измислен од Google, но Facebook беше тој што го подигна на сосема ново ниво. Ова беше направено преку социјалните и емоционалните вирусни механизми и немилосрдното таргетирање дури и на некорисниците на платформата на Цукерберг.

Чувана вештачка интелигенција, нурнати во виртуелна реалност, живеење со UBI

Според многу футуристи, иднината на светот и технологијата е означена со пет кратенки - AI, AR, VR, BC и UBI.

Читателите на МТ веројатно добро знаат што се тие и од што се состојат првите три. Познатото, исто така, излегува дека е четвртото, „Сонце“, кога ќе разбереме за што зборуваме. А петтиот? УБД е кратенка од концептот што значи „универзален основен приход“ (5). Ова е владина придобивка која се постулира од време на време, која ќе се обезбедува на секој ослободен од работа како што се развиваат другите технологии, особено вештачката интелигенција.

5. Универзален основен приход - UBI

Швајцарија дури оваа идеја ја стави на референдум минатата година, но нејзините граѓани ја отфрлија поради страв дека воведувањето загарантиран приход ќе ја преплави земјата со имигранти. UBI, исто така, претставува голем број други опасности, вклучувајќи го и ризикот од продолжување на постоечките социјални нееднаквости.

Секоја од технолошките револуции зад акронимот (види исто така:) - ако се шират и се развијат во очекуваната насока - носи огромни последици за човештвото и нашиот свет, вклучувајќи, се разбира, огромна доза дистопија. На пример, се верува дека тоа би можело да ги замени четиригодишните изборни циклуси и да доведе до референдуми за огромен број прашања.

Виртуелната реалност, пак, е способна да „исклучи“ дел од човештвото од реалниот свет. Така се случи, на пример, со Корејката Чан Џи Сун, која по смртта на нејзината ќерка во 2016 година од неизлечива болест, оттогаш се среќава со својот аватар во VR. Виртуелниот простор, исто така, создава нови видови проблеми, или всушност ги пренесува сите стари познати проблеми во „нов“ свет или дури и многу други светови. Донекаде ова веќе можеме да го видиме на социјалните мрежи каде се случува премалку лајкови на објави да доведат до депресија и самоубиство.

Пророчки приказни повеќе или помалку

На крајот на краиштата, историјата на дистописките визии, исто така, учи на претпазливост при формулирањето на предвидувањата.

6. Насловна на „Острови во мрежата“

Реномираното научно-фантастично ремек дело на Ридли Скот“Андроид Хантер» Од 1982 г. Може да се дебатира за исполнувањето или не на многу конкретни елементи, но неспорно е дека најважното пророштво за постоењето во наше време на интелигентни, хуманоидни андроиди, над луѓето во многу нешта, сè уште не стана реалност.

Би биле подготвени да дозволиме уште многу пророчки хитови“.Невроманси“односно романи Вилијам Гибсон од 1984 година, што го популаризираше концептот на „сајбер простор“.

Меѓутоа, во таа деценија се појави една малку помалку позната книга (кај нас речиси целосно, бидејќи не беше преведена на полски), која многу попрецизно ги предвидуваше денешните времиња. Зборувам за романот“Острови на Интернет„(6) Брус Стерлинг од 1988 година, поставена во 2023 година. Се одликува со свет потопен во нешто слично на интернетот познато како „веб“. Тој е контролиран од големи меѓународни корпорации. „Островите на мрежата“ се значајни по нивната контрола, надзор и монополизација на наводно бесплатниот интернет.

Исто така, интересно е да се предвидат воени операции спроведени со помош на беспилотни летала (дронови) против онлајн пирати/терористи. Оператори оддалечени илјадници милји со безбедни десктоп компјутери - како да го знаеме ова? Книгата не е за бескрајниот конфликт со исламскиот тероризам, туку за борбата против силите кои се противат на глобализацијата. Светот на островите во мрежата е исто така исполнет со уреди за широка потрошувачка кои многу личат на паметни часовници и паметни спортски чевли.

Постои уште една книга од 80-тите, која иако некои од настаните изгледаат пофантастични, добро ги илустрира нашите модерни дистописки стравови. ова"Георадар софтвер“, Историја Рудиего Ракер, кој се одржува во 2020 година. Светот, состојбата на општеството и неговите конфликти изгледаат неверојатно слични на она со што се занимаваме денес. Исто така, постојат роботи познати како „boppers“ кои станале самосвесни и избегале во градовите на Месечината. Овој елемент се уште не е материјализиран, но револтот на машините станува постојан рефрен на црни прогнози.

Визиите на книгите за нашето време се исто така неверојатно точни на многу начини. Октавија Батлер, особено воПараболи на сејачот„(1993). Приказната започнува во 2024 година во Лос Анџелес и се одвива во Калифорнија опустошена од поплави, бури и суши предизвикани од климатските промени. Семејствата од средната и работничката класа се среќаваат во затворени заедници, обидувајќи се да избегаат од надворешниот свет преку дроги кои создаваат зависност и комплети за виртуелна реалност. Се појавуваат нови религии и теории на заговор. Караван бегалци тргнува на север за да избега од еколошки и социјален колапс. На власт доаѓа претседател кој го користи слоганот на кампањата „Направи ја Америка повторно голема“ (ова е слоганот на Доналд Трамп)…

Втората книга на Батлер,Парабола за талентите“, раскажува како членовите на новиот религиозен култ ја напуштаат Земјата на вселенски брод за да ја колонизираат Алфа Кентаур.

***

Која е поуката од овој опширен преглед на предвидувања и визии направени пред неколку децении кои влијаат на нашиот секојдневен живот?

Можеби поентата е дека дистопиите се случуваат често, но најчесто само делумно.