Õuduste kabinet

Masinate tõus ja võimu haaramine tehisintellekti poolt. Täieliku jälgimise ja sotsiaalse kontrolli maailm. Tuumasõda ja tsivilisatsiooni degeneratsioon. Paljud tumedad tulevikunägemused, mis joonistati aastaid tagasi, oleksid pidanud juhtuma täna. Ja vahepeal vaatame tagasi ja tundub, et neid polnudki. Oled sa kindel?

Seal on üsna stereotüüpne populaarsete repertuaar düstoopilised ennustused (mustast tulevikuvisioonist). Lisaks enamlevinud looduskeskkonna ja ressursside hävitamisega seonduvatele on levinud arvamus, et uusimad tehnoloogiad kahjustavad inimestevahelist suhtlust, suhteid ja ühiskonda.

Virtuaalne ruum asendab petlikult reaalset maailmas osalemist. Teised düstoopilised vaated näevad tehnoloogilises arengus võimalust sotsiaalse ebavõrdsuse suurendamiseks, võimu ja rikkuse koondamiseks väikeste rühmade kätte. Kaasaegse tehnoloogia kõrged nõudmised koondavad teadmised ja oskused kitsastesse privilegeeritud isikute ringidesse, suurendavad inimeste jälgimist ja hävitavad privaatsust.

Paljude futuristide arvates võib kõrgem tootlikkus ja suurem nähtav valik kahjustada inimeste elukvaliteeti, põhjustades stressi, ohustades töökohti ja muutes meid maailma suhtes üha materialistlikumaks.

Üks kuulsamaid tehnoloogilisi "düstoopiaid", James Gleick, toob näiliselt triviaalse näite teleripuldist kui klassikalisest leiutisest, mis ei lahenda ühtki olulist probleemi, tekitades palju uusi. Gleick, tsiteerides üht tehnikaajaloolast Edward Tenner, kirjutab, et kaugjuhtimispuldi abil kanalite vahetamise võimalus ja lihtsus hajutab eelkõige vaataja tähelepanu üha enam.

Rahulolu asemel on inimesed järjest enam rahulolematud kanalitega, mida nad vaatavad. Vajaduste rahuldamise asemel tekib lõputu pettumuse tunne.

Kas autod hoiavad meid reserveeritud?

Kas suudame seda vältimatut ja ilmselt peagi saabuvat asja kontrollida? Üle tehisintellekti? Kui see nii peaks olema, nagu paljud düstoopilised nägemused kuulutavad, siis ei. (1).

Raske on kontrollida midagi, mis on meist kordades tugevam. koos ülesannete arvu suurenemisega. Kakskümmend aastat tagasi poleks keegi uskunud, et suudab inimese häälest ja näost emotsioone välja lugeda palju täpsemalt kui meie ise. Samal ajal on praegu koolitatud algoritmid juba võimelised seda tegema, analüüsides näoilmeid, tämbrit ja meie kõneviisi.

Arvutid joonistavad pilte, komponeerivad muusikat ja üks neist võitis isegi Jaapanis luulevõistluse. Nad on males inimesi löönud juba pikka aega, õppides mängu nullist. Sama kehtib ka palju keerulisema Go mängu kohta.

see järgib üha kiirema kiirenduse seadusi. See, mida tehisintellekt on inimeste abiga viimaste aastakümnete jooksul saavutanud, kahekordistub järgmise paari aasta, võib-olla vaid kuude jooksul, ja siis kulub vaid nädalaid, päevi, sekundeid...

Nagu hiljuti selgus, suudavad nutitelefonides või lennujaamades üldlevinud kaamerate fotode analüüsimiseks kasutatavad algoritmid mitte ainult tuvastada kedagi erinevates kaadrites, vaid määrata ka eranditult intiimseid psühholoogilisi tunnuseid. Öelda, et see on suur privaatsusrisk, on nagu midagi ütlemata. See ei puuduta lihtsat jälgimist, iga sammu jälgimist, vaid teavet, mis tekib inimese välimuse, tema varjatud soovide ja isiklike eelistuste tõttu. 

Algoritmid saavad selle suhteliselt kiiresti selgeks, analüüsides sadu tuhandeid juhtumeid, mis on palju rohkem, kui isegi kõige targem inimene suudab elu jooksul näha. Sellise kogemustepagasiga relvastatud suudavad nad inimest skaneerida täpsemalt kui isegi kõige kogenum psühholoog, kehakeele ja žestianalüütik.

Nii et tõeline külmavärinat tekitav düstoopia ei seisne selles, et arvutid mängivad malet või lähevad meile vastu, vaid see, et nad näevad meie hinge sügavamalt kui keegi teine ​​peale meie endi, täis keelde ja tõkkeid nende või muude kalduvuste äratundmisel.

Elon Musk usub, et kui tehisintellekti süsteemid hakkavad üha suuremas ulatuses õppima ja arutama, võib "intelligentsus" kusagil areneda sügaval veebikihtides, meile märkamatu.

2016. aastal avaldatud Ameerika uuringu kohaselt on tehisintellektil järgmise 45 aasta jooksul 50 protsenti võimalus ületada kõigis ülesannetes inimesi. Prognoosid ütlevad, et jah, tehisintellekt lahendab vähiprobleemi, parandab ja kiirendab majandust, pakub meelelahutust, parandab elukvaliteeti ja kestust, harib meid nii, et me ei saaks ilma selleta elada, kuid on võimalik, et ühel päeval, ilma vihkamine, ainult loogilise arvutuse põhjal, see lihtsalt eemaldab meid. Võib-olla füüsiliselt see ei tööta, sest igas süsteemis tasub salvestada, arhiveerida ja salvestada ressursse, mis "võivad kunagi kasuks tulla". Jah, see on ressurss, mida me saame tehisintellekti jaoks olla. Kaitstud tööjõud?

Optimistid lohutavad end sellega, et alati on võimalus pistik pistikupesast välja tõmmata. Kõik pole siiski nii lihtne. Juba praegu on inimelu muutunud arvutitest niivõrd sõltuvaks, et radikaalne samm nende vastu oleks meie jaoks katastroof.

Loome ju järjest enam AI-põhiseid otsustussüsteeme, andes neile õiguse lennata lennukeid, määrata intressimäärasid, juhtida elektrijaamu – teame, et algoritmid teevad seda palju paremini kui me. Samas ei saa me lõpuni aru, kuidas neid digiotsuseid tehakse.

Kardetakse, et sellised üliintelligentsed käsusüsteemid nagu "Ummikute vähendamine" võivad viia nad järeldusele, et ainus tõhus viis töö tegemiseks on... elanikkonna vähendamine kolmandiku või isegi poole võrra.

Jah, masinale tasub anda kõige olulisem õpetus nagu “Ennekõike päästa inimelu!”. Samas, kes teab, kas siis digiloogika toob kaasa inimkonna vangistuse või küüni alla, kus võib olla küll turvaline, aga kindlasti mitte vaba.

Küberkuritegevus kui teenus

Varem olid düstoopiad ja postapokalüptilise maailma kujutised kirjanduses ja kinos tavaliselt aset leidnud tuumajärgsel ajastul. Tänapäeval ei tundu tuumahävitamine vajalik maailma katastroofi ja hävingu jaoks sellisel kujul, nagu me seda teame, kuigi mitte nii, nagu me seda ette kujutame. , tõenäoliselt ei hävita see maailma nagu "Terminaatoris", kus see ühendati tuumahävitusega. Kui ta seda teeks, poleks ta superintelligents, vaid primitiivne jõud. Lõppude lõpuks pole isegi inimkond veel aru saanud laastava tuumakonflikti globaalsest stsenaariumist.

Tõeline masinaapokalüpsis võib olla palju vähem muljetavaldav.

Kübersõda, viirusrünnakud, süsteemi häkkimine ja lunavara, lunavara (2) halvavad ja hävitavad meie maailma mitte vähem tõhusalt kui pommid. Kui nende ulatus laieneb, võime jõuda täieliku totaalse sõja faasi, kus meist saavad masinate ohvrid ja pantvangid, kuigi neilt ei nõuta autonoomset tegutsemist ja on võimalik, et kõige taga on ikkagi inimesed.

Möödunud suvel nimetas USA küberturvalisuse ja infrastruktuuri turvaagentuur (CISA) lunavararünnakud "kõige nähtavamaks küberjulgeoleku ohuks".

CISA väidab, et paljudest tegevustest, kus küberkurjategija pealtkuulab ja krüpteerib inimese või organisatsiooni andmed ning seejärel pressib välja lunaraha, ei teatata kunagi, sest ohver maksab küberkurjategijatele ega soovi oma ebaturvaliste süsteemidega seotud probleeme avalikustada. Mikrotasandil on küberkurjategijate sihtmärgiks sageli vanemad inimesed, kellel on raskusi Internetis ausa ja ebaausa sisu eristamisega. Nad teevad seda ründevaraga, mis on manustatud e-posti manusesse või nakatunud veebisaidi hüpikaknasse. Samal ajal sagenevad rünnakud suurkorporatsioonide, haiglate, valitsusasutuste ja valitsuste vastu.

Viimased olid eriti suunatud nende valduses olevate tundlike andmete ja suurte lunarahade maksmise võimaluse tõttu.

Mõni teave, näiteks terviseteave, on omanikule palju väärtuslikum kui teised ja võib kurjategijatele rohkem raha teenida. Vargad võivad kinni püüda või karantiini panna suuri patsiendihoolduse seisukohalt olulisi kliinilisi andmeid, näiteks testitulemusi või ravimiteavet. Kui elu on kaalul, pole haiglas ruumi läbirääkimisteks. Üks Ameerika haiglatest suleti jäädavalt eelmise aasta novembris pärast augustikuu terrorirünnakut.

Tõenäoliselt läheb see aja jooksul ainult hullemaks. 2017. aastal teatas USA sisejulgeolekuministeerium, et küberrünnakud võivad olla suunatud kriitilisele infrastruktuurile, näiteks veevärgile. Ja selliste toimingute tegemiseks vajalikud tööriistad on üha enam kättesaadavad väiksematele operaatoritele, kellele nad müüvad lunavarapakette nagu Cerber ja Petya tarkvara ning nõuavad pärast edukaid rünnakuid lunaraha. Põhineb küberkuritegevusel kui teenusel.

Genoomi ohtlik häire

Üheks populaarseks düstoopia teemaks on geneetika, DNA manipuleerimine ja inimeste aretamine – lisaks veel õigel viisil "programmeeritud" (võimud, korporatsioonid, sõjavägi).

Nende murede kaasaegne kehastus on populariseerimismeetod CRISPR geeni redigeerimine (3). Muret tekitavad eelkõige selles sisalduvad mehhanismid. soovitud funktsioonide sundimine järgnevatel põlvkondadel ja nende potentsiaal levis kogu elanikkonnani. Üks selle tehnika leiutajaid, Jennifer Doudna, kutsus isegi hiljuti üles kehtestama moratooriumi sellistele "idutee" toimetamistehnikatele potentsiaalselt katastroofiliste tagajärgede tõttu.

Tuletage meelde, et mõni kuu tagasi Hiina teadlane Ta Jiankui on laialdaselt kritiseeritud inimese embrüote geenide redigeerimise eest, et immuniseerida neid AIDS-i viiruse vastu. Põhjus oli selles, et tema tehtud muudatused võisid põlvest põlve edasi anda ettearvamatute tagajärgedega.

Eriti murettekitavad on nn d (geenide ümberkirjutamine, geeniajam), st. geneetiliselt muundatud mehhanism, mis kodeerib redigeerimissüsteemi antud indiviidi DNA-s CRISPR / CAS9 genoom määrates selle soovimatu geeni selle variandi redigeerimiseks. Tänu sellele kirjutavad järeltulijad automaatselt (ilma geneetikute osaluseta) soovimatu geenivariandi soovitavaga üle.

Ebasoovitava geenivariandi võib aga järglane saada "kingiks" muult muundamata teiselt vanemalt. Nii et geeniajam murrame Mendeli pärilikkuse seadusedmis ütlevad, et pooled domineerivatest geenidest lähevad ühe vanema järglastele. Lühidalt öeldes viib see lõpuks kõnealuse geenivariandi levimiseni kogu populatsioonini.

Stanfordi ülikooli bioloog Christina Smolke, 2016. aastal geenitehnoloogia paneelis, hoiatas, et sellel mehhanismil võivad olla kahjulikud ja äärmuslikel juhtudel kohutavad tagajärjed. Geeniajam on võimeline põlvkondade kaupa muteeruma ja põhjustada selliseid geneetilisi häireid nagu hemofiilia või hemofiilia.

California Riverside'i ülikooli teadlaste ajakirjas Nature Reviews avaldatud artiklist loeme, et isegi kui ajam töötab ühes organismi populatsioonis ettenähtud viisil, võib sama pärilik tunnus olla kahjulik, kui see viiakse mingil viisil teise populatsiooni. . sama välimus.

Samuti on oht, et teadlased loovad geeniajamid suletud uste taga ja ilma vastastikuse eksperdihinnanguta. Kui keegi toob tahtlikult või tahtmatult inimese genoomi sisse kahjuliku geeniajami, näiteks sellise, mis hävitab meie vastupanuvõimet gripi vastu, võib see tähendada isegi homo sapiens liigi lõppu...

Järelevalvekapitalism

Düstoopia versioon, mida endised ulmekirjanikud vaevalt ette kujutasid, on Interneti ja eriti sotsiaalmeedia reaalsus koos kõigi selle laialdaselt kirjeldatud tagajärgedega, mis hävitavad inimeste privaatsust, suhteid ja psühholoogilist terviklikkust.

See maailm on maalitud ainult uuemates kunstilavastustes, nagu see, mida võisime näha sarjas Black Mirror 2016. aasta osas "The Diving" (4). Shoshana Zuboff, Harvardi majandusteadlane, nimetab seda reaalsust täielikult sotsiaalsest enesejaatusest sõltuvaks ja täielikult "deprivatiseerituks". jälgimiskapitalism (), ja samal ajal Google'i ja Facebooki krooniks.

4. Stseen filmist "Black Mirror" - osa "Sukeldumine"

Zuboffi sõnul on Google esimene leiutaja. Lisaks laiendab ta pidevalt oma jälitustegevust, näiteks näiliselt süütute "targa linna" projektide kaudu. Näiteks võib tuua Google'i tütarettevõtte Sidewalk Labsi projekti maailma kõige innovaatilisema naabruskonna projekt. jahisadam Torontos.

Google'il on kavas koguda kõikjalolevate jälgimisandurite abil kõik väiksemad andmed kaldaäärsete elanike eluolu, liikumise ja isegi hingamise kohta.

Samuti on raske valida Interneti-düstoopiat, mis Facebookis kõne alla ei tule. Järelevalvekapitalismi võis leiutada Google, kuid just Facebook viis selle täiesti uuele tasemele. Seda tehti sotsiaalsete ja emotsionaalsete viirusmehhanismide ning isegi nende inimeste halastamatu tagakiusamise kaudu, kes ei ole Zuckerbergi platvormi kasutajad.

Valvatud AI, sukeldunud virtuaalsesse reaalsusesse, elades koos UBI-ga

Paljude futuristide arvates tähistab maailma ja tehnoloogia tulevikku viis lühendit – AI, AR, VR, BC ja UBI.

"MT" lugejad teavad ilmselt hästi, mis need on ja millest kolm esimest koosneb. Tuttav osutub ka neljandaks, "BC", kui saame aru, millest jutt. Ja viies? UBD on mõiste lühend, mis tähendab "universaalne põhisissetulek » (5). See on avalik hüve, mida aeg-ajalt postuleeritakse ja mida muude tehnoloogiate, eriti tehisintellekti arenedes saavad kõik töölt vabastatud inimesed.

5. Universaalne põhisissetulek – UBI

Šveits pani idee isegi eelmisel aastal rahvahääletusele, kuid selle kodanikud lükkasid selle tagasi, kartes, et sissetulekute tagamise kehtestamine toob kaasa immigrantide tulva. UBI-ga kaasnevad ka mitmed muud ohud, sealhulgas oht olemasoleva sotsiaalse ebavõrdsuse püsimiseks.

Iga akronüümi (vt ka:) taga peituv tehnoloogiline revolutsioon - kui see levib ja areneb oodatud suunas - omab tohutuid tagajärgi inimkonnale ja meie maailmale, sealhulgas loomulikult tohutu annuse düstoopiat. Näiteks arvatakse, et see võib asendada nelja-aastaseid valimistsükleid ja viia rahvahääletusteni lugematul hulgal teemadel.

Virtuaalreaalsus omakorda suudab osa inimkonnast reaalsest maailmast "välistada". Nagu juhtus näiteks korealanna Jang Ji Sungiga, kes pärast tütre surma 2016. aastal ravimatusse haigusesse on pärast seda kohtunud oma avatariga VR-is. Virtuaalne ruum loob ka uut laadi probleeme või kannab tegelikult kõik vanad teadaolevad probleemid üle "uude" maailma või isegi paljudesse teistesse maailmadesse. Mingil määral näeme seda juba sotsiaalvõrgustikes, kus juhtub, et liiga vähe meeldimisi postitustele viib depressiooni ja enesetapuni.

Enam-vähem prohvetlikud jutud

Õpetab ju ka düstoopiliste visioonide loomise ajalugu ettevaatust ennustuste sõnastamisel.

6. "Saared võrgus" kaas

Eelmisel aastal filmiti Ridley Scotti kuulus ulme meistriteosandroid jahimees» Alates 1982. aastast. Võib arutleda paljude konkreetsete elementide täitumise või mittetäitmise üle, kuid on vaieldamatu, et kõige olulisem ettekuulutus intelligentsete humanoid-androidide olemasolu kohta meie ajal, kes on paljuski inimestest paremad, ei ole veel reaalsuseks saanud.

Oleksime valmis taluma palju rohkem prohvetlikke tabamusi."Neuromancers »ehk romaanid William Gibson aastast 1984, kes populariseeris "küberruumi" kontseptsiooni.

Küll aga ilmus sel kümnendil veidi vähem tuntud raamat (meil peaaegu täielikult, sest poola keelde seda ei tõlgitud), mis ennustas tänast aega palju täpsemalt. Ma räägin romantikastSaared veebis"(6) Bruce Sterling aastast 1988, tegevusaeg 2023. aastal. See esitleb maailma, mis on sukeldunud Internetiga sarnasesse maailma, mida nimetatakse "veebiks". Seda kontrollivad suured rahvusvahelised korporatsioonid. "Saared veebis" on tähelepanuväärsed väidetavalt tasuta Interneti kontrolli, jälgimise ja monopoliseerimise poolest.

Huvitav on ka ette näha sõjalisi operatsioone, mis viiakse läbi mehitamata õhusõidukite (droonide) abil veebipiraatide/terroristide vastu. Turvaliste lauaarvutitega operaatorid tuhandete kilomeetrite kaugusel – kuidas me seda teame? Raamat ei räägi lõputust konfliktist islamiterrorismiga, vaid võitlusest globaliseerumisele vastu seisvate jõududega. Saarte maailm on täis ka tarbijaseadmeid, mis näevad välja nagu nutikellad ja nutikad spordijalatsid.

On veel üks raamat 80ndatest, mis, kuigi mõned sündmused tunduvad fantastilisemad, illustreerib hästi meie tänapäevaseid düstoopseid hirme. see"Georadari tarkvara", lugu Rudy Rookerseatud aastal 2020. Maailm, ühiskonna olukord ja selle konfliktid tunduvad uskumatult sarnased sellega, millega me praegu tegeleme. Leidub ka robotite nime all tuntud roboteid, kes on saanud eneseteadvuse ja põgenenud Kuu peal asuvatesse linnadesse. See element pole veel realiseerunud, kuid masinate mäss on muutumas mustade ennustuste pidevaks refrääniks.

Ka meie aja nägemused raamatutes on mitmes mõttes rabavalt täpsed. Octavia Butler, eriti sisseTähendamissõnad Külvajast» (1993). Tegevus algab 2024. aastal Los Angeleses ja leiab aset Californias, mida laastavad kliimamuutustest põhjustatud üleujutused, tormid ja põud. Kesk- ja töölisklassi pered kohtuvad suletud kogukondades, kui nad püüavad sõltuvust tekitavate uimastite ja virtuaalreaalsuse komplektidega välismaailmast põgeneda. Tekivad uued religioonid ja vandenõuteooriad. Põgenikekaravan suundub põhja poole, et vältida ökoloogilist ja sotsiaalset kokkuvarisemist. Võimule tuleb president, kes kasutab kampaania loosungit "Make America Great Again" (see on Donald Trumpi loosung) ...

Butleri teine ​​raamat "Tähendamissõna talentidesträägib, kuidas uue usukultuse liikmed lahkuvad Maalt kosmoselaevaga, et koloniseerida Alpha Centauri.

***

Mis on selle mitmekümne aasta taguste ennustuste ja nägemuste ulatusliku uuringu õppetund meie igapäevaelu kohta?

Tõenäoliselt on tõsiasi, et düstoopiaid juhtub sageli, kuid enamasti ainult osaliselt.