Rædselskabinet

Fremkomsten af ​​maskinerne og magtovertagelsen af ​​kunstig intelligens. En verden af ​​total overvågning og social kontrol. Atomkrig og civilisationens degeneration. Mange mørke fremtidsvisioner, tegnet for mange år siden, skulle være sket i dag. Og imens ser vi tilbage, og det ser ud til, at de ikke var der. Er du sikker?

Der er et ret stereotypt repertoire af populære dystopiske profetier (om den sorte fremtidsvision). Ud over de mest almindelige, der er forbundet med ødelæggelsen af ​​det naturlige miljø og ressourcer, er det en udbredt opfattelse, at de nyeste teknologier skader interpersonel kommunikation, relationer og samfund.

Virtuelt rum vil bedragerisk erstatte reel deltagelse i verden. Andre dystopiske synspunkter betragter teknologisk udvikling som en måde at øge social ulighed, koncentrere magt og rigdom i hænderne på snævre grupper. De høje krav til moderne teknologi koncentrerer viden og færdigheder i snævre kredse af privilegerede individer, øger overvågningen af ​​mennesker og ødelægger privatlivets fred.

Ifølge mange fremtidsforskere kan højere produktivitet og større synlige valg skade menneskets livskvalitet ved at forårsage stress, bringe job i fare og gøre os mere og mere materialistiske over for verden.

En af de berømte teknologiske "dystopier", James Gleick, giver et tilsyneladende trivielt eksempel på en tv-fjernbetjening som en klassisk opfindelse, der ikke løser et eneste væsentligt problem, hvilket giver anledning til mange nye. Gleick, citerer en teknisk historiker Edward Tenner, skriver, at muligheden og enkelheden ved at skifte kanal ved hjælp af fjernbetjeningen primært tjener til at distrahere seeren mere og mere.

I stedet for tilfredshed bliver folk mere og mere utilfredse med de kanaler, de ser. I stedet for at opfylde behovene er der en følelse af uendelig skuffelse.

Vil maskiner holde os på reservationer?

Vil vi være i stand til at kontrollere denne ting, der er uundgåelig og sandsynligvis kommer snart? Over kunstig intelligens? Hvis dette skal være tilfældet, som mange dystopiske visioner forkynder, så nej. (1).

Det er svært at kontrollere noget, der er mange gange stærkere end os. med en stigning i antallet af opgaver. For tyve år siden ville ingen have troet, at de kunne aflæse følelser i en persons stemme og ansigt meget mere præcist, end vi selv kan. I mellemtiden er de aktuelt trænede algoritmer allerede i stand til at gøre dette ved at analysere ansigtsudtryk, klang og måden vi taler på.

Computere tegner billeder, komponerer musik, og en af ​​dem vandt endda en poesikonkurrence i Japan. De har slået folk i skak i lang tid og lært spillet fra bunden. Det samme gælder for det meget mere komplekse spil Go.

den adlyder lovene om stadig hurtigere acceleration. Hvad AI har opnået - med menneskelig hjælp - i løbet af de sidste årtier vil fordobles i de næste par år, måske bare måneder, og så vil det kun tage uger, dage, sekunder...

Som det viste sig for nylig, kan de algoritmer, der bruges i smartphones eller i lufthavne til at analysere fotos fra allestedsnærværende kameraer, ikke kun genkende nogen i forskellige rammer, men også bestemme udelukkende intime psykologiske træk. At sige, at dette er en enorm privatlivsrisiko, er som at sige ingenting. Dette handler ikke om simpel overvågning, at se hvert trin, men om information, der opstår som følge af selve udseendet af en person, om hans skjulte ønsker og personlige præferencer. 

Algoritmer kan lære dette relativt hurtigt ved at analysere hundredtusindvis af tilfælde, hvilket er langt mere, end selv den mest kloge person kan se i et helt liv. Bevæbnet med sådan et væld af erfaring er de i stand til at scanne en person mere præcist end selv den mest erfarne psykolog, kropssprog og gestusanalytiker.

Så den virkelige rystende dystopi er ikke, at computere spiller skak eller går imod os, men at de kan se vores sjæl dybere end nogen anden end os selv, fulde af forbud og blokeringer i at genkende disse eller andre tilbøjeligheder.

Elon Musk mener, at efterhånden som AI-systemer begynder at lære og ræsonnere i et stadigt stigende omfang, kan "intelligens" udvikle sig et sted dybt i weblag, umærkelig for os.

Ifølge en amerikansk undersøgelse offentliggjort i 2016 har kunstig intelligens 45 procents chance for at overgå mennesker i alle opgaver inden for de næste 50 år. Prognosefolk siger, at ja, AI vil løse kræftproblemet, forbedre og fremskynde økonomien, levere underholdning, forbedre kvaliteten og levetiden, uddanne os, så vi ikke kan leve uden det, men det er muligt, at en dag, uden had, kun baseret på logisk beregning, det fjerner os simpelthen. Det er måske ikke muligt fysisk, for i ethvert system er det værd at akkumulere, arkivere og gemme ressourcer, der "kan komme til nytte en dag." Ja, det er den ressource, vi kan blive for AI. Beskyttede menneskelige reserver?

Optimister trøster sig med, at der altid er mulighed for at trække stikket ud af stikkontakten. Alt er dog ikke så enkelt. Allerede nu er menneskelivet blevet så afhængigt af computere, at et radikalt skridt mod dem ville være katastrofalt for os.

Vi skaber jo i stigende grad AI-baserede beslutningssystemer, der giver dem ret til at flyve med fly, fastsætte renter, drive kraftværker – vi ved, at algoritmer vil gøre det meget bedre end os. Samtidig forstår vi ikke helt, hvordan disse digitale beslutninger træffes.

Der er frygt for, at superintelligente kommandosystemer som "Reducer Congestion" kan få dem til at konkludere, at den eneste effektive måde at få arbejdet gjort på er at... reducere befolkningen med en tredjedel eller endda halvdelen.

Ja, det er værd at give maskinen den vigtigste instruktion som "Først og fremmest, red et menneskeliv!". Men hvem ved, om så digital logik vil føre til fængsling af menneskeheden eller under laden, hvor vi kan være sikre, men bestemt ikke fri.

Cyberkriminalitet som en tjeneste

Tidligere var dystopier og billeder af den post-apokalyptiske verden i litteratur og film normalt sat i den post-nukleare æra. I dag ser nuklear udslettelse ikke ud til at være nødvendig for katastrofen og ødelæggelsen af ​​verden, som vi kender den, selvom det ikke er på den måde, vi forestiller os. , er det usandsynligt, at det vil ødelægge verden som i "Terminator", hvor det blev kombineret med nuklear udslettelse. Hvis hun gjorde det, ville hun ikke være en superintelligens, men en primitiv kraft. Når alt kommer til alt, har selv menneskeheden endnu ikke indset det globale scenarie med en ødelæggende atomkonflikt.

En rigtig maskinapokalypse kan være meget mindre imponerende.

Cyberkrigsførelse, virusangreb, systemhacking og ransomware, ransomware (2) lammer og ødelægger vores verden lige så effektivt som bomber. Hvis deres omfang udvides, kan vi gå ind i en fase med altomfattende total krig, hvor vi vil blive ofre og gidsler for maskiner, selvom de ikke er forpligtet til at handle selvstændigt, og det er muligt, at folk stadig vil stå bag alt.

Sidste sommer udnævnte US Cyber ​​​​and Infrastructure Security Agency (CISA) ransomware-angreb til "den mest synlige cybersikkerhedstrussel."

CISA hævder, at mange aktiviteter, hvor en cyberkriminel opsnapper og krypterer en persons eller organisations data og derefter afpresser en løsesum, aldrig bliver rapporteret, fordi offeret betaler cyberkriminelle og ikke er villig til at offentliggøre problemer med deres usikre systemer. På mikroniveau er cyberkriminelle ofte rettet mod ældre mennesker, der har problemer med at skelne mellem ærligt og uærligt indhold på internettet. De gør dette med malware indlejret i en vedhæftet fil i en e-mail eller en pop-up på et inficeret websted. Samtidig er angreb på store virksomheder, hospitaler, offentlige myndigheder og regeringer stigende.

Sidstnævnte var især målrettet på grund af de følsomme data, de havde, og evnen til at betale store løsesummer.

Nogle oplysninger, såsom helbredsoplysninger, er meget mere værdifulde for ejeren end andre og kan tjene kriminelle flere penge. Tyve kan opsnappe eller sætte store blokke af kliniske data i karantæne, der er vigtige for patientbehandlingen, såsom testresultater eller lægemiddelinformation. Når livet står på spil, er der ikke plads til forhandling på hospitalet. Et af de amerikanske hospitaler blev lukket permanent i november sidste år efter terrorangrebet i august.

Det bliver nok kun værre med tiden. I 2017 annoncerede det amerikanske Department of Homeland Security, at cyberangreb kunne målrette kritisk infrastruktur såsom vandforsyninger. Og de nødvendige værktøjer til at udføre sådanne handlinger er i stigende grad tilgængelige for mindre operatører, til hvem de sælger ransomware-pakker såsom Cerber- og Petya-software og opkræver løsesum efter vellykkede angreb. Baseret på cyberkriminalitet som en tjeneste.

Farlig lidelse i genomet

Et af de populære emner for dystopi er genetik, DNA-manipulation og avl af mennesker - derudover "programmeret" på den rigtige måde (myndigheder, virksomheder, militær).

Den moderne udformning af disse angst er en metode til popularisering CRISPR-genredigering (3). De mekanismer, den indeholder, er primært bekymrende. fremtvinge ønskede funktioner i de efterfølgende generationer og deres potentiale spredes til hele befolkningen. En af opfinderne af denne teknik, Jennifer Doudna, selv for nylig opfordrede til et moratorium for sådanne "kimlinje"-redigeringsteknikker på grund af potentielt katastrofale konsekvenser.

Husk, at et par måneder siden, en kinesisk videnskabsmand Han Jiankui er blevet meget kritiseret for at redigere generne fra menneskelige embryoner for at immunisere dem mod AIDS-virus. Årsagen var, at de ændringer, han lavede, kunne gå i arv fra generation til generation med uforudsigelige konsekvenser.

Særligt bekymrende er det såkaldte d (genomskrivning, gendrev), dvs. en gensplejset mekanisme, der koder for et redigeringssystem i et givent individs DNA CRISPR/CAS9 genom med at indstille den til at redigere denne variant af det uønskede gen. På grund af dette overskriver efterkommerne automatisk (uden deltagelse af genetikere) den uønskede genvariant med den ønskede.

Imidlertid kan en uønsket genvariant modtages af afkom "som en gave" fra en umodificeret anden forælder. Så gendrev lad os bryde Mendelske arvelovesom indikerer, at halvdelen af ​​de dominerende gener nedarves af afkommet fra den ene forælder. Det vil kort sagt på sigt føre til, at den pågældende genvariant spreder sig i hele befolkningen.

Biolog ved Stanford University Christina Smolke, tilbage på et panel om genteknologi i 2016, advarede om, at denne mekanisme kunne have skadelige og i ekstreme tilfælde forfærdelige konsekvenser. Et gendrev har evnen til at mutere, når det går gennem generationer og forårsage genetiske lidelser såsom hæmofili eller hæmofili.

Som vi læste i et papir offentliggjort i Nature Reviews af forskere ved University of California, Riverside, kan det samme arvelige træk være skadeligt, hvis det på en eller anden måde introduceres i en anden population, selvom et drev fungerer som designet i en population af en organisme. samme udsigt.

Der er også en fare for, at forskere skaber gendrev bag lukkede døre og uden peer review. Hvis nogen med vilje eller utilsigtet introducerer et skadeligt gendrev i det menneskelige genom, såsom et der ødelægger vores resistens over for influenza, kan det endda betyde enden på homo sapiens-arten...

Overvågningskapitalisme

En version af dystopi, som tidligere science fiction-forfattere næppe kunne have forestillet sig, er internettets og især de sociale mediers virkelighed med alle dets vidt beskrevne forgreninger, der ødelægger folks privatliv, relationer og psykologiske integritet.

Denne verden er kun malet i nyere kunstforestillinger, såsom hvad vi kunne se i Black Mirror-serien i 2016-afsnittet "The Diving" (4). Shoshana Zuboff, en Harvard-økonom, kalder denne virkelighed fuldstændig afhængig af social selvbekræftelse og fuldstændig "deprivatiseret." overvågningskapitalisme (), og samtidig kronen på værket for Google og Facebook.

4. Scene fra "Black Mirror" - afsnit "Diving"

Ifølge Zuboff er Google den første opfinder. Derudover udvider den konstant sine overvågningsaktiviteter, for eksempel gennem tilsyneladende uskyldige "smart city"-projekter. Et eksempel er World's Most Innovative Neighborhood-projekt af Sidewalk Labs, et Google-datterselskab. mole i Toronto.

Google planlægger at indsamle alle de mindste data om livet for indbyggerne ved havnefronten, deres bevægelser og endda vejrtrækning ved hjælp af allestedsnærværende overvågningssensorer.

Det er også svært at vælge en internetdystopi, der er udelukket på Facebook. Overvågningskapitalismen er muligvis opfundet af Google, men det var Facebook, der tog det til et helt nyt niveau. Dette blev gjort gennem sociale og følelsesmæssige virale mekanismer og hensynsløs forfølgelse af selv dem, der ikke er brugere af Zuckerberg-platformen.

Bevogtet AI, fordybet i virtual reality, lever med UBI

Ifølge mange fremtidsforskere er verdens fremtid og teknologi udpeget af fem forkortelser - AI, AR, VR, BC og UBI.

Læsere af "MT" ved sikkert godt, hvad de er, og hvad de tre første består af. Det velkendte viser sig også at være det fjerde, "BC", når vi forstår, hvad det handler om. Og den femte? UBD er en forkortelse af begrebet, der betyder "universel grundindkomst » (5). Dette er en offentlig fordel, postuleret fra tid til anden, som vil blive givet til enhver person, der frigøres fra arbejde, efterhånden som andre teknologier udvikler sig, især AI.

5. Universel grundindkomst - UBI

Schweiz satte endda ideen til folkeafstemning sidste år, men dets borgere afviste den, da de frygtede, at indførelsen af ​​en garanteret indkomst ville føre til en strøm af immigranter. UBI bærer også en række andre farer med sig, herunder risikoen for at fastholde eksisterende sociale uligheder.

Hver af de teknologiske revolutioner bag akronymet (se også:) - hvis det spreder sig og udvikler sig i den forventede retning - har enorme konsekvenser for menneskeheden og vores verden, herunder selvfølgelig en enorm dosis dystopi. For eksempel menes det, at det kan erstatte fireårige valgcyklusser og føre til folkeafstemninger om utallige spørgsmål.

Virtual reality er til gengæld i stand til at "udelukke" en del af menneskeheden fra den virkelige verden. Som det for eksempel skete med koreanske Jang Ji Sung, der efter sin datters død i 2016 af en uhelbredelig sygdom siden har mødt sin avatar i VR. Det virtuelle rum skaber også nye slags problemer eller overfører faktisk alle de gamle kendte problemer til den "nye" verden, eller endda til mange andre verdener. Det kan vi til en vis grad allerede se på sociale netværk, hvor det sker, at for få likes på opslag fører til depression og selvmord.

Profetiske fortællinger mere eller mindre

Historien om dystopiske visioner lærer jo også om forsigtighed med at formulere forudsigelser.

6. Cover af "Øer i nettet"

Sidste år blev Ridley Scotts berømte sci-fi-mesterværk filmetAndroid Hunter» Siden 1982. Det er muligt at diskutere opfyldelsen eller ej af mange specifikke elementer, men det er indiskutabelt, at den vigtigste profeti om eksistensen i vor tid af intelligente, humanoide androider, på mange måder overlegne mennesker, endnu ikke er blevet til virkelighed.

Vi ville være klar til at tolerere mange flere profetiske hits."Neuromancere"altså romaner William Gibson siden 1984, hvilket populariserede begrebet "cyberspace".

Men i det årti udkom en lidt mindre kendt bog (næsten fuldstændig i vores land, fordi den ikke var oversat til polsk), som forudsagde nutidens tid meget mere præcist. Jeg taler om romantikØer på nettet(6) Bruce Sterling siden 1988, sat i 2023. Det præsenterer en verden fordybet i noget, der ligner internettet, kendt som "nettet". Det kontrolleres af store internationale selskaber. "Øer på nettet" er bemærkelsesværdige ved, at de giver kontrol, overvågning og monopolisering af det formodede frie internet.

Det er også interessant at forudse kampoperationer udført med ubemandede luftfartøjer (droner) mod online pirater/terrorister. Operatører tusindvis af kilometer væk med sikre desktops - hvordan ved vi det? Bogen handler ikke om den endeløse konflikt med islamisk terrorisme, men om kampen mod de kræfter, der modarbejder globaliseringen. Verden af ​​Islands in the Net er også fyldt med forbrugerenheder, der ligner smartwatches og smarte sportssko meget.

Der er en anden bog fra 80'erne, der, selvom nogle af begivenhederne virker mere fantastiske, gør et godt stykke arbejde med at illustrere vores moderne dystopiske frygt. Det her "Georadar software", Historie Rudy Rookersat i 2020. Verden, samfundets tilstand og dens konflikter virker utroligt lig det, vi har med at gøre i dag. Der er også robotter kendt som boppere, der har fået selvbevidsthed og flygtet til byer på månen. Dette element er endnu ikke blevet til virkelighed, men maskinernes oprør er ved at blive et konstant omkvæd af sorte forudsigelser.

Vor tids visioner i bøgerne er også på mange måder slående præcise. Octavia Butler, især iLignelser om sædemanden» (1993). Handlingen begynder i 2024 i Los Angeles og finder sted i Californien, ødelagt af oversvømmelser, storme og tørke forårsaget af klimaændringer. Middel- og arbejderfamilier mødes i lukkede fællesskaber, mens de forsøger at undslippe omverdenen med vanedannende stoffer og virtual reality-sæt. Nye religioner og konspirationsteorier dukker op. Flygtningekaravanen drager nordpå for at undgå økologisk og socialt sammenbrud. En præsident kommer til magten, som bruger kampagnesloganet "Make America Great Again" (dette er Donald Trumps slogan) ...

Butlers anden bog, "Lignelsen om talenternefortæller, hvordan medlemmer af en ny religiøs kult forlader Jorden i et rumskib for at kolonisere Alpha Centauri.

***

Hvad er lektien af ​​denne omfattende undersøgelse af forudsigelser og visioner lavet for flere årtier siden vedrørende vores daglige liv?

Sandsynligvis er faktum, at dystopier forekommer ofte, men oftest kun delvist.