Algoritmernes krig

Når det kommer til brugen af ​​kunstig intelligens i militæret, vågner mareridtet af science fiction øjeblikkeligt, en oprørsk og dødbringende AI, der rejser sig mod menneskeheden for at ødelægge den. Desværre er militærets og ledernes frygt for, at "fjenden vil indhente os", lige så stærk i udviklingen af ​​krigsførelsesalgoritmer.

Algoritmisk krigsførelsesom ifølge mange fundamentalt kunne ændre ansigtet på slagmarken, som vi kender den, primært fordi krigsførelse ville være hurtigere, langt forud for folks evne til at træffe beslutninger. amerikansk general Jack Shanahan (1), leder af US Joint Center for Artificial Intelligence, understreger dog, at før vi introducerer kunstig intelligens i arsenaler, skal vi sikre, at disse systemer stadig er under menneskelig kontrol og ikke starter krige på egen hånd.

"Hvis fjenden har maskiner og algoritmer, vil vi tabe denne konflikt"

Køreevne algoritmisk krigsførelse er baseret på brugen af ​​fremskridt inden for computerteknologi på tre hovedområder. Først årtiers eksponentiel vækst i computerkraftdette har i høj grad forbedret ydeevnen af ​​maskinlæring. Anden hurtig vækst af ressourcer "Big data", det vil sige enorme, normalt automatiserede, administrerede og kontinuerligt oprettede datasæt, der egner sig til maskinlæring. Den tredje vedrører hurtig udvikling af cloud computing-teknologier, hvorigennem computere nemt kan få adgang til dataressourcer og behandle dem for at løse problemer.

Krigsalgoritmesom defineret af eksperterne, skal det først udtrykkes med computer kode. For det andet skal det være resultatet af en platform, der er i stand til både at indsamle information og træffe valg, træffe beslutninger, der i hvert fald i teorien ikke kræver menneskelig indgriben. For det tredje, hvilket virker indlysende, men ikke nødvendigvis, for det er først i aktion, at det bliver klart, om en teknik, der er beregnet til noget andet, kan være nyttig i krig og omvendt, den skal kunne virke under forhold. væbnet konflikt.

En analyse af ovenstående retninger og deres interaktion viser det algoritmisk krigsførelse det er ikke en særskilt teknologi som f.eks. energivåben eller hypersoniske missiler. Dens virkninger spænder vidt og er gradvist ved at blive allestedsnærværende i fjendtligheder. For første gang militære køretøjer de bliver intelligente, hvilket potentielt gør de forsvarsstyrker, der implementerer dem, mere effektive og effektive. Sådanne intelligente maskiner har klare begrænsninger, som skal forstås godt.

"" sagde Shanahan sidste efterår i et interview med tidligere Google CEO Eric Schmidt og Googles vicepræsident for internationale anliggender Kent Walker. "".

Det amerikanske nationale sikkerhedsråds udkast til rapport om kunstig intelligens henviser til Kina mere end 50 gange, hvilket fremhæver Kinas officielle mål om at blive verdens førende inden for kunstig intelligens inden 2030 (se også: ).

Disse ord blev talt i Washington på en særlig konference, der fandt sted efter det førnævnte Shanakhan Center præsenterede sin foreløbige rapport for Kongressen, udarbejdet i samarbejde med anerkendte eksperter inden for kunstig intelligens, herunder Microsofts forskningsdirektør Eric Horwitz, AWS CEO Andy Jassa og Google Cloud-lederforsker Andrew Moore. Den endelige rapport vil blive offentliggjort i oktober 2020.

Google-medarbejdere protesterer

For et par år siden blev Pentagon involveret. algoritmisk krigsførelse og en række AI-relaterede projekter under Maven-projektet, baseret på samarbejde med teknologivirksomheder, herunder Google og startups som Clarifai. Det handlede primært om at arbejde videre kunstig intelligensfor at lette identifikation af genstande på.

Da det blev kendt om Googles deltagelse i projektet i foråret 2018, underskrev tusindvis af ansatte i Mountain View-giganten et åbent brev, der protesterede mod virksomhedens involvering i fjendtligheder. Efter måneders arbejdsuro Google har vedtaget sit eget regelsæt for kunstig intelligenssom omfatter forbud mod deltagelse i arrangementer.

Google har også forpligtet sig til at fuldføre Project Maven-kontrakten inden udgangen af ​​2019. Googles exit afsluttede ikke Project Maven. Den blev købt af Peter Thiels Palantir. Luftvåbenet og det amerikanske marinekorps planlægger at bruge specielle ubemandede luftfartøjer, såsom Global Hawk, som en del af Maven-projektet, som hver især skal visuelt overvåge op til 100 kvadratkilometer.

I anledning af det, der sker omkring Project Maven, blev det klart, at det amerikanske militær har akut brug for sin egen sky. Dette er, hvad Shanahan sagde under konferencen. Dette var tydeligt, da videooptagelser og systemopdateringer skulle transporteres til militære installationer spredt ud over feltet. I bygning unified cloud computing, som vil hjælpe med at løse problemer af denne type, som en del af et samlet it-infrastrukturprojekt for Jedi-hæren, Microsoft, Amazon, Oracle og IBM. Google er ikke på grund af deres etiske kodeks.

Det fremgår tydeligt af Shanahans udtalelse, at den store AI-revolution i militæret kun lige er begyndt. Og dens centrums rolle i de amerikanske væbnede styrker vokser. Dette ses tydeligt i det estimerede JAIC-budget. I 2019 udgjorde det knap 90 millioner dollars. I 2020 skulle det allerede være $414 millioner, eller omkring 10 procent af Pentagons $4 milliarder AI-budget.

Maskinen genkender en overgivet soldat

Amerikanske tropper er allerede udstyret med systemer som Phalanx (2), som er en type autonome våben, der bruges på amerikanske flådes skibe til at angribe indkommende missiler. Når et missil bliver opdaget, tænder det automatisk og ødelægger alt på dens vej. Ifølge Ford kan han angribe med fire eller fem missiler på et halvt sekund uden at skulle igennem og se på hvert mål.

Et andet eksempel er den semi-autonome Harpy (3), et kommercielt ubemandet system. Harpyen bruges til at ødelægge fjendens radarer. For eksempel, da USA i 2003 iværksatte et angreb på Irak, der havde luftbårne radaraflytningsystemer, hjalp israelsk fremstillede droner med at finde og ødelægge dem, så amerikanerne sikkert kunne flyve ind i det irakiske luftrum.

3. Lancering af IAI Harpy-systemets drone

Et andet velkendt eksempel på autonome våben er Koreansk Samsung SGR-1 system, der ligger i den demilitariserede zone mellem Nord- og Sydkorea, designet til at identificere og affyre ubudne gæster i en afstand på op til fire kilometer. Systemet "kan ifølge beskrivelsen skelne mellem en person, der overgiver sig og en person, der ikke overgiver sig" ud fra deres hænders position eller anerkendelse af våbnets position i deres hænder.

4. Demonstration af detektering af en overgivende soldat ved hjælp af Samsung SGR-1-systemet

Amerikanerne er bange for at blive efterladt

I øjeblikket bruger mindst 30 lande rundt om i verden automatiske våben med forskellige niveauer af udvikling og brug af AI. Kina, Rusland og USA ser kunstig intelligens som et uundværligt element i opbygningen af ​​deres fremtidige position i verden. "Den, der vinder AI-løbet, vil regere verden," sagde den russiske præsident, Vladimir Putin, til studerende i august 2017. Præsidenten for Folkerepublikken Kina, Xi Jinping, har ikke fremsat så højprofilerede udtalelser i medierne, men han er hoveddrivkraften bag direktivet, der opfordrer Kina til at blive den dominerende kraft inden for kunstig intelligens i 2030.

Der er voksende bekymring i USA om "satelliteffekten", som har vist, at USA er ekstremt dårligt rustet til at møde de nye udfordringer, som kunstig intelligens udgør. Og det kan være farligt for freden, om ikke andet fordi det land, der er truet af herredømmet, måske vil fjerne fjendens strategiske fordel på en anden måde, altså ved krig.

Selvom det oprindelige formål med Maven-projektet var at hjælpe med at finde islamiske ISIS-krigere, er dets betydning for den videre udvikling af militære kunstige intelligenssystemer enorm. Elektronisk krigsførelse baseret på optagere, monitorer og sensorer (herunder mobil, flyvende) er forbundet med et stort antal heterogene datastrømme, som kun kan bruges effektivt ved hjælp af AI-algoritmer.

Den hybride slagmark er blevet militær version af IoT, rig på vigtig information til vurdering af taktiske og strategiske trusler og muligheder. At være i stand til at administrere disse data i realtid har store fordele, men undladelse af at lære af disse oplysninger kan være katastrofalt. Evnen til hurtigt at behandle informationsstrømmen fra forskellige platforme, der opererer i flere områder, giver to store militære fordele: hastighed i tilgængelighed. Kunstig intelligens giver dig mulighed for at analysere de dynamiske forhold på slagmarken i realtid og slå hurtigt og optimalt til, samtidig med at du minimerer risikoen for dine egne styrker.

Denne nye slagmark er også allestedsnærværende og. AI er kernen i de såkaldte dronesværme, som har fået stor opmærksomhed de seneste år. Ved hjælp af allestedsnærværende sensorer tillader det ikke kun droner at navigere i fjendtligt terræn, men kan i sidste ende tillade dannelsen af ​​komplekse formationer af forskellige typer ubemandede luftfartøjer, der opererer i mange områder, med yderligere våben, der tillader sofistikerede kamptaktik, der umiddelbart tilpasser sig fjende. manøvrer for at udnytte slagmarken og rapportere skiftende forhold.

Fremskridt inden for AI-assisteret målretning og navigation forbedrer også mulighederne for effektivitet i en lang række taktiske og strategiske forsvarssystemer, især missilforsvar, ved at forbedre metoderne til at detektere, spore og identificere mål.

øger konstant styrken af ​​simuleringer og spilværktøjer, der bruges til at forske i atomvåben og konventionelle våben. Massemodellering og -simulering vil være afgørende for at udvikle et omfattende multi-domæne system af målsystemer til kampkontrol og komplekse missioner. AI beriger også interaktioner mellem flere parter (5). AI giver spillere mulighed for at tilføje og ændre spilvariabler for at udforske, hvordan dynamiske forhold (våben, allierede involvering, yderligere tropper osv.) kan påvirke ydeevne og beslutningstagning.

For militæret er objektidentifikation et naturligt udgangspunkt for AI. For det første er der behov for en omfattende og hurtig analyse af det stigende antal billeder og informationer indsamlet fra satellitter og droner for at finde genstande af militær betydning, såsom missiler, troppebevægelser og andre efterretningsrelaterede data. I dag spænder slagmarken over alle landskaber - hav, land, luft, rum og cyberspace - på global skala.

Cyberspacesom et iboende digitalt domæne er det naturligvis velegnet til AI-applikationer. På den offensive side kan AI hjælpe med at finde og målrette individuelle netværksknuder eller individuelle konti for at indsamle, forstyrre eller misinformere. Cyberangreb på intern infrastruktur og kommandonetværk kan være katastrofale. Hvad angår forsvar, kan AI hjælpe med at opdage sådanne indtrængen og finde destruktive anomalier i civile og militære operativsystemer.

Forventet og farlig fart

Hurtig beslutningstagning og hurtig eksekvering kan dog muligvis ikke tjene dig godt. for effektiv krisestyring. Fordelene ved kunstig intelligens og autonome systemer på slagmarken giver måske ikke tid til diplomati, hvilket, som vi ved fra historien, ofte har haft succes som et middel til at forebygge eller håndtere en krise. I praksis kan nedsættelse af farten, pause og tid til at forhandle være nøglen til sejr, eller i det mindste afværge katastrofe, især når atomvåben er på spil.

Beslutninger om krig og fred kan ikke overlades til forudsigende analyser. Der er grundlæggende forskelle i, hvordan data bruges til videnskabelige, økonomiske, logistiske og forudsigelige formål. menneskelig adfærd.

Nogle vil måske opfatte AI som en styrke, der svækker den gensidige strategiske følsomhed og dermed øger risikoen for krig. Utilsigtet eller bevidst beskadigede data kan få AI-systemer til at udføre utilsigtede handlinger, såsom fejlidentifikation og målretning mod de forkerte mål. Handlingshastigheden, der postuleres i tilfælde af udvikling af krigsalgoritmer, kan betyde for tidlig eller endda unødvendig eskalering, der hæmmer en rationel styring af krisen. På den anden side vil algoritmer heller ikke vente og forklare, for de forventes også at være hurtige.

Foruroligende aspekt funktion af kunstig intelligens algoritmer også præsenteret af os for nylig i MT. Selv eksperter ved ikke præcis, hvordan AI fører til de resultater, vi ser i outputtet.

I tilfælde af krigsalgoritmer har vi ikke råd til en sådan uvidenhed om naturen og hvordan de "tænker" dem. Vi ønsker ikke at vågne op midt om natten til atomudbrud, fordi "vores" eller "deres" kunstige intelligens har besluttet, at det er tid til endelig at afgøre kampen.