Hvem bliver dræbt af en selvkørende bil? Maskine, red så mange mennesker du kan, men mest af alt, red mig!
Hvis der opstår en situation, hvor det autonome system i en bil skal træffe et hurtigt valg af, hvem der skal ofres i tilfælde af en forestående ulykke, hvordan skal den så reagere? Ofrer passagerer for at redde fodgængere? Hvis det er nødvendigt, dræbe en fodgænger for at skåne, for eksempel en familie på fire, der rejser i en bil? Eller måske skal han altid beskytte sig selv først?
Mens over tres virksomheder allerede har modtaget personlige testtilladelser alene i Californien, er det svært at sige, at industrien er klar til at stå over for etiske dilemmaer. I øjeblikket kæmper han med mere basale problemer - systemernes drift og navigationseffektivitet og blot at undgå kollisioner og uforudsete hændelser. I situationer som det nylige mord på en fodgænger i Arizona, eller efterfølgende ulykker (1), har det hidtil blot handlet om systemfejl og ikke om en form for "etisk valg" af bilen.
Red de rige og unge
Spørgsmålene om at træffe denne slags beslutninger er ikke abstrakte problemer. Enhver erfaren chauffør kan attestere dette. Sidste år analyserede forskere fra MIT Media Lab over fyrre millioner svar fra respondenter fra hele verden, som blev indsamlet i løbet af forskning, der blev lanceret i 2014. Meningssystemet, de kalder "Ethical Machine", viste, at forskellige steder rundt omkring i verden, stilles lignende spørgsmål forskellige svar.
De mest generelle konklusioner er forudsigelige. I ekstreme situationer folk foretrækker at redde mennesker frem for at passe dyr, med det formål at redde så mange liv som muligt, og har en tendens til at være yngre end de ældre (2). Der er også nogle, men mindre indlysende, præferencer, når det kommer til at redde kvinder frem for mænd, personer med højere status frem for fattigere og fodgængere frem for bilpassagerer..
2. Hvem skal bilen redde?
Da næsten en halv million respondenter udfyldte demografiske spørgeskemaer, var det muligt at korrelere deres præferencer med alder, køn og religiøs overbevisning. Forskerne konkluderede, at disse forskelle ikke "betydeligt påvirkede" folks beslutninger, men bemærkede nogle kulturelle påvirkninger. Franskmændene havde for eksempel en tendens til at afveje beslutninger ud fra det anslåede antal dødsfald, mens vægten i Japan var mindst. Men i den opgående sols land værdsættes de ældres liv meget mere end i Vesten.
"Før vi giver vores biler lov til at træffe deres egne etiske beslutninger, skal vi have en global debat om dette. Når virksomheder, der arbejder på autonome systemer, lærer om vores præferencer, så vil de udvikle etiske algoritmer i maskiner baseret på dem, og politikere kan begynde at indføre passende lovbestemmelser,” skrev forskerne i oktober 2018 i Nature.
En af forskerne involveret i Moral Machine-eksperimentet, Jean-Francois Bonnefont, fandt, at præferencen for at redde folk med højere status (såsom ledere frem for hjemløse) var alarmerende. Det hænger efter hans mening meget sammen med niveauet af økonomisk ulighed i et givet land. Hvor ulighederne var større, gav man fortrinsret til at ofre de fattige og de hjemløse.
En af de tidligere undersøgelser viste især, at en selvkørende bil ifølge de adspurgte skal beskytte så mange mennesker som muligt, selvom det betyder at miste passagerer. De adspurgte oplyste dog samtidig, at de ikke ville købe en bil programmeret på denne måde. Det forklarede forskerne mens folk finder det mere etisk at redde flere mennesker, er de også selvinteresserede, hvilket kan være et signal til producenterne om, at kunderne vil være tilbageholdende med at købe biler udstyret med altruistiske systemer.. For nogen tid siden sagde repræsentanter for Mercedes-Benz-firmaet, at hvis deres system kun reddede én person, ville de vælge føreren, ikke fodgængeren. En bølge af offentlig protest tvang virksomheden til at trække sin erklæring tilbage. Men forskning viser tydeligt, at der var meget hykleri i denne hellige indignation.
Dette sker allerede i nogle lande. første forsøg på lovregulering i marken. Tyskland har vedtaget en lov, der kræver, at førerløse biler for enhver pris undgår skader eller død. Loven siger også, at algoritmer aldrig kan træffe beslutninger baseret på karakteristika som alder, køn, helbred eller fodgængere.
Audi tager ansvaret
Designeren er ikke i stand til at forudsige alle konsekvenserne af bilens drift. Virkeligheden kan altid give en kombination af variabler, der aldrig er blevet testet før. Dette underminerer vores tro på muligheden for overhovedet at "etisk programmere" en maskine. Det forekommer os, at i situationer, hvor der opstår en fejl, og der opstår en tragedie "på grund af bilens fejl", bør ansvaret bæres af producenten og udvikleren af systemet.
Måske er dette ræsonnement korrekt, men måske ikke fordi det var forkert. Snarere fordi en bevægelse var tilladt, der ikke 2019% var fri for muligheden for at lave den. Det ser ud til at være årsagen, og det delte ansvar er ikke fratrukket af virksomheden, som for nylig annoncerede, at den ville tage ansvar for ulykker, der involverer en 8-årig A3, mens den bruger et automatisk Traffic Jam Pilot (XNUMX) system i den.
3. Audi Traffic Jam Pilot Interface
På den anden side er der millioner af mennesker, der kører bil og også laver fejl. Så hvorfor skulle maskiner, som statistisk set laver langt færre fejl end mennesker, som det fremgår af talrige fejl, diskrimineres i denne henseende?
Hvis nogen mener, at dilemmaerne for etik og ansvar i de autonome køretøjers verden er enkle, så bliv ved med at tænke...
