Kelle tapab isejuhtiv auto? Masin, päästke nii palju inimesi kui võimalik, aga ennekõike päästke mind!

Kui tekib olukord, kus auto autonoomne süsteem peab eelseisva õnnetuse korral tegema kiire valiku, kelle ohverdada, siis kuidas peaks reageerima? Ohverdada reisijaid jalakäijate päästmiseks? Vajadusel tappa jalakäija, et päästa näiteks autos reisiv neljaliikmeline perekond? Või äkki peaks ta end alati kõigepealt kaitsma?

Kuigi rohkem kui kuuskümmend ettevõtet on juba saanud isikliku testimise loa ainuüksi Californias, on raske öelda, et tööstus on valmis silmitsi seisma eetiliste dilemmadega. Hetkel maadleb ta elementaarsemate probleemidega - süsteemide töö ja navigatsiooni efektiivsus ning lihtsalt kokkupõrgete ja ettenägematute sündmuste vältimine. Olukordades, nagu hiljutine jalakäija mõrv Arizonas või sellele järgnenud õnnetused (1), on seni olnud tegemist lihtsalt süsteemitõrgetega, mitte aga mingisuguse auto "eetilise valikuga".

Päästa rikkaid ja noori

Sedalaadi otsuste tegemise küsimused ei ole abstraktsed probleemid. Iga kogenud juht võib seda kinnitada. Möödunud aastal analüüsisid MIT Media Labi teadlased üle neljakümne miljoni vastuse kogu maailmast vastajatelt, mille nad kogusid 2014. aastal algatatud uurimistöö käigus. Küsitlussüsteem, mida nad nimetavad "Eetiliseks masinaks", näitas, et erinevates kohtades umbes maailmas küsitakse sarnastele küsimustele erinevaid vastuseid.

Kõige üldisemad järeldused on etteaimatavad. Ekstreemsetes olukordades inimesed eelistavad inimeste päästmist loomade eest hoolitsemisele, eesmärgiga päästa võimalikult palju elusid, ja on reeglina eakatest nooremad (2). Naiste päästmisel meeste ees, kõrgema staatusega inimeste vaesemate inimeste ja jalakäijate päästmisel on ka mõned, kuid vähem ilmsed eelistused..

2. Keda peaks auto päästma?

Kuna demograafilisi küsimustikke täitis ligi pool miljonit vastajat, oli võimalik nende eelistusi seostada vanuse, soo ja usuliste tõekspidamistega. Uurijad jõudsid järeldusele, et need erinevused ei "mõjutanud oluliselt" inimeste otsuseid, kuid märkisid mõningaid kultuurilisi mõjusid. Näiteks prantslased kaldusid kaaluma otsuseid hinnangulise surmajuhtumite arvu põhjal, Jaapanis aga oli rõhk kõige väiksem. Tõusva päikese maal hinnatakse aga eakate elu palju rohkem kui läänes.

"Enne kui lubame oma autodel ise eetilisi otsuseid teha, peame selle üle ülemaailmselt arutama. Kui autonoomsete süsteemide kallal töötavad ettevõtted saavad teada meie eelistustest, töötavad nad nende põhjal masinates välja eetilised algoritmid ja poliitikud saavad hakata juurutama adekvaatseid õigussätteid, ”kirjutasid teadlased 2018. aasta oktoobris ajakirjas Nature.

Üks Moral Machine'i eksperimendis osalenud teadlastest Jean-Francois Bonnefont leidis, et kõrgema staatusega inimeste (nt juhid kodututele) päästmise eelistamine on murettekitav. Tema arvates on see väga palju seotud majandusliku ebavõrdsuse tase antud riigis. Seal, kus ebavõrdsus oli suurem, eelistati vaeste ja kodutute ohverdamist.

Üks varasematest uuringutest näitas eelkõige, et vastajate hinnangul peaks autonoomne auto kaitsma võimalikult paljusid inimesi, isegi kui see tähendab reisijate kaotamist. Samas märkisid vastajad, et selliselt programmeeritud autot nad ei ostaks. Teadlased selgitasid seda Kuigi inimesed peavad eetilisemaks päästa rohkem inimesi, tunnevad nad ka omakasu, mis võib olla tootjatele signaal, et kliendid ei soovi altruistlike süsteemidega varustatud autosid osta.. Mõni aeg tagasi ütlesid Mercedes-Benzi firma esindajad, et kui nende süsteem päästaks ainult ühe inimese, valiksid nad juhi, mitte jalakäija. Avalikkuse protestilaine sundis ettevõtet oma deklaratsiooni tagasi võtma. Kuid uuringud näitavad selgelt, et selles pühas nördimuses oli palju silmakirjalikkust.

Mõnes riigis see juba toimub. esimesed katsed õiguslikuks reguleerimiseks põllul. Saksamaa võttis vastu seaduse, mis kohustab juhita autosid iga hinna eest vigastusi või surma vältima. Seadus sätestab ka, et algoritmid ei saa kunagi teha otsuseid selliste tunnuste alusel nagu vanus, sugu, tervislik seisund või jalakäijad.

Audi võtab juhtimise üle

Projekteerija ei suuda ette näha kõiki auto kasutamise tagajärgi. Reaalsus võib alati pakkuda muutujate kombinatsiooni, mida pole kunagi varem testitud. See õõnestab meie usku sellesse, et masin üldse "eetiliselt programmeeritakse". Meile tundub, et olukordades, kus "auto süül" tekib tõrge ja juhtub tragöödia, peaks vastutus kandma süsteemi tootja ja arendaja.

Võib-olla on see arutlus õige, kuid võib-olla mitte sellepärast, et see oli vale. Pigem sellepärast, et lubatud oli liikumine, mis ei olnud 2019% vaba selle tegemise võimalusest. See näib olevat põhjus ja jagatud vastutust ei hiili kõrvale ka ettevõte, kes teatas hiljuti, et võtab vastutuse 8-aastase A3-ga juhtunud õnnetuste eest, kasutades selles automaatset liiklusummikupiloodi (XNUMX) süsteemi.

3. Audi liiklusummiku piloodi liides

Teisest küljest on miljoneid inimesi, kes sõidavad autoga ja teevad ka vigu. Miks siis peaks masinaid, mis teevad statistiliselt palju vähem vigu kui inimesed, mida tõendavad arvukad vead, selles osas diskrimineerida?

Kui keegi arvab, et eetika ja vastutuse dilemmad autonoomsete sõidukite maailmas on lihtsad, siis mõtle edasi...