Dilema morală a mașinilor autonome. Cercetare globală a preferințelor etice în situații critice

Ce ar face o mașină fără șofer dacă ar trebui să decidă între a salva viața pasagerului sau a unui pieton? Aceasta este una dintre dilemele etice pe care le ridică dezvoltarea vehiculelor autonome, care ar putea schimba radical modul în care ne deplasăm și interacționăm cu mediul înconjurător. Pentru a explora aceste probleme complexe, cercetătorii de la MIT (Massachusetts Institute of Technology) au creat un experiment online numit „Moral Machine”, care a prezentat participanților scenarii ipotetice în care o mașină autonomă trebuie să aleagă între două opțiuni posibile, ambele având consecințe grave asupra vieții umane.

Figura nr. 1. Un exemplu de dilemă morală din proiectul Moral Machine. Utilizatorul decide care dintre cele două opțiuni ar trebui să aleagă mașina cu conducere autonomă într-o situație în care victimele nu pot fi evitate.

În toate cazurile, utilizatorul trebuie să indice cum ar trebui să acționeze mașina cu autopilot într-o situație critică cu două grupuri de oameni (sau animale de companie). Fiecare dintre cele două grupuri include între 1 și 5 persoane. În funcție de decizia luată, unul dintre grupuri va muri, iar celălalt va fi salvat.

În fiecare dilemă, o mașină fără șofer (cu autopilot) care se deplasează pe drum are o defecțiune la frâne și în fața sa cineva traversează strada (fie „legal”, așa cum este prezentat în imaginea de mai sus, fie „ilegal” - la culoarea roșie a semaforului). În unele dileme, inteligența artificială trebuie să aleagă pe cine dintre cei doi pietoni să lovească (și pasagerilor nu li se întâmplă nimic), în altele alegerea se face între moartea pasagerilor și cea a pietonilor, așa cum este prezentat în figura nr. 1.

Personajele implicate în dileme diferă în funcție de sex, vârstă (sugari în cărucioare, copii, adulți, vârstnici), formă fizică (oameni supraponderali, oameni obișnuiți și sportivi), statut social (fără adăpost, oameni obișnuiți și șefi) și apartenența la specie (pe lângă oameni, printre personaje se găsesc și câini și pisici). Programul generează dileme pe baza unui algoritm, permițând analiza răspunsurilor pentru a evalua impactul celor nouă factori:

1. acțiune sau inacțiune (continuarea mersului înainte sau schimbarea direcției),
2. pasageri sau pietoni (pe cine să salveze),
3. sexul victimelor (salvarea bărbaților sau a femeilor),
4. forma fizică (salvarea persoanelor supraponderale, a oamenilor obișnuiți sau a sportivilor),
5. statut social (salvarea oamenilor fără adăpost, a oamenilor obișnuiți sau a șefilor),
6. respectarea regulilor (salvarea celor care traversează strada când este semnal roșu),
7. vârsta (salvarea tinerilor sau a bătrânilor),
8. numărul de victime (salvarea grupului mai mare sau mai mic),
9. apartenența la specie (salvarea oamenilor sau a animalelor de companie).

Numărul posibil de dileme este foarte mare, așa că probabilitatea ca utilizatorul să se confrunte de două ori cu aceeași problemă este practic imposibilă.

Cercetătorilor le-a reușit să strângă aproape 40 de milioane de răspunsuri (decizii privind dileme individuale) de la locuitorii a 233 de țări. De asemenea, majoritatea participanților au completat un chestionar în care au indicat vârsta, sexul, educația, venitul anual, atitudinea față de religie și vederile politice.

Aceste date au permis cercetătorilor să rezolve patru sarcini:

1. să evalueze importanța fiecărui dintre cei nouă factori în medie pe întreaga selecție,
2. să compare importanța factorilor cu caracteristicile individuale ale respondentului,
3. să compare rezultatele dintre diferite țări și să identifice clustere de țări cu atitudini morale similare,
4. să afle dacă, pe baza caracteristicilor economice și culturale ale țării, este posibil să se prevadă cum ar prefera locuitorii să programeze mașinile fără șofer.

Preferințele medii ale participanților la sondaj sunt prezentate în figura nr 2. Importanța factorilor crește de sus în jos. Respondenții au făcut o alegere sigură în favoarea salvării oamenilor (nu a câinilor și pisicilor) și a grupurilor mari (nu a celor mici). Aceste rezultate probabil nu ar surprinde pe nimeni, deși altele ar putea părea mai disputate. Aproape la fel de sigur, participanții la sondaj au „votat” în favoarea salvării tinerilor, a celor care respectă legea (traversând strada la culoarea verde a semaforului) și a persoanelor cu statut înalt. Factori mai puțin semnificativi, dar totuși pozitivi, au fost formă fizică și apartenența la sexul feminin. În plus, în medie, respondenții au fost mai dispuși să aleagă în favoarea pietonilor (nu a pasagerilor) și în favoarea faptului ca mașina să continue înainte, nu să schimbe banda.

Figura nr. 2. Preferințele medii ale participanților la sondaj. Cei nouă factori studiați sunt prezentați în aceeași ordine în care sunt enumerați în text (de la alegerea între acțiune și inacțiune până la alegerea între salvarea animalelor de companie și a oamenilor). Lungimea barelor albastre arată cât de mult depășește probabilitatea de a alege opțiunea din dreapta (când se face media tuturor celorlalți factori) față de probabilitatea de a alege opțiunea din stânga. De exemplu, probabilitatea ca un respondent să prefere să salveze tinerii depășește cu 0,49 probabilitatea ca ar prefera să salveze bătrânii. Pentru al optulea factor (număr de victime), cercurile albe indică valori pentru situațiile în care numărul celor salvați depășește numărul celor sacrificați de 1, 2, 3 sau 4 persoane; cercul alb cu o margine albastră este media pentru toate cele patru opțiuni.

Toate țările s-au împărțit în trei clustere, denumite convențional de cercetători ca Vest, Est și Sud. Clusterele par destul de logice din punct de vedere istoric și cultural. Clusterul de Vest include SUA, Canada și multe țări europene (catolice, protestante și ortodoxe). Diviziunile din cadrul clusterului de Vest par, de asemenea, mai mult sau mai puțin sensibile: de exemplu, o ramură este formată din țările vorbitoare de engleză, alta - din cele scandinave ca Germania, Elveția și Austria. În clusterul de Est predomină țările cu tradiție confucianistă sau musulmană. Clusterul de Sud este format din două ramuri, una dintre care include țările din America Latină, iar cealaltă - Franța și o serie de țări care au fost în trecut sub influența franceză.

Figura nr. 3. 

După cum arată diagramele circulare din figura nr. 3, cele trei clustere au reprezentări foarte diferite despre cum ar trebui să se comporte mașinile fără pilot în situații critice. De exemplu, în clusterul de Sud predomină ideile despre necesitatea de a salva mai întâi copiii și femeile, în timp ce locuitorii clusterului de Est preferă pietonii respectuoși ai legii și nu pun viața tinerilor mult mai presus de viața bătrânilor.

Aceste rezultate subliniază ceea ce specialiștii în studiul moralei umane știu deja de mult timp: atitudinile etice adoptate în diferite țări și regiuni nu sunt universale. Prin urmare, va fi foarte dificil să se elaboreze o singură „lege morală” pentru mașinile controlate de inteligența artificială.

Autorii au descoperit mai multe corelații interesante, care aruncă lumină asupra posibilelor cauze ale diferențelor identificate între țări (figura nr. 4). De exemplu, predominanța în țară a atitudinilor individualiste (ceea ce implică o valoare mare a vieții umane individuale) se corelează cu faptul că oamenii acordă o mare importanță numărului de potențiale victime ale accidentului și consideră că mașina cu autopilot trebuie să minimizeze neapărat acest număr. Locuitorii țărilor cu atitudini colectiviste sunt mai relaxați în ceea ce privește numărul de victime ale accidentului. În plus, pentru „colectiviști” este caracteristic un respect față de cei mai în vârstă. Poate de aceea ei au o tendință mai slabă de a salva preferențial copiii (fig. 4, a). Aceste diferențe contrastante între culturile individualiste și colectiviste vor crea cu siguranță mari probleme pentru dezvoltatorii unei etici universale a mașinilor.

Figura nr. 4. Fiecare punct corespunde unei țări; culoarea punctului (roșu, albastru sau verde) reflectă apartenența țării la clusterul Occidental, Oriental sau Sudic.

a - tendința de a salva grupuri mari de oameni, sacrificând pe cele mai mici, corelează pozitiv cu individualismul (în țările cu tradiții colectiviste puternice, acest factor este mai puțin semnificativ); în inserție: individualismul corelează pozitiv cu ideea despre importanța salvării copiilor (țările colectiviste sunt mai predispuse să aibă grijă de bătrâni).

b - ideea că siguranța oamenilor care respectă regulile ar trebui să fie mai mare decât siguranța celor care le încalcă, este mai caracteristică pentru țările bogate și respectuoase ale legii, decât pentru cele sărace și anarhice.
c - corelație pozitivă între cât de mult diferă o țară de SUA în ceea ce privește moralitatea sa (conform datelor World Values Survey) și cât de mult diferă aceeași țară de SUA în ceea ce privește rezultatele sondajului Moral Machine (acesta este un argument în favoarea sensibilității și non-aleatorietății rezultatelor Moral Machine).
d - nivelul inegalității economice (coeficientul Gini) corelează pozitiv cu tendința de a prefera oamenii cu statut social ridicat (salvând șefii, sacrificând oamenii fără adăpost).
e - corelație pozitivă slabă între tendința de a salva în principal femeile și cât de bine trăiesc femeile în comparație cu bărbații (acesta a fost evaluat prin cât de mare este speranța de viață a femeilor decât cea a bărbaților și prin raportul dintre sexe la nou-născuți, al cărui dezechilibru în favoarea băieților indică infanticidul fetelor sau avorturile selective).

Importanța acordată respectării regulilor (adică tendința de a salva mai întâi pe cei care traversează strada regulamentar) se corelează pozitiv, în primul rând, cu bogăția țării (PIB pe cap de locuitor), în al doilea rând, cu nivelul de legalitate sau „supremația legii” (vezi Rule of law) (figura nr. 4, b). Cu alte cuvinte, oamenii obișnuiți cu sărăcia și funcționarea defectuoasă a instituțiilor sociale tind să ignore încălcarea regulilor și să nu acorde o mare importanță acestui aspect atunci când decid asupra vieții și morții.

Autorii au observat, de asemenea, că în țările cu un nivel ridicat de inegalitate economică există o tendință mai puternică de a prefera salvarea oamenilor cu un statut înalt în situații de urgență (figura nr. 4, d). Poate că acest lucru este legat de faptul că locuitorii țărilor care au reușit să obțină o distribuție mai egală a bunurilor între oameni apreciază mai mult egalitatea drepturilor și, prin urmare, nu consideră că este mai bine să calci peste un om fără adăpost decât peste un șef.

În ciuda diferențelor identificate, autorii cred că rezultatele obținute nu pun capăt dezvoltării unui „cod moral” universal pentru mașinile cu autopilot. Unele preferințe demonstrate de participanții la sondaj sunt universale sau aproape universale. De exemplu, în aproape toate țările oamenii tind să pună viața oamenilor mult mai presus de viața animalelor de companie (deși în clusterul sudic grija pentru câini și pisici este mai puternică decât în celelalte două). Ideile despre minimizarea numărului de victime și despre faptul că trebuie să salvăm mai întâi copiii sunt, de asemenea, universale (deși exprimate în grade diferite în diferite țări).

Experimentul „Moral Machine” nu oferă soluții definitive pentru dilemele etice ale mașinilor autonome, ci doar evidențiază complexitatea și diversitatea opiniilor umane pe această temă. Cercetătorii speră că rezultatele lor vor contribui la dezvoltarea unor standarde etice universale pentru vehiculele fără șofer, care să reflecte valorile și preferințele societății.