Autopilot i dylemat: zabić kierowcę czy pieszych?

Samochody autonomiczne przestają być fantastyką: na drogach pojawiają się auta z trybem autopilota, które potrafią jechać bez ingerencji człowieka. Miłośnicy motoryzacji wciąż częściej interesują się tradycyjnymi parametrami – prędkością, mocą, komfortem. Z pasją porównują na przykład niemieckie supersedany BMW M5 F90 i Mercedes-AMG E63 S pod kątem ich osiągów. Jednak wraz z pojawieniem się autopilota na pierwszy plan wysuwa się zupełnie inny temat – etyka i bezpieczeństwo. Co ma zrobić samochód, gdy wypadku nie da się uniknąć?

To już nie teoretyczne pytanie z podręczników, lecz realny problem na drodze. Wyobraźmy sobie sytuację: bezzałogowe auto pędzi i nagle na przejściu dla pieszych pojawia się przed nim grupa ludzi. Na hamowanie jest już za późno. Są dwa możliwe scenariusze: skręcić i uderzyć w ścianę (poświęcając kierowcę) albo jechać dalej i potrącić pieszych. Algorytm sztucznej inteligencji jest zaprogramowany na określoną decyzję – a od tej decyzji zależą ludzkie życia.

Filozofowie nazywają taki tragiczny wybór „problemem wagonika”. Kiedyś był to czysto hipotetyczny eksperyment: czy skierować niekontrolowany tramwaj na inny tor, by uratować pięć osób kosztem życia jednej? Dziś podobny dylemat staje przed sztuczną inteligencją na drodze – a jej decyzje będą miały realne konsekwencje.

• Uratować pasażera. Kontynuować jazdę, chroniąc kierowcę, mimo ryzyka dla grupy pieszych.
• Uratować pieszych. Skierować auto na przeszkodę lub pobocze, poświęcając życie osoby znajdującej się wewnątrz samochodu.
• Nie wybierać świadomie. Unikać specjalnego algorytmu wyboru – czyli zaprogramować minimalizację szkód bez „targetowania”, w praktyce pozwalając, by wydarzenia potoczyły się spontanicznie.

Ktoś może zaprotestować, że sztuczna inteligencja będzie na tyle „mądra”, iż zawsze znajdzie trzecie, bezpieczne wyjście. Ale to raczej mit. W rzeczywistości nawet najnowocześniejsze czujniki i oprogramowanie nie są w stanie unieważnić praw fizyki i wyeliminować wszystkich ryzyk. Krytyczne sytuacje i tak będą się zdarzać. A więc prędzej czy później samochód może stanąć przed wyborem, kogo ocalić kosztem czyjegoś życia.

Ludzkość wciąż nie znalazła jednej, właściwej odpowiedzi na ten dylemat. Badania socjologiczne dają jednak ciekawą perspektywę. Ankiety pokazują, że większość respondentów zgadza się, iż w skrajnej sytuacji autonomiczne auto powinno poświęcić pasażera, aby uratować grupę ludzi. Jednocześnie ci sami ludzie przyznają, że nie chcieliby jeździć samochodem, który w razie zagrożenia świadomie poświęci ich dla cudzych istnień. Ten paradoks może stać się barierą dla wdrażania pojazdów autonomicznych na drogi.

Przytoczmy wymowny wynik jednego z badań opinii publicznej dotyczącego „dylematu autopilota”:

Jak widać, społeczeństwo jednocześnie chce, by roboty-kierowcy ratowały jak najwięcej ludzi, a zarazem nie chce ryzykować własnym życiem. Ta rozbieżność między interesem moralnym a osobistym tworzy dylemat dla producentów i regulatorów. Bo jakkolwiek zaprogramuje się algorytm – decyzja będzie kontrowersyjna i może wywołać oburzenie.

Kto trafi do więzienia, jeśli bezzałogowe auto spowoduje wypadek?

Jeśli samochód na autopilocie doprowadzi do wypadku ze skutkiem śmiertelnym – kogo ukarać? To pytanie nie jest mniej skomplikowane niż moralny wybór. Pierwsze niepokojące sygnały już się pojawiły. Na przykład w 2018 roku testowy autonomiczny samochód Uber potrącił śmiertelnie pieszego; znane są też inne śmiertelne wypadki z udziałem Tesla na autopilocie. Takie przypadki, w których „kieruje” komputer, podważają tradycyjną zasadę, według której cała wina spada na kierowcę.

W sytuacji „robo-kierowcy” możliwe są różne podejścia do ustalenia winnego. Rozważmy główne scenariusze:

1. Właściciel (pasażer) samochodu. Logika: to on siedział w kabinie i włączył tryb autopilota. Być może człowiek powinien był kontrolować jazdę i zareagować – a więc ponosi część winy za zaniechanie.
2. Twórca oprogramowania (algorytmu). To programiści zapisali model zachowania, który doprowadził do tragedii. Czy inżynierowie powinni ponosić odpowiedzialność karną za skutki decyzji swojego kodu?
3. Firma-producent samochodu. Przedsiębiorstwo, które wypuściło bezzałogowe auto, mogło nie przewidzieć wszystkich ryzyk albo oszczędzić na czujnikach. Odpowiadać może producent (w osobie kierownictwa) jako podmiot prawny – na przykład poprzez pozwy i kary finansowe.

Na razie nie ma w tej sprawie jednoznacznej normy prawnej. W większości krajów, gdzie testuje się samochody autonomiczne, odpowiedzialność spoczywa na człowieku za kierownicą. Obecne systemy autopilota (poziom 2–3) wymagają bowiem, aby kierowca pozostawał czujny. Tak, w sprawach dotyczących Tesla sądy najczęściej uznają winnym kierowcę, który przecenił możliwości autopilota i nie zareagował, gdy było to konieczne.

Jednak wraz z pojawieniem się w pełni bezzałogowych aut (poziom 4–5) logicznie pojawia się potrzeba przeniesienia winy na twórców technologii. W Niemczech narodowa Komisja Etyczna ds. zautomatyzowanej jazdy już w 2017 roku orzekła: jeśli człowiek nie kontroluje już pojazdu, to odpowiedzialność za jego działania ponosi nie pasażer, lecz producent albo operator systemu. Niektórzy producenci sami są gotowi brać na siebie taką odpowiedzialność – na przykład Volvo publicznie obiecało wziąć całą winę na siebie, gdy jego samochody będą jeździć w trybie autonomicznym.

Przeniesienie winy na firmę ma swoje plusy i minusy. Z jednej strony właściciele chętniej zaufają autopilotowi, jeśli będą wiedzieć, że nie zostaną „kozłami ofiarnymi” w razie wypadku. Z drugiej – producenci obawiają się brać całą winę na siebie, bo grozi to wielomilionowymi pozwami, a nawet odpowiedzialnością karną ich menedżerów. Być może zostaną wprowadzone specjalne polisy ubezpieczeniowe lub ograniczenia prawne, aby zrównoważyć te ryzyka.

Mimo wszystkich tych niejasności technologie autonomicznej jazdy nie stoją w miejscu. Nowe modele aut otrzymują coraz „mądrzejsze” mózgi. Na przykład elektryczny crossover Volkswagen ID.4 jest wyposażony w system Travel Assist do półautonomicznej jazdy, a kierowcy tego modelu mogą zwiększyć komfort i praktyczność, montując różnorodne akcesoria do Volkswagen ID.4. W pełni autonomiczne prowadzenie (poziom 5) wciąż pozostaje kwestią przyszłości. A więc dyskusje o algorytmach moralnych i odpowiedzialności prawnej będą trwać – społeczeństwo potrzebuje czasu, by dojść do porozumienia.

W efekcie moralny dylemat autopilota nadal nie ma jednoznacznego rozwiązania. Programować maszyny tak, by ratowały większość kosztem pasażera, czy by chroniły swojego kierowcę za wszelką cenę? Kogo karać za błędy sztucznej inteligencji – inżynierów, właścicieli, czy może w ogóle nikogo? Nad tymi pytaniami zastanawiają się filozofowie, prawnicy i sami producenci. Być może już wkrótce trzeba będzie zrewidować utrwalone zasady etyki i odpowiedzialności na drogach. Bo gdy za kierownicą siedzi komputer, zarówno decyzje, jak i wina nabierają zupełnie nowego znaczenia – takiego, z którym ludzkość dopiero musi nauczyć się żyć.