Jógépkocsi? Etikai problémák az önvezető autók fejlesztésében.

A közlekedésben az önvezető járműveké a jövő – ezt évek óta halljuk autóipari szakiktól. Az alapján, amilyen gyakran a technológiai hírekben szerepel a téma, azt gondolhatnánk, hogy az autonóm autók már tényleg itt vannak a kanyarban. Valójában azonban még évek kérdése, mire beavatkozás nélkül furikázhatunk. Az önvezető megoldások fejlesztése kemény dió, és nem csak a technikai megvalósítás mikéntje okoz fejtörést a mérnököknek.

Villamosdilemma az autózásban

Az autóvezetés ugyanis veszélyes üzem, és bizonyos helyzetekben nincs igazán jó, csak kevésbé rossz döntés.

A fejlesztés jelenlegi szakaszában az önvezetést biztosító Mesterséges Intelligencia-algoritmusokat szimulációkon keresztül tanítják a mérnökök. Az önvezető algoritmusok milliónyi virtuális forgalmi helyzetben meghozott döntésen keresztül tanulják meg, hogyan kezeljék majd a valós szituációkat az utakon.

A fejlesztőknek így gyakorlatilag ma kell döntést hozniuk arról, hogy a jövő autói hogyan reagáljanak olyan helyzetekben, mint amilyen a villamosdilemmában felvázolt probléma. A filozófusokat a ’70-es évek óta foglalkoztatja ez az etika és pszichológia határterületére elhelyezhető kérdés: feláldozzuk-e egy ember életét, ha azzal több másikat menthetünk meg? Segítünk megérteni a gondolatkísérletet:

Kutatásokból kiderül, hogy a villamosdilemmával szembesített alanyok 90%-a feláldozna egy embert, ha ezzel megmenthet öt másikat. Alapesetben persze könnyen belátható, hogy egy áldozat jobb, mint több áldozat – de számításba kell-e vennünk egyéb tényezőket?

A Nature folyóiratban megjelent “Morális Masina”-kísérlet szerint kultúránként eltérő, hogy a kutatásban részt vevő alanyok hogyan súlyozzák döntéseikben a feláldozottak életkorát, nemét, vagy egyéb tulajdonságait. Ezt pedig az önvezető algoritmusok fejlesztése során is figyelembe kell vennünk. Így lehet, hogy egy távol-keleti fejlesztésű autó egészen máshogy fog viselkedni az utakon, mint egy európai gyártmány. Mondanunk sem kell, ez könnyen visszaüthet: adott esetben ami az egyik kultúrában magától értetődő döntés, a másikban maga lehet a megtestesült gonoszság…

Egyoldalú adatok

A tudatosan meghozott döntések mellett azonban súlyos rejtett problémák is terhelik az önvezető technológia fejlesztését.

Az MI-algoritmusok ugyanis mindenekelőtt igyekeznek megérteni a forgalmi helyzetet, tehát első körben értelmezik az autó szenzorai, kamerái, lézer alapú távérzékelői (LiDAR) és más “érzékszervei” által szállított adatokat a külvilágról. Az algoritmus a ma is zajló szimulációk során “tanul”, vagyis most alakul ki, hogyan értelmezi az őt körülvevő térbeli objektumokat.

A bökkenő csak az, hogy az MI nagyon adatérzékeny műfaj: a bemeneti oldalon biztosított adatok minősége nagyban befolyásolja, milyen döntések alakulnak ki, vagyis, hogy hogyan fog furikázni az algoritmus által vezérelt autó a forgalomban.

Márpedig az önvezető kocsik fejlesztése nagyrészt nyugaton zajlik, így a túlnyomórészt fehér és ázsiai származású mérnökök óhatatlanul saját képükre formálják a virtuális világot. A szimulációkban leginkább világos bőrszínű járókelőkkel találkozik az algoritmus, így viszont nehezebben ismeri fel a sötétebb bőrszínű embereket, ami könnyen balesetveszélyes helyzetekhez vezethet.

Az önvezető technológiák fejlesztése világszerte padlógázzal halad előre, és bár szakértők korábban 2020-ra ígérték, valóban önvezető autók még ma sincsenek az utakon. De ahogy a technológiai akadályok szép sorjában elgördülnek a sofőr nélküli kocsik elől, a fentiekhez hasonló morális kérdések megválaszolása egyre égetőbbé válik.