A mesterséges intelligencia és a robotika szakértői után a filozófusokat is elkezdték bevonni azokba a kutatásokba, amelyek szükségesek az önvezető autók elterjedéséhez. A Quartz azt írja, hogy a problémás szituációkra filozófiai alapokon kell algoritmusokat tervezni, ezért van szükség az új megközelítésre.
A legismertebb gondolatkísérlet, amelyet az önvezető autóknak meg kell majd oldaniuk, az angolul “Trolley problem”-nek nevezett szituáció. Ebben egy elszabadult kötött pályás jármű a vágányokon álló öt ember felé robog megállíthatatlanul. Egy külső szemlélő látja a bajt, és meg is tudja akadályozni a tragédiát azzal, hogy egy váltót átállít és másik pályára tereli a járművet. Ekkor viszont a másik pályán lévő egyetlen embert fogja a vonat elgázolni és megölni.
Az emberek többsége ilyenkor általában azt tekinti jó megoldásnak, ha egy ember hal meg öt helyett. Érdemes azonban kicsit módosítani a kísérleten: mi a helyes eljárás, ha a vonatot nem váltóval lehet elterelni, hanem úgy lehet megállítani, hogy egy jól megtermett másik embert löknek elé? A többség szerint ez elfogadhatatlan, pedig az eredmény ugyanaz: egy ember halálával megmentik öt ember életét. Annak eldöntése, hogy ez a két eset egyenlő-e, fogós morálfilozófiai kérdés.
Az önvezető autók nem tudják kikerülni a hasonló, morális alapú döntéseket. Tegyük fel, hogy az autó előtt hirtelen balesetet szenved egy kamion és ki kell kerülni, de ezt csak úgy lehet megtenni, ha az autó elgázol egy motorost, vagy a másik irányba tér ki, de akkor lezuhan egy szakadékba. A motorost ölje meg az autó, vagy az utasát?
A filozófusok azon kezdtek dolgozni, hogy különböző filozófiai irányzatoknak megfelelő megoldási javaslatokat adjanak a hasonló helyzetekre, amiből a hatóságok, az autógyártók, vagy azok, akiknek ez feladatuk lesz, döntésre tudnak jutni.
Nicholas Evans filozófia professzor azt mondja, a kérdés sokkal bonyolultabb, mint a fent vázolt alapesetek. Nem csak arról kell dönteni, hogy összességében hány embert próbál megvédeni, és hányat kockázatnak kitenni az algoritmus. Nem mindegy ugyanis, milyen emberektől van szó. Mi a helyzet például akkor, ha statisztikailag az egyik megoldásnál döntően 50 év felettiek kerülnek veszélybe, a másiknál pedig 30 év alattiak?
E minőségi vetület mellett azt is morális alapon kell vizsgálni, hogy a kialakított rendszereket mennyire lehet majd meghekkelni, de nem informatikai értelemben. Ha például mindenki tudja, hogy vészhelyzetben az autók nem az utasok életét védik, hanem a gyalogosokét, akkor elvileg egy gyalogos könnyedén meg is ölheti az utasokat azzal, hogy szándékosan baleseti szituációba keveri.
Az önvezető autók programozásának etikájával egyelőre kevesen foglalkoznak, de lesz dolguk bőven, például az alábbi problémákat sem ártana tisztázni, mielőtt a technológiát tényleg az útra teszik:
Élet
Fontos