A legismertebb gondolatkísérlet, amelyet az önvezetõ autóknak meg kell majd oldaniuk, az angolul “Trolley problem”-nek nevezett szituáció. Ebben egy elszabadult kötött pályás jármû a vágányokon álló öt ember felé robog megállíthatatlanul. Egy külsõ szemlélõ látja a bajt, és meg is tudja akadályozni a tragédiát azzal, hogy egy váltót átállít és másik pályára tereli a jármûvet. Ekkor viszont a másik pályán lévõ egyetlen embert fogja a vonat elgázolni és megölni.

Az emberek többsége ilyenkor általában azt tekinti jó megoldásnak, ha egy ember hal meg öt helyett. Érdemes azonban kicsit módosítani a kísérleten: mi a helyes eljárás, ha a vonatot nem váltóval lehet elterelni, hanem úgy lehet megállítani, hogy egy jól megtermett másik embert löknek elé? A többség szerint ez elfogadhatatlan, pedig az eredmény ugyanaz: egy ember halálával megmentik öt ember életét. Annak eldöntése, hogy ez a két eset egyenlõ-e, fogós morálfilozófiai kérdés.

Az önvezetõ autók nem tudják kikerülni a hasonló, morális alapú döntéseket. Tegyük fel, hogy az autó elõtt hirtelen balesetet szenved egy kamion és ki kell kerülni, de ezt csak úgy lehet megtenni, ha az autó elgázol egy motorost, vagy a másik irányba tér ki, de akkor lezuhan egy szakadékba. A motorost ölje meg az autó, vagy az utasát?

A filozófusok azon kezdtek dolgozni, hogy különbözõ filozófiai irányzatoknak megfelelõ megoldási javaslatokat adjanak a hasonló helyzetekre, amibõl a hatóságok, az autógyártók, vagy azok, akiknek ez feladatuk lesz, döntésre tudnak jutni.

Nicholas Evans filozófia professzor azt mondja, a kérdés sokkal bonyolultabb, mint a fent vázolt alapesetek. Nem csak arról kell dönteni, hogy összességében hány embert próbál megvédeni, és hányat kockázatnak kitenni az algoritmus. Nem mindegy ugyanis, milyen emberektõl van szó. Mi a helyzet például akkor, ha statisztikailag az egyik megoldásnál döntõen 50 év felettiek kerülnek veszélybe, a másiknál pedig 30 év alattiak?

E minõségi vetület mellett azt is morális alapon kell vizsgálni, hogy a kialakított rendszereket mennyire lehet majd meghekkelni, de nem informatikai értelemben. Ha például mindenki tudja, hogy vészhelyzetben az autók nem az utasok életét védik, hanem a gyalogosokét, akkor elvileg egy gyalogos könnyedén meg is ölheti az utasokat azzal, hogy szándékosan baleseti szituációba keveri.

Az önvezetõ autók programozásának etikájával egyelõre kevesen foglalkoznak, de lesz dolguk bõven, például az alábbi problémákat sem ártana tisztázni, mielõtt a technológiát tényleg az útra teszik:

• Ha az útmenti üzletek fizetnek érte, akkor mehet az önvezetõ autó direkt arra, hogy az utasok reklámként láthassák a portáljukat?
• Ha az autó kockázatnak tesz ki bárkit, kinek a felelõssége lesz az okozott kár?
• Ha megszûnik az ittas vezetés veszélye, nõni fog az alkoholfogyasztás?
• Hogyan kell majd kezelni az utazási adatokat, hiszen egy autó elég sok információt fog szolgáltatni az utasai mozgásáról.
• Ha gyakorlatilag nem lesznek balesetek, csökkenni fog a szervátültetésre felajánlható szervek mennyisége?

Ha nagy mértékben megnõ az utazás hatékonysága, akkor elõfordulhat, hogy többen és többször akarnak majd utazni, ami végsõ soron visszaállítja a zsúfoltságot a városokban.