Odborníci se radí o etice samořiditelných aut

Auta bez řidičů nejsou dalekou vizí sci-fi literatury, ale reálnou budoucností. Než se ale dostanou do provozu, je nutné vyřešit eticky sporné otázky. Jak se má autonomní vozidlo zachovat, když mu do cesty nečekaně vejde chodec? Má obětovat posádku, nebo neopatrné dítě běžící přes cestu? O etice autonomních vozidel se hovoří na mezinárodní konferenci v Praze, kterou pořádá Centrum Karla Čapka pro studium hodnot ve vědě a technice.

Pokud by se v reálném provozu pohybovala pouze autonomní vozidla, zcela by vymizely nehody zaviněné mikrospánkem a nepozorností řidiče, nezkušeností a jeho iracionálním chováním. Odhaduje se, že počet smrtelných nehod by se snížil o více než 90 procent. Umělá inteligence by se nezatěžovala emocemi a instinktem, o to větší by se ale na ni zřejmě kladly bezpečnostní nároky.

„Je nejen legitimní ptát se, jak pro určité situace auta naprogramovat, ale i naléhavě nutné najít odpovědi, které budou souznít s našimi morálními normami. Pokud by se auta nechovala v souladu s přijatelnými etickými principy, do provozu se nejspíše nikdy nedostanou,“ říká David Černý z Ústavu státu a práva AV ČR, jeden ze zakladatelů Centra Karla Čapka pro studium hodnot ve vědě a technice.

Ve Vile Lanna dnes začíná dvoudenní konference, jejímž hlavním tématem je #etika autonomních vozidel. Pořádá ji Centrum Karla Čapka pro studium hodnot ve vědě a technice. pic.twitter.com/16guehgAvf

— Akademie věd ČR (@Akademie_ved_CR) 27. června 2019

Tramvajové dilema a co víc?

Základním modelem, který se používá pro výzkum etiky autonomních vozidel je tzv. tramvajové dilema (anglicky Trolley Problem). Poprvé tento experiment (byť v jiném kontextu) zmínila americká filozofka Philippa Footová v roce 1967, od té doby má mnoho variací. V zásadě se jedná o to, že na kolejích pracují dělníci. Řítí se na ně vlak a my máme možnost v poslední chvíli přehodit výhybku na jinou kolej. Jenže na ní pracuje také dělník, i když jen jeden. Obětujeme ho?  

Podobná dilemata řeší také Massachusettský technologický institut (MIT) v online experimentu Moral Machine. Nabízí různé scénáře rozhodování v určitých konkrétních situacích.

Online aplikace Moral Machine Massachusettského technologického institutu (MIT) nabízí různé varianty odvozené z tzv. tramvajového dilematu 

„Většina dosavadních prací v oblasti etiky autonomních vozidel se soustředí na varianty tramvajového dilematu. Nastává čas posunout se o krok dál. Pražská konference si klade za cíl otevřít nové perspektivy a přístupy,“ upozorňuje další z organizátorů Tomáš Hříbek z Filosofického ústavu AV ČR.  

Budou nás auta diskriminovat?

Jeden z řečníků, Patrick Lin z California Polytechnic State University se například zaměřil na problém diskriminace a předsudků, kterých se může dopouštět umělá inteligence. „Předsudky se často zjednodušeně vykládají jako necitlivost s ohledem na gender a etnicitu, přitom ale v mnoha případech je eticky a právně přijatelné přistupovat k lidem rozličně podle jejich osobních charakteristik. Toto téma je zatím velmi málo diskutované ve spojitosti s autonomními vozidly,“ říká Patrick Lin.

Zatímco většina konceptů etiky autonomních vozidel zůstává na stránkách filozofických časopisů a sborníků, o něco blíže k praktickému užití se dostali odborníci v Německu. V roce 2017 tam vznikl první etický kodex samořiditelných aut na světě. Vypracovala jej etická komise pro autonomní vozidla jmenovaná federálním ministerstvem dopravy. Do Prahy přijel kodex představit Christoph Lütge z Technické univerzity v Mnichově.   

Konkrétní iniciativu německé automobilky Audi v oblasti umělé inteligence ve vozidlech na konreferenci prezentuje Barbara Wege a pohled z francouzské strany přidává Guillaume de la Roche z Renaultu. Konference se dále účastní filozof Saul Smilansky z Univerzity v Haifě, Jason Milar z Ottawské univerzity v Kanadě nebo Derek Leben z Pittsburské univerzity. 

Se závěry konference bude možné se seznámit na stránkách Centra Karla Čapka pro studium hodnot ve vědě a technice a následně pak v knize s názvem Autonomous Vehicle Ethics: Beyond the Trolley Problem, která by měla vyjít v prestižním nakladatelství Oxford University Press. Jak zdůrazňuje David Černý, půjde o vůbec první komplexní kolekci textů zabývajících se etickými a sociálními důsledky autonomní mobility.

Centrum Karla Čapka pro studium hodnot ve vědě a technice (CEVAST) je společným pracovištěm Ústavu státu a práva AV ČR, Ústavu informatiky AV ČR, Filosofického ústavu AV ČR a Přírodovědecké fakulty UK V České republice. 

Tématu etiky autonomních vozidel jsme se rozsáhle věnovali v článku Etika pro budoucnost v časopise AV ČR s názvem A / Věda a výzkum (4/2018). 

Připravila: Leona Matušková, Divize vnějších vztahů SSČ AV ČR
Úvodní foto: Shutterstock
Foto v článku: MIT, foto na sítích: Leona Matušková 

Přečtěte si také

• Výzkum vůní: odkaz královny Kleopatry, egyptské rituály a antické dědictví
• Krym jako křižovatka světů i ztracený ráj, nyní 10 let pod ruskou nadvládou
• Pohádky: bylo nebylo aneb od lechtivých příběhů k povídání pro děti
• Do češtiny přeložený cestopis z 10. století odkrývá málo známou minulost
• V Řecku si připadáte jako na horské dráze, říká Pavla Drápelová Gkantzios
• Vnímání času, vědomí a umělá inteligence. Co spojuje psychology a filozofy?
• Superhrdinové existovali ve vyprávění od nepaměti, říká Markéta Kulhánková
• Romský Atlantik: Jak žijí a jací jsou Romové v Brazílii, Angole a jinde?
• Zpěv a tanec vídeňských Čechů souvisejí i se vztahem ke kořenům, ukazuje kniha
• Jazykovědkyně Michaela Lišková zkoumá neologismy: Nová slova patří mladým