Mohou mít stroje vědomí a emoce? Ptá se studentka ve vítězné eseji

Ačkoli se může zdát, že vývoj umělé inteligence je pouze v rukou techniků a programátorů, čím dál více do něj promlouvají i vědci z jiných oborů včetně humanitních. Velkou roli přitom hraje filozofie, konkrétně etika, píše v úvodu svého textu studentka gymnázia Nad Alejí Kamila Houšková, která se zúčastnila soutěže o nejlepší esej na téma Etika umělé inteligence. Soutěž vyhlásilo Centrum Karla Čapka pro studium hodnot ve vědě a technice (CEVAST) při příležitosti prvního výročí svého založení.

Kamile Houškové, která by ráda studovala kognitivní vědy a láká ji vyvíjení nových aplikací, jsme položili pár otázek:

Někdy se o etice mluví jako o „královně věd 21. století“, protože má aparát k řešení otázek spojených se zaváděním nových technologií (genetickým vylepšováním člověka, rozšířením samořiditelných aut, robotických systémů…). Sdílíte tento názor?

Etika je velmi důležitá, ale mnohdy nám neříká konkrétně jak problémy řešit, jenom vysvětluje, jak je rozhodně neřešit. To je docela velká slabina, protože bez odpovědí na otázky spojené s etikou nových technologií se budou státy západního světa zdráhat je zavádět. Je možné, že v budoucnosti tomuto odvětví filozofie opět stoupne atraktivita a bude se na něj hlásit víc studentů.

Které knihy nebo filmy s tematikou umělé inteligence a robotiky považujete za inspirativní? Doporučila byste některé z nich spolužákům?

Určitě záleží na konkrétním spolužákovi, nesnažila bych se jim nic vnucovat a už rozhodně ne všem to samé. Literární klasiku zabývající se umělou inteligencí, jako např. RUR a Já, robot bych doporučila spíš těm, kteří hledají zábavnou literaturu na cestu ze školy. Přestože je většina lidí z oboru asi zná, nedají se, co se týče technologií, považovat za vědecké texty. Těm, kteří se o umělou inteligenci zajímají seriózněji, bych doporučila prozkoumat YouTube a internet, existuje mnoho zajímavých přednášek na toto téma. No a určitě taky kniha Superinteligence od Nicka Boströma, která se snaží shrnout pokrok, který jsme ve vytváření umělé inteligence učinili. S tou bych ale rozhodně nezačínala, protože používá hodně termínů, a pokud je člověk nemá aspoň trochu zažité, tak ho brzy odradí. Jinak co se týče filmů, viděla jsem Já, robot v režii Alexe Proyase, a byl to velmi zábavný akční film, ale knihu reprezentoval jen málo – ze souboru povídek museli scenáristé udělat jeden souvislý příběh a na vysvětlování technologických detailů už čas nezbyl. Hodně zajímavá je série Love Death + Robots, v podstatě desetiminutová videa určená k zamyšlení nad různými tématy, některé epizody jsou i o robotech.

V eseji píšete, že „vznikne mnoho nových pracovních pozic, které si zatím ještě ani neumíme představit“. Můžete uvést příklad? Někdy se zmiňují třeba tzv. „zachytávači“ lidských vzpomínek, kteří budou zpracovávat a vytvářet lidské vzpomínky pro platformu virtuální reality. Taková novodobá verze domácího videa…

Obecně si myslím, že se budou rozvíjet humanitní vědy. Lidé budou mít více času, a tak se budou moct ještě více soustředit na sebe a na hledání vlastního štěstí. Nejspíš přibude odborníků, kteří nám budou radit v důležitých životních situacích. Mohla by se více rozvinout profese předmanželských psychologů, kteří by radili mladým párům, jak vybudovat solidní a vyrovnaný vztah a jestli mají předpoklady k dobrému manželství. Další by mohli být dětští psychologové radící rodičům, jak vychovávat rozmazlené děti (viz televizní seriál Super Nanny).

Dále píšete, že „problém nastane, pokud by se roboti až příliš rozšířili, a vztahy s nimi by byly pro širokou populaci snadnější a příjemnější než vztahy s ostatními lidmi“. Považujete takovou představu za děsivou? Případně proč?

Děsivá určitě je. Roboti nejsou lidé a nemohou je plnohodnotně nahradit, přesto už teď někteří své osobní roboty upřednostňují před ostatními lidmi. Je to do určité míry pochopitelné, protože roboti mohou být naprogramovaní tak, aby uspokojili naše potřeby, které jiní lidé neuspokojují. No a ukázalo se, že po nějaké době si lidé ke svým robotům vypěstovali vztah, přestože věděli, že to nejsou lidé. Teď si představte svět, kde každý má takového svého osobního robota, který je naprogramovaný, aby se choval tak, jako kdyby vás měl rád. Nikdy vás nezradí, víte, co od něj čekat, vždy bude nablízku… Na rozdíl od toho lidé často zklamou, nevyjdou vám vstříc a někdy se s nimi i pohádáte. Dnes nás k socializaci nutí to, že nechceme být opuštění nebo vyčlenění ze společnosti. Pokud ale sami sebe přesvědčíme, že roboti jsou stejně dobří jako lidé a lidi vlastně nepotřebujeme, co nám zajistí, že roboty před lidmi neupřednostníme? Jeden Číňan si vzal robotku, kterou si sám sestrojil, a další muži i ženy by o manželství s robotem měli zájem (více v The Guardian).

Zmiňujete i legendární Asimovovy zákony robotiky z knihy Já, robot. Potřebujeme ještě další regulaci robotů a umělé inteligence? Nebo si vystačíme se třemi?

Ráda bych řekla, že tři stačí a touto otázkou se již nemusíme zabývat, ale není tomu tak. Už v knížce samotné autor poukazuje na pár případů, ve kterých by pravidla nefungovala tak, jak by měla. Navíc by bylo velmi složité je do robotů naprogramovat. Pro robota je nebezpečí velmi abstraktní pojem, a pokud bychom mu nařídili pracovat, jen pokud tím žádného člověka neohrozí, nemohl by ve výsledku nic dělat, protože by musel konstantně vyhodnocovat, jak by jeho akce mohla někoho ohrozit. Je to tedy spíš fikce, ke které by se realita měla pokud možno co nejvíce blížit.

Nejsou roboti jen další etapou evoluce lidí? Nepřichází doba Homo Roboticus?

Doufám, že ne. Nevadilo by mi, kdyby roboti nebo umělá inteligence nabyli plného vědomí a žili s námi v míru na Zemi nebo jakékoli jiné planetě. Existovali by však jako samostatný živočišný druh. Název Homo Roboticus naznačuje, že by se roboti nějakým způsobem stali naší součástí. Chápu, že v dnešní době jsme na technologiích už celkem závislí, ale k tomu, abychom vyhlásili novou evoluční etapu, bychom si je do našich těl museli nechat všichni implantovat a snad se s nimi i rodit. Je pravda, že někteří už si do těla čipy vložit nechali, ale valná většina ještě nic takového neudělala a ani to, pokud vím, neplánuje.

Jaká byla vaše motivace zúčastnit se soutěže Centra Karla Čapka? Je tematika umělé inteligence něčím, co Vás hodně zajímá a oslovuje? A proč vlastně?

Určitě, tato tematika mě opravdu zajímá. Jde o vytváření myslících strojů/algoritmů, což mě hodně fascinuje. Váže se k tomu spousta dalších věcí, např. otázky, jestli stroje mohou myslet, být si vědomy samy sebe, nebo dokonce cítit emoce jako lidé. A co se týče soutěže, prvotní impuls byl, že bych se ráda hlásila na obor kognitivních věd, který se právě tématy mysli zabývá. Kognitivní vědy se studují v zahraničí, když se hlásíte na zahraniční vysokou školu, většinou po vás chtějí tzv. personal statement, což je vlastně esej o tom, proč se na obor hlásíte. V té zmiňujete mimo jiné i svoje mimoškolní zkušenosti a vysvětlujete, jakým způsobem váš zájem o obor dokazují. Soutěž centra byla skvělou příležitostí uspořádat si myšlenky.

Kde se vidíte za 10 let? Láká vás třeba práce ve vědě a výzkumu? Nebo novinařina?

Hodně mě láká výzkum, ale zároveň vím, že je velmi těžké se ve vědě prosadit. Neexistuje na to žádná kuchařka, musíte dobře rozumět svému oboru, přicházet s novými nápady a nezhroutit se z toho, že ne vždy máme pravdu. Asi bych nejraději byla vývojářkou a vytvářela nové aplikace. Pokud by se ukázalo, že mám na výzkum talent, tak bych se do něj moc ráda zapojila. Jinak by mě také moc lákalo založit nějaký malý start-up, což by určitě byla zajímavá zkušenost. Zrovna u technologií mám pocit, že člověk nepotřebuje žádný velký finanční kapitál a stačí mu do toho vložit většinu svého času.

A kde vidíte v kontextu vývoje technologií za 10 let Českou republiku a svět? Jedná se o optimistickou vizi, nebo spíše vizi skeptickou?

V tomhle jsem asi optimistka. Vývoj nových technologií je hrozně rychlý ve světě i u nás a pochybuji, že by se to v nejbližší době mělo změnit. Rozhodně jsem na Českou republiku hrdá, protože přestože jsme celkem malý stát, pochází od nás mnoho chytrých lidí, kteří jsou uznávaní i v zahraničí. Jen doufám, že neusneme na vavřínech a stát bude dál podporovat pokrok ve vědě i v technologiích obecně.

Plné znění eseje Kamily Houškové si můžete přečíst v sekci Novinky na webových stránkách Centra Karla Čapka pro studium hodnot ve vědě a technice (CEVAST).

Připravili: Leona Matušková a Petr Cieslar, Divize vnějších vztahů SSČ AV ČR
Foto: Jana Plavec, Akademie věd ČR

Přečtěte si také

• Krym jako křižovatka světů i ztracený ráj, nyní 10 let pod ruskou nadvládou
• Pohádky: bylo nebylo aneb od lechtivých příběhů k povídání pro děti
• Do češtiny přeložený cestopis z 10. století odkrývá málo známou minulost
• V Řecku si připadáte jako na horské dráze, říká Pavla Drápelová Gkantzios
• Vnímání času, vědomí a umělá inteligence. Co spojuje psychology a filozofy?
• Superhrdinové existovali ve vyprávění od nepaměti, říká Markéta Kulhánková
• Romský Atlantik: Jak žijí a jací jsou Romové v Brazílii, Angole a jinde?
• Zpěv a tanec vídeňských Čechů souvisejí i se vztahem ke kořenům, ukazuje kniha
• Jazykovědkyně Michaela Lišková zkoumá neologismy: Nová slova patří mladým
• Stěny Kateřinské jeskyně pokrývají pravěké kresby, co o nich vědci zjistili?