V Praze se sešli experti na etiku vědy. Jedním z témat byla role AI ve výzkumu

Používání nástrojů umělé inteligence ve vědě a výzkumu přináší nové etické výzvy. Nejen o nich diskutovali na svém setkání v Praze 12. a 13. září 2024 evropští odborníci na etiku vědecké práce seskupení v The European Network of Research Integrity Offices (ENRIO). Vedle tématu AI se intenzivně zabývali také strategií ENRIO na následující léta a zvolili ze svých řad nový výbor pro období 2025–2028.

Evropská síť ENRIO vznikla v roce 2008 a k dnešnímu dni ji tvoří 31 členských organizací z 23 evropských zemí. Českou republiku v ní od roku 2015 zastupuje Komise pro etiku vědecké práce AV ČR, jíž předsedá Oldřich Tůma z Ústavu pro soudobé dějiny AV ČR, který je zároveň současným prezidentem ENRIO.  

ENRIO obdobná setkání pořádá vždy dvakrát do roka – na jaře a na podzim. Sestává z konferenční části se dvěma až třemi přednáškami a následnými debatami na aktuální a důležitá témata etiky výzkumné práce. Součástí setkání jsou ale i organizační záležitosti – vzájemné informování o evropských projektech jednotlivých členských organizací nebo o činnosti výboru.

Etika AI ve výzkumu
„Tentokrát nejvíce rezonovala přednáška o možnostech a úskalích používání umělé inteligence ve výzkumu, kterou přednesl významný expert Tomáš Foltýnek z Masarykovy univerzity,“ řekl Oldřich Tůma.

Předseda Komise pro etiku vědecké práce AV ČR a prezident ENRIO Oldřich Tůma při své úvodní řeči ve čtvrtek 12. září 2024 v Praze

Využívání nástrojů umělé inteligence ve vědě a výzkumu je podle slov Tomáše Foltýnka nevyhnutelné a děje se už v dnešní době. „Budoucnost je mnohem blíže, než jsme si kdy mysleli,“ uvedl ve své prezentaci. Příkladem může být zpracování velkých datových souborů, překlady a redigování vědeckých texů, tvorba abstraktů pomocí AI a podobně.

Nelze vyloučit ale ani celé vědecké projekty zpracované kompletně umělou inteligencí – už v současnosti je k dispozici nástroj The AI Scientist (AI vědec), který údajně umí generovat nové vědecké poznatky (od prvního nápadu, přes rešerše, experimenty, ověření až po sepsání vědeckého článku), to vše za pouhých patnáct dolarů.     

Jak se k těmto možnostem postavit z etického hlediska? Bude nutné podobné nástroje nějak regulovat? O tom všem se bude muset vést podle Tomáše Foltýnka debata. Používání AI nástrojů s sebou totiž nese nové výzvy – nakolik a jakým způsobem ve vědecké práci přiznat a označit použití jednotlivých nástrojů AI? A můžeme jim vůbec věřit, když víme, že se například některé jazykové modely nezřídka dopouštějí nepřesností či dokonce fabulací? Je vhodné tyto nástroje v současné vědě používat?

Součástí programu setkání odborníků z evropské sítě ENRIO byla i návštěva knihovny Strahovského kláštera.

Etický kodex pro českou vědu
Dalším důležitým tématem oblasti vědecké integrity je důraz na ochranu klimatu a environmentální stránku vědy. Právě tento aspekt nově přibyl také v Etickém kodexu vědecko-výzkumné činnosti v Akademii věd České republiky, který nedávno prošel rozsáhlejší revizí.   „Zaměstnanec AV ČR neplýtvá materiálními zdroji a energiemi, snaží se omezovat klimatickou a ekologickou stopu své činnosti,“ píše se v Etickém kodexu, schváleném letos na jaře Akademickým sněmem Akademie věd ČR.

„Kodex byl přepracován opravdu důkladně, diskuse nad jeho úpravami zabraly Komisi pro etiku vědecké práce dlouhé měsíce. Mnohé body předchozího znění byly zpřesněny, rozšířeny či doplněny. Některá témata se v kodexu objevila zcela nově, například ohled na ekologickou stopu bádání, problematika autorství a spoluautorství nebo nepřípustnost jednání dotýkajícího se fyzické či psychické integrity spolupracovníků,“ zmínil Oldřich Tůma.

Dodržování etických pravidel ve výzkumu v celé jejich šíři je podle Oldřicha Tůmy nezbytnou součástí fungování akademických pracovišť i práce jednotlivých badatelů. Většina regulí se odvozuje od obecných pravidel etiky a morálky a jejich dodržování by mělo být samozřejmé (nepřípustnost falšování dat, plagiátorství, nevhodné chování na pracovišti – ať už jde o bossing, nebo genderově motivované obtěžování). „Přesto dává smysl a je užitečné, aby tato pravidla byla přesně a komplexně formulována a byla součástí pracovního řádu jednotlivých pracovišť. Aby tedy zaměstnanci, i z formálního hlediska, byli povinni taková pravidla znát a respektovat,“ dodal Oldřich Tůma.

Etický kodex vědecko-výzkumné činnosti v Akademii věd České republiky je dostupný zde. Se složením Komise pro etiku vědecké práce AV ČR je možné se seznámit zde. O evropské síti institucí vědecké integrity ENRIO informují její webové stránky.

Text: Leona Matušková, Divize vnějších vztahů SSČ AV ČR
Foto: Jaroslav Hudec, Miroslav Zdík Jordánek a Alžběta Rákosová
Text je uvolněn pod svobodnou licencí Creative Commons.

Přečtěte si také

• Oldřich Tůma: Etický kodex AV ČR reaguje na aktuální výzvy a proměny světa
• Akademický sněm AV ČR zvolil Radomíra Pánka kandidátem na předsedu instituce
• Hodnocením projektů GA ČR získáte větší rozhled v oboru, shodují se panelisté
• Léčivá krása: vítězný snímek Vědy fotogenické zachycuje lék proti rakovině
• Čtyři projekty z AV ČR získaly ERC grant, každý obdrží dva miliony eur
• Akademie věd: Látky uvolňované z ohňostrojů jsou vysoce toxické a karcinogenní
• Akademie věd chce podpořit uplatnění výsledků založením akciové společnosti
• Josef Bryja z Ústavu biologie obratlovců získal ocenění Kraje Vysočina
• Vidět dál než jiní. AV ČR ocenila osobnosti, které přispívají k prestiži vědy
• Tomáš Jungwirth z Fyzikálního ústavu převzal Národní cenu vlády Česká hlava