Všeobecný úvod do umelej inteligencie
Etika umelej inteligencie
Autor textu: David Černý (Centrum Karla Čapka), odborný garant: Pavel Kordík
Etika umelej inteligencie je pomerne mladá vedná disciplína, jej význam však neustále rastie. Jedným z hlavných dôvodov je práve to, že za nás čoraz viac úloh a rozhodnutí vykonávajú stroje.
Etika z tradičného hľadiska
Etika sa primárne venuje hodnoteniu ľudského konania. Zaujíma ju, či ho môžeme opísať ako správne alebo nesprávne. Okrem konania sa však zameriava aj na samotných konajúcich, teda (opäť primárne) na nás ľudí, a pýta sa, aké vlastnosti si dobrými či zlými skutkami vytvárame (hovoríme im cnosti a neresti) a tiež aké rozumové a morálne vlastnosti by sme mali mať, aby sme sa dokázali dobre orientovať v situáciách každodenného rozhodovania a volili morálne správne.
Morálka
Okrem slova „etika“ používame aj výraz „morálka“. Oba výrazy majú rovnaký slovný pôvod – prvý pochádza z gréčtiny, druhý z latinčiny, ich význam však rovnaký nie je. Etikou chápeme vedeckú disciplínu, súčasť filozofie, ktorá kriticky hodnotí princípy a normy správneho konania, zatiaľ čo pod morálkou by sme si mali predstaviť súbor noriem rôzneho pôvodu (kultúra, náboženstvo a pod.), ktorými sa ľudia skutočne riadia. Rôzne spoločnosti (a dokonca aj jednotliví ľudia) môžu vyznávať odlišné morálky, väčšina autorov je však presvedčená, že etika je (či by mala byť) schopná určiť tie princípy a normy, ktoré sú platné všeobecne. Morálka je podmienená celým radom faktorov, môže sa meniť a byť nesprávna (stačí pomyslieť na otroctvo, ktoré sa niekedy obhajovalo prostredníctvom vtedy panujúcich morálnych noriem), etika by mala mať aspoň určité jadro trvalo platných princípov a noriem.
Automobily majú dnes bezpečnostné pásy, airbagy, deformačné zóny a ďalšie bezpečnostné prvky; zbrane majú poistky; priemyselné roboty majú poistky pre prípady ohrozenia života a zdravia. Moderné technológie sa však z pasívnych objektov (ktoré niečo „robia“ len na základe priamej ľudskej inštrukcie) premieňajú na aktérov, ktorí sa môžu rozhodovať a na základe týchto rozhodnutí aj konať. Najmä pokroky na poli umelej inteligencie prispeli k vzniku nepreberného množstva systémov, ktoré získavajú informácie o vonkajšom svete (vnímajú), vytvárajú si plány konania a potom tieto plány s rôznou mierou autonómie uskutočňujú. A akýmsi svätým grálom výskumu je stvorenie všeobecnej umelej inteligencie, ktorá bude pri riešení úloh rovnako zdatná ako človek.
Etika umelej inteligencie
Etika umelej inteligencie je pomerne mladá vedná disciplína, jej význam však neustále rastie. Jedným z hlavných dôvodov je práve to, že za nás čoraz viac úloh a rozhodnutí vykonávajú stroje. Často pod dohľadom človeka, no v mnohých úzko vymedzených oblastiach nás stroje dávno prekonali a blízka budúcnosť, aspoň podľa plánov mnohých technologických gigantov, bude zahŕňať plne autonómne systémy. Príkladom môžu byť autonómne vozidlá. V plnej premávke ich zatiaľ bežne nestretávame, ale táto situácia sa pomaly mení. Takéto vozidlá sú schopné dopraviť nás do ľubovoľného bodu, a to bez nutnosti zásahu ľudského operátora. Okrem mnohých technických aspektov to však znamená, že sa budú musieť riadiť nejakými etickými pravidlami, ktoré im umožnia rozhodovať sa správne.
Čo to však presne znamená? A je vôbec realistické dúfať, že nájdeme zhodu na systéme niekoľkých jednoduchých princípov, ktorými by sa mohli riadiť všetky systémy umelej inteligencie, a to nielen u nás, ale v celej Európe, či dokonca na celom svete? Na národných a nadnárodných úrovniach existuje celý rad iniciatív a dokumentov, ktoré vychádzajú z presvedčenia, že je to realistické. Pozrime sa teda bližšie na to, s akými návrhmi prichádzajú.
Princípy
Všetky dôležité dokumenty o etike umelej inteligencie sa zhodujú na tom, že existuje niekoľko základných etických princípov, ktorými by sa inteligentné systémy a stroje mali riadiť. Ide o týchto päť princípov:
+ princíp neškodenia,
+ princíp prospievania,
+ princíp rešpektu k ľudskej autonómii,
+ princíp spravodlivosti
+ a napokon princíp vysvetliteľnosti.
Ak sa nám podarí nejakým spôsobom začleniť tieto princípy do rozhodovacích mechanizmov umelej inteligencie (aspoň taká je základná predstava), výsledkom budú stroje a systémy, ktoré sa rozhodujú eticky správne. Existujú tri prístupy, ako umelú inteligenciu „obohatiť“ o etické princípy:
+ prístupy „zhora“ (naprogramujeme všeobecné rozhodovacie procedúry),
+ prístupy „zdola“ (necháme umelú inteligenciu, aby sa eticky správne konanie naučila),
+ či kombinácia oboch postupov.
Dve dôležité otázky však zostávajú: je týchto päť princípov zárukou správneho konania? A budú stroje schopné aplikovať ich v praxi?
Bližší pohľad
Pozrime sa znovu na všetky princípy. Prvý z nich hovorí, že by umelá inteligencia nemala ubližovať, druhý, že by mala prospievať, tretí, že by mala rešpektovať naše autonómne voľby a konanie, štvrtý, že by mala rešpektovať spravodlivosť, a napokon posledný, piaty, že by jej rozhodnutia mali byť pre nás ľudí zrozumiteľné. Teoreticky sa môže zdať, že všetky dôležité oblasti sú pokryté, ale nie je to tak.
Prvý problém sa týka aplikácie týchto princípov v konkrétnych situáciách.
Čo presne totiž znamená, že umelá inteligencia nemá ubližovať a mala by prospievať?
Predstavme si lekárskeho robota, ktorý má vykonávať operácie. Rozrezanie ľudského tela skalpelom či laserovým lúčom vyzerá ako jasný príklad ubližovania, ak budeme ubližovanie chápať ako pôsobenie nejakej ujmy. Napriek tomu všetci súhlasíme s tým, že chirurgovia smú robiť celý rad zákrokov, ktoré by nikto iný robiť nesmel, pretože sú jasným príkladom ujmy. Nikto z nás nesmie iného človeka pripraviť o končatinu, chirurg však za určitých okolností môže. Je teda zrejmé, že princíp „neubližuj“ je príliš všeobecný a jeho aplikácia môže výrazne závisieť od okolností. Dokážeme všetky tieto kontexty zmapovať, určiť všetky výnimky, interpretácie a pod. a naučiť ich aj umelú inteligenciu?
Aby sme vedeli, že niekomu ubližujeme (pôsobíme ujmu), musíme v skutočnosti uplatňovať pomerne široké spektrum znalostí a zručností.
Autonómne vojenské systémy
Ďalší problém s piatimi princípmi sa týka toho, že by mali platiť pre každý systém umelej inteligencie, bez ohľadu na jeho účel. Nie je preto divu, že napríklad autonómne vojenské systémy (dokážu vykonať svoju misiu, vrátane zneškodnenia nepriateľa, úplne bez zásahu človeka) sa väčšinou nechávajú bokom. Ale aj toto sú systémy umelej inteligencie. A v ich prípade ide doslova o život, dokonca o mnoho životov. Nemala by sa im etická rozvaha venovať primárne? A všimnime si, že ťažko od nejakého vojenského systému s umelou inteligenciou môžeme chcieť, aby neškodil.
Možno by sme mohli povedať, že podobne ako v prípade chirurgických robotov existujú situácie, keď je ujma prípustná. Je tu však jeden veľký rozdiel: kým chirurg či robot pôsobí ujmu (napr. amputáciu) preto, že to je podmienkou uzdravenia pacienta, smrť žiadnemu človeku neprospeje. A etika vojny pozná mnoho ďalších morálnych dilem.
Autonómne vozidlá
Iným príkladom môžu byť autonómne vozidlá. Sľubujeme si od nich mnohé, okrem iného výrazné zvýšenie bezpečnosti dopravy. Zákony fyziky sa však obísť nedajú a aj títo sofistikovaní roboti sa budú dostávať do situácií, keď nech sa rozhodnú akokoľvek, vždy spôsobia nejakú ujmu. Človek túto možnosť väčšinou nemá a koná inštinktívne, počítač by však v niektorých prípadoch mal dosť času na nejaký manéver. Môže vozidlo smerovať vpravo (kde je chodec), alebo vľavo (kde je strom). Ako by sa malo rozhodnúť? Ani jeden z princípov mu príliš nepomôže. Keď totiž zahne doprava, ohrozí zdravie a život chodca, ak zahne naopak doľava, ohrozí vodiča.
Možno by sme ho mali vybaviť pravidlom, aby sa v takýchto situáciách nerozhodovalo nijako, respektíve aby začalo brzdiť, ale smer nijako nemenilo. Trochu to však zaváňa alibizmom. Mohli by sme totiž povedať, že sa vozidlo nijako nerozhodlo, jednoducho len brzdilo. Ale aj rozhodnutie nijako sa nerozhodnúť je rozhodnutím. Predstavme si, že vozidlo dostalo šmyk a rúti sa k priechodu, na ktorom sú dve deti. Zľava prichádza iné vozidlo, vpravo je chodec na chodníku. Keď sa vozidlo rozhodne nemeniť smer a bude brzdiť, ale nestihne včas zastaviť, ťažko môžeme hovoriť, že sa vlastne nijako nerozhodlo. Malo totiž tri voľby: zahnúť doprava, doľava, nemeniť smer a brzdiť. A ak zrazí obe deti, bolo to dôsledkom voľby nemeniť smer jazdy. A samozrejme tiež v rozpore s princípom neškodenia.
Minimalizácia ujmy
Takže v prípade vozidla a priechodu s deťmi môže vozidlo zahnúť doprava (ohroziť vodiča), doľava (chodca), alebo brzdiť a pokračovať v smere jazdy (ohroziť dve deti). Vodič je chránený vozidlom (a umelá inteligencia by mala dobre poznať všetky bezpečnostné prvky a ich účinnosť), chodec a deti však nie. A dva životy (deti) sú viac ako jeden život (chodec). Auto by teda malo zahnúť doprava a ohroziť vodiča.
Samozrejme, takto jednoduché to v praxi nebude a úvahy vozidiel budú musieť byť veľmi komplexné a zahŕňať celý rad faktorov a pravdepodobností. To sú však skôr technické detaily, nie etické.
Musíme sa však nejako rozhodnúť. Pomôcť by nám mohlo to, že keď sa autonómne vozidlá budú riadiť princípmi, budú niekedy ubližovať viac, než je v skutočnosti nutné (ohrozia deti na priechode), zatiaľ čo etika minimalizácie ujmy bude v každej situácii ubližovať čo najmenej. Keď ju však prijmeme a implementujeme, nebudeme môcť tvrdiť, že vozidlá neubližujú úmyselne; keď sa totiž auto rozhodne minimalizovať ujmu, rozhodne sa vedome a úmyselne.
Snaha nájsť nejaké všeobecné etické princípy, ktorými by sa mohla riadiť umelá inteligencia vo všetkých svojich podobách, je iste pochopiteľná, naráža však na veľké problémy. Ľahko sa dostane do situácií, ktoré nebude vedieť správne interpretovať. My ľudia máme celý rad schopností, vrátane intuície a poznania spojených s emóciami, ktoré nám poskytujú vodidlá.
Možné riešenie
Ako sme videli, princípy, ktorými by sa umelá inteligencia mala riadiť, vyžadujú často neľahkú interpretáciu a v niektorých situáciách sú úplne nevhodné. Znamená to, že je naša snaha obdariť umelú inteligenciu nástrojmi eticky korektného rozhodovania úplne stratená?
Nie nevyhnutne. Musíme sa však vzdať predstavy, že existuje iba jeden systém etických princípov, ktorý je použiteľný pre umelú inteligenciu vo všetkých jej podobách a aplikáciách. Možno by sme jednoducho nemali o etike umelej inteligencie premýšľať všeobecne, s odhliadnutím od toho, kde a na čo ju chceme používať a aké od nej máme očakávania. Práve spôsob využitia a očakávania môžu byť dobrým východiskom etických úvah.
Príkladom môžu byť už spomínané autonómne vojenské systémy (budem im hovoriť vojenskí roboti). Len ťažko by sme im mohli zakazovať pôsobiť ujmu, pretože práve to je zmyslom ich existencie a využitia.
To však neznamená, že by sme ich nemohli vybaviť celým radom etických princípov. Ich konkrétnu povahu však opäť musíme odvodzovať od účelu a kontextu nasadenia. Teória spravodlivej vojny stanovuje podmienky spravodlivého vedenia boja, medzi ktoré patrí rozlišovanie medzi nepriateľskými a vlastnými bojovníkmi a medzi bojovníkmi a civilistami. Prísne zakazuje útočiť na civilistov a viesť vojnu spôsobmi, ktoré civilistov neprimerane a nedôvodne ohrozujú. Vojenskí roboti teda musia mať určité schopnosti (rozlišovať legitímne a nelegitímne ciele patrí medzi ne). A jedným zo základných etických princípov, ktorými sa musia riadiť, je „nikdy neútoč na civilistov“.
Záverom
Umelá inteligencia sa používa v mnohých oblastiach a na rôzne účely. Generuje obsah, rozhoduje o pôžičkách, vyhodnocuje výsledky výberových konaní, obchoduje na burze, sleduje podozrivé transakcie na našich platobných kartách, vedie s nami konverzáciu, ovláda telefóny (napr. Siri), ponúka nám obsah na sociálnych sieťach, diagnostikuje choroby, predpovedá štruktúru proteínov, analyzuje obrovské súbory dát, v podobe autonómnych vozidiel nás bude prepravovať, robí nám spoločnosť (spoločenskí roboti), ošetruje nás a opatruje (opatrovateľskí roboti), môže nám dokonca ponúknuť radovánky sexuálnej povahy (sexuálni roboti).
A práve tieto očakávania (autá nás budú voziť, algoritmy informovať, spoločenskí roboti nám budú robiť spoločnosť, záchranárski roboti nás budú zachraňovať a pod.) by mali byť živným substrátom, z ktorého naša reflexia vypestuje konkrétne etické princípy a vodidlá, ktoré budú šité na mieru systémom umelej inteligencie.