AI a právo
Oblasť práva reaguje na spoločenské zmeny s oneskorením. Ako by sa mala premieňať s príchodom neustále sa zlepšujúcich inteligentných systémov tak, aby spoločnosť prosperovala? Akým smerom by sa malo posunúť licenčné právo vo vzťahu k spoločnosti, zamestnanosti, distribúcii bohatstva, ochrane duševného vlastníctva? Aké sú pre a proti regulácie umelej inteligencie (AI aktu) a ako k tomu pristupujú krajiny mimo EÚ?
O debate
Debata prebehla 11. 4. 2024
Moderoval ju Pavel Kroupa z KROUPALIDÉ
Odkaz na udalosť na Facebooku
Autorom článku je žurnalista Jiří Labanc.
Rečníkmi boli
Jan je spoluzakladatem a CLO kreativního studia Artiffine a ve své pozici se zaměřuje na právo duševního vlastnictví, komplexní licenční schémata, ochranu dat, compliance a právní agendu, která souvisí s užíváním technologií, zejména AI a blockchain. Ať už v rámci studia Artiffine, nebo specializovaně pro velké advokátní kanceláře, Jan má zkušenosti na národní i mezinárodní úrovni, rozumí si s teoretickou doktrínou (má JUDr. a Ph.D. v oblasti práva IP/IT) i s praktickou aplikací jednotlivých právních řešení na nejrůznější projekty a pro velké brandy (DM, Škoda Auto či Lobkowicz Collection). Jan též hojně přednáší, publikuje a edukuje v daných oblastech, když je spoluzakládajícím členem například Harvard NFT task force.
Dr. Alžběta Solarczyk Krausová je zakladatelkou a ředitelkou společnosti Respectful AI. Zároveň působí jako vedoucí Centra pro výzkum inovací a kyberpráva na Ústavu státu a práva Akademie věd ČR, je předsedkyní expertní platformy a fóra České republiky pro monitorování právních a etických pravidel pro umělou inteligenci, zakladatelkou a předsedkyní konference SOLAIR (Society, Law, Artificial Intelligence and Robotics), externí lektorkou na Univerzitě Karlově, výkonnou redaktorkou časopisu The Lawyer Quarterly a členkou rozkladové komise Úřadu pro ochranu osobních údajů. Působila jako členka Expertní skupiny na odpovědnost a nové technologie pro Evropskou komisi, členka sítě expertů ONE AI při OECD a jako expertka za ČR při vyjednávání návrhu doporučení na etiku umělé inteligence UNESCO. Ve výzkumu se specializuje na právní aspekty umělé inteligence, robotiky, brain-computer interfaces a propojování technologií s biologickým životem.
Linda Kolaříková je absolventkou Právnické fakulty Univerzity Karlovy. Právo studovala také na Aarhus University v Dánsku. Je advokátkou. Ve svém publikační činnosti se Linda věnuje mimo jiné právním aspektům umělé inteligence a nakládání s daty.
Čakajú nás vďaka umelej inteligencii spravodlivejšie súdy?
„To záleží.“ V duchu opatrného našľapovania pri definovaní metafor sa niesla v poradí druhá debata AI horizontov, tentoraz na tému umelej inteligencie a práva. Hneď ako sa po roku 2014 začalo masívne investovať do vývoja tejto technológie, už zanedlho sa pred spoločnosťou vynorili otázky ohľadom právnej regulácie, zodpovednosti či autorstva. Podľa účastníkov debaty je regulácia AI nutná, na jej podobe sa však zhodne málokto.
„Umelá inteligencia dnes preniká do oblastí ľudskej činnosti, kde už regulácie sú,“ podotýka Jan Zibner, spoluzakladateľ kreatívneho štúdia Artiffine, kde sa vo vedúcej pozícii zameriava na otázky práva duševného vlastníctva a právnej agendy, ktorá súvisí s používaním technológií – vrátane umelej inteligencie. „Na druhej strane ide o natoľko špecifickú technológiu, že si sama osebe špecifické zakotvenie zaslúži,“ mieni Zibner.
O regulácii AI sa rokuje v posledných desiatich rokoch, keď v roku 2014 vizionár a zakladateľ spoločnosti Tesla Elon Musk vyhlásil, že umelá inteligencia bude nebezpečnejšia ako jadrové zbrane. „Odtedy sa do vývoja masívne investuje a vychádzajú tematické akademické články,“ hovorí Alžběta Solarczyk Krausová, riaditeľka spoločnosti Respectful AI a vedúca Centra pre výskum inovácií a kyberpráva na Ústave štátu a práva Akadémie vied ČR. Aj podľa Krausovej je teda regulácia potrebná.
Európska únia v posledných rokoch rokovala a nakoniec aj prijala takzvaný AI Act, teda vôbec prvú reguláciu umelej inteligencie na svete. Akt o umelej inteligencii stanovuje niekoľko úrovní rizikovosti: neprijateľné riziko, vysoké riziko, prijateľné riziko, nízke riziko. Každá kategória potom bude mať svoje vlastné pravidlá. Krausová pripomína, že nová regulácia je založená na minimalizácii rizík, odvíja sa od potenciálne negatívnych dôsledkov, ktoré technológia môže mať.
„Je AI Act dobrou reguláciou?“ pýta sa účastníkov moderátor diskusie Pavel Kroupa.
„Ide o kompromis, ktorý nebude vyhovovať nikomu,“ odpovedá Krausová. „Pôvodne sa predpokladalo, že regulácia všeobecne zabije inovácie. Nakoniec však veľká väčšina firiem aj napriek mnohým pripomienkam víta, že budú mať právnu istotu. Európske firmy kvôli Aktu budú zrejme vo vývoji AI o niečo pomalšie. Kým však zvyšok sveta pobehne rýchlo, my pobežíme ďalej. Firmy, ktoré nebudú rešpektovať ochranu základných práv a budú vytvárať AI potenciálne nebezpečnú pre používateľov, neprežijú. Ľudia totiž ich systémy nebudú chcieť využívať.“
Linda Kolaříková, ktorá v eticko-technologickom centre CEVAST rieši etické dopady technológií z pohľadu práva, s Krausovou súhlasí. „Právo je o hľadaní kompromisu. Podobný balans by sme mali hľadať aj v otázke umelej inteligencie,“ tvrdí.
Ostatne stopu už prijatý AI Act nachádza v Spojených štátoch amerických, kde sa umelá inteligencia využíva v oveľa väčšej miere, a tamojší zákonodarcovia sa pri tvorbe vlastnej regulácie inšpirujú prístupom Európskej únie.
Kto je autor? Vidím, nie?
Verejná diskusia sa často dotýka aj autorstva. Jan Zibner pojem definuje ako objektívny stav. „Problém je, že v akademickej debate tento stav nepoznáme, nemáme teda ani správnu odpoveď na otázku, či autorstvo pripadá tvorivej činnosti človeka – pretože má dostatočnú blízkosť k výstupu umelej inteligencie – alebo je to samotná tvorivá činnosť AI.“ V Čechách, aspoň momentálne, umelá inteligencia nemôže byť autorom, keďže autorstvo pripadá iba fyzickým osobám.
Hoci sú odpovede minimálne vágne (keďže pri posúdení autorstva záleží na miere tvorivého vstupu), vývojári a prevádzkovatelia najrôznejších platforiem využívajú pri práci s AI tri základné scenáre zmluvných podmienok.
Podľa prvého je autorom používateľ, avšak dáva neobmedzenú licenciu prevádzkovateľovi platformy. Zibner to považuje za alibistický, napriek tomu najlepší variant. „Umožňujete prevádzkovateľovi, aby podľa vašich výsledkov mohol napríklad učiť svoje AI modely. Platforma teda nikomu nezasahuje do práv, iba povie ‚výstupy sú vaše, my ich len môžeme používať.‘ Z pozície prevádzkovateľa tak máte istotu, že vás nikto nebude žalovať.“
Druhý variant pripisuje všetko autorstvo platforme, avšak používateľ dostáva neobmedzenú licenciu na využívanie výstupov nástroja AI. Ide o opak prvého scenára.
Tretia možnosť hovorí, že všetky výstupy nie sú autorským dielom. S týmto scenárom sa však spájajú aj komplikácie, pretože v rámci českých zákonov sa duševného vlastníctva nie je možné vzdať, výsledok musí mať vždy autora.
„Nakoniec otázka, či niečo je alebo nie je autorské dielo, prislúcha súdu. Ale o tom, či boli naplnené znaky autorského diela – že ide o jedinečný výsledok tvorivej činnosti autora –, rozhodujú znalci. Tí mi však pri rozhovoroch opísali, ako o znakoch autorského diela rozhodujú: ‚Vidím, nie?‘ Vypracované znalecké posudky už síce s rôznymi metódami pracujú, no v pozadí rozhodovacieho procesu je subjektívny pocit,“ popisuje Jan Zibner, ako funguje bežná prax. Podľa Alžběty Krausovej sa kvôli absencii takzvaných watermarkingov (digitálnych vodoznakov) budú jednotlivé prípady dostávať do dôkaznej núdze.
Čiernobiela spravodlivosť v rukách AI
Určiť zodpovednosť za umelú inteligenciu je podľa diskutujúcich odborníkov zložité a posudzuje sa prípad od prípadu. Podľa Zibnera je nutné stotožniť, voči komu je žaloba namierená. Upozorňuje, že ľudia budú pri vymáhaní zodpovednosti s najväčšou pravdepodobnosťou obviňovať prevádzkovateľa platformy, prípadne tvorcu umelej inteligencie. Krausová však dodáva, že vlastnú smernicu o zodpovednosti ešte Česká republika neprijala. „Bude však viazaná na už spomínaný AI Act. Poskytovatelia služieb budú musieť počítať s rizikami, vyberať správne dáta a predpovedať najrôznejšie scenáre, vrátane zneužitia zo strany používateľa.“ Nakoniec však záleží na vyznení podmienok používania daných služieb a platforiem.
V regulácii umelej inteligencie hrá podstatnú úlohu aj etika. Dokonca sa o nej začalo uvažovať skôr než o regulácii. Bližšie morálne správanie technológií skúma etika strojov (v angl. Machine Ethics) a v mnohých oblastiach sa predovšetkým s nástupom generatívnej umelej inteligencie ustanovili etické kódexy.
Otázkam etiky je podmienená aj legislatíva. „V Európe sme oproti USA zvyknutí na pomerne detailné pravidlá, ktoré navyše vytvárame vopred, počítame s možným rizikom. V americkom práve sa vyskytuje päť princípov nakladania s AI, podobne ako u nás sú založené najmä na bezpečnosti a účinnosti. Američania s ohľadom na svoje právo najprv testujú, až potom vytvárajú pravidlá,“ vysvetľuje Alžběta Krausová.
Neprekvapivo umelá inteligencia ovplyvní aj samotnú prácu advokátov. Podľa Lindy Kolaříkovej môžu nástroje generatívnej umelej inteligencie v budúcnosti fungovať ako asistenti a vytvárať a zhrňovať napríklad zápisy zo súdnych pojednávaní. „Obzvlášť dôležitá je však bezchybnosť, pretože terajšie verzie modelov môžu halucinovať,“ vysvetľuje Kolaříková s tým, že napriek užitočnej pomoci umelej inteligencie by konečné rozhodovanie malo aj naďalej pripadať ľuďom. Ak by sa spravodlivosť prenechala umelej inteligencii, podľa diskutujúcich odborníkov by technológia na prípady nazerala čiernobielo, na rozdiel od ľudí.
Zibner s Kolaříkovou súhlasí: „Ako právnici nebudeme musieť celé dni písať základné podania, ale sústredíme sa na vymýšľanie zložitejších konceptov. Týmto smerom sa všeobecne vyvíja aj spoločnosť. Nenahradí nás AI, nahradia nás ľudia, ktorí vedia používať AI,“ potvrdzuje otázku moderátora diskusie.