AGI (všeobecná umelá inteligencia)
Predstava všemocnej AI spoločnosť fascinuje a zároveň desí. V poradí šiesta debata AI horizontov na tému všeobecnej umelej inteligencie (AGI) pojednávala o strachu z novej technológie, ktorý je utváraný popkultúrou, ale aj o príležitostiach, ktoré vývoj môže priniesť. Podľa diskutujúcich AI môže disponovať vedomím, jej vývoj však môže byť aj nekonečným procesom.
O debate
Debata prebehla 23. 10. 2024
Moderoval ju Lukáš Kačena z prg.ai
Odkaz na facebookovú udalosť
Autorom článku je žurnalista Jiří Labanc
Rečníkmi boli
Tomas Mikolov is a scientist working on artificial intelligence research. His main focus is statistical language models. Among his best known results are RNNLM (the world’s first open source library for training neural language models) and word2vec (the first AI project released as open source by Google). He is currently the most cited Czech scientist. After years spent at US corporations like Google and Facebook, he returned to the Czech Republic in 2019, where he leads a research group at CIIRC CTU and also an AI startup.
Mgr. Dita Malečková, Ph.D., earned her degrees in Philosophy and Information Science from Charles University in Prague. She has over a decade of experience lecturing at the New Media Studies Department at Charles University and currently teaches at the Film and TV School of the Academy of Performing Arts in Prague. Her academic interests focus on the intersections of philosophy, media theory, imagination, and art. Since 2019, she has been engaged in working with generative systems, co-creating the projects Digital Philosopher (2019) and Digital Writer (2020-21). In 2024, she published the first Czech co-written book titled „ANIMAL.“
Katarina Kalivodová je původní profesí performerka, působila v divadlech a nezávislých uměleckých uskupeních v Evropě a také jako pedagožka a lektorka (Akadémia umení, Akademie výtvarných umění). Je ředitelkou Společnosti pro kreativitu ve vzdělávání a místopředsedkyní uMĚNÍM – platformy pro kreativní učení. Podílí se na vytváření a rozvoji ekosystémů kreativního vzdělávání v České republice.
Josef Urban is a Czech researcher in automated reasoning and AI. He has worked in the US and Netherlands, and in 2015 returned to Prague, establishing the automated reasoning group at CIIRC CVUT, and later its AI department. His main topic are algorithms that combine reasoning and learning, for example in mathematics. His systems and methods have won several theorem proving competitions and are today used to assist verification of mathematical theories and mission-critical software and hardware systems.
Môže ľudstvo prežiť bez všeobecnej umelej inteligencie?
To, že všeobecná umelá inteligencia, teda cieľ rovnomenného vedného odboru, „príde“ v priebehu niekoľkých nasledujúcich rokov, možno predovšetkým v poslednom čase počuť zo všetkých strán – najbližšie termíny spravidla prichádzajú od zakladateľov firiem, ktoré takéto systémy vyvíjajú. Je to logické, v prebiehajúcom závode o to, kto technológiu plne ovládne, totiž chcú prilákať čo najviac investorov na financovanie ich výskumu. Prísľub „skorého prielomu“ je namieste.
Definícia umelej inteligencie však dodnes kvôli posúvajúcemu sa významu nie je jasne daná. Predstava vedcov v 50. rokoch, keď sa vedný odbor etabloval, je odlišná od dnešného poňatia, hoci takzvaný buzzword AI zostal rovnaký. Cieľom Alana Turinga bolo vytvoriť stroj, s ktorým by si mohol zahrať šach. John von Neumann a ďalší zasa chceli konverzačných partnerov, ktorí by neboli ľudia. Najviac prijímaná definícia je však tá od Marvina Minskeho – ide o vedný odbor, ktorého úlohou je naučiť stroje robiť veci, ktoré vyžadujú inteligenciu, ak sú vykonávané človekom. To dnešná AI rozhodne nedokáže. Zatiaľ.
Strach z vysnívaného
Ako sa v priebehu dekád menili pohľady na AI, objavilo sa aj rozdelenie na slabú a silnú AI. Ekvivalentom silnej je potom všeobecná umelá inteligencia (AGI – Artificial General Intelligence), ktorú spopularizoval počítačový vedec Ben Goertzel, otec Zara Goertzela, ktorý sa zúčastňuje na terajšej debate.
„AGI vidím ako kontinuum. GPT a podobné modely sa stále zlepšujú, ale stále im chýba skutočné povedomie a abstrakčné schopnosti. Myslím si teda, že vývoj AGI je prebiehajúci projekt – možno nekonečný – ktorý by jedného dňa mohol viesť k tomu, že väčšinu práce bude robiť umelá inteligencia. Ale ešte tam nie sme. Stále je ľudský druh tou najvšeobecnejšou inteligenciou na planéte,“ hovorí Zar Goertzel, ktorý sa vývojom umelej inteligencie zaoberá. Z teoretického hľadiska je podľa neho dokonalá všeobecná umelá inteligencia pravdepodobne nemožná. „Nemožno vypočítať ‚najlepšiu‘ vec, ktorú treba urobiť v každom scenári, len pomocou teórie pravdepodobnosti,“ hovorí Goertzel.
V určitom okamihu by podľa Zara Goertzela systémy umelej inteligencie mohli prevziať kontrolu a začať robiť väčšinu práce, ktorú robíme v súčasnosti. „Verím, že v niektorých zmysluplných ohľadoch sú ľudia stále za určitou hranicou všeobecnosti – najmä pokiaľ ide o našu schopnosť uvedomovať si svoje konanie, identifikovať vzorce a abstrakcie a kreatívne ich rozvíjať a aplikovať. Mojím cieľom je vybudovať systémy, ktoré sú aspoň také všeobecné ako ľudia vo všetkých ohľadoch, na ktorých skutočne záleží,“ vysvetľuje Goertzel.
AI výskumník Tomáš Mikolov dopĺňa, že všeobecnú umelú inteligenciu chápe ako druh počítača, ktorý dokáže robiť to, čo človek pri využití mozgu – myslieť a riešiť problémy. „Osobne som zvedavý na stavbu stroja, ktorý je múdrejší ako ja. A som si celkom istý, že je to možné. Myslím, že by bolo skvelé hovoriť s niekým – alebo niečím – múdrejším ako ja. Možno by som mohol odhaľovať skryté podstaty sveta okolo mňa,“ hovorí Mikolov.
Filozofka Dita Malečková mieni, že AGI je stále len myšlienka, sen o univerzálnom poznaní. „Žijeme v sne, ktorý sa stáva skutočnosťou. To nás desí. A ten strach vypovedá viac o nás než o strojoch. Premietame to, čo poznáme, do neznáma. Ľudia ako Alan Turing si predstavovali stroje, ktoré by dokázali myslieť – nielen racionálne, ale ako ľudia alebo aj lepšie. Je dôležité si uvedomiť, že moderná AI je dieťaťom druhej svetovej vojny. Bez vojenských technológií a financovania by neexistovala. Umelá inteligencia má teda korene vo vojnovej technológii,“ hovorí Malečková.
„Teraz sa všetci boja, že nás AGI predstihne a bude nás ignorovať. Populárna kultúra tento strach živí. Stačí sa pozrieť na umelú inteligenciu vo filmoch, kde sa stroje oslobodzujú a búria sa proti ľuďom. Bojíme sa toho, čo sme si vysnívali,“ hovorí Malečková. Podľa nej AGI zjavne nebude – napriek možnému zovňajšku – osobou, ale skôr sa bude podobať kolektívnej mysli či neurčitému superorganizmu, sieťovej entite. „Verím, že AGI bude mať aj svoje vedomie, aj keď nemusí byť ľahké ho rozpoznať, pretože bude z podstaty radikálne odlišné od nášho,“ tvrdí.
Zar Goertzel dopĺňa, že je dôležité prísť na spôsob testovania vedomia umelej inteligencie. „Potrebujeme protokoly založené na kognitívnej vede pre dynamické testovanie vedomia systému.“
Namiesto logických strojov postrádajúcich emócie sme podľa Zara Goertzela nateraz dostali poetických chaotických umelcov. „Možno ani netvoríme nič lepšie ako my. Len niečo podobné nám.“
Zásadné otázky okolo AGI
Josef Urban z Českého inštitútu informatiky, robotiky a kybernetiky parafrázuje anekdotu Charlesa Strossa, podľa ktorého už AGI máme, a to v podobe korporácií. „Tieto kolektívne mozgy maximalizujú zisk bez etiky. Je však iróniou, že firma OpenAI začínala ako projekt s cieľom zabrániť ‚maximalizovaniu kancelárskych spiniek‘ a teraz sa stala práve tým, proti čomu vystupovala,“ hovorí Urban.
Kľúčovým krokom k inteligencii strojov je podľa Zara Goertzela ich schopnosť kontextualizácie. „Je zásadné, aby si systémy viac uvedomovali svoj kontext a vykonané akcie. Ďalšími krokmi sú pravdivosť či kombinovanie neurónových sietí s explicitným uvažovaním,“ hovorí.
Podľa Tomáša Mikolova nedáva diskusia o AGI zmysel, ak nie je zodpovedaná dôležitá otázka. „Prečo by sme ju vlastne chceli stavať?“ pýta sa Mikolov a pokračuje. „Na jednej strane stoja ľudia, ktorí sa AI boja, na strane druhej nadšenci, podľa ktorých je úžasná. Lenže oba tábory sú odpojené od skutočných dôvodov, prečo na nej ľudia skutočne pracujú. Domnievam sa, že väčšina ľudí sa nesnaží zničiť svet. Nepracujú na AGI preto, aby nás roboti zabíjali. Majú úplne inú víziu, než akú vidíte v popkultúre,“ myslí si Mikolov.
Podľa Tomáša Mikolova je to práve zvedavosť, ktorá ľudí poháňa k budovaniu AGI. „Veľká časť motivácie pramení z toho, že niektorí ľudia jednoducho chcú vidieť nové veci.“
V diskusiách o tejto téme sa podľa neho málo akcentuje stret biologickej a technologickej revolúcie. „Vyvíjame čoraz zložitejšie technológie a robíme to čoraz rýchlejšie. Pri pohľade do histórie je zrejmé, že teraz dochádza k nejakému zrýchľujúcemu sa vývoju technológií. A každá technológia má dobrú aj zlú stránku. Nič nie je stopercentne dobré. Napríklad vynájdete nový liek, ale hneď ako ho začnete vyrábať vo veľkom množstve, spôsobíte znečistenie a otrávite životné prostredie,“ upozorňuje Mikolov.
„Je nepredvídateľné, kam nás technologický vývoj zavedie za pár dekád. Stačí sa pozrieť na dnešné ekologické problémy, ktoré pred 100 rokmi neexistovali. Keď si teraz predstavíme, kde budeme za ďalšie storočie, a to len na základe všeobecného technologického pokroku, smerujeme k mnohým problémom.“ Naproti sebe podľa Mikolova stojí biologická evolúcia, ktorá trvala stovky tisíc a milióny rokov, a technologická evolúcia ako nová forma života, ktorá sa však neriadi rovnakými časovými pravidlami a vyvíja sa tisícnásobnou rýchlosťou. „Budujeme svet, ktorý je čoraz viac cudzí našej biologickej podstate,“ podotýka.
O prispôsobivosti ľudského mozgu na zmeny a o skreslení normality hovoril v nedávnom rozhovore aj nemecký novinár Ulrich Schnabel. „Sme biologické systémy. Každá naša myšlienka je biologický mechanizmus. A biologické systémy potrebujú čas, aby sa prispôsobili. Nejde len o to, že niečo pochopíme a naše myslenie sa náhle zmení. Musí sa to dostať do našich buniek a celej biologickej štruktúry, čo nejaký čas trvá,“ popisuje v rozhovore pre Denník N.
Mikolov podotýka, že odpoveďou na otázku, prečo vyvíjať AGI, je jej možný potenciál prepojiť rýchlosť biologickej evolúcie s rýchlosťou evolúcie technologickej. „Teda doslova sa prepojiť s technológiou, ktorú vytvárame. Namiesto toho, aby sme sa pýtali ‚Zničí nás AGI?‘, by sme sa mali pýtať ‚Môže ľudstvo prežiť bez AGI?‘ Inak si totiž myslím, že nám technologický svet skrátka utečie. Budeme žiť vo svete, ktorému nedokážeme porozumieť a ktorý nevieme predvídať. A vlastne si myslím, že taký stav už zažívame. Pozrime sa na ekologické problémy – už sme nimi zahltení. A som presvedčený, že tieto problémy budú exponenciálne rásť,“ upozorňuje s tým, že ak ľudstvo čoskoro nevyvinie umelú inteligenciu či iný vyšší druh inteligencie, nebude schopné riešiť problémy, ktorým bude čeliť.
Dita Malečková však poukazuje aj na vážne riziká, napríklad v podobe genocídy. „Ideál racionality a optimalizácie môže viesť k desivým výsledkom. Jedným z potenciálne ‚logických‘ cieľov je práve genocída – systematické odstraňovanie všetkého, čo je chaotické, neefektívne alebo nekontrolovateľné,“ hovorí.
Tomáš Mikolov dodáva, že najmä v Európe existuje strach z akéhokoľvek pokroku. „Iné časti sveta sú k technologickému pokroku oveľa ústretovejšie. V Európe sa každá diskusia o AI točí okolo nebezpečenstva. Pakaždé ide o reguláciu, spomaľovanie, vyčkávanie, ako to všetko dopadne. Skrátka len sedieť a nerobiť nič, pretože je to nebezpečné. Z ekonomického hľadiska už teraz vidíme, že takýto prístup nefunguje. Uviazli sme v debatách a predstavách o Terminátorovi,“ kritizuje.