AI agent
AI nástroj, ktorého jadrom je veľký jazykový model a ktorý dokáže samostatne plniť zadané úlohy – nielen odpovedať na otázky, ale aj konať: rozhodovať, používať nástroje, prehliadať web, pracovať so súbormi, posielať e-maily, plánovať stretnutia či pripravovať nákupy. Zatiaľ čo chatbot a AI asistent komunikujú, AI agent vykonáva akcie v digitálnom svete.
Rozdiel medzi chatbotom, AI asistentom a AI agentom:
Chatbot odpovedá v dialógu na základe svojich všeobecných znalostí. Získa zadanie, napíše odpoveď.
AI asistent odpovedá v rámci špecializovanej roly a znalostnej bázy.
AI agent dostane cieľ a samostatne podniká kroky na jeho dosiahnutie. Pracuje v cykle cez mnoho krokov, výsledkom často nie je len odpoveď, ale aj vykonaná práca.
Príklad rozdielu na úlohe „chcem letieť do Ríma“ (napríklad):
Chatbot napíše všeobecné rady, aké aerolinky lietajú, kedy je sezóna.
AI asistent cestovnej kancelárie odporučí konkrétnu letenku z databázy partnera a poradí s ubytovaním.
AI agent sám prehľadá porovnávače, nájde najvýhodnejší let, vyberie hotel podľa preferencií, vyplní rezervačné formuláre, pripraví rezerváciu na zaplatenie a po potvrdení používateľom pridá udalosť do kalendára.
Kľúčové vlastnosti AI agenta:
- Plánovanie: rozloží zložitú úlohu na čiastkové kroky a rozhodne, v akom poradí ich vykonať.
- Používanie nástrojov: dokáže ovládať prehliadač, čítať a písať súbory, posielať správy, volať API, spúšťať kód.
- Slučka myslenia – konania – pozorovania (v odbornej literatúre označovaná ako ReAct loop): agent premýšľa, čo urobiť, vykoná akciu, vyhodnotí výsledok a podľa neho rozhodne, čo ďalej; keď narazí na chybu, hľadá alternatívu. Z tejto slučky vyplýva aj jeho autonómia, t. j. schopnosť pracovať samostatne bez zásahu používateľa, typicky v ráde minút, pri zložitejších úlohách aj dlhšie.
- Pamäť: pamätá si priebeh úlohy, doterajšie zistenia a kontext.
Pri AI agentoch sú riziká výraznejšie než pri bežných chatoch, pretože agent nielen hovorí, ale aj koná:
- Nevratné akcie: agent môže zmazať súbory, odoslať e-mail alebo vykonať platbu, ktorú už nie je možné vrátiť.
- Prompt injection: škodlivé inštrukcie ukryté vo webovej stránke, dokumente alebo e-maile, na ktorý agent narazí, ho môžu prinútiť konať proti záujmu používateľa (napríklad odoslať dáta útočníkovi).
- Chyby v reťazci krokov: drobná chyba na začiatku sa v autonómnom behu rozrastie a agent môže dlho pokračovat v nezmyselnej ceste.
- Halucinácie vedúce k akcii: na rozdiel od chatbota sa halucinácie u agenta neprejavia len v texte, ale vo vykonanom kroku. Agent si „vymyslí“ neexistujúcu funkciu, súbor alebo kontakt a začne podľa tejto vymyslenej veci reálne konať.
- Bezpečnosť: agent môže mať prístup k e-mailu, platobným údajom, kalendáru.
AI agenti predstavujú ďalšiu úroveň autonómie umelej inteligencie a s ňou úmerne rastúce riziko. Súčasne otvárajú možnosti realizovať prácu, ktorá doteraz vyžadovala hodiny ľudskej práce, úplne autonómne pomocou AI.