AI a kyberbezpečnosť
Online svet je už neoddeliteľnou súčasťou skutočného života. Ohrozenie v digitálnom prostredí však číha na kohokoľvek a s novými nástrojmi umelej inteligencie sa rozvíjajú tak zručnosti bežných používateľov, ako aj podvodníkov, ktorí na nich útočia. „AI nás presviedča o jednej pravde. Dôležité je vzdelanie,“ hovorí v ôsmej debate AI horizontov Petr Jirásek, tentoraz na tému AI a kyberbezpečnosť.
O debate
Debata prebehla 10. 2. 2025
Moderovala ju Klára Karimaghai
Odkaz na udalosť na Facebooku
Autorom článku je žurnalista Jiří Labanc
Rečníkmi boli
Lucie Kosová aktuálně působí ve sdružení CZ.NIC – Safer internet centru ČR, kde se věnuje koordinaci vnějších vztahů se státní a veřejnou správou, specializaci obsahu – kybernetické bezpečnosti a umělé inteligenci ve vzdělávání i lektorské činnosti. Předtím pracovala na ministerstvu vnitra ČR jako gestor prevence kybernetické kriminality a na Národním úřadu pro kybernetickou a informační bezpečnost. Má dlouholeté zkušenosti s prevencí rizikového chování v offline i online prostředí dětí i mladistvých, vzděláváním policistů, sociálních pedagogů, úředníků i pedagogů a s osvětou širší veřejnosti – rodičů i seniorů v oblasti kyberhygieny. Aktivně se podílela na tvorbě vzdělávacích materiálů, pořádání konferencí a odborných eventů. Spolupracuje s klíčovými partnery jakými je AI dětem a další, na iniciativách pro bezpečnost internetu, kyberprostoru i bezpečného
Petr Jirásek je poradce pro kybernetickou bezpečnost & IT,
bezpečnostní lídr, kybernetický evangelista, zakladatel České národní soutěže pro studenty v kybernetické bezpečnosti, místopředseda výkonného výboru EU ENISA ECSC a programový ředitel Centra kybernetické bezpečnosti, z.ú.
Autor a spoluautor či šéfredaktor mnoha publikací především z oblasti bezpečnosti a IT, např. Česko-anglický slovník kybernetické bezpečnosti, Kybernetická bezpečnost a obrana, Víceúrovňová bezpečnost, Příručka bezpečnostního manažera, Standard bezpečnostní konektivity pro školy, Kyberpohádky atd.
Ako AI zasahuje do bezpečnosti v digitálnom prostredí
„Časté riziko kyberpriestoru sa nachádza medzi klávesnicou a stoličkou,“ mieni na úvod diskusie Lucie Kosová z organizácie Safer Internet Centrum zo združenia CZ.NIC. „A pretože sme každý individuálny, nemožno odovzdať konkrétny návod, na čo si dať aktuálne v digitálnom prostredí najväčší pozor.“ Celý priestor navyše funguje na základe zložitých a nepriehľadných algoritmov, veľmi často však ľudia zabúdajú na faktor kritického myslenia. „Preto je dôležité kyberpriestor nevnímať povrchne, ale snažiť sa k nemu pristupovať s pokorou a obozretnosťou,“ hovorí Kosová s tým, že nemožno veriť všetkému, čo v ňom ľudia vidia a vnímajú. „Princíp nulovej dôvery v kyberpriestore sa týka predovšetkým staršej generácie, ktorá bola odjakživa zvyknutá predloženému obsahu dôverovať,“ dopĺňa Kosová.
Na úvod Lucie Kosovej nadväzuje Petr Jirásek, nezávislý poradca v oblastiach kyberbezpečnosti a IT. „Najslabším článkom sme skutočne my ľudia,“ hovorí. Na tomto tvrdení stavia päť najväčších hrozieb v oblasti kybernetickej bezpečnosti: nevedomosť, neinformovanosť, neznalosť, laxnosť a lenivosť. „Pokiaľ si nie sme vedomí, že vôbec existujú riziká spojené s digitálnym prostredím, ťažko môžeme pracovať na vybudovaní schopnosti bezpečne sa v internetovom svete pohybovať.“ Jirásek tak znovu pripomína dôležitosť kritického myslenia. Spoločnosť však podľa neho takisto nemôže existovať bez udržiavania dôvery. „Ak v spoločnosti nebude nastavená dôvera, na ničom sa nedohodne.“ Celoživotné vzdelávanie je podľa Jiráska prvotnou metódou pre prácu s rizikami a hrozbami v digitálnom prostredí.
Demokratizácia a používanie digitálnych technológií však môže do spoločnosti priniesť nerovnováhu. „Keď sme začali používať mobilné zariadenia a počítače, zabudli sme pri tejto zručnosti na vlastné soft skills, takzvanú kyberhygienu a návyky, ako s technológiami pracovať. Domnievam sa však, že nástup umelej inteligencie nám môže pomôcť túto stratu dohnať,“ myslí si Kosová.
Jirásek spomína aj kritické argumenty voči využitiu AI v kyberpriestore. „Pred zverejnením ChatGPT a podobných nástrojov sme zadali dopyt do vyhľadávača a získali sme nespočetné množstvo výsledkov a odpovedí, na základe ktorých sme sa mohli rozhodovať. Zrazu sme však skočili do toho, že ma nástroje umelej inteligencie presvedčia o jednej pravde. Jednoducho povedané – kto vyhľadávanej téme rozumie, pre toho je AI ohromným pomocníkom. Kto však téme nerozumie, môže dostať odpoveď, o ktorej ani nevie, že je nesprávna,“ vysvetľuje Jirásek.
Lucie Kosová k tomu dodáva, že nové technológie ľuďom umožňujú byť efektívnejšími a uľahčujú prácu. „Na druhej strane nás však podprahovo nútia k tomu, aby sme neboli takí dôslední a pozorní. Vyvstáva teda otázka, akým smerom sa bude profilovať naša aktívna pozornosť – teda či všetko prenecháme na jazykové modely a skôr či neskôr naša pozornosť začne upadať,“ hovorí.
Každú technológiu je možné zneužiť
Umelú inteligenciu môžu v oblasti kyberbezpečnosti využívať obrancovia aj útočníci. V prvom prípade môžu algoritmy AI analyzovať veľké množstvo dát, automatizovať kontrolu malvéru či phishingových útokov a pomáhať pri identifikácii zraniteľností softvéru a infraštruktúr. Kosová mieni, že až v posledných rokoch sa verejnosť začala zameriavať na tému ukladania svojich dát. „Myslím tým spôsoby, akými v online prostredí šírime naše dáta. Keď v súčasnosti chceme, aby na našich infraštruktúrach bežali nástroje AI, viac sa zaoberáme tematikou cloudov,“ hovorí Kosová.
A pretože je každá technológia zneužiteľná, AI pomáha útočiacim stranám automatizovať aj tvorbu spomínaného malvéru a ďalšieho zavádzajúceho či lživého obsahu. Navyše AI nástroje demokratizujú prístup ku škodlivým technikám aj úplným laikom. „Inými slovami, umelá inteligencia umožní podvodníkom rýchlo sa naučiť vytvárať škodlivý obsah,“ objasňuje Kosová. Typicky však obrancovia reagujú na útočníkov, ktorí sú so svojimi podvodnými technikami o krok vpred.
V minulých rokoch počet trestných činov v kyberpriestore strmo rástol, napríklad medzi rokmi 2021 a 2022 sa ich počet zdvojnásobil. Vlani však klesol o päť percent na 18 495. Stále je to obrovské číslo. Za jeho nepatrným poklesom stojí podľa vrchného riaditeľa vnútornej bezpečnosti Ministerstva vnútra Jana Paďourka zosilnenie prevencie aj vzdelávanie používateľov. Nutné je dodať, že ide o registrované činy, mnoho poškodených podvody kvôli strachu zo sekundárnej viktimizácie ani nenahlási. Podviesť možno v podstate kohokoľvek, ide iba o to, akým spôsobom to páchateľ urobí.
Prevenciou k ochrane však nie je strach a obava z podvodov. Najlepším krokom je požiadať o pomoc blízku osobu, ktorá sa v digitálnom prostredí pohybuje. Vnímať všetok obsah na internete ako podvod z nás urobí iba bojazlivých a konzervatívnych používateľov.
Digitálna negramotnosť
Kosová mieni, že staršia generácia, ktorá s modernými technológiami nevyrastala, vníma predel medzi online a offline svetom inak ako dnešní mladí ľudia. „Podľa toho tiež pristupujú napríklad k svojej digitálnej stope. Mladšia generácia je naopak mnohokrát obozretnejšia ako ich rodičia a starší ľudia. Nielenže so súčasnými technológiami vyrastala, ale súčasne má možnosť stretnúť sa s preventívnymi programami, či sa sami dostávajú do situácií, keď učia svojich rodičov a prarodičov pracovať v kyberpriestore.“ Dodáva však, že každú skupinu v digitálnom prostredí ohrozuje niečo iné.
To, že sa mladí ľudia lepšie orientujú v digitálnom prostredí pred hrozbami, však nutne neznamená väčšiu schopnosť pracovať so súčasnými technológiami – hoci je to spravidla predpokladom, a širší kontext je zložitejší. Nad generačnými rozdielmi v práci s digitálnymi technológiami sa minulý rok zameral newsletter Pod čarou, kde autor Matouš Hrdina hľadal príčiny rozpadajúceho sa významu spojenia „digitálni domorodci“. Stereotyp, že mladí ľudia sú v zaobchádzaní s modernou technikou schopnejší ako starší ľudia, sa totiž podľa neho v poslednej dekáde rozpadá a mladá generácia sa naopak potýka s digitálnou negramotnosťou.
Okrem zaostávajúceho IT vzdelávania na školách situáciu nezlepšujú ani predsudky o automatickom IT talente mladšej generácie, ktorá je potom vrhnutá do digitálnej divočiny. Príčiny možno hľadať aj v nahradení zložitejších rozhraní intuitívnym „swipovaním“ na dotykových displejoch. V neposlednom rade sa technológie pred svojimi používateľmi postupne uzatvárajú spôsobom, že do nich už nemožno nahliadať či ich modifikovať podľa svojich predstáv.
„Zatiaľ čo predtým na poli IT technológií dominovali práve otvorené systémy a platformy, postupom času začali dominovať tie uzavreté, ktorých dominanciu potvrdil rozmach smartfónov a sociálnych sietí. Ústredným argumentom bola práve používateľská jednoduchosť a bezpečnosť – kam nevleziete, tam nič nepokazíte, a prečo by ste to napokon robili, keď všetko funguje tak jednoducho a hladko,“ mieni v newsletteri Matouš Hrdina s tým, že výrobcovia sa snažia svojich používateľov dostať do uzavretých ekosystémov, ktoré nie sú kompatibilné s produktmi iných firiem.
„Používateľská jednoduchosť sa stala univerzálnym argumentom podporujúcim zatváranie technológií a často sa spomína aj tam, kde to zjavne nedáva zmysel. Keď šéf firmy Nvidia Jensen Huang nedávno vyhlásil, že dnešné deti sa už nemusia učiť programovať, pretože si môžu pomôcť AI nástrojmi (bežiacimi na čipoch od Nvidie), vyvolalo to búrlivú diskusiu, v ktorej však často zanikal najdôležitejší význam jeho nápadu – programátori budú pochopiteľne potrební neustále, ale čím viac ľudí sa bude spoliehať na pomoc AI asistentov, tým viac opäť porastie koncentrácia moci v rukách hŕstky znalcov chápajúcich skutočnú podstatu veci,“ dodáva Hrdina.
Budúcnosť kyberbezpečnosti v spojení s AI nie je možné presne odhadnúť. Obdobie rýchleho vývoja môže podľa Kosovej vystriedať stagnácia. Nebolo by to napokon prvýkrát, už v minulosti umelá inteligencia zažila svoje „zimy“. Jirásek však podotýka, že ruka v ruke pôjdu podnikateľské príležitosti a regulácia technológií. Vzdelávanie v oblastiach kyberbezpečnosti by sa podľa neho malo dostať do vzdelávacieho procesu. „Česká republika má v tejto oblasti čo ponúknuť, patríme k špičke,“ dodáva Jirásek.