Kódex správania pre AI: Dobrovoľný nástroj na zodpovedné využívanie umelej inteligencie v EÚ
Kódex správania pre AI: Dobrovoľný nástroj na zodpovedné využívanie umelej inteligencie v EÚ
Európska únia zaviedla v minulom roku komplexný právny rámec pre umelú inteligenciu, známy ako Akt o AI. Hlavným cieľom tohto rámca je podpora dôvery verejnosti a bezpečné a transparentné využívanie AI technológií v rámci EÚ. Osobitný dôraz je pritom kladený na tzv. všeobecné modely umelej inteligencie (GPAI). Ide o pokročilé modely ako jazykové alebo multimodálne generátory, ktoré sú využiteľné viacerými spôsobmi, v rôznych kontextoch alebo aplikáciách. Práve tieto modely si vzhľadom k svojej komplexnej povahe a širokej využiteľnosti vyžiadali osobitnú pozornosť z hľadiska regulácie, transparentnosti a bezpečnosti. Akt rozdeľuje tieto modely do dvoch kategórií. Prvú predstavujú všeobecné modely, ktoré musia spĺňať základné požiadavky, najmä v oblastiach transparentnosti a rešpektovania autorských práv. Druhú, náročnejšiu kategóriu, tvoria vysoko výkonné modely, ktoré môžu kvôli svojej povahe predstavovať systematické riziko a majú preto povinnosť deklarovať dodatočné opatrenia v oblasti hodnotenie rizík, monitorovania incidentov a iných zásadných otázkach kybernetickej bezpečnosti.
V nadväznosti na akt vznikol na pôde EÚ nový dobrovoľný nástroj v podobe Kódexu správania pre všeobecne použiteľné modely umelej inteligencie (General-Purpose AI Code of Practice). Nejde o nový záväzný predpis, ale o súbor odporúčaní a štandardizovaných postupov, ktoré pomáhajú subjektom plniť požiadavky vyplývajúce z aktu. Kódex tak ponúka predvídateľnosť, právnu istotu a zároveň uľahčuje orientáciu v komplexnom regulačnom prostredí. Relevantní aktéri môžu dobrovoľne tento nástroj využiť na pomoc pri plnení záväzkov a prejaviť tým európskym orgánom svoju ochotu spolupracovať na zaistení bezpečnejších a transparentnejších moderných technológií v EÚ.
Nový dobrovoľný kódex
Kódex bol pripravovaný od roku 2024 pod vedením Európskeho úradu pre umelú inteligenciu (AI Office) a 13 nezávislých odborníkov. Do tvorby boli taktiež zapojení zástupcovia veľkých aj malých technologických firiem, akademická obec, mimovládne organizácie, právnici, štátne orgány a držitelia autorských práv, celkovo z viac ako 1 000 relevantných subjektov. V rámci série workshopov a plenárnych stretnutí boli zhromaždené desiatky pripomienok a návrhov, ktoré výrazne ovplyvnili výslednú podobu dokumentu. Finálny návrh kódexu bol predložený 10. júla 2025 a následne bude posudzovaný členskými štátmi a Európskou komisiou. Pre úplnosť je vhodné doplniť, že regulácie Aktu o AI súvisiace s GPAI vstúpia do platnosti už 2. augusta 2025.
Obsahovo je kódex rozdelený do troch tematických kapitol. Prvá časť je venovaná transparentnosti a poskytuje rámec pre tzv. „Model Documentation Form“, teda formulár, prostredníctvom ktorého môžu vývojári jednoducho a zrozumiteľne zdokumentovať vlastnosti vyvíjaného modelu, jeho technické parametre, spôsob trénovania, použité dátové sety, ako aj plánované využitia daného modelu.
Druhá kapitola sa zameriava na dodržiavanie autorských práv, čo je pri trénovaní modelov na rozsiahlych zdrojoch dát mimoriadne citlivá téma. Kódex ponúka rámec pre politiku licencovania, rešpektovanie výnimiek na text a „data mining“ podľa európskeho práva a odporúča osvedčené postupy pre zabezpečenie legálneho prístupu k údajom.
Tretia kapitola je určená výlučne pre poskytovateľov najvýkonnejších modelov so systematickým rizikom a obsahuje 16 opatrení, ktoré majú zaistiť bezpečný vývoj, implementáciu a monitorovanie týchto modelov. Zahŕňajú hodnotenie rizík, plánovanie reakcie na incidenty, implementáciu kybernetických opatrení, interné testovanie a ďalšie mechanizmy, ktoré majú znížiť riziká spojené s nepredvídaným správaním a zneužívaním umelej inteligencie.
Perspektívny výhľad do budúcnosti
Kódex síce nie je právne záväzný, no po jeho oficiálnom schválení sa stane referenčným štandardom pre poskytovateľov GPAI modelov. Jeho využívaním môžu vývojári a poskytovatelia preukázať, že konajú v súlade s požiadavkami AI Act, a tým získať nielen právnu istotu, ale aj výhodu vo vzťahu k regulačným orgánom. Po schválení kódexu začne obdobie zvýšenej spolupráce medzi AI Office a jeho signatármi kódexu, pričom európske orgány budú pri dohľade zohľadňovať účasť subjektov na kódexe ako znak dobrej viery a ochoty spolupracovať.
Zároveň sa očakáva, že kódex bude aspoň každé dva roky aktualizovaný, aby reflektoval technologické zmeny, nové riziká či etické dilemy. Súčasťou sprievodnej dokumentácie je aj šablóna na sumarizáciu tréningových dát, ktorú vývojári môžu používať na štandardizované zverejňovanie informácií o dátových zdrojoch. Komisia zároveň pripravuje usmernenia, ktoré jasne definujú, čo sa považuje za GPAI model, aké sú znaky modelov so systematickým rizikom a kto je zodpovedný za ich vývoj a prevádzku.
Výhodou kódexu je najmä to, že ponúka praktický návod a konkrétne nástroje, ktoré zjednodušujú implementáciu komplexných pravidiel. Pomáha menším firmám zvládnuť legislatívne nároky bez nadmernej administratívnej záťaže a vytvára spoločnú európsku základňu pre transparentné a zodpovedné využívanie AI. Zároveň podporuje spoluprácu medzi verejným a súkromným sektorom pri tvorbe bezpečných a etických technológií. Kódex však čelí aj výzvam ako napríklad rapídna rýchlosť vývoja nových technológií alebo potrebe flexibilnej implementácie opatrení v rôznych odvetviach.
Kódex predstavuje významný krok k harmonizácii praxe v oblasti AI v rámci EÚ. Môže sa stať precedensom pre iné oblasti digitálnej regulácie a slúžiť ako vzor pre podobné iniciatívy na globálnej úrovni.
Viac informácií o kódexe nájdete na oficiálnych stránkach Európskej únie.
Odpoveď, prečo sú umelá inteligencia a regulácie tejto technológie dôležité aj pre Vás možno nájdete v krátkom videu nižšie.
Tag: EÚ ,umelá inteligencia