"Prvý právny rámec, ktorý určuje hranice pre bezpečné a etické využívanie umelej inteligencie."

V roku 2024 bolo Európskym parlamentom schválené prelomové nariadenie "AI Act", ktoré ako prvé na svete zavádza komplexnú legislatívu pre reguláciu umelej inteligencie. Toto nariadenie ovplyvní nielen technologický sektor, ale aj oblasť marketingu, reklamy, spracovania dát a automatizácie. V nasledujúcich riadkoch sa pozrieme na to, čo presne AI Act znamená, aké rizikové kategórie systémov zavádza a ako sa na túto zmenu pripraviť.

Čo je AI Act?

EU AI Act (plný názov: Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence) predstavuje právny rámec pre reguláciu AI v krajinách EÚ. Cieľom je zabezpečiť bezpečné a etické používanie AI, chániť základné práva občanov.

Na rozdiel od doterajších odporúčaní či usmernení, ide o záväzné pravidlá, ktoré budú musieť dodržiavať všetky organizácie využívajúce AI v EÚ.

Rizikové úrovne AI podľa EU AI Act

• 🟥 Neprijateľné riziko (zakázané) Tieto systémy sú v EÚ úplne zakázané: Systémy na hodnotenie občanov na základe správania alebo finančnej histórie Rozpoznávanie tvárí na verejných miestach bez výslovného súhlasu AI reklamy zamerané na deti alebo osoby s mentálnym postihnutím.

• 🟧 Vysoké riziko (prísne regulované) Tieto systémy majú priamy dopad na základné práva a musia prejsť nezávislým posúdením: Automatizovaný výber uchádzačov o zamestnanie Posudzovanie úverovej bonity klientov AI nástroje na medicínsku diagnostiku Hodnotenie zákazníkov na základe správania, nákupov alebo interakcií.

• 🟨 Obmedzené riziko (označenie AI interakcie) Tieto systémy nezasahujú priamo do práv, ale musia byť transparentne označené: Chatboty a virtuálni asistenti komunikujúci s používateľom Generovanie obrázkov, grafiky alebo videí Vytváranie realistických falošných videí alebo hlasov.

• 🟩 Minimálne riziko (bez závažnej regulácie) Bežné AI nástroje, ktoré nepredstavujú zásadné riziko: Odporúčanie produktov v e-shopoch Automatizované preklady medzi jazykmi Gramatické a štylistické korektúry textov 

Prečo je AI Act dôležitý?

Doteraz fungovala AI vo veľkej miere v prostredí bez jasne stanovených hraníc. To prinášalo nielen rýchly technologický rozvoj, ale aj riziká – od šírenia dezinformácií až po neetické využívanie dát. AI Act preto predstavuje vyvážený prístup:

• zabraňuje zneužívaniu technológií,

• posilňuje právnu istotu pre firmy,

• a zároveň podporuje inovácie v rámci jasne nastavených pravidiel.

Ako sa pripraviť na nové pravidlá?

Organizácie, ktoré využívajú AI, by mali už teraz podniknúť kroky na zosúladenie s legislatívou:

1. Identifikovať používané AI systémy a priradiť ich do rizikových kategórií.

2. Zabezpečiť transparentnosť – jasne informovať, keď ide o interakciu s AI.

3. Dodržiavať záznamovú a kontrolnú povinnosť, ak to kategória vyžaduje.

4. Vzdelávať zamestnancov, aby rozumeli obmedzeniam aj možnostiam umelej inteligencie.

5. Sledovať vývoj legislatívy, keďže AI Act bude postupne dopĺňaný o usmernenia a výkladové pravidlá.

AI Act mení spôsob, akým sa na umelú inteligenciu pozeráme v Európe – z technológie, ktorú bolo možné využívať takmer bez obmedzení, sa stáva nástroj s jasnými pravidlami a zodpovednosťou. Aj keď môže pôsobiť prísne, jeho cieľom je vytvoriť prostredie, kde sa AI rozvíja bezpečne, eticky a dôveryhodne.

Tí, ktorí sa na tieto zmeny pripravia včas, získajú nielen právnu istotu, ale aj konkurenčnú výhodu v budúcnosti.

Mohlo by vás zaujímať