"Prvý právny rámec, ktorý určuje hranice pre bezpečné a etické využívanie umelej inteligencie."

Od 1. augusta 2024 začali platiť prvé povinnosti AI Actu. Toto nariadenie ovplyvní nielen technologický sektor, ale aj oblasť marketingu, reklamy, spracovania dát a automatizácie. V nasledujúcich riadkoch sa pozrieme na to, čo presne AI Act znamená, aké rizikové kategórie systémov zavádza a ako sa na túto zmenu pripraviť.

Čo je AI Act?

EU AI Act (plný názov: Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence) predstavuje právny rámec pre reguláciu AI v krajinách EÚ. Cieľom je zabezpečiť bezpečné a etické používanie AI, chániť základné práva občanov. Na rozdiel od doterajších odporúčaní či usmernení, ide o záväzné pravidlá, ktoré budú musieť dodržiavať všetky organizácie využívajúce AI v EÚ.

Rizikové úrovne AI podľa EU AI Act

• Neprijateľné riziko (zakázané): Tieto systémy sú v EÚ úplne zakázané: Systémy na hodnotenie občanov na základe správania alebo finančnej histórie Rozpoznávanie tvárí na verejných miestach bez výslovného súhlasu AI reklamy zamerané na deti alebo osoby s mentálnym postihnutím.

• Vysoké riziko (prísne regulované): Tieto systémy majú priamy dopad na základné práva a musia prejsť nezávislým posúdením: Automatizovaný výber uchádzačov o zamestnanie Posudzovanie úverovej bonity klientov AI nástroje na medicínsku diagnostiku Hodnotenie zákazníkov na základe správania, nákupov alebo interakcií.

• Obmedzené riziko (označenie AI interakcie): Tieto systémy nezasahujú priamo do práv, ale musia byť transparentne označené: Chatboty a virtuálni asistenti komunikujúci s používateľom Generovanie obrázkov, grafiky alebo videí Vytváranie realistických falošných videí alebo hlasov.

• Minimálne riziko (bez závažnej regulácie): Bežné AI nástroje, ktoré nepredstavujú zásadné riziko: Odporúčanie produktov v e-shopoch Automatizované preklady medzi jazykmi Gramatické a štylistické korektúry textov 

Na koho sa vzťahuje AI Act?

Nariadenie AI Act sa vzťahuje na všetky subjekty, ktoré vyvíjajú, uvádzajú na trh alebo používajú systémy umelej inteligencie v rámci EÚ. Týka sa teda nielen veľkých technologických spoločností, ale aj distribútorov, dovozcov a samotných používateľov AI – od bánk cez e-shopy až po verejné inštitúcie. Každá firma alebo organizácia, ktorá využíva AI v podnikaní či poskytovaní služieb, musí dodržiavať pravidlá AI Actu.

Čo to znamená pre firmy?

Od februára 2025 sa umelá inteligencia vo firmách stáva oblasťou s jasnými pravidlami a povinnosťami. Každá organizácia, ktorá AI využíva, bude musieť vedieť preukázať, že jej zamestnanci chápu, čo tieto nástroje robia, kde majú limity a aké riziká môžu priniesť. Bude potrebné zaviesť interné procesy, pravidelné školenia a dohľad nad tým, ako sa s AI pracuje.

AI Act zároveň zdôrazňuje tzv. AI gramotnosť – schopnosť nielen ovládať nástroje, ale aj rozumieť ich etickým a právnym hraniciam. Ak zamestnanci nedokážu tieto hranice rozpoznať, firma riskuje nielen právne postihy, ale aj reputačné škody a stratu dôvery zákazníkov.

Sankcie pri porušení AI Actu

Rovnako ako pri GDPR, aj AI Act počíta s prísnymi sankciami za nedodržiavanie pravidiel. V prípade najzávažnejších porušení, napríklad pri používaní zakázaných AI systémov s neprijateľným rizikom, môžu pokuty dosiahnuť až 35 miliónov eur alebo 7 % celosvetového ročného obratu firmy. Menej závažné porušenia, ako sú nedostatky v transparentnosti či nedodržanie povinností pri vysokorizikových systémoch, sú sankcionované nižšími, no stále významnými pokutami. Tento prístup má zabezpečiť, že firmy budú k využívaniu umelej inteligencie pristupovať zodpovedne a v súlade s európskymi pravidlami.

AI Act mení spôsob, akým sa na umelú inteligenciu pozeráme v Európe – z technológie, ktorú bolo možné využívať takmer bez obmedzení, sa stáva nástroj s jasnými pravidlami a zodpovednosťou. Aj keď môže pôsobiť prísne, jeho cieľom je vytvoriť prostredie, kde sa AI rozvíja bezpečne, eticky a dôveryhodne.

Mohlo by vás zaujímať