Riziková klasifikácia AI systémov

Nariadenie EÚ o umelej inteligencii rozdeľuje systémy do štyroch kategórií podľa toho, aké riziko predstavujú pre práva a bezpečnosť ľudí. Od zaradenia závisí, ktoré povinnosti sa na vás vzťahujú — a či váš systém vôbec smiete prevádzkovať.

Prečo AI Act používa rizikový prístup

Nariadenie (EÚ) 2024/1689, známe ako AI Act, nereguluje umelú inteligenciu ako jednu homogénnu technológiu. Namiesto plošných pravidiel zaviedol zákonodarca odstupňovaný prístup podľa miery rizika. Logika je jednoduchá: čím väčšmi môže systém ovplyvniť zdravie, bezpečnosť alebo základné práva človeka, tým prísnejšie povinnosti musí jeho poskytovateľ a prevádzkovateľ splniť.

Vďaka tomu sa regulačná záťaž sústreďuje tam, kde na nej naozaj záleží. Nástroj na filtrovanie nevyžiadanej pošty a systém, ktorý rozhoduje o poskytnutí úveru alebo o prijatí uchádzača do zamestnania, jednoducho nemôžu podliehať rovnakým pravidlám. Zaradenie do správnej kategórie je preto prvý a najdôležitejší krok celého posúdenia súladu — až z neho vyplýva, aké konkrétne povinnosti firiem vás čakajú a aké riziko pokút hrozí pri ich nedodržaní.

Klasifikácia nie je jednorazová administratívna formalita. Ten istý model sa môže v jednom použití správať ako neškodný pomocník a v inom zasahovať do citlivých rozhodnutí o ľuďoch. Rozhodujúce je preto vždy konkrétne určené použitie systému, nie samotná technológia.

Štyri kategórie rizika

AI Act pracuje so štyrmi úrovňami. Každá z nich znamená inú mieru dohľadu a iný rozsah povinností:

Zakázané praktiky (čl. 5)

Najvyššiu kategóriu tvoria praktiky, ktoré predstavujú neprijateľnú hrozbu pre dôstojnosť a slobodu človeka. Tieto systémy sa nesmú uvádzať na trh ani používať a zákazy platia od 2. februára 2025, najnovší (NCII/CSAM) od 27. júla 2026. Medzi zakázané praktiky patria najmä:

• Sociálne skórovanie osôb — hodnotenie ľudí podľa ich správania alebo osobných vlastností, ktoré vedie k neopodstatnenému znevýhodneniu.
• Podprahová a manipulatívna AI, ktorá zámerne obchádza vedomé rozhodovanie človeka a spôsobuje mu ujmu.
• Zneužívanie zraniteľnosti osôb podľa veku, zdravotného postihnutia alebo sociálnej a ekonomickej situácie s cieľom podstatne narušiť ich správanie.
• Rozpoznávanie emócií na pracovisku a v školách (s úzkymi výnimkami z medicínskych a bezpečnostných dôvodov).
• Biometrická kategorizácia podľa citlivých znakov, ako sú rasa, náboženská viera či sexuálna orientácia.
• Netargetované sťahovanie tvárí z internetu alebo kamerových záznamov na tvorbu databáz na rozpoznávanie tváre.
• Prediktívne policajné hodnotenie osôb založené výlučne na profilovaní alebo osobnostných črtách.
• Diaľková biometrická identifikácia v reálnom čase vo verejne prístupných priestoroch (s úzkymi výnimkami pre orgány presadzovania práva).
• Generovanie nekonsenzuálnych intímnych zobrazení osôb a materiálu zobrazujúceho sexuálne zneužívanie detí — vrátane nástrojov typu „nudify" aplikácií. Tento zákaz doplnilo nariadenie (EÚ) 2026/1744 a platí od 27. júla 2026.

Vysoké riziko (Príloha III)

Vysokorizikové systémy sú povolené, ale iba za prísnych podmienok. Musia mať zavedený systém riadenia rizík, kvalitné a nezaujaté dáta, technickú dokumentáciu, ľudský dohľad a musia byť registrované. Príloha III vymenúva oblasti, ktoré sa štandardne považujú za vysokorizikové:

• Biometria a identifikácia osôb — systémy na diaľkovú biometrickú identifikáciu a kategorizáciu.
• Kritická infraštruktúra — riadenie a prevádzka dodávok energie, vody alebo dopravy.
• Vzdelávanie — prijímanie žiakov, hodnotenie a dohľad nad skúškami.
• Zamestnanie, HR a nábor — automatické triedenie životopisov a hodnotenie uchádzačov či zamestnancov.
• Prístup k základným službám — úverové a kreditné skórovanie, poistenie a rozhodovanie o sociálnych dávkach.
• Presadzovanie práva — nástroje polície a bezpečnostných orgánov.
• Migrácia a azyl — posudzovanie žiadostí a hraničná kontrola.
• Výkon spravodlivosti — podpora rozhodovania súdov a orgánov.

Obmedzené riziko (transparentnosť, čl. 50)

Do tejto kategórie patria systémy, ktoré priamo interagujú s ľuďmi alebo vytvárajú obsah. Nepredstavujú vážne riziko pre práva, no človek by mohol byť uvedený do omylu. Preto článok 50 ukladá povinnosti transparentnosti:

• Chatboty a hlasoví asistenti musia jasne informovať používateľa, že komunikuje s umelou inteligenciou, a nie s človekom.
• AI asistenti a generatívne nástroje musia svoj automatizovaný charakter zreteľne oznamovať.
• Deepfake a AI-generovaný obsah (obraz, zvuk, video či text) musí byť viditeľne alebo strojovo čitateľne označený ako umelo vytvorený.

Minimálne riziko

Do poslednej kategórie spadá prevažná väčšina umelej inteligencie, ktorú firmy dnes bežne používajú. Tieto systémy nepredstavujú významné riziko a AI Act im neukladá nové špecifické povinnosti. Odporúča sa iba dobrovoľné dodržiavanie kódexov správania. Typické príklady:

• Spamové a antispamové filtre v e-mailových schránkach.
• Odporúčacie systémy produktov a obsahu v e-shopoch a na platformách.
• AI v počítačových hrách a v zábavných aplikáciách.
• Nástroje na optimalizáciu zásob, logistiky alebo interných procesov bez dosahu na rozhodovanie o ľuďoch.

Ako zistiť, do ktorej kategórie patrí váš systém

Zaradenie závisí od konkrétneho účelu, na ktorý systém používate, a od dosahu jeho výstupov na ľudí. Kľúčové otázky sú: rozhoduje systém o prístupe človeka k práci, službám alebo právam? Patrí niektorá z jeho funkcií do zoznamu zakázaných praktík? Interaguje priamo s používateľmi alebo generuje obsah? Odpovede vás nasmerujú do správnej úrovne.

Ak si nie ste istí, náš bezplatný nástroj vás prevedie posúdením krok za krokom a naznačí pravdepodobné zaradenie vášho systému. Po klasifikácii je namieste pozrieť sa na konkrétne povinnosti firiem, ktoré z nej vyplývajú, a na výšku pokút pri ich nedodržaní. Povinnosti pre samostatné vysokorizikové systémy podľa Prílohy III sa uplatňujú od 2. decembra 2027 — nariadenie (EÚ) 2026/1744 (Digital Omnibus on AI) ich posunulo z pôvodného termínu 2. august 2026. Povinnosti transparentnosti podľa článku 50 platia od 2. augusta 2026 bez odkladu.

Tento obsah má informatívny charakter a nepredstavuje právne poradenstvo. Záväzné znenie nájdete v nariadení (EÚ) 2024/1689. Pri konkrétnom posúdení súladu odporúčame konzultáciu s odborníkom.