Článok

V predchádzajúcom článku sme si vysvetlili, čo všeobecne predstavuje systém umelej inteligencie v zmysle Nariadenia o umelej inteligencii (ďalej aj ako „AI Act“), ako aj základné kategórie subjektov a typológiu systémov, ktorú toto nariadenie rozlišuje. Množstvo praktických otázok však smeruje k jadru celej regulácie: ktoré systémy umelej inteligencie budú najviac dotknuté povinnosťami vyplývajúcimi z AI Actu a či práve ten konkrétny systém, s ktorým subjekt pracuje, spadá do tejto kategórie. V tomto článku sa preto zameriavame na tie AI systémy, ktoré si vyžadujú zavedenie spoločných európskych pravidiel, a to s cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, najmä v oblasti zdravia, bezpečnosti a základných práv.

Ide predovšetkým o tzv. vysokorizikové systémy umelej inteligencie, ktoré je možné uvádzať na trh EÚ alebo ich využívať len v prípade, že spĺňajú súbor povinných požiadaviek podľa AI Actu. Cieľom týchto požiadaviek je zabezpečiť, aby nepredstavovali neprijateľné riziká pre verejné záujmy uznané a chránené právom EÚ, a to najmä s prihliadnutím na Chartu základných práv Európskej únie, resp. nasledovné práva: 

• právo na ľudskú dôstojnosť, 
• rešpektovanie súkromného a rodinného života, 
• ochrana osobných údajov, 
• právo na informácie, 
• právo na vzdelanie, 
• ochrana spotrebiteľa. 

Ktoré AI systémy sa vlastne považujú za vysokorizikové? 

AI Act rozčleňuje vysokorizikové AI systémy do dvoch hlavných skupín, a to: 

Vysokorizikové systémy podľa článku 6 ods. AI Actu 

Ako vyplýva z ods. 1 článku 6 AI Actu, tak systém AI sa považuje za vysokorizikový, ak sú kumulatívne splnené nasledujúce podmienky: 

Systém AI je určený na používanie ako bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I, alebo je systém AI sám osobe takýmto výrobkom;  

a 

Výrobok, ktorého bezpečnostným komponentom podľa písmena a) je systém AI, alebo samotný systém AI ako výrobok sa musí podrobiť posúdeniu zhody treťou stranou s cieľom uviesť daný výrobok na trh alebo do prevádzky podľa harmonizačných právnych predpisov Únie uvedených v prílohe I.  

Inými slovami povedané, pokiaľ ide o systémy AI, ktoré sú bezpečnostnými komponentami výrobkov  alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných predpisov Únie uvedených v prílohe k tomuto nariadeniu, klasifikujú sa ako vysokorizikové, pokiaľ v prípade dotknutého výrobku vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie.

Medzi takého výrobky patria najmä: 

• Strojové zariadenia – Smernica EÚ a Rady 2006/42/ES; 
• Hračky – Smernica EÚ a Rady 2009/48/ES; 
• Rekreačné plavidlá a vodné skútre – Smernica EÚ a Rady 2013/53/EÚ; 
• Výťahy – Smernica EÚ a Rady 2014/33/EÚ; 
• Zariadenia do výbušného prostredia – Smernica EÚ a Rady 2014/34/EÚ; 
• Rádiové zariadenia – Smernica EÚ a Rady 2014/53/EÚ; 
• Tlakové zariadenia – Smernica EÚ a Rady 2014/68/EÚ; 
• Lanovkové zariadenia – Nariadenie EÚ a Rady 2016/424; 
• Osobné ochranné prostriedky – Nariadenie EÚ a Rady 2016/425; 
• Spotrebiče spaľujúce plynné palivá – Nariadenie EÚ a Rady 2016/426; 
• Zdravotnícke pomôcky – Nariadenie EÚ a Rady 2017/745; 
• Diagnostické zdravotnícke pomôcky in vitro – Nariadenie EÚ a Rady 2017/746; 
• Civilné letectvo – Nariadenie EÚ a Rady 300/2008; Nariadenie EÚ a Rady 2018/1139; 
• Dvoj alebo trojkolesové vozidlá a štvorkolky – Nariadenie EÚ a Rady 168/2013; 
• Poľnohospodárske a lesné vozidlá – Nariadenie EÚ a Rady 167/2013; 
• Námorné lode – Smernica EÚ a Rady 2014/90/EÚ; 
• Železničné systémy – Smernica EÚ a Rady 2016/797; 
• Motorové vozidlá a ich komponenty  - Nariadenie EÚ a Rady 2018/858; Nariadenie EÚ a Rady 2019/2144; 

Na druhej strane však ak aj je systém AI klasifikovaný ako vysokorizikový podľa AI Act, neznamená to automaticky, že aj celý výrobok, v ktorom je tento systém implementovaný, je automaticky považovaný za vysokorizikový podľa iných predpisov. Platí to najmä pre nariadenia (EÚ) 2017/745 a (EÚ) 2017/746, kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou. 

Vysokorizikové systémy uvedené v prílohe III AI Actu 

Podľa článku 6 ods. 2 AI Actu sa za vysokorizikové nepovažujú len systémy, ktoré sú bezpečnostnými komponentmi výrobkov alebo samotnými výrobkami. Vysokorizikové môžu byť aj iné systémy umelej inteligencie, ak sú uvedené v prílohe III AI Actu. 

Ide najmä o samostatné systémy AI, ak ich využitie v príslušnej oblasti môže výrazne ovplyvniť zdravie, bezpečnosť alebo základné práva osôb. Pri posudzovaní rizikovosti sa zohľadňuje závažnosť možnej ujmy, pravdepodobnosť jej výskytu a aj to, či sa systém využíva vo viacerých konkrétne vymedzených oblastiach, ktoré AI Act podrobne opisuje. 

Zaradenie systému medzi vysokorizikové je výsledkom metodiky a hodnotiacich kritérií, ktoré Európska komisia plánuje uplatňovať aj pri budúcich aktualizáciách zoznamu vysokorizikových systémov. Tieto zmeny bude možné vykonávať prostredníctvom tzv. delegovaných aktov, ktoré umožňujú flexibilne reagovať na rýchly vývoj technológií aj meniace sa spôsoby využitia umelej inteligencie v praxi. 

AI Act však v tomto smere ďalej ustanovuje, že ak sa aj AI systém nachádza v prílohe III, neznamená to automaticky, že sa považuje za vysokorizikový. Ak systém nepredstavuje významné riziko ujmy na zdraví, bezpečnosti alebo základných právach fyzických osôb – vrátane toho, že podstatným spôsobom neovplyvňuje výsledok rozhodovania – nepovažuje sa za vysokorizikový. Táto výnimka sa však neuplatňuje, ak systém vykonáva profilovanie fyzických osôb. 

V tejto súvislosti je dôležité zdôrazniť, že výpočet AI systémov uvedených v prílohe III nie je konečný. Európska komisia je oprávnená prostredníctvom delegovaných aktov túto prílohu meniť – dopĺňať alebo upravovať prípady použitia vysokorizikových systémov, ak sú splnené tieto dve podmienky: 

a) systémy AI sú určené na použitie v jednej z oblastí uvedených v prílohe III, 
b) systémy AI predstavujú riziko ujmy na zdraví, bezpečnosti alebo základných právach porovnateľné alebo väčšie ako systémy už uvedené v prílohe. 

Aby sa predišlo výkladovým nejasnostiam, AI Act ustanovuje povinnosť Európskej komisie a Európskej rady pre umelú inteligenciu vypracovať usmernenia. Tie majú obsahovať praktické príklady systémov AI, ktoré sú vysokorizikové, ako aj tých, ktoré do tejto kategórie nespadajú. 

Medzi oblasti, v ktorých sa samostatné systémy AI považujú za vysokorizikové, patria najmä: 

• Biometria – napr. diaľková identifikácia osôb, rozpoznávanie emócií, kategorizácia podľa citlivých atribútov. 
• Kritická infraštruktúra – systémy AI riadiace digitálnu infraštruktúru, dopravu, zásobovanie energiami. 
• Vzdelávanie a odborná príprava – systémy ovplyvňujúce prijatie, hodnotenie alebo monitorovanie študentov. 
• Zamestnanosť a pracovné vzťahy – nábor, výber, prideľovanie úloh, monitorovanie výkonnosti zamestnancov. 
• Základné verejné a súkromné služby – napr. hodnotenie oprávnenosti na dávky, úverová bonita, poistenie, tiesňové volania. 
• Presadzovanie práva – napr. predikcia kriminality, hodnotenie rizika recidívy, profilovanie osôb, analýza dôkazov. 
• Migrácia a hraničná kontrola – posudzovanie žiadostí o azyl, identifikácia osôb, hodnotenie rizík vstupu na územie EÚ. 
• Výkon spravodlivosti a demokracia – pomoc justícii pri rozhodovaní, systémy ovplyvňujúce výsledky volieb. 

Záver 

Hlavným predmetom regulačných povinností podľa AI Actu sú tzv. vysokorizikové systémy umelej inteligencie. Tie predstavujú technológie, ktorých využitie môže významne ovplyvniť verejné záujmy chránené právom Európskej únie, najmä v oblasti základných práv, zdravia a bezpečnosti. 

Na tieto systémy sa uplatňujú osobitné požiadavky z hľadiska transparentnosti, riadenia rizík, technickej dokumentácie, kybernetickej bezpečnosti a posudzovania zhody. Ich klasifikácia vychádza buď z ich integrácie do výrobkov regulovaných harmonizačnými právnymi predpismi EÚ (článok 6 ods. 1), alebo zo spoločensky citlivého použitia v oblastiach vymedzených v prílohe III (článok 6 ods. 2). 

Cieľom AI Actu je dosiahnuť rovnováhu medzi technologickým rozvojom a ochranou verejných záujmov, pričom dôraz sa kladie na zodpovednosť, spoľahlivosť a etické využitie umelej inteligencie. 

Právnej úprave umelej inteligencie a dopadom AI Actu na podnikateľské prostredie sa aktívne venujeme aj v rámci advokátskej kancelárie Hronček & Partners, s. r. o.. Poskytujeme komplexné právne poradenstvo v oblasti regulácie umelej inteligencie, vrátane posúdenia rizikovosti AI systémov, nastavenia interných procesov v súlade s AI Actom, ako aj školení a zvyšovania povedomia klientov o nadchádzajúcich povinnostiach. 

V prípade záujmu o odbornú konzultáciu alebo právnu pomoc s prípravou na účinnosť AI Actu nás neváhajte kontaktovať. Sme pripravení pomôcť vám zorientovať sa v komplexnom regulačnom prostredí a zabezpečiť súlad vašich technológií s aktuálnymi i budúcimi požiadavkami práva Európskej únie.