Nariadenie o umelej inteligencii — nový regulačný rámec
Európska únia prijala historicky prvé komplexné nariadenie o umelej inteligencii — EU AI Act. Toto nariadenie prináša jednotný právny rámec pre vývoj, nasadzovanie a používanie systémov umelej inteligencie v celej EÚ a má priamy dopad aj na slovenské organizácie.
Klasifikácia AI systémov podľa rizika
AI Act zavádza prístup založený na riziku a rozdeľuje AI systémy do štyroch kategórií:
- Neprijateľné riziko — AI systémy, ktoré sú zakázané (napr. sociálne skórovanie, manipulatívne techniky)
- Vysoké riziko — AI systémy s prísnymi požiadavkami (napr. v oblasti kritickej infraštruktúry, vzdelávania, zamestnanosti, presadzovania práva)
- Obmedzené riziko — AI systémy s požiadavkami na transparentnosť (napr. chatboty, deepfakes)
- Minimálne riziko — AI systémy bez špecifických regulačných požiadaviek
Povinnosti pre high-risk AI systémy
Organizácie, ktoré vyvíjajú alebo nasadzujú vysokorizikové AI systémy, musia splniť rozsiahle požiadavky. Medzi najdôležitejšie patria systém riadenia rizík, riadenie dát a správa údajov, technická dokumentácia, transparentnosť a poskytovanie informácií používateľom, ľudský dohľad a presnosť, robustnosť a kybernetická bezpečnosť.
Vysokorizikové AI systémy musia prejsť posudzovaním zhody pred uvedením na trh a organizácie musia zaviesť systém monitorovania po uvedení na trh.
AI governance s Cyllium
Cyllium rozširuje svoje služby o oblasť AI governance a riadenia AI rizík. Pomáhame organizáciám identifikovať, ktoré AI systémy používajú alebo plánujú nasadiť, klasifikovať ich podľa rizikovej kategórie a implementovať potrebné opatrenia na dosiahnutie súladu s AI Act.
Naše služby zahŕňajú audit používaných AI systémov, GAP analýzu voči požiadavkám AI Act, návrh rámca AI governance a školenia pre manažment a zamestnancov. Kontaktujte nás pre viac informácií.