Legislativa v oblasti umělé inteligence: Co přinese rok 2025?

Evropská regulace: AI Act v platnosti
Evropská unie jako první na světě schválila komplexní právní rámec pro regulaci umělé inteligence – tzv. AI Act, který vstoupil v platnost 1. srpna 2024. Cílem je zajistit, aby AI byla bezpečná, etická, transparentní a v souladu s lidskými právy.
AI Act rozděluje systémy umělé inteligence podle míry rizika do tří hlavních kategorií:
- Zakázané AI – např. systémy pro manipulaci zranitelných osob, sociální skórování, rozpoznávání emocí zaměstnanců.
- Vysoce rizikové AI – např. AI používaná v oblasti práva, zaměstnávání, zdravotnictví nebo řízení infrastruktury.
- Nízkorizikové AI – u těchto systémů postačí minimální regulace, např. povinnost označit, že jde o obsah vytvořený umělou inteligencí.
Nová povinnost od února 2025: školení zaměstnanců
Od 2. února 2025 začíná platit důležitá novinka: povinnost pro firmy zajistit školení AI gramotnosti pro všechny zaměstnance, kteří mohou s umělou inteligencí přicházet do styku. Obsahem školení je mimo jiné:
- správné používání AI systémů,
- identifikace rizik a chybovosti,
- ochrana osobních údajů,
- odpovědnost za rozhodnutí učiněná za pomoci AI.
Zároveň dochází k zákazu některých AI praktik, jako je necílený sběr biometrických údajů, a zpřísňují se pravidla pro označování AI obsahu. To znamená, že např. texty, obrázky nebo videa vytvořené pomocí AI musí být srozumitelně označeny.
Mezinárodní úroveň: Úmluva o AI a lidských právech
Významným milníkem se stala také Úmluva Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu, přijatá v květnu 2024. Jde o první mezinárodní právně závazný dokument tohoto typu, přístupný i státům mimo EU.
Úmluva má za cíl zajistit, aby rozvoj a používání AI bylo v souladu s ochranou základních práv. Upozorňuje na rizika spojená s dezinformacemi, sledováním obyvatel, manipulací nebo diskriminací prostřednictvím algoritmických rozhodnutí.
Odpovědnost za AI systémy: nové směrnice EU
Evropská legislativa přináší také nové předpisy týkající se odpovědnosti za škody způsobené AI systémy:
- Směrnice 2024/2853 o odpovědnosti za vadné výrobky – rozšiřuje definici „výrobku“ i na software a systémy AI a stanovuje odpovědnost nejen pro výrobce, ale také pro dovozce a distributory. Členské státy musí směrnici implementovat do října 2026.
- Návrh směrnice o mimosmluvní odpovědnosti za škody způsobené AI – cílem bylo upravit důkazní břemeno a zpřístupnit poškozeným cestu k náhradě škody. V únoru 2025 byl však legislativní proces pozastaven a návrh bude pravděpodobně stažen, protože některé aspekty jsou již obsaženy v AI Actu.
Situace v České republice: dohledové orgány
V České republice není dohled nad umělou inteligencí aktuálně svěřen jen jednomu orgánu, ale spadá do kompetencí několika institucí v závislosti na oblasti využití AI. K hlavním orgánům, které jsou aktuálně zapojeny do regulace dohledu, patří zejména:
- Ministerstvo průmyslu a obchodu – připravuje národní strategii a legislativní rámec.
- Úřad pro ochranu osobních údajů (ÚOOÚ) – dohlíží na ochranu osobních údajů ve spojení s AI systémy.
- Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) – řeší kybernetickou bezpečnost AI systémů, zejména u kritické infrastruktury.
- Digitální informační agentura – koordinuje a podporuje zavádění AI systémů ve státních úřadech, institucích a službách ve snaze zajistit, aby jejich nasazení bylo bezpečné, etické a v souladu s legislativou.
- Úřad pro technickou normalizaci, metrologii a státní zkušebnictví – bude mít roli při akreditaci a hodnocení souladu systémů AI s novými pravidly.
- Ministerstvo práce a sociálních věcí – sleduje dopady AI na zaměstnanost, pracovní právo, automatizaci řízení lidských zdrojů a spolupracuje na ochraně proti algoritmické diskriminaci.
- Ministerstvo vnitra – hraje roli zejména v kontextu bezpečnosti, vnitřního pořádku a ochrany obyvatelstva, veřejné správy a eGovernmentu a částečně i při tvorbě legislativy a regulací.
TIP: Zjistěte, proč je investice do AI zásadní pro to, aby firmy obstály v konkurenčním prostředí i do budoucna.
Co byste si měli pohlídat?
- Věnujte pozornost kategorizaci AI systémů podle AI Actu a zjistěte, zda systémy, které Vaše firma nebo klient používá, nespadají mezi vysoce rizikové.
- Pokud jste tak již neučinili, připravte se na povinnost školení zaměstnanců.
- Ujistěte se, že ve firmě existují pravidla pro označování AI obsahu a pro nakládání s osobními údaji, které AI zpracovává.
- Sledujte vývoj v oblasti odpovědnosti. I když byl návrh směrnice o mimosmluvní odpovědnosti pozastaven, diskuse nad odpovědností za AI rozhodnutí dál pokračuje.