Legislativa v oblasti umělé inteligence: Co přinese rok 2025?

Evropská regulace: AI Act v platnosti

Evropská unie jako první na světě schválila komplexní právní rámec pro regulaci umělé inteligence – tzv. AI Act, který vstoupil v platnost 1. srpna 2024. Cílem je zajistit, aby AI byla bezpečná, etická, transparentní a v souladu s lidskými právy.

AI Act rozděluje systémy umělé inteligence podle míry rizika do tří hlavních kategorií:

• Zakázané AI – např. systémy pro manipulaci zranitelných osob, sociální skórování, rozpoznávání emocí zaměstnanců.
• Vysoce rizikové AI – např. AI používaná v oblasti práva, zaměstnávání, zdravotnictví nebo řízení infrastruktury.
• Nízkorizikové AI – u těchto systémů postačí minimální regulace, např. povinnost označit, že jde o obsah vytvořený umělou inteligencí.

Nová povinnost od února 2025: školení zaměstnanců

Od 2. února 2025 začíná platit důležitá novinka: povinnost pro firmy zajistit školení AI gramotnosti pro všechny zaměstnance, kteří mohou s umělou inteligencí přicházet do styku. Obsahem školení je mimo jiné:

• správné používání AI systémů,
• identifikace rizik a chybovosti,
• ochrana osobních údajů,
• odpovědnost za rozhodnutí učiněná za pomoci AI.

Zároveň dochází k zákazu některých AI praktik, jako je necílený sběr biometrických údajů, a zpřísňují se pravidla pro označování AI obsahu. To znamená, že např. texty, obrázky nebo videa vytvořené pomocí AI musí být srozumitelně označeny.

Mezinárodní úroveň: Úmluva o AI a lidských právech

Významným milníkem se stala také Úmluva Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu, přijatá v květnu 2024. Jde o první mezinárodní právně závazný dokument tohoto typu, přístupný i státům mimo EU.

Úmluva má za cíl zajistit, aby rozvoj a používání AI bylo v souladu s ochranou základních práv. Upozorňuje na rizika spojená s dezinformacemi, sledováním obyvatel, manipulací nebo diskriminací prostřednictvím algoritmických rozhodnutí.

Odpovědnost za AI systémy: nové směrnice EU

Evropská legislativa přináší také nové předpisy týkající se odpovědnosti za škody způsobené AI systémy:

• Směrnice 2024/2853 o odpovědnosti za vadné výrobky – rozšiřuje definici „výrobku“ i na software a systémy AI a stanovuje odpovědnost nejen pro výrobce, ale také pro dovozce a distributory. Členské státy musí směrnici implementovat do října 2026.
• Návrh směrnice o mimosmluvní odpovědnosti za škody způsobené AI – cílem bylo upravit důkazní břemeno a zpřístupnit poškozeným cestu k náhradě škody. V únoru 2025 byl však legislativní proces pozastaven a návrh bude pravděpodobně stažen, protože některé aspekty jsou již obsaženy v AI Actu.

Situace v České republice: dohledové orgány

V České republice není dohled nad umělou inteligencí aktuálně svěřen jen jednomu orgánu, ale spadá do kompetencí několika institucí v závislosti na oblasti využití AI. K hlavním orgánům, které jsou aktuálně zapojeny do regulace dohledu, patří zejména:

• Ministerstvo průmyslu a obchodu – připravuje národní strategii a legislativní rámec.
• Úřad pro ochranu osobních údajů (ÚOOÚ) – dohlíží na ochranu osobních údajů ve spojení s AI systémy.
• Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) – řeší kybernetickou bezpečnost AI systémů, zejména u kritické infrastruktury.
• Digitální informační agentura – koordinuje a podporuje zavádění AI systémů ve státních úřadech, institucích a službách ve snaze zajistit, aby jejich nasazení bylo bezpečné, etické a v souladu s legislativou.
• Úřad pro technickou normalizaci, metrologii a státní zkušebnictví – bude mít roli při akreditaci a hodnocení souladu systémů AI s novými pravidly.
• Ministerstvo práce a sociálních věcí – sleduje dopady AI na zaměstnanost, pracovní právo, automatizaci řízení lidských zdrojů a spolupracuje na ochraně proti algoritmické diskriminaci.
• Ministerstvo vnitra – hraje roli zejména v kontextu bezpečnosti, vnitřního pořádku a ochrany obyvatelstva, veřejné správy a eGovernmentu a částečně i při tvorbě legislativy a regulací.

Co byste si měli pohlídat?

• Věnujte pozornost kategorizaci AI systémů podle AI Actu a zjistěte, zda systémy, které Vaše firma nebo klient používá, nespadají mezi vysoce rizikové.
• Pokud jste tak již neučinili, připravte se na povinnost školení zaměstnanců.
• Ujistěte se, že ve firmě existují pravidla pro označování AI obsahu a pro nakládání s osobními údaji, které AI zpracovává.
• Sledujte vývoj v oblasti odpovědnosti. I když byl návrh směrnice o mimosmluvní odpovědnosti pozastaven, diskuse nad odpovědností za AI rozhodnutí dál pokračuje.