Legislativa v oblasti umělé inteligence: Co přinese rok 2025?

Právo
Umělá inteligence
Zveřejněno: 05.05.25
Umělá inteligence (AI) už dávno není futuristickou vizí. Stala se běžnou součástí každodenního života i podnikání. O to důležitější je, aby ji provázela jasná pravidla. Rok 2025 přináší několik důležitých legislativních změn, které by neměly uniknout pozornosti nejen právníků, ale i firem a jejich managementu.

Evropská regulace: AI Act v platnosti

Evropská unie jako první na světě schválila komplexní právní rámec pro regulaci umělé inteligence – tzv. AI Act, který vstoupil v platnost 1. srpna 2024. Cílem je zajistit, aby AI byla bezpečná, etická, transparentní a v souladu s lidskými právy.

AI Act rozděluje systémy umělé inteligence podle míry rizika do tří hlavních kategorií:

  • Zakázané AI – např. systémy pro manipulaci zranitelných osob, sociální skórování, rozpoznávání emocí zaměstnanců.
  • Vysoce rizikové AI – např. AI používaná v oblasti práva, zaměstnávání, zdravotnictví nebo řízení infrastruktury.
  • Nízkorizikové AI – u těchto systémů postačí minimální regulace, např. povinnost označit, že jde o obsah vytvořený umělou inteligencí.

Nová povinnost od února 2025: školení zaměstnanců

Od 2. února 2025 začíná platit důležitá novinka: povinnost pro firmy zajistit školení AI gramotnosti pro všechny zaměstnance, kteří mohou s umělou inteligencí přicházet do styku. Obsahem školení je mimo jiné:

  • správné používání AI systémů,
  • identifikace rizik a chybovosti,
  • ochrana osobních údajů,
  • odpovědnost za rozhodnutí učiněná za pomoci AI.

Zároveň dochází k zákazu některých AI praktik, jako je necílený sběr biometrických údajů, a zpřísňují se pravidla pro označování AI obsahu. To znamená, že např. texty, obrázky nebo videa vytvořené pomocí AI musí být srozumitelně označeny.

Mezinárodní úroveň: Úmluva o AI a lidských právech

Významným milníkem se stala také Úmluva Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu, přijatá v květnu 2024. Jde o první mezinárodní právně závazný dokument tohoto typu, přístupný i státům mimo EU.

Úmluva má za cíl zajistit, aby rozvoj a používání AI bylo v souladu s ochranou základních práv. Upozorňuje na rizika spojená s dezinformacemi, sledováním obyvatel, manipulací nebo diskriminací prostřednictvím algoritmických rozhodnutí.

Odpovědnost za AI systémy: nové směrnice EU

Evropská legislativa přináší také nové předpisy týkající se odpovědnosti za škody způsobené AI systémy:

  • Směrnice 2024/2853 o odpovědnosti za vadné výrobky – rozšiřuje definici „výrobku“ i na software a systémy AI a stanovuje odpovědnost nejen pro výrobce, ale také pro dovozce a distributory. Členské státy musí směrnici implementovat do října 2026.
  • Návrh směrnice o mimosmluvní odpovědnosti za škody způsobené AI – cílem bylo upravit důkazní břemeno a zpřístupnit poškozeným cestu k náhradě škody. V únoru 2025 byl však legislativní proces pozastaven a návrh bude pravděpodobně stažen, protože některé aspekty jsou již obsaženy v AI Actu.

Situace v České republice: dohledové orgány

V České republice není dohled nad umělou inteligencí aktuálně svěřen jen jednomu orgánu, ale spadá do kompetencí několika institucí v závislosti na oblasti využití AI. K hlavním orgánům, které jsou aktuálně zapojeny do regulace dohledu, patří zejména:

  • Ministerstvo průmyslu a obchodu – připravuje národní strategii a legislativní rámec.
  • Úřad pro ochranu osobních údajů (ÚOOÚ) – dohlíží na ochranu osobních údajů ve spojení s AI systémy.
  • Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) – řeší kybernetickou bezpečnost AI systémů, zejména u kritické infrastruktury.
  • Digitální informační agentura – koordinuje a podporuje zavádění AI systémů ve státních úřadech, institucích a službách ve snaze zajistit, aby jejich nasazení bylo bezpečné, etické a v souladu s legislativou.
  • Úřad pro technickou normalizaci, metrologii a státní zkušebnictví – bude mít roli při akreditaci a hodnocení souladu systémů AI s novými pravidly.
  • Ministerstvo práce a sociálních věcí – sleduje dopady AI na zaměstnanost, pracovní právo, automatizaci řízení lidských zdrojů a spolupracuje na ochraně proti algoritmické diskriminaci.
  • Ministerstvo vnitra – hraje roli zejména v kontextu bezpečnosti, vnitřního pořádku a ochrany obyvatelstva, veřejné správy a eGovernmentu a částečně i při tvorbě legislativy a regulací.

TIP: Zjistěte, proč je investice do AI zásadní pro to, aby firmy obstály v konkurenčním prostředí i do budoucna.

Co byste si měli pohlídat?

  • Věnujte pozornost kategorizaci AI systémů podle AI Actu a zjistěte, zda systémy, které Vaše firma nebo klient používá, nespadají mezi vysoce rizikové.
  • Pokud jste tak již neučinili, připravte se na povinnost školení zaměstnanců.
  • Ujistěte se, že ve firmě existují pravidla pro označování AI obsahu a pro nakládání s osobními údaji, které AI zpracovává.
  • Sledujte vývoj v oblasti odpovědnosti. I když byl návrh směrnice o mimosmluvní odpovědnosti pozastaven, diskuse nad odpovědností za AI rozhodnutí dál pokračuje.

Průvodce podnikáním

Provedeme Vás světem podnikání – od prvních kroků až po úspěšný růst. Objevte tipy a nástroje pro každou fázi podnikání.

Plánování podnikání

Zvažujete podnikání, ale nevíte, kde začít? Pomůžeme Vám s definováním nápadu, posouzením trhu a přípravou prvních kroků k úspěšnému startu.

Rozjezd podnikání

Zjistěte, jak si zajistit stabilní cash flow, přilákat první zákazníky a vyhnout se nejčastějším chybám začínajících podnikatelů.

Růst podnikání

Chcete podpořit svůj růst? Poznejte užitečné strategie pro automatizaci, inovace, digitalizaci či expanzi na nové trhy.
Tady se nachází W2C portlet

Jedna apka,
celá banka

S mobilní aplikací Smart Banka máte celou banku v kapse. Obsahuje přes 200 funkcí, 41 produktů a najdete v ní všechny výhodné nabídky. I proto je nejoceňovanější bankovní apkou na trhu.
logo - Moneta

Smart Banka je nejoceňovanější aplikací klienty i odbornou veřejností a je k dispozici na všech zařízeních iOS nebo Android.

hodnocení klienty 4,8/5 ocenění Zlatá koruna - novinka roku 2023 VISA logo