Od srpna AI ztratí anonymitu, regulace nejnebezpečnějších systémů se odkládá
Regulace umělé inteligence v Evropě se v neděli 2. srpna posune do své další fáze. Jde především o povinnost transparentnosti, tedy například pravidla pro označování obsahu generovaného nebo upravovaného pomocí nástrojů umělé inteligence (obraz, zvuk, video i text) či informování uživatele, že komunikuje s AI. Nejkomplexnější část regulace, týkající se vysoce rizikových AI systémů, se však odkládá: u systémů podle přílohy III na konec roku 2027 a u vysoce rizikových systémů souvisejících s regulovanými výrobky na srpen 2028.
„Letošní 2. srpen měl být původně v regulaci umělé inteligence pomyslným dnem D. Nakonec se však ukázalo, že tato problematika je natolik komplexní a složitá, že u některých částí je potřeba jejich odklad. Důvodem odkladu je především to, že zatím nejsou dostupné harmonizované normy, společné specifikace a alternativní pokyny, a opožděné ustavení národních příslušných orgánů. Tyto nástroje jsou přitom důležité pro právní jistotu a jednotnou aplikaci pravidel ve všech členských státech,“ říká Ondřej Mikula, zakládající partner v advokátní kanceláři Finref Partners. Odklad formálně zavedlo nařízení EU 2026/1744, označované jako Digital Omnibus on AI, které Rada EU schválila 29. června 2026 a které vstoupilo v platnost 27. července 2026. Odklad se naopak nedotkl pravidel pro modely AI pro obecné účely (GPAI), mezi které patří i velké jazykové modely (LLM).
Evropský úřad pro umělou inteligenci (European AI Office) získává od 2. srpna 2026 pravomoc začít vymáhat pravidla pro tzv. obecné modely umělé inteligence, která platí už od 2. srpna 2025. Jde například o doložení dostatečně podrobného souhrnu obsahu trénovacích dat modelu, dodržování autorských práv, nebo poskytnutí technické dokumentace modelu v podobě dat o jeho trénování, testování a výsledcích jeho hodnocení. „Poskytovatelé nejsilnějších frontier modelů, které jsou definované jako systémově rizikové, musí splnit ještě dodatečné povinnosti. Evropská komise může také ukládat pokuty poskytovatelům těchto modelů až do výše 15 milionů eur nebo do výše 3 % celosvětového ročního obratu, podle toho, která částka je vyšší,“ dodává Ondřej Mikula.
Odklad se dotkne především takzvaných vysoce rizikových systémů. U systémů klasifikovaných jako vysoce rizikové podle čl. 6 odst. 2 a přílohy III AI Actu se uplatňování příslušných povinností odkládá z 2. srpna 2026 na 2. prosince 2027. Pokud jde o vysoce rizikové systémy související s regulovanými výrobky podle čl. 6 odst. 1 a přílohy I AI Actu, odsouvá se jejich regulace z 2. srpna 2027 o rok na 2. srpna 2028. Jde o soubor povinností, jehož cílem je mimo jiné zajistit transparentnost rozhodování těchto systémů a účinný lidský dohled nad jejich používáním. Jeho součástí je tedy mimo jiné zaznamenávání logů o aktivitách těchto systémů, jasné informování o jejich využívání vůči všem subjektům, kterých se dotýkají (zaměstnanci, klienti, obchodní partneři apod.).
Jde například o AI systémy a aplikace, které c „Právě tato oblast se pravděpodobně dotýká nejvíce společností fungujících v Česku. Na trhu už existuje několik aplikací, které nabízejí vyhodnocování vhodnosti uchazečů za pomoci umělé inteligence. Velké korporace navíc mají často vlastní řešení vyvinutá na míru jejich potřebám,“ říká Ondřej Mikula.
Upozorňuje však, že využívání těchto systémů je už nyní omezeno řadou jiných předpisů, například GDPR. „Současná legislativa už dnes zásadně omezuje rozhodování o uchazeči, založené výhradně na automatizovaném zpracování, pokud má pro uchazeče právní nebo obdobně významné účinky. Zpravidla proto musí být do rozhodovacího procesu skutečně zapojen člověk. Pokud firmy využívají automatizované rozhodování v tomto smyslu, vztahují se na ně také zvláštní informační povinnosti vůči uchazečům,“ říká Ondřej Mikula.
Odklad nejpřísnějších pravidel pro vysoce rizikové systémy však podle Ondřeje Mikuly není důvodem pro odložení příprav: „Rozsah povinností, které budou muset společnosti plnit, není malý a není možné se na ně připravit v řádech týdnů nebo nižších jednotek měsíců. Přestože dosud nejsou k dispozici všechny harmonizované normy, společné specifikace a alternativní pokyny, mohou si firmy už nyní projít, jaké AI nástroje vlastně používají, kdo za ně odpovídá, jestli existují pravidla pro lidský dohled, kvalitní dokumentace jejich využití a informační povinnosti vůči dotčeným osobám,“ upozorňuje.
Finreg Partners je specializovaná advokátní kancelář zaměřená na finanční trhy a finanční technologie.