Rizikové systémy AI budou i v Česku pod dozorem

Česká vláda schválila Návrh implementace Aktu o umělé inteligenci (AI) v České republice. Jeho součástí je vytvoření klíčového nástroje pro rozvoj AI, tzv. regulatorního sandboxu a zavedení jasného právního rámce i mechanismu dozoru. Ten zajistí, aby vysoce rizikové systémy AI splňovaly všechny zákonné požadavky především na bezpečnost a etiku.

Klíčové role v implementaci Aktu o umělé inteligenci v ČR budou zastávat Ministerstvo průmyslu a obchodu ČR (MPO), Český telekomunikační úřad (ČTÚ), Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) a Česká agentura pro standardizaci (ČAS).

V rámci rozvoje a implementace umělé inteligence budou vznikat i systémy, které mohou být rizikové z hlediska bezpečnosti nebo etiky. Mezi vysoce rizikové systémy patří například biometrická identifikace, automatizované posuzování žádostí o víza, software pro třídění životopisů při přijímacích řízeních, aplikace AI v roboticky podporované chirurgii atd.

Tyto systémy budou muset podstoupit certifikaci, aby bylo ověřeno, že splňují všechny zákonné požadavky. Tzv. „posuzování shody“ provedou nezávislé organizace, které zkontrolují, zda systémy AI vyhovují zákonným podmínkám. Tyto organizace, odborně nazývané subjekty posuzování shody, budou dohlížet například na transparentnost, přesnost a kybernetickou bezpečnost vysoce rizikových systémů AI.

O tom, zda je subjekt posuzování shody dostatečně kvalifikovaný a kompetentní k udělování AI certifikací, rozhodne tzv. oznamující orgán. Tím se v ČR stane ÚNMZ, který bude nad subjekty posuzování shody vykonávat dozor a registrovat je (oznamovat) příslušným orgánům Evropské komise. 

ÚNMZ jako oznamující orgán nebude provádět certifikace ani poskytovat žádné činnosti, které provádějí subjekty posuzování shody. Nebude ani poskytovat poradenské služby na komerčním nebo konkurenčním základě. „Naším cílem je vytvořit v České republice transparentní a kvalitní prostředí, které umožní, aby jen důvěryhodné a kompetentní subjekty mohly provádět certifikace systémů AI podle pravidel evropského aktu o umělé inteligenci,“ říká Jiří Kratochvíl, předseda ÚNMZ.

Rozvoj AI zajistí sandbox pod dohledem ČAS

Regulatorní sandbox, za jehož vytvoření odpovídá Česká agentura pro standardizaci, je klíčovým nástrojem pro rozvoj AI. „Umožní podnikům a výzkumníkům testovat inovativní řešení AI, jako jsou autonomní systémy či pokročilé analytické nástroje, v kontrolovaném prostředí pod dohledem regulátorů,“ říká Zdeněk Veselý, generální ředitel ČAS. „Tento přístup urychlí vývoj nových technologií, zajistí jejich shodu s AI Aktem a minimalizuje rizika před uvedením na trh. Hodně si od AI slibujeme právě v odvětvích, kde máme dlouhodobou tradici, know-how a zkušené lidi. Jako příklad uvedu implementaci a rozvoj AI v automobilovém průmyslu.“

Sandbox (také „pískoviště“) je v informatice termín pro izolované a omezené prostředí, ve kterém se spouštějí programy, které by mohly být potenciálně škodlivé. Primárně slouží k testování a zkoumání softwaru nebo kódu, aniž by ohrožoval hlavní systém. Sandbox poskytuje procesům, které v něm běží, omezený přístup ke zdrojům hostitelského počítače.

Česká agentura pro standardizaci chce při výstavbě a provozu regulatorního sandboxu úzce spolupracovat s odbornou veřejností a soukromým sektorem. Z tohoto důvodu navázala spolupráci s Českou asociací umělé inteligence a uzavřela s ní Memorandum o spolupráci, jehož hlavním záměrem je podpora výzkumu, vývoje a testování systémů AI, zejména prostřednictvím regulatorního sandboxu. 

„Schválení implementačního plánu českou vládou je naprosto zásadní krok pro rozvoj umělé inteligence v ČR. Jsme připraveni spolupracovat se státními orgány a těšíme se na naplnění Memoranda o spolupráci s ČAS, které podpoří vznik a fungování regulatorního sandboxu,“ řekl Lukáš Benzl, ředitel České asociace umělé inteligence. „Aby EU a Česká republika mohly konkurovat v AI Číně nebo USA, musí dobře fungovat spolupráce mezi veřejnou sférou a privátním sektorem. Pružná a rychlá výměna poznatků i know-how je nezbytná a my k tomu budeme s naší členskou základnou v rámci plnění memoranda rádi přispívat.“

Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ) byl zřízen zákonem České národní rady č. 20/1993 Sb.  o zabezpečení výkonu státní správy v oblasti technické normalizace, metrologie a státního zkušebnictví. ÚNMZ je organizační složkou státu v resortu Ministerstva průmyslu a obchodu ČR. 

Česká agentura pro standardizaci (ČAS) byla zřízena ÚNMZ podle zákona č. 265/2017 Sb. Od 1. 1. 2018 je pověřena vykonávat činnosti spojené se zabezpečováním tvorby, vydáváním, a distribucí českých technických norem.