·         Systémy umělé inteligence mají být důvěryhodné

·         Komise proto navrhla nová pravidla

·         Ta zakazují systémy považované za jasnou hrozbu, např.

-        sociální hodnocení

-        „mluvící“ hračky nabádající k nebezpečnému chování

·         A stanovují přísné požadavky na vysoce rizikové systémy, jako např.

-        systémy pro biometrickou identifikaci

-        kritickou infrastrukturu

-        softwary pro hodnocení zkoušek, úvěrů, životopisů apod.

·         Nová pravidla představují celosvětově nejvyšší standard

·         Součástí je koordinovaný plán ohledně investic, ve spolupráci s členskými státy

Evropa je připravena na digitální věk: Komise navrhuje nová pravidla a opatření, která pozvednou umělou inteligenci na nejvyšší úroveň a zvýší její důvěryhodnost

Komise dnes navrhla nová pravidla a opatření, díky nimž se má Evropa stát globálním centrem pro důvěryhodnou umělou inteligenci (UI). Historicky první právní rámec pro UI ve spojení s novým plánem koordinovaným s členskými státy zaručí občanům i podnikům bezpečnost a základní práva a zároveň posílí zavádění UI, investice a inovace v celé EU. Nová pravidla pro stroje, která upravují bezpečnostní předpisy, tento přístup rovněž zachovávají. Jejich cílem je zvýšit důvěru uživatelů v novou, různorodou generaci výrobků.

Margrethe Vestagerová, výkonná místopředsedkyně pro Evropu připravenou na digitální věk, k tomu uvedla: „Pokud jde o umělou inteligenci, je důvěra nutností, nikoli jen výhodou. Přijetím těchto přelomových pravidel udává EU směr vývoje nových celosvětových norem, které zajistí umělé inteligenci důvěryhodnost. Stanovením takových norem můžeme připravit půdu pro etickou technologii na celém světě a pomoci EU, aby si zachovala konkurenceschopnost. Naše pravidla, která jsou připravena na budoucí vývoj a vstřícná k inovacím, se použijí tam, kde je to nezbytně nutné: v případech, kdy jde o bezpečnost a základní práva občanů EU.“

Komisař pro vnitřní trh Thierry Breton dodal: „UI je prostředkem, nikoli cílem. Rozvíjí se již několik desetiletí, ale nyní dosáhla díky zvýšení výpočetního výkonu nových schopností. To nabízí obrovský potenciál v tak odlišných oblastech, jako je zdravotnictví, doprava, energetika, zemědělství, cestovní ruch nebo kybernetická bezpečnost. UI však přináší i řadu rizik. Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni z laboratoře až na trh, zajistit, aby UI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití.“ 

Díky novému nařízení o UI mohou mít Evropané důvěru v to, co může UI nabídnout. Přiměřená a flexibilní pravidla budou řešit specifická rizika, která systémy UI představují, a stanoví celosvětově nejvyšší standard. Koordinovaný plán nastiňuje nezbytné politické změny a investice na úrovni členských států, jež mají posílit vedoucí postavení Evropy ve vývoji udržitelné, bezpečné, inkluzivní a důvěryhodné UI zaměřené na člověka.

Evropský přístup k důvěryhodné UI

Nová pravidla se budou uplatňovat přímo a stejně ve všech členských státech na základě definice UI, která obstojí i v budoucnu. Vycházejí z přístupu založeného na rizicích:

Nepřijatelné riziko: Systémy UI považované za jasnou hrozbu pro bezpečnost, život a práva lidí budou zakázány. Patří sem systémy nebo aplikace UI, které manipulují s lidským chováním s cílem obejít svobodnou vůli uživatelů (např. hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování), a systémy, které umožňují vládám provádět tzv. „sociální hodnocení“.

Vysoké riziko: Mezi vysoce rizikové systémy UI patří technologie umělé inteligence používané v:

• kritické infrastruktuře (např. v dopravě), které by mohly ohrozit život a zdraví občanů,
• vzdělávání nebo odborné přípravě, které mohou určovat přístup občanů ke vzdělávání a jejich profesní směřování (např. hodnocení zkoušek),
• bezpečnostních součástech výrobků (např. aplikace UI v robotické chirurgii),
• zaměstnávání, řízení pracovníků a přístupu k samostatně výdělečné činnosti (např. software pro třídění životopisů v přijímacích řízeních),
• základních soukromých a veřejných službách (např. v úvěrovém hodnocení, které občanům znemožní získat půjčku),
• prosazování práva, které může zasahovat do základních lidských práv (např. ověřování spolehlivosti důkazů),
• řízení migrace, azylu a ochrany hranic (např. ověřování pravosti cestovních dokladů),
• výkonu spravedlnosti a demokratických procesech (např. uplatňování práva v konkrétních případech).

Vysoce rizikové systémy UI budou před uvedením na trh podléhat přísným požadavkům na:

• vhodné systémy hodnocení a zmírňování rizik,
• vysokou kvalitu datových souborů, které se do systému vkládají, aby se minimalizovala rizika a diskriminační výstupy,
• zaznamenávání činnosti k zajištění sledovatelnosti výsledků,
• podrobnou dokumentaci obsahující veškeré informace o systému a jeho účelu, které úřady potřebují k posouzení jeho souladu s požadavky,
• jasné a přiměřené informace pro uživatele,
• vhodná opatření zajišťující lidský dohled k minimalizaci rizika,
• vysokou úroveň spolehlivosti, bezpečnosti a přesnosti.

Za vysoce rizikové systémy, na které jsou kladeny přísné nároky, se považují zejména všechny systémy biometrické identifikace na dálku. Jejich přímé používání ve veřejně přístupných prostorách pro účely prosazování práva je zásadně zakázáno. Omezené výjimky jsou přísně definovány a regulovány (např. pokud je to nezbytně nutné k pátrání po pohřešovaném dítěti, k zabránění konkrétnímu a bezprostřednímu teroristickému ohrožení nebo k odhalení, nalezení, identifikaci nebo stíhání pachatele nebo podezřelého ze závažného trestného činu). Takové použití podléhá povolení soudního nebo jiného nezávislého orgánu a je omezeno přiměřenými lhůtami, zeměpisným rozsahem a databázemi, v nichž lze vyhledávat.

Omezené riziko, tj. systémy UI podléhající specifickým požadavkům na transparentnost: Při používání systémů UI, jako jsou chatboty, by si uživatelé měli být vědomi toho, že komunikují se strojem, aby se mohli informovaně rozhodnout, zda budou pokračovat, či nikoli.

Minimální riziko: Právní návrh umožňuje volné používání aplikací, jako jsou videohry založené na UI nebo spamové filtry. Do této kategorie spadá převážná většina systémů UI. Návrh nařízení zde nezasahuje, neboť tyto systémy UI představují pro práva či bezpečnost občanů pouze minimální nebo nulové riziko.

Pokud jde o řízení, Komise navrhuje, aby na nová pravidla, jejichž zavádění bude usnadňovat nově zřízená Evropská rada pro umělou inteligenci, dohlížely příslušné vnitrostátní orgány dozoru nad trhem. Ty by měly rovněž řídit vývoj norem UI. Kromě toho se navrhují dobrovolné kodexy chování pro UI, která není vysoce riziková, a tzv. „regulační pískoviště“, jež mají napomoci zavádění odpovědných inovací.

Evropský přístup k umělé inteligenci nejvyšší úrovně

Koordinace posílí vedoucí postavení Evropy v oblasti udržitelné, bezpečné, inkluzivní a důvěryhodné UI zaměřené na člověka. V zájmu zachování celosvětové konkurenceschopnosti je Komise odhodlána podporovat inovace ve vývoji a používání technologií UI ve všech odvětvích, a to ve všech členských státech.

K vytvoření dynamického prostředí vnitrostátních strategií a k financování partnerství veřejného a soukromého sektoru a výzkumných a inovačních sítí z prostředků EU přispěl koordinovaný plán v oblasti UI, který byl poprvé zveřejněn v roce 2018 s cílem vymezit opatření a nástroje financování vývoje a zavádění UI. Komplexní aktualizace koordinovaného plánu přináší konkrétní společné kroky, jež mají v rámci spolupráce zajistit, aby veškeré úsilí bylo v souladu s evropskou strategií pro umělou inteligenci a Zelenou dohodou pro Evropu, a zároveň zohlednit nové výzvy související s koronavirovou pandemií. Tato aktualizace přináší vizi, jak urychlit investice do umělé inteligence, jež může napomoci oživení. Má rovněž urychlit provádění vnitrostátních strategií v oblasti UI, odstranit roztříštěnost a řešit globální výzvy.

Aktualizovaný koordinovaný plán využije finanční prostředky přidělené prostřednictvím programů Digitální Evropa a Horizont Evropa, facility na podporu oživení a odolnosti, která má 20% cíl v oblasti digitálních výdajů, a programů politiky soudržnosti. Tyto prostředky budou vynaloženy za těmito účely:

• vytvářet příznivé podmínky pro vývoj a zavádění UI díky výměně poznatků o politikách, sdílení údajů a investicím do kritických výpočetních kapacit,
• podpořit UI nejvyšší úrovně „z laboratoře až na trh“ vytvářením partnerství veřejného a soukromého sektoru, budováním a mobilizací výzkumných, vývojových a inovačních kapacit a zpřístupňováním testovacích a experimentálních zařízení a center pro digitální inovace malým a středním podnikům a orgánům veřejné správy,
• zajišťovat, aby UI fungovala ve prospěch lidí a zlepšovala životní podmínky ve společnosti. Toho se dosáhne tím, že se bude vyvíjet a zavádět především důvěryhodná UI, budou se rozvíjet talenty a dovednosti podporou stáží a doktorandských a postdoktorandských studií v oblasti digitalizace, příslušné politiky budou zohledňovat otázku důvěry v UI a celosvětově se bude prosazovat evropská vize udržitelné a důvěryhodné UI,
• budovat strategické vedení v odvětvích a technologiích s velkým dopadem, včetně životního prostředí, a to zaměřením se na příspěvek UI v oblasti udržitelné výroby, zdraví (prostřednictvím rozšíření přeshraniční výměny informací), a také ve veřejném sektoru, v oblasti mobility, vnitřních věcí, zemědělství a robotiky.

Evropský přístup k novým strojním výrobkům

Mezi strojní výrobky patří široká škála výrobků pro běžné spotřebitele i profesionály, od robotů a sekaček na trávu přes 3D tiskárny a stavební stroje až po průmyslové výrobní linky. Směrnice o strojních zařízeních, která byla nahrazena novým nařízením o strojních výrobcích, definovala u těchto zařízení požadavky na ochranu zdraví a bezpečnost. Nové nařízení o strojních výrobcích zajišťuje, aby nová generace těchto zařízení zaručovala uživatelům a spotřebitelům bezpečnost, a podporuje inovace. Zatímco nařízení o UI se bude zabývat bezpečnostními riziky systémů UI, nové nařízení o strojních výrobcích zajistí celkové bezpečné začlenění systému UI do strojních zařízení. Podniky budou muset provést pouze jedno posouzení shody. 

Kromě toho bude nové nařízení o strojních výrobcích reagovat na potřeby trhu tím, že zajistí větší právní srozumitelnost stávajících ustanovení, sníží administrativní zátěž a náklady společností tím, že povolí digitální formáty dokumentace a upraví poplatky za posuzování shody pro malé a střední podniky, a zároveň zajistí soulad s legislativním rámcem EU pro výrobky.

Další postup

Evropský parlament a členské státy budou přijímat návrhy Komise týkající se evropského přístupu k umělé inteligenci a ke strojním výrobkům řádným legislativním postupem. Po přijetí budou nařízení přímo použitelná v celé EU. Souběžně s tím bude Komise pokračovat ve spolupráci s členskými státy na uskutečňování kroků oznámených v koordinovaném plánu.

Souvislosti

Komise již mnoho let usnadňuje a posiluje v EU spolupráci v oblasti UI s cílem zvýšit konkurenceschopnost a zajistit důvěru v UI, jež bude vycházet z hodnot EU. 

Po zveřejnění evropské strategie pro umělou inteligenci v roce 2018 a po rozsáhlých konzultacích se zúčastněnými stranami vypracovala odborná skupina na vysoké úrovni pro umělou inteligenci v roce 2019 pokyny pro zajištění důvěryhodnosti UI a v roce 2020 hodnotící seznam pro důvěryhodnou UI. Souběžně s tím byl v prosinci 2018 jako společný závazek s členskými státy zveřejněn první koordinovaný plán v oblasti UI.

Bílá kniha Komise o UI, která byla zveřejněna v roce 2020, představila jasnou vizi UI v Evropě: ekosystém nejvyšší úrovně založený na důvěře, který je základem dnešního návrhu. Veřejné konzultace k bílé knize o UI se účastnila široká škála subjektů z celého světa. K bílé knize byla připojena „Zpráva o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost“, která dochází k závěru, že stávající právní předpisy v oblasti bezpečnosti výrobků obsahují řadu nedostatků, které je třeba řešit zejména ve směrnici o strojních zařízeních.