Café Evropa: Umělá inteligence – proč je nutné ji regulovat, a jaký dopad budou mít tyto regulace na evropské občany a podniky?

Hosté: Daniel Braun, zástupce vedoucí kabinetu místopředsedkyně Evropské komise Věry Jourové Jan Klesla, zmocněnec pro Evropská centra excelence v umělé inteligenci při Ministerstvu průmyslu a obchodu ČR Marcel Kolaja, místopředseda Evropského parlamentu, Česká pirátská strana, Zelení/ESA Alžběta Krausová, Ústav státu a práva, Akademie věd ČR Moderátor: Luboš Palata, Denik.cz Debata proběhla 9.prosince 2021 online formou. ----- Ačkoliv si je EU vědoma obrovských přínosů umělé inteligence v každodenním životě evropských občanů, její nynější nízká regulace by v budoucnu mohla způsobit nemalé problémy. Proto v rámci snah o posílení důvěryhodné umělé inteligence schválila v dubnu 2021 Evropská komise dlouho očekávané Nařízení o evropském přístupu k umělé inteligenci. Cílem nařízení je v občanech podpořit důvěru v umělou inteligenci prostřednictvím právního rámce a motivovat podniky k rozvoji a uplatňování těchto technologií, investic a inovací. Nařízení například dává do souvislosti plán na podporu excelence v oblasti umělé inteligence s prioritami Komise – Zelená dohoda pro Evropu a digitální transformace, Plán na podporu oživení Evropy. Dále kategorizuje umělou inteligenci podle rizik, které s sebou potenciálně nesou, do 4 kategorií. Nepřijatelná rizika zahrnují umělou inteligenci, která by mohla být hrozbou pro občany EU, a jejíž použití by mělo být zakázáno – např. social scoring. Vysokým rizikem jsou označovány technologie používané v kritické infrastruktuře, vzdělání či zdravotnictví, přičemž jejich použití by mělo být pečlivě posuzováno nejen před uvedením na trh, ale i po celou dobu jejich životního cyklu. Nástroje, které napodobují lidi, jako jsou například chatboti, spadají do omezených rizik. Tyto systémy by měly být v budoucnu více transparentní v informování uživatelů o své identitě. Poslední skupinou je umělá inteligence představující minimální rizika, do níž patří například videohry s prvky umělé inteligence nebo filtry proti spamu. Do této kategorie se řadí většina umělé inteligence, která představuje zanedbatelné nebo nulové riziko. Jaký vliv bude mít nařízení na vývoj budoucí umělé inteligence? Ovlivní nařízení již umělou inteligenci? Je nová právní regulace umělé inteligence v EU potřeba – nestačí již existující předpisy (Základní charta EU, GDPR)? Jak se k návrhu staví přední hráči na poli AI?