Brusel zakáže „svlékací“ aplikace. AI Act míří k finální dohodě

Fakta

• Evropský parlament a členské státy se shodly na zákazu „nudifier“ aplikací.
• Nová pravidla jsou součástí úprav evropského AI Actu.
• Zákaz se týká vytváření explicitního obsahu a uvádění systémů na trh bez ochrany.
• Opatření se vztahuje na fotografie, videa i audiozáznamy vytvořené AI.
• Firmy musí systémy přizpůsobit do 2. prosince 2026.
• Některé povinnosti pro vysoce rizikové AI systémy se odkládají do prosince 2027 a srpna 2028.
• Český tlak pomohl prosadit zmírnění některých regulací a odkladů.

Zákaz generování intimního obsahu pomocí AI

Evropská unie přitvrzuje v boji proti zneužívání umělé inteligence k vytváření falešných intimních fotografií a videí skutečných lidí. Zástupci Evropského parlamentu a členských států dospěli k politické dohodě o zákazu takzvaných „nudifier“ aplikací, které dokáží během několika sekund vygenerovat explicitní obsah. Tato opatření jsou součástí rozsáhlých úprav evropského zákona o umělé inteligenci, známého jako AI Act. Cílem je reagovat na rychlé šíření těchto technologií napříč internetem a sociálními sítěmi, které představuje vážné riziko pro soukromí a bezpečnost jednotlivců. Dohoda výslovně zmiňuje obsah zobrazující sexuální zneužívání dětí nebo materiály zachycující intimní partie či sexuálně explicitní aktivity identifikovatelných osob bez jejich souhlasu. Zákaz se bude vztahovat nejen na samotné používání těchto systémů, ale také na jejich uvádění na evropský trh bez adekvátních ochranných opatření.

Nové termíny pro implementaci AI Actu

Firmy, které vyvíjejí a provozují systémy umělé inteligence, budou muset své technologie přizpůsobit novým pravidlům nejpozději do 2. prosince 2026. Tento termín se týká především zákazu „nudifier“ aplikací a dalších opatření spojených s explicitním obsahem. Nicméně, některé povinnosti pro takzvané vysoce rizikové AI systémy, například ty využívané v biometrice, vzdělávání, zaměstnání, policii nebo při správě hranic, se odloží. Tyto systémy budou muset splňovat přísnější pravidla až od prosince 2027. U některých bezpečnostních komponent pak bude lhůta prodloužena až do srpna 2028. Součástí dohody je také odklad povinného označování obsahu vytvořeného umělou inteligencí pomocí takzvaného watermarkingu. Tyto odklady mají poskytnout firmám i regulačním orgánům více času na přípravu technických standardů a praktických pravidel pro složitější systémy.

Český vliv na finální podobu regulace

Česká iniciativa v Bruselu přinesla své ovoce. Díky tlaku ze strany České republiky a dalších zemí střední a východní Evropy došlo k prosazení zmírnění některých aspektů regulace umělé inteligence. Návrh, který prošel takzvanou tripartitou, se tak stane realitou. Jan Kavalírek, který působí jako AI ambasador pro střední a východní Evropu a je bývalým vládním zmocněncem pro umělou inteligenci, potvrdil politickou dohodu. „Tento týden na to upozornili také šéfové sedmi největších technologických firem Evropy včetně ASML, Mistralu, Ericssonu, SAPu nebo Nokie. Snahou tedy bylo alespoň prosadit odklad, aby se trh mohl na pravidla lépe připravit,“ uvedl Kavalírek. Dohoda přináší větší přehlednost a snížení administrativy v oblastech, kde se AI Act překrývá se stávající sektorovou legislativou. Dochází také ke zpřesnění definice bezpečnostní komponenty produktu s AI. Některé výhody původně určené pro malé a střední podniky (SME) se nyní rozšiřují i na malé střední podniky (small mid-caps).

Zjednodušení pro firmy a startupy

Nová úprava AI Actu má za cíl zjednodušit některé administrativní povinnosti pro firmy a startupy vyvíjející AI v Evropě. To by mělo podpořit inovace a konkurenceschopnost evropského technologického sektoru. Dochází ke zjednodušení registračního režimu pro systémy s vysokým rizikem, které nejsou klasifikovány jako vysoce rizikové. Také se usnadňují některé požadavky pro strojní zařízení s AI, které se přesouvají z části A do části B přílohy I. Finální text zákona bude nyní podroben finalizaci a následně zamíří do Evropského parlamentu a Rady EU. Podle odhadů může tento proces trvat přibližně dva měsíce, nicméně klíčová dohoda je již uzavřena.

Kontext aféry X a budoucí vývoj

Debata kolem nástrojů pro generování explicitního obsahu zesílila v posledních měsících v souvislosti s aférou kolem sociální sítě X miliardáře Elona Muska. Uživatelé tam prostřednictvím chatbota Grok vytvářeli sexualizované snímky žen i dětí bez jejich vědomí, což vedlo k několika vyšetřováním. Případ poukázal na naléhavou potřebu regulace v oblasti deepfakes a generativní AI. Evropská unie se tak snaží nastavit jasná pravidla, která by chránila jednotlivce před zneužitím jejich obrazu a dat. Odklad některých povinností pro vysoce rizikové systémy dává čas na přípravu technických standardů, ale zároveň zdůrazňuje komplexnost implementace takto rozsáhlé regulace. Budoucí vývoj bude záviset na tom, jak efektivně se podaří nová pravidla v praxi prosadit a jak rychle se budou technologie AI dále vyvíjet.

Shrnutí

• EU zakáže aplikace schopné generovat intimní obsah bez souhlasu osob.
• Nová pravidla AI Actu vstoupí v platnost postupně, s hlavními povinnostmi do konce roku 2026.
• Český vliv pomohl prosadit některé úlevy a odklady pro firmy a startupy.
• Regulace se zaměřuje na ochranu před zneužitím AI k vytváření falešného explicitního obsahu.
• Odložené povinnosti se týkají zejména vysoce rizikových AI systémů.
• Cílem je podpořit inovace a zároveň zajistit ochranu práv občanů v digitálním prostoru.