AI Act: chatboti musí od srpna přiznat, že nejsou lidé

Chatbot na vašem webu odpovídá zákazníkům lidským jménem, píše hezky česky a snaží se působit co nejpřirozeněji. Přesně tohle už od 2. srpna 2026 nestačí. Nařízení Evropského parlamentu a Rady (EU) 2024/1689, známé jako AI Act, vstoupilo tento den do fáze, kdy jsou vymahatelná transparentnostní pravidla. Firmy, které nasazují interaktivní AI systémy nebo pomocí generativních nástrojů vytvářejí obsah pro veřejnost, musí přiznat barvu — a udělat to tak, aby si uživatel na první pohled uvědomil, s čím má co do činění.

Pravidla stojí na článku 50 AI Actu. Interaktivní AI systémy mají uživatele informovat, že komunikují s umělou inteligencí, pokud to není z okolností zřejmé. Povinnosti dopadají také na deepfakes, systémy rozpoznávání emocí, biometrickou kategorizaci a některé druhy generovaného či upraveného obsahu. Poskytovatelé generativních systémů navíc musí u syntetického obsahu zajistit v příslušných případech jeho strojovou rozpoznatelnost — tedy takové označení, které umí přečíst i jiný software, nejen člověk.

V praxi to znamená revizi zákaznických chatbotů, hlasových operátorů, automatizované komunikace, ale i marketingových kampaní, ve kterých vzniká vizuál nebo text pomocí AI. Přechodné období do 2. prosince 2026 se týká pouze některých povinností označování a detekce u systémů, které byly na trh uvedeny už před 2. srpnem 2026. Většina firem, které dnes AI nasazují nebo integrují, tak už žije v ostrém režimu.

David Strejc, AI architekt a zakladatel technologické společnosti Apertia, upozorňuje na paradox, který nová pravidla přinášejí: „Doteď se firmy u chatbotů soustředily hlavně na to, aby působili co nejvíc lidsky. Regulace přináší trochu opačný požadavek: uživatel má vědět, že na druhé straně není člověk. Technologicky je to většinou jednoduchá úprava. Složitější je vůbec zjistit, na kolika místech už dnes firma AI používá.“

To je jádro problému, který zejména u středních firem nikdo nechce slyšet. Generativní AI se během posledních dvou let dostala do marketingu, zákaznické podpory, HR, obchodu i interních analytických nástrojů. V řadě případů si ji jednotlivé týmy nebo zaměstnanci pořídili sami, bez schválení IT nebo právního oddělení. Firma tak nemá centrální evidenci a v okamžiku, kdy má splnit povinnost transparentnosti, netuší, kde všude ji vlastně musí splnit.

Kde končí povinné označení a začíná zbytečná paranoia

AI Act naštěstí není postavený tak, že by každý e-mail zkontrolovaný ChatGPT musel dostat viditelný disclaimer. Pravidla rozlišují různé situace. Poskytovatelé generativních systémů řeší strojově čitelné označení syntetického obsahu. Uživatelé — tedy firmy, které AI nasazují — mají povinnosti hlavně u deepfaků a u některých textů týkajících se věcí veřejného zájmu. I tam existují výjimky: pokud obsah prošel lidskou kontrolou nebo redakčním procesem a za jeho zveřejnění nese odpovědnost konkrétní osoba či subjekt, viditelné označení se nevyžaduje.

„AI Act podle mě nemá vést k tomu, že budeme internet zaplavovat větou ‚tento text vytvořila AI‘ pokaždé, když někdo použil ChatGPT ke korektuře,“ vysvětluje Strejc. „Smyslem je transparentnost tam, kde by člověk mohl být uveden v omyl – například když nepozná, že komunikuje se strojem, nebo když AI vytvoří obsah, který se tváří jako autentická fotografie, hlas nebo video.“

Rozlišovací test je tedy jednoduchý: pokud může průměrný uživatel nabýt dojmu, že mluví s člověkem nebo že vidí autentický záznam reality, musí dostat jasný signál, že tomu tak není. Marketingová fotografie zjevně stylizovaná do reklamní estetiky do této kategorie nespadá. Falešné video jednatele konkurence, generovaný „zákaznický“ hlasový nahrávkový testimonial nebo chatbot, který se představuje ženským jménem a v malém písmu se nikde nepřizná, že je AI, ano.

Odklad, který není odkladem

Situaci zamotal Digital Omnibus on AI, publikovaný 24. července 2026 — tedy jen několik dní před datem účinnosti transparentnostních pravidel. Ten posunul klíčové povinnosti pro samostatné vysoce rizikové AI systémy uvedené v příloze III až na 2. prosince 2027. U vysoce rizikových systémů zabudovaných do regulovaných produktů podle přílohy I platí termín 2. srpna 2028. Řeč je typicky o AI využívané v zaměstnávání, vzdělávání, kritické infrastruktuře a dalších citlivých oblastech.

Právě tento posun zplodil v praxi dvě opačné mylné reakce. Část firem má pocit, že se AI Act jako celek odložil, a přestala se tématem zabývat. Jiní naopak předpokládají, že od srpna musí označovat prakticky všechno, co vzniklo s pomocí AI. Ani jedno není pravda.

„Největší omyl, který teď ve firmách vidíme, je věta: AI Act se odložil. Neodložil,“ říká Strejc. „Odložila se část povinností týkajících se vysoce rizikových systémů. Řada dalších pravidel už platí a firmy by měly především vědět, jakou AI vlastně používají, kde ji používají a zda se jich konkrétní povinnost týká.“

Odklad povinností pro high-risk systémy je navíc past pro velké organizace. Prosinec 2027 zní jako vzdálená budoucnost, ale ve skutečnosti jsou to jen dvě rozpočtová období a jeden až dva větší IT projekty. Pokud firma zjistí až na podzim 2027, že provozuje AI systém spadající pod přílohu III, začíná pozdě. Čas, který Brusel dal navíc, se má využít na inventuru, dokumentaci a nastavení odpovědností — ne k tomu, že se téma odsune na jindy.

Inventura AI je první krok, nikoli compliance projekt za miliony

Firmy, které dnes tápou, obvykle nepotřebují okamžitě rozjet formální compliance program. Podle Apertie je logickým prvním krokem přehled — vědět, co vlastně ve firmě běží. Konkrétně zmapovat:

• jaké AI systémy a modely firma používá,
• které z nich komunikují přímo se zákazníky nebo zaměstnanci,
• kde pomocí AI vzniká veřejně publikovaný obsah,
• která řešení rozhodují nebo doporučují v citlivých oblastech,
• kdo za jednotlivé systémy odpovídá,
• jaká data do nich vstupují a kam jsou předávána,
• zda firma používá vlastní řešení, nebo službu externího dodavatele.

Bez tohoto přehledu není možné rozumně posoudit, které povinnosti vůbec padají na vaši firmu, a která rizika je třeba řešit přednostně. Zároveň je to podklad, který za rok, dva bude potřebovat i každý dodavatel, pojišťovna a auditor — a v případě sporu i soud.

Pro klienty naší kanceláře z toho plyne velmi konkrétní zadání pro následující týdny. Projděte web a všechny kanály, kde komunikujete se zákazníky přes chatbota nebo hlasového asistenta, a doplňte srozumitelné oznámení, že jde o AI. Zrevidujte marketingové materiály generované AI — zejména cokoliv, co pracuje s tváří, hlasem nebo videem reálné osoby, i kdyby to byl váš vlastní jednatel. Zaveďte alespoň jednoduchou evidenci AI nástrojů používaných napříč odděleními a určete, kdo za ně odpovídá. Pokud provozujete AI, u které si nejste jistí, jestli nespadá pod přílohu III, ověřte to teď, ne v roce 2027. Sankce podle AI Actu jsou postavené na obratu a v milionových částkách nejsou hypotetické.

Zdroj: Advokátní deník, 7. 9. 2026, Ivana Cihlářová — „AI Act po 2. srpnu: povinnosti kolem chatbotů a AI obsahu už platí“; nařízení Evropského parlamentu a Rady (EU) 2024/1689; vyjádření Davida Strejce (Apertia).