Zodpovědná AI ve firmě: jak používat umělou inteligenci eticky

Zodpovědná AI ve firmě znamená používat umělou inteligenci tak, aby byla užitečná a zároveň neškodila zákazníkům, zaměstnancům ani pověsti firmy. Splnit zákonné povinnosti je nutný základ, ale zodpovědný přístup jde dál. Ptá se nejen „smíme to?“, ale i „je to správné, férové a vysvětlitelné?“. V anglicky mluvícím prostředí se pro tento přístup používá pojem responsible AI. V tomto článku projdeme hlavní principy – férovost, transparentnost, lidský dohled a ochranu dat – a ukážeme, jak je převést do praktických pravidel používání AI.

Upozornění: Tento článek není právní poradenství. Slouží jako obecná orientace. Konkrétní povinnosti vaší firmy konzultujte s právníkem.

Proč nestačí jen splnit zákon

Evropské nařízení o umělé inteligenci (AI Act) stanoví pravidla podle míry rizika a od února 2025 například vyžaduje, aby firmy zajistily AI gramotnost lidí, kteří s AI pracují. Přehled regulace najdete v článku co je AI Act. Zákon ale nikdy nepokryje všechny situace. Většina běžného firemního využití AI spadá do kategorie minimálního rizika, pro kterou nařízení nestanoví zvláštní povinnosti. Přesto i tady může AI způsobit problém:

• marketingový text slibuje vlastnosti, které produkt nemá, protože si je AI „domyslela“,
• personalista nechá AI předtřídit životopisy a ta nevědomky znevýhodní určitou skupinu uchazečů,
• zaměstnanec vloží do veřejného nástroje smlouvu s osobními údaji klienta,
• zákazník se cítí podveden, když zjistí, že „osobní“ odpověď napsal stroj.

Zodpovědný přístup takovým situacím předchází a buduje důvěru, která se těžko získává zpět.

Principy, na kterých stojí zodpovědná AI ve firmě

Férovost a nediskriminace

AI modely se učí z dat, která mohou obsahovat zkreslení. Výsledkem pak mohou být výstupy, které nespravedlivě zvýhodňují nebo znevýhodňují určité skupiny lidí. Riziko je největší všude, kde AI ovlivňuje rozhodování o lidech: nábor, hodnocení výkonu, poskytování služeb nebo ceny. Zodpovědná firma v takových případech výstupy AI průběžně kontroluje, testuje na různých příkladech a rozhodnutí o lidech nenechává na AI samotné.

Transparentnost a vysvětlitelnost

Lidé by měli vědět, kdy komunikují s AI a kdy čtou obsah vytvořený AI. U chatbotů to vyžaduje i AI Act, zodpovědná firma ale může jít dál – například otevřeně popsat, k čemu AI používá, nebo dobrovolně označovat texty, kde AI hrála podstatnou roli. Transparentnost platí i dovnitř: zaměstnanci mají vědět, jak AI ovlivňuje procesy, které se jich týkají. Pokud AI přispívá k rozhodnutí, mělo by jít vysvětlit, na jakém základě.

Lidský dohled

AI je pomocník, ne rozhodčí. U důležitých výstupů – smlouvy, nabídky, odpovědi zákazníkům ve složitých případech, rozhodnutí o lidech – by měl mít poslední slovo člověk. Lidský dohled ale nesmí být formalita. Kdo výstupy kontroluje, potřebuje čas, znalosti a pravomoc říct „ne“. Pomáhá jednoduché pravidlo: čím větší dopad výstupu, tím důkladnější kontrola.

Ochrana dat a soukromí

Data, která do AI nástrojů vkládáme, mohou opustit firmu – zpracovávají se u poskytovatele, někdy mimo EU, a podle podmínek služby se mohou používat ke zlepšování modelů. Zodpovědný přístup proto znamená používat firemní verze nástrojů se smluvně ošetřeným zpracováním, nevkládat osobní údaje a důvěrné informace bez potřeby a dodržovat GDPR. Jak tyto otázky řešit u zákaznického chatbota, popisuje článek AI chatbot a GDPR. Pro firmy s nejvyššími nároky může být řešením i AI běžící na vlastní infrastruktuře.

Bezpečnost a spolehlivost

AI systémy je potřeba chránit před zneužitím, například před pokusy „přemluvit“ chatbota k prozrazení interních informací. Patří sem i spolehlivost: testování před nasazením, sledování kvality a plán pro případ, že systém začne odpovídat chybně.

Odpovědnost

U každého AI nástroje a procesu by mělo být jasné, kdo za něj odpovídá. Věta „to udělala AI“ není omluva. Odpovědnost za výstup nese vždy člověk nebo firma, která ho použila.

Etické využití AI ve firmě v praxi

Principy jsou užitečné, jen když se promítnou do každodenní práce. Několik příkladů:

• Marketing: AI pomáhá s návrhy textů, ale fakta, čísla a sliby o produktu kontroluje člověk. Realistické AI fotografie se neprezentují jako skutečné.
• Zákaznická podpora: chatbot se představí jako AI asistent, citlivé případy předá člověku a neslibuje nic, co firma nemůže splnit.
• Personalistika: AI může pomoci s popisem pozice nebo souhrnem životopisu, ale o výběru uchazečů rozhodují lidé. Tato oblast navíc může spadat mezi vysoce rizikové podle AI Actu.
• Interní práce: zaměstnanci používají schválené nástroje, do kterých nevkládají osobní údaje klientů ani obchodní tajemství.

AI směrnice firmy: co by měla obsahovat

Nejpraktičtějším nástrojem zodpovědné AI je stručná interní směrnice. Nemusí být dlouhá – důležité je, aby ji lidé znali a dodržovali. Doporučený obsah:

1. Účel a rozsah – proč pravidla existují a na koho se vztahují.
2. Schválené nástroje – seznam nástrojů a verzí, které se smí používat, a postup pro schválení nového.
3. Data – co se do AI nesmí vkládat (osobní údaje, důvěrné informace, obchodní tajemství) a výjimky.
4. Kontrola výstupů – kdy a kým musí být výstup zkontrolován před použitím.
5. Transparentnost – kdy informovat zákazníky a jak označovat AI obsah.
6. Citlivé oblasti – kde AI nesmí rozhodovat sama (například o lidech).
7. Odpovědnost a kontakt – kdo pravidla spravuje a na koho se obrátit.
8. Vzdělávání – jak firma zajišťuje AI gramotnost a jak často pravidla aktualizuje.

Směrnici je dobré připravit společně se zástupci týmů, kteří AI používají. Pravidla napsaná „od stolu“ bez znalosti praxe se často obcházejí. Více o tom, co mají zaměstnanci znát, přináší článek co je AI gramotnost.

Jak poznat, že pravidla fungují

Napsat směrnici je snadnější než ji uvést do života. Že zodpovědná AI ve firmě opravdu funguje, poznáte podle několika signálů. Zaměstnanci vědí, které nástroje smí používat, a nemají potřebu obcházet pravidla přes soukromé účty. Když si nejsou jistí, mají se na koho obrátit a ptají se. Chyby, které AI udělala, se zachytí při kontrole dřív, než se dostanou k zákazníkovi, a firma z nich vyvodí poučení. A pravidla se mění podle zkušeností – nejsou to zaprášený dokument, ale živý návod. Pokud některý z těchto signálů chybí, je to dobrý podnět k úpravě pravidel nebo k dalšímu vzdělávání.

Jak začít

Pokud s tématem začínáte, postupujte po malých krocích: zmapujte, jaké AI nástroje se používají, sepište první verzi pravidel, proškolte lidi a po několika měsících pravidla podle zkušeností upravte. Zodpovědná AI není jednorázový projekt, ale součást firemní kultury. Pro firmy, které chtějí AI zavádět systematicky a v souladu s vlastní strategií, je vhodným dalším krokem kurz AI transformace firem.

Závěr

Zodpovědná AI ve firmě stojí na několika jednoduchých principech: férovost, transparentnost, lidský dohled, ochrana dat, bezpečnost a jasná odpovědnost. Zákon určuje minimum, ale důvěru zákazníků a zaměstnanců získává firma tím, jak se chová i tam, kde ji zákon nenutí.

Pokud chcete, aby váš tým znal povinnosti i dobré postupy, podívejte se na školení AI Act. S přípravou interních pravidel a výběrem vhodných nástrojů vám pomůže AI konzultace.