Rizika umělé inteligence: praktická nebezpečí AI a jak je zvládnout

Rizika umělé inteligence se často popisují buď katastroficky, nebo se úplně přehlížejí. Pravda leží někde mezi. Nástroje jako ChatGPT, Claude nebo Microsoft Copilot dnes používají miliony lidí a jejich přínos je skutečný. Zároveň s sebou nesou konkrétní nebezpečí, se kterými se setkáte už zítra v kanceláři: chybné odpovědi, únik dat, podvodná videa nebo přílišnou důvěru ve stroj. V tomto článku projdeme praktická rizika, ukážeme, jak se jim bránit, a stručně zmíníme i dlouhodobější obavy, o kterých se vedou odborné debaty.

Praktická rizika umělé inteligence v každodenním používání

Začněme tím, co se reálně děje dnes. Následující rizika nejsou teoretická, potkávají je jednotlivci i firmy všech velikostí.

Halucinace a sebevědomé chyby

Jazykové modely generují pravděpodobný text, ne ověřená fakta. Proto si občas vymyslí zdroj, číslo, paragraf nebo citaci a podají je velmi přesvědčivě. Pokud takovou odpověď někdo převezme bez kontroly do nabídky, smlouvy nebo reportu, vzniká problém. Podrobněji se tématu věnuje článek co jsou halucinace AI. Když se ptáte, zda „AI klame“, často jde právě o tento jev: model nemá úmysl lhát, ale neumí spolehlivě rozlišit, co ví a co si domýšlí.

Únik dat a ochrana osobních údajů

Zaměstnanec vloží do veřejného chatbota smlouvu s klientem, tabulku se mzdami nebo zdrojový kód. Podle nastavení služby se data mohou ukládat, zpracovávat mimo EU nebo sloužit ke zlepšování modelu. U osobních údajů navíc vstupuje do hry GDPR. Jak k tomu přistupovat u firemních chatbotů, rozebírá článek AI chatbot a GDPR.

Předsudky a nespravedlivé výsledky

Modely se učí z dat, která vytvořili lidé, a s nimi přebírají i jejich zkreslení. V běžném psaní textů to bývá nepříjemnost, ale při třídění životopisů, hodnocení klientů nebo rozhodování o lidech může jít o diskriminaci. Proto by u takových úloh mělo vždy zůstat finální rozhodnutí na člověku.

Deepfaky a podvody

Generativní AI umí vytvořit věrohodný hlas, fotografii i video. Podvodníci toho využívají: falešný telefonát „ředitele“, který žádá urgentní platbu, podvržené video známé osobnosti propagující investici nebo dokonale napsaný phishingový e-mail bez pravopisných chyb. Jak takový obsah rozpoznat, ukazuje článek jak poznat deepfake, a obranné postupy shrnuje AI podvody: jak se bránit.

Přílišné spoléhání na AI

Méně viditelné, ale velmi časté riziko. Když AI napíše většinu textů a shrnutí, lidé přestávají kontrolovat detaily, ztrácejí přehled o vlastní práci a postupně i některé dovednosti. AI je výborný pomocník, ale odpovědnost za výsledek zůstává na člověku.

AI bezpečnost: prompt injection a útoky na systémy

S tím, jak AI dostává přístup k e-mailům, dokumentům a firemním systémům, roste význam AI bezpečnosti v technickém smyslu. Nejznámějším problémem je takzvaný prompt injection. Útočník schová pokyny do textu, který AI zpracovává, třeba do webové stránky, e-mailu nebo dokumentu. Model je pak může vykonat, jako by přišly od uživatele: prozradit obsah konverzace, odeslat data nebo provést akci, kterou nikdo nezamýšlel.

Riziko je největší u AI agentů, kteří samostatně procházejí web nebo pracují s nástroji. Rozumná opatření jsou:

• dávat AI jen taková oprávnění, která nutně potřebuje,
• u citlivých akcí (platby, odeslání e-mailu, mazání dat) vyžadovat potvrzení člověkem,
• oddělit důvěryhodné pokyny od obsahu z cizích zdrojů,
• logovat, co AI dělá, a pravidelně to kontrolovat.

Změny na trhu práce

AI mění náplň mnoha profesí, zejména tam, kde se hodně pracuje s textem, daty a rutinní komunikací. Některé úkoly zmizí, jiné vzniknou. Pro jednotlivce je hlavním rizikem nepřipravenost: kdo se s AI nenaučí pracovat, může být v nevýhodě oproti kolegům, kteří ji používají rozumně. Pro firmy je rizikem naopak zavádění bez plánu, kdy se od nástrojů čeká víc, než umí. Střízlivý pohled na to, co AI dnes zvládá a co ne, nabízí článek je AI chytřejší než člověk.

Dlouhodobá nebezpečí AI, o kterých se vedou debaty

Vedle praktických rizik se diskutuje i o vzdálenějších scénářích. Patří sem otázka, zda by budoucí výrazně schopnější systémy mohly jednat v rozporu se zájmy lidí, jak udržet nad nimi kontrolu, nebo jak zabránit zneužití AI například k vývoji zbraní či masivním dezinformačním kampaním. S tím souvisí i debata o takzvané obecné umělé inteligenci, kterou vysvětluje článek co je AGI.

Odborníci se v odhadech, jak vážná a jak blízká tato rizika jsou, výrazně rozcházejí. Někteří je považují za zásadní, jiní za přeceňovaná ve srovnání s dnešními problémy. Rozumný postoj je brát vážně obojí: řešit konkrétní rizika dneška a podporovat výzkum bezpečnosti a rozumnou regulaci do budoucna.

Hranice AI podle zákona: AI Act

Evropská unie reaguje na rizika umělé inteligence nařízením o AI, známým jako AI Act (nařízení 2024/1689). Jeho základem je přístup podle míry rizika:

• nepřijatelné riziko – zakázané praktiky, například manipulativní techniky nebo sociální skóre; zákazy platí od 2. února 2025,
• vysoké riziko – systémy v citlivých oblastech, jako je zaměstnávání, vzdělávání nebo přístup ke službám, s přísnými požadavky,
• omezené riziko – hlavně povinnosti transparentnosti, například informovat, že člověk komunikuje s AI, nebo označovat uměle vytvořený obsah,
• minimální riziko – běžné aplikace bez zvláštních povinností.

Firmy, které AI používají, mají také povinnost zajistit dostatečnou AI gramotnost svých lidí. Přehledně nařízení shrnuje článek co je AI Act.

Jak omezit rizika umělé inteligence ve firmě i doma

Většina rizik se dá zvládnout několika jednoduchými návyky:

1. Ověřujte fakta. Čísla, jména, citace a právní informace kontrolujte v nezávislém zdroji.
2. Nevkládejte citlivá data do neověřených nástrojů. Ve firmě používejte schválené nástroje s vhodným smluvním nastavením.
3. Sepište pravidla. Krátká interní směrnice určí, k čemu se AI smí používat, s jakými daty a kdo za výstupy odpovídá.
4. U důležitých rozhodnutí nechte poslední slovo člověku. Zvlášť když jde o lidi, peníze nebo zdraví.
5. Mějte ověřovací postup proti podvodům. Urgentní žádost o platbu vždy ověřte jiným kanálem.
6. Učte se. Kdo rozumí tomu, jak AI funguje, rozpozná její slabiny mnohem dřív.

Závěr

Rizika umělé inteligence jsou skutečná, ale většinou dobře zvládnutelná. Nejvíc škod dnes nezpůsobují sci-fi scénáře, ale obyčejné chyby: nekontrolovaná odpověď, citlivý soubor ve špatném nástroji nebo uvěřitelný podvodný hovor. Pomáhá znalost, jasná pravidla a zdravá skepse.

Pokud chcete ve firmě nastavit pravidla v souladu s AI Actem, podívejte se na školení AI Act. Pro jednotlivce je dobrým začátkem kurz umělé inteligence pro začátečníky a pro celé týmy firemní školení AI. Chcete probrat konkrétní situaci? Využijte AI konzultaci.