AI ve veřejné správě: jak ji mohou úřady, města a obce využít bezpečně

AI ve veřejné správě je téma, které zajímá ministerstva, krajské úřady, ale i malé obce s několika zaměstnanci. Úředníci denně odpovídají na podobné dotazy občanů, zpracovávají formuláře, píší zápisy a dohledávají předpisy a interní postupy. Umělá inteligence může s touto agendou výrazně pomoci. Veřejná správa má ale oproti firmám vyšší nároky na ochranu dat, transparentnost a odpovědnost za rozhodnutí. V článku projdeme typické modelové scénáře podle procesů, doporučíme, čím začít, a vysvětlíme hlavní rizika včetně evropského AI Act.

Kde AI ve veřejné správě pomáhá: typické procesy

Následující scénáře jsou obecné a hodí se pro úřady různé velikosti. Vždy platí, že AI připravuje a pomáhá, rozhoduje člověk.

Dotazy občanů

Lidé se ptají na otevírací dobu, potřebné doklady, poplatky, termíny svozu odpadu nebo postup při vyřízení žádosti. Chatbot na webu úřadu nebo hlasový asistent na telefonu může odpovídat nepřetržitě na základě ověřených informací z webu a interních podkladů. Složitější dotazy předá příslušnému odboru. Důležité je, aby asistent odpovídal jen z oficiálních zdrojů a uměl říct „tohle nevím, přepojím vás“.

Zpracování dokumentů a podání

Velká část práce na úřadě je práce s dokumenty. AI může pomoci:

• roztřídit příchozí podání a e-maily podle agendy a odboru,
• zkontrolovat úplnost žádosti a upozornit na chybějící přílohu,
• vytáhnout údaje z formulářů do strukturované podoby,
• shrnout dlouhý dokument nebo připomínky k návrhu,
• připravit návrh odpovědi, který úředník upraví a podepíše.

Tomu se obecně říká automatizace byrokracie. Neznamená to ale, že by AI vyřizovala věci sama. Ušetří čas na rutině a úředník se může věnovat posouzení.

Interní znalostní báze

Na úřadech se nashromáždí obrovské množství směrnic, metodik, vzorů a výkladů. Nový zaměstnanec v nich hledá týdny. AI asistent nad interní znalostní bází umí odpovědět na otázku typu „jaký je postup při vyřizování žádosti o informace“ a odkázat na konkrétní dokument. Klíčové je, aby vždy uváděl zdroj, ze kterého odpověď čerpá, a úředník si ji mohl ověřit.

Texty pro občany a transparentnost

AI pomůže přepsat úřední text do srozumitelného jazyka, připravit článek do zpravodaje, shrnutí usnesení zastupitelstva nebo přehled rozpočtu pro veřejnost. Pomoci může i se zpřístupněním informací, například s návrhem jednodušší verze textu. Výstupy je ale nutné zkontrolovat, aby zjednodušení nezměnilo význam.

Zápisy a porady

Přepis a shrnutí jednání, seznam úkolů z porady nebo návrh zápisu ze schůze komise patří mezi rychlé a viditelné přínosy. I tady platí, že finální zápis schvaluje člověk.

Modelový příklad: malá obec a velký úřad

V obci s několika zaměstnanci může AI nejvíc pomoci starostovi a účetní s texty. Návrh článku do zpravodaje, srozumitelné shrnutí usnesení zastupitelstva pro web nebo odpovědi na časté dotazy o poplatcích a svozu odpadu. Všechno jsou to veřejné informace, takže riziko je malé a přínos rychle viditelný.

Na větším úřadě dává smysl spíš interní asistent nad metodikami a vzory, který zkrátí zaučení nových zaměstnanců, a pomoc s tříděním příchozí pošty. Tam už se pracuje s osobními údaji, a proto je nutná důkladná příprava: posouzení dopadu na ochranu osobních údajů, výběr infrastruktury a jasné určení, kdo za výstupy odpovídá.

Čím začít: AI pro města a obce krok za krokem

Pro menší obce i velké úřady se osvědčuje podobný postup:

1. Sepište pravidla používání AI. Které nástroje jsou povolené, k čemu a jaká data do nich nesmí.
2. Proškolte zaměstnance. AI Act ukládá organizacím, které AI používají, zajistit přiměřenou AI gramotnost svých lidí.
3. Vyberte první úlohu bez osobních údajů, například texty pro web, zpravodaj nebo shrnutí veřejných dokumentů.
4. Vyhodnoťte přínos a rizika a teprve pak přejděte k agendám, kde se pracuje s údaji občanů.
5. U citlivých agend zvolte vhodnou infrastrukturu, kde máte kontrolu nad tím, kde jsou data uložena a zpracována.

Inspiraci pro konkrétní scénáře najdete na stránce příklady využití AI.

Rizika, AI Act a ochrana dat ve státní správě

Vysoce rizikové systémy

Evropský AI Act zařazuje mezi vysoce rizikové systémy mimo jiné takové, které se používají k rozhodování o přístupu k základním veřejným službám a dávkám. Pro takové systémy platí přísné požadavky, například na řízení rizik, kvalitu dat, dokumentaci, lidský dohled a transparentnost. Pro praxi z toho plyne jednoduché pravidlo: AI může úředníkovi pomáhat s podklady, ale nemá samostatně rozhodovat o právech a povinnostech občanů. Podrobněji vysvětlujeme regulaci v článku co je AI Act.

Kde se zpracovávají data

Ochrana dat ve státní správě je zvlášť citlivá. Úřady pracují s osobními údaji, často i se zvláštními kategoriemi údajů, a s informacemi, které nesmí uniknout. U každého AI nástroje je potřeba vědět, kde se data zpracovávají, kdo k nim má přístup a zda se nepoužívají k trénování modelu. Bezpečnostní autority už v minulosti varovaly před používáním některých aplikací ve veřejné správě, zejména u nástrojů, které zpracovávají data mimo EU a pod jurisdikcí, která neposkytuje dostatečné záruky. Před nasazením jakéhokoli nástroje proto sledujte aktuální doporučení příslušných úřadů.

On-premise jako bezpečnější varianta

Tam, kde data nesmí opustit úřad, připadá v úvahu provoz jazykového modelu na vlastním hardwaru nebo v kontrolovaném prostředí. Takové řešení dává úřadu plnou kontrolu nad daty a přístupy. Jak to může vypadat, popisujeme na stránce AI server pro firmy, principy platí i pro veřejné instituce.

Chyby a odpovědnost

Jazykové modely mohou odpovědět nepřesně nebo si informaci domyslet. Na úřadě to může znamenat chybnou informaci o lhůtě nebo poplatku. Proto je nutné, aby AI odpovídala jen z ověřených zdrojů, uváděla odkaz na zdroj a aby občan věděl, že komunikuje s AI. Odpovědnost za správnost vždy nese úřad.

AI ve veřejné správě a důvěra občanů

Úspěch AI na úřadě nezávisí jen na technice, ale i na důvěře. Občané by měli vědět, kde úřad AI používá, k čemu a kdo za výsledky odpovídá. Jednoduchá informace na webu a možnost obrátit se vždy na člověka pomáhají předejít obavám. Transparentnost není jen povinnost, ale i nejlepší způsob, jak AI ve veřejné správě dlouhodobě udržet.

Závěr

AI ve veřejné správě může úředníkům ušetřit čas na rutinní agendě a občanům zrychlit vyřizování. Podmínkou jsou jasná pravidla, proškolení lidé, bezpečné zpracování dat a lidské rozhodování tam, kde jde o práva občanů. Pokud chcete zaměstnance připravit na povinnosti podle AI Act, podívejte se na školení AI Act. Pokud řešíte, jak provozovat AI bez odesílání dat mimo vaši kontrolu, domluvte si konzultaci k řešení AI server pro firmy.