Školení AI gramotnosti pro veřejnou správu: Bezpečné a odpovědné využívání umělé inteligence ve veřejné správě
Evropský akt o umělé inteligenci (AI Act) přináší jednotná pravidla pro využívání AI v EU a klade důraz na bezpečnou, důvěryhodnou, transparentní a nediskriminační umělou inteligenci pod lidským dohledem. Současně stanoví povinnost zajistit odpovídající úroveň AI gramotnosti osob, které AI systémy používají nebo se podílejí na jejich provozu.
Školení je určeno pro organizace veřejné správy, které chtějí umělou inteligenci využívat prakticky, bezpečně a v souladu s právními i interními pravidly. Účastníci se seznámí s tím, jak AI funguje, kde může veřejné správě pomoci, jaká rizika přináší a jak s jejími výstupy pracovat odpovědně.
Důraz je kladen na praktické používání AI v agendách veřejné správy i ve vnitřním chodu organizace: práce s texty, dokumenty, přepisy, překlady, prezentacemi, daty, chatboty a AI asistenty. Školení současně upozorňuje na limity AI, ochranu osobních údajů, autorské právo, transparentnost vůči občanům, lidský dohled a odpovědnost člověka za finální výstup.
AI může výrazně zefektivnit rutinní agendy, ale pouze tehdy, pokud je používána otevřeně, kontrolovaně a v souladu s pravidly. Cílem školení proto není AI zakazovat, ale naučit zaměstnance, jak ji využívat bezpečně, smysluplně a s vědomím odpovědnosti.
Osnova školení:
- AI v praxi veřejné správy: Co je AI a generativní AI, kde dnes pomáhá v agendách veřejné správy a jaké má limity.
- Rizika a odpovědné používání AI: Chybovost, halucinace, zkreslení, bias, manipulace, deepfaky, prompt injection a riziko nekritického přebírání výstupů.
- AI Act a dopady do veřejné správy: Povinnost AI gramotnosti, princip regulace podle rizika, role veřejné správy a základní milníky účinnosti.
- Rizikové kategorie AI systémů: Zakázané praktiky, vysoce rizikové systémy, omezené riziko a minimální riziko včetně praktických příkladů z veřejné správy.
- Transparentnost, lidský dohled a ochrana práv osob: Informování občanů a zaměstnanců, označování AI obsahu, pravidla pro chatboty a zachování odpovědnosti člověka.
- GDPR, autorské právo a bezpečná práce s daty: Co do AI nevkládat, kdy je nutný schválený režim, jak pracovat s osobními údaji, interními dokumenty a výstupy AI.
- Praktické využití AI a kvalitní zadávání úkolů: Tvorba textů, shrnutí, překlady, přepisy, prezentace, práce s tabulkami, chatboty a základy promptování.
- Checklist bezpečného využívání AI a interní pravidla: Praktická pravidla pro zaměstnance, doporučení pro organizaci, schvalování nástrojů, kontrola výstupů a řešení incidentů.
Přínosy školení pro účastníka:
Po absolvování školení účastník:
- rozumí tomu, co je (generativní) AI a jak ji smysluplně používat ve veřejné správě a kde naopak naráží na své limity,
- chápe, proč AI může vytvářet přesvědčivé, ale chybné výstupy, a umí rozpoznat typická rizika, jako jsou halucinace, zkreslení, manipulace, bias nebo smyšlené zdroje,
- ví, že AI je asistent, nikoli náhrada odborného úsudku, a dokáže s jejími výstupy pracovat jako s návrhem, který vyžaduje kontrolu,
- orientuje se v základních principech AI Actu, včetně rizikového přístupu a dokáže rozpoznat zakázané praktiky a včas jim zabránit,
- ví, kdy je nutné zajistit lidský dohled, transparentnost, vysvětlitelnost, auditní stopu nebo zapojení odpovědných rolí,
- ví, co do AI nástrojů nevkládat, zejména osobní údaje, citlivé informace, interní dokumenty, hesla, tokeny nebo bezpečnostní informace,
- rozumí základním pravidlům GDPR, autorského práva a bezpečné práce s daty při používání AI.
Účastníkům školení bude předán certifikát o absolvování kurzu a přehledný checklist bezpečného využívání AI.
Přínosy školení pro organizaci:
- Naplnění požadavku AI gramotnosti podle AI Actu,
- motivace zaměstnanců k využívání AI a zvýšení efektivity rutinních agend organizace,
- snížení právních, reputačních a bezpečnostních rizik při používání AI (včetně práce s osobními údaji),
- podpora kultury odpovědného, otevřeného a kontrolovaného využívání AI.
Kompletní návrh interní směrnice o využívání nástrojů umělé inteligence
Nabízíme kompletní zpracování interní směrnice pro používání AI na míru vaší organizaci tak, aby nastavila bezpečná, důvěryhodná, transparentní a nediskriminační pravidla využívání AI v praxi a zajistila soulad s AI Act (EU 2024/1689) i Nařízením GDPR.
Směrnice jasně vymezí působnost, odpovědnosti a role, pravidla lidského dohledu, kontrolu výstupů, kritéria pro výběr a nákup nástrojů, zásady pro vstupní data a osobní údaje, transparentnost a označování AI‑asistovaných výstupů a další podle požadavků AI Act (EU 2024/1689) a GDPR. Součástí směrnice je také praktický schvalovací proces pro nové AI nástroje (včetně smluvních a GDPR požadavků). Směrnice bude doplněna přílohami – zejména seznamem schválených AI nástrojů a formulářem žádosti o schválení a vzorovými štítky transparentnosti pro AI-generovaný obsah.
Checklisty AI
AI Platforma
Nestačí jen stát na hlavě – je potřeba na ní poskakovat kupředu. Proto v Equice vyvíjíme AI nástroje, které syntetizují 25 let našich zkušeností. Aktuálně se zabýváme problematikou AI v oblastech veřejného zadávání (Nenroe) a dotačních příležitostí (Ondoň).
Přehled novinek, zajímavostí a zkušeností z oblasti zavádění AI pro veřejnou správu
Průběžně pro Vás sestavujeme přehled vybraných aktualit a praktických dopadů v oblasti implementace umělé inteligence do procesů a agend veřejné správy, související legislativy a návazných regulací. Najdete zde stručná shrnutí pravidel, zkušeností, doporučení a důležitých změn.