Školení AI gramotnosti pro veřejnou správu: Bezpečné a odpovědné využívání umělé inteligence ve veřejné správě

Evropský akt o umělé inteligenci (AI Act) přináší jednotná pravidla pro využívání AI v EU a klade důraz na bezpečnou, důvěryhodnou, transparentní a nediskriminační umělou inteligenci pod lidským dohledem. Současně stanoví povinnost zajistit odpovídající úroveň AI gramotnosti osob, které AI systémy používají nebo se podílejí na jejich provozu.

Školení je určeno pro organizace veřejné správy, které chtějí umělou inteligenci využívat prakticky, bezpečně a v souladu s právními i interními pravidly. Účastníci se seznámí s tím, jak AI funguje, kde může veřejné správě pomoci, jaká rizika přináší a jak s jejími výstupy pracovat odpovědně.

Důraz je kladen na praktické používání AI v agendách veřejné správy i ve vnitřním chodu organizace: práce s texty, dokumenty, přepisy, překlady, prezentacemi, daty, chatboty a AI asistenty. Školení současně upozorňuje na limity AI, ochranu osobních údajů, autorské právo, transparentnost vůči občanům, lidský dohled a odpovědnost člověka za finální výstup.

AI může výrazně zefektivnit rutinní agendy, ale pouze tehdy, pokud je používána otevřeně, kontrolovaně a v souladu s pravidly. Cílem školení proto není AI zakazovat, ale naučit zaměstnance, jak ji využívat bezpečně, smysluplně a s vědomím odpovědnosti.

Osnova školení:

• AI v praxi veřejné správy
  • Co je AI a generativní AI, kde dnes pomáhá v agendách veřejné správy a jaké má limity.
• Rizika a odpovědné používání AI
  • Chybovost, halucinace, zkreslení, bias, manipulace, deepfaky, prompt injection a riziko nekritického přebírání výstupů.
• AI Act a dopady do veřejné správy
  • Povinnost AI gramotnosti, princip regulace podle rizika, role veřejné správy a základní milníky účinnosti.
• Rizikové kategorie AI systémů
  • Zakázané praktiky, vysoce rizikové systémy, omezené riziko a minimální riziko včetně praktických příkladů z veřejné správy.
• Transparentnost, lidský dohled a ochrana práv osob
  • Informování občanů a zaměstnanců, označování AI obsahu, pravidla pro chatboty a zachování odpovědnosti člověka.
• GDPR, autorské právo a bezpečná práce s daty
  • Co do AI nevkládat, kdy je nutný schválený režim, jak pracovat s osobními údaji, interními dokumenty a výstupy AI.
• Praktické využití AI a kvalitní zadávání úkolů
  • Tvorba textů, shrnutí, překlady, přepisy, prezentace, práce s tabulkami, chatboty a základy promptování.
• Checklist bezpečného využívání AI a interní pravidla
  • Praktická pravidla pro zaměstnance, doporučení pro organizaci, schvalování nástrojů, kontrola výstupů a řešení incidentů.

Přínosy školení pro účastníka:

Po absolvování školení účastník:

• Rozumí tomu, co je (generativní) AI a jak ji smysluplně používat ve veřejné správě a kde naopak naráží na své limity,
• chápe, proč AI může vytvářet přesvědčivé, ale chybné výstupy, a umí rozpoznat typická rizika, jako jsou halucinace, zkreslení, manipulace, bias nebo smyšlené zdroje,
• ví, že AI je asistent, nikoli náhrada odborného úsudku, a dokáže s jejími výstupy pracovat jako s návrhem, který vyžaduje kontrolu,
• orientuje se v základních principech AI Actu, včetně rizikového přístupu a dokáže rozpoznat zakázané praktiky a včas jim zabránit,
• ví, kdy je nutné zajistit lidský dohled, transparentnost, vysvětlitelnost, auditní stopu nebo zapojení odpovědných rolí,
• ví, co do AI nástrojů nevkládat, zejména osobní údaje, citlivé informace, interní dokumenty, hesla, tokeny nebo bezpečnostní informace,
• rozumí základním pravidlům GDPR, autorského práva a bezpečné práce s daty při používání AI.

Účastníkům školení bude předán certifikát o absolvování kurzu a přehledný checklist bezpečného využívání AI.

Přínosy školení pro organizaci:

• Naplnění požadavku AI gramotnosti podle AI Actu,
• motivace zaměstnanců k využívání AI a zvýšení efektivity rutinních agend organizace,
• snížení právních, reputačních a bezpečnostních rizik při používání AI (včetně práce s osobními údaji),
• podpora kultury odpovědného, otevřeného a kontrolovaného využívání AI.

Prezenční formu školení jsme připraveni realizovat jako průběžné vzdělávání úředníků a vedoucích úředníků podle § 20 zákona č. 312/2002 Sb., protože společnost Equica, a.s. je na základě rozhodnutí Ministerstva vnitra ČR MV-132537-6/ODK-2022 akreditovanou institucí pro vzdělávání úředníků územních samosprávných celků podle zákona č. 312/2002 Sb., o úřednících územních samosprávných celků. Číslo akreditace společnosti je AK/I-57/2013.

Využijte zkušeností společnosti Equica, a.s.

V případě zájmu o nabízené vzdělávání nás, prosím, kontaktujte na e-mailu obchod@equica.cz.