Poradenství v AI pro veřejnou správu

Umělá inteligence (Artificial Intellingence, AI) je oblast informatiky zaměřená na vývoj systémů schopných vykonávat úkoly, které obvykle vyžadují lidskou inteligenci. Patří mezi ně učení, rozhodování, rozpoznávání vzorů, zpracování přirozeného jazyka a řešení problémů. AI umožňuje strojům analyzovat data, přizpůsobovat se novým situacím a autonomně řešit složité úkoly bez přímého lidského zásahu.

Na veřejnou správu jsou kladeny rostoucí nároky na efektivitu, transparentnost a dodržování přísných právních předpisů. Nástroje umělé inteligence představují jednu z cest, jak zvýšit efektivitu i komfort zaměstnanců přenesením rutinních a administrativních činností, usnadněním zpracování a vyhodnocování velkých objemů dat a poskytováním relevantních podkladů pro rozhodování v odborných agendách.

Nestačí jen stát na hlavě – je potřeba na ní poskakovat kupředu. Proto v Equice vyvíjíme AI nástroje, které syntetizují 25 let našich zkušeností. Aktuálně se zabýváme problematikou AI v oblastech veřejného zadávání (Nenroe) a dotačních příležitostí (Ondoň).

AI Act: Právní rámec pro umělou inteligenci

Dne 1. srpna 2024 vstoupilo v platnost nařízení Evropské unie – Akt o umělé inteligenci (AI Act), který stanovuje pravidla pro vývoj, uvádění na trh a používání AI systémů v EU. AI Act zavádí klasifikaci systémů podle úrovně rizika a určuje povinnosti pro organizace, které AI nasazují. Veřejná správa se musí přizpůsobit přísnějším pravidlům zejména v oblastech zpracování osobních údajů, automatizovaného rozhodování a využívání AI systémů v kritických službách. Součástí legislativy je požadavek na transparentnost, etické využívání AI a zavedení kontrolních mechanismů minimalizujících rizika spojená s AI. Implementace AI Actu představuje nejen výzvu, ale i příležitost pro modernizaci veřejné správy a efektivnější poskytování služeb občanům.

V oblasti ochrany implementace a využívání umělé inteligence (AI) vám poskytneme následující služby:

Diagnostika a analýza procesů

• Komplexní audit: Spolu s klíčovými zástupci vaší organizace definujeme aktuální stav a potřeby, provedeme detailní analýzu stávajících procesů a identifikujeme potenciální oblasti, kde může AI zvýšit efektivitu a přinést úsporu zdrojů.
• Hodnocení rizik: Zaměříme se na identifikaci klíčových rizik spojených se zpracováním osobních údajů a neautorizovaným využitím AI

Návrh strategie a roadmapy implementace

• Strategický plán: Na základě získaných dat vypracujeme strategii zavedení AI, která zahrnuje konkrétní doporučení pro bezpečné a efektivní využití technologií s ohledem na legislativní požadavky.
• Ochrana osobních údajů: AI systémy často pracují s citlivými daty. Naše poradenství zahrnuje doporučení pro anonymizaci a pseudonymizaci dat, stejně jako pravidelné audity pro zajištění bezpečnosti.
• Etické aspekty: Zohledňujeme požadavky na transparentnost, zamezení automatizovaného rozhodování bez přezkoumání a nastavení interních kontrolních mechanismů.
• Legislativní konzultace: Pomůžeme vám zajistit, aby vaše AI systémy odpovídaly požadavkům GDPR a novému AI Actu, včetně klasifikace rizik.

Implementace a podpora

• Pilotní projekty: Společně otestujeme vybraná řešení v pilotních projektech a vyhodnotíme jejich přínos v praxi.
• Podpora při zavádění: Poskytujeme asistenci při implementaci a integraci AI technologií do vašeho ekosystému ICT a interních procesů.
• Interní pravidla: Pomůžeme vám nastavit interní pravidla pro využívání AI nástrojů a minimalizaci rizik spojených s neautorizovaným používáním.

Školení a AI gramotnost

• Pravidelné školení: Naše školení pomáhají zaměstnancům veřejné správy získat potřebnou AI gramotnost. Zaměřujeme se na pochopení principů bezpečného zpracování dat i na praktické vysvětlení legislativních požadavků.

Eva Lipovská, Tel: 724 101 222

Přehled novinek, zajímavostí a zkušeností z oblasti zavádění AI pro veřejnou správu

Umělá inteligence (Artificial Intelligence, AI) se v roce 2025 stala pevnou součástí nejen technologického, ale i právního a etického prostředí.

Evropská unie dokončila přijetí Aktu o umělé inteligenci (AI Actu), který společně s Nařízením GDPR vytváří nový právní rámec pro bezpečné, transparentní a odpovědné využívání umělé inteligence napříč Evropou. AI Act stanovuje jasná pravidla pro to, kde a jak lze umělou inteligenci používat. Zároveň určuje, jaká rizika je nutné sledovat a kdo odpovídá za její rozhodování. Cílem není technologický rozvoj brzdit, ale zajistit, aby moderní systémy chránily základní lidská práva, soukromí a rovnost všech osob.

Většina klíčových ustanovení AI Actu vstoupí v účinnost v srpnu 2026, kdy se očekává zahájení prvních kontrol a certifikací systémů umělé inteligence ze strany evropských i národních dozorových orgánů. Od 2. února 2025 již však platí povinnost základního vzdělání v oblasti AI pro všechny organizace využívající systémy umělé inteligence v rámci své profesní činnosti.

Umělá inteligence má obrovský potenciál pomáhat, zjednodušovat a inovovat, ale pouze tehdy, pokud ji provází jasná pravidla, etika a lidský dohled, aby se nestala rizikem pro důvěru a ochranu osobních

Aktuální přehled informací z oblasti AI naleznete zde.