Zatímco se ve sborovnách řeší, jestli žákům povolit ChatGPT při domácích úkolech, z Evropské unie už dva roky přichází regulace, která školám ukládá skutečné právní povinnosti. Evropské nařízení o umělé inteligenci, známé jako AI Act, se vztahuje nejen na technologické firmy, ale na každou organizaci, která AI používá, tedy i na základní a střední školy. Část pravidel platí už od února 2025, další povinnosti přišly letos v srpnu a školy by měly vědět, co smějí, co musí a co je naopak přísně zakázáno.
Co je zakázáno už dnes
Nejtvrdší část nařízení, tedy zákaz nepřijatelných praktik, platí od 2. února 2025. Pro školy je klíčový zákaz systémů na rozpoznávání emocí. Umělá inteligence nesmí ve vzdělávacích institucích odvozovat emoce žáků ani zaměstnanců, výjimku mají pouze systémy určené ze zdravotních nebo bezpečnostních důvodů. V praxi to znamená, že kamera s AI, která by vyhodnocovala, zda se žák nudí, je naštvaný nebo dává pozor, je v evropské škole nelegální. Zakázána je i biometrická kategorizace osob podle citlivých údajů nebo takzvané sociální skórování. Sankce za porušení zákazů jsou drakonické, u nejzávažnějších případů až 35 milionů eur nebo sedm procent obratu, a nevyhnou se ani veřejným institucím.
Od stejného data platí i měkčí, ale plošná povinnost zajistit AI gramotnost. Škola, která používá nástroje umělé inteligence, ať už jde o chatboty při přípravě výuky nebo AI funkce v běžném softwaru, má povinnost zajistit, aby lidé, kteří s nimi pracují, rozuměli jejich fungování a rizikům. Nařízení nepředepisuje konkrétní formu školení a za nesplnění této povinnosti přímé sankce nestanoví, jde ale o závazek, který se v případě problému může stát přitěžující okolností.
Co přibylo letos v srpnu
Od 2. srpna 2026 je v platnosti většina dalších ustanovení nařízení, především pravidla transparentnosti. Obsah vytvořený nebo upravený umělou inteligencí, včetně deepfake obrázků, zvuku a videa, musí být rozpoznatelně označen. Pro školy z toho plyne praktické doporučení, aby ve svých pravidlech vyžadovaly označování AI výstupů i po žácích, podobně jako se u převzatých textů uvádí zdroj.
Naopak nejpřísnější režim pro takzvané vysoce rizikové systémy se odsouvá. Evropský balíček známý jako AI Omnibus, který vstoupil v platnost letos v červenci, posunul hlavní povinnosti pro vysoce riziková použití ve vzdělávání na 2. prosince 2027. Do této kategorie patří systémy, které rozhodují nebo významně pomáhají při přijímání žáků, hodnocení výsledků vzdělávání, určování vzdělávací úrovně nebo dohledu při zkouškách. U nich bude povinný lidský dohled, posouzení dopadů na základní práva a vedení záznamů. Důležité je, že běžné používání generativních nástrojů učitelem k přípravě výuky mezi vysoce riziková použití nepatří.
Co by měla udělat každá škola
Praktický seznam je kratší, než by se z rozsahu nařízení mohlo zdát. Každá škola by měla především zjistit, jaké AI nástroje se ve škole reálně používají, a to včetně těch, které si učitelé zavedli sami. Dále je nutné proškolit sbor a toto školení zdokumentovat, podobně jako se eviduje BOZP. Zatřetí je potřeba prověřit, že žádný používaný ani zvažovaný systém nespadá mezi zakázané praktiky, což se týká hlavně nabídek na chytré kamerové systémy a nástroje sledující pozornost žáků. Začtvrté musí školy nastavit srozumitelná pravidla pro žáky a otevřeně informovat rodiče, jak škola s umělou inteligencí pracuje.
Zdroj úvodního obrázku: Unsplash
