Dobrý den, měla bych dotaz ohledně Aktu EU o umělé inteligenci. Co to znamená pro školy? Musíme v souvislosti s tím podnikat nějaké kroky: směrnice, školení zaměstnanců? Děkuji.
K vašemu dotazu ohledně AI Actu a škol vám posíláme odpověď z našich FAQ, které jsme připravili společně s právníky:
„Týká se škol nové evropské nařízení o umělé inteligenci (tzv. AI Act)?
Stručná odpověď: Školám prozatím AI Act neukládá žádné nové povinnosti při běžném využití umělé inteligence ve výuce.
Odpověď právníka: Nařízení Evropského parlamentu a Rady o umělé inteligenci (AI Act) se zaměřuje na regulace vývoje, uvádění na trh a používání systémů AI, které spadají do určitých kategorií rizika. Pro školy to znamená, že nařízení se jich může týkat tehdy, pokud využívají systémy, které jsou považovány za tzv. vysoce rizikové – například ty, které automatizovaně rozhodují o přijetí ke vzdělávání nebo hodnotí žáky (čl. 6 nařízení).
Tyto části balíčku AI Act však začnou být účinné až v srpnu 2026, a školy tedy zatím nejsou těmito pravidly vázány. Ustanovení týkající se tzv. obecných AI modelů (např. ChatGPT) vstupují v účinnost už v srpnu 2025, ale vztahují se především na poskytovatele těchto systémů, nikoli na běžné uživatele, jako jsou učitelé nebo školy.
Nařízení zároveň zakazuje některé praktiky, které by mohly být škodlivé – například rozpoznávání emocí ve školách, biometrickou kategorizaci osob podle citlivých údajů nebo tzv. sociální skórování. Tyto technologie však školy běžně nepoužívají a jejich zavedení by bylo v rozporu s evropským právem (§ 5 nařízení).
Tolik diskutovaná povinnost zajistit dostatečnou úroveň gramotnosti v oblasti AI, která je zakotvena v čl. 4 nařízení a již nabyla účinnosti, není blíže upravena a za případné nedodržení této povinnosti nestanoví AI Act žádné sankce – jde spíše o součást širších strategií pro bezpečné a odpovědné využívání technologií (nejen) ve vzdělávání.
Doporučení NPI: Ve škole se vyplatí mluvit o bezpečnosti a etických limitech AI systémů – s kolegy i se žáky. Je to příležitost, jak se například v rámci mediální výchovy zabývat možným zneužitím AI. Pomoci mohou metodiky z projektu AI kurikulum, třeba ta o rozpoznávání emocí.
Kompletní FAQ najdete zde: https://digitalizace.rvp.cz/napric-predmety/ai/faq-umela-inteligence
Shrnutí pro vaši školu: Nemusíte zatím podnikat žádné speciální kroky ani vytvářet nové směrnice kvůli AI Actu. Doporučujeme ale zabývat se diskuzí o bezpečném a smysluplném používání AI ve výuce. Můžete využít naše metodické materiály či vzdělávání pro práci s AI ve škole – více zde: www.digitalizace.rvp.cz/ai
