Umelá inteligencia sa už stala bežnou súčasťou školského prostredia. Žiaci ju používajú pri učení, učitelia pri príprave materiálov a školy čoraz častejšie riešia, ako nastaviť jasné pravidlá jej používania. Nový rámcový etický kódex pre využívanie AI v školstve má školám pomôcť práve v tejto oblasti.
Rámcový etický kódex pripravila Asociácia AI – ASAI v spolupráci s organizáciou EDULAB. Dokument je určený predovšetkým pre základné a stredné školy a má slúžiť ako praktická pomôcka pri nastavovaní pravidiel práce s umelou inteligenciou. Podľa informácií ASAI bol kódex zaradený medzi oficiálne odporúčania ministerstva školstva.
AI ako pomocník, nie rozhodovacia autorita
Základná myšlienka kódexu je jednoduchá: umelá inteligencia môže byť v škole užitočným podporným nástrojom, ale nesmie nahradiť ľudské rozhodovanie. Dokument výslovne zdôrazňuje, že AI nemá preberať autoritu pri hodnotení, výchove ani rozhodovaní o žiakovi.
Tento princíp je dôležitý najmä v situáciách, keď školy začínajú používať AI pri príprave úloh, tvorbe spätnej väzby, analýze textov alebo administratívnej podpore. Kódex tak neodmieta využívanie umelej inteligencie, ale nastavuje hranice, ktoré majú chrániť žiakov, učiteľov aj samotnú školu.
Zákaz automatizovaného známkovania
Jedným z najdôležitejších pravidiel je zákaz rozhodovania o žiakovi výlučne prostredníctvom AI. Kódex odmieta, aby umelá inteligencia samostatne rozhodovala o známkach, klasifikácii, hodnotení, profilovaní žiakov alebo disciplinárnych opatreniach. Konečná zodpovednosť má vždy zostať na učiteľovi.
Pre školy je to prakticky veľmi dôležité upozornenie. AI môže pomôcť s návrhom komentára, štruktúrou spätnej väzby alebo prvotnou orientáciou v žiackej práci, ale nesmie byť jediným základom rozhodnutia o výsledku žiaka.
Ochrana údajov a bezpečnosť
Kódex venuje pozornosť aj ochrane osobných údajov. Školy by nemali do verejných alebo školou nepreverených AI nástrojov vkladať osobné údaje žiakov ani dokumenty, ktoré obsahujú identifikovateľné informácie.
Toto pravidlo je dôležité najmä pri práci s generatívnymi nástrojmi, do ktorých používatelia často vkladajú texty, tabuľky, hodnotenia alebo iné školské dokumenty. Ak takéto materiály obsahujú údaje o konkrétnych žiakoch, môže ísť o citlivú oblasť, ktorá si vyžaduje zvýšenú opatrnosť.
Deepfake a zneužitie AI
Osobitnou témou kódexu je zneužívanie AI na tvorbu manipulatívnych alebo falošných materiálov. Používanie AI na vytváranie deepfake obsahu má byť podľa kódexu považované za závažné porušenie školského poriadku.
Pre školy ide o čoraz aktuálnejšiu otázku. Generatívna AI umožňuje vytvárať realistické obrázky, zvukové nahrávky, videá alebo texty, ktoré môžu poškodiť konkrétnych ľudí, šíriť nepravdivé informácie alebo podporovať kyberšikanu. Kódex preto odporúča, aby školy tieto riziká jasne pomenovali vo svojich pravidlách.
Pravidlá podľa veku žiakov
Dôležitou súčasťou kódexu je aj veková primeranosť. Prístup k umelej inteligencii sa má odlišovať podľa zrelosti žiakov. Žiaci prvého stupňa základnej školy by nemali používať AI samostatne, ale iba pod priamym vedením učiteľa. Starší žiaci a stredoškoláci môžu s AI pracovať samostatnejšie, no musia dodržiavať pravidlá transparentnosti a uvádzať, kde a ako AI použili.
Takéto rozlíšenie je dôležité, pretože používanie AI nemožno nastaviť rovnako pre všetky vekové skupiny. Inú podporu potrebuje mladší žiak, ktorý sa s technológiou iba zoznamuje, a inú študent strednej školy, ktorý ju môže využívať pri samostatnej práci, projektoch alebo príprave na vyučovanie.
Pomôcka pre školské pravidlá
Rámcový etický kódex môže školám poslúžiť ako východisko pri tvorbe vlastných pravidiel používania umelej inteligencie. Nejde len o technický dokument, ale aj o pomôcku pri nastavovaní vzťahu medzi učiteľom, žiakom, školou a novými digitálnymi nástrojmi.
Jeho význam spočíva najmä v tom, že školám ponúka základné mantinely: kedy je využívanie AI primerané, kedy už môže byť problematické, ako chrániť osobné údaje, ako predchádzať podvádzaniu a ako viesť žiakov k transparentnosti pri práci s technológiami.
Dokument je dostupný na stránke EDULAB Akadémie: Rámcový etický kódex pre využívanie umelej inteligencie v školstve.
Zdroj: ASAI – Asociácia AI. Ilustračná snímka: Gemini