Transformarea digitală a educației aduce oportunități majore, dar și riscuri semnificative. Integrarea inteligenței artificiale în școli și universități trebuie realizată într-un cadru juridic clar și responsabil.
În acest context, AI Act, adoptat de Uniunea Europeană, reprezintă primul cadru legislativ complex la nivel mondial care reglementează utilizarea inteligenței artificiale.
Educația este considerată un domeniu sensibil deoarece deciziile luate prin intermediul sistemelor AI pot influența traiectoria academică și profesională a elevilor. Din acest motiv, regulamentul tratează cu maximă seriozitate utilizarea AI în procese precum evaluarea, admiterea sau orientarea școlară.
1. Încadrarea juridică a AI în educație
Primul pas în aplicarea AI Act într-o instituție de învățământ este identificarea tuturor sistemelor de inteligență artificială utilizate. Acestea pot include platforme de învățare adaptivă, sisteme automate de corectare a testelor, algoritmi de analiză a performanței școlare, chatboturi educaționale sau sisteme de selecție pentru admitere.
După identificare, instituția trebuie să determine categoria de risc în care se încadrează fiecare sistem, conform criteriilor stabilite de AI Act. Majoritatea aplicațiilor utilizate pentru evaluarea elevilor sau pentru luarea deciziilor privind accesul la educație sunt încadrate ca sisteme cu risc ridicat, ceea ce atrage obligații suplimentare de conformitate. Fiecare sistem trebuie evaluat pentru impactul asupra elevilor și studenților, iar instituția trebuie să stabilească măsuri clare de responsabilitate pentru profesori, administratori și furnizori. Documentarea completă și trasabilitatea deciziilor AI, cerute de AI Act, asigură transparență, siguranță și protecția drepturilor fundamentale ale elevilor.
2. Implementarea cerințelor pentru sistemele cu risc ridicat
Pentru sistemele considerate cu risc ridicat, AI Act impune mai multe obligații tehnice și organizaționale.
a) Sistem de management al riscurilor
Instituțiile trebuie să identifice riscurile potențiale asociate utilizării AI: erori de evaluare, discriminare indirectă, decizii incorecte sau lipsa transparenței. Riscurile trebuie documentate și actualizate constant.
b) Guvernanța datelor
Datele utilizate pentru antrenarea sau funcționarea sistemelor AI trebuie să fie relevante, corecte și reprezentative. Utilizarea unor seturi de date incomplete sau dezechilibrate poate genera discriminare sistemică.
c) Documentație tehnică și trasabilitate
Instituțiile și furnizorii trebuie să poată explica modul în care funcționează sistemul. Deciziile generate de AI trebuie să fie trasabile și verificabile.
d) Supraveghere umană
Profesorii și administratorii trebuie să aibă posibilitatea de a interveni, corecta sau anula deciziile automate. AI nu poate avea ultimul cuvânt în chestiuni care afectează parcursul educațional al elevului.
3. Relația dintre AI Act și protecția datelor
Aplicarea AI Act în educație este strâns corelată cu Regulamentul general privind protecția datelor. Sistemele AI funcționează pe baza prelucrării datelor, iar în mediul educațional acestea pot include informații sensibile.
Este esențial ca instituțiile să respecte următoarele principii:
- Legalitatea prelucrării;
- Minimizarea datelor;
- Exactitatea informațiilor;
- Limitarea stocării;
- Integritatea și confidențialitatea.
4. Supravegherea umană – garanție împotriva automatizării excesive
Unul dintre cele mai importante principii impuse de AI Act este supravegherea umană. În educație, acest principiu are o semnificație profundă.
Profesorii trebuie să:
- Analizeze rezultatele generate de AI;
- Intervină în cazul unor erori evidente;
- Explice elevilor modul de funcționare al evaluării;
- Mențină controlul final asupra deciziilor.
Nicio decizie cu impact major asupra parcursului educațional nu trebuie să fie complet automatizată. Factorul uman rămâne esențial.
5. Combaterea discriminării algoritmice
Algoritmii pot reflecta dezechilibrele existente în datele istorice.
În educație, acest lucru poate duce la:
- Subestimarea potențialului unor elevi;
- Favorizarea anumitor grupuri;
- Crearea unor bariere indirecte.
AI Act impune testarea și monitorizarea constantă a sistemelor pentru a preveni apariția bias-urilor. Instituțiile trebuie să analizeze rezultatele statistice și să corecteze eventualele dezechilibre.
6. Dreptul la transparență și explicabilitate
Elevii și studenții au dreptul să știe când interacționează cu un sistem AI și să primească informații clare despre modul în care funcționează algoritmul. AI Act impune ca deciziile automate să fie explicabile și inteligibile, fără a fi necesară divulgarea codului sursă.
Explicabilitatea presupune furnizarea unei justificări pe înțelesul utilizatorului pentru rezultatele generate de sistem. Aceasta consolidează încrederea în tehnologie și permite intervenția umană în cazul unor decizii contestabile sau eronate.
7. Impactul asupra guvernanței educaționale
Aplicarea AI Act determină o transformare a modului în care instituțiile gestionează tehnologia. Managementul educațional trebuie să includă:
- Strategii digitale coerente;
- Evaluări periodice de conformitate;
- Colaborare interdisciplinară;
- Investiții în securitate cibernetică.
Această transformare presupune maturitate instituțională și adaptare continuă la schimbările tehnologice.8
8. Achizițiile publice și AI în educație
Achizițiile publice de sisteme bazate pe inteligență artificială în educație trebuie realizate cu respectarea strictă a prevederilor din AI Act. Atunci când o școală sau o universitate achiziționează un sistem AI pentru evaluarea elevilor, admitere sau analiză a performanței, instituția devine utilizator profesional și are obligația de a verifica dacă furnizorul respectă cerințele legale.
Înainte de semnarea contractului, autoritatea contractantă trebuie să analizeze dacă sistemul este clasificat ca având risc ridicat și dacă există documentație care demonstrează conformitatea. De asemenea, trebuie verificate mecanismele de supraveghere umană, transparența algoritmilor și măsurile de protecție a datelor, în acord și cu Regulamentul general privind protecția datelor.
Documentația de atribuire ar trebui să includă clauze clare privind responsabilitatea furnizorului, obligația de actualizare a sistemului și posibilitatea realizării de audituri.
Conformitatea nu se oprește la momentul achiziției, ci presupune monitorizarea continuă a funcționării sistemului și intervenția umană în cazul unor erori sau rezultate incorecte.
În domeniul educației, unde deciziile pot influența direct parcursul academic al elevilor, achiziția de soluții AI trebuie să fie nu doar eficientă din punct de vedere financiar, ci și sigură, transparentă și conformă cu standardele europene privind protecția drepturilor fundamentale.
9. Răspunderea juridică și riscurile instituționale
Instituțiile de învățământ care utilizează sisteme AI trebuie să respecte cerințele stabilite de AI Act. Aceasta presupune responsabilitatea juridică pentru orice decizie generată de sistemele automatizate care afectează elevii sau studenții.
Dacă un sistem AI produce erori în evaluare, admitere sau orientare educațională, răspunderea poate reveni atât instituției, cât și furnizorului tehnologic.
Nerespectarea regulilor poate atrage sancțiuni financiare, acțiuni în justiție și afectarea reputației instituției.
Pentru a reduce riscurile, școlile și universitățile trebuie să implementeze politici de guvernanță digitală, să asigure supraveghere umană a deciziilor AI și să mențină documentație completă privind funcționarea sistemelor. Conformitatea cu AI Act protejează drepturile fundamentale ale elevilor și asigură utilizarea responsabilă a inteligenței artificiale în educație.
Alfabetizarea în domeniul AI (AI literacy) este esențială pentru ca elevii și studenții să înțeleagă cum funcționează tehnologiile bazate pe inteligență artificială și care sunt implicațiile lor etice și sociale
Aceasta le oferă competențe pentru a interpreta rezultatele generate de algoritmi și pentru a lua decizii informate în mediul educațional și profesional. AI literacy contribuie, de asemenea, la prevenirea utilizării incorecte sau abuzive a tehnologiei.
Prin dezvoltarea acestor abilități, instituțiile pregătesc tinerii să fie utilizatori responsabili și critici ai inteligenței artificiale.
Concluzii
Aplicarea AI Act în educație reprezintă un pas important pentru utilizarea responsabilă a inteligenței artificiale în școli și universități. Regulamentul oferă un cadru clar pentru gestionarea sistemelor AI cu risc ridicat, protejând elevii prin transparență, securitatea datelor și prevenirea discriminării algoritmice.
Supravegherea umană rămâne esențială, iar documentația completă, auditul periodic și monitorizarea continuă ajută la gestionarea riscurilor tehnice și juridice.
AI Act nu este doar o obligație legală, ci și un instrument de maturitate instituțională, permițând școlilor să dezvolte politici digitale coerente și să utilizeze tehnologia ca partener al procesului educațional, fără a înlocui factorul uman.
Respectarea regulamentului garantează un mediu educațional echitabil, sigur și transparent, protejând drepturile elevilor și sprijinind calitatea învățării.
OpenAI. (2025). ChatGPT (GPT-5 mini). https://chat.openai.com