AA eta bereziki zaindu beharreko erabilerak

Hezkuntza-eremuan, EU AI Act-ek ikasleentzat ondorio garrantzitsuak dituzten erabakiak laguntzeko edo automatizatzeko erabiltzen diren AA sistemak sentikortasun bereziko erabileren barruan kokatzen ditu. Besteak beste, honako kasu hauek barne hartzen dira:

Unibertsitate-ikasketetarako sarbidea edo onarpena zehazten edo baldintzatzen duten sistemak.
Ikaskuntza, errendimendu akademikoa edo ikasleen aurrerapena ebaluatzen duten sistemak, emaitzek ondorio akademiko edo administratiboak dituztenean.
Mailak, ibilbideak, laguntzak edo sailkapenak esleitzen dituzten sistemak.
Ebaluazio-testuinguruetan jokabideak gainbegiratzeko edo detektatzeko erabiltzen diren sistemak, hala nola azterketak edo proba ofizialak (adibidez, proctoring automatizatua).

Kasu horietan, arriskua ez dator AA erabiltze hutsagatik, baizik eta eskubideetan, hezkuntza-aukeretan, berdintasunean edo tratu justuan eragina izan dezaketen erabakietan esku hartzeko duen gaitasunagatik. Horregatik, EU AI Act-ek eskatzen du erabilera horiek berme indartuen pean egotea, teknologia barnean garatua izan edo kanpoko hornitzaileei kontratatua izan.

AAk pertsona baten ebaluazioan, eskubideetan edo aukera akademikoetan eragina izan dezakeen erabaki batean esku har badezake, ez da modu automatikoan ezta isolatuan erabili behar.

AA sistema bat sentikortasun bereziko testuinguruetan erabiltzen denean, haren aplikazioak pertsonen babesa eta erantzukizun instituzionala indartzen dituzten baldintza osagarriak eskatzen ditu. Honako hauek dira nagusiki:

Giza gainbegiratze eraginkorra, AAk erabaki akademiko edo administratiboak ordezka ez ditzan.
Gardentasuna, eraginpean dauden pertsonei AArik erabiltzen dela eta zein helbururekin argi eta garbi jakinaraziz.
Kalitatea, fidagarritasuna eta erroreen kontrola, bereziki ebaluazio-testuinguruetan.
Alborapenen eta diskriminazioaren prebentzioa, berdintasunari arreta berezia eskainiz.
Trazabilitatea eta dokumentazioa, sistema nola erabili den berrikusi ahal izateko.
Erantzukizun argia, beti erakundeari eta prozesuaren arduradun diren pertsonei dagokiena, ez tresnari.

AAren erabilera honek arreta berezia eskatzen al du?

Ondoko checklist-ak autonomoki abiarazi behar ez diren AAren erabilerak identifikatzen laguntzen du, eta EU AI Act-en arriskuan oinarritutako ikuspegiarekin bat etorriz, haien egokitasun juridiko, etiko eta antolakuntzazkoari buruzko hausnarketa eskatzen du.

Galdera hauetakoren bati “bai” erantzuten badiozu, erabilera ez da modu isolatuan aplikatu behar.

Autoebaluaziorako checklist-a

1. AAk ikasleen ibilbide akademikoan zuzenean eragiten duten erabakietan esku hartzen al du?

Adibideak: onarpena, kalifikazioak, ikaskuntzaren ebaluazioa, maila edo ibilbidearen esleipena, laguntza akademikoak edo neurri diziplinarioak.

Zergatik da garrantzitsua: AAk eskubideetan, aukeretan eta emaitza akademikoetan eragina izan dezake.

2. AAk ikasleak zuzentzen, puntuatzen edo ebaluatzen al ditu, osorik edo zati batean?

Adibideak: ariketen zuzenketa automatikoa, noten sorrera, ranking-ak, errendimendu-txostenak edo ebaluazio-adierazleak.

Zergatik da garrantzitsua: ebaluazio-irizpidea pertsonengandik tresnara desplazatu daiteke.

3. AAk sortutako emaitzak ondorio errealak al ditu pertsona batentzat?

Adibideak: gainditu edo ez gainditu, titulazioan aurrera egin edo ez, prestakuntza-aukera jakin batzuetara iritsi edo ez.

Zergatik da garrantzitsua: sistemaren ondorioak ez dira teorikoak, benetakoak eta egiaztagarriak baizik.

4. AAk azterketetan edo ebaluagarriak diren probetan gainbegiratzeko edo zaintzeko erabiltzen al da?

Adibideak: proctoring automatizatua, iruzurraren detekzioa edo portaeren analisia.

Zergatik da garrantzitsua: oinarrizko eskubideetan eragina izan dezake, hala nola pribatutasunean edo zintzotasunaren presuntzioan.

5. Ezin al duzu modu argi eta ulergarrian azaldu AAk nola sortzen duen emaitza?

Adibideak: eredu opakuak, irizpide ezezagunak, erabaki zehatz bat justifikatzeko ezintasun erreala.

Zergatik da garrantzitsua: azalgarritasunik gabe ez dago gardentasunik ezta berrikuspen-aukera ere.

6. Badago alborapen, diskriminazio edo tratu desberdina izateko arriskurik?

Adibideak: emaitza desberdinak generoaren, hizkuntzaren, jatorriaren, dibertsitate funtzionalaren edo testuinguru sozioekonomikoaren arabera.

Zergatik da garrantzitsua: AAk lehendik dauden desberdintasunak erreproduzitu edo areagotu ditzake.

7. Unibertsitatetik kanpoko AA tresnetan datu pertsonalak, akademikoak edo sentikorrak sartzen al dira?

Adibideak: plataforma komertzialak, hodeiko zerbitzuak edo UPV/EHUk zuzenean kontrolatzen ez dituen ereduak.

Zergatik da garrantzitsua: arrisku juridikoak eta datu-babesekoak dakartza.

8. Erabaki finala, praktikan, AAk zehazten al du?

Adibideak: emaitzaren onarpen automatikoa, benetan aldatzeko aukerarik eza, berrikuspen formala soilik.

Zergatik da garrantzitsua: erabakiaren automatizazio de facto bat gertatzen da.

Breadcrumb