Lanak ohartarazten du egungo legediak ez diela behar bezala erantzuten teknologia mota horiei, datuak biltzeko kasu luzeagoetarako edo unean uneko erabaki automatizatuak hartzeko pentsatuta baitago. Hala ere, sistema horiek modu jarraituan funtzionatzen dute une bakoitzean egiten duguna aztertzen eta gure portaerari buruzko ondorioak ateratzen, eta horrek zaildu egiten du gaur egungo kategorien arabera sailkatzea. Hala, ikerketak azpimarratzen du desfasea dagoela teknologiak aurrera egiteko duen azkartasunaren eta Zuzenbideak teknologia horretara egokitzeko duen gaitasunaren artean.

Gaur egun, egunero erabiltzen ditugun gailu eta aplikazio askok —hala nola telefono mugikorrek, plataforma digitalek, morroi birtualek, bezeroarentzako arreta sistemek, bideo jokoek edo hezkuntza edo lan inguruneetan arretaren jarraipena egiteko tresnek— adimen artifizialeko sistemak dituzte, eta aurpegitik, ahotsetik, begiradatik edo haiekin elkarri eragiteko dugun modutik lortutako informazioa lortzen eta aztertzen dute. Adibidez, pertsona batek arreta jartzen duen, interesa edo nekea adierazten duen, eduki baten aurrean zenbat denbora gelditzen den edo horren aurrean nola erreakzionatzen duen detektatu dezakete, eta informazio hori erakusten zaiona doitzeko erabili, bideoetatik hasi eta arreta erakartzeko edo jokabidean eragiteko diseinatutako iragarki edo mezuetaraino.

Biometriarekin lotutako teknologiak dira —hatz markak ezagutzeko edo aurpegia desblokeatzeko erabiltzen direnak dira horietako batzuk, adibidez—, baina kasu honetan ez dira erabiltzen pertsona identifikatzeko, bai ordea haren portaera eta une bakoitzeko egoera interpretatzeko.

Ikerketak eboluzio teknologikoan aldaketa sakona gertatu dela azpimarratu du. “Erabiltzaileak zuzenean ematen dituen datuak jasotzetik informazio intimoagoa deduzitzera igaro gara, pertsonak adierazi gabe”, azaldu du Leire Escajedok, Euskal Herriko Unibertsitateko Lan Harreman eta Gizarte Langintza Fakultateko irakasleak. “Tresna horiek, egiten duguna erregistratze hutsaz gain, nola sentitzen garen edo nola jokatu genezakeen interpretatzen saiatzen dira, eta gure portaera modulatzeko egokitzeko gai dira”, esan du, izan ditzakeen ondorioez ohartarazteko.

Detektatzeko zailak diren arriskuak eta lehenago esku hartzeko beharra

Ikerketak hainbat arrisku identifikatu ditu. Arrisku nagusienetako batek askatasun pertsonalari eragiten dio, sistema horiek “erabakietan eragin baitezakete” ingurune digitala behatutako portaeraren arabera moldatzen dutelako. Horrez gain, pertsonen jokabidearen araberako sailkapen automatikoaren ondorioz sor daitezkeen “desberdinkeria arazoak” aipatzen ditu, eta “sortzen diren datuen eta horiek erabiltzeko helburuen inguruko gardentasun gabezia” dagoela ohartarazten du. Aipatu duenez, “arazoa ez da konpontzen erabiltzaileari informazioa ematearekin bakarrik: baldintzak onartzeak edo ‘klik egiteak’ ez du esan nahi zer informazio mota sortzen ari den, nola erabiltzen den edo azkenean gure erabakiak nola baldintzatu ditzakeen ulertzen dugunik”.

Bestalde, “efektu horiek ez dira berehalakoan bistakoak izaten”, zehaztu du. Ez da erabaki zehatz bakar bat, etengabeko doikuntza txikiak baizik, eta, denboraren poderioz, horiek guztiek portaera baldintzatu dezakete”, erantsi du.

Ikerketak gogorarazi duenez, Datuak Babesteko Araudi Orokorra 2016an onartu zen, biometriak batez ere pertsonak identifikatzeko erabiltzen zirenean; gaur egun, berriz, gero eta gehiago erabiltzen dira pertsonen portaera interpretatzeko. Bestalde, Adimen Artifizialaren Europako Araudiak ez die behar adinako garrantzirik eman erabilera horiei, benetako inpaktua izan arren.

Testuinguru horren aurrean, ikerlanak jarraibide praktikoak eskaintzen dizkie enpresa eta agintariei, eta sistema horien arriskua “ezarri aurretik ebaluatu behar dela” finkatzen du. Hala, zer informazio sortzen duten identifikatu eta “oinarrizko eskubideei eragin diezaieketenean mugak ezarri” behar direla zehaztu du.