Adimen artifizialean (AA) gero eta gehiago erabiltzen dira ikasketa automatikoko ereduak, zeinak tamaina handiko datu-multzoekin entrenatzen baitira. Gainera, pertsonen eta ordenagailuen arteko interakzioa ahozko komunikazioaren mende dago gero eta gehiago; izan ere, asko handitu da ikasketa automatikoko ereduen errendimendua hizketaren ezagutzako atazetan.

Hala ere, eredu horiei iruzur egin dakieke adibide “aurkariak” erabiliz, alegia, iragarpen oker bat eragiteko nahita eraldatutako sarrerak erabiliz, gizakiek aldaketarik ez hautemateko moduan: “Jo dezagun audioa sailkatzen duen eredu bat daukagula (adibidez, ahots-komandoak ezagutzeko) eta iruzur egin nahi diogula, hau da, perturbazio bat sortu nahi dugula maltzurkeriaz ereduak behar bezala funtzionatzeari utz diezaion. Baldin eta seinale bat ongi entzuten bada, pertsona bat gai da hautemateko ea seinale batek ‘yes’ esaten duen, adibidez. Perturbazio aurkari bat gehitzen dugunean, ‘yes’ entzuten jarraituko dugu, baina eredua ‘no’ entzuten hasiko da; edo ‘biratu eskuinera’, ezkerrera beharrean; edo exekutatu nahi ez dugun beste edozein komando”, azaldu du Jon Vadillo UPV/EHUko Konputazio Zientzia eta Adimen Artifiziala Saileko ikertzaileak.

Horrek “oso ondorio larriak izan ditzake teknologia horiek mundu errealeko eragiketetan edo oso tentuz ibiltzeko problemetan aplikatuz gero —erantsi du Vadillok—. Oraindik ez da jakina zergatik gertatzen den hori. Zergatik hainbesteko zentzuz portatzen den eredu batek bat-batean ongi ibiltzeari uzten dion, minimoki eraldatutako seinaleak jasotzen dituenean”.

Eredu bati iruzur egitea, hauteman ezin den perturbazio baten bidez

“Garrantzitsua da jakitea ea eredu edo programa batek ahuleziak badituen edo ez —erantsi du Informatika Fakultateko ikertzaileak—. Batetik, ahulezia horiek ikertzen ditugu, badirela ikusteko, eta horixe baita lehen urratsa gero zuzentzeko”. Ikerketa askoren ardatza perturbazio aurkariak sortzeko teknika berriak garatzea izan bada ere, arreta gutxiago jarri da perturbazio horiek gizakiek hautemateko modukoak diren eta nola hautematen dituzten determinatzeko alderdietan. Gai hori garrantzitsua da; izan ere, proposatzen diren perturbazio aurkariko estrategiak mehatxu izango dira bakarrik perturbazioak gizakiek ez hautemateko modukoak badira.

Ikerlan honetan aztertu dute literaturan audioko adibide aurkarietarako proposatzen diren distortsio-metrikak zenbateraino diren perturbazioen giza pertzepzioaren neurri fidagarri bat. Esperimentu batean, 36 pertsonak hainbat faktoreren arabera ebaluatu dituzte adibide aurkariak edo audio-perturbazioak, eta, haren bidez, ikertzaileek frogatu ahal izan dute “literaturan modu estandarrean erabiltzen ari diren metrikak ez direla erabat sendoak edo fidagarriak. Hau da, ez dute gizakien entzumen-pertzepzioa behar bezala adierazten; esan dezakete perturbazio bat ez dela hautemateko modukoa, baina, gero, gizakiekin ebaluatuz gero, detektatu egiten dira. Horrekin, ohartarazpen bat egin nahi dugu: audioko eraso horien ikerketa ez dela erabat ondo egiten ari, metrika horien fidagarritasunik ezaren ondorioz”, adierazi du ikertzaileak.

Horrez gainera, ikertzaileek ebaluazio-metodo sendoago bat proposatu dute, “detektagarritasuna ebaluatzeko garrantzitsuak diren audioko propietate edo faktore batzuk aztertu baititugu; hala nola audioaren zer ataletan hautematen den hobeto perturbazio bat”. Nolanahi ere, “arazoak zabalik jarraitzen du, oso konplexua baita lortzea entzumen-pertzepzioa modelatzeko gai den metrika matematiko bat. Audio-seinale motaren arabera, ziur aski metrika desberdinak beharko dira edo faktore desberdinak izan beharko dira kontuan. Oso konplexua da audiorako metrika orokor adierazgarriak lortzea”, esanez amaitu du Vadillok.