Giza adimenak sortutako tresnarik boteretsuena hizkuntza da. Hizkuntza da informazioa transmititu eta atzitzeko modurik arruntena eta eraginkorrena. Hizkuntza erabiltzen dugu informazioa kodetzeko, gordetzeko, transmititzeko, partekatzeko eta manipulatzeko. Hain zuzen ere, eskura dagoen informazio digital gehiena egituratu gabeko informazioa da, hainbat hizkuntzatan idatzitako edo hitz egindako dokumentuen bidez, eta hori erronka bat da informazio hori ustiatu eta prozesatu nahi duen edozein erakunderentzat. Beraz, hizkuntza dago Adimen Artifiziala (IA) garatzeko ahaleginen erdigunean, eta alderantziz.



Irakasgai hau bi irakasgairen jarraipena da: Hizkuntzaren Prozesamendua (HP) eta Testu-Meatzaritza. Irakasgai honetan HParen azken garapenetan jartzen da arreta; esate baterako, gaur egun gure gizarteetako zenbait arlo iraultzen ari diren ChatGPT bezalako hizkuntza-eredu sortzaile handietan (ingelesez LLM). Ikasleak LLMak ulertu eta aplikazio espezifikoetan erabili eta ebaluatu ahal izango ditu. Ikastaroak metodologia aktiboa jarraitzen du, taldekako irakurketak, aurkezpenak, eztabaidak eta ikasleak diseinatutako azken proiektua biltzen dituena.



Ikastaroa ingelesez ematen da.

1. Hizkuntza-eredu handiei buruzko kontzeptu nagusiak ulertzea eta arloaren ikuspegi orokorra izatea.

2. Hizkuntza-eredu handiak ulertu eta erabiltzea.

3. Hizkuntza-eredu handiek erabiltzen dituzten aplikazioak nola egituratzen diren ulertzea.

4. Aplikazio jakin bat aztertzea eta hari aurre egiteko hizkuntza-eredu handiak erabiltzeak dituen aukerak eta abantailak identifikatzea.

5. Hizkuntza-eredu handiak erabiltzen dituzten aplikazio zehatzak diseinatu eta ezartzea.

6. Metodo enpirikoak erabiliz, aplikazio zehatzen errendimendua ezagutzeko beharrezko esperimentuak diseinatu eta gauzatzea.



M011CE39 HPrako sistema sendoak diseinatzeko, eraikitzeko, erabiltzeko eta ebaluatzeko gaitasuna eta ezagutza.

M011CE40 Adimen artifizialeko proiektu aurreratu baten garapen-etapak menderatzea: adimen artifizialeko proiektu aurreratu baten analisia, diseinua, inplementazioa, proba, aurkezpena eta ebaluazioa, problema erreal bati aplikatua.

1. gaia: Hizkuntzari buruzko AA. HPko metodo enpirikoen hastapenak.



Lehenengo gaiak zenbait gai azkar berrikusten ditu, hara nola: HPri aplikatutako metodo zientifikoa. Ezagutzan oinarritutako sistemak, sistema estatistikoak, ikasketa automatikoan oinarritutako sistemak eta hizkuntza-eredu handiak. Gainbegiratutako eta gainbegiratu gabeko ikasketa HPn. HPko sistemen ebaluazioa. Atazak eta datu-multzoak.



2. gaia: HPko teknika aurreratuak.



Hizkuntza-eredu handiak. Sortzea, egokitzea, programatzea, erabiltzailearekiko lerrokatzea eta ebaluazioa.



3. gaia: Aplikazio aurreratuak.



Hizkuntza-eredu handien teknika eta aplikazio batzuk aurkezten dira: testua sortzeko sistemak, galdera-erantzun sistemak, chatbot-ak, laburpen sortzaileak, itzulpen automatikoa, etab.



Aldi berean, lan praktiko bat jarriko da abian, irakasgai osoan zehar garatuko dena.

Irakurketen, lanen eta azken proiektu baten bidez, ikasleek abangoardiako HP sistema bat diseinatu, ezarri eta ulertzeko beharrezko trebetasunak ikasiko dituzte.



Praktikaren helburua ikasitakoa problema desberdinetan aplikatu ahal izatea eta ikasleen sormena lantzea da.



Irakaskuntza mota magistral eta praktikoetan, metodologia aktiboak erabiliko dira. Hau da, ikasleek aktiboki parte hartuko dute bai ikasgelan bai laborategian.

• Ebaluazio Jarraituaren Sistema
• Azken Ebaluazioaren Sistema
• Kalifikazioko tresnak eta ehunekoak:
  • Praktikak egitea (ariketak, kasuak edo buruketak) (%): 20
  • Banakako lanak (%): 30
  • alde lanak (arazoen ebazpenak, proiektuen diseinuak) (%): 50

Irakasgaian etika akademikoari eta iruzurrezko praktiken prebentzioari buruzko protokoloa aplikatuko da ebaluazio-probetan eta UPV/EHUko lan akademikoetan.



Irakasgaiak bi ebaluazio modu ditu: etengabeko ebaluazioa eta azken ebaluazioa.



Etengabeko ebaluazio moduan izena emateko epea ikasturtearen hasieran bukatuko da. Aurreinskripzioa behin betikoa bilakatuko da, ikasleak ezarritako egunetan eskaera berresten duenean (ikastaroaren %60tik %80ra bitartean) eta irakasleek errendimendu partziala egiaztatu ondoren. Egun horietan ikasleak ebaluazio jarraituan behin betiko inskripzioa berresten ez badu, uko egin diola ulertuko da.





ETENGABEKO EBALUAZIOA



- %20 praktikak, kasuak edo problemak egitea

- %30 Mintegiaren aurkezpena eta parte-hartze aktiboa: irakurketak, berrikuspen bibliografikoa eta lanen aurkezpena.

- %50 Azken lana



Ebaluazio jarraiturako aipatutako proba eta jarduera guztiak nahitaezkoak dira.



Ebaluazio jarraituan onartzeko baldintzak hauek dira:

- Mintegietan aurkeztea eta parte-hartze aktiboa.

- Praktiketan gehienezko puntuazioaren %40 lortzea.

- Gelako aurkezpenetan eta parte-hartze aktiboetan puntuazio maximoaren %40 lortzea.

- Azken proiektuan gehienezko puntuazioaren %40 lortzea

- Batez besteko ponderatuaren ondoren, gehienekoaren %50 edo gehiago lortzea.



Ikasleak epe barruan etengabeko ebaluazioari uko egiten diola adierazten ez badu eta etengabeko ebaluazioa gainditzeko baldintzaren bat betetzen ez badu, irakasgaia deialdi arruntean etengo du eta ezohiko deialdian parte hartu ahal izango du. Praktika aurkezten ez badu, aurkeztu gabetzat hartuko da.



AZKEN EBALUAZIOA



- %20 praktikak, kasuak edo problemak egitea

- %30 Idatzizko proba

- %50 Azken lana



Idatzizko probara aurkeztu ahal izateko, aldez aurretik banakako praktika aurkeztu beharko da. Aipatutako proba eta jarduera guztiak nahitaezkoak dira.



Azken ebaluazioa onartzeko baldintzak hauek dira:

- Praktiketan gehienezko puntuazioaren %40 lortzea.

- Idatzizko proban gehienezko puntuazioaren %40 lortzea.

- Azken proiektuan gehienezko puntuazioaren %40 lortzea

- Batez besteko ponderatuaren ondoren, gehienekoaren %50 edo gehiago lortzea.



Ikasleak idatzizko proba egiten ez badu, ebaluazioari uko egiten diola ulertuko da. Praktika aurkezten ez badu, aurkeztu gabetzat hartuko da.

AZKEN EBALUAZIOA



- %20 praktikak, kasuak edo problemak egitea

- %30 Idatzizko proba

- %50 Azken lana



Idatzizko probara aurkeztu ahal izateko, aldez aurretik banakako praktika aurkeztu beharko da. Aipatutako proba eta jarduera guztiak nahitaezkoak dira.



Azken ebaluazioa onartzeko baldintzak hauek dira:

- Praktiketan gehienezko puntuazioaren %40 lortzea.

- Idatzizko proban gehienezko puntuazioaren %40 lortzea.

- Azken proiektuan gehienezko puntuazioaren %40 lortzea

- Batez besteko ponderatuaren ondoren, gehienekoaren %50 edo gehiago lortzea.



Ikasleak idatzizko proba egiten ez badu, ebaluazioari uko egiten diola ulertuko da. Praktika aurkezten ez badu, aurkeztu gabetzat hartuko da.

El material estará disponible en la plataforma virtual (eGela).

Oinarrizko bibliografia

Jurafsky D., Martin J.H. Speech and Language Processing (3rd edition draft). An Introduction to Natural Language Processing, Computational Linguistics and Speech Recognition. Prentice Hall, 2018. https://web.stanford.edu/~jurafsky/slp3/



Lewis Tunstall, Leandro von Werra, Thomas Wolf. Natural Language Processing with Transformers, Revised Edition. O'Reilly Media, Inc. ISBN: 9781098136796

Web helbideak

https://github.com/Hannibal046/Awesome-LLM