El lenguaje es la herramienta más poderosa creada por la inteligencia humana. El lenguaje es la forma más común y versátil para transmitir y acceder a la información. Usamos el lenguaje, nuestro medio natural de comunicación, para codificar, almacenar, transmitir, compartir y manipular información. De hecho, la mayor parte de la información digital disponible es información no estructurada en forma de documentos escritos o hablados en múltiples idiomas, lo que representa un desafío para cualquier organización que quiera explotar y procesar esta información. Por lo tanto, el lenguaje es y debe estar en el centro de nuestros esfuerzos para desarrollar la Inteligencia Artificial (IA), y viceversa.



Esta asignatura es posterior a la asignatura Procesamiento del Lenguaje, donde se ven las bases teóricas y los niveles de procesamiento y herramientas básicas y Minería de Datos Textuales, donde se profundiza en la extracción de información a partir de texto en lenguaje humano, ya sea de páginas web, redes sociales o cualquier otro tipo de documento y donde se han visto las aplicaciones principales del PLN, incluidas la búsqueda, clasificación, agrupación y extracción de documentos.



La asignatura se imparte en inglés.

1. Comprender los principales conceptos sobre los grandes modelos de lenguaje, y tener una visión global del área.

2. Entender y utilizar grandes modelos de lenguaje.

3. Entender cómo se estructuran las aplicaciones que usan los grandes modelos de lenguaje.

4. Analizar una aplicación concreta e identificar las opciones y ventajas de utilizar grandes modelos de lenguaje para afrontarlo.

5. Diseñar e implementar aplicaciones concretas que utilicen grandes modelos de lenguaje.

6. Utilizando métodos empíricos, diseñar y llevar a cabo los experimentos necesarios para conocer el rendimiento de aplicaciones concretas.



M011CE39 Capacidad y conocimiento para diseñar, construir, utilizar y evaluar sistemas robustos para el PLN.

M011CE40 Dominar las diferentes etapas de desarrollo de un proyecto avanzado de inteligencia artificial: análisis, diseño, implementación, prueba, presentación y evaluación de un proyecto avanzado de inteligencia artificial aplicado a un problema real.

Este curso presenta conceptos y algoritmos PLN avanzados, centrándose en grandes modelos de lenguaje.



Tema 1: IA centrada en el lenguaje. Introducción a los métodos empíricos en PLN.



El primer tema repasa rápidamente varios temas, como sigue: Método científico aplicado a PLN. Sistemas basados en conocimiento, sistemas estadísticos, sistemas basados en aprendizaje automático y grandes modelos de lenguaje. Aprendizaje supervisado y no supervisado en PLN. Evaluación de sistemas PLN. Tareas y conjuntos de datos. Marcos de evaluación.



Tema 2: Técnicas avanzadas de PLN.



Una revisión de los modelos de lenguaje grande. Creación, adaptación, prompts, alineación a valores del usuario y evaluación.



Tema 3: Aplicaciones avanzadas.



Se cubrirá una revisión de las aplicaciones de los grandes modelos de lenguaje, que incluyen, entre otros, la generación de texto condicional, los sistemas de preguntas y respuestas, los chatbots, la generación de resúmenes, la traducción automática, etc.



En paralelo a los temas teóricos, se inicia un trabajo final práctico, que se desarrollará a lo largo de todo el curso.

A través de lecturas, tareas y un proyecto final, los estudiantes aprenderán las habilidades necesarias para diseñar, implementar y comprender un sistema de PLN de vanguardia.



El objetivo de la práctica es poder aplicar lo aprendido a distintos problemas y el trabajar la creatividad del alumnado.



En los tipos de docencia, magistral y práctico, se usarán metodologías activas. Esto es, el alumnado participará de manera activa tanto en clase como en el laboratorio.

• Sistema de Evaluación Continua
• Sistema de Evaluación Final
• Herramientas y porcentajes de calificación:
  • Realización de prácticas (ejercicios, casos o problemas) (%): 20
  • Trabajos individuales (%): 30
  • Trabajos en equipo (resolución de problemas, diseño de proyectos) (%): 50

En la asignatura se aplicará el Protocolo sobre ética académica y prevención de las prácticas deshonestas o fraudulentas en las pruebas de evaluación y en los trabajos académicos en la UPV/EHU.



La asignatura tiene dos modos de evaluación: evaluación continua y evaluación final.



La preinscripción en el modo de evaluación continua se realizará al principio del curso. La preinscripción pasará a ser definitiva tras la confirmación de la solicitud por parte del estudiante en las fechas que se establezcan (entre el 60% y el 80% del curso) y previa verificación del rendimiento parcial por parte del profesorado. Si en las mencionadas fechas el/la alumno/a no confirma su inscripción definitiva en evaluación continua se entenderá que renuncia a la misma.





EVALUACIÓN CONTINUA



- 20% Realización de prácticas, casos o problemas

- 30% Presentación y participación activa en el seminario: lecturas, revisión bibliográfica y exposición de trabajos.

- 50% Trabajo en equipo (resolución de problemas, diseño de proyectos, exposición de trabajos, memoria de trabajo, etc.)



Todas las pruebas y actividades mencionadas para la evaluación continua son obligatorias.



Las condiciones para aprobar en la evaluación continua son:

- Presentación y participación activa en el seminario.

- Obtener el 40% del máximo de puntuación en las prácticas

- Obtener el 40% del máximo de puntuación en la presentación y participación activa en clase.

- Obtener el 40% del máximo de puntuación en el proyecto final

- Obtener, tras una media ponderada, el 50% o más del máx. puntaje.



EVALUACIÓN FINAL



20% Realización de prácticas, casos o problemas

30% Prueba escrita

70% Trabajo individual



Para poder presentarse a la prueba escrita, habrá que haber entregado previamente la práctica individual. Todas las pruebas y actividades mencionadas son obligatorias.



Las condiciones para aprobar la evaluación final son:

- Obtener al menos el 40% del máximo. puntuación en la prueba escrita

- Obtener el 40% del máximo. puntuación en las prácticas

- Obtenga el 50% del máximo. puntuación en el proyecto final

- Obtener, tras una media ponderada, el 50% o más del máximo puntaje.



Si la/el alumna/o no realiza la prueba escrita se entiende que renuncia a la evaluación. Si no presentara la práctica, se le evaluaría como no presentado.

EVALUACIÓN FINAL



20% Realización de prácticas, casos o problemas

30% Prueba escrita

50% Trabajo individual



Para poder presentarse a la prueba escrita, habrá que haber entregado previamente la práctica individual. Todas las pruebas y actividades mencionadas son obligatorias.



Las condiciones para aprobar la evaluación final son:

- Obtener al menos el 40% del máximo. puntuación en la prueba escrita

- Obtener el 40% del máximo. puntuación en las prácticas

- Obtenga el 50% del máximo. puntuación en el proyecto final

- Obtener, tras una media ponderada, el 50% o más del máximo puntaje.



Si la/el alumna/o no realiza la prueba escrita se entiende que renuncia a la evaluación. Si no presentara la práctica, se le evaluaría como no presentado.

El material estará disponible en la plataforma virtual (eGela).

Bibliografía básica

Jurafsky D., Martin J.H. Speech and Language Processing (3rd edition draft). An Introduction to Natural Language Processing, Computational Linguistics and Speech Recognition. Prentice Hall, 2018. https://web.stanford.edu/~jurafsky/slp3/



Lewis Tunstall, Leandro von Werra, Thomas Wolf. Natural Language Processing with Transformers, Revised Edition. O'Reilly Media, Inc. ISBN: 9781098136796

Direcciones web

https://github.com/Hannibal046/Awesome-LLM