Ética y principios

La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO (2022) establece un conjunto sólido de principios fundamentales para orientar el desarrollo y uso responsable de la IA en todo el mundo. El documento enfatiza la protección de los derechos humanos, la promoción de la transparencia y la equidad, la gestión ética de los datos y la importancia esencial de la supervisión humana de los sistemas automatizados. Asimismo, define amplias áreas de acción dirigidas a responsables públicos y organizaciones, con pautas aplicables a sectores como la educación, la salud, el medio ambiente, la gobernanza o la igualdad de género. Su objetivo es ofrecer un marco global que permita impulsar tecnologías de IA que contribuyan al bienestar social, reduzcan riesgos y favorezcan sociedades más justas e inclusivas.

La herramienta de Evaluación del Impacto Ético de la UNESCO (2023) ofrece una metodología práctica, enmarcada en la Recomendación sobre la Ética de la Inteligencia Artificial (IA), para evaluar si los sistemas de IA se ajustan a principios éticos; tiene dos objetivos principales: por un lado, analizar si los algoritmos están alineados con los valores y directrices establecidos en la recomendación y, por otro, fomentar la transparencia poniendo a disposición de la ciudadanía los sistemas desarrollados y su funcionamiento; la evaluación tiene en cuenta todo el ciclo de vida de la IA e incluye análisis ex ante y ex post, subrayando la importancia de la calidad y representatividad de los datos, la diversidad de los equipos de desarrollo, la robustez y auditabilidad de los algoritmos y las posibilidades de integrar la ética en todas las fases del proceso de desarrollo; es adecuada para su uso tanto en el sector público como en el privado y promueve un desarrollo de la IA alineado con estándares éticos internacionales, garantizando una gestión eficaz de los riesgos y una participación significativa de todos los agentes implicados.

La ‘Metodología de Evaluación de Preparación’ (Readiness Assessment Methodology) de la UNESCO proporciona un marco estructurado para que países y organizaciones evalúen su grado de preparación para aplicar la Recomendación sobre la Ética de la Inteligencia Artificial (IA). Este instrumento examina ámbitos clave como la gobernanza de la IA, la infraestructura tecnológica, las capacidades humanas, la gestión responsable de datos y la solidez de los marcos regulatorios, con el fin de determinar hasta qué punto un entorno está listo para desarrollar y desplegar IA de manera ética. La metodología permite realizar un diagnóstico detallado, identificando fortalezas, brechas y oportunidades de mejora, y ofrece orientaciones prácticas para diseñar políticas públicas eficaces y sistemas confiables. Además, propone líneas estratégicas que ayudan a orientar la inversión, fortalecer instituciones y promover un ecosistema de IA centrado en los derechos humanos, la seguridad, la transparencia y el bienestar social.

Los Principios de IA de la OCDE constituyen el primer estándar intergubernamental diseñado para orientar el desarrollo y uso de la Inteligencia Artificial (IA) de forma innovadora, responsable y respetuosa con los derechos humanos y los valores democráticos. Adoptados en 2019 y actualizados en 2024, se articulan en cinco principios basados en valores y cinco recomendaciones adicionales que ofrecen orientaciones prácticas y flexibles para responsables políticos y actores del ecosistema de la IA. Estos principios promueven la transparencia, la seguridad, la equidad, la rendición de cuentas y el bienestar social como pilares fundamentales para el diseño, implementación y supervisión de sistemas de IA. Su objetivo es proporcionar un marco global que ayude a los países a impulsar una IA confiable y beneficiosa, alineada con estándares internacionales y capaz de responder a los desafíos éticos, técnicos y sociales emergentes.

OECD.AI y GPAI proporcionan políticas, datos y análisis rigurosos destinados a impulsar un desarrollo de la Inteligencia Artificial (IA) que sea seguro, fiable y alineado con los derechos humanos. Estas plataformas ofrecen a gobiernos, investigadores y actores del ecosistema de la IA acceso a evidencia comparada, indicadores internacionales, evaluaciones de políticas públicas y estudios avanzados que permiten comprender la evolución de la IA y sus implicaciones éticas, sociales y económicas. Su labor conjunta promueve la cooperación global, facilita la toma de decisiones informada y ayuda a diseñar marcos regulatorios y estrategias nacionales que fomenten una IA responsable, transparente e inclusiva. En conjunto, constituyen un recurso clave para avanzar hacia sistemas de IA que generen beneficios reales para la sociedad.

Las ‘Directrices Éticas para una IA Fiable’, elaboradas por el Grupo de Expertos de Alto Nivel en IA de la Comisión Europea, constituyen un marco de referencia esencial para promover el desarrollo y uso de la Inteligencia Artificial (IA) de manera ética, segura y respetuosa con los derechos fundamentales. El documento define tres requisitos generales para una IA fiable: que sea legal, ética y robusta. Sobre esta base, establece siete requisitos clave, entre ellos el respeto a la autonomía humana, la prevención del daño, la equidad, la transparencia, la calidad técnica, la seguridad y la responsabilidad. Las directrices incluyen recomendaciones prácticas y listas de verificación que permiten aplicar estos principios a lo largo de todo el ciclo de vida de los sistemas de IA. Se han convertido en una guía influyente tanto en Europa como a nivel global, orientando a responsables políticos, organizaciones y profesionales hacia una IA centrada en las personas y alineada con los valores democráticos.

Las ‘Directrices Éticas sobre el Uso de la Inteligencia Artificial (IA) y los Datos en la Enseñanza y el Aprendizaje para Docentes’ ofrecen un marco claro para promover la integración responsable de la IA y el uso de datos educativos en el ámbito escolar. El documento establece principios orientados a garantizar que estas tecnologías se utilicen de manera segura, transparente y respetuosa con los derechos de los estudiantes. Proporciona a los docentes herramientas para comprender, evaluar y seleccionar soluciones basadas en IA, poniendo especial énfasis en la protección de la privacidad, la seguridad de los datos y la prevención de sesgos o discriminaciones. Asimismo, incluye recomendaciones prácticas para utilizar la IA como apoyo pedagógico, potenciando la personalización del aprendizaje sin comprometer la equidad ni la autonomía profesional del profesorado. Su objetivo es acompañar a las comunidades educativas en la adopción ética y responsable de la IA, asegurando que contribuya positivamente al bienestar y al desarrollo de todos los estudiantes.

Las ‘Guías Vivas sobre el Uso Responsable de la IA Generativa en la Investigación’, publicadas por la Comisión Europea, constituyen un marco de orientación dinámico que ayuda a investigadores e instituciones a integrar la Inteligencia Artificial generativa (IA generativa) de forma ética, segura y alineada con los principios de integridad científica. Estas guías proporcionan recomendaciones prácticas para identificar y gestionar riesgos, garantizar la trazabilidad y veracidad de los contenidos generados, proteger la calidad de los datos y asegurar la responsabilidad en el uso de estas tecnologías en todas las fases del proceso investigador. Incluyen directrices sobre transparencia, citación y reconocimiento del uso de IA, supervisión humana, protección de resultados sensibles y evaluación del impacto ético y social. Al tratarse de ‘guías vivas’, se actualizan de forma regular para adaptarse a la rápida evolución de la IA generativa y a los retos emergentes, convirtiéndose en un recurso esencial para fomentar una investigación innovadora pero firmemente anclada en principios éticos y científicos.