Ética de la inteligencia artificial según la UNESCO: análisis, valores y retos en la era digital

La inteligencia artificial (IA) está transformando todos los rincones de nuestra vida cotidiana a una velocidad notable, desencadenando avances impensados en la salud, la educación, la investigación y la interacción social. Sin embargo, el vertiginoso desarrollo de estas tecnologías plantea desafíos éticos, sociales, legales y políticos que nos obligan a repensar la relación entre las máquinas inteligentes y el ser humano. Ante este contexto, la UNESCO ha asumido el liderazgo mundial al establecer el primer instrumento normativo global dedicado a la ética de la inteligencia artificial, brindando un marco ético, inclusivo y sostenible que guía a los Estados miembros, a las instituciones y a la sociedad en su conjunto.

En este artículo, conocerás de manera rigurosa y natural cómo la UNESCO ha enfrentado el complicado panorama ético que plantea la inteligencia artificial. Analizaremos la Recomendación sobre la ética de la inteligencia artificial, aprobada por unanimidad en noviembre de 2021, desgranando sus valores, principios, áreas de acción política y el papel que juega la educación, la igualdad, la cooperación y la protección de los derechos humanos en el desarrollo y uso responsable de la IA. Además, profundizaremos en los retos actuales, las tensiones entre el progreso tecnológico y las exigencias éticas, y cómo se promueve un enfoque deliberadamente humano del progreso digital.

¿Por qué surge la preocupación por la ética en la inteligencia artificial?

El desarrollo acelerado de la IA ha traído consigo oportunidades sin precedentes, pero también preocupaciones éticas profundas. Entre los beneficios se encuentran la mejora en diagnósticos sanitarios, el acceso a una educación personalizada o herramientas para salvaguardar la diversidad cultural. Al mismo tiempo, surgen riesgos inherentes relacionados con el funcionamiento y el uso abusivo de estos sistemas inteligentes: la reproducción e amplificación de sesgos, la erosión de la privacidad, el aumento de la desigualdad y la amenaza potencial a los derechos humanos y a la dignidad individual.

Los sistemas de IA, al ser capaces de aprender, percibir, predecir, planificar y tomar decisiones, pueden llegar a influir significativamente en cómo pensamos, interactuamos y escogemos en la vida cotidiana. Así nace la necesidad de establecer un marco universal de valores y principios que sirva de brújula ética tanto para quienes desarrollan estas tecnologías como para quienes las usan o son afectados por ellas.

El origen de la Recomendación de la UNESCO sobre ética de la inteligencia artificial

La UNESCO, convencida de la urgencia y el alcance global del reto, inició en 2019 la elaboración de un instrumento normativo internacional sobre la ética de la inteligencia artificial, involucrando a expertos técnicos, jurídicos y éticos de todo el mundo. Durante este proceso, se buscó la consulta y participación de organismos gubernamentales, académicos, sociedad civil, sector privado y minorías culturales, con el fin de lograr un consenso multicultural y multidisciplinar.

Finalmente, en noviembre de 2021, la 41ª Conferencia General de la UNESCO aprobó por unanimidad la Recomendación sobre la Ética de la Inteligencia Artificial. Este instrumento es reconocido como el primero de su clase con validez global y responde directamente a los retos que emergen de la transformación digital mundial. Puedes consultar el documento oficial desde la web de la UNESCO.

Principios rectores e inspiración de la Recomendación

La Recomendación parte de los ideales de cooperación internacional, diversidad y dignidad humana, presentes desde los orígenes de la UNESCO. Tiene como referencia la Declaración Universal de los Derechos Humanos y otros instrumentos jurídicos internacionales de protección del individuo y de la comunidad.

Se busca, según la UNESCO, fomentar el respeto universal a la justicia, la ley, los derechos humanos y las libertades fundamentales, usando la educación, la ciencia, la cultura y la comunicación para consolidar la paz y la seguridad mundial en la era digital. El enfoque es, por tanto, global, flexible, multicultural y abierto a la evolución de los desafíos y soluciones, estableciendo una reflexión normativa sistemática para que la ética sea una referencia dinámica en la evaluación, gestión y uso de la IA.

Valores clave en el marco ético de la inteligencia artificial

La Recomendación de la UNESCO fundamenta toda su propuesta en cuatro grandes valores, sobre los que pivota el resto de principios y acciones:

• Dignidad humana, derechos humanos y libertades fundamentales: Todo desarrollo, diseño y uso de IA debe respetar la integridad, la privacidad y el bienestar de las personas.
• Diversidad e inclusión: La IA debe promover la igualdad, combatir la discriminación y potenciar la participación inclusiva, respetando la pluralidad social, biológica y cultural.
• Prosperidad del medio ambiente y los ecosistemas: La sostenibilidad ambiental debe ser prioritaria en cualquier estrategia o aplicación de IA, con pleno respeto por las generaciones futuras.
• Sociedades pacíficas, justas e interconectadas: Se defiende el acceso equitativo al conocimiento, el fomento de la justicia social y la cooperación solidaria para que nadie quede excluido del avance tecnológico.

Diez principios de la ética de la IA según la UNESCO

Además de los grandes valores, la Recomendación recoge diez principios que permiten aterrizar esos valores en acciones concretas:

1. Proporcionalidad y no maleficencia: Toda acción relativa a la IA debe ser proporcional a los beneficios y riesgos previstos, anteponiendo la prevención del daño.
2. Seguridad y protección: Los sistemas de IA deben diseñarse para prevenir daños físicos, psicológicos, sociales, económicos y medioambientales.
3. Derecho a la privacidad y protección de datos: La privacidad es innegociable y el tratamiento de datos debe respetar la dignidad y la libertad de los usuarios.
4. Transparencia y explicabilidad: Es fundamental que los procesos y decisiones de la IA sean comprensibles y auditables, garantizando la rendición de cuentas.
5. Responsabilidad y deber de rendir cuentas: Desarrolladores, empresas y gobiernos deben asumir la responsabilidad sobre los posibles impactos de los sistemas de IA.
6. Igualdad, equidad e inclusión: Se prohíbe toda forma de discriminación o exclusión por razón de género, etnia o condición social, promoviendo la accesibilidad universal.
7. Convivencia sostenible y respeto al medioambiente: El desarrollo de IA debe ser amigo del planeta, compatibilizando el avance tecnológico con la protección ambiental y ecosistémica.
8. Participación y deliberación: Las partes interesadas, incluyendo la ciudadanía y los grupos minoritarios, deben intervenir activamente en la toma de decisiones relacionadas con la IA.
9. Cooperación internacional: Hay que reforzar la solidaridad mundial para compartir conocimientos, experiencias y beneficios, facilitando el acceso equitativo a la IA.
10. Innovación y mejora continua: Se apuesta por la investigación y el desarrollo responsable, propiciando la retroalimentación y adaptación constante del marco ético ante nuevos retos.

Tensiones entre innovación tecnológica y regulación ética

Una de las cuestiones más complejas abordadas por la UNESCO es la tensión inevitable entre la velocidad de la innovación y la necesidad de regulación ética y jurídica. El progreso científico y la intención de delimitar el comportamiento de la IA a través de normativas puede dar lugar a fricciones, especialmente cuando algunos principios chocan entre sí, como sucede al conjugar la transparencia con la privacidad, o la seguridad y la libertad de expresión.

En la Recomendación se propone una evaluación contextualizada y flexible de estas tensiones, poniendo en primer lugar los derechos y libertades fundamentales, y recomendando la deliberación social y ética como garantía de soluciones proporcionadas, legítimas y duraderas.

Estructura de la Recomendación de la UNESCO: once ámbitos de acción estratégica

El texto aprobado por la UNESCO va mucho más allá de disposiciones generales: establece once áreas específicas de acción política para orientar a los países en la aplicación del marco ético a todos los ámbitos impactados por la IA:

• Evaluación del impacto ético: Valoración sistemática y multidimensional de los riesgos y beneficios en cada fase de los proyectos de IA.
• Gobernanza y administración ética: Establecimiento de normativas, directrices y comités de control para reforzar la ética en la toma de decisiones.
• Política de datos: Protección rigurosa de los datos personales y regulación del acceso, el uso y el procesamiento de la información.
• Desarrollo y cooperación internacional: Fomento de la colaboración multilateral para un equilibrio en el acceso y disfrute de los beneficios de la IA, sobre todo en países en desarrollo.
• Medio ambiente y ecosistemas: Evaluación y mitigación del impacto ambiental de los sistemas de IA, priorizando iniciativas ecológicas y sostenibles.
• Género: Promoción activa de la igualdad de género y superación de brechas tecnológicas y educativas para lograr una IA realmente inclusiva.
• Cultura: Respeto y protección de la diversidad cultural en el diseño, implementación y aplicación de la IA.
• Educación e investigación: Impulso de la formación y alfabetización en IA, integración de la ética en todos los niveles educativos, y apoyo a la investigación interdisciplinaria.
• Comunicación e información: Fortalecimiento de las competencias digitales, libertad de expresión, acceso a la información veraz y combate a la desinformación.
• Economía y trabajo: Transición laboral responsable, adaptación de las competencias profesionales y creación de oportunidades equitativas.
• Salud y bienestar social: Garantía de un uso ético de la IA en la sanidad y la atención a las personas, priorizando siempre el interés general y la seguridad.

El papel de la educación y la investigación en la ética de la IA

El ámbito de la educación y la investigación es uno de los pilares de la Recomendación de la UNESCO y se considera esencial para garantizar el empoderamiento ciudadano y la reducción de las desigualdades digitales. La IA está llamada a transformar el aprendizaje, la enseñanza y la investigación en todas las disciplinas. Por ello, la UNESCO exige a sus Estados Miembros impulsar programas para:

• Alfabetización en inteligencia artificial: Formar a personas de todas las edades y formaciones en competencias básicas, digitales, de pensamiento crítico y éticas vinculadas a la IA.
• Reducción de la brecha digital: Prestar especial atención a países, zonas o sectores vulnerables donde existen carencias educativas o acceso limitado a la tecnología.
• Iniciativas de investigación responsable: Animar a docentes, científicos y empresas a investigar y divulgar las buenas prácticas en inteligencia artificial con enfoque ético y humanista.
• Integración de la ética en la formación: Desarrollo de planes de estudio y materiales didácticos sobre la ética de la IA en todos los niveles y disciplinas, adaptados a las lenguas y realidades locales.
• Apoyo a la investigación interdisciplinar: Fomentar la colaboración entre ciencias tecnológicas, ciencias humanas y sociales, y disciplinas como la filosofía, la sociología, la psicología y el derecho.

Recomendaciones prácticas sobre la ética de la IA en educación

La UNESCO aboga no solo por una formación técnica, sino también por el desarrollo de habilidades socioemocionales, trabajo en equipo y pensamiento crítico, así como por el respeto a la privacidad de los estudiantes y docentes. Resulta crucial promover actividades de sensibilización sobre los avances, oportunidades y riesgos de la IA, con programas accesibles para todos.

Se exige que toda implantación de sistemas de IA en el ámbito educativo garantice que apoyan el proceso de aprendizaje sin menoscabar las capacidades cognitivas de los estudiantes ni recopilar información sensible fuera de la normativa de protección de datos. También hay que fomentar el acceso equitativo de mujeres, minorías étnicas, personas con discapacidad y otros colectivos tradicionalmente excluidos a programas de formación y liderazgo en IA.

Investigación responsable y ética

La investigación sobre IA debe guiarse por los valores éticos más elevados y promover buenas prácticas entre el sector público y privado. Para ello se recomienda invertir recursos públicos y privados en proyectos centrados en la ética de la IA, capacitar a los investigadores en responsabilidad ética, transparencia y respeto a la privacidad, así como facilitar el acceso seguro a datos científicos provenientes del sector privado, asegurando la protección de la privacidad.

También se impulsa el desarrollo de investigaciones interdisciplinares, integrando enfoques más allá de la tecnología, como la educación, la ética, las humanidades, la filosofía, la sociología, la lingüística y el derecho. Así se fomentan políticas sólidas y consistentes que respondan tanto a los beneficios como a las limitaciones y riesgos de la IA.

Libertad de expresión, acceso a la información y el reto de la desinformación

Los sistemas de IA han cambiado la manera en que accedemos, procesamos y compartimos la información. La UNESCO resalta la importancia de utilizar la IA para mejorar el acceso al conocimiento, fortalecer la libertad de expresión y garantizar la diversidad de voces, tanto en la academia como en los medios y en la vida pública.

Los Estados tienen la responsabilidad de garantizar que los algoritmos y sistemas de moderación automática respeten la libertad de expresión, la privacidad y el derecho de acceso a la información, evitando dictaduras algorítmicas o censuras injustificadas. Los marcos regulatorios deben fomentar la transparencia, la pluralidad informativa y ofrecer mecanismos de recurso para usuarios afectados por decisiones automáticas.

Igualmente, se apunta la necesidad de invertir en competencias digitales, alfabetización mediática e informacional para fortalecer el pensamiento crítico, y así combatir eficazmente la desinformación, la manipulación de la opinión pública y los discursos de odio facilitados por sistemas automatizados.

Gobernanza, responsabilidad compartida y mecanismos de supervisión

La gobernanza de la inteligencia artificial requiere concertación y regulación a todos los niveles: local, nacional e internacional. La UNESCO aconseja que los Estados Miembros adopten mecanismos de seguimiento y control, acompañados de normativas y comités de ética que defiendan la transparencia, la explicabilidad y la rendición de cuentas de todos los actores involucrados.

Considerando el carácter transversal y global de la IA, se propone el establecimiento de observatorios internacionales que permitan medir el cumplimiento de las normas éticas y servir de espacio de intercambio de buenas prácticas. La cooperación multilateral y el acceso equitativo a la tecnología deben garantizarse, sobre todo para evitar desigualdades y discriminaciones que perjudiquen a países menos avanzados o a comunidades marginadas.

Inclusión social, género y protección de las minorías en la ética de la IA

Uno de los retos más acuciantes es garantizar que el avance tecnológico no sirva para acentuar la exclusión o reproducir desigualdades persistentes. En ese sentido, la UNESCO establece acciones concretas para fomentar la representación activa de las mujeres, grupos étnicos diversos, personas con discapacidad, minorías culturales y sectores desfavorecidos en la educación, la investigación y la explotación profesional de la IA.

Además, exige la integración de la perspectiva de género en todas las políticas, el fomento de la diversidad cultural y lingüística en la creación y uso de sistemas inteligentes, y la necesidad de respetar y proteger los conocimientos y valores endógenos de cada sociedad.

Dimensión medioambiental: IA y desarrollo sostenible

La sostenibilidad ambiental es, para la UNESCO, un aspecto irrenunciable en cualquier despliegue de tecnologías inteligentes. La IA puede servir para proteger la biodiversidad, gestionar mejor los recursos naturales o detectar y anticipar riesgos ambientales, pero también puede provocar un uso intensivo de energía y materias primas, acelerando el cambio climático y la degradación ecosistémica si no se gestionan adecuadamente.

Se recomienda que toda política de desarrollo e implantación de IA contemple mecanismos de evaluación ambiental e incentivos para la investigación y promoción de tecnologías verdes, así como la colaboración internacional ante los desafíos globales de sostenibilidad.

Economía, trabajo y justicia social en tiempos de IA

La inteligencia artificial promete aumentar la productividad, transformar el empleo y crear nuevas oportunidades económicas. Sin embargo, estas oportunidades pueden distribuirse de manera desigual y provocar la desaparición o precarización de empleos tradicionales si no se acompaña la transición con nuevas políticas públicas.

La UNESCO impulsa, en este sentido, la formación continua y el reciclaje profesional, así como la elaboración de estrategias inclusivas para el desarrollo económico que vayan de la mano de las transformaciones impulsadas por la IA. Destaca la urgencia de prever marcos regulatorios que protejan los derechos de los trabajadores y garanticen el acceso equitativo a los beneficios del progreso.

Salud y bienestar social bajo el prisma de la ética

El sector sanitario es uno de los más beneficiados por la inteligencia artificial, pero también uno de los más sensibles en cuanto a privacidad y ética. La UNESCO exige que toda implantación de IA en la salud humana cumpla con los más altos estándares éticos, priorizando el interés del paciente, la protección de los datos personales y el respeto de la autonomía individual.

Asimismo, insta a la administración pública y a las empresas a promover el acceso equitativo a soluciones médicas inteligentes, evitando la exclusión de colectivos vulnerables y asegurando la equidad, calidad y seguridad en la atención sanitaria.

Cooperación internacional y cooperación intercultural como motor ético

Uno de los objetivos esenciales de la Recomendación es construir un enfoque global y multidisciplinar, que involucre a todos los países y actores sociales en el ciclo de vida de la IA. Nadie puede afrontar en solitario los retos y oportunidades de la IA, y menos aún garantizar la justicia y equidad digital.

Por ello, la UNESCO promueve iniciativas como el Diálogo Global sobre la Gobernanza de la IA, donde gobiernos, expertos y sociedad civil debaten y consensuan soluciones para la gobernanza responsable de las tecnologías inteligentes. Estas acciones permiten compartir experiencias, promover la investigación conjunta y difundir las mejores prácticas, reforzando la solidaridad digital y la igualdad de oportunidades a escala mundial.

Vigilancia constante, revisión y adaptación de la Recomendación

Conscientes de la naturaleza evolutiva del ámbito digital, la UNESCO prevé mecanismos de seguimiento, evaluación y actualización periódica de sus directrices éticas. Se anima a los Estados Miembros a revisar y adaptar las normativas y prácticas a raíz de la experiencia, los avances tecnológicos y el dialogo abierto con los actores sociales y económicos. Así se garantiza que la Recomendación mantenga su vigencia, utilidad y legitimidad a lo largo del tiempo y de los cambios acelerados del entorno digital.

Aplicación de la Recomendación: actores clave y responsabilidades

La responsabilidad en la aplicación de la ética de la IA recae en toda la sociedad, pero los Estados Miembros tienen un papel central en la legislación y el impulso de políticas educativas, sociales y económicas alineadas con estos principios. Se recomienda la implicación activa de empresas, investigadores, medios de comunicación, universidades, trabajadores y ciudadanía, salvaguardando los intereses generales y promoviendo el desarrollo sostenible, justo e inclusivo. Las universidades y centros educativos, por ejemplo, deben adoptar un enfoque transversal e interdisciplinar en sus programas formativos, combinando capacitación técnica y humanista, y colaborando con otros agentes para difundir y hacer operar la ética en cada etapa del ciclo vital de la IA.

Diversidad de perspectivas: inclusión de conocimientos locales y valores culturales

La UNESCO pone especial énfasis en la protección de la diversidad cultural, el respeto a las comunidades indígenas y la integración de conocimientos tradicionales en la elaboración y uso de soluciones de IA. Los países menos avanzados tecnológicamente o en situación de vulnerabilidad han estado tradicionalmente infrarpresentados en la conversación digital global. Es clave, entonces, fomentar la inclusión de sus voces, sistemas de conocimiento, y prioridades, asegurando que la ética de la IA refleje y promueva la pluralidad del mundo.

El diálogo social y la participación ciudadana en la construcción ética

Para que la ética de la inteligencia artificial sea legítima y efectiva necesita el concurso activo de la ciudadanía: es necesaria la deliberación amplia y plural, el diálogo social, la consulta pública y la transparencia en la toma de decisiones sobre IA. Deben establecerse marcos que permitan a los usuarios comprender y opinar sobre las decisiones automatizadas que les conciernen, promoviendo el debate público como parte del ciclo vital de la regulación tecnológica.

Impacto futuro y perspectivas de la ética de la IA en la UNESCO

La Recomendación sobre la ética de la inteligencia artificial de la UNESCO marca un antes y un después en la gobernanza digital internacional. Sirve no solo para analizar políticas públicas, sino también para inspirar la creación de nuevas leyes, códigos de conducta y programas educativos en todos los rincones del planeta.

A futuro, todo apunta a que las discusiones éticas en IA cobrarán aún más relevancia, renovando continuamente el debate sobre la privacidad, la automatización laboral, la distribución de beneficios sociales, la protección del medioambiente y la participación informada de la ciudadanía.

La ética de la inteligencia artificial según la UNESCO se consolida como una brújula esencial para encauzar el desarrollo tecnológico hacia el bien común, la justicia social y la sostenibilidad global. Las oportunidades de la IA se abren ante nosotros, pero su impacto sólo será verdaderamente positivo si se avanza desde una perspectiva ética, inclusiva y participativa, que integre la voz de todos los sectores de la sociedad y respete los valores fundamentales de la humanidad.

IA y ética: principios, retos y soluciones para un futuro responsable