Las luchas de poder detrás de la IA

El pensamiento de Rahaf Harfoush_

La antropóloga digital, Rahaf Harfoush, comparte en su última serie “The Foush Report. Dispatches From The Digital Frontier”, algunas conclusiones del informe “Governing AI for Humanity”, realizado por el UN Secretary-General's High-Level Advisory Body on AI, órgano consultivo de las Naciones Unidas del que forma parte con otros 38 líderes preeminentes de la IA de 33 países de todas las regiones y múltiples sectores.

Juntos han realizado un exhaustivo análisis, con la participación de más de dos mil expertos interdisciplinares, hasta llegar a formular recomendaciones para la gobernanza internacional de la IA en beneficio de la humanidad. La IA funciona con datos y, al igual que ocurre con los libros, la investigación y los medios de comunicación, la verdadera cuestión es quién los controlaTal y como explica Harfoush: “Si los datos son la base del conocimiento, la IA es la máquina que modifica cómo se utiliza ese conocimiento: quién tiene acceso, quién se beneficia y quién se queda atrás. La IA funciona con datos y, al igual que ocurre con los libros, la investigación y los medios de comunicación, la verdadera cuestión es quién los controla (…). Nuestro informe expone una visión de la IA que es ética, integradora y responsable, pero el verdadero reto es convertir estas ideas en acción”.

Estas son algunas de las conclusiones destacadas por Rahaf:

IA y colonialismo digital

En la actualidad, el desarrollo de la IA se concentra en Silicon Valley y Pekín, configurando sistemas globales sin la participación de todo el mundo. Si no se controla, la IA se convertirá en otra herramienta de colonialismo digital, en la que un puñado de actores controlará los datos, la infraestructura y el futuro de la tecnología.

La recomendación de la ONU de establecer un Panel Científico Internacional sobre IA es un paso hacia la descentralización de la experiencia, pero la gobernanza de la IA debe incluir los sistemas de conocimiento locales, los movimientos de base y las voces excluidas durante mucho tiempo del liderazgo tecnológico.La gobernanza de la IA debe incluir los sistemas de conocimiento locales, los movimientos de base y las voces excluidas durante mucho tiempo del liderazgo tecnológico

¿Quién decide qué es ético?

Las iniciativas éticas sobre IA impulsadas por las empresas suelen ignorar a las personas más afectadas por los prejuicios, la vigilancia y la desinformación. La discriminación algorítmica, la propaganda deepfake y la vigilancia predictiva no son riesgos futuros; están ocurriendo ahora mismo.

El llamamiento de la ONU a realizar diálogos bianuales sobre gobernanza de la IA es importante, pero la ética real debe ser definida por las comunidades más afectadas, no por las salas de juntas corporativas.La ética real debe ser definida por las comunidades más afectadas

El impacto de la IA en el trabajo y la creatividad

La IA no solo está reemplazando puestos de trabajo, sino que está redefiniendo lo que consideramos trabajo. Desde el periodismo a las artes, la automatización está eliminando las habilidades y el trabajo humanos sin consentimiento ni compensación.

La Red de Desarrollo de Capacidades de la ONU (UN’s Capacity Development Network) tiene como objetivo proporcionar formación en IA en regiones subrepresentadas, pero no se trata únicamente de mejorar las cualificaciones de los trabajadores, sino de garantizar que la IA no se convierta en otra herramienta de explotación económica.

¿Quién es dueño de tu vida digital?

Una de las piezas más importantes que faltan en la gobernanza de la IA: ¿a quién pertenecen los datos? En la actualidad, la recopilación de datos impulsada por la IA beneficia a empresas y gobiernos, no a las personas.

En la actualidad, la recopilación de datos impulsada por la IA beneficia a empresas y gobiernos, no a las personasEl llamamiento de la ONU en favor de un Marco Global de Datos de IA (Global AI Data Framework) reconoce este hecho, pero tenemos que ir más allá. Los datos deben ser un derecho humano, no solo un bien económico. La gobernanza de la IA debe basarse en la transparencia, la rendición de cuentas y la protección individual, no solo en los beneficios empresariales.

¿Qué viene después?

La gobernanza de la IA no se limita a la regulación, también tiene que ver con el poder, el trabajo, la cultura y la identidad. Las decisiones que tomemos ahora determinarán si la IA refuerza la desigualdad o crea un mundo digital más justo y equitativo.Las decisiones que tomemos ahora determinarán si la IA refuerza la desigualdad o crea un mundo digital más justo y equitativo

Necesitamos ser más enérgicos, más audaces y más intencionados a la hora de moldear la IA en nuestros propios términos. ¿Debería ser la gobernanza de la IA una prioridad geopolítica? ¿Cómo podemos evitar que la cooperación global se convierta en otra forma de acaparar el poder?

Rahaf Harfoush, antropóloga digital, executive director de "Red Thread, Institute of Digital Culture" y autora de bestsellers.

Publicado en febrero de 2025.