Integridad artificial, la nueva frontera de la IA

 Hamilton Mann_

Cuenta el estratega digital y tecnólogo Hamilton Mann que Warren Buffett dijo una vez: "Cuando necesites contratar personas, buscas tres cualidades: integridad, inteligencia y energía. Y si no tienes la primera, las otras dos te matarán". Mann sostiene que esta afirmación es igualmente aplicable a la IA y que a medida que empezamos a “contratar” potentes máquinas inteligentes para hacer tareas tradicionalmente realizadas por humanos, debemos asegurarnos de que posean algo parecido a lo que llamamos integridad. “La integridad artificial consiste en incorporar principios éticos al diseño de la IA para guiar su funcionamiento y sus resultados, de la misma manera que la integridad humana guía el comportamiento y el impacto incluso sin supervisión externa, para movilizar la inteligencia en pos del bien”, declara. 

Hamilton Mann forma parte de Thinkers50 Radar Class 2024. Es vicepresidente del grupo de marketing digital y transformación digital en Thales, además de profesor en INSEAD, mentor en el MIT Priscilla King Gray Center y autor de Artificial Integrity: The Paths to Leading AI Toward a Human-Centered Future (Wiley).

Con motivo de su nominación como “Radar Thinker”, participó en un encuentro con Stuart Crainer, cofundador de Thinkers50, donde explicó el verdadero reto de la IA, que no es otro que “garantizar sistemas que exhiban capacidades basadas en la integridad, en lugar de buscar una mera inteligencia general o superinteligencia”. Estas fueron sus declaraciones más destacadas:

Digital for Good, un viaje colectivo con matices 

“Cada vez más líderes y empresas en todo el mundo están tomando conciencia y contribuyendo al avance de tecnologías digitales para promover un cambio social positivo, aunque aún queda margen de mejora. A medida que la tecnología evoluciona, también debemos profundizar en nuestra comprensión sobre cómo estas innovaciones abren nuevas oportunidades para influir positivamente en la sociedad.
Conforme la tecnología evoluciona, también debemos elevar nuestro nivel de comprensión sobre cómo se están generando nuevas oportunidades para tener un impacto positivo en la sociedad 

Este es un esfuerzo colectivo, donde participan gobiernos, corporaciones, empresas y cada uno de nosotros, ya que todos tenemos voz y espacio para actuar. Se trata de un trabajo conjunto y transversal. Ya sea uniendo disciplinas, perspectivas o desafiando estereotipos culturales, nuestro gran reto es encontrar la manera de colaborar de forma inclusiva y diversa para aprovechar la inteligencia que surge cuando diferentes visiones se suman y enriquecen.

Si bien existen centros de poder tecnológico concentrados en ciertas regiones, como Estados Unidos, nuestra mirada debe enfocarse en el impacto sistémico de nuestras acciones. La tecnología forma un sistema, pero no uno aislado, sino inmerso en un sistema más amplio: la sociedad y el mundo. Así, aunque esos centros de poder existan, el sistema global en el que operan es la sociedad misma. Esto implica que muchos de nosotros tenemos la capacidad de influir y guiar hacia un futuro donde estas nuevas tecnologías se integren de manera responsable en el tejido social.

La tecnología en sí misma no es inherentemente sostenible ni positiva ni posee el monopolio de la innovación y el progreso

Cuando hablamos de la tecnología como una fuerza para el bien, solemos centrarnos solo en su impacto positivo, lo cual es crucial; sin embargo, implementar estrategias de “digital for good” requiere primero reconocer que la tecnología, por sí sola, no es inherentemente sostenible ni positiva por diversas razones. Una de ellas es su impacto ambiental, un aspecto que no podemos ignorar. Del mismo modo, la tecnología no posee el monopolio de la innovación y el progreso. De hecho, a veces las tecnologías avanzadas pueden representar justamente lo contrario al avance que buscamos.

Por ello, “digital for good” debe comenzar reconociendo los riesgos y las externalidades que pueden surgir de las buenas intenciones al utilizar la tecnología, y encontrando formas de abordarlos y gestionarlos. Esta capacidad de afrontar los desafíos es, para mí, lo que realmente diferencia una buena transformación tecnológica.

Tomemos el ejemplo de la IA: todos sabemos que ofrece grandes oportunidades para la sociedad, pero también implica un consumo significativo de agua y energía, además de generar residuos electrónicos, entre otros. No podemos caer en la simplicidad de ver la tecnología solo como algo “bueno” o “malo”; la realidad es una mezcla de ambas cosas. Debemos identificar los servicios y beneficios que puede aportar, así como su potencial contribución al progreso que buscamos, considerando también todos sus impactos y externalidades negativas.

A menudo se dice que la tecnología es una fuerza para democratizar el conocimiento, y esto es cierto, aunque con matices. Es innegable su valor para compartir información, fomentar el intercambio de ideas y ampliar las oportunidades educativas. No obstante, esto no es una realidad en todos los países. En muchos lugares, el acceso a redes Wi-Fi y dispositivos electrónicos aún no está democratizado.

Reflexionar sobre el poder de la tecnología para mejorar el acceso a la educación también implica reconocer que ciertas regiones quedarán rezagadas, ya que las tecnologías y recursos necesarios no están disponibles o suficientemente extendidos.

Reflexionar sobre el poder de la tecnología para mejorar el acceso a la educación también implica reconocer que ciertas regiones quedarán rezagadas, ya que las tecnologías y recursos necesarios no están disponibles o suficientemente extendidos

Tampoco podemos ignorar que la realidad varía en cada rincón del planeta. Es esencial comprender y adaptarse a los diferentes contextos culturales, sistemas de valores y particularidades de cada situación, evitando los sesgos subconscientes y asegurándonos de no ampliar la brecha digital al creer erróneamente que estamos generando un impacto positivo, pero solo basándonos en nuestra propia perspectiva del mundo.

Integrar tecnología y ética

No existe una única respuesta para integrar de manera ética y alineada con nuestros valores ciertos tipos de tecnología en la vida cotidiana. La inteligencia es valiosa y eficaz para muchas tareas, pero queremos algo más; no tiene sentido actuar de manera inteligente en el vacío, sin ética ni valores. De esto trata el concepto de “integridad artificial”: cómo asegurar que los sistemas y tecnologías que desarrollamos no solo aporten inteligencia, sino que también estén diseñados para ser coherentes con la integridad que necesitamos preservar.
La integridad artificial se traduce en asegurar que los sistemas y tecnologías que desarrollamos e implementamos no solo aporten inteligencia, sino que también estén diseñados para ser coherentes con la integridad que necesitamos preservar

Si observamos tecnologías y aplicaciones de vigilancia, hay países que impulsan su uso por razones de seguridad en un grado que consideran armonioso con sus valores. Esto no significa que no sea ético; es ético desde su perspectiva, cultura y principios. Sin embargo, si intentamos aplicar las mismas tecnologías en otro lugar sin considerar su cultura y valores, no funcionará. Por ello, las comparaciones no siempre son la mejor manera de abordar estos temas. Los avances tecnológicos no pueden aplicarse de forma homogénea; un mismo algoritmo o sistema puede tener significados distintos en China, África o Francia, y debemos respetar estas diferencias.

Es necesario respetar los valores y principios éticos que estructuran cada cultura, pues cada una adaptará los progresos tecnológicos en función de ellos. No obstante, también creo que debemos considerar ciertos valores y principios éticos universales que ayudan a definir esas culturas y que, a veces, construyen puentes entre ellas.
Los avances tecnológicos no pueden abordarse de manera uniforme; el mismo algoritmo o sistema puede significar cosas diferentes en China, África o Francia, y debemos respetar estas diferencias

Este es el reto actual. No se trata solo de desarrollar una IA que sea inteligente y emule nuestras capacidades humanas, sino también de que sea capaz de abrazar la diversidad existente, considerando valores, ética y aspectos culturales. Vivimos en un mundo interconectado y necesitamos algunos principios comunes que nos permitan compartir una visión global de la vida. Este, en mi opinión, es el reto cuando hablamos de aplicaciones tecnológicas como la vigilancia o los drones, entre otros.
Vivimos en un mundo interconectado y necesitamos algunos principios comunes que nos permitan compartir una visión global de la vida

Además, está surgiendo una nueva forma de cooperación que incluirá las contribuciones de los sistemas de IA, los cuales añadirán valor a la ecuación de colaboración y contribuirán a lo que hoy entendemos como inteligencia colectiva humana.

Como personas, muchas veces encontramos desafiante trabajar en equipo y hacer que esa ecuación funcione, donde uno más uno sea igual a tres. Por lo tanto, cuando hablamos de cooperación y colaboración, debemos asegurarnos de ser suficientemente inclusivos para incorporar una nueva forma de inteligencia. Será responsabilidad de nosotros, los seres humanos, determinar la mejor manera de integrarla en el ámbito de la inteligencia colectiva y encontrar el modo más efectivo para lograr esa interacción.

En otras palabras: si pienso en la competencia actual entre muchas empresas por experimentar con la IA y la inteligencia generalizada, considero que las que sobresaldrán no serán necesariamente las que utilicen la IA o las plataformas tecnológicas más avanzadas, sino aquellas que logren integrar esta nueva forma de inteligencia en el sistema general, añadiendo nuevas vías de colaboración y cooperación a la ecuación.

Un futuro alentador

Imaginemos un marco de la integridad artificial representado por un cuadrante donde el eje X simboliza el valor humano añadido, de bajo a alto; y el eje Y representa, de menos a más, el valor añadido por la IA.

Supongamos ahora cómo podría ser el mundo en 2030, considerando estos cuatro cuadrantes. En la parte inferior izquierda, tenemos lo que llamo "el modo marginal", relacionado con actividades en las que sentimos que el valor humano está poco aprovechado. Aquí, la inteligencia humana no se emplea de forma adecuada, lo que genera desmotivación. Este cuadrante ofrece pocas oportunidades para agregar valor mediante tecnologías avanzadas, como la IA, ya que estas tareas no justifican la inversión tecnológica. Así que una pregunta crítica en este punto es cómo podemos evolucionar la fuerza laboral para asegurarnos de emplear la inteligencia humana de manera que impulse el avance.

La respuesta a esta cuestión hace diez años no es la misma que hoy, y, sin duda, será diferente en 2030.

En el siguiente cuadrante inferior, encontramos lo que algunos denominan el "primer tipo de modo humano", donde la inteligencia humana es esencial para alcanzar los resultados deseados. Aunque queremos aprovechar la IA y las nuevas tecnologías, lo que marcará la diferencia entre el éxito y el fracaso será, en gran medida, la implicación humana en el proceso. Una pregunta crítica aquí es: ¿cuáles son esos ámbitos en los que consideramos esencial la presencia del ser humano? Esto abarca sectores tan diversos como la sanidad, entre otros muchos.

En los cuadrantes superiores de este marco, en la parte superior izquierda, tenemos lo que algunos pueden llamar "IA en primer lugar". Este cuadrante resulta muy interesante, ya que aquí se encuentran grandes oportunidades para descubrir soluciones que verdaderamente contribuyan al progreso social. Estas tecnologías e innovaciones en IA nos permitirán resolver problemas que hasta ahora parecían irresolubles, lo cual será muy prometedor.

La pregunta esencial para las sociedades en este cuadrante será: ¿cuáles deben ser nuestras prioridades? ¿Cuáles son los desafíos clave que no podemos resolver solos y en los que deberíamos invertir el poder de estas tecnologías?
El modo fusión combina lo mejor de ambos mundos: el valor que los humanos aportamos en términos de inteligencia y el valor añadido de la IA, que es algo que no podemos alcanzar por nosotros mismos

Finalmente, en la parte superior derecha del cuadrante, se encuentra lo mejor de ambos mundos: el valor que los humanos aportamos en términos de inteligencia y el valor añadido de la IA, que es algo que no podemos alcanzar por nosotros mismos. A este punto lo llamo el "modo fusión". Lo fundamental aquí es cómo crear una armonía, una nueva inteligencia colectiva –como mencionaba antes– en la que máquina y ser humano trabajen juntos. Aún no sabemos exactamente cómo funcionará esta ecuación, pero creo que en los próximos cinco a diez años tendremos algunas pistas claras. Realmente percibo el potencial que tenemos para tomar el control de la tecnología y ayudarla a moldear un mundo mejor para todos”.

Hamilton Mann, vicepresidente Digital de Thales, Thinker Radar 2024 y pionero del concepto Integridad Artificial, con Stuart Crainer, cofundador de Thinkers50.

Imágenes recurso: © Freepik. Publicado en 2024.