La difícil convivencia entre IA y transparencia, por Amy Webb y Sinan Aral

Si pensamos que diariamente nuestros datos son utilizados para entrenar sistemas de Inteligencia Artificial y tomar millones de decisiones en nuestro nombre, que nos enfrentamos a la desinformación en forma de bots en las redes sociales o que la biología sintética está a punto de cambiar nuestras vidas, puede que el miedo –o la fascinación–nos invadan. Y solo existe una forma de aplacarlos: con transparencia.

Thinkers50 congregó a dos grandes expertos digitales, como son Sinan Aral y Amy Webb, para profundizar en el propósito de la transparencia (algorítmica) y analizar el estado actual de este valor en alza que, paradójicamente, encuentra en la tecnología a su enemigo más perverso. 

Sinan Aral es profesor David Austin de Management, IT, Marketing y Data Science en MIT, donde además dirige la Initiative on the Digital Economy (IDE). Socio fundador de Manifest Capital y autor de The Hype Machine, en 2021 fue reconocido por Thinkers50 con el Digital Thinking Award. 

Amy Webb es futurista cuantitativa, profesora en NYU Stern School of Business y fundadora y CEO de The Future Today Institute. Autora de varios libros, en el más reciente: The Genesis Machine se sumerge en los entresijos de la biología sintética, la próxima gran tecnología que “promete revelar cómo se crea la vida y cómo se puede recrear, permitiendo a los científicos reescribir las reglas de nuestra realidad”. 

UN DUDOSO MERCADO DE IDEAS  

SINAN ARAL: Todos tenemos derecho a decir lo que pensamos, pero ¿cómo se relaciona nuestro discurso con su amplificación a través de los algoritmos y la tecnología, cómo podemos garantizar un buen mercado de ideas? 

En nuestra investigación de todas las noticias verificadas –verdaderas y falsas– que alguna vez se difundieron en Twitter desde 2006 hasta 2017, es decir, diez años de datos, encontramos que las falsas viajan más lejos, más rápido, más profundamente y más ampliamente que la verdad en cada categoría de información que analizamos, y que las noticias falsas políticas eran las más virales. Eso indica que el mercado de ideas no está funcionando de la manera que debería, o de la manera que pensamos que podría ser, y ahora debemos reflexionar con rigor sobre cómo rediseñarlo en presencia de algoritmos, de modo que funcione para nosotros y para la humanidad. 

Debemos reflexionar con rigor sobre cómo rediseñar el mercado de las ideas en presencia de algoritmos

Eso fue lo que me llevó a centrar mi investigación en lo que llamo The Hype Machine; en otras palabras: el complejo industrial de los medios sociales, que abarca las diversas plataformas –desde Twitter, Facebook, Snapchat, LinkedIn, Instagram, etc.– y las empresas de terceros que apoyan este ecosistema.

AMY WEBB: Efectivamente, estoy de acuerdo en que solo un puñado de empresas (The Big Nine) controlan el suministro global de datos que están construyendo los algoritmos que trían y dirigen nuestra atención a diferentes lugares y, en consecuencia, dichas empresas ostentan un gran control sobre nuestra vida cotidiana. 

En este momento, las grandes tecnológicas, no nuestros gobiernos, son las que investigan y construyen nuestro futuro

En este momento, las grandes tecnológicas (Amazon, Google, Apple, IBM, Microsoft, Facebook, Baidu, Alibaba y Tencent), no nuestros gobiernos, son las que investigan y construyen nuestro futuro. Son sus marcos de IA, sus nubes, sus dispositivos, sus servicios y productos en los que ahora todos confiamos. La IA no es una tecnología de moda. Estamos, literalmente, enredados en ella, porque son nuestros datos los que se utilizan para entrenar los sistemas de inteligencia artificial, crear aplicaciones futuras y tomar millones de decisiones en nuestro nombre, tanto pequeñas como importantes. Por lo tanto, no podemos tratar la IA como si fuera cualquier otra tecnología. Estamos pidiendo a las máquinas que elijan por nosotros, y se espera que aceptemos el resultado de esas decisiones, ya sea en el ámbito de la banca, la atención médica, el transporte, la defensa nacional, la seguridad...  

Con respecto al mercado de ideas, me gustaría que reflexionásemos sobre lo que sucede cuando este se automatiza. En GitHub, un popular repositorio de código para los desarrolladores, ahora propiedad de Microsoft, existe una herramienta llamada Copilot. Se trata de una especie de asistente programador de IA que ayuda a completar el código. Según una investigación reciente, alrededor del 30% del código en GitHub está siendo escrito por este piloto automático, o Copilot, y no parece que haya mucha transparencia en la procedencia de esos autocompletados. ¿De dónde viene el código? ¿Quién entrenó los datos? ¿Y qué sucede cuando el producto final conseguido por esta tecnología de asistencia difiere de lo que habría hecho el ser humano por sí mismo? Esto nos aboca a un porvenir de respuestas turbias y confusas, donde tendremos que vivir con los resultados del determinismo algorítmico. No digo que debamos temer a los robots, pero sí desconfiar de las personas a cargo de ellos. 

LOS HUMANOS DETRÁS DE TODO 

A.W.: Creo que la humanidad se enfrenta a una crisis existencial, porque nadie está abordando una cuestión simple que ha sido fundamental para la IA desde sus inicios: ¿Qué le ocurre a la sociedad cuando transferimos el poder a un sistema construido por un pequeño grupo de personas que está diseñado para tomar decisiones para todos? ¿Qué pasa cuando esas decisiones están sesgadas hacia las fuerzas del mercado o hacia un partido político ambicioso?  

S.A.: La propagación de las noticias falsas y la forma en que se mueven las ideas tiene que ver, en parte, con la manera en que interactuamos como humanos. Se trata de un problema socio-técnico en su sentido más profundo. Sabemos, gracias a la literatura sociológica, que ganamos estatus cuando compartimos información novedosa, porque se nos considera conocedores o con acceso a información privilegiada que nuestros amigos no tienen y, por lo tanto, tenemos esta tendencia instintiva a compartir cosas que son sorprendentes. En nuestro estudio descubrimos que, de hecho, las noticias falsas eran más novedosas que las verdaderas, lo que sugiere que la gente era más propensa a compartir información novedosa. Estas noticias falsas inspiraban miedo, aversión y sorpresa en las respuestas; de modo que la conmoción y el asombro nos inspiran a compartir, atraen nuestra atención. La forma en que tratamos las noticias falsas es parte de la solución. Dicho de otra forma, el estudio demostró que el grado de novedad y las reacciones emocionales de los receptores pueden ser responsables de la propagación de noticias falsas.

El grado de novedad y las reacciones emocionales de los receptores pueden ser responsables de la propagación de noticias falsas

En contra de la opinión generalizada, no son únicamente los bots los que consiguen difundir las fake news, sino que somos los humanos los más propensos a hacerlo; y esto es algo que pudimos demostrar en nuestra investigación. Por eso, una compleja simbiosis entre bots y humanos es lo que realmente amplifica las noticias falsas.

La transparencia algorítmica es esencial. The Hype Machine está dirigida por algoritmos que ‘optimizan’ la participación humana teniendo en cuenta gran cantidad de datos que determinan, por ejemplo, de quién somos amigos, qué leemos, a qué tipo de información estamos expuestos, incluso con quién salimos. De hecho, en 2013, las parejas formadas vía algoritmos superaron a aquellas que se habían conocido a través de los medios tradicionales de reunión, lo que significa que estos algoritmos están cambiando potencialmente la evolución genética de la humanidad. 

ALGORITMOS Y GENES

A.W.: Detengámonos un instante en el aspecto genético, porque creo que lo merece. El hecho de que los algoritmos de “emparejamiento” sean ahora más responsables de cómo nos reunimos y lo que sucede después que los medios tradicionales de reunión revela algo profundo. Se puede pensar en la información como unos y ceros, ya que viaja a través de Internet, pero también hay otra forma de información: la de nuestro código genético, la información ATCG (adenina, timina, citosina y guanina), que son los componentes que conforman nuestro ADN y que también están siendo determinados a medida que avanzamos por sistemas informáticos y algoritmos en un nuevo y floreciente campo de la ciencia, llamado biología sintética. El objetivo aquí es entender la vida de una manera fundamental, como una especie de reingeniería para tener propósitos potencialmente mejores o más mejorados.

Los componentes que conforman nuestro ADN también están siendo determinados por sistemas informáticos y algoritmos en un nuevo y floreciente campo de la ciencia: la biología sintética

Sé que todo el mundo está pensando en los bebés de diseño, pero en realidad existen aplicaciones más prácticas e inmediatas. A día de hoy, estamos muy habituados a dar muestras genéticas en forma de prueba COVID, pero hace algo más de dos años ya era posible ir a una tienda de comestibles, conseguir un hisopo y al poco obtener tu perfil de ADN, el cual podías llevar a modo de pulsera en la muñeca. En función de esa información, la tienda te iba guiando y aconsejando en la compra; es decir, tal vez tú querías comer zanahorias, pero de acuerdo a tu perfil lo más recomendable era que comieses apio.

Esta nueva forma de determinación, que se sirve de nuestra información genética o biométrica personal, es un área completamente nueva y tiene el potencial de, a través de una manera más ambiental, empujar e influir en las decisiones que tomamos. Hay una estadística aleccionadora al respecto. Recientemente, un estudio preguntaba a los estadounidenses cuánto costaría para ellos vender los derechos de su ADN y la respuesta fue impactante: ¡95 dólares! La gente está dispuesta a vender sus datos genéticos a un tercero sin tener absolutamente ninguna idea de lo que podría pasar con ellos después. Efectivamente, hoy nos enfrentamos a la desinformación en forma de bots en las redes sociales, lo que representa un problema; pero lo que me preocupa, especialmente como futurista, es lo que ocurrirá dentro de unos años cuando el ámbito de la desinformación se amplíe para incluir los datos genéticos.

La gente está dispuesta a vender sus datos genéticos a un tercero sin tener absolutamente ninguna idea de lo que podría pasar con ellos después

Y ese es el tema de mi último libro, The Genesis Machine. La biología sintética revolucionará la forma en que definimos a la familia, cómo identificamos las enfermedades y tratamos el envejecimiento, dónde construimos nuestros hogares y cómo nos alimentamos. Este campo de rápido crecimiento, que utiliza computadoras para modificar o reescribir el código genético, ha creado soluciones revolucionarias e innovadoras, como las vacunas mRNA COVID, la fecundación in vitro y las hamburguesas cultivadas en laboratorio que saben como si fueran reales. Nos da opciones para enfrentar amenazas existenciales: cambio climático, inseguridad alimentaria y acceso a combustible. Pero este rediseño de la vida también plantea riesgos significativos y dilemas morales. 

Si vamos un paso más atrás, nos damos cuenta de que estamos hablando de transparencia algorítmica. Sabemos que parte del problema aquí emana de las personas que diseñaron los sistemas, pues cada una de ellas tiende a representar su punto de vista.

BUSCANDO LA LUZ

S.A.: Hace tiempo que la profesora Zuboff advirtió de los daños potenciales que la tecnología de los medios sociales podía causar a la sociedad. Al mismo tiempo, no paramos de hablar de los beneficios que esta ha representado para la humanidad. Creo que la verdadera cuestión es cómo podemos alcanzar la promesa de este tipo de tecnología y evitar el peligro.

En el IDE (MIT Initiative on the Digital Economy), hemos calculado que Facebook crea alrededor de 370 mil millones de dólares en excedentes de los consumidores cada año solo en EE.UU. Imaginemos lo que consigue a nivel mundial, donde están más del 80% de los consumidores de la plataforma. Eso se traduce en acceso a puestos de trabajo, acceso a información de salud que salva vidas, acceso a nuevas relaciones que pueden funcionar… Los fundadores de “Black Lives Matter” dicen que no habría movimiento sin los medios sociales. La gran pregunta entonces es: ¿qué hacemos para lograr la promesa y evitar el peligro? 

Mi opinión es que hay al menos un par cosas que deben hacerse. La primera es tener competencia. Sin ella, los consumidores no tienen elección ni se puede avanzar en el diseño de tecnologías que sí están alineadas con los valores de la sociedad. Si las grandes corporaciones ganan dinero a manos llenas y aplastan la innovación, o la compran sin permitir que las empresas emergentes reciban el oxígeno que necesitan para ofrecer nuevas soluciones a los problemas de la sociedad, eso va a ser un gran inconveniente. 

La segunda es transparencia. Necesitamos entender cómo funcionan los algoritmos, para descubrir en qué se equivocan y en qué aciertan. No pueden ser simplemente una caja negra, opaca y encerrada dentro de las empresas. Cuando los algoritmos salen a la luz de forma transparente, se puede innovar más dentro de la organización, pero también entre organizaciones.

Cuando los algoritmos salen a la luz de forma transparente, se puede innovar más dentro de la organización, pero también entre organizaciones

Obviamente, queremos un mercado de ideas, pero sabemos que esa noción de discurso versus alcance no funciona para crear innovación. Necesitamos un mercado que realmente permita que las mejores ideas lleguen a la cima, sin ser amplificadas algorítmicamente ni ser compradas, por ejemplo, por las fuerzas del mercado. Por lo tanto, hay mucho trabajo que hacer en torno a la competencia, la transparencia y el intento de equilibrar los beneficios de la palabra y los daños potenciales del alcance algorítmico. 

Hay mucho trabajo que hacer en torno a la competencia, la transparencia y el intento de equilibrar los beneficios de la palabra y los daños potenciales del alcance algorítmico

A.W. Creo que vale la pena empezar a pensar en la IA como un bien público en el que la competencia todavía puede florecer, y hemos de encontrar la manera de incentivar a las empresas para que colaboren en el mejor interés público. 

Yo propongo una Alianza Global para el Aumento de la Inteligencia (GAIA), una especie de Bretton Woods revisado donde todos tengan participación. Creo que la forma de resolver estos problemas es económica, no punitiva.

Este organismo internacional incluiría a investigadores de IA, sociólogos, economistas, teóricos de juegos, futuristas y politólogos de todos los países socios. Los miembros de GAIA reflejarían la diversidad socioeconómica, de género, racial, religiosa, política y sexual. Estarían de acuerdo en facilitar y cooperar en iniciativas y políticas de IA compartidas, y con el tiempo ejercerían suficiente influencia y control para prevenir un apocalipsis.

Puede parecer imposible unir a los gobiernos del mundo en torno a una causa central, dado el rencor político y la inquietud geopolítica que estamos experimentado; pero hay un precedente. Después de la Segunda Guerra Mundial, cuando las tensiones aún eran elevadas, cientos de delegados de todas las naciones aliadas se reunieron en Bretton Woods para construir las estructuras financieras que permitieron que la economía global avanzara. Esa colaboración estuvo centrada en el ser humano: dio como resultado un futuro en el que las personas y las naciones podían reconstruir y buscar la prosperidad.

Pues bien, las naciones de GAIA deberían colaborar en marcos, estándares y mejores prácticas para la IA. 

S.A.: Yo soy escéptico por una razón: las noticias del último año acerca del splinternet (también llamado balcanización de Internet o ciberbalcanización, es una forma de Internet dividida en base a diferentes factores) son muy reales. Vemos por un lado el gran cortafuegos de China, que bloquea Internet en esa parte del mundo. Vemos a Rusia instalando cajas negras en los servidores de los proveedores de servicios de Internet que regulan el contenido y amenazando con multar (y expulsar) a Apple, Google y otros, si no eliminan de sus tiendas la aplicación creada por Navalny. También observamos actitudes similares en la India, que amenaza con regular las redes sociales y otros tipos de empresas tecnológicas. 

En conclusión, las diferentes regiones del mundo se están dividiendo y fracturando, y la nueva Internet es diferente según donde estés. Los ciudadanos de Europa, Estados Unidos, Rusia, China o India ven una realidad completamente diferente en muchos temas. La idea de cómo resolver problemas globales, como el cambio climático y otros grandes desafíos que requieren tener modelos mentales comunes, se vuelve desalentadora cuando se piensa que Internet está fracturada en estas regiones geográficas.

Amy Webb, futurista cuantitativa, profesora en NYU Stern School of Business y CEO de The Future Today Institute, y Sinan Aral, profesor en MIT, director de MIT IDE y socio fundador de Manifest Capital, durante la Thinkers50 Awards Gala.

Foto de apertura de Amy Webb: © Elena Seibert, interiores: © GMR Photography & Film | Gerry Mayer-Rohrmoser.

Publicado en Executive Excellence n180 mayo 2022.