Sinan Aral: el mercado de las ideas en un mundo algorítmico

La digitalización ha cambiado drásticamente la concepción del mercado de las ideas, tal y como lo conocíamos, debido a la capacidad de los medios sociales para amplificar el mensaje y su alcance. “Todos tenemos derecho a decir lo que pensamos, pero ¿cómo se relaciona nuestro discurso con su amplificación a través de los algoritmos y la tecnología, cómo podemos garantizar un buen mercado de ideas?”, se preguntó Sinan Aral durante su intervención en la Thinkers50 Awards Gala.

Desde su origen, el mercado de ideas constituye uno de los argumentos más esgrimidos en la tradición jurídica occidental y su fundamentación sostiene que la libre expresión de ideas y opiniones contribuye a la conquista del conocimiento y la verdad, deviniendo, por tanto, en vehículo para alcanzar la libertad en un estado democrático. Su exposición más célebre se remonta a principios del siglo XX, tal como fue formulada en 1919 por el Juez de Tribunal Supremo norteamericano Oliver W. Holmes, en su opinión disidente del caso “Abrams v. United States”. La creencia de que la verdad surgirá de la competencia de las ideas en un discurso público libre y transparente se tambalea en el siglo XXI.

Según Aral, profesor David Austin de Management, Marketing, IT y Data Science en MIT: “En nuestra investigación de todas las noticias verificadas –verdaderas y falsas– que alguna vez se difundieron en Twitter desde 2006 hasta 2017, es decir, diez años de datos, encontramos que las falsas viajan más lejos, más rápido, más profundamente y más ampliamente que la verdad en cada categoría de información que analizamos, y que las noticias falsas políticas eran las más virales”, explicó. "Eso indica que el mercado de ideas no está funcionando de la manera que debería, o de la manera que pensamos que podría ser, y ahora debemos reflexionar con rigor sobre cómo rediseñarlo en presencia de algoritmos, de modo que funcione para nosotros y para la humanidad. Eso fue lo que me llevó a centrar mi investigación en lo que yo llamo The Hype Machine;  o, en otras palabras: el complejo industrial de los medios sociales, que abarca las diversas plataformas –desde Twitter Facebook, Snapchat, LinkedIn, Instagram, etc.– y las empresas de terceros que apoyan este ecosistema”. 

Otras formas de interacción

La propagación de las noticias falsas y la forma en que se mueven las ideas tiene que ver, en parte, con la manera en que interactuamos como humanos. “Se trata de un problema sociotécnico en su sentido más profundo. Sabemos, a través de la literatura sociológica, que ganamos estatus cuando compartimos información novedosa, porque se nos considera conocedores o con acceso a información privilegiada que nuestros amigos no tienen y, por lo tanto, tenemos esta tendencia instintiva a compartir cosas que son sorprendentes. En nuestro estudio descubrimos que, de hecho, las noticias falsas eran más novedosas que las verdaderas, lo que sugiere que la gente era más propensa a compartir información novedosa. Estas noticias falsas inspiraban miedo, aversión y sorpresa en las respuestas; de modo que la conmoción y el asombro nos inspiran a compartir, atraen nuestra atención. La forma en que tratamos las noticias falsas es parte de la solución”. Dicho de otra forma, el estudio demostró que el grado de novedad y las reacciones emocionales de los receptores pueden ser responsables de la propagación de noticias falsas.

La compleja simbiosis entre bots y humanos es la que realmente amplifica las noticias falsas

Además de haberse alzado con el premio "Thinkers50 2021 Digital Thinking" (precisamente por haberse "adentrado en las redes sociales más grandes y poderosas para abordar hasta qué punto estas dan forma a nuestras elecciones, para bien o para mal"), Sinan Aral también dirige el MIT Initiative on the Digital Economy (IDE), donde algunos de sus investigadores, como Dave Rand y Dean Eckles, han analizado cómo los impulsos a favor de la precisión y la exactitud pueden reducir el intercambio y la creencia en las noticias falsas, y en consecuencia la propagación de la desinformación online (NdR. Dicho estudio descubrió que la veracidad de los titulares tiene poco efecto en las intenciones de compartir, a pesar de tener un gran efecto en los juicios de exactitud. Esta disociación sugiere que compartir no indica necesariamente que se crea. Sin embargo, la mayoría de los participantes afirmaron que es importante compartir solo noticias precisas. Para arrojar luz sobre esta aparente contradicción, se llevaron a cabo cuatro experimentos con encuestas y un experimento de campo en Twitter. Los resultados mostraron que el cambio sutil de la atención a la precisión aumenta la calidad de las noticias que la gente comparte posteriormente. Junto con otros análisis computacionales, estos resultados indican que la gente suele compartir información errónea porque su atención se centra en factores distintos a la exactitud).

Por su parte, el trabajo sobre Twitter llevado a cabo por Sinan Aral y su equipo reveló que, cuando quitaban los bots y los volvían a poner, efectivamentes estos aceleraban la amplificación de las fake news, pero también de las noticias verdaderas. En contra de la opinión generalizada, las noticias falsas se difunden más porque son los humanos, y no los robots, los más propensos a difundirlas. Por eso, “es esta compleja simbiosis entre bots y humanos la que realmente amplifica las noticias falsas. La transparencia algorítmica es esencial. The Hype Machine está dirigida por algoritmos que ‘optimizan’ la participación humana teniendo en cuenta gran cantidad de datos que determinan, por ejemplo, de quién somos amigos, qué leemos, los tipos de información a la que estamos expuestos, incluso con quién salimos. De hecho, en 2013, las parejas formadas vía algoritmos superaron a aquellas que se habían conocido a través de los medios tradicionales de reunión, lo que significa que estos algoritmos están cambiando potencialmente la evolución genética de la humanidad”.

Los algoritmos están cambiando potencialmente la evolución genética de la humanidad

Qué se puede hacer

En 2019, la socióloga y profesora emérita de Harvard Business School, Shoshana Zuboff, escribió la aclamada obra The Age of Surveillance Capitalism. En ella desgranaba los desafíos que el futuro digital planteaba a la humanidad, alertando de una forma de poder sin precedentes, llamada "capitalismo de vigilancia", y la búsqueda de información personal (y su venta al mejor postor, por ejemplo, a los gobiernos) por parte de las poderosas empresas tecnológicas, con el fin de predecir el comportamiento humano, y controlarlo o modificarlo.

En opinión de Sinan Aral, “Zuboff dio un toque de atención sobre los daños potenciales que la tecnología de los medios sociales podía causar a la sociedad. Sin embargo, al mismo tiempo, no paramos de hablar de los beneficios que la tecnología ha representrado para la humanidad. La verdadera cuestión es cómo podemos alcanzar la promesa de este tipo de tecnología y evitar el peligro”.

Necesitamos un mercado que realmente permita que las mejores ideas lleguen a la cima, sin ser amplificadas algorítmicamente ni compradas por las fuerzas del mercado

Al respecto, el profesor de MIT apunta dos soluciones: competencia y transparencia. “Sin competencia, los consumidores no tienen elección ni se puede avanzar en el diseño de tecnologías que sí están alineados con los valores de la sociedad. Si las grandes corporaciones ganan dinero a manos llenas y aplastan la innovación, o la compran sin permitir que las empresas emergentes reciban el oxígeno que necesitan para ofrecer nuevas soluciones a los problemas de la sociedad, eso va a ser un gran inconveniente. También debemos entender cómo funcionan los algoritmos, para descubrir en qué se equivocan y en qué aciertan. No pueden ser simplemente una caja negra, opaca y encerrada dentro de las empresas. Cuando los algoritmos salen a la luz de forma transparente, se puede innovar más dentro de la organización, pero también entre organizaciones.

Obviamente, queremos un mercado de ideas, pero sabemos que esa noción de discurso versus alcance no funciona para crear innovación. Necesitamos un mercado que realmente permita que las mejores ideas lleguen a la cima, sin ser amplificadas algorítmicamente ni ser compradas, por ejemplo, por las fuerzas del mercado.

Hay mucho trabajo que hacer en torno a la competencia, la transparencia y el intento de equilibrar los beneficios de la palabra y los daños potenciales del alcance algorítmico”.

NO TE PIERDAS más opiniones de Sinan Aral, en conversación con AMY WEBB.

Sinan Aral, profesor David Austin de Management, IT, Marketing y Data Science en MIT, director de MIT Initiative on the Digital Economy (IDE) y socio fundador de Manifest Capital, durante la Thinkers50 Awards Gala.

Foto de apertura: © Dominick Reuter/MIT y foto interior: © Melanie Gonick/MIT

Artículo publicado en mayo de 2022.