Paradojas tecnológicas (y humanas)

Parece no haber límites para el potencial tecnológico, pero a medida que este avanza se van tambaleando algunos de los fundamentos del comportamiento organizativo e individual. ¿Cómo navegar por la actual maraña tecnológica y los enredos éticos y morales que a veces conlleva?

Erica Dhawan, fundadora y CEO de Cotential y autora de Get Big Things Done y Digital Body Language, se propuso encontrar la respuesta como moderadora del panel “Truth, Trust & Tech”, durante la pasada Thinkers50 Awards Gala. Según Dhawan, “los acontecimientos recientes, ya sea el testimonio de los denunciantes (en alusión al caso de Facebook) u otros, han contribuido a un descenso del nivel de confianza en las instituciones públicas y privadas de todo el mundo; las cuales se están viendo obligadas a repensar sus modelos de establecimiento y fomento de la confianza, a la vez que aprenden de algunas de las tecnologías que la propician y que se han convertido en la vanguardia de nuestro mundo moderno. De acuerdo con una estadística reciente, solo el 42% de los ciudadanos de la OCDE expresan su confianza en el gobierno nacional, y entre los jóvenes esa cifra es aún más baja”.

Datos como estos invitan a reflexionar sobre la realidad que vivimos en relación a la verdad, la confianza y la tecnología, y cómo abordar este triunvirato en un escenario digital, para que se convierta en una fuerza positiva para el bien del mundo.

Al respecto, uno de los ponentes, Marshall Van Alstyne –profesor de Sistemas de Información en Questrom School of Business (Boston University), digital fellow del MIT Initiative of Digital Economy y coautor de Platform Revolution–, compartió varias ideas:

Nuevos fenómenos

Las paradojas son realmente interesantes, porque la tecnología es un facilitador democratizador maravilloso, que por ejemplo permite que cualquiera pueda convertirse en editor y difundir contenido –ahí tenemos el caso de la Primavera árabe–; pero al mismo tiempo facilita la propagación de información errónea, información anti-vacunas, anti-climática... Es decir, tiene una doble naturaleza y puede ser mal utilizada; algo que, por el momento, no está regulado. La tecnología tiene una doble naturaleza y puede ser mal utilizada

En cierto modo, algunos de los problemas actuales son novedosos en relación con lo hemos visto en el pasado. No es solo una cuestión de grado, sino que están surgiendo fenómenos completamente nuevos. Por ejemplo, podemos estar recibiendo mensajes confidenciales o secretos a gran escala, como ocurre en las campañas políticas; y eso es algo que no consiguen hacer los medios de difusión, impresos o la radio. Algunas de estas cosas, junto con las deep fake technologies (tecnologías que usan el aprendizaje con IA con la intención de crear contenido falso) pueden lograr que la gente vea o haga cosas que nunca habrían hecho o nunca habrían dicho. Estamos ante una tecnología completamente distinta que da lugar a fenómenos nuevos.

Con toda honestidad, las noticias falsas han existido desde hace mucho, mucho tiempo. Irónicamente, hay frescos babilónicos de hazañas de reyes que no sucedieron en realidad. Así que los emperadores han estado mintiendo sobre sus logros durante siglos y rememorándolos en tablas de piedra.

Las noticias falsas y las mentiras de ese tipo han existido siempre, pero hay elementos relacionadas con ellas que son diferentes. Uno de los problemas es que la enorme capacidad de democratización de la tecnología permite que cualquiera puede ser “periodista”, pero sin tener que responsabilizarse de lo que dice. Bajo la actual ley de la Sección 230, las plataformas (grandes tecnológicas) no son responsables y hay tal descentralización que es realmente difícil ir tras ellas. Así que si miles de individuos están propagando información errónea sobre quién ganó las elecciones o sobre el cambio climático, es complicado ir tras ellos y la Sección 230 exime a las plataformas como amplificadoras de esa desinformación. La Sección 230 exime a las plataformas como amplificadoras de la desinformación

Otra cuestión diferencial con respecto al pasado es la capacidad de poder susurrar mensajes a escala. Ahora un político puede cuchichear a miles de personas sin que el político adversario pueda responder, o sin que ni siquiera pueda saber que esos mensajes se han producido. Por lo tanto, no se puede hacer frente a la desinformación como antes.

Actualmente, Facebook afirma que está creando bases de datos de información pública. Una de las cosas que aprendimos del trabajo –suspendido por la compañía tecnológica–que investigadores de la Universidad de Nueva York trataron de hacer para rastrear el origen y la difusión de anuncios políticos en Facebook es que faltaban cien mil anuncios; y esos son solo los que se documentaron como desaparecidos. Definitivamente, creo que el secreto de la mensajería encubierta a gran escala es algo inédito; como también lo es, por supuesto, las deep fakes. He visto esos “maravillosos” vídeos de Trump hablando en chino y dirigiéndose a un público chino... y son realmente asombrosos. Por lo tanto, tenemos matices relacionados con las noticias falsas que no veíamos antes y estamos presionando a nuestras instituciones de formas desconocidas hasta hoy.

Las tecnológicas en el punto de mira

Erica llamaba la atención sobre los testimonios de los denunciantes en los últimos años. Como decía, todos conocemos los casos de los ex empleados denunciantes de Facebook. Hemos visto los informes y leído los artículos y tengo que decir que para mí esto fue absolutamente fascinante. Creo que, en cierto sentido, es como “el momento cigarrillo de Facebook”, algo así como “el mismo perro con distinto collar”. Está claro que Facebook ha estado operando en un modelo de adicción exactamente de la misma manera que las compañías tabacaleras hicieron en el pasado, y finalmente estamos recibiendo pruebas de ello. Facebook ha estado operando en un modelo de adicción exactamente de la misma manera que las compañías tabacaleras hicieron en el pasado

También me resulta asombroso el hecho de que sabían lo que estaba sucediendo y trataron de ocultar esa información. Realmente no son dignos de confianza y resulta muy difícil tener fe en ellos. Sabemos que han estado utilizando los datos para su propio beneficio privado, para la construcción de modelos de negocio basados en la adicción y la explotación. Merecen alguna condena y necesitan una intervención reguladora y una supervisión que no han estado dispuestos a tolerar.

Igualmente me resulta fascinante cómo Facebook prohibió las cuentas de los científicos de investigación de la Universidad de Nueva York que habían obtenido el permiso de los usuarios para monitorear el contenido que la plataforma les había mostrado, con el fin de analizar la transparencia en los anuncios políticos y la difusión de información errónea dentro de la red social. Finalmente, Facebook canceló sus cuentas, aduciendo que estaban defendiendo la privacidad de los usuarios y que incluso en el caso de que los anunciantes estuviesen difundiendo información errónea, los usuarios tenían posibilidad de decidir sobre ella… Pues bien, ahora ni siquiera les están ofreciendo las herramientas para tomar las decisiones sobre la información que está siendo sesgada. Es una situación horrible, una clara violación de la confianza. La plataforma ha estado utilizando información para su propio beneficio

Necesitamos poner en marcha mecanismos para que sepamos cómo se nos trata y observa. Casi necesitaríamos una especie de Carta Magna de plataformas sobre los derechos de los ciudadanos. Suelo bromear con que somos como surfistas en los dominios de Bezos y Zuckerberg sin derecho a voto, y creo que lo necesitamos. Son aspectos en los que debemos avanzar e implementar mayores derechos para los ciudadanos y más supervisión, para que podamos conseguir que nuestra información sea tratada con el máximo respeto.

También es cierto que la tecnología avanza muy deprisa y a un ritmo cada vez mayor, y eso significa que empuja contra las restricciones institucionales tradicionales. La tecnología tiende a romper los límites muy rápido y surgirán nuevos problemas vinculados con ella a una velocidad superior que en otros ámbitos. Es algo que yo mismo experimento a título personal, pues como docente de tecnología tengo que actualizar cada dos meses mis casos, mientras que muchos de mis colegas no lo hacen con tanta frecuencia. La tecnología tiende a romper los límites muy deprisa y surgirán nuevos problemas vinculados con ella a una velocidad superior que en otros ámbitos

Una relación fiduciaria 

Me gustaría hacer un par de reflexiones sobre la desinformación y las noticias falsas. Participo de la idea de que para abordar las soluciones a este problema habrá que buscar primero las causas, qué es lo que motiva a las personas a promover algo así. Un extremo fácil son aquellos que lo hacen por puro beneficio económico, bien porque estén recaudando fondos para una campaña política o porque están recibiendo dólares de la publicidad. Básicamente, están tratando de monetizar cada globo ocular. Estos son, en cierto modo, los más sencillos, porque se pueden usar sanciones económicas para hacer frente a los incentivos económicos. Bastante sencillo.

Un poco más difíciles son las intervenciones soberanas externas, como Putin al tratar de transmitir mensajes usando no del todo la desinformación, sino intentando privar de derechos a los votantes y sirviéndose de información real para generar división y rivalidad. Pero en realidad es una intervención no soberana que también podemos tratar de evitar.

Sin embargo, los más complicados son los ciudadanos ideólogos que tienen derecho a hablar y que están propagando desinformación. No podemos simplemente cerrarles el paso, como lo haríamos con Putin, y no podemos llamarlo desinformación, porque tienen derecho a hablar, especialmente en algunas cuestiones políticas. Esos son los que resultan especialmente perjudiciales. En muchos casos, creo que tenemos que poner mayor presión en los mentirosos. Según varias investigaciones científicas, las noticias falsas viajan más lejos, más rápido, más profundo y más ampliamente que la verdad en todas las categorías de información. ¿Por qué? Porque se amplifican… gracias a las redes sociales. Las plataformas se acogen a la Sección 230 sobre la no responsabilidad de lo que sus usuarios publican, pero asumen el papel de amplificar. Conseguir que las plataformas reviertan la amplificación de la desinformación es incompatible con su modelo de enriquecimiento

Si consiguiésemos que las plataformas no amplificasen, sino que revirtiesen esa amplificación de la desinformación, la gente podría seguir hablando, pero ellas no tendrían el propósito de amplificar la desinformación, que es lo que está generando un grave problema. Sin embargo, eso no es compatible con un modelo de negocio de adicción y enriquecimiento. Aquí es donde creo que necesitamos algunas intervenciones y ahondar en las motivaciones que hacen que se esté produciendo algo así.

Otra cuestión que quiero mencionar es que, en mi opinión, la naturaleza del problema es ligeramente diferente de lo que la mayoría de la gente piensa. Muchos consideran que en las noticias falsas la naturaleza del problema es la falsedad. Yo creo que no. Para mí el origen está en lo que yo llamaría error de decisión o externalidades negativas. Si lo piensas, la falsedad no importa si no se cree. La verdad no importa si no se cree. Son los errores de decisión los que ocurren. Lo mismo sucede con las medias verdades. ¿Cómo se trata la media verdad? Bueno, no importa si una media verdad no causa una decisión equivocada; pero sí importa si lo hace.

Además, las plataformas son terribles a la hora de lidiar con las externalidades. El propio Mark Zuckerberg dijo en su testimonio ante el Congreso: "No tuvimos una visión suficientemente amplia de nuestras responsabilidades". Esa es sencillamente la definición de una externalidad. Están sucediendo cosas fuera que son negativas, y no se están ocupando de ellas. Esto nos obliga a tener una visión ligeramente diferente sobre cómo enmarcar el problema de los errores de decisión que esta información está generando y también sobre el exterior. Los daños han sucedido y necesitamos dirigir algunos mecanismos económicos para que funcione.

Un último apunte al respecto, volviendo a la confianza y la tecnología. Creo que deberían actuar más como fiduciarios, entendiendo esto como alguien que tiene tu mejor interés en el corazón. En este caso, como alguien que te da la información para que tomes las mejores decisiones, en lugar de darte la información que más le interesa. 

Las plataformas deberían actuar más como fiduciarios, entendiendo esto como alguien que te da información para que tomes las mejores decisiones, en lugar de darte la información que más le interesa

Hasta ahora, lo que ha sucedido es que las plataformas están difundiendo la información que va en su mejor interés, no en el nuestro; cuando podrían tratar de hacer que a las personas les fuera mejor. ¿Qué información se puede ofrecer que ayude a los individuos a tomar las decisiones que más les interesan? Eso es lo que deberían preguntarse y esos son los incentivos que deberíamos poner en la plataforma para que hagan lo correcto.

Tratar a todos los demás si fueras su fiduciario supone tratarles con tanto respeto que les das la mejor información posible para ayudarles a ser lo mejor que puedan para que sean capaces de tomar las mejores decisiones por sí mismos. Desde mi punto de vista, conseguir un tipo de modelo que vele por el interés del otro haría que todos estuviésemos mejor, fomentaría la confianza, y también la creación de riqueza. Por eso, volvería a replantear el problema desde la limitación del error de decisión y la reducción de las externalidades; y de hecho es algo en lo actualmente estoy investigando.

Dar más de lo recibido

Comparto la idea de que los verdaderos líderes son realmente buenos en hacer que la gente que está a su alrededor mejore. En cierto modo, creo que la confianza en la tecnología tiene una perspectiva paralela, pues si observamos a las empresas de plataforma vemos cómo también hacen que las empresas asociadas a su alrededor sean mejores. Por este motivo, a menudo llamamos a estas plataformas empresas invertidas, en la medida en que ayudan a crear valor fuera de ellas mismas. La única forma de lograr que personas a las que no conoces te aporten ideas que no tienes es creando más valor del que capturas

La única forma de conseguir que personas a las que no conoces te aporten ideas que no tienes es creando más valor del que capturas. Si lo haces, la gente se acercará e invertirá; pero no pueden hacerlo si no confían en ti. Por lo tanto, se trata de tener un enfoque externo en la creación de valor. Si nos fijamos en la relación entre el valor de mercado y los empleados, comprobaremos que las empresas de plataforma son extraordinarias.

En una de nuestras investigaciones, observamos que aquellas que utilizaron la tecnología y abrieron sus API, es decir, que literalmente adoptaron un enfoque hacia el exterior en sus API, ganaron un 36% más durante 16 años. Mientras que las que no lo hicieron se contrajeron. Contamos con datos empíricos que demuestran que estas cosas funcionan. Siendo una empresa abierta, es posible atraer información externa a tu organización y los otros pueden tomar tu información y construir sobre ella

Muchas empresas son capaces de hacer mejorar a sus proveedores tanto en la forma en que construyen las API, como en el modo en que los atraen y comparten datos, siendo radicalmente transparentes. Hay toda una maravillosa literatura de innovación abierta al respecto. Siendo una empresa abierta, es posible atraer información externa a tu organización y los otros pueden tomar tu información y construir sobre ella. Es decir, hay un flujo de información y difusión tanto de dentro como de fuera. En este sentido, la manera en que utilices esos datos para habilitar y apoyar a terceros, en lugar de para espiarlos o explotarlos, determinará si confían o no a la hora de brindarte información.

Marshall Van Alstyne, profesor de Sistemas de Información en Questrom School of Business (Boston University), digital fellow del MIT Initiative of Digital Economy y coautor de Platform Revolution.

Foto Facebook de Glen Carrie en Unsplash

Publicado en Executive Excellence, septiembre 2022.