Inteligencia Artificial: ¿intrusión o liberación?

Los teléfonos móviles y los ordenadores se han convertido en una especie de oráculo para todas aquellas personas que, a diario, interactúan con ellos. Tanto es así que, en muchas ocasiones, compartimos con estos dispositivos cosas que tal vez ni siquiera comunicamos a otros seres humanos. Esta forma de actuar ha generado lo que Rahaf Harfoush denomina “intimidad digital”, una corriente que nos obliga a analizar el enfoque que los negocios están dando a la tecnología, para evitar que estos dejen de considerarla únicamente una herramienta. 

Así lo explicó en el pre-evento del 10° Global Peter Drucker Forum 2018 que se celebró recientemente en París, como antesala del acto que tendrá lugar en Viena los próximos 29 y 30 de noviembre, donde Executive Excellence estará presente para contarles lo más novedoso del mundo de la gestión empresarial. Desde estas páginas queremos agradecer a la sociedad Peter Drucker y a su presidente, el Dr. Richard Straub, la invitación a participar en estos eventos como primer medio asociado en castellano, ya que representa la oportunidad de ofrecer a nuestros lectores el contenido del foro de gestión más importante de Europa.

Rahaf Harfoush es antropóloga digital y fundadora de la consultora Red Thread, agencia especializada en proyectos relacionados con la cultura digital. Profesora de innovación y modelos de negocios emergentes en la Universidad de Ciencias Políticas de París (SciencePo), el año pasado fue nombrada como una de las mejores pensadoras para dar forma al mundo del futuro en el festival literario HAY, así como joven promotora del cambio global por el Think Tank del G20. 

Es coautora del bestseller The Decoded Company: Know Your Talent Better Than You Know your Customers, que ganó el Premio Gold Axiom 2015 al mejor libro de tecnología empresarial, y estuvo presente en la lista de libros más vendidos del New York Times y el USA Today. 

Su primer libro, Yes We Did: An Insider’s Look at How Social Media Built the Obama Brand, narra sus experiencias como miembro del equipo de medios digitales de Barack Obama durante las elecciones presidenciales de 2008 y explica cómo las redes sociales revolucionaron la estrategia de campaña política. Actualmente está trabajando en su tercer libro Hustle and Float: Balancing Execution and Inspiration in World of Constant Connection. 

Cultura tecnológica y liderazgo

Como antropóloga digital, mis reflexiones se centran intentar aportar luz en la intersección que existen entre la cultura tecnológica y el liderazgo. Mi objetivo es llegar a comprender cómo la tecnología está influyendo no solo en la forma en la que trabajamos, sino también en la manera en la que vivimos, nos enamoramos, criamos a nuestros hijos o viajamos. Y puedo asegurar que a lo largo de nuestra historia no ha existido un momento tan interesante como el actual. 

Mis estudios se centran en historias reales que trato de entender desde la perspectiva que los cambios tecnológicos generan en el día a día, porque estoy convencida de que a través de este tipo de historias podemos comprender mejor el impacto que la Inteligencia Artificial (IA) está teniendo en nuestras vidas. Para que puedan entender lo que estoy diciendo, les voy a contar la historia de Román, un joven que, desafortunadamente falleció en un accidente automovilístico hace dos años. Tras el suceso, su mejor amiga, Eugenia, quedó devastada. Ella estaba especializada en el uso de algoritmos de IA, y pidió a la familia de Román, y también a su círculo de amigos, que le enviaran todos los mensajes de texto, correos electrónicos, whatsapps, y cualquier otra huella digital que él hubiera dejado. Después, convirtió toda esta información en algoritmos y creó un chatbot que hablaba como Román, y lo transformó en una aplicación a través de la cual se podía conversar con su amigo. 

Esta historia me resulta fascinante, porque desvela gran cantidad de información sobre cómo nuestra identidad puede continuar viva después de la muerte, sobre cómo nos duele, sobre cómo determinadas partes de la vida que estamos construyendo tal vez perduren después de que nos hayamos ido. Y es solo uno de los muchos ejemplos que ilustran cómo la tecnología, y en particular la Inteligencia Artificial, está cambiando nuestra sociedad hasta un punto que ni siquiera imaginamos. 

La era de la intimidad digital

Cuando pensamos en los cambios que nos rodean, a menudo tendemos a centrarnos en las métricas comerciales. Hablamos sobre el porcentaje de automatización, la capacidad de procesamiento, la identificación de patrones o los terabytes de información y, normalmente, determinamos que estos cambios se reflejan e impactan en los métodos de trabajo. Sin embargo, mi labor se centra en descubrir cómo la tecnología influye en nosotros. En conocer, por ejemplo, si existen formas ocultas mediante las cuales determinadas herramientas que todos utilizamos a diario nos manipulan o influyen. 

Creo que la tecnología está teniendo un importante impacto en el tejido social de nuestras vidas. Si lo pensamos con detenimiento, hay muy pocos lugares donde no exista punto de contacto con un dispositivo tecnológico. La tecnología está presente en numerosos ámbitos de nuestra vida, y la utilizamos para decidir desde dónde vamos a comer hasta dónde vamos de vacaciones, pasando por la lista de reproducción musical que escuchamos o el sistema de sonido que vamos a comprar.

Muchos de estos servicios se basan en algoritmos, y debemos comprender que estamos entrando en una era sin precedentes en el ámbito de la intimidad digital. Los datos que se recopilan le están diciendo al mundo, a todas las empresas que hay en él, cosas sobre nosotros que ni siquiera sabíamos: nuestros pasos, nuestros estados de ánimo, nuestros hábitos, nuestros secretos… Se trata de una época de intimidad tecnológica que revela gran cantidad de información verdadera sobre nosotros. 

Piense en cómo usa Google cuando nadie le está mirando. ¡La gente vierte sus secretos en Google como si fuera un oráculo! ¿Estoy enfermo? ¿Qué significan estos síntomas? ¿Cómo equilibro mi cuenta bancaria? ¿Cómo rompo con mi novio? ¡Revelamos gran cantidad de datos sobre nosotros mismos sin ni siquiera pensar en ello!

Es fundamental reflexionar sobre el impacto que estos cambios tan profundos están teniendo en nuestro día a día, porque solo así podremos comprender hacia dónde debemos avanzar y cómo queremos que se construya el mundo, no solo desde el punto de vista personal, sino también desde la perspectiva empresarial. 

Valores y algoritmos, una relación de influencia mutua

Un área muy interesante sobre el que me gustaría incidir es la relación que existe entre nuestros valores como humanos y los algoritmos que estamos construyendo. Existen algoritmos que están influyendo en nuestro comportamiento, al igual que existen comportamientos que influyen en los algoritmos. Uno de los mejores beneficios que ofrece la Inteligencia Artificial es la objetividad que aporta en el proceso de toma de decisiones. No puede cansarse ni cometer errores. No se puede sobornar. Tiene habilidades en cuanto a toma de decisiones muy rápidas y neutrales, y toma decisiones muy rápidas al buscar puntos de datos que a la mente humana le costaría mucho más tiempo analizar para elegir correctamente.

Pero, ¿es esta tecnología realmente neutral? Debemos recordar que nosotros, como sus creadores, tenemos fallos. Nuestros sesgos de información y nuestras deficiencias se transmiten, en muchas ocasiones, a la tecnología. 

El año pasado se realizó un experimento que resultó muy revelador en este sentido. Un experto en Inteligencia Artificial creó un chat en el que introdujo información procedente de libros de texto y documentos históricos. No dio al programa ninguna indicación, simplemente lo instruyó para analizar toda esa información y darle sentido. Pues incluso sin instrucciones, el chat detectó prejuicios raciales y de género en la forma de utilizar el lenguaje y hablar sobre ciertos temas. Por eso, es importante reconocer que estamos introduciendo imperativos morales en las herramientas tecnológicas que usamos. 

Imaginemos que vamos por una carretera conduciendo un vehículo autónomo y, por esa misma vía, circula también un autobús autónomo lleno de niños. En caso de que ocurriera un accidente, el ordenador debería decidir qué vehículo proteger. ¿El autobús con niños o el coche particular? Es una respuesta fácil. Pero, ¿qué pasaría si hubiera que elegir entre tres coches y el autobús? En un automóvil viajaría un hombre de 75 años, en el segundo una joven madre embarazada, y en el último un científico premiado con el Nobel. ¿Por qué coche debería optar el ordenador? No hay una respuesta correcta o incorrecta, porque cualquier decisión estaría basada en los valores de nuestra sociedad, y estos marcarían el algoritmo que establece la respuesta del ordenador.

Debemos ser conscientes de esta realidad, tenerla en cuenta de cara al futuro, y no olvidar que la situación también se extiende a las plataformas sociales. El periodista especializado en tecnología, Nick Bilton, asegura que el CEO de Facebook, Mark Zuckerberg, no se preocupa por la privacidad, una admisión discordante, teniendo en cuenta la cantidad de datos personales que posee la red social. Independientemente de si estamos de acuerdo o no con Zuckerberg, considero que él tiene una visión muy específica de lo que le gustaría que fuera el mundo. El problema es que esta visión, que traslada a su plataforma, ¡influye en 2.000 millones de personas! Cada modificación de algoritmos, y cada nueva característica que introduce, está alineada con su personal visión sobre la privacidad. Particularmente, me gustaría conocer los detalles de esta visión.

Todos estos problemas se están convirtiendo en una prioridad nacional para los gobiernos de muchos países. En Dinamarca, concretamente, han creado una posición diplomática oficial: embajador en GAFA (Google, Amazon, Facebook y Apple). Anders Samuelsen, ministro de Asuntos Exteriores danés, afirma que en los próximos años, Dinamarca tendrá más relaciones bilaterales con el llamado imperio GAFA que con Grecia.

¿Qué nos estamos perdiendo?

Es crítico entender cuál es la perspectiva de estas empresas debido al poder que están adquiriendo, y también por qué nos venden un conjunto muy específico de beneficios que, finalmente, tienen importantes consecuencias a nivel personal. Google decide qué resultados encontramos; Twitter decide qué usuarios se escuchan y Facebook decide qué amistades son importantes. Pero, hay que empezar a hablar sobre lo que nos estamos perdiendo porque, si le damos la vuelta, nos damos cuenta de que Google decide qué resultados se mantienen ocultos, Twitter decide qué usuarios se silencian, y Facebook decide qué amistades se olvidan.

Soy optimista, y estoy convencida de que únicamente debemos modificar la intención que infundimos a las herramientas que utilizamos, porque la Inteligencia Artificial es, al fin y al cabo, la manifestación moderna de nuestro sistema de valores. 

Pero a medida que avanzamos en el diseño de mejores empresas, mejores servicios y mejores productos, debemos preguntarnos si las herramientas y la tecnología que estamos utilizando van en línea con lo que el mundo debería ser. Me parece que, más allá de modelos comerciales y fuentes de ingresos, esta es una pregunta esencial, porque los valores que se incorporen a la tecnología serán los que acaben guiando el mundo en un futuro no muy lejano. 

Rahaf Harfoush, antropóloga digital y fundadora de la consultora Red Thread

Texto publicado en Executive Excellence nº149 jun. 2018