Siete reflexiones sobre la IA, de un filósofo tecnólogo

El pensamiento de David Weinberger_

“No siempre podemos entender lo que sucede a nuestro alrededor, y no siempre necesitamos hacerlo”. El filósofo tecnólogo David Weinberger nos enfrenta a esta realidad incómoda al hablar de la IA, un campo de la ciencia de la computación que redefine nuestra forma de relacionarnos con el conocimiento y la comprensión.

Desde los primeros días de la Web, el doctor David Weinberger ha sido un pionero en la reflexión sobre el efecto de la tecnología en nuestras vidas, nuestros negocios y, sobre todo, en nuestras ideas. El trabajo y pensamiento de este conferenciante y escritor estadounidense, cuyo nombre alcanzó fama global como coautor del Manifiesto Cluetrain, invita a una reflexión pausada. Al abordar el impacto de la IA, nos sitúa ante un escenario espinoso a la par que inevitable: “Somos creadores y al mismo tiempo estamos siendo creados por la tecnología que estamos construyendo. Es una relación muy inestable –expone–. Creo que, literalmente, no podemos predecir con certeza lo que será la IA, pero tampoco lo que seremos nosotros”.No podemos predecir con certeza lo que será la IA, pero tampoco lo que seremos nosotros

A continuación, se presenta una selección de siete reflexiones en torno a la IA, recogidas de varias publicaciones y conferencias públicas en las que David Weinberger ha compartido recientemente sus impresiones.

1. La IA desafía la definición de "creencia verdadera justificada"

Weinberger explica que la IA desmantela nuestra definición tripartita del saber, si acordamos como cierta la definición que Platón estableció del conocimiento como una “creencia verdadera y justificada”.

Prácticamente, todo lo que sabemos lo sabemos sin entenderlo completamente, sostiene el experto. Buena parte de lo que conocemos, no lo entendemos en absoluto. Esto es algo común en la vida cotidiana. Por ejemplo, cuando se hace publicidad en Internet, es habitual realizar pruebas A/B, donde se presentan versiones levemente diferentes de un anuncio (con la imagen del producto a la izquierda o derecha, con el color de fondo cambiado, etc.) para ver cuál genera más clics. Aunque este método es efectivo, rara vez sabemos por qué una versión es mejor que la otra. No hay una ciencia detrás de las pruebas A/B; simplemente se prueba y se observa el resultado. Así operamos en muchos aspectos de la vida, en un mundo no solo sobrecargado de información y desarrollos rápidos, sino también caótico. Buena parte de lo que conocemos, no lo entendemos en absoluto

Weinberber afirma que la IA nos proporcionar conocimiento sin una justificación comprensible y produce resultados que a menudo carecen de una explicación clara.

2. La IA revela un mundo mucho más desordenado e impredecible de lo que asumíamos…

Recuerda el tecnólogo que los humanos nos hemos entendido a nosotros mismos en relación a nuestra tecnología. En el siglo XVII, cuando los relojes eran la tecnología punta, el universo empezó a parecerse al mecanismo de un reloj. Si avanzamos rápidamente hasta la era de Internet, vemos que todo se parece a una red; y ahora estamos en la era de la IA, una tecnología que nos desafía y plantea interrogantes sobre nuestra capacidad de planificación y comprensión. Podríamos pensar en un mundo basado en el efecto mariposa que se asocia con la teoría del caos, donde un efecto diminuto puede, a través de formas impredecibles, causar grandes perturbaciones inesperadas o beneficios. La causalidad no lineal es una de las características de la teoría del caos, lo cual significa que una causa, bajo determinadas condiciones, puede tener efectos completamente diferentes a los previstos; lo que hace que los efectos de una causa sean más impredecibles y difíciles de comprender de lo que pensábamos en el pasado, cuando entendíamos el mundo como una máquina.Lejos de ser un fenómeno aislado, la impredecibilidad es una condición normal en la vida de los seres humanos

Pensemos, por ejemplo, en el fenómeno de los vídeos virales y cómo una causa pequeña puede desencadenar grandes efectos en ciertas condiciones. El popular reto del "Ice Bucket Challenge" (balde de agua helada), que surgió hace algunos años, recaudó 150 millones de dólares para una buena causa. Sin embargo, ni siquiera los expertos en marketing pueden explicar por qué algo como verterse agua fría en la cabeza se volvió viral; simplemente sucedió. Weinberger llama la atención sobre esta impredecibilidad que, lejos de ser un fenómeno aislado, es una condición normal en la vida de los seres humanos.

3. Pero la IA puede identificar patrones complejos y realizar predicciones

Si bien todo el mundo está interconectado de maneras tan complicadas que resulta imposible hacer predicciones precisas, los modelos de IA sí pueden descubrir patrones que los humanos no pueden interpretar fácilmente, priorizando la precisión sobre la comprensión. De hecho, la IA funciona porque abraza esta complejidad y, para hacerlo, ignora todo lo que nosotros consideramos conocimiento.Los modelos de IA sí pueden descubrir patrones que los humanos no pueden interpretar fácilmente, priorizando la precisión sobre la comprensión

Un modelo de IA puede detectar patrones en vastas cantidades de datos y hacer predicciones precisas, aunque no comprendamos cómo llega a esas conclusiones. Pongamos por caso que un sistema de IA predice que hay un 75% de probabilidad de que una persona desarrolle diabetes tipo 2 en cinco años. El doctor no podrá explicar por qué se llegó a esa cifra, pero aun así es probable que el paciente siga la recomendación médica. De igual modo, si damos a la IA un millón de historiales médicos cuidadosamente anonimizados y dejamos que encuentre las correlaciones en los datos, localizará correctamente la correlación entre fumar y cáncer, aunque no todo el mundo que fuma tiene cáncer de pulmón. Hay otros factores implicados, y es relativamente probable que la IA descubra cuáles son y por qué aumentan la probabilidad. Es increíble; no sabemos cómo, pero funciona. Usamos constantemente esta tecnología en nuestro día a día, desde las recomendaciones de rutas en Google Maps hasta los pronósticos meteorológicos, confiando en que “funciona".

Sin embargo, opina el tecnólogo, necesitamos que el funcionamiento de la IA sea explicable en ciertas áreas, como la justicia, donde no podemos confiar en un sistema que no entendemos; a pesar de que en muchos otros ámbitos no precisemos de esa explicabilidad. Cree Weinberger que, a medida que la IA se vuelva más confiable, su inexplicabilidad será cada vez más aceptada. A medida que la IA se vuelva más confiable, su inexplicabilidad será cada vez más aceptada

4. La complejidad de los modelos de IA puede ocultar sesgos

La inexplicabilidad de estos sistemas significa que pueden ocultar sesgos perniciosos. Esa es una razón importante por la que se están realizando tantas investigaciones para hacer que la “caja negra” de la IA sea más comprensible.

No obstante, considera que es igualmente importante asumir que el mundo en el que vivimos es otra "caja negra". Todo está interconectado y no podemos entender cada detalle. Como humanos, estamos acostumbrados a buscar causas simples y efectos claros para gestionar nuestra vida, pero la realidad es mucho más compleja.Como humanos, estamos acostumbrados a buscar causas simples y efectos claros para gestionar nuestra vida, pero la realidad es mucho más compleja

Defiende el tecnólogo que la tendencia de la IA a entrenarse en lo inexplicable en aras de la precisión puede estar dándonos una idea diferente sobre cómo funciona el conocimiento, porque debe haber algo en estas interrelaciones de datos tremendamente complicadas que captura una verdad esencial sobre el mundo. La IA, sostiene, es en cierto sentido una caja negra para nosotros: no podemos entender completamente cómo funciona pero está reflejando algo sobre la otra caja negra real, que es el mundo en el que vivimos. En última instancia, concluye, la IA nos está mostrando que lo explicable no es una propiedad del universo.

5. La IA evidencia las limitaciones de las generalizaciones y destaca el poder de las particularidades

Nuestros marcos de referencia se han compuesto de generalizaciones que simplifican en exceso un mundo hecho de particularidades en complejas interrelaciones. El hecho de que el aprendizaje automático funcione revela los límites de las generalizaciones y el poder de las particularidades que componen el planeta. El hecho de que el aprendizaje automático funcione revela los límites de las generalizaciones y el poder de las particularidades que componen el mundo

Expone David Weinberger que no resta veracidad a las generalizaciones que tanto costó alcanzar –como las leyes de Newton o las reglas y pistas para diagnosticar una biopsia– el decir que fallan a la hora de predecir acontecimientos muy particularizados: ¿Habrá atasco? ¿Voy a desarrollar alergias a una edad avanzada? ¿Me gustará la nueva película de Tom Cruise? Aquí es donde se acaban los conocimientos tradicionales y entra en juego la habilidad de la IA con las particularidades. 

Reconocer las debilidades de los marcos generalizados es mucho más fácil cuando tenemos máquinas que nos brindan conocimientos más precisos al escuchar detalles particulares, aunque esto suponga modificar algunas de nuestras creencias y planteamientos más básicos.

6. La IA redefine la asignación de los roles del liderazgo y la estrategia

La IA podría asignar roles de liderazgo según las habilidades específicas de las personas en una situación concreta, redefiniendo así la naturaleza del liderazgo. Defiende el autor que necesitamos repensar el liderazgo clásico hacia otro distribuido y en red. Alude a un estudio del Center for Strategic Leadership del U.S. Army War College que sugiere que la IA podría asignar con fluidez funciones de liderazgo de acuerdo a los detalles concretos de una situación amenazadora y a las capacidades y puntos fuertes particulares de las personas del equipo. Esto modificaría la idea misma de liderazgo, pasando a ser un ajuste entre los detalles específicos del carácter, un equipo y una situación.La IA podría asignar con fluidez funciones de liderazgo según los detalles concretos de una situación amenazadora y de las capacidades y puntos fuertes particulares de las personas del equipo

Con respecto a la estrategia, llama la atención sobre la novedad de este concepto que comenzó a aplicarse en el entorno bélico durante los siglos XVIII y XIX y que en los años sesenta del siglo pasado abrazó el ámbito empresarial, creyendo que, a través de ella, podrían dominar el tiempo y el cambio en periodos de unos diez años. Sin embargo, advierte Weinberger, la estrategia no tiene en cuenta los efectos mariposa, esos eventos pequeños e impredecibles que pueden variar el curso de una situación.

A su juicio, una forma alternativa de lidiar con esta impredecibilidad es establecer redes de personas que actúen como "sensores", sensibles a detectar y compartir tipos específicos de información. Esta red de "sensores humanos" actuaría como una herramienta de interpretación colaborativa, capturando esos efectos mariposa que pueden ser cruciales para la toma de decisiones en un entorno empresarial. 

7. La IA pone al descubierto nuestras debilidades

¿Por qué deberíamos aceptar la inexplicabilidad de la IA y confiar en ella, incluso cuando desafía nuestro orgullo como especie? Weinberger esgrime dos razones principales. La primera es que, simplemente, funciona; y este hecho debería hacernos sospechar que nos está diciendo algo sobre el mundo, que está aprovechando algo real sobre lo que nos rodea. Y justamente esa es la segunda razón: la IA refleja la verdad sobre el mundo. Esta tecnología supone un recordatorio valioso de la importancia de la humildad

Según la tesis de Weinberger, aceptar la IA nos ayuda a comprender nuestra realidad y constatar que el control total es una ilusión, pues hay muchas cosas fuera de nuestro alcance. Concluye el experto que esta tecnología representa un recordatorio valioso para la humanidad sobre la importancia de la humildad. La IA funciona porque abraza la complejidad que los humanos no podemos abarcar completamente. Reconocer y asumir esto puede permitirnos usar la IA no solo para fines prácticos, sino también como un "correctivo" de nuestra tendencia a sobreestimar nuestra capacidad de entender el mundo en su totalidad.

David Weinberger, Ph.D. es investigador de Harvard MetaLab, afiliado al Harvard Berkman Klein Center, autor y conferenciante.

Foto de Weinberger de apertura: © Alberto Mingueza @Amingueza / Foto interior de D. Weinberger: © druckerforum.org / Resto de imágenes: © julos en Freepik y © Freepik. 

Artículo publicado en 2024.