IA, una tecnología en aguas turbulentas

La IA ha tenido un peso destacado en Metafuturo, encuentro organizado por Atresmedia que busca debatir y reflexionar sobre los desafíos actuales. No en vano, “nunca antes ha habido una aceleración en la innovación tan grande”, expresó David Rowan, uno de los ponentes internacionales del foro, experto en IA y fundador y CEO de la revista Wired.

“Tenemos cierto vértigo a pensar qué puede pasar en el futuro y, por tanto, creo que conviene pararse, reflexionar y no acobardarse por los retos y las dificultades que pueda traer”, afirmó Silvio González, vicepresidente ejecutivo de Atresmedia Corporación, quien apostó por una mentalidad abierta y crítica. “Estas nuevas tecnologías disruptivas, como la IA, pueden llevar también a una limitación enorme de la privacidad, a un triunfo de la seguridad frente a la libertad de los ciudadanos. Yo creo que son preguntas que nos tenemos que hacer. Somos los ciudadanos los que tenemos que decidir qué futuro queremos, en qué tipo de sociedad queremos desenvolvernos."Tenemos cierto vértigo a pensar qué puede pasar en el futuro, pero somos los ciudadanos quienes tenemos que decidir sobre él". Silvio González

En definitiva, el objetivo de estas jornadas es reflexionar de la mano de expertos, políticos, empresarios… sobre los temas que están aquí, que nos afectan y nos van a afectar de manera muy directa”, remarcó el directivo.

Una de las voces más autorizadas para tratar de aportar luz, o al menos plantear las preguntas más pertinentes para iluminar el escenario en claroscuro que rodea a la IA, es David Rowan. El británico interpeló a la ciudadanía para implicarse en el devenir de esta herramienta. “Nos estamos metiendo a toda velocidad en esto sin una conversación pública informada, estamos permitiendo que un pequeño grupo de personas que dirigen las grandes tecnológicas decidan sobre la ética y la estrategia que queremos al respecto de esto. Es el momento de gritar y expresar qué queremos nosotros, a nivel colectivo. ¿Por qué no hay manifestaciones en todos los países pidiendo responsabilidad política e información sobre los límites de la IA en manos de la empresa privada?”.

El brillante potencial de esta tecnología se ve ensombrecido por unos riesgos también excepcionales, propios de una innovación radicalmente diferente. “Yuval Noah Harari –señaló Rowan– distingue dos diferencias esenciales: es la primera tecnología que decide cómo debería implementarse, es autónoma a la hora de tomar sus decisiones; y en segundo lugar, tiene sus propias ideas”."¿Por qué no hay manifestaciones en todos los países pidiendo responsabilidad política e información sobre los límites de la IA en manos de la empresa privada?”. David Rowan

Controlar el poder de la IA y evitar que se convierta en “un ser dominante” es fundamental. “Hace unos años, definíamos el algoritmo que debería crearse para hacer algo, pero ahora mismo estamos creando algoritmos para hacer que la máquina aprenda a hacer algo –explicó Chema Alonso, CDO de Telefónica–. Lo difícil es saber qué aprendió la IA”. Según Alonso, no estamos invirtiendo lo suficiente en descubrir la explicabilidad de los algoritmos, “en qué ha aprendido el algoritmo de los datos que hemos utilizado para enseñarle el modelo”.

"No estamos invirtiendo lo suficiente en descubrir la explicabilidad de los algoritmos". Chema Alonso

Un algoritmo es explicable cuando se puede interpretar y entender cómo ha obtenido sus predicciones o resultados, pero este proceso de comprensión se complejiza progresivamente, conforme la IA avanza. Al respecto, Rowan advirtió que: "Ni la gente que gestiona Open AI sabe lo que sucede dentro de la caja negra. ChatGPT, por ejemplo, trata de predecir lo que va a suceder y lo hace de una manera muy rápida, pero son predicciones, no la verdad”."ChatGPT, por ejemplo, trata de predecir lo que va a suceder y lo hace de una manera muy rápida, pero son predicciones, no la verdad”. David Rowan

Rowan, que se definió como un “optimista escéptico”, alertó de posibles problemas derivados de la IA. Desde la pérdida de memoria o el uso de la escritura: "¿En qué consiste ser humano si hemos subcontratado tantas cosas a la IA? –se preguntó–. Mi memoria ya no funciona como antes porque sé que puedo obtener una respuesta en un clic”; hasta el uso de esta tecnología para un mal mayor contra la humanidad, como la manipulación de procesos políticos o en aplicaciones militares. “En Ucrania, estamos viendo drones que ya deciden dónde atacar”, aseguró Rowan.

"Necesitamos un consenso y una estructura legal ahora". David Rowan

Sin embargo, se abre también una senda de oportunidades. “Uno de los motivos para tener esperanza en la IA es que vamos a poder coger ingentes cantidades de datos, por ejemplo, en la medicina. Vamos a detectar los problemas de salud mucho antes y de forma personalizada. También ocurrirá en la agricultura. Habrá cultivos mucho mejores y adaptados al cambio climático. Incluso en la educación”. Al respecto, Chema Alonso matizó: “La IA nos obliga a repensar cómo educamos a nuestros hijos, tenemos que prepararlos para el futuro. Para los niños, la IA es algo habitual en sus vidas”.

Durante todo el debate, estuvo latente la Ley de IA que prepara la UE, la primera en todo el mundo. "Necesitamos un consenso y una estructura legal ahora. Hay que crear una serie de acuerdos a nivel internacional de lo que se le puede permitir a la IA o no. China, los activistas rusos, la mafia... ellos no van a parar. Tenemos que encontrar formas de encontrar responsabilidad, porque es una tecnología peligrosa", afirmó el experto británico."Tenemos que aprender qué es capaz de hacer la IA y cuál es el impacto global”. Chema Alonso

Por su parte, Chema Alonso subrayó la necesidad de una comprensión profunda. "Tenemos que aprender qué es capaz de hacer la IA y cuál es el impacto global”. A partir de ese conocimiento, el ser humano podrá convertir entonces esta tecnología en una gran aliada para su progreso, regulándola para extender sus efectos positivos, así como para controlar y prevenir sus peligros y riesgos. De los humanos depende.

En la foto de grupo: Chema Alonso, CDO de Telefónica, David Rowan, experto en IA y fundador y CEO de la revista Wired, y Silvio González, vicepresidente ejecutivo de Atresmedia Corporación. 

Imagen de apertura: © kjpargeter on Freepik.

 Publicado en octubre de 2023.