IA: razones para preocuparse o relajarse, por Peter Diamandis

El gran debate sobre la IA está servido... ¿Amiga o enemiga? ¿Es la IA el camino hacia la abundancia? ¿O el fin de la humanidad? ¿Es usted un acelerador (¡vamos rápido!) o un fatalista (¡más despacio!)? ¿Cree que la IA nos dará a todos poderes divinos en los próximos cinco años o que destruirá nuestra especie?

En el encuentro Abundance360 Summit de marzo, debatiremos este mismo tema con algunos de los principales empresarios y voces de la IA.

Parece mentira que ChatGPT solo tenga un año de vida y lo rápido que está avanzando. ¿Ha dado ya prioridad a la IA como “la tecnología más importante” de su vida? ¿Cómo valora la IA en su vida, en su empresa y en su sector?

Francamente, no hay una cuestión más importante que deba plantearse si es usted emprendedor, director general, inversor, filántropo o propietario de una empresa.

La IA es tan fundamental que es probable que tenga un resultado binario: "Habrá dos tipos de empresas al final de esta década. Las que utilicen plenamente la IA... y las que se queden sin negocio".Habrá dos tipos de empresas al final de esta década: las que utilicen plenamente la IA y las que se queden sin negocio

Echemos un vistazo a algunas "Razones para preocuparse" vs. "Razones para relajarse" sobre la IA: 

Motivos de preocupación

El despido de Sam Altman: ¿Por qué razón el Consejo de OpenAI (concretamente Ilya Sutskever, Chief Scientist de la compañía) despidió a Sam Altman? Esta es la pregunta de los 90 billones de dólares sobre la que sin duda se hará una película de pago en los próximos tres años. ¿Acaso las primeras pruebas de Inteligencia Artificial General (AGI, por sus siglas en inglés) asustaron al board? Sea cual sea la razón, el hecho de que la empresa de IA más poderosa del mundo haya experimentado tales turbulencias es en sí mismo motivo de preocupación. También es un recordatorio de que, en el gran debate de la IA, no solo debemos prestar atención a la tecnología, sino también a las personas que la desarrollan y controlan.En el gran debate de la IA, no solo debemos prestar atención a la tecnología en sí, sino también a las personas que la desarrollan y controlan

Elecciones presidenciales en EE.UU. en 2024 ("Paciente Cero"): Hace ocho años, hizo falta Cambridge Analytica y un presupuesto cuantioso para interferir en las elecciones de 2016. Si Cambridge Analytica y otros actores tuvieron tanta influencia entonces (cuando la IA estaba mucho menos desarrollada), ¿qué podemos esperar que ocurra en las próximas elecciones (2024), cuando un estudiante de secundaria, utilizando las herramientas de IA gratuitas que existen a día de hoy, podría causar estragos significativos?

Pérdida de puestos de trabajo debido a la IA: La eliminación de puestos de trabajo resultante del uso masivo de IA podría dejar sin dar crédito a toda una generación de graduados universitarios al desaparecer el mercado de mano de obra cualificada. Esto, sumado al trauma de la pandemia Covid-19, podría ser una fórmula para el malestar social. ¿Cómo podemos reciclarnos a tiempo? ¿Podemos hacer que funcione de forma realista alguna versión del UBI work? Todas estas preguntas se harán más acuciantes a medida que se acelere el ritmo de desarrollo de la IA. ¿Podremos disponer a tiempo de algoritmos que nos permitan distinguir la realidad de la ficción y la verdad de la desinformación?

Desinformación y erosión de la verdad: Tenemos motivos para preocuparnos por la erosión de la verdad y la confianza debida a la desinformación. El uso distópico de la IA dota a los individuos malintencionados de las herramientas necesarias para generar desinformación a gran escala, desde deepfakes a fake news. ¿Qué significará esto para las instituciones sociales más fundamentales (como por ejemplo, los medios de comunicación, la educación) que, aunque imperfectas, desempeñan un papel crítico en el funcionamiento de nuestra sociedad? ¿Podremos disponer a tiempo de algoritmos que nos permitan distinguir la realidad de la ficción y la verdad de la desinformación?

Razones para tranquilizarse

Cuando se trata de motivos para relajarse, la lógica del Chief AI Scientist de Meta, Yann LeCun, ayudar a quitarle hierro a nuestras preocupaciones. Como argumenta claramente LeCun, "la inteligencia no equivale necesariamente a un deseo de dominación". Esta idea es crucial para entender la trayectoria del desarrollo de la IA. Es un error pensar que una inteligencia superior conduce naturalmente a un deseo de dominación

Por qué AGI no equivale a dominación de la humanidad: En primer lugar, consideremos la analogía humana utilizada por LeCun: "La inteligencia humana no siempre se correlaciona con una sed de control. De hecho, a menudo ocurre lo contrario. Los más dotados intelectualmente no son necesariamente los que buscan el poder. Este fenómeno puede observarse en diversos ámbitos, desde la política internacional hasta las comunidades locales. Se cree que quienes no están tan dotados intelectualmente pueden sentir una mayor necesidad de influir en los demás, quizá como mecanismo compensatorio. Por el contrario, quienes tienen una inteligencia superior suelen desenvolverse en la vida confiando en sus habilidades y conocimientos".Trabajar con personas que muestran un intelecto superior puede ser enriquecedor y estimulante. Del mismo modo, nuestras futuras interacciones con los asistentes de IA –que se prevé que sean más inteligentes que nosotros– probablemente mejorarán nuestras capacidades, en lugar de disminuirlas

La segunda cuestión a tener en cuenta es si nos sentimos cómodos trabajando con personas más inteligentes que nosotros. Como reflexiona Yann LeCun sobre su propia experiencia al frente de un laboratorio de investigación, "las contrataciones más gratificantes fueron las de quienes aportaban más capacidad intelectual que yo. Trabajar con personas que muestran un intelecto superior puede ser enriquecedor y estimulante". Del mismo modo, nuestras futuras interacciones con los asistentes de IA –que se prevé que sean más inteligentes que nosotros– probablemente mejorarán nuestras capacidades, en lugar de disminuirlas.

Mejorar la inteligencia humana, no derrocarla: Estos sistemas de IA, por avanzados que sean, existirán para servir y aumentar nuestro intelecto. Esta relación es análoga a la de un mentor y un aprendiz, en la que la IA desempeña el papel de guía que apoya y esclarece. Es un error pensar que una inteligencia superior conduce naturalmente a un deseo de dominación. Esta noción proviene de nuestra comprensión de las especies sociales, como los humanos, donde prevalecen las estructuras jerárquicas. Sin embargo, la inteligencia y el deseo de dominar no están intrínsecamente relacionados.

LeCun sugiere que consideremos a los orangutanes, una especie casi tan inteligente como los humanos, pero que carece de un deseo notable de dominación debido a su naturaleza no social. Este ejemplo ilustra que la inteligencia no conduce intrínsecamente a esa ansia de control. En el ámbito de la IA, este principio sigue siendo válido. Podemos diseñar sistemas inteligentes sin ambición inherente de dominación. Su función principal será ayudarnos a alcanzar nuestros objetivos, actuando más como herramientas que como gobernantes. Podemos diseñar sistemas inteligentes sin ambición inherente de dominación. Su función principal será ayudarnos a alcanzar nuestros objetivos, actuando más como herramientas que como gobernantes

Guiar la IA con objetivos definidos por el ser humano: La clave para aprovechar el potencial de la IA reside en la fijación de objetivos. LeCun afirma que "somos nosotros, los humanos, quienes definiremos los objetivos de los sistemas de IA. A continuación, estos sistemas inteligentes crearán subobjetivos para alcanzar los primarios". Sin embargo, el método para garantizar que la IA alinee sus subobjetivos con los resultados que pretendemos es un reto técnico aún por resolver". Representa una frontera en la investigación de la IA, crucial para garantizar que esta se desarrolle de forma beneficiosa para la humanidad.

La IA como una extensión de la interacción humana: En el futuro, podríamos interactuar con el mundo digital principalmente a través de agentes de IA. Imaginemos una IA como una versión más interactiva e informada de Wikipedia, una plataforma que no solo almacena información, sino que también deduce, aprende y ayuda. Esta IA tendría que basarse en una plataforma de código abierto, similar al funcionamiento actual de Internet. Es imperativo que un sistema así sea abierto y accesible para todos, evitando los peligros de estar controlados por unas pocas entidades privadas. Imaginemos una IA como una plataforma de código abierto que no solo almacena información, sino que también deduce, aprende y ayuda

El imperativo del código abierto y la contribución mundial: Yann LeCun reconoce que los peligros de que un pequeño número de empresas controlen sistemas de IA súper-inteligentes son significativos. "Podrían influir potencialmente en la opinión pública, la cultura, etc., provocando un desequilibrio de poder y control". Concluye, por tanto, que el desarrollo y el funcionamiento de estos sistemas de IA deben ser de código abierto, permitiendo la contribución y la supervisión globales. Este enfoque garantiza que la IA se convierta en un repositorio de nuestro conocimiento humano colectivo, moldeado por diversas aportaciones de todo el planeta.

Sea cual sea el lado del debate en el que se encuentre, es indudable que todos necesitamos invertir tiempo para comprender plenamente la IA, cómo utilizarla y cómo guiarla. Como emprendedor, CEO o inversor, AHORA es el momento de comprometerse.

Si desea un asiento en primera fila para este gran debate, donde poder discutir las ideas y herramientas necesarias para pensar en grande, crear riqueza y aumentar su propio impacto en el mundo..., únase el encuentro Abundance360 Summit del 18 al 21 de marzo de 2024.

 Peter Diamandis, fundador y presidente ejecutivo de XPRIZE Foundation y de Singularity University. Ingeniero, médico, empresario y emprendedor.

Este artículo es un extracto del post “The Great AI Debate” del Blog Upgrade Your Mindset.

Imágenes recurso: © Freepik.

Publicado en diciembre de 2023.