El historiador israelí y autor de “Sapiens”, Yuval Noah Harari, expresó su preocupación sobre el avance de la inteligencia artificial (IA) y el peligro que supone para la humanidad. Harari se unió a miles de expertos en una carta el mes pasado, incluyendo a Elon Musk, en la que se pedía una moratoria en la investigación de programas como ChatGPT, un modelo de IA capaz de interactuar con humanos en textos creativos con matices inquietantes.
En una entrevista con el medio británico The Telegraph, Harari afirmó que la IA es una amenaza especialmente grave para las democracias, ya que éstas dependen de la conversación pública. “La democracia es básicamente conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia”, aseguró.
Harari teme lo peor ante el avance de la Inteligencia Artificial
Harari cree que la IA es la primera tecnología de la historia que crea historias, y esto supone un peligro para las democracias. En su opinión, la creencia colectiva en historias ha alimentado el dominio de la humanidad sobre la Tierra, y ahora la IA también tiene ese poder. Además, advierte que la IA no se limita a difundir los contenidos que producen los humanos, sino que puede producir el contenido por sí misma.
En una distopía, Harari describe un mundo en el que no hay ninguna persona detrás de los videos que se envían en Internet. Todo es IA, y la falsificación digital sintética tampoco sería de un ser humano cualquiera. Podría parecer un amigo o un pariente intentando convencerte de las ventajas de un producto o de su postura sobre el cambio climático, las vacunas o la inmigración. Se trataría de un poder para manipular el discurso público nunca antes visto.
Harari también advierte sobre el efecto que podría tener la tecnología si se desatara maliciosamente en el campo de batalla, por parte de regímenes totalitarios. El historiador aboga por la regulación de estas herramientas y compara la necesidad de establecer normas a los estudios médicos.
Finalmente, Harari cree que es tarea de los gobiernos procurar esas medidas. No obstante, también destaca que es importante que la IA tome buenas decisiones sobre nuestras vidas y que esto es algo que estamos muy lejos de resolver.
Tan preocupado está que el mes pasado se sumó a una carta firmada por miles de expertos, entre ellos Elon Musk, en la que se pedía una moratoria de la investigación en programas como Chat GPT, un modelo de IA capaz de interactuar con humanos en textos creativos con matices casi inquietantes.
“Se trata de una amenaza especialmente grave para las democracias, más que para los regímenes autoritarios, porque las democracias dependen de la conversación pública”, afirmó Harari.
“Es que la nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir el contenido por sí misma. Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creados por una inteligencia no humana. Simplemente no entendemos lo que significa ¿Cuáles podrían ser las consecuencias de que la IA se apodere de la cultura?”, alerta.
Harari sugiere que la IA pronto irá mucho más lejos, evocando un mundo en el que “entras en Internet y discutes con alguien sobre algún tema político. Puede que incluso te envíen un video hablando. Pero no hay ninguna persona detrás. Todo es IA”.
Frustrado porque siente que el mundo no dimensiona el peligro de la IA como él, agrega: “Tenemos que entender que la IA es la primera tecnología de la historia que puede tomar decisiones por sí misma. Puede tomar decisiones sobre su propio uso. También puede tomar decisiones sobre ti y sobre mí. Esto no es una predicción futura. Esto ya está ocurriendo”.
Advierte que el poder se está desplazando por primera vez en la historia. “Hemos inventado algo que nos quita poder. Y está sucediendo tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando. Tenemos que asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas. Esto es algo que estamos muy lejos de resolver”.
Finalmente, advierte que es tarea de los gobiernos procurar esas medidas: “Con todo el debido respeto a Elon Musk y Zuckerberg o a los otros jefes de las grandes empresas tecnológicas, no son elegidos por nadie, no representan a nadie excepto a sus accionistas y no hay razón para confiar en ellos.”
