La inteligencia artificial (IA), convergencia entre disciplinas antes desvinculadas (matemáticas, biología, física, medicina, sociología, informática), es una vedete periodística poco conocida por la comunidad, arrastrada a la frontera entre ciencia y fantasía.
La IA involucra gran capacidad instrumental, velocidad y automatismo en decisiones independientes de intervención humana. Aunque emula un sistema de autoaprendizaje, no hay explicación para muchas decisiones tomadas por máquinas fuera del control humano. Lejos de teorías conspirativas, se debe reconocer que la IA para controlar mercaderías en un supermercado, el tránsito de la ciudad o una línea de producción no es igual a la que controla la información personal, la seguridad individual, familiar, nacional o planetaria.
Asociada a la big data (todas las acciones globales online y offline), la IA adquiere enorme poder para conocer información e inducir conductas. Se sabe que con menos de 100 likes se puede predecir el color de piel, la orientación sexual y la opinión política del usuario de una red social. Y allí estaría la respuesta a cómo ganaron elecciones Donald Trump o Jair Bolsonaro.
El concepto de IA alude a “máquinas que aprenden de máquinas”. Sin remitir a robots de Isaac Asimov ni considerar su valor científico y ético, es otro mecanismo persuasivo de las bondades del hipercapitalismo.
Es necio ignorar el lado positivo de la IA ‒con adecuado control social‒, pero sería demencial no reconocerla como poderosa herramienta del poder real con metas en máximas ganancias a expensas del interés público, de los derechos humanos y de la soberanía, en cualquiera de sus categorías.
Aplicaciones “non sanctas” de la IA
La IA mueve cifras multimillonarias de dólares, euros, rublos o yuanes, en biomedicina, seguridad, informática, vigilancia o medios de comunicación, combinados y esperando suculentas ganancias sin regulación ética. Su impacto sobre derechos humanos es objeto de críticas, pero se avanza sobre lo realizado sin control ciudadano.
El Instituto Federal Suizo de Protección Nuclear, Biológica y Química se preguntó: ¿Qué pasaría si a un sistema de IA se le propone la detección (o fabricación) de armas químicas? Ellos lo hicieron, “instruyeron” al sistema para detectar compuestos tóxicos y buscaron moléculas similares a un mortífero neurotóxico. Luego de pocas horas, el resultado horrorizó a los científicos. Tenían en su monitor muchos compuestos tanto o más tóxicos que la molécula modelo. Los investigadores reconocieron que habían cruzado una frontera ética indefinida y manifestaron que podían “borrar fácilmente las miles de moléculas que pudieran crearse, pero no podremos borrar el conocimiento de cómo recrearlas”. Una pregunta (nuestra) es: ¿Las habrán borrado?
En los últimos meses, otra noticia cubrió el planeta: un sistema de IA denominado ChatGPT tiene capacidad para escribir “a pedido” informes científicos o papers. No proyectos o hipótesis de trabajo, sino el resultado de supuestas investigaciones inexistentes. Este fraude científico se comprobó en publicaciones de prestigiosos jounals, con el nombre del sistema como coautor del trabajo y sin ser advertido por los revisores científicos.
El mismo sistema casi logró “graduarse de médico” en el examen de licencia médica de Estados Unidos. al obtener el 52,4% y 75% de respuestas correctas, sobre el umbral de aprobación de 60%. Esta aplicación podría no parecer importante para el público general, pero es catastrófica para la ciencia y la sociedad, desde que la publicación científica es una base del sistema científico-tecnológico, al exponer datos que deberán ser corroborados (o no) por otros científicos, quienes serían los controladores de la ciencia y sus aplicaciones.
Repercusiones en educación superior
Una reciente encuesta de Nature Briefing preguntó a cuatro mil lectores: ¿Se debe permitir a los investigadores usar ChatGPT como ayuda para escribir artículos? Las respuestas fueron: No, 58%; Sí. 37%; Otros, 5%. Una temprana reacción institucional la brindó el Instituto de Estudios Políticos de París (Sciences Po), prestigiosa universidad de ciencias sociales, donde su uso fue prohibido, por la posibilidad de fraude y plagio.
Sin embargo, muchas respuestas de científicos o instituciones de educación superior dejan entrever el temor de ser censurados como “anti-modernos” si se oponen a este tipo de tecnologías. Y cuando la University World News preguntó al propio programa ChatGPT sobre su posible impacto sobre la educación superior, la respuesta explayó eufemismos sobre participación, interacción, accesibilidad, eficiencia, etcétera, ya que “…la relación entre los humanos y la IA no es una competencia sino una asociación, y el impacto dependerá de cómo se la use”. Lo mismo que la energía atómica, ¿no?
Curiosamente (o no tanto), ChatGPT es un producto de la empresa OpenAI, está disponible en forma gratuita o pagando sólo 20 dólares estadounidenses por mes y ya superó los 100 millones de usuarios mensuales. Más claro, agua,
Expertos informáticos de la Universidad Nacional de Córdoba sostienen que la IA es “una forma de programar” y “…depende de la base de datos con la que se entrenan los programas”. “Las máquinas no hacen nada sin una persona detrás que diga lo que tiene que hacer y cómo hacerlo”, “…por lo que debería preocupar más el factor humano que la IA”, ya que “…estos sistemas se diseñan para generar respuestas adaptadas al interlocutor”. Además, son cajas negras, cuya intimidad nadie conoce, excepto sus creadores y dueños, amparados por patentes y acuerdos de propiedad intelectual.
Pocas pero enormes empresas y servicios de inteligencia del norte global concentran el desarrollo y la aplicación de la IA. ¿Qué alternativa queda para los países del sur que no sea la sumisión? Un tema que no es ajeno a la ciencia y a la exigencia de responsabilidad social del científico, ni al rechazo a una ciencia neutra y apolítica.
* Profesor emérito (UNC)
