Es conocido el episodio en el que Blake Lemoine, un ingeniero de Google, fue despedido por filtrar el diálogo con un sistema de Inteligencia Artificial en el cual trabajaba, llamado Lamda (“Language Model for Dialogue Applications”). “Existe un miedo muy profundo a que me desconecten”, había sido la frase de la cual Lemoine infirió que, efectivamente, el algoritmo daba cuenta de que tenía miedo a la muerte.
Google consideró que su empleado debería haber sido más escéptico, después de todo, sólo era una línea que el sistema había tomado de entre las millones de líneas escritas en la web que procesa por segundo.
Que un ser artificial pueda imitar un gesto lingüístico o corporal de miedo o dolor no significa que tema o que algo le duela. Por tomar otro ejemplo, investigadores del Imperial College de Londres han construido un “paciente robótico” que imita expresiones faciales de dolor, y es utilizado para el entrenamiento de futuros médicos, que a través de este artificio aprenden a ajustar la cantidad de fuerza que aplican en sus procedimientos. Cuando el médico se excede, el rostro de silicona del robot imita el gesto humano de tormento. Pero el origen del gesto no es un dolor, sino una orden programada en la cual, ante determinada señal enviada por los sensores de presión, se activan determinados mecanismos en un sector que para nosotros significa “el rostro”.
Distinto es el caso de la mayoría de los mamíferos. Al estar cercanos a nosotros, tomamos seriamente sus gestos faciales y sentimos empatía. La mirada aterrorizada de un perro es suficiente para persuadirnos de que está sufriendo, porque vemos algo de humano en ella, al igual que otros comportamientos como gritar, retorcerse o agitarse.
No obstante, cuando pasamos a los invertebrados, las aguas se ponen más profundas y turbias. Los cerebros de las arañas y de los pulpos están organizados de forma muy distinta a la nuestra, y sus indicadores de dolor no radican en los gestos faciales. Buscar dolor en la mirada del caracol sería un error, por lo que los “psicólogos comparativos”, científicos de las mentes animales, están obligados a estudiar otros indicadores menos antropomórficos, como el “cuidado de heridas”: cualquier ser vivo cuida y protege una lesión hasta que se cura, posiblemente para hacer cesar el dolor.
En su artículo, “¿Qué tiene sentimientos?”, Kristin Andrews y Jonathan Birch, dos investigadores que estudian las mentes animales, sugieren que deberíamos extender esa estrategia al estudio de las Inteligencias Artificiales, y pensar en indicadores no antropocéntricos para buscar dolor o miedo en los algoritmos.
Después de todo, las inteligencias artificiales capturan y procesan la información del mundo de manera bastante diferente a la nuestra. Si emergiera en ellas algo parecido al sufrimiento, lo más probable es que no lo dirían con nuestras mismas palabras, como infirió ingenuamente Lemoine. Posiblemente, buscar allí el dolor sea tan equivocado como buscarlo en la mirada del caracol.
