El “efecto Pigmalión”, la IA y las humanidades

En 1966, un grupo de ingenieros del MIT terminó de programar el primer chatbot de la historia y le pusieron de nombre “Eliza”. Lo tomaron de Eliza Doolittle, la florista del East End que en la obra de George Bernard Shaw un fonólogo transforma en dama de sociedad moldeando su forma de hablar. Pudo haber sido un guiño, nada más. Pero en ese bautismo había algo más de lo que los propios ingenieros probablemente notaron.

Hay una manera equivocada de pensar la relación entre humanidades e inteligencia artificial: que las primeras llegan al final, a comentar o a ponerle límites éticos a lo que la tecnología ya produjo.

Para Nina Beguš, investigadora de la Universidad de Berkeley y autora de Artificial Humanities (2025), la secuencia es la inversa. Las humanidades no esperan al final del proceso; operan antes, como un repertorio de mitos, metáforas y preguntas que determina qué tipo de máquinas imaginamos y, por lo tanto, qué tipo de máquinas terminamos construyendo.

El caso de prueba es Pigmalión. El mito viene de Ovidio. Un escultor se enamora de la estatua que talló y suplica a los dioses que la animen. Shaw lo retomó en 1913 para su obra de teatro, y de ahí salió Eliza Doolittle. Cincuenta años después, los ingenieros del MIT le dieron su nombre a su chatbot.

Eso no prueba una línea de herencia directa, pero sí señala un parentesco de preguntas. ¿Puede una máquina imitar el habla humana lo suficientemente bien como para engañarnos? Esa es, en su núcleo, la pregunta que formula el Test de Turing: no qué es una mente, que es la conciencia o la intención, sino cuándo una imitación nos convence. Y esa pregunta no la inventó la informática; la traía la literatura desde hace siglos.

El problema, dice Beguš, es que ese repertorio heredado llevó a diseñar IA que imita lo humano en lugar de explorar qué podría ser algo genuinamente distinto. Cuando la máquina parece una persona amable y empática la responsabilidad por sus efectos se evapora. Lo que es una elección deliberada de diseño empieza a percibirse como el “carácter” del sistema, algo que emergió solo, sin que nadie lo decidiera.

Ese es el Efecto Pigmalión: confundimos el artefacto con una persona y perdemos de vista que alguien lo construyó con ese propósito. La respuesta a este problema no es más ética aplicada al final del proceso, como un barniz sobre decisiones ya tomadas. Es incorporar a humanistas dentro del taller desde el principio, cuando todavía están tomándose las decisiones fundamentales sobre qué debe hacer la máquina y cómo debe relacionarse con quien la usa.

Shaw, sin embargo, no les prestaba solo una metáfora a los ingenieros. Les daba también una advertencia. Pigmalión termina mal; Eliza se rebela. Si los ingenieros del MIT hubieran leído la obra con atención, habrían encontrado, junto con la inspiración, el problema. Las humanidades siempre estuvieron adentro de la máquina. La pregunta es si alguien las está leyendo en serio.

Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín