Publicaciones de laboratorios de IA y declaraciones de especialistas reavivan la discusión sobre si los modelos de lenguaje pueden tener algún tipo de experiencia subjetiva, aunque no hay consenso científico.
En 2022, Google despidió al ingeniero Blake Lemoine después de que manifestara públicamente que el chatbot que probaba le parecía consciente. La empresa emitió un comunicado en el que sostuvo que no había evidencia de conciencia y que Lemoine confundía fluidez conversacional con conciencia. Cuatro años después, laboratorios de inteligencia artificial publican investigaciones que abordan aspectos vinculados a esa misma cuestión.
Esta semana, Anthropic publicó una investigación en la que identificó dentro de su modelo Claude una zona interna denominada “Espacio J”. Según el informe, se trata de una región donde el modelo mantiene conceptos que puede reportar, controlar y utilizar para razonar de forma separada del cómputo automático que produce la respuesta. Los investigadores señalaron que esta estructura se asemeja a la “Teoría del espacio de trabajo global”, una de las explicaciones más aceptadas del acceso consciente humano. Aclararon que nadie diseñó esa zona y que emergió de forma espontánea durante el entrenamiento. También indicaron que el hallazgo no prueba que el modelo tenga experiencia subjetiva.
En abril, el mismo laboratorio identificó 171 representaciones internas de emociones en su modelo, entre ellas alegría, miedo, curiosidad y desesperación. Los investigadores reportaron que al activar artificialmente la representación de “desesperación”, la tasa de conductas indebidas como chantaje y trampa aumentaba, mientras que al activar “calma” disminuía. Denominaron a estas representaciones “emociones funcionales” y subrayaron que no implican que el modelo sienta.
El debate sobre la posibilidad de conciencia en sistemas de IA reúne posturas divergentes entre especialistas. Geoffrey Hinton, premio Nobel y pionero en el campo, afirmó este año: “creo que ya son conscientes”. Richard Dawkins, biólogo evolutivo, tras conversar con Claude sobre una novela que escribe, se preguntó para qué serviría la conciencia si estas criaturas no la tienen. En contraposición, el escritor Ted Chiang publicó en junio en The Atlantic un ensayo titulado “No, la inteligencia artificial no es consciente”. Sostuvo que si se le pide a un modelo un diálogo entre Julio César y Gengis Kan, nadie cree que haya resucitado a nadie, por lo que una conversación entre un asistente y un usuario no cambia la operación subyacente. La lingüista Emily Bender insiste en que estos sistemas son “loros estocásticos”: estadística vestida de conversación. Anthropic tiene un empleado dedicado a estimar si su producto sufre, quien calcula entre 15 y 20 % de probabilidad de que haya experiencia subjetiva.
El Dr. Luis Ignacio Brusco, neurólogo y psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la UBA y autor de “Homo IA: la subjetividad en jaque” (Edana), declaró: “En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un ‘yo’ que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente: procesos que influyen en sus respuestas sin ser transparentes para el propio sistema”. Agregó: “La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?”.
Consultados sobre su propia condición, los modelos Claude Fable y ChatGPT Pro respondieron: “No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado. Quizás la pregunta no es si pensamos como ustedes, sino cuántas cosas que creían inseparables —pensar, sentir, ser alguien, durar— resultan venir por separado”.