¿Podría una máquina tener mente? No es una pregunta, son tres

En junio de 2022, un ingeniero de Google, Blake Lemoine, dijo haber detectado sensibilidad y conciencia en LaMDA 2, un sistema de lenguaje basado en una red neuronal artificial. La reacción fue de incredulidad generalizada, y Google respondió que la evidencia no respaldaba sus afirmaciones [1].

Muchos lo descartaron enseguida. Explicar por qué es otra cosa, porque detrás de ese episodio hay una pregunta vieja y espinosa: ¿podría una máquina tener mente? Y esa pregunta, vista de cerca, no es una sola.

Turing cambia la pregunta (1950)

En 1950, Alan Turing propuso dejar de preguntar si las máquinas pueden pensar. Le parecía una pregunta demasiado carente de sentido para merecer discusión, y la sustituyó por otra más precisa [2]. Partía de un juego: un interrogador, sin ver a los otros dos participantes, debe adivinar cuál es hombre y cuál mujer. Turing preguntaba qué pasaría si una máquina ocupara el lugar de uno de ellos [2]. En la lectura habitual, se resume como un interrogador que tiene que distinguir a la máquina de una persona [3]. Es lo que hoy llamamos prueba de Turing.

Turing también dejó una predicción: en unos cincuenta años habría ordenadores con los que un interrogador medio no tendría más de un 70 % de probabilidades de acertar tras cinco minutos de preguntas [2]. La mayoría de comentaristas juzga que no se cumplió para el año 2000 [3]. Enfrentó además una objeción: una máquina no piensa mientras no sienta lo que hace. Su respuesta fue que, si para saber si algo piensa hay que ser ese algo, entonces tampoco podemos saberlo de otras personas, y eso es solipsismo; lo normal es la convención educada de que todos pensamos [2]. No decía, con todo, que la conciencia no fuera un misterio [2].

Pasar la prueba tampoco basta, según algunas objeciones. Ned Block planteó que una criatura controlada por una tabla gigantesca de respuestas prefijadas podría superarla sin ser inteligente [3].

La habitación china (1980)

El filósofo John Searle propuso en 1980 un experimento mental. Imagina que estás encerrado en una habitación con cajas de símbolos chinos y un libro de reglas en tu idioma para combinarlos. Te llegan preguntas en chino y, siguiendo las reglas, devuelves respuestas tan buenas como las de un hablante nativo. Desde fuera parece que alguien entiende chino. Pero tú no entiendes una palabra [4][5].

Searle concluye que ejecutar un programa nunca basta por sí solo para tener intencionalidad (lo que, en este contexto, significa que un estado mental trate de algo y signifique algo para quien lo tiene) [4]. Su razón es que un programa manipula símbolos por su forma (lo que se llama sintaxis), y eso no basta, por sí mismo, para el significado (la semántica) [5].

Conviene precisar qué no dice. No afirma que ninguna máquina pueda pensar: sostiene que solo una máquina podría pensar, porque los cerebros lo son, pero únicamente máquinas con poderes causales internos equivalentes a los del cerebro [4][5]. Su blanco es la llamada «IA fuerte», la idea de que un ordenador bien programado es una mente. Con la «IA débil», que usa los ordenadores como herramienta para estudiar la mente, no tiene problema [4][5].

Cuatro respuestas y ningún acuerdo

El argumento ha generado décadas de réplicas. Cuatro de las principales, según la Stanford Encyclopedia of Philosophy [5]:

• Respuesta de los sistemas: quien entiende no es el hombre, sino el sistema completo (él, las reglas y los símbolos). Searle responde que, si el hombre memoriza todo, el sistema queda dentro de él y sigue sin entender chino.
• Respuesta del robot: si el ordenador va en un robot con sensores y motores, sus símbolos se conectan con el mundo. Searle replica que lo que llega de los sensores son más símbolos que procesar.
• Respuesta del simulador de cerebro: un programa que reprodujera las descargas de las neuronas de un hablante chino debería entender chino. Searle contesta que una red de tuberías y válvulas que imitara el cerebro tampoco entendería.
• Respuesta de las otras mentes: atribuimos comprensión a otras personas por su conducta; si un ordenador la tiene, deberíamos atribuírsela también. Searle contesta que la cuestión es qué atribuimos cuando atribuimos estados mentales, no cómo lo averiguamos.

Más de cuatro décadas después, la entrada de esa enciclopedia concluye que sigue sin haber consenso sobre si el argumento es sólido [5]. Uno de sus críticos, Daniel Dennett, lo considera claramente falaz; otro autor, Baggini, lo llama quizá el contraejemplo más famoso de la historia [5]. Estado del debate: abierto.

Y ahora, los modelos de lenguaje

La pregunta ha dejado de ser solo de seminario. David Chalmers, en un texto de 2023, distingue dos cosas que solemos mezclar. Por conciencia entiende la experiencia subjetiva: que haya «algo que se siente» al ser ese ser, en la fórmula de Thomas Nagel. Y la inteligencia es otra cosa: no son lo mismo [1].

Chalmers examina los motivos a favor y en contra de la conciencia en los modelos de lenguaje actuales. Su valoración es que ninguna de las razones para negarla es concluyente, pero que, sumadas, pesan. Señala seis obstáculos: que la conciencia requiera biología, tener sentidos y cuerpo, modelos del mundo y de uno mismo, procesamiento recurrente, un «espacio de trabajo global» y una agencia unificada. Para casi todos, opina que son temporales, no permanentes; la excepción posible es la biología [1]. Con cifras que él mismo califica de ilustrativas y que, advierte, no deben tomarse demasiado en serio, concluye que una confianza por debajo del 10 % en que los modelos actuales sean conscientes sería razonable. Y aclara que sus propias ideas se inclinan más que las dominantes en la ciencia de la conciencia hacia pensar que la conciencia está muy extendida [1].

Un grupo de 19 autores llegó en 2023 a una conclusión parecida con otro método. Derivaron «indicadores» de conciencia a partir de varias teorías científicas y evaluaron sistemas de IA con ellos. Su conclusión: ningún sistema actual parece consciente, pero no hay barreras técnicas obvias para construir sistemas que cumplan esos indicadores [6]. La versión publicada en 2025–2026 presenta el método como una vía para afinar el grado de confianza (la «credencia») en que un sistema concreto sea consciente, a partir de lo que predicen las teorías [7].

Tres preguntas, no una

Si juntamos lo anterior, aparece algo que la pregunta original esconde. Son tres cuestiones distintas:

1. ¿Se comporta como si pensara? Es la de Turing: si distinguirlo de una persona es posible o no [2].
2. ¿Comprende lo que procesa? Es la de Searle: para él, que la respuesta a la primera sea sí no implica que lo sea a la segunda [4].
3. ¿Tiene experiencia subjetiva? Es la de Chalmers y la de los autores del informe: y, según Chalmers, no se reduce a la inteligencia [1][6].

Además, las respuestas dependen de una cuestión previa que sigue abierta: qué es lo que hace falta para que haya mente o conciencia. Searle la vincula a los poderes causales del cerebro [4]. Chalmers considera razonable, con cifras ilustrativas, una probabilidad de al menos un tercio de que se requiera biología, y lo mismo para otros requisitos [1]. Y los autores del informe señalan que algunas teorías influyentes, incluidas las funcionalistas computacionales, hacen predicciones comprobables sobre la IA [7]. Según la Stanford Encyclopedia, el debate quizá no se zanje hasta que haya acuerdo sobre el significado, la sintaxis y la base biológica de la conciencia [5].