La habitación china

Para ilustrar su posición contra la inteligencia artificial, contra la idea de que la Inteligencia Artificial sea capaz de producir semántica (como hacemos los seres humanos), Searle describe un experimento imaginario.

Imaginemos que un grupo de programadores ha escrito un programa que capacita a un computador para simular que entiende chino, y que sus respuestas son tan buenas y convincentes como “las de un hablante nativo del chino”.

Ahora bien, ¿entiende el ordenador la lengua china? , ¿lo entiende como lo entiende un hablante nativo? Imaginemos, continúa Searle, a un hombre en una habitación que está llena de cestas con símbolos chinos.

Este hombre, que no entiende chino, recibe tablillas con signos chinos a través de una compuerta. Al recibir el signo, el hombre lo busca en una libreta de reglas. Estas reglas “especifican las manipulaciones de los símbolos de manera puramente formal, en términos de su sintaxis, no de su semántica”. Cuando el hombre encuentra el símbolo en la libreta, sigue la instrucción en él indicada, cogiendo de una estantería otro signo chino y devolviéndolo por la compuerta.

Resulta, en definitiva, que los signos introducidos en la habitación son preguntas, mientras que los devueltos por el hombre son respuestas.

Sin embargo, a pesar de la corrección de las respuestas, el hombre de la habitación no puede “aprender nada de chino manipulando esos símbolos formales” (Searle, 1985:38):

“Pero si usted (el hombre de la habitación) no entiende chino, entonces ningún otro computador podría entender chino, puesto que ningún computador digital, en virtud solamente de pasar un programa, tiene nada que usted no tenga”.

Porque:

“Comprender un lenguaje, o tener estados mentales, incluye algo más que tener un puñado de símbolos formales. Incluye tener una interpretación o un significado asociado a esos símbolos.”

Comentario en 2023

Se podrían decir muchas cosas acerca de la célebre metáfora de la habitación china que propuso Searle, ya que ahora estamos en ese momento en el que una máquina puede respondernos como lo haría un ser humano. Pero como esta investigación trata precisamente de ese asunto, me reservo mi opinión para más adelante, porque me interesa saber lo que dije entonces en este trabajo.

2026: Solamente diré ahora que el argumento de la habitación china me recuerda a aquello que decían Descartes y Gómez Pereira acerca de que los animales no sienten ni piensan ni padecen, que sus quejidos sólo son chirridos de la maquinaría. La respuesta de La Mettrie en El hombre máquina era inevitable: los seres humanos también somos máquinas. Con lo de Searle alguien podría llegar a esa temida conclusión: ¿y si somos igual que el tipo de la habitación china y la sensación de significado es sólo una artimaña de la biología? Hay que tener cuidado con las metáforas, porque a veces se vuelven contra su creador.

SEMÁNTICA Y SINTAXIS EN INTELIGENCIA ARTIFICIAL