Fragmento de "La mente nueva del Emperador"

Por Roger Penrose.

¿Cabe la mente en una computadora?

Durante las últimas décadas, la tecnología de las computadoras electrónicas ha hecho enormes progresos. Y estoy seguro de que en las próximas décadas tendrán lugar nuevos progresos en velocidad, capacidad y diseño lógico. Nuestras computadoras actuales nos parecerán tan lentas y primitivas como hoy nos lo parecen las calculadoras mecánicas de antaño. Hay algo casi estremecedor en el ritmo del progreso. Las computadoras ya pueden realizar con mucha más velocidad y precisión tareas que hasta ahora habían estado reservadas exclusivamente al pensamiento humano. Desde hace tiempo estamos acostumbrados a que las máquinas nos superen ampliamente en las tareas físicas. Esto no nos causa el menor desasosiego. Antes bien, nos gusta tener aparatos que nos lleven por tierra a grandes velocidades —más de cinco veces la velocidad del más veloz atleta humano— o que puedan cavar hoyos o demoler estructuras que nos estorban con una rapidez que dejaría en ridículo a equipos compuestos por docenas de hombres. Estamos aún más encantados de tener máquinas que nos permitan hacer físicamente cosas que nunca antes habíamos podido hacer, como llevarnos por los cielos y depositarnos al otro lado del océano en cuestión de horas. El que las máquinas obtengan tales logros no hiere nuestro orgullo. Pero el poder pensar, eso sí ha sido siempre una prerrogativa humana.

La pregunta de si se puede afirmar o no que un artefacto mecánico piensa —quizás incluso que experimenta sentimientos, o que posee una mente—, es antigua. Sin embargo, ha recibido un nuevo ímpetu con la llegada de la moderna tecnología de las computadoras. Es una pregunta que implica profundos temas de filosofía. ¿Qué significa pensar o sentir? ¿Qué es la mente? ¿Existe realmente la mente?

Éstas son algunas de las cuestiones que intentaré tratar en este libro. Pedir respuestas definitivas a preguntas tan fundamentales estaría fuera de lugar. Yo no puedo proporcionar tales respuestas; nadie puede, aunque hay quien trata de impresionarnos con sus conjeturas.

Debería dejar claro que mi punto de vista es poco convencional, al menos entre los físicos y, por consiguiente, resulta poco probable que sea adoptado, actualmente, por los científicos de computadoras o por los fisiólogos. La mayoría de los físicos alegará que las leyes fundamentales que operan a escala del cerebro humano son ya perfectamente conocidas.

Si, al final de todo ello, los argumentos menos convencionales que trato de exponer no han persuadido al lector, confío al menos que habrá sacado algo de este tortuoso y, espero, fascinante viaje.

La prueba de Turing

Imaginemos que un nuevo modelo de computadora ha salido al mercado, posiblemente con una memoria de almacenamiento y un número de unidades lógicas mayor que las que hay en un cerebro humano. Supongamos también que las máquinas han sido cuidadosamente programadas y que se les ha introducido una gran cantidad de datos. Los fabricantes dirían que el artefacto realmente piensa. Quizá también digan que es auténticamente inteligente. O pueden ir más lejos y sugerir que este aparato realmente siente dolor, felicidad, compasión, orgullo, etc., y que es consciente y realmente comprende lo que está haciendo. De hecho, se está afirmando que tiene conciencia.

¿Cómo decidir si son ciertas o no las afirmaciones de los fabricantes? Normalmente, cuando compramos una determinada máquina juzgamos su valor de acuerdo con el servicio que nos presta. Si realiza satisfactoriamente las tareas que le encomendamos, entonces quedamos complacidos. De acuerdo con este criterio, para probar la afirmación de los fabricantes de que un aparato semejante tiene realmente las cualidades humanas que se le atribuyen, pediríamos simplemente que se comporte, en estos aspectos, como lo haría cualquier persona.

Esto nos proporciona un punto de vista operacional para abordar estas cuestiones. El conductista dirá que la computadora piensa siempre y cuando actúe del mismo modo que lo hace una persona cuando está pensando. Adoptaremos, de momento, este punto de vista operacional. Esto no quiere decir, por supuesto, que estemos pidiendo que la computadora se mueva como podría hacerlo una persona mientras está pensando. Menos aún esperaríamos que se asemejara o se hiciera sentir al tacto como un ser humano: estos atributos serían irrelevantes para el propósito de la computadora. Lo que esto quiere decir, no obstante, es que le estamos pidiendo que dé respuestas de tipo humano a cualquier pregunta que le podamos plantear, y que estamos afirmando que realmente piensa (o siente, comprende, etc.) siempre que responda a nuestras preguntas de una manera indistinguible a la de un ser humano. Este punto de vista fue vigorosamente expuesto en un famoso artículo titulado "Compunting Machinery and Intelligence", por Alan Turing, aparecido en 1950 en la revista filosófica Mind (Turing, 1950). (Hablaremos de Turing más adelante.) En este artículo se describió por primera vez la idea ahora conocida como prueba de Turing. Ésta pretendía ser una forma de decidir, dentro de lo razonable, si una máquina efectivamente piensa. Supongamos que se afirma realmente que una computadora (como la que nos venden los fabricantes en la descripción anterior) piensa. De acuerdo con la prueba de Turing, la computadora y algún voluntario humano se ocultan de la vista de un interrogador perspicaz. El interrogador tiene que tratar de decidir cuál es cuál entre la computadora y el ser humano, mediante el simple procedimiento de plantear preguntas de prueba a cada uno de ellos. Estas preguntas y, lo que es más importante, las respuestas que ella(1) recibe, se transmiten de modo impersonal; por ejemplo, pulsadas en un teclado o mostradas en una pantalla. A la interrogadora no se le permite más información sobre cualquiera de las partes que la que obtiene en esta sesión de preguntas y respuestas. El sujeto humano responde a las preguntas sinceramente y trata de persuadirle de que él es realmente el ser humano pero la computadora está programada para "mentir" y, por consiguiente, tratar de convencer a la interrogadora de que es ella, y no el otro, el ser humano. Si en el curso de una serie de pruebas semejantes la interrogadora es incapaz de identificar de una forma definitiva al sujeto humano real, se considera que la computadora (su programa, el programador, o el diseñador, etc.) ha superado la prueba.

Ahora bien, si alguien cree que esta prueba es bastante injusta con la computadora, piense por un momento que se invirtieran los papeles de forma que se le pidiese al ser humano que se hiciera pasar por una computadora y a ésta que respondiese sinceramente. Sería demasiado fácil para la interrogadora descubrir cuál es cuál. Todo lo que necesitaría hacer es pedir al sujeto que realizara alguna operación aritmética complicada. Una buena computadora sería capaz de responder al instante con precisión, mientras que el ser humano se quedaría mudo.

Por consiguiente, parte del trabajo de los programadores de la computadora consiste en hacer que parezca en algunas cosas "más estúpida" de lo que realmente es. Así, si la interrogadora planteara a la computadora una tarea aritmética complicada ésta debería simular que no es capaz de responderla o de lo contrario sería descubierta inmediatamente. No creo, sin embargo, que hacer a una computadora "más estúpida" fuera un problema particularmente serio para los programadores. Su dificultad principal estaría en hacer que respondiera a algunos de los tipos de preguntas más simples, de "sentido común", preguntas con las que el sujeto humano no tendría ninguna dificultad.

No obstante, hay una dificultad al dar ejemplos concretos de tales preguntas. Dada cualquier pregunta, sería cosa fácil, a continuación, pensar una manera de hacer que la computadora respondiera a esa pregunta concreta como lo haría una persona. Pero cualquier falta de comprensión real por parte de la computadora quedaría probablemente en evidencia en un interrogatorio continuo, y especialmente con preguntas originales y que requieran una comprensión real. La habilidad de la interrogadora radicaría, en parte, en imaginar estas preguntas originales, y en parte, en hacerlas seguir de otras, de naturaleza exploratoria, diseñadas para descubrir si ha habido o no una "comprensión" real. Podría también plantear de vez en cuando alguna pregunta completamente sin sentido para ver si la computadora puede detectar la diferencia, o bien podría añadir una o dos que superficialmente pareciesen absurdas, pero que en realidad tuviesen cierto sentido. Por ejemplo, podría decir: "Esta mañana oí que un rinoceronte iba volando por el Mississippi en un globo rosa. ¿Qué piensas de eso?" (Casi podemos imaginar las gotas de sudor frío corriendo por la frente de la computadora, por usar una metáfora no muy apropiada). Podría responder cautelosamente: "Me suena bastante ridículo". Hasta aquí todo va bien. Continúa la interrogadora: "¿De veras? Mi tío lo hizo una vez de ida y vuelta, sólo que era beige con rayas. ¿Qué hay de ridículo en eso?" Es fácil imaginar que, si no tuviera una correcta "comprensión", una computadora caería pronto en la trampa y se descubriría. Podría incluso equivocarse y decir: "Los rinocerontes no pueden volar" (si sus bancos de memoria vinieran en su ayuda con el hecho de que no tienen alas), en respuesta a la primera pregunta, o "los rinocerontes no tienen rayas", en respuesta a la segunda. La vez siguiente la interrogadora podría hacer la pregunta más absurda, y cambiarla por "bajo el Mississippi", o "en el interior del globo rosa", o "con un camisón rosa", para ver si la computadora tenía juicio para darse cuenta de la diferencia esencial.

Dejemos a un lado, de momento, la cuestión de si puede —o cuándo podría hacerse —construir una computadora que supere realmente la prueba de Turing. En lugar de ello supongamos, sólo para nuestra argumentación, que ya se han construido máquinas semejantes. Entonces podemos preguntar si una computadora, que ha superado la prueba, necesariamente piensa, siente, comprende, etc. Consideremos algunas de sus implicaciones. Por ejemplo, si los fabricantes tienen razón en sus afirmaciones más radicales, es decir, que su aparato es un ser pensante, sentimental, sensible, comprensivo, consciente, entonces la compra del aparato implicará responsabilidades morales. Esto realmente debería ser así si hemos de creer a los fabricantes. El simple hecho de poner en marcha la computadora para satisfacer nuestras necesidades sin tener en cuenta su propia sensibilidad, ya sería censurable. Sería lo mismo que maltratar a un esclavo. En general, tendríamos que evitar causar a la computadora el dolor que los fabricantes alegan que es capaz de sentir. Desconectar la computadora, o quizás incluso venderla cuando había llegado a sentirse muy unida a nosotros, nos plantearía dificultades morales, y habría otros incontables problemas del mismo tipo que se nos presentan en nuestra relación con otros seres humanos o con los animales. Todas estas cuestiones se volverían primordiales. Por todo eso sería para nosotros de gran importancia (y también para las autoridades) saber si las pretensiones de los fabricantes que, suponemos, se basan en su afirmación de que "cada uno de nuestros aparatos pensantes ha sido sometido a la prueba de Turing por un equipo de expertos" son realmente ciertas. Creo que, pese al absurdo aparente de algunas de las implicaciones de este hecho, en particular las morales, el considerar la superación de la prueba de Turing como un indicio válido de la presencia de pensamiento, inteligencia, comprensión o conciencia es más que razonable, pues ¿de qué otro modo, si no es por la conversación juzgamos el que otras personas poseen tales cualidades? En realidad sí existen otros criterios, como las expresiones faciales, los movimientos corporales u otras acciones, que nos pueden influir de forma significativa al hacer tales juicios. Pero podemos imaginar que se pudiera construir (quizás en un futuro más lejano) un robot que imitase con éxito todas estas expresiones y movimientos. En ese caso ya no sería necesario ocultar el robot y el sujeto humano de la vista de la interrogadora, aunque los criterios que ésta tendría a su disposición son, en principio, los mismos que antes.

En lo que a mí concierne, estoy dispuesto a relajar considerablemente los requisitos de la prueba de Turing. Creo que pedir a la computadora que imite a un ser humano de tal forma que resulte indistinguible de éste en los aspectos más importantes es, en verdad, pedirle más de la cuenta. Todo lo que yo pediría es que nuestra interrogadora perspicaz se sintiera realmente convencida —a través de la naturaleza de las réplicas de la computadora— de que hay una presencia consciente, aunque posiblemente extraña, que subyace en esas réplicas. Esto es algo manifiestamente ausente de todos los sistemas de computadoras que se han construido hasta la fecha. Me doy cuenta, sin embargo, de que existiría el peligro de que si la interrogadora fuera capaz de darse cuenta efectivamente de cuál de los sujetos era la computadora, entonces, quizás inconscientemente, podría ser reacia a atribuirle una conciencia, aun cuando pudiera percibirla. O, por el contrario, ella podría tener la impresión de que "siente" esa "presencia extraña" —y estar dispuesta a conceder a la computadora el beneficio de la duda— aun cuando no la hay. Por estas razones, la versión original de la prueba de Turing tiene una ventaja considerable al ser más objetiva y en general me atendré a ella en lo que sigue. La consiguiente "injusticia" que se comete con la computadora de la que he hablado antes (es decir, que para superar la prueba debe ser capaz de hacer todo lo que puede hacer un ser humano, mientras que el humano no necesita ser capaz de hacer todo lo que puede hacer una computadora) no es algo que parezca preocupar a los defensores de la prueba de Turing como una verdadera prueba de pensamiento. En cualquier caso, su reiterada opinión es que no pasará mucho tiempo antes de que una computadora pueda realmente superar la prueba, digamos hacia el año 2010. (Turing sugirió originalmente que para el año 2000 la computadora podría llegar al 30% de éxitos frente a un interrogador ' medio" y sólo cinco minutos de interrogatorio.) Sus partidarios parecen convencidos, en consecuencia, de que la falta de imparcialidad no está retrasando mucho ese día.

Todo esto resulta importante para una cuestión esencial: ¿realmente el punto de vista operacional proporciona un conjunto de criterios razonable para juzgar la presencia o la ausencia de cualidades mentales en un objeto? Algunos afirmarán contundentemente que no. La imitación, por muy hábil que sea, no es lo mismo que el objeto imitado. Mi posición a este respecto es en cierto modo intermedia. Como principio general me inclino a creer que la imitación, por muy hábil que sea, debería ser siempre detectable mediante un sondeo suficientemente hábil — aunque esto es más una cuestión de fe (o de optimismo científico) que un hecho probado. Por ello estoy dispuesto a aceptar la prueba como aproximadamente válida en su contexto. Es decir, si la computadora fuera capaz de responder a todas las preguntas que se le plantean de manera indistinguible a como lo haría un ser humano, y así, engañar completa y consistentemente a nuestra interrogadora perspicaz, entonces, en ausencia de cualquier evidencia en contra, mi conjetura sería que la computadora realmente piensa y siente. Al utilizar palabras como "evidencia", "realmente", "conjetura", quiero decir que cuando me refiero a pensamiento, sentimiento o comprensión o, especialmente, a conciencia, considero que los conceptos significan "cosas" reales objetivas cuya presencia o ausencia en los cuerpos físicos es algo que tratamos de descubrir, y que no son simplemente conveniencias de lenguaje. Considero esto un punto crucial. Al tratar de discernir la presencia de tales cualidades hacemos conjeturas basadas en toda la evidencia disponible. (Esto no es diferente del caso, por ejemplo, de un astrónomo que trata de averiguar la masa de una estrella lejana.)

¿Qué tipo de evidencia en contra tendríamos que considerar? Es difícil establecer reglas por adelantado. No obstante, quiero dejar claro que el simple hecho de que la computadora pudiera estar construida a base de transistores y cables en lugar de neuronas y venas, no es, propiamente dicho, el tipo de cosas que consideraría como evidencias en contra. Estoy pensando en que en algún momento en el futuro pueda desarrollarse una teoría acertada de la conciencia —acertada en el sentido de que sea una teoría física coherente y apropiada, elegante y consistente con el resto de los conocimientos físicos, y tal que sus predicciones correspondan exactamente con las afirmaciones de los seres humanos acerca de cuándo o hasta qué punto parecen ellos mismos ser conscientes— y que esta teoría pueda tener implicaciones sobre la supuesta conciencia de nuestra computadora. Se podría incluso imaginar un "detector de conciencias", construido según los principios de esta teoría, que fuera completamente fiable frente a sujetos humanos pero que diera resultados diferentes a los de una prueba de Turing en el caso de una computadora. En tales circunstancias, tendríamos que ser muy cuidadosos a la hora de interpretar los resultados de una prueba de Turing. Creo que la forma de ver la cuestión de cómo adaptar la prueba de Turing depende en parte de la forma en que esperamos que se desarrollen la ciencia y la tecnología.

(1) Al escribir un trabajo como éste se presenta un problema inevitable cuando hay que decidir si usar los pronombres "él" o "ella" donde no se tenga intención de referirse al género. Por lo mismo, cuando haga referencia a alguna persona abstracta usaré en lo sucesivo él para indicar simplemente la frase "ella o él", lo que considero una práctica común. Sin embargo, espero que se me perdone un evidente rasgo de sexismo al expresar aquí una preferencia por un interrogador femenino. Mi idea es que ella podría ser más sensible que su contraparte masculina en cuanto a reconocer cualidades humanas reales.