Sandy: Me alegro. ¿Sigues siendo el mismo escéptico de antes frente a la inteligencia artificial?

Chris: No me expliqué bien. No estoy contra la inteligencia artificial. La encuentro extraordinaria… un poco loca, tal vez, pero ¿por qué no? Sencillamente estoy convencido de que ustedes, los que la defienden, subestiman mucho la mente humana, y que hay cosas que la computadora no podrá hacer nunca. Por ejemplo, ¿imaginas una computadora escribiendo una novela de Proust? La riqueza imaginativa, la complejidad de los personajes…

Sandy: ¡Roma no se levantó en un día!

Chris: En el artículo, Turing aparece como un hombre interesante. ¿Vive todavía?

Sandy: No, murió en 1954, muy joven. A los cuarenta y un años. Este año no tendría más que sesenta y siete, aunque se ha vuelto una figura tan legendaria que resulta extraño imaginarlo vivo hoy.

Chris: ¿Cómo murió?

Sandy: Casi con toda seguridad, se suicidó. Era homosexual y debió soportar mucha crueldad y estupidez por parte del mundo exterior. Por fin no pudo soportarlo, según parece, y se mató.

Chris: Qué historia triste…

Sandy: Es bien triste. Lo que me da más tristeza a mí es que no llegó a conocer los asombrosos progresos en teoría y mecánica de computación que hubo después.

Pat: Oigan. ¿Piensan darme algún indicio sobre lo que dice ese articulo de Turing?

Sandy: En realidad trata de dos cosas. Una es la cuestión siguiente: «¿Puede pensar una máquina?», o mejor dicho: «¿Llegará a pensar algún día una máquina?». La forma en que Turing responde a la pregunta —y al parecer su respuesta es «sí»— es atacando una serie de objeciones a la idea, objeciones que toma una por una. El otro punto que considera es que la pregunta no tiene significado alguno tal como se la formula. Contiene demasiadas connotaciones afectivas. A mucha gente le inquieta la idea de que la gente sea una máquina, o que las máquinas sean capaces de pensar. Turing trata de quitarle carga afectiva a la pregunta expresándola en términos menos. Por ejemplo: «¿Qué opinas, Pat, de la idea de las ‘máquinas de pensar’?».

Pat: Francamente, la expresión me parece poco clara. ¿Y sabes lo que confunde? Esos avisos en los diarios y esa charla en la televisión sobre «productos que piensan», o sobre «cocinas inteligentes», o cosas por el estilo. La verdad es que no sé hasta qué punto tomarlas en serio.

Sandy: Sé a qué clase de publicidad te refieres y también creo que confunde a mucha gente. Por una parte nos repiten la consigna: «Las computadoras son realmente tontas y hay que explicarles todo con el mayor detalle» y por la otra, nos bombardean con exageraciones sobre los «productos inteligentes».

Chris: Así es. ¿Sabías que un fabricante de computadoras terminales ha empezado a llamar a sus productos «terminales tontos» para que se destaquen del montón?

Sandy: Eso me hace gracia, pero no hace otra cosa que favorecer esta tendencia a la confusión. El término «cerebro electrónico» es el que se me ocurre cada vez que pienso en estas cosas. Mucha gente se lo traga del todo, mientras que otra lo rechaza rotundamente. Pocos tienen la paciencia de clasificar todos sus aspectos y decidir cuánto tiene de sentido y cuánto no.

Pat: ¿Sugiere Turing alguna manera de resolver el problema, algún tipo de test de C. 1. para las máquinas?

Sandy: Sería interesante, pero no hay máquina que haya llegado cerca, siquiera, a someterse a un test de inteligencia. En su lugar, Turing propone un test que teóricamente podría aplicarse a cualquier máquina para determinar si puede pensar o no.

Pat: ¿Te da ese test una respuesta bien clara, afirmativa o negativa? Si afirmase darla, yo sería algo escéptico.

Sandy: No, no la da. En cierto modo, es una de sus ventajas. Demuestra hasta qué punto es borrosa la delimitación y qué sutil es toda la cuestión.

Pat: De manera que, como suele suceder en filosofía, todo es cuestión de palabras.

Sandy: Es posible, pero se trata de palabras muy cargadas afectivamente, y es importante, pienso yo, explorar los problemas aislados y tratar de trazar los significados de las palabras decisivas. Los problemas son importantes para el concepto que tenemos de nosotros mismos y no hay que barrerlos debajo de la alfombra y olvidarlos.

Pat: Dime, entonces, en qué consiste el test de Turing.

Sandy: La idea se basa en lo que él llama el «juego de la imitación». En este juego un hombre y una mujer entran en cuartos separados y los interroga una tercera persona por medio de algún aparato de teletipo. La tercera persona puede dirigir preguntas a cualquiera de los dos cuartos, pero no tiene idea de quién está en cada uno. Para el interrogador la idea es dilucidar en cuál de los cuartos está la mujer. Ahora bien, la mujer, por medio de sus respuestas, trata de ayudar todo lo posible al interrogador. El hombre, por el contrario, hace todo lo que puede por confundirlo, respondiendo como imagina que respondería una mujer. Y si consigue engañar al interrogador…

Pat: El interrogador sólo ve palabras escritas, ¿no? Y el sexo del autor debe resultar evidente, ¿eh? Diría que es un buen juego. Me gustaría mucho participar en él un día. ¿Conoce, acaso, al interrogarlos, ya sea al hombre, ya sea a la mujer, antes de haber comenzado el juego? ¿Conocería cualquiera de ellos a alguno de los otros, o a ambos?

Sandy: Pienso que sería una mala idea. Si el interrogador conociese a uno o a los dos interrogados, se introduciría toda clase de información subliminal. Lo más seguro sería que las tres personas no se conociesen entre ellas.

Pat: ¿Puedes hacer preguntas sin restricciones de ninguna clase?

Sandy: Por supuesto. Toda la idea es ésa.

Pat: ¿No crees, entonces, que muy pronto la cosa degeneraría en preguntas con un gran contenido sexual? Imagino al hombre, demasiado ansioso por sonar a convincente, malogrando el juego al responder a preguntas muy crudas, a las que muchas mujeres responderían con dificultad por encontrarlas demasiado personales, aun formuladas a través de una conexión anónima de computadora.

Sandy: Parece admisible.

Chris: Otra posibilidad sería buscar información en aspectos minuciosos dentro de las diferencias en los respectivos papeles sexuales de tipo tradicional, formular preguntas relacionadas con tamaños de ropa y cosas semejantes. La psicología del juego de la imitación podría volverse bastante sutil. Y supongo que haría cierta diferencia que el interrogador fuese hombre o bien mujer. ¿No crees que una mujer sería capaz de identificar diferencias reveladoras con mayor rapidez que un hombre?

Pat: En tal caso, ¡tienes allí la forma de saber si es una mujer o un hombre!

Sandy: Mmmm… ¡No se me había ocurrido! De todos modos, no sé si esta versión original del juego de la imitación ha sido probada seriamente en alguna oportunidad, a pesar de que sería relativamente fácil hacerlo con las computadoras terminales de hoy. Debo reconocer, sin embargo, que no estoy segura de lo qué se probaría, cualquiera que fuese el resultado obtenido.

Pat: Es la pregunta que me hacía. ¿Qué se probaría si el interrogador —una mujer, digamos— no supiese decir correctamente cuál de las dos personas es la mujer? ¡Decididamente no probaría que la mujer era el hombre!

Sandy: ¡Ni más ni menos! ¡Lo que encuentro cómico es que si bien creo básicamente en el test de Turing, no estoy segura del objetivo que persigue el juego de la imitación, en el cual se basa!

Chris: Tampoco me siento yo más feliz con el test de Turing como test para las «máquinas de pensar» de lo que estoy con el juego de la imitación como test de feminidad.

Pat: Por lo que dicen los dos, entiendo que el test de Turing es una especie de extensión del juego de la imitación, sólo que en él participan una máquina y una persona en los dos cuartos separados.

Sandy: Sí, la idea es ésa. La máquina hace todo lo que puede por convencer al interrogador de que es un ser humano, mientras que el ser humano trata de dejar bien establecido que él o ella no es una computadora.

Pat: Salvo por esa frase llena de implicaciones, «la máquina hace todo lo que puede», todo suena muy interesante. Pero ¿cómo sabes que este test llegará a la esencia del pensamiento? Es posible que se dirija a la medición de cosas que no corresponde medir. Es posible, para tomar un ejemplo al azar, que alguien llegue a creer que una máquina puede pensar si llega a bailar tan bien que no se advierte que es una máquina. O bien otro propondría alguna otra característica. ¿Qué tiene de sagrado el hecho de poder engañar a la gente mediante respuestas escritas a máquina?

Sandy: No sé cómo puedes decir semejante cosa. He oído ya esa objeción y me pone perpleja, francamente. ¿Qué importa que la máquina no pueda bailar un zapateado o dejar caer una piedra en el pie? ¡Si es capaz de perorar con inteligencia sobre el tema que se te ocurra, ha demostrado que sabe pensar… por lo menos, me lo ha demostrado a mí! Para mí, Turing ha establecido, con una línea bien precisa, la clara división entre pensar y otros aspectos implicados en la condición de ser humano.

Pat: Ahora la que me desconciertas eres tú. Si no pudiésemos inferir nada de la capacidad de un hombre de ganar en el juego de la imitación, ¿cómo podría nadie llegar a una conclusión cualquiera sobre la base de la capacidad de la máquina de ganar en el juego de Turing?

Chris: Buena pregunta.

Sandy: Yo pienso que podría llegarse a alguna conclusión partiendo del hecho de que un hombre gane en el juego de la imitación. No llegarías a la conclusión de que era una mujer, pero sin duda podrías afirmar que tiene una buena intuición en cuanto a la mentalidad femenina (si tal cosa existe). Ahora bien, si la computadora pudo engañar a alguien y hacerle creer que era una persona, creo que podrías afirmar algo semejante sobre esa máquina, es decir, que tiene buena intuición en cuanto a lo que implica ser humano, en cuanto a la «condición humana», o como la llames.

Pat: Puede ser, pero eso no es necesariamente lo mismo que pensar, ¿no? Yo diría que aprobar el test de Turing sólo probaría que alguna máquina es capaz de funcionar muy bien en el trabajo de simular que es humana.

Chris: Estoy en total acuerdo con Pat. Todos sabemos que hoy existen programas de computación complicados para simular toda clase de fenómenos complejos. En física, por ejemplo, simulamos el comportamiento de partículas, átomos, sólidos, líquidos, gases, galaxias y demás. ¡Pero nadie confunde estos simulacros con lo que es real!

Sandy: En su libro Brainstorms, que podríamos calificar como «inspiraciones súbitas», aproximadamente, el filósofo Daniel Dennett declara algo parecido al referirse a los huracanes simulados.

Chris: También ése es un buen ejemplo. Es obvio que lo que sucede dentro de una computadora cuando está simulando un huracán no es un huracán, pues la memoria de la máquina no se hace pedazos por vientos de 200 millas por hora, el piso no se inunda de agua de lluvia, y así sucesivamente.

Sandy: Vamos, vamos… ¡Ese no es un argumento justo! En primer lugar los programadores no afirman que el simulacro sea realmente un huracán. Es tan sólo un simulacro de ciertos aspectos del huracán. Pero en segundo lugar, incurres en excesiva viveza cuando insinúas que no hay lluvias torrenciales y vientos de 200 millas en un huracán simulado. Para nosotros no los hay, pero si el programa fuese increíblemente detallado, incluiría el simulacro de gente en el terreno que experimentaría el viento y la lluvia tal como nos ocurriría a nosotros cuando se desata un huracán. En la mente de ellos —o si lo prefieres, en su mente simulada— el huracán no sería un simulacro, sino un fenómeno auténtico con todos los ingredientes, incluidos la anegación y la devastación.

Chris: ¡Ah, qué guión para ciencia ficción! ¡Y ahora estamos hablando de simular una población entera y no solamente una mentalidad!

Sandy: Te diré, Chris, simplemente estoy tratando de mostrarte por qué tu argumento de que un huracán simulado no es un huracán de verdad es falso. Se basa en la suposición tácita de que cualquier observador del fenómeno fraguado es igualmente capaz de ver lo que sucede. En realidad, puede ser necesario un observador con un punto de observación especial para que identifique lo que sucede. En este caso, harán falta unos anteojos especiales «de computación» para ver la lluvia, los vientos y demás.

Pat: ¿Anteojos de computación? No sé de qué estás hablando.

Sandy: Quiero decir que para ver los vientos y el agua del huracán hay que saber mirarlo como es debido. Tú…

Chris: ¡No, no, no! ¡Un huracán simulado no moja! ¡Por mucho que impresione como mojado a la gente simulada, nunca será verdaderamente mojado! ¡Y ninguna computadora va a destrozarse en el proceso de simular un vendaval!

Sandy: Claro que no, pero estás confundiendo los niveles. Las leyes de la física tampoco se destrozan a causa de los huracanes. En el caso del huracán simulado, si observas la memoria de la computadora con la esperanza de ver cables rotos y demás, tendrás una desilusión. Pero mira el nivel correcto. Mira las estructuras para las cuales se ha codificado en la memoria. Verás que se han roto algunos lazos abstractos, que han cambiado radicalmente algunos de los valores de las variables y muchas cosas más. Aquí tienes tu inundación, tu devastación, de verdad, aunque un poco escondida, un poco difícil de advertir.

Chris: Perdona, pero no me convence todo eso. Insistes en que debo buscar un tipo distinto de devastación, un tipo nunca asociado hasta ahora con los huracanes. Si aplicamos esa idea, puedes llamar huracán a cualquier cosa, siempre que sus efectos, vistos a través de tus «anteojos especiales» puedan llamarse «inundaciones y devastación».

Sandy: Perfecto. ¡Lo comprendiste muy bien! Reconoces un huracán por sus efectos. ¡No tienes manera de ir y encontrar alguna «esencia de huracán» etérea, alguna «alma de huracán», ubicada en el centro mismo del ojo! Es la existencia de cierto tipo de patrón, una tormenta en espiral con un ojo y demás lo que te hace decir que se trata de un huracán. Desde luego hay muchas cosas en las cuales insistirás antes de llamar a algo un huracán.

Pat: Bien, ¿no dirías que el que sea un fenómeno atmosférico es un requisito previo esencial? ¿Cómo puede ser una tormenta nada que esté dentro de una computadora? ¡Para mí, un simulacro es un simulacro!

Sandy: En ese caso podrías decir que hasta los cálculos efectuados por las computadoras son simulados, son cálculos de imitación. Sólo la gente puede hacer cálculos genuinos, ¿no?

Pat: Yo diría que las computadoras obtienen las respuestas correctas, de modo que sus cálculos no son lo que podría llamarse falsos, pero siguen siendo simples patrones. No, en ellos no existe un proceso de comprensión. Piensa en una caja registradora. ¿Puedes decir con toda sinceridad que a tu juicio está calculando algo cuando empiezan a girar los engranajes? Y según entiendo, una computadora no es más que una caja registradora elegante.

Sandy: Si quieres decir que una caja registradora no siente lo mismo que un escolar haciendo problemas de aritmética, estoy de acuerdo. ¿Pero es ése el significado de «cálculo»? ¿Es eso parte integral de él? Si es así, contrariamente a lo imaginado por todo el mundo hasta hoy, tendremos que preparar un programa muy complicado para llevar a cabo operaciones genuinas. Como es lógico, este programa se volverá a veces descuidado y cometerá errores, y a veces garabateará las respuestas en forma ilegible, así como de vez en cuando hará monigotes en el papel… No será más confiable que el empleado de correos que suma manualmente el total que debemos. Ahora debo decirte que creo que en definitiva un programa como éste sería factible. Si lo hiciésemos, sabríamos algo sobre la forma en que trabajan los empleados de correos y los escolares.

Pat: ¡No creo que pudieras hacer eso nunca!

Sandy: Quizá sí, quizá no, pero lo importante para mí no es esto. Tú afirmas que la caja registradora no sabe hacer cálculos. Esto me recuerda otro pasaje favorito del libro de Dennett Brainstorms, un pasaje un poco irónico que me gusta por ésa razón, precisamente. Dice más o menos lo siguiente: «Las cajas registradoras no saben calcular, en realidad. Lo único que saben hacer es hacer girar sus engranajes. Pero en realidad las cajas registradoras tampoco pueden hacer girar sus engranajes: lo único que pueden hacer es seguir las leyes de la física». Dennett lo dijo, al principio, al referirse a las computadoras. Por mi parte lo modifiqué para referirme a las cajas registradoras. Y podríamos aplicar el mismo razonamiento para hablar de personas: «Las personas no saben calcular, en realidad, sino que lo único que saben hacer es manipular símbolos mentales. Pero en realidad no están manipulando símbolos mentales, sino que lo único que hacen es poner en acción distintas neuronas para establecer diversos patrones. Aunque en realidad, no pueden hacer funcionar sus neuronas. Simplemente deben dejar que las leyes de la física las hagan funcionar para ellos». Y así sucesivamente. ¿No ves como este reductio ad absurdum inspirado por Dennett podría llevarte a inferir que el cálculo no existe, que los huracanes no existen, que nada existe en un nivel superior al de las partículas y las leyes físicas? ¿Qué ganas con afirmar que una computadora no hace más que empujar símbolos de un lado a otro y que en realidad no hace cálculos?

Pat: Puede ser que el ejemplo sea extremo, pero refuerza mi argumento de que existe una gran diferencia entre un fenómeno real y cualquier simulacro del mismo. Esto es así en el caso de los huracanes, y mucho más, aun, en el del pensamiento humano.

Sandy: Mira, no quiero envolverme en este giro de la discusión, pero déjame presentarte un ejemplo más. Si fueras un aficionado a la radio que escuchas a otro cuando transmite en Morse y tú respondieses también en Morse, ¿te resultaría extraño referirte a la «persona en el otro extremo»?

Pat: No, no me parecería raro, aunque la existencia de una persona en el otro extremo no sería más que una suposición.

Sandy: Sí, pero no es probable que fueses a establecerlo. Estás preparado para reconocer la cualidad de persona a través de esos canales fuera de lo habitual. No tienes que ver un cuerpo humano ni oír una voz: todo lo que necesitas es una manifestación bastante abstracta, un código, por así decir. A lo que me dirijo es a lo siguiente. Para «ver» a la persona detrás de las teclitas, tienes que estar dispuesto a hacer un poco de decodificación, un poco de interpretación. No se trata de percepción directa, sino indirecta. Tienes que retirar una capa o dos para descubrir la realidad oculta allí. Te pones los «anteojos de radioaficionado» para «ver» a la persona detrás de los zumbidos. ¡Lo mismo pasa con el huracán simulado! No lo vez oscureciendo el cuarto de máquinas. Tienes que decodificar la memoria de la máquina. Tienes que ponerte «anteojos de decodificar la memoria» especiales. ¡Entonces lo que ves es un huracán!

Pat: ¡Muy bien, muy bien! Tú hablas de mi excesiva viveza… ¡Espera un poco! En el caso de la radio de onda corta, hay una persona real allá lejos, en algún punto de las islas Fiji, o donde sea. Mi acción de decodificar mientras espero sentado junto a mi radio me revela solamente que esa persona existe. Es como ver una sombra e inferir que hay allá un objeto que la proyecta. ¡Pero nunca confundimos la sombra con el objeto! Y en el caso del huracán no hay uno real detrás de la escena, que obligue a la computadora a reproducir sus patrones. No, lo que tienes es simplemente la sombra de un huracán, pero sin huracán. Personalmente, me niego a confundir sombras con realidad.

Sandy: Muy bien. No quiero insistir hasta el cansancio sobre la misma cosa. Aun admito que es bastante absurdo afirmar que un simulacro de huracán es un huracán. Pero lo que quería señalar no es tan absurdo como podría creerse a primera vista. Y cuándo pasas al pensamiento simulado, tenemos entre manos algo muy diferente de los huracanes simulados.

Pat: No veo por qué. Una inspiración súbita suena para mí bastante como un huracán o ráfaga mental. En serio, tienes que convencerme.

Sandy: Bien, para convencerte tendré que hablar de unos cuantos puntos más en cuanto a los huracanes.

Pat: ¡No, por favor! Bien, bien, habla.

Sandy: Nadie sabe decir con exactitud qué es un huracán… quiero decir, en términos precisos. Hay un patrón abstracto compartido por muchas tormentas y por esa razón llamamos huracanes a esas tormentas. Sin embargo, no es posible trazar una diferencia clara entre huracanes y «no huracanes». Hay tomados, ciclones, tifones, tormentas de tierra… ¿Será un huracán la Gran Mancha Roja de Júpiter? ¿Son huracanes las manchas solares? ¿Podría producirse un huracán en un túnel de viento? ¿Y en un tubo de ensayo? En la imaginación puedes aun extender el concepto de «huracán» hasta incluir una tormenta microscópica en la superficie de una estrella neutrón.

Chris: Te diré que nada de lo que dices es tan inconcebible. El concepto de «terremoto» se ha extendido hoy a las estrellas neutrones. Los astrofísicos dicen que los cambios ínfimos en proporción que se observan de vez en cuando en la pulsación de un «pulsar» son causados por lo que llaman «glitches», o «astro-motos», para dar un término semejante a «terremoto», que acaban de producirse en la superficie de una estrella neutrón.

Sandy: Ahora que lo dices, lo recuerdo. La idea del «glitch» me causa una impresión fantasmagórica, maravillosa, la de un tipo de estremecimiento surrealista en una superficie también surrealista.

Chris: ¿Te imaginas… placas tectónicas sobre una gigantesca esfera rotativa de materia nuclear pura?

Sandy: Idea fantástica… Por consiguiente podemos incluir los astromotos y los terremotos en una categoría nueva, más abstracta. Y es así como la ciencia amplía sin cesar conceptos conocidos, llevándolos más y más lejos de la experiencia que nos es familiar y a la vez manteniendo constante su esencia. El sistema numérico es un ejemplo clásico: de números positivos a números negativos, luego a los racionales, los reales, los complejos, y así «hasta más allá del cedro» como dice el doctor Seuss en sus libros de matemática para niños.

Pat: Creo entender lo que has dicho ahora, Sandy. Tenemos muchos ejemplos en biología de relaciones estrechas que se establecen según formas más bien abstractas. A menudo la decisión sobre la familia a que pertenece una especie se reduce a un patrón abstracto compartido en determinado nivel. Cuando basas tu sistema de clasificación en pautas abstractas, supongo que gran variedad de fenómenos puede caer dentro de «la misma clase» aun cuando en muchos aspectos superficiales los miembros de esa clase no se asemejen en nada. Puedo, entonces, tener una visión, aunque sea reducida, del concepto de que para ti un simulacro de huracán pueda ser, en algún sentido inusual, un huracán.

Chris: ¡Puede ser que la palabra que estamos ampliando en sus alcances sea «ser» y no huracán!

Pat: ¿Qué quieres decir?

Chris: Si Turing puede extender el verbo «pensar», ¿no puedo yo extender el verbo «ser»? Lo que quiero decir es que cuando se confunde deliberadamente la imitación con el artículo genuino, hay alguien que está incurriendo en una maniobra tendiente a impedirnos ver bien las cosas. Es mucho más grave que ampliar ciertos sustantivos como «huracán».

Sandy: Me gusta tu idea de que se extienda «ser», pero creo que vas demasiado lejos al insinuar que alguien trata de cegarnos filosóficamente. De todos modos, si no tienes inconveniente, déjame añadir una cosa más sobre los simulacros de huracanes, después de lo cual pasaré al simulacro de la mente. Supongamos que analizamos una simulación a fondo de un huracán, me refiero a la simulación de todos los átomos, que reconozco es de una profundidad imposible. Espero que estés de acuerdo, en ese caso, en que este huracán compartiría toda esa estructura abstracta que define la «esencia de la huracanería», si me permites inventar una palabra. ¿Qué puede impedirte en tal caso darle el nombre de huracán?

Pat: ¡Creí que habías renunciado a esa idea sobre similitud!

Sandy: Es verdad, pero luego aparecieron estos ejemplos y me vi obligada a retomar mi afirmación y defenderla. Pero ahora voy a retroceder, como dije que lo haría, para volver al pensamiento, la verdadera cuestión que nos ocupa. El pensamiento, más aun que los huracanes, es una estructura abstracta, una forma de describir algunos procesos complejos que tienen lugar en un medio llamado cerebro. Pero en realidad, el pensamiento puede tener lugar en cualquiera de varios miles de millones de cerebros. Tenemos todos estos cerebros físicamente tan diferentes y sin embargo, todos se dirigen a lo mismo, «pensar». Lo que es importante, entonces, es el patrón abstracto, no el medio. En cualquiera de ellos puede tener lugar la misma agitación, de modo que nadie puede afirmar que «piensa con mayor realidad» que otros. Ahora bien, si descubrimos algún medio enteramente nuevo en el cual tiene lugar el mismo estilo de agitación, ¿podrías negar que hay un proceso de pensamiento en ese medio?

Pat: Probablemente no, pero has desviado la cuestión. La cuestión es, ahora, ¿cómo puedes determinar si «el mismo estilo» de agitación tiene lugar realmente?

Sandy: ¡Lo hermoso del test de Turing es que te dice si pasa!

Chris: No lo veo. ¿Cómo podrías saber que tiene lugar el mismo estilo de actividad dentro de la computadora que dentro de mi propia mente, simplemente porque haya respondido a preguntas como lo hago yo? Todo lo que ves es el exterior.

Sandy: ¿Pero, cómo sabes que cuando te hablo, algo semejante a lo que tú llamas «pensar» está ocurriendo dentro de mí? El test de Turing es un sondeo fantástico, algo así como un acelerador de partículas en física. Chris, creo que a ti te gustará esta analogía. Así como en física, cuando quieres comprender lo que sucede en un nivel atómico o subatómico, ya que no puedes verlo directamente, desparramas partículas aceleradas del objetivo en cuestión y observas su comportamiento, infiriendo de esto la naturaleza interna del objetivo, el test de Turing extiende esta idea a la mente. Trata la mente como un «blanco» que no es directamente visible, pero cuya estructura puede deducirse en forma más abstracta. Al «desparramar» las preguntas que brotan de la mente objeto de estudio, te enteras de los mecanismos internos, ni más ni menos que como en la física.

Chris: Dicho en términos más exactos, puedes formular la hipótesis sobre el tipo de estructuras internas que puedan explicar la conducta observada, pero en realidad, pueden existir, o no.

Sandy: ¡Espera, espera! ¿Quieres decir que los núcleos atómicos son simples entidades hipotéticas? Después de todo su existencia (¿o debo decir, acaso, «existencia hipotética»?), ha sido probada (¿o debo decir «sugerida»?) por el comportamiento de las partículas que se dispersan de los átomos.

Chris: Para mí los sistemas físicos aparecen como mucho más sencillos que la mente, y la certeza de las inferencias derivadas de ellos es proporcionalmente mayor.

Sandy: También los experimentos son más difíciles de realizar y de interpretar. En el test de Turing, era posible llevar a cabo muchos experimentos sumamente delicados en el término de una hora. Yo sostengo que la gente acepta que el prójimo tiene conciencia tan sólo porque hay un monitoreo exterior constante sobre los otros, lo cual en sí se parece mucho al test de Turing.

Pat: Eso es más o menos exacto, pero implica algo más que limitarse a conversar con la gente a través de un teletipo. Vemos que la otra gente tiene cuerpo, observamos sus caras y expresiones… vemos que son seres humanos y por ello pensamos que piensan.

Sandy: Para mí ésa es una posición altamente antropocéntrica de encarar el pensamiento. ¿Quiere decir que preferirías afirmar que un maniquí en una tienda piensa, antes que atribuirle lo mismo a una computadora maravillosamente programada, sólo porque el maniquí tiene un aspecto más humano?

Pat: Obviamente me haría falta algo más que una semejanza vagamente física para estar dispuesto a aceptar la facultad del pensamiento en una entidad. Pero esa cualidad orgánica, el carácter de igual del origen, proporciona sin duda un grado de credibilidad que es muy importante.

Sandy: En este punto no estamos de acuerdo. Eso es de un flagrante egotismo. Yo creo que la clave está en la similitud de la estructura interna —no la estructura corporal, orgánica, o química, sino de organización— en las piezas delicadas, una entidad pueda pensar, depende, a mi juicio, de que sea posible describir su organización en determinados términos y estoy perfectamente dispuesta a creer que el test de Turing detecta la presencia, o bien la falta de ese modo de organización. Yo diría que el que tú hagas depender de mi cuerpo físico la evidencia de que soy un ser pensante es un poco superficial. Tal como veo las cosas, el test de Turing investiga con mucha mayor profundidad que deteniéndose en la simple forma externa.

Pat: Escuchen. No parecen respetar mucho mi punto de vista. No es sólo la forma de un cuerpo lo que da mayor peso a la idea de que en su interior se piensa de verdad. Se trata, como dije ya, también de la idea del origen común. Es la idea de que tanto ustedes como yo partimos desde moléculas ADN, idea a la que personalmente atribuyo gran importancia. Lo expresaré así: La forma externa de los cuerpos humanos revela que comparten una profunda historia biológica, y es esa profundidad lo que proporciona tanta credibilidad al concepto de que el dueño de tal cuerpo puede pensar.

Sandy: Pero todo eso es evidencia indirecta. Sin duda necesitas alguna evidencia directa. Para eso es el test de Turing. Y yo creo que es la única manera de hacer un test para establecer la característica de pensante de algo.

Chris: Sin embargo, el test de Turing podría engañarte, así como un interrogador puede imaginar que un hombre es una mujer.

Sandy: Lo admito. Podría engañarme si realizase la prueba en forma demasiado apresurada o superficial. La verdad es que yo trataría de investigar las cosas más profundas que se me ocurriesen.

Chris: Yo querría averiguar si el programa es capaz de comprender los chistes. Esto sí que sería una verdadera prueba de inteligencia.

Sandy: Estoy de acuerdo en que el humorismo es una prueba de fuego para un programa supuestamente inteligente, pero de igual importancia es para mí —o quizá mayor aun— probar las respuestas afectivas. Así, le preguntaría qué reacciones tiene frente a ciertas composiciones musicales u obras literarias, en especial mis composiciones y obras predilectas.

Chris: ¿Qué pasaría si te respondiera «no conozco esa obra», y aun «no me interesa la música»? ¿Qué harías si eludiese toda alusión afectiva?

Sandy: Me despertaría sospechas. Cualquier forma consistente de eludir ciertas cuestiones provocaría serias dudas acerca de si estoy frente a un ser pensante o no.

Chris: No veo por qué dices tal cosa. ¿Por qué no decir más bien que estás en presencia de un ser pensante, pero no emocional?

Sandy: Has dado en un punto sensible. Sencillamente no puedo creer que las emociones y el pensamiento puedan separarse. Dicho de otra manera, creo que las emociones son un subproducto automático de la capacidad de pensar. La naturaleza misma del pensamiento las exige.

Chris: Dime: ¿Si estuvieses equivocada? ¿Si yo inventase una máquina capaz de pensar pero no de tener emociones? Entonces su inteligencia no sería reconocida, por haber fracasado en la aprobación de tu clase de test.

Sandy: Querría que me dijeras dónde está la línea de demarcación entre las cuestiones emocionales y las no emocionales. Podrías querer preguntarme el sentido de una gran novela. ¡Esto requiere una comprensión de las emociones humanas! ¿Hallas ese pensar genuino, o bien simple cálculo frío? Podrías desear preguntarme acerca de una elección sutil de vocabulario. Para eso necesitas conocer las connotaciones de estas palabras. Turing usa ejemplos como éste en su artículo. Podrías desear pedirle consejo en cuanto a una compleja situación sentimental. Tendría que saber muchísimo sobre las motivaciones humanas y su origen. Y si fracasara en este tipo de tarea, no me inclinaría mucho a creer que es capaz de pensar. En cuanto a mí se refiere, la capacidad de pensar, la capacidad de sentir y la conciencia de uno mismo son sólo facetas diferentes de un único fenómeno y no es posible presentar ninguno de ellos sin los otros.

Chris: ¿Por qué no podrías construir una máquina incapaz de sentir nada, pero que pudiese en cambio pensar y hacer decisiones complejas? No veo la contradicción.

Sandy: Yo, sí. Creo que cuando dices esto, estás visualizando una máquina metálica, rectangular, probablemente en un recinto con aire acondicionado: un objeto duro, angular, frío, con un millón de alambres de colores dentro, una máquina que se queda inmóvil como una piedra en un piso de baldosas, zumbando o susurrando, o lo que sea, y haciendo girar sus cintas. Una máquina como ésta puede jugar un buen partido de ajedrez, lo cual, admito sin vacilar, implica hacer una cantidad de decisiones. Sin embargo, nunca podría decir que esa máquina es consciente.

Chris: ¿Por qué? Para los mecanicistas, ¿una máquina que juega al ajedrez no es rudimentariamente consciente?

Sandy: Para esta mecanicista con quien hablas, no. Para mí, la conciencia refleja tiene que provenir de un patrón de organización preciso, un patrón que todavía no hemos logrado llegar a describir con detalle. Creo, no obstante, que poco a poco llegaremos a comprenderlo. Creo que la conciencia de uno mismo requiere cierto modo de reflejar internamente el universo y la capacidad de responder a la realidad externa sobre la base del modelo representado interiormente. Además, lo que resulta crucial para una máquina consciente es que pueda incorporar un modelo de sí misma bien desarrollado y flexible. Y es en este aspecto donde todos los programas existentes, incluidos los mejores aparatos de jugar al ajedrez, fracasan.

Chris: ¿No prevén los programas de ajedrez lo que sucederá, para decirse mientras imaginan la movida siguiente: «Si mueves aquí, yo iré allí, y luego si mueves hacia aquí, yo podría ir hacia allí…»? ¿No es esto una especie de modelo de sí misma?

Sandy: En realidad, no. O por lo menos, es un modelo muy limitado. Es una autocomprensión tan sólo en el sentido más restringido. Por ejemplo, un programa de partido de ajedrez no tiene el concepto de por qué está jugando al ajedrez, ni del hecho de ser un programa, o una computadora, o de tener un contrincante humano. No tiene idea del significado de ganar o de perder, o de…

Pat: ¿Cómo sabes tú que no tiene ese sentido? ¿Cómo tienes la pretensión de hablar de lo que siente o sabe un programa de ajedrez?

Sandy: ¡Vamos, Pat! Todos sabemos que ciertas cosas no sienten nada ni saben nada. Una piedra que arrojamos no sabe nada de parábolas y un ventilador que gira no sabe nada de aire. Es verdad que no puedo probar estas afirmaciones, pero en este caso estamos rozando cuestiones de fe.

Pat: Esto me recuerda una historia taoísta que leí una vez. Es la que les contaré, más o menos. Dos sabios están parados en un puente que atraviesa un arroyo. Uno le dice al otro: «Me gustaría ser un pez. ¡Los peces son tan felices!». El segundo replica: «¿Cómo sabes si los peces son felices o no? No eres pez». El primero dice entonces: «Pero tú no eres yo, de modo que ¿cómo sabes si yo sé lo que sienten los peces?».

Sandy: ¡Hermoso! Hablar de la conciencia refleja realmente requiere cierto grado de autocontrol. De lo contrario ya podríamos sumergirnos en el pozo solipsístico: «Soy el único ser consciente del universo», o bien en el del panpsiquismo: «Todo lo existente en el universo es consciente».

Pat: ¿Qué sabes tú? Quizá todo sea consciente.

Sandy: Si piensas unirte a los que afirman que las piedras y aun las partículas y los electrones tienen alguna forma de conciencia, aquí tomamos caminos separados. Es un tipo de misticismo que no alcanzo a medir. ¡En cuanto a los programas de ajedrez, da la casualidad de que yo sé cómo funcionan y puedo decirte con la mayor certeza que no son conscientes! ¡Nunca!

Pat: ¿Por qué no?

Sandy: Porque sólo incorporan un mínimo de datos sobre el objeto del ajedrez. La noción de «jugar» se transforma en el acto mecánico de comparar una serie de números y elegir el más grande una y otra vez. El programa de ajedrez no tiene sentido de la vergüenza en cuanto a perder o de orgullo en cuanto a ganar. Su automodelo es primitivo. Logra zafarse haciendo lo menos que puede, lo suficiente apenas para jugar un partido de ajedrez y nada más. Sin embargo, es interesante que sigamos hablando de los «deseos» de una computadora de jugar al ajedrez. Decimos que «quiere mantener su rey detrás de una fila de peones», o que «le gusta sacar a sus torres desde el principio», o «imagina que no advierto esa pinza».

Pat: Pues nosotros hacemos lo mismo con los insectos. Localizamos una hormiguita solitaria en alguna parte y decimos: «Está tratando de volver a su hormiguero», o «quiere arrastrar a esa abeja muerta al hormiguero». En realidad, en el caso de cualquiera de los animales aplicamos términos que indican emociones, pero no sabemos bien cuánto siente el animal. Personalmente, no me cuesta nada hablar de perros y gatos que están contentos o tristes, que tienen deseos y creencias y así sucesivamente, pero desde luego no creo que su tristeza sea tan honda o compleja como la tristeza humana.

Sandy: Pero tampoco la llamarías una «tristeza simulada», ¿no?

Pat: No, claro que no. Creo que es real.

Sandy: Es difícil evitar el uso de términos teleológicos o orientalistas. Los hallo justificados, aunque no debemos llevarlos demasiado lejos. Simplemente no tienen la misma riqueza de significado cuando se los aplica a los programas de ajedrez de hoy que cuando los aplicamos a las personas.

Chris: No veo aún por qué la inteligencia tiene que implicar emociones. ¿Por qué no podemos imaginar una inteligencia que se limita a hacer cálculos y que carece de sentimientos?

Sandy: ¡Tengo dos respuestas para ti! Número uno, que toda inteligencia tiene que tener motivaciones. Simplemente no es el caso, piensen lo que piensen muchos, de que las máquinas puedan pensar más «objetivamente» que las personas. Las máquinas, cuando observan una escena, tendrán que enfocarla y filtrarla hasta que conforme ciertas categorías preconcebidas, tal como lo hace una persona. Y esto implica ver algunas cosas y no ver otras. Significa conceder mayor peso a algunas cosas que a otras. Esto ocurre en todos los niveles de procesamiento.

Pat: ¿Qué quieres decir?

Sandy: Considérame a mí, por ejemplo, en este instante. Podrías pensar que sólo estoy exponiendo ciertos puntos intelectuales y que no necesito de las emociones para hacerlo. Pero ¿qué hace que estos puntos me importen? ¿Y por qué subrayo así la palabra «importen»? ¡Porque en esta conversación estoy emocionalmente involucrada! La gente conversa por convicción, no obedeciendo a reflejos huecos, mecánicos. Hasta la conversación más intelectual está impulsada por emociones subyacentes. Hay una corriente emotiva subterránea en todas las conversaciones, el hecho de que los interlocutotes desean que los escuchen, los comprendan, los respeten por lo que están diciendo.

Pat: Sospecho que quieres decir que la gente necesita tener interés en lo que está diciendo, pues de otro modo, la conversación languidece.

Sandy: ¡Ni más ni menos! Yo no me tomaría el trabajo de hablar con nadie si no me motivase el interés. Y el interés es un nombre más para describir una constelación entera de inclinaciones subconscientes. Cuando hablo, todas mis inclinaciones actúan en conjunto y lo que percibes en el nivel de superficie es mi estilo, mi personalidad. Pero el estilo surge de un número inmenso de pequeñísimas prioridades, tendencias, preferencias. Cuando sumas un millón de estos factores que actúan recíprocamente lo que obtienes es algo que no es otra cosa que una cantidad de deseos. ¡Todo tiene sentido así! Y eso me lleva al punto siguiente, que tiene que ver con el cálculo sin factores afectivos. Sin duda existe… en una máquina registradora, en una minicalculadora de bolsillo. Diría que existe también hasta ahora en todos los programas de computación de hoy. Peto finalmente, cuando reúnan una cantidad de cálculos sin este factor de sentimientos y en una inmensa organización coordinada, obtendrás algo con propiedades en un nivel diferente. Lo puedes ver —en verdad, tienes que verlo— no como un montón de pequeños cálculos, sino como un sistema de tendencias y deseos y demás. Cuando las cosas se complican lo suficiente, te ves obligado a cambiar tu nivel de descripción. Hasta cierto punto esto sucede ya, razón por la cual usamos palabras como «desear», «pensar», «intentar» y «esperar» para describir programas de ajedrez y otros ensayos de pensamiento mecánico. Dennett llama a este cambio de nivel efectuado por el observador la adaptación de la «posición intencional». ¡Las cosas realmente interesantes en materia de inteligencia artificial sólo comenzarán a suceder, diría yo, cuando el programa mismo adopte frente a sí mismo esta posición intencional!

Chris: Sería un nivel bastante insólito, con alteración del ciclo de retroalimentación.

Sandy: Sin duda. Claro, yo opino que es demasiado prematuro adoptar la posición inicial en toda la amplitud del término, en vista de los programas que se realizan hoy. Por lo menos, es mi opinión.

Chris: Para mí, una cuestión relacionada con esto y de gran importancia es: ¿Hasta qué punto es válido adoptar la posición intencional frente a entidades no humanas?

Pat: Decididamente, yo la adoptaría frente a los mamíferos.

Sandy: Yo, también.

Chris: ¡Qué interesante! ¿Cómo puede ser, Sandy? Sin duda no afirmas que un perro o un gato pueden pasar el test de Turing, ¿no? ¿Y sin embargo, no crees que el test de Turing es el único medio de investigar la presencia del pensamiento? ¿Cómo puedes creer las dos cosas a la vez?

Sandy: Mmmm… Muy bien. Diría que me veo obligada a admitir que el test de Turing es aplicable sólo a determinado nivel de la conciencia. Puede haber seres pensantes que fracasen en el test, pero por otra parte, cualquier cosa que lo pase sería, a mi juicio, un ser pensante y genuinamente consciente.

Pat: ¿Cómo puedes considerar a una computadora como un ser consciente? Perdona si esto suena estereotipado, pero cuando pienso en seres conscientes, sencillamente no puedo relacionar esta idea con una máquina. Para mí la conciencia está asociada con cuerpos tibios, suaves, por tonto que te parezca.

Chris: Suena raro, es verdad, cuando lo dice un biólogo. ¿No tratan ustedes la vida en términos de la química y la física hasta un punto en que toda la magia parece esfumarse?

Pat: En realidad, no. A veces la química y la física no hacen más que aumentar la sensación de que hay algo mágico detrás de todo eso. Sea como sea, no siempre puedo integrar mis conocimientos científicos con mis sentimientos en el nivel del estómago.

Chris: Sospecho que comparto ese rasgo.

Pat: Entonces, ¿qué haces con los prejuicios rígidos como los míos?

Sandy: Yo trataría de excavar bajo la superficie de tu concepto de «máquinas» hasta llegar a las connotaciones intuitivas que acechan allí debajo, invisibles, pero influenciando profundamente tus opiniones. Creo que todos tenemos algún resabio de imagen de la Revolución Industrial que ve las máquinas como abultados aparatos que se mueven con torpeza bajo el poder de un motor que lanza gritos roncos. ¡Seguramente ésa debía de ser la imagen que tenía de la gente el inventor de la computadora, Charles Babbage! Después de todo, dio a su magnífica computadora con multiengranajes el nombre de Máquina Analítica.

Pat: Debo decir que yo creo que la gente no es solamente una versión complicada de pala de vapor o de abrelatas eléctricos, siquiera. Hay algo en la gente que… que… hay una especie de llama en ella, algo vivo, algo que brilla en forma imprevisible, que vacila, que es incierto… ¡pero que es algo creador!

Sandy: ¡Perfecto! Es el tipo de cosa que quería oír. Es muy humano pensar así. Tu imagen de la llama me hace pensar en velas, incendios, tormentas con truenos y relámpagos que bailan por el cielo formando diseños fantásticos. Pero ¿te das cuenta del tipo de diseño que aparece en la consola de la computadora? Las luces vacilantes forman diseños sorprendentes y caóticos trazados brillantes. ¡Están bien lejos de ser montones de metal ruidoso e inerte! ¡Es más que tu llama, por Dios! ¿Por qué no dejes a la palabra máquina evocar imágenes de trazados de luz danzantes, más bien que de palas de vapor gigantescas?

Chris: Hermosa imagen, Sandy. Cambia mi sentido de la mecanicidad, de una orientación mecanicista a una orientación artística. Me lleva a visualizar los pensamientos que tengo en la mente (aun los de este instante) como un haz enorme de diminutas chispas que centellean en mi cerebro.

Sandy: ¡Lo que brota de tu haz de chispas es una imagen muy poética de ti mismo!

Chris: A pesar de ella, no estoy del todo convencido de que todo lo que soy es una máquina. Admito que mi concepto de máquina es víctima segura de ciertos matices subconscientes anacrónicos, pero temo no poder cambiar en un instante algo que está tan arraigado.

Sandy: Por lo menos, mantienes una actitud abierta. Y a decir verdad, parte de mí comprende cómo ven las máquinas Pat y tú. Parte de mí se resiste a que me llamen máquina. Es, realmente, una idea extraña que un ser con sentimientos, como tú, o como yo, podamos provenir de meros circuitos. ¿Te sorprendo?

Chris: A mí, por lo menos, me sorprendes. Dinos, entonces… ¿Crees en la idea de una computadora inteligente, o no?

Sandy: Todo depende de lo que quieras decir. Todos oímos la pregunta: «¿Pueden pensar las computadoras?». Hay algunas interpretaciones posibles de esto (aparte de las interpretaciones de la palabra «pensar»). Tienen que ver con diferentes significados de la palabra «puede» y de la palabra «pensar».

Pat: Volvemos a los juegos de palabras…

Sandy: Así es. En primer lugar, la pregunta podría significar: «¿Piensa alguna de las computadoras de hoy, en este momento?». A esto yo respondería de inmediato con un rotundo «NO». Luego, podría interpretársela como «¿podría alguna computadora de hoy, debidamente programada, pensar potencialmente?». El planteo es mejor, pero todavía respondería yo: «Probablemente, no». La verdadera dificultad se encuentra en el término «computadora». Para mí, «computadora» evoca una imagen de lo que describí antes: un recinto con aire acondicionado que contiene cajas metálicas frías y rectangulares. Pero sospecho que con la creciente familiaridad del público con las computadoras y con los progresos continuados en su arquitectura, esta imagen terminará por quedar anticuada.

Pat: ¿No crees que las computadoras, tal como las conocemos hoy, no desaparecerán por algún tiempo, todavía?

Sandy: Sin duda, tendremos computadoras conforme con la imagen que tenemos de ellas hoy durante mucho tiempo, pero las computadoras avanzadas (que quizá no llamemos ya computadoras) evolucionarán y serán más eficientes. Es probable que, como en el caso de los organismos vivos, haya muchas ramificaciones en el árbol evolucionario. Habrá computadoras para el comercio, para los escolares, para los cálculos científicos, para la investigación de sistemas, para la estimulación, para los cohetes espaciales, y así sucesivamente. Habrá, por fin, computadoras para el estudio de la inteligencia. En realidad, estoy pensando en este momento sólo en las últimas, las que tendrán máxima flexibilidad, las que todos están tratando deliberadamente hoy de dotar de inteligencia. No veo motivo alguno para que ellas permanezcan estáticas y dentro de la imagen tradicional. Quizá muy pronto adquieran como características habituales sistemas sensoriales rudimentarios, al principio, en su mayoría destinados a oír y ver. Deberán poder desplazarse, explorar. Deberán ser flexibles desde el punto de vista físico. En resumen, tendrán que volverse más parecidas a los animales, más confiadas en sí mismas.

Chris: Me haces pensar en los robots R2D2 y C3PO en «La guerra de las galaxias».

Sandy: No, yo en cambio, no pienso en nada que se les parezca cuando visualizo máquinas inteligentes. Me resultan demasiado tontas, demasiado el producto de la imaginación de un productor de cine. No quiero decir con esto que yo misma tenga una visión clara, pero creo necesario, si vamos a intentar imaginar en términos realistas una inteligencia artificial, que vayamos más allá de la imagen limitada y de contornos duros de las computadoras derivada de nuestra exposición a las máquinas con las que contamos hoy. Lo único que todas las máquinas tendrán siempre en común es su condición mecánica de fondo. Puede ser que esto suene frío e inflexible, pero ¿qué puede ser más mecánico (y de un mecanismo maravilloso) que todos los procesos del ADN (ácido desoxirribonucleico) y las proteínas y las organelas de nuestras células?

Pat: Para mí todo lo que sucede en el interior de las células me da una sensación de cosa «húmeda», «resbaladiza», mientras que lo que ocurre dentro de las máquinas es seco y rígido. Tiene relación con el hecho de que las computadoras no pueden cometer errores, de que las computadoras hacen sólo lo que les mandan hacer. O por lo menos, es la imagen que tengo yo de las computadoras.

Sandy: Es raro. Hace un minuto tu imagen era de una llama y ahora es de algo «mojado y resbaladizo». ¿No te parece maravilloso lo contradictorios que somos capaces de ser?

Pat: Ahórrate la ironía.

Sandy: No es ironía. En serio, lo encuentro maravilloso.

Pat: No es más que un ejemplo de la naturaleza resbaladiza de la mente humana, la mía, en este caso.

Sandy: Tienes razón. Pero tu imagen de las computadoras se ha atascado en una zanja. Sin duda las computadoras pueden cometer errores y no me refiero a los derivados de un nivel de metal y tornillos. Imagina a cualquier computadora de hoy que predice el tiempo. Puede hacer pronósticos equivocados, aun cuando su programa se desarrolle sin la menor falla.

Pat: Pero eso ocurre sólo cuando la alimentas con datos inexactos.

Sandy: No. La razón es que el pronóstico del tiempo es algo demasiado complejo. Todo programa como éste tiene que conformarse con una cantidad limitada de datos (datos enteramente correctos) y hacer extrapolaciones partiendo de este punto. A veces hará pronósticos equivocados. No hay diferencia alguna con el chacarero en medio del campo que mira las nubes y dice: «Sospecho que tendremos un poco más de nieve esta noche». Hacemos modelos de cosas en la cabeza y los utilizamos para adivinar como se comportará el mundo. Tenemos que ingeniarnos con nuestros modelos, por inexactos que sean. Y si son demasiado inexactos, la evolución se ocupará de podarnos, o caeremos de una cima, o algo parecido. Y lo mismo sucede con las computadoras. Lo que pasa además es que los diseñadores humanos van a acelerar el proceso evolucionarlo al dirigirse en forma deliberada a la meta de crear inteligencia, algo que la naturaleza hizo accidentalmente.

Pat: ¿De modo que crees que las computadoras cometerán menos errores a medida que se vuelvan más inteligentes?

Sandy: En realidad, el proceso es el opuesto. Cuanto más inteligentes se vuelvan, tanto más estarán en la posición de encarar los dominios de la vida real más confusos, de modo que tendrán mayores probabilidades de crear modelos inexactos. ¡Yo considero que cometer errores es signo de una gran inteligencia!

Pat: Te juro que a veces me dejas atónito.

Sandy: Probablemente sea una abogada bastante insólita en la defensa de máquinas inteligentes. Hasta cieno punto estoy cabalgando a horcajadas, con un pie en cada lado. Creo que las máquinas no serán en realidad inteligentes en la acepción humana del término hasta que logremos conferirles algo parecido a esa humedad, o carácter de resbaladizas. No hablo de humedad en un sentido literal. En cuanto a la segunda cualidad, podría referirse a los mecanismos de precisión. Desde el punto de vista biológico, no obstante, las máquinas serán siempre máquinas, de todos modos. ¡Las habremos diseñado, construido, o cultivado! Comprenderemos cómo funcionan, por lo menos en algunos aspectos. Posiblemente ningún individuo las comprenderá en realidad, pero colectivamente hablando sabremos cómo funcionan.

Pat: Suena como si quisieras quedarte con las dos posiciones.

Sandy: Tal vez tengas razón. A lo que voy es a que cuando lleguen las máquinas con inteligencia artificial, serán mecánicas y al mismo tiempo orgánicas. La máquina tendrá la misma flexibilidad asombrosa que vemos en los mecanismos de la vida, y cuando digo «mecanismos», quiero decir, ni más ni menos, «mecanismos». El ADN y las enzimas y demás son en realidad mecánicos y rígidos y confiables. ¿No estás de acuerdo, Pat?

Pat: Es verdad. Pero cuando actúan en conjunto, pueden suceder muchas cosas inesperadas. La complejidad y las modalidades de comportamiento son tan ricas que toda esa cualidad de mecanismo da en total algo muy fluido.

Sandy: Para mí existe una transición casi inimaginable entre el nivel mecánico de las moléculas y las células vivas. Pero es lo que me convence de que los seres humanos son máquinas. La idea me provoca inquietud en cierto sentido, pero en otros es muy estimulante.

Chris: Si los hombres son máquinas, ¿por qué cuesta tanto trabajo convencerlos de que lo son? Creo que si somos máquinas, tendríamos que ser capaces de aceptar nuestra condición de tales.

Sandy: Aquí intervienen los factores emocionales. Que te digan que eres una máquina es, en cierto modo, equivalente a que te digan que no eres otra cosa que tus partes físicas y esto te lleva a colocarte frente a frente a tu mortalidad. Esto es algo que a nadie le resulta fácil afrontar. Pero más allá de esta objeción afectiva, para verte como máquina tienes que dar un brinco desde lo más bajo del nivel mecánico hasta el nivel donde se desarrollan actividades complejas semejantes a las vivas. Si existen capas intermedias, actúan como escudo protector y la cualidad mecánica se vuelve así casi invisible. Creo que es así como las máquinas inteligentes aparecerán a nuestros ojos, ¡y a sí mismas!, cuando las tengamos.

Pat: Una vez me mencionaron una idea cómica de lo que sucederá cuando por fin tengamos estas máquinas inteligentes. Cuando tratemos de implantar esta inteligencia en aparatos que queremos controlar, su comportamiento no será tan previsible.

Sandy: ¿Tendrán, quizá, una «llamita» temblorosa dentro?

Pat: Quizá.

Chris: ¿Qué tiene eso de cómico?

Pat: Vamos, piensa en los misiles militares. Cuanto más complejas sean sus computadoras para la ubicación del blanco, según esa idea, tanto más imprevisible será su funcionamiento. Por fin tendremos misiles que decidirán que son pacifistas y que darán media vuelta y volverán a su base, aterrizando sin ruido y sin explotar. ¡Hasta podríamos tener «proyectiles inteligentes» que diesen media vuelta en pleno vuelo porque no tienen ganas e suicidarse!

Sandy: La idea me encanta.

Chris: Siento mucho escepticismo ante esas ideas. Con todo, Sandy, querría oír tu pronóstico sobre la clase de máquinas inteligentes que tendremos.

Sandy: No las tendremos en mucho tiempo; probablemente no veremos nada que se asemeje siquiera remotamente a un nivel de inteligencia humana. Todo se apoya en un substrato de impresionante complejidad, el cerebro, que no nos permitirá reproducir nada que se le parezca en un futuro previsible. Por lo menos, así lo creo yo.

Pat: ¿Crees que un programa pasará jamás el test de Turing?

Sandy: Me haces una pregunta difícil. Me imagino que hay varios grados de éxito en la aprobación de un test como ése, cuando nos detenemos a pensarlo. Las cosas no son blancas o negras. Primero, depende de quién sea el interrogador. Un ingenuo podría engañarse enteramente por algunos de los programas de hoy. Pero en segundo lugar, depende de la profundidad con que se te permita sondear.

Pat: En tal caso podrías tener una escala de tests de Turing: versiones de un minuto, cinco minutos, una hora, y así sucesivamente. ¿No sería interesante que alguna organización oficial auspiciase en concurso periódico, como los campeonatos anuales de ajedrez por computadora, para determinar si los programas pasan el test de Turing?

Chris: El programa que durase más tiempo contra el panel de jueces distinguidos sería el campeón. Tal vez podríamos tener un premio importante para el primer programa que engañe a un juez famoso durante, digamos, diez minutos.

Pat: ¿Qué haría el programa con el premio?

Chris: Vamos, Pat. Si un programa es suficientemente bueno para engañar a los jueces, ¿no crees que lo sería para disfrutar de su premio?

Pat: Seguramente. ¡Sobre todo, si el premio consiste en una noche de juerga y baile con todos los interrogadores!

Sandy: Por mi parte me encantaría que alguien pensara en una iniciativa como ésa. ¡Creo que sería divertidísimo ver el patético fracaso de los primeros programas!

Pat: Eres bastante escéptica, ¿no? Bien, ¿crees que hay algún programa de computadora que pueda pasar un test de Turing de cinco minutos, si se contara con un interrogador hábil?

Sandy: Tengo serias dudas, en parte, porque nadie está trabajando en realidad, por lo menos explícitamente, en tal programa. Pero hay uno llamado «Parry» que según sus creadores ha pasado ya una versión rudimentaria del test Turing. En una serie de entrevistas llevadas a cabo por control remoto, Parry engañó a varios psiquiatras a quienes se informó que estaban hablando con una computadora, o bien con un paciente paranoico. Esto marca un progreso sobre la versión anterior, en la cual se entregaban simplemente a los psiquiatras las transcripciones de unas entrevistas breves y se les pedía determinar cuáles pertenecían a un paranoico auténtico y cuáles a uno simulado por la computadora.

Pat: ¿Quieres decir que no tuvieron oportunidad de formular ninguna pregunta? Eso es una gran desventaja, y no diría que esté dentro del espíritu del test de Turing. Imagina a alguien tratando de determinar a qué sexo pertenezco mediante la sola lectura de la transcripción de unos breves comentarios hechos por mí. ¡Podría resultar muy difícil! Me alegro entonces, de que hayan mejorado el procedimiento.

Chris: ¿Cómo se logra que una computadora actúe como un paranoico?

Sandy: Yo no digo que actúe en realidad como un paranoico, sino que unos psiquiatras, en circunstancias fuera de las habituales, así lo creyeron. Una de las cosas que me preocuparon en este test pseudo-Turing fue la forma en que trabaja Parry. «El» —como lo llaman— actúa como un paranoico en el sentido de que se vuelve abruptamente defensivo, se aparta de los tópicos indeseables en la conversación y en esencia mantiene un control, de tal manera que nadie puede realmente «sondearlo». En cierto modo, un simulacro de paranoico resulta mucho más fácil que un simulacro de persona normal.

Pat: ¿En serio? Ahora recuerdo el chiste sobre el tipo de ser humano que le resulta más fácil simular a la computadora.

Chris: ¿Cuál es?

Pat: Un catatónico. El que se sienta sin moverse ni hacer nada durante días enteros. ¡Hasta yo sería capaz de preparar un programa para hacer eso!

Sandy: Una cosa interesante de Parry es que no crea oraciones propias, sino que solamente selecciona de un repertorio enorme de oraciones envasadas la que más conviene para responder a la oración con que se ha alimentado a la máquina.

Pat: ¡Increíble! Pero esto sería, quizás, imposible llevado a una escala mayor, ¿no?

Sandy: Sí. El número de oraciones que necesitarías conservar para poder responder normalmente a todas las oraciones que es posible formular en una conversación es astronómico, inimaginable. Y tendrían que estar clasificadas en forma tan compleja para su recuperación que… Cualquiera que piense que sería posible preparar un programa semejante con la idea de extraer oraciones del depósito como quien elige discos de un tocadiscos automático, y que tal programa podría pasar el test de Turing, indica no haber reflexionado mucho sobre el problema. Lo notable es que es precisamente este tipo de programa irrealizable el que citan los enemigos de la inteligencia artificial cuando condenan el concepto básico del test de Turing. En lugar de una máquina verdaderamente inteligente, nos piden que imaginemos un robot gigantesco y torpe que entona oraciones en conserva con voz monótona. Se supone que sería posible adivinar su nivel mecánico con la mayor facilidad, aun cuando estuviese realizando al mismo tiempo tareas que nosotros consideramos procesos inteligentes y fluidos. Luego los críticos dicen: “¿Ven? ¡Seguiría siendo una simple máquina, un aparato mecánico, sin la menor inteligencia!”. Yo veo las cosas desde un punto de vista diametralmente opuesto. Si me mostrasen una máquina capaz de hacer cosas que yo puedo hacer (quiero decir, pasar test de Turing) estoy segura de que en lugar de sentirme insultada o amenazada, me uniría en un coro con el filósofo Raymond Smullyan y exclamaría: “¡Qué maravilla son las máquinas!”.

Chris: Si pudieras hacerle una única pregunta a la computadora en un test de Turing, ¿qué le preguntarías?

Sandy: Espera…

Pat: Qué opinas de la siguiente: “Si pudieras hacerle una única pregunta a la computadora en el test de Turing, ¿qué le preguntarías?”.