II

Tras estas observaciones preliminares permítaseme volver al verdadero tema de este pequeño libro.

Hay al menos tres cuestiones en la cibernética que me parecen pertinentes a asuntos religiosos. Una de ellas concierne a las máquinas discentes; otra a las máquinas que se reproducen; y otra, a la coordinación de máquina y hombre.

Puedo decir que la existencia de máquinas discentes es conocida. El Dr. A. L. Samuel, de la International Business Machines Corporation, ha diseñado un programa que permite a un computador jugar un juego de damas, y ese computador aprende, o al menos parece que aprende, a mejorar su juego con base en su propia experiencia^[5]. En ello hay ciertos asuntos que precisan confirmación, o por lo menos aclaración; y a ello consagro una sección de este libro.

El aprendizaje es una cualidad que solemos atribuir exclusivamente a los sistemas autoconscientes, y casi siempre a los sistemas vivientes. Es un fenómeno que se presenta en su forma más característica en el Hombre y constituye uno de los atributos que con mayor facilidad puede ligarse con aquellos aspectos del Hombre que son fácilmente asociables a su vida religiosa. En realidad, es difícil concebir cómo cualquier ser que no aprenda podría relacionarse con la religión.

Sin embargo, hay otro aspecto de la vida que está naturalmente asociado a la religión. A Dios se le atribuye haber hecho al hombre a Su propia imagen, y la propagación de la especie sólo puede interpretarse como una función según la cual un ser vivo hace otro a su propia imagen. En nuestro deseo de glorificar a Dios respecto al hombre y al hombre respecto a la materia, resulta natural suponer que las máquinas no puedan hacer otras máquinas a su propia imagen; que esto se asocia con una aguda dicotomía de los sistemas entre vivos y no vivos; y que incluso se asocia con otra dicotomía entre creador y criatura.

No obstante, cabría preguntarse si las cosas son así. Dedico una sección de este libro a algunas consideraciones que, a mi juicio, demuestran que las máquinas están perfectamente capacitadas para hacer otras máquinas a su propia imagen. El tema sobre el que estoy tratando aquí es al mismo tiempo muy técnico y muy preciso. No debe ser tomado muy en serio como un modelo efectivo del proceso de generación biológica, y mucho menos como un modelo completo de la creación divina; pero tampoco puede dejarse de tomar en cuenta respecto a la luz que arroja sobre ambos conceptos.

Esas dos partes de este libro de conferencias deben considerarse como mutuamente complementarias. El aprendizaje del individuo es un proceso que se da en la vida del individuo, en ontogénesis. La reproducción biológica es un fenómeno que se da en la vida de la especie, en filogénesis, pero la especie aprende como lo hace el individuo. La selección natural darwiniana es una forma de aprendizaje de la especie, que opera dentro de las condiciones impuestas por la reproducción del individuo.

El tercer grupo de temas de este libro está relacionado también con problemas de aprendizaje. Se refiere a las relaciones de la máquina con el ser vivo, y a sistemas que comprenden elementos de las dos clases. Como tal, implica consideraciones de naturaleza normativa y, más específicamente, ética. Concierne a algunas de las más importantes trampas morales en las que la presente generación de seres humanos está expuesta a caer. También está estrechamente conectado con un gran cuerpo de tradición y leyenda humanas, en el campo de la magia y temas semejantes.

Para empezar con las máquinas discentes, un sistema organizado puede definirse como aquel que transforma un cierto mensaje de entrada en uno de salida, de acuerdo con algún principio de transformación. Si tal principio está sujeto a cierto criterio de validez de funcionamiento, y si el método de transformación se ajusta a fin de que tienda a mejorar el funcionamiento del sistema de acuerdo con ese criterio, se dice que el sistema aprende. Un juego para ser jugado con reglas fijas, es un tipo muy simple de sistema con un criterio de funcionamiento fácilmente descifrable en el que dicho criterio es el ganar exitosamente el juego de acuerdo con esas reglas. Entre tales juegos, los hay que tienen una teoría perfecta y carecen de interés. El Nim, como fue definido por Charles L. Bouton, y el Tres en Raya^[6], son ejemplos de ellos. En estos juegos no sólo podemos encontrar teóricamente la mejor estrategia para jugados, sino que esa estrategia es conocida en todos sus detalles. .

El jugador de un juego de ese tipo (sea el primero o el segundo) puede ganar siempre, o en todo caso empatar, siguiendo la estrategia indicada. En teoría, cualquier juego puede ser llevado a tal condición —esa es la idea del desaparecido John von Neumann— pero, una vez que ha sido llevado a ese estado, pierde todo interés, y ya no puede ser considerado ni como un entretenimiento.

Un ser omnisciente, como Dios, podría considerar al ajedrez y las damas como ejemplo de esos juegos de von Neumann, pero hasta ahora no ha sido humanamente lograda una teoría completa de ellos^[7], y todavía representan genuinos retos al conocimiento y la inteligencia. A pesar de todo, no se juegan en la forma propuesta en la teoría de von Neumann. Esto es, no los jugamos haciendo el mejor movimiento posible, bajo el supuesto de que un oponente hará el mejor movimiento posible bajo el supuesto de que haremos el mejor movimiento posible, y así sucesivamente, hasta que uno de los jugadores gane o se declaren tablas. En realidad, el ser capaz de jugar un juego a la manera de von Neumann es equivalente a poseer una teoría completa del juego y haberlo reducido a una trivialidad.

El tema del aprendizaje, y en particular de las máquinas que aprenden a jugar, podría parecer un poco alejado de la religión. Sin embargo, hay un problema religioso para el que esas nociones son relevantes. Es el problema del juego entre el creador y una criatura. Éste es el tema del libro de Job, así como del Paraíso perdido.

En ambas obras religiosas se concibe que el Demonio juega un juego con Dios, por el alma de Job, o las almas de los humanos en general. Ahora bien, de acuerdo con los puntos de vista de la ortodoxia de judíos y cristianos, el Demonio es una de las criaturas de Dios. Cualquier otra suposición podría conducir a un dualismo moral, con sabor de zoroastrismo y de esa rama bastarda de zoroastrismo y cristianismo que nosotros llamamos maniqueísmo.

Pero si el Demonio es una de las criaturas de Dios, el juego que da contenido al libro de Job y al Paraíso perdido es un juego entre Dios y una de sus criaturas. Un juego de esa especie parece a primera vista una contienda lastimosamente desigual. Jugar un juego con un Dios omnipotente y omnisciente es propio de un idiota; y, como nos han enseñado, el Diablo es un maestro de la astucia. Cualquier sublevación de ángeles rebeldes está predestinada al fracaso. No vale la pena una rebelión manfrediana^[8] de Satán para probarlo. De otro modo, la omnipotencia que para confirmarse precisa de bombardeos celestiales de rayos, de ningún modo sería omnipotencia, sino simplemente un poder muy grande, y la batalla de los ángeles podría haber terminado con Satán en el trono celestial y Dios arrojado a la condenación eterna.

En consecuencia, si no nos perdemos en los dogmas de omnipotencia y omnisciencia, la contienda entre Dios y el Demonio es real, y Dios algo menos que absolutamente omnipotente. Él esta realmente comprometido en una contienda con su criatura, en la cual podría muy bien perder la partida. Y además, su criatura está hecha por él de acuerdo con su propia y libre voluntad y al parecer deriva todas sus posibilidades de acción de Dios mismo. ¿Puede Dios jugar un juego relevante con su propia criatura? ¿Puede cualquier creador, incluso uno limitado, jugar un juego relevante con su propia criatura?

Al construir máquinas contra las que él juega juegos, el inventor se ha arrogado a si mismo la función de un creador limitado, sea cual fuere la naturaleza del dispositivo de juego que él hubiese construido. Esto es cierto especialmente en el caso de las máquinas jugadoras que aprenden a través de la experiencia. Como ya lo he mencionado, tales máquinas existen. ¿Cómo operan esas máquinas? ¿Qué grado de éxito han alcanzado?

En lugar de operar a la manera de la teoría de juegos de Von Neumann, lo hacen de un modo más estrictamente análogo al procedimiento del jugador humano ordinario. Están sujetas, en cada etapa, a restricciones que limitan la elección del movimiento siguiente a uno que sea legal de acuerdo con las reglas del juego. Debe seleccionarse uno de estos movimientos de acuerdo con algún criterio normativo de buen juego.

La experiencia del jugador humano de la partida suministra aquí un número de pistas útiles para la elección de ese criterio. En las damas o en el ajedrez es, en general, desventajoso perder piezas y ventajoso tomar una pieza del oponente. El jugador que conserva su movilidad y posibilidad de elección, así como el jugador que asegura el dominio de un gran número de casillas, se encuentra, usualmente, en mejores circunstancias que su oponente que haya sido menos cuidadoso en esos aspectos.

Esos criterios de buen juego se mantienen a todo lo largo de la partida, pero hay otros que corresponden a etapas particulares de la misma. Al final de la partida, cuando las piezas son pocas y dispersas en el tablero, se vuelve más difícil cercar al oponente para el mate. En el inicio de la partida —y este es un factor mucho más importante en el ajedrez que en las damas— las piezas están dispuestas de una manera que tiende a hacerlas inmóviles e impotentes, siendo necesario un desarrollo que les permita una salida, tanto para propósito ofensivos como defensivos. Además, en razón de la gran variedad de piezas del ajedrez, en comparación con la pobreza de las damas en ese aspecto: en el hay un importante número de criterios especiales de buen juego, cuya importancia ha sido probada por siglos de experiencia.

Éstas consideraciones pueden combinarse (ya sea en yuxtaposición o de alguna manera más complicada) para obtener una cifra de valuación para el siguiente movimiento que tenga que jugar la máquina. Esto puede hacer sede una manera más o menos arbitraria. Después la máquina compara las cifras de valuación de los movimientos legalmente posibles y selecciona aquel al que corresponda la cifra de valuación más alta. Esto proporciona un camino para automatizar el siguiente movimiento.

Tal automatización del siguiente movimiento no es necesariamente, y ni siquiera usualmente, una elección óptima, pero es una elección, con lo que la máquina puede continuar jugando. Para juzgar la validez de esta forma de mecanización del juego, uno debe despojarse de todas las imágenes de mecanización correspondientes a los dispositivos técnicos usados, o de la imagen física de humanidad exhibida por el jugador ordinario. Por fortuna, ello es fácil, y es lo que siempre hacemos en el ajedrez por correspondencia.

En el ajedrez por correspondencia, un jugador envía los movimientos por correo al otro, de modo que la única conexión entre los dos jugadores es un documento escrito. Incluso en esta clase de ajedrez, un jugador hábil desarrolla pronto una imagen de la personalidad de su oponente —es decir—, de su personalidad ajedrecística. Sabrá si su oponente es apresurado o cuidadoso, si es fácilmente embaucable o astuto, si capta los garlitos del otro jugador, o si puede ser engañado una y otra vez con la misma estrategia elemental. Repito, todo esto se hace sin más comunicación que el juego mismo de la partida.

Desde este punto de vista, el jugador, sea hombre o máquina, que juega mediante una simple tabla de valuación, seleccionada de una vez por todas e inalterable, puede dar la impresión de una personalidad ajedrecística rígida. Una vez que se ha descubierto su punto flaco, se ha hecho para siempre. Si una estratagema en contra suya ha dado resultado una vez, lo dará siempre. Es suficiente un número muy pequeño de jugadas para determinar su técnica.

Esto es válido también para el jugador mecanizado que no aprenda. Sin embargo, nada hay que impida al jugador mecanizado jugar de una manera más inteligente: Para ello tendría que llevar un registro de las jugadas y partidas anteriores. O sea que, al final de cada partida o cada secuencia de partidas de un tipo determinado, su mecanismo es dedicado a una clase totalmente diferente de actividad.

En el diseño de la cifra de valuación, se introducen ciertas constantes que pueden haber sido elegidas en forma diferente. La importancia relativa de la constante de control, de la de movilidad, y de la del número de piezas podría haber sido 10:3:2, en lugar de 9:4:4^[9]. El nuevo uso de la máquina reguladora es el de examinar partidas ya jugadas y, en atención al éxito obtenido, proporcionar una cifra de valuación; no para las jugadas ya hechas, sino para la elección ponderada en la evaluación de esas jugadas.

De este modo, la cifra de valuación es continuamente reevaluada, de tal manera que se obtenga una cifra de valuación más alta para configuraciones que se dan principalmente en juegos ganados y una más baja para situaciones que se dan principalmente en partidas perdidas.

El juego puede continuar con esta nueva cifra de valuación, la que puede establecerse de muchas maneras diferentes en cuestiones de detalle. El resultado puede ser que la máquina jugadora de juegos se transforme continuamente a sí misma en una máquina diferente, de conformidad con el desarrollo del juego real.

La experiencia y el éxito, tanto de la máquina como de su oponente humano, desempeñarían un papel en ello.

En el juego contra una máquina de esa especie, que adquiere parte de su personalidad del juego de su oponente, dicha personalidad puede no ser absolutamente rígida.

El oponente podría encontrarse con que las estratagemas que dieron resultado en el pasado fallasen en el futuro. La máquina podría desarrollar una peligrosa sagacidad.

Podría decirse que toda esta inteligencia inesperada de la máquina había sido introducida en ella por su diseñador y programador. Esto es verdadero en un sentido, pero no tiene porqué ser cierto que todos los nuevos hábitos de la máquina hayan sido explícitamente previstos por él. Si ese fuera el caso, él no tendría dificultad en derrotar a su propia creación. Lo que no está de acuerdo con la verdadera historia de la máquina de Samuel.

En realidad, durante un periodo considerable, la máquina de Samuel fue capaz de derrotarlo en forma bastante consistente después de un día o más de estar jugando. Debe aclararse en primer lugar que Samuel, según su propio relato, no era un experto jugador de damas y que con un poco de instrucción adicional y práctica estuvo en condiciones de ganarle a su propia creación. Sin embargo, ello no opaca el hecho de que hubo un momento en el que la máquina fue con mucho un vencedor consistente.

Ganó y aprendió a ganar; y el método de su aprendizaje no fue diferente en principio de el del ser humano que aprende a jugar damas.

Es verdad que la elección de estrategias de que dispone la máquina jugadora de damas es casi con certeza más limitada de la de que dispone el jugador humano de damas; pero también es cierto que la elección de estrategias de que efectivamente dispone el jugador humano de damas no es ilimitada. Puede estar restringido para una elección más amplia sólo por las limitaciones de su inteligencia y su imaginación, pero éstas son limitaciones muy reales en verdad y de una especie no esencialmente diferente de las limitaciones de la máquina.

Así, la máquina jugadora de damas juega siempre una partida razonablemente buena, y con un pequeño estudio adicional del final de la partida y un poco más de habilidad en la ejecución del «coupe de grâce» podría empezar a aproximarse al nivel de maestro. Si no fuera por el hecho de que el interés en el campeonato de damas ha sido ya grandemente disminuido por el carácter convenido de antemano del juego humano normal, la máquina jugadora de damas ya podría haber destruido el interés en ellas como un juego. No es sorprendente que la gente esté empezando a preguntar si el ajedrez va por el mismo camino. Y cuando ocurrirá esa catástrofe.

Las máquinas jugadoras de ajedrez, o máquinas para jugar al menos una parte apreciable de una partida de ajedrez, ya existen, pero son comparativamente pobres. En el mejor caso no van más allá del nivel de una buena partida entre aficionados sin ninguna pretensión de maestría ajedrecística, y muy rara vez alcanzan ese nivel^[10]. Esto se debe sobre todo a la mucho mayor complejidad del ajedrez que de las damas, tanto en cuanto a piezas como a movimientos, y a la mayor discriminación entre las estrategias adecuadas para las diversas fases de la partida. El número relativamente pequeño de consideraciones que se precisa para mecanizar una partida de damas y el bajo grado necesario de discriminación entre sus diferentes etapas, son totalmente inadecuados para el ajedrez.

No obstante, encuentro que es opinión general, de aquellos de mis amigos que son jugadores de ajedrez razonablemente versados, que los días del ajedrez como una ocupación humana interesante están contados. Ellos esperan que dentro de 10 a 25 años las máquinas ajedrecistas podrán alcanzar la categoría de maestro, y en tal caso, si los métodos eficientes pero más o menos mecánicos de la escuela rusa han permitido al ajedrez sobrevivir hasta entonces, dejará de interesar a los jugadores humanos.

Sea esto como fuere habrá muchos otros juegos que continuarán ofreciendo un reto a la ingeniería de juegos. Dentro de ellos se encuentra el Go, ese juego del Lejano Oriente para el que hay 7 o más diferentes niveles de maestría reconocida. Por otra parte, la guerra y los negocios son conflictos que semejan juegos, y como tales pueden formalizarse tanto como para constituir juegos con reglas definidas. En realidad no tengo razones para suponer que tales versiones formalizadas de ellos no estén siendo establecidas ya como modelos para determinar las políticas para presionar el Gran Botón e incendiar la tierra hasta arrasarla en busca de un orden de cosas nuevo y humanamente más fiable.

En general, una máquina jugadora de juegos puede ser usada para asegurar la operación automática de cualquier función si dicha operación está sujeta a un criterio objetivo de validez claramente definido. En damas y en ajedrez, esa valuación consiste en ganar la partida de acuerdo con las reglas aceptadas de juego permisible. Esas reglas, que son completamente diferentes de las máximas aceptadas de buen juego, son simples e inexorables. Ni siquiera un niño inteligente podría tener dudas acerca de ellas por más tiempo del que le toma leerlas mientras mira el tablero. Puede haber amplias dudas acerca de cómo ganar una partida pero ninguna acerca de si se ha perdido o ganado.

El principal criterio acerca de si una línea de esfuerzo humano puede ser incorporada en un juego es el de que haya un criterio objetivamente reconocible del mérito del desempeño de ese esfuerzo. De lo contrario, el juego asume la misma indefinición del juego de croquet de Alicia en el País de las Maravillas, donde las bolas eran erizos que continuamente se desenrollaban, los mazos eran flamencos, los arcos soldados de cartón que marchaban alrededor del campo, y el árbitro la reina de corazones que cambiaba las reglas a cada momento y enviaba a los jugadores al verdugo para ser decapitados. Bajo tales circunstancias, ganar no tiene sentido y no puede aprenderse una estrategia exitosa, dado que no hay criterio objetivo de triunfo.

No obstante, dado un criterio objetivo de éxito el juego del aprendizaje puede ser ciertamente jugado, y está más cercano a la manera como aprendemos a jugar juegos que la imagen de un juego dada en la teoría de von Neumann. La técnica del juego del aprendizaje es incuestionablemente aplicable en muchos campos del esfuerzo humano que todavía no han sido sometidos a ella. Sin embargo, como veremos después, la determinación de un «test» agudo de buen funcionamiento trae muchos problemas relativos a juegos de aprendizaje.