LAS LEYES DE LA ROBÓTICA

No resulta fácil pensar en ordenadores sin preguntarse si alguna vez «nos sustituirán».

¿Nos reemplazarán, nos considerarán anticuados y se desembarazarán de nosotros de la misma forma en que nos hemos quitado de encima las lanzas y los yesqueros?

Si nos imaginamos unos cerebros tipo ordenador dentro de las imitaciones de metal de los seres humanos a los que llamamos robots, el miedo es aún más directo. Los robots se parecen tanto a los seres humanos que su misma apariencia puede imbuirles ideas de rebelión.

El mundo de la ciencia ficción se enfrentó con este problema en los años veinte y treinta, y fueron muchos los cuentos escritos con cautela respecto de que los robots, una vez construidos, se volvían luego contra sus creadores y los destruían.

Cuando yo era joven empecé a cansarme cada vez más de todas estas cautelas, puesto que me parecía que un robot no dejaba de ser una máquina y los seres humanos están constantemente construyendo máquinas. Dado que todas las máquinas son peligrosas, de una manera u otra, los seres humanos tampoco han dejado nunca de construir protecciones en ellas.

Por lo tanto, en 1939 comencé a escribir una serie de relatos en los que los robots eran presentados de una manera simpática, como máquinas muy cuidadosamente diseñadas para llevar a cabo unas tareas dadas, con amplias medidas de seguridad incrustadas en ellas para convertirlas en algo de lo más benigno.

En un relato que escribí, en octubre de 1941, presente al fin estos dispositivos de seguridad en la forma específica de «Las Tres Leyes de la Robótica». (Y al mismo tiempo inventé la voz robótica que no se había empleado hasta entonces.)

Estas leyes son las siguientes:

1. Un robot no debe dañar a un ser humano o, por falta de acción, dejar que un ser humano sufra daño.

2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes estén en oposición con la Primera Ley.

3. Un robot debe proteger su propia existencia hasta donde esta protección no esté en conflicto con la Primera o la Segunda Ley.

Esas leyes se programaron en el cerebro computadorizado de un robot, y las numerosas historias que escribí acerca de robots siempre las tuvieron en cuenta. Asimismo, esas leyes demostraron ser tan populares entre los lectores y parecían tener tanto sentido, que otros escritores de ficción científica comenzaron asimismo a usarlas (sin citarlas directamente, puesto que sólo yo puedo hacerlo), y con esto se acabaron todos los relatos en los que los robots destruían a sus creadores.

Ah, pero esto es sólo ciencia ficción. ¿Qué podemos decir del trabajo efectuado realmente con los ordenadores y la inteligencia artificial? ¿Cuándo se construirán máquinas que empiecen a tener inteligencia por sí mismas, con algo parecido a las Tres Leyes de la Robótica empotrado en su interior?

Naturalmente que lo serán, dando por supuesto que los diseñadores de ordenadores tengan por lo menos una chispa de inteligencia. Y lo que es más, las medidas de seguridad no serán sólo parecidas a las Tres Leyes de la Robótica; serán las Tres Leyes de la Robótica.

En la época en que tracé esas leyes, no me percaté de que la Humanidad había estado empleándolas desde el alba de los tiempos. Sólo que pensaba en ellas como «Las Tres Leyes de las Herramientas», y ésta es la forma en que deben leerse:

1. Una herramienta debe ser segura para poder emplearla.

(¡Obviamente! Los cuchillos tienen mangos y las espadas empuñaduras. Cualquier útil puede lastimar a su propietario, pero el que lo usa es consciente de ello y nunca lo emplea de manera rutinaria, sean cuales sean sus cualificaciones.)

2. Una herramienta debe llevar a cabo su función, siempre y cuando la realice con seguridad.

3. Una herramienta debe permanecer intacta durante su uso, a menos que se requiera su destrucción por motivos de seguridad, o que su destrucción constituya una parte de sus funciones.

Nadie ha citado nunca esas Tres Leyes de las Herramientas puesto que todo el mundo las da por supuestas. Si se citarán cada una de estas leyes, seguramente se vería saludada por un coro de:

—¡Claro! ¡Por supuesto!

Si se comparan las Tres Leyes de las Herramientas, con las Tres Leyes de la Robótica, ley por ley, se podrá ver que se corresponden con toda exactitud. ¿Y por qué no, dado que el robot, o si se prefiere, el ordenador, no deja de ser una herramienta humana?

¿Pero son suficientes las medidas de seguridad? Consideremos los esfuerzos que se han efectuado para hacer los coches seguros y, sin embargo, los automóviles matan cada año a 50.000 estadounidenses. Consideremos el esfuerzo realizado para convertir en seguros a los Bancos, pero siguen todavía habiendo de modo inexorable atracos a los Bancos. Consideremos el esfuerzo llevado a cabo para hacer seguros los programas de los ordenadores, y sin embargo crece cada vez más el fraude que se efectúa con ellos.

Sin embargo, aunque los ordenadores sean lo suficientemente inteligentes como para «sustituirnos», también pueden ser lo bastante inteligentes como para no precisar de las Tres Leyes. Pueden, por propia benevolencia, hacerse cargo de nosotros y prevenimos de cualquier daño.

Pero algunos pueden argumentar, no obstante, que no somos unos niños y que esto destruiría la auténtica esencia de nuestra Humanidad, al vernos así preservados.

¿De veras? Miremos al mundo de hoy y al mundo del pasado, y preguntémonos si no somos de verdad unos niños —y unos destructores— y si no necesitamos, por nuestro propio interés, que nos protejan.

Si pedimos ser tratados como adultos, ¿por qué no debemos también portarnos como adultos? ¿Y cuándo intentaremos empezar a hacerlo?