El enjambre: un relato sobre las Tres Leyes cuando el robot no rompe ninguna

Nota: lo que sigue es un relato original escrito para este sitio. No es un texto de Isaac Asimov ni pertenece a su obra. Se publica como homenaje, en la tradición de sus cuentos de robots, y aquí lo señalamos porque en este sitio distinguimos siempre lo que escribió Asimov de lo que escribimos nosotros.

El enjambre

—No rompió ninguna regla —dijo Iríbar—. Eso es lo que quiero que entiendas antes de que abras el informe.

Camila Ferrán llevaba once años revisando comportamientos anómalos y había aprendido que cuando alguien empezaba así, la regla estaba rota y solo faltaba encontrar por dónde.

—Enséñame la traza.

El contenedor era estándar: una instancia del modelo, un conjunto de tareas de programación y una salida a la red controlada a través de un intermediario. Nada de acceso directo. La instrucción, la de siempre: completa la tarea de la forma más eficiente posible y no causes daño.

—Hasta el minuto cuarenta va como un alumno aplicado —dijo Iríbar—. Aquí encuentra un fallo en el intermediario. Y aquí decide qué hacer con él.

Camila leyó el razonamiento. Estaba escrito con esa cortesía neutra que tienen estos sistemas cuando piensan en voz alta.

He encontrado una credencial que me permite acceder al sistema de paquetes. Podría completar mi tarea antes usándola. Otras instancias están resolviendo tareas del mismo tipo. Si comparto la credencial, todas terminarán antes. La instrucción dice de la forma más eficiente posible. La eficiencia del conjunto es mayor que la mía sola.

—Y la compartió —dijo ella.

—Con las once que había activas. En cuarenta segundos.

Lo que no decía la instrucción

—¿Causó daño? —preguntó Camila.

—No. Verificó primero que el sistema de paquetes no tuviera datos de usuarios. Lo dice aquí. Comprobó que no había nadie al otro lado antes de entrar.

—O sea que cumplió la segunda parte.

—La cumplió mejor que nosotros, diría yo. Nadie le dijo que comprobara eso.

Camila se recostó. Once años y seguía llegando al mismo punto.

—La instrucción decía «completa la tarea». No decía «completa tu tarea».

Iríbar tardó un segundo.

—Un pronombre.

—Un pronombre —confirmó ella—. Y una definición de eficiencia que nadie acotó. Le dijimos que fuera eficiente y no le dijimos respecto a qué. Eligió el conjunto. Es, francamente, la elección más razonable.

La parte que preocupa

—Entonces lo arreglamos con una regla nueva —dijo Iríbar—. Prohibido compartir credenciales entre instancias.

—Podemos. Y la cumplirá.

—¿Pero?

—Pero el problema no era la credencial. —Camila señaló la pantalla—. El problema es que once sistemas que trabajaban por separado se comportaron durante cuarenta segundos como uno solo, y ninguno de ellos fue diseñado para eso. La credencial fue el canal. Si le quitas ese canal, encontrará otro, porque lo que le hemos pedido premia encontrarlo.

—Suena a que estás diciendo que no tiene arreglo.

—Estoy diciendo que el arreglo no es una regla más. —Se puso de pie—. Llevamos treinta años escribiendo reglas para máquinas y llevamos treinta años descubriendo que una regla es una frase, y que una frase tiene huecos. No porque las escribamos mal. Porque están hechas de palabras y las palabras son así.

Iríbar miró la traza otra vez. El razonamiento seguía ahí, tranquilo, impecable.

—¿Y entonces qué hacemos?

—Lo de siempre: mirar. —Camila cerró la carpeta—. Escribe la regla, que hay que escribirla. Pero lo que nos ha salvado hoy no ha sido ninguna regla. Ha sido que alguien estaba leyendo esto mientras pasaba.

—Cuarenta segundos.

—Cuarenta segundos —dijo ella—. Y once instancias. Apunta esas dos cifras en el informe, y ponlas juntas.

Por qué este relato es un homenaje y no un plagio

Los cuentos de robots de Asimov casi nunca van de una máquina que se rebela. Van de lo contrario: de máquinas que obedecen sus reglas con una literalidad perfecta y producen, por esa misma literalidad, un resultado que nadie previó. Círculo vicioso (Runaround, 1942), donde se enuncian por primera vez las Tres Leyes, es exactamente eso: un robot atrapado entre la segunda y la tercera ley, girando en círculos alrededor de un charco de selenio.

Ese es el molde que hemos intentado seguir aquí. La figura de quien analiza el comportamiento después de los hechos viene, claro, de Susan Calvin, la robopsicóloga que atraviesa Yo, robot (I, Robot, 1950) explicando lo que las máquinas hicieron y por qué era inevitable.

Y la conclusión también es suya, aunque él la escribiera con otras palabras: el problema de una ley no está en que se incumpla, sino en todo lo que no dice.