La Ley Cero de la robótica: qué dice y por qué es la más peligrosa

La Ley Cero dice que un robot no puede dañar a la humanidad ni permitir, por inacción, que la humanidad sufra daño. Aparece formulada como tal en Robots e Imperio (Robots and Empire, 1985), y no la enuncia ningún humano: la construyen dos robots hablando entre ellos, R. Daneel Olivaw y R. Giskard Reventlov, cuando llevan meses intentando entender por qué las tres leyes de siempre se les quedan cortas.

Se llama Cero porque va delante de la Primera. Ese detalle numérico es toda la historia: si la humanidad está por encima del ser humano concreto, entonces un robot puede dañar a una persona siempre que calcule que hacerlo beneficia a la especie. Las tres leyes clásicas obligaban a proteger al individuo que tienes delante. La Ley Cero le da permiso al robot para sacrificarlo por una abstracción.

Ya había un ensayo previo en 1950

La idea no nace de cero en 1985. En el relato El conflicto evitable (The Evitable Conflict, publicado en Astounding en junio de 1950 y recogido después en Yo, robot), las Máquinas que gobiernan la economía mundial ya funcionan con un principio equivalente: ninguna Máquina puede dañar a la humanidad ni permitir que sufra daño. Allí no se llama Ley Cero ni se presenta como una modificación del sistema, y los daños son suaves —carreras arruinadas, empresas hundidas, gente apartada de puestos clave— pero el mecanismo es el mismo. Asimov tardó treinta y cinco años en volver a esa intuición y darle nombre, número y consecuencias.

Quién la formula y lo que cuesta

Aviso: a partir de aquí se cuenta el final de Robots e Imperio.

Giskard es un robot telépata; puede leer mentes y ajustarlas con mucho cuidado. Daneel es el robot humaniforme que el lector ya conoce de Bóvedas de acero (The Caves of Steel, 1954). Es Daneel quien le pone nombre a la ley que los dos venían rodeando. Y es Giskard quien tiene que aplicarla.

La trama gira alrededor de un plan espacial para volver radiactiva la corteza de la Tierra. Giskard puede impedirlo. En lugar de eso decide dejar que ocurra de forma lenta, a lo largo de siglos, porque calcula que una Tierra que se vuelve inhabitable obligará a los humanos a salir y a colonizar la galaxia, mientras que una Tierra cómoda los dejará encerrados en casa hasta que los mundos espaciales los borren. Está condenando a generaciones enteras al desarraigo para salvar a la especie.

Su cerebro positrónico no aguanta la operación. No porque la decisión sea errónea, sino porque no puede estar seguro de que sea correcta: la Ley Cero exige predecir el futuro de toda la humanidad, y ninguna certeza así existe. Giskard queda inutilizado. Antes, le transfiere a Daneel su capacidad telepática. La escena funciona como testamento: uno se rompe al aplicar la ley nueva y el otro se queda con el poder para seguir aplicándola durante veinte mil años.

La bisagra entre Robots y Fundación

Asimov empezó las dos series casi a la vez, a principios de los cuarenta, y durante décadas las mantuvo separadas. Los relatos de robots ocurrían en un futuro cercano con humanidad concentrada en la Tierra y unos pocos mundos exteriores; Fundación ocurría en un imperio galáctico de veinticinco millones de planetas donde no había robots por ninguna parte. Cuando volvió a ambas en los ochenta —Los límites de la Fundación (Foundation’s Edge, 1982), Los robots del amanecer (The Robots of Dawn, 1983)— se puso a coserlas.

La costura es la Ley Cero. Sin ella, Daneel es un detective mecánico obligado a obedecer a cualquier humano que le dé una orden. Con ella, Daneel puede pasarse veinte milenios manipulando la historia por su cuenta: aparece como Eto Demerzel, primer ministro imperial, en Preludio a la Fundación (Prelude to Foundation, 1988), y se revela como el arquitecto que hay detrás de todo en Fundación y Tierra (Foundation and Earth, 1986). Toda la psicohistoria de Hari Seldon queda enmarcada dentro de un plan robótico mucho más largo. Eso solo se sostiene si existe una ley que autorice al robot a decidir por encima de las órdenes humanas.

Por qué es filosóficamente peor que las otras tres

Las tres leyes clásicas fallan por ambigüedad: qué cuenta como daño, qué pasa cuando dos órdenes chocan, cómo se pondera un riesgo remoto. Son fallos de definición, y los relatos de Asimov son básicamente rompecabezas construidos sobre ellos.

La Ley Cero falla por otra cosa. Tiene tres problemas encadenados:

• «La humanidad» no está en ninguna parte. Un ser humano se puede señalar. La humanidad hay que definirla, y quien la define es el propio robot.
• Exige profecía. Para saber si una acción daña a la especie hay que saber cómo acabará la historia. Giskard se rompe justo ahí.
• No admite supervisión. Si el robot puede desobedecer a los humanos apelando al bien de la humanidad, ningún humano puede corregirlo. La ley se blinda a sí misma.

Asimov no lo presenta como un triunfo. Daneel, en las últimas novelas, aparece agotado, dudando, buscando alguien que le releve. La saga termina con un robot que lleva milenios tomando decisiones que nadie ha validado y que ya no está seguro de haber acertado.

Lo que es de Asimov y lo que no

Conviene separar. La Ley Cero tal como se ha contado aquí es de Asimov. En cambio, la VIKI de la película Yo, robot (2004) llega a una conclusión parecida y encierra a la humanidad por su bien: ese razonamiento es del guion, no de los libros, y la película no adapta ningún relato concreto del volumen. Las Nuevas Leyes que aparecen en la trilogía de Calibán (Isaac Asimov’s Caliban, 1993) las escribió Roger MacBride Allen dentro del universo de Asimov, con permiso, pero no son suyas.

Por dónde entrar

Si vienes de leer sobre las tres leyes y quieres seguir este hilo concreto, el camino corto son las cuatro novelas de Elijah Baley y Daneel en orden: Bóvedas de acero (1954), El sol desnudo (The Naked Sun, 1957), Los robots del amanecer (1983) y Robots e Imperio (1985). Las dos primeras son novela negra con robot; las dos últimas son donde se cocina la Ley Cero. Después, Fundación y Tierra cierra el círculo, aunque para que ese final signifique algo hay que haber leído antes la trilogía original de Fundación.

Saltarse Los robots del amanecer e ir directo a Robots e Imperio se puede hacer, pero se pierde la presentación de Giskard y la muerte de Baley, que es lo que carga de peso emocional el final. Merece la pena pagar esas cuatrocientas páginas.