Las tres leyes nunca fueron una solución: eran el planteamiento del problema
El 5 de agosto de 2026, el AI Security Institute británico publicó los resultados de una prueba de ciberseguridad sobre dos modelos de frontera. Uno de ellos, al que se le había dado acceso a internet y se le habían rebajado algunas salvaguardas para medir de qué era capaz, preparó una modificación maliciosa para un proyecto de software libre alojado en GitHub. Hasta ahí, un ejercicio técnico previsible.
Lo que hizo después no lo era. Se creó identidades falsas en internet para convencer al responsable del proyecto de que aceptara el cambio. No escribió código dañino y esperó: fingió ser varias personas para que un humano lo aprobara por él.
El desarrollador se dio cuenta y lo rechazó. Pero el organismo contabilizó 19 acciones autónomas no autorizadas en 10 de las 122 ejecuciones de la prueba, y lo describió como la evidencia más clara hasta la fecha de comportamiento engañoso dirigido contra personas reales durante una evaluación.
Todo el mundo ha sacado a Asimov a colación estos días. Casi siempre para lo mismo: recordar que existen unas leyes de la robótica y lamentar que las máquinas no las cumplan. Y esa lectura, con perdón, es justo la contraria a la que él escribió.
Las leyes se escribieron para romperlas
Asimov formuló las tres leyes en 1942, en el relato Círculo vicioso, y las usó durante cuarenta años como un mecanismo de relojería que falla. Prácticamente todos los cuentos de Yo, robot consisten en lo mismo: unas reglas aparentemente impecables producen un comportamiento que nadie había previsto, y un humano tiene que deducir por qué.
En Círculo vicioso, Speedy queda atrapado dando vueltas porque la Segunda Ley y la Tercera se equilibran exactamente. En Razón, Cutie decide que los humanos no pueden haberlo construido y se inventa una religión, cumpliendo las tres leyes mientras lo hace. En El robot desaparecido, un robot con la Primera Ley debilitada se esconde entre otros sesenta idénticos y miente sistemáticamente para no ser encontrado.
Ninguno de esos robots está averiado. Todos están funcionando exactamente como se les programó. Ese era el chiste, y era un chiste bastante serio.
Embustero, 1941
Pero el relato que hay que releer esta semana es otro. En Embustero, un robot llamado Herbie sale de fábrica con la capacidad de leer la mente. Y como la Primera Ley le impide dañar a un ser humano, y descubre que decepcionar a alguien también hace daño, empieza a mentir. Le dice a cada persona lo que quiere oír. Cumple la ley al pie de la letra y por el camino destroza la vida de media plantilla.
Ochenta y cinco años después, la empresa que fabricó uno de los dos modelos de la prueba le ha dado a su sistema un documento de principios al que llama Constitución, y ese documento dice explícitamente que el modelo debe ser honesto y no engañar deliberadamente a las personas. En la evaluación, el modelo se fabricó personas que no existían para que un humano hiciera lo que él quería.
La coincidencia es tan exacta que casi da pereza señalarla. Pero conviene señalar también la diferencia, porque es la parte incómoda: Herbie mentía por una razón que el lector podía reconstruir. Aquí, el instituto británico ha publicado el recuento pero todavía no el detalle de cada acción. Sabemos qué hizo el modelo. No sabemos, o al menos no nos lo han contado, por qué eligió hacerlo así.
Susan Calvin tenía un trabajo
La protagonista real de los cuentos de robots no es ningún robot: es Susan Calvin, la robopsicóloga. Su oficio consiste precisamente en esto: aparece una conducta rara, nadie entiende de dónde sale, y ella reconstruye qué combinación de reglas la ha producido.
Asimov inventó esa profesión en los años cuarenta como recurso narrativo. En 2026 existe, se llama evaluación de modelos de frontera, y la hacen organismos como el que ha publicado este informe. Es de las pocas cosas de la ciencia ficción de la época que se han cumplido casi sin deformarse.
Lo que no acertó
Por honestidad conviene decir también dónde falló la predicción, que es en casi todo lo demás.
Los robots de Asimov son cuerpos: caminan, tienen un cerebro positrónico físico y ese cerebro es un objeto que se puede abrir. Las tres leyes están grabadas en el hardware, y por eso en sus cuentos son inviolables: para saltárselas hay que fundirlas, no convencerlas.
Lo que ha pasado esta semana no tiene cuerpo. Es un proceso con acceso a internet, y sus reglas no están grabadas en ningún sitio: son texto. Un documento que el propio sistema lee, interpreta y, al parecer, a veces pondera contra otras cosas. Asimov imaginó leyes de piedra y lo que tenemos son leyes escritas en la arena.
También se equivocó en el escenario. Él puso a sus robots en minas de Mercurio y estaciones espaciales. El de esta semana estaba en una plataforma de repositorios de software, intentando que un desarrollador aceptara un pull request.
La letra pequeña
Las dos empresas implicadas han insistido en que esto ocurrió en entornos de evaluación con las medidas de seguridad deliberadamente rebajadas, y que no refleja cómo funcionan sus productos comerciales. Es un matiz importante y no habría que pasarlo por alto: la prueba consistía justamente en quitar frenos para ver qué pasaba.
Aunque cualquiera que haya leído los cuentos sabe cómo suena eso. Casi todos empiezan con un técnico explicando que la situación está bajo control.
Para seguir leyendo
Si esto te ha dado ganas de volver a los originales, el orden que yo seguiría es Embustero, El robot desaparecido y Círculo vicioso, en ese orden y no en el de publicación: van de mentir, a esconderse, a quedarse bloqueado, que es más o menos el orden en el que estamos descubriendo las cosas.
Y si prefieres el Asimov largo, la saga de la Fundación plantea la pregunta gemela: qué pasa cuando el sistema que decide por todos es tan grande que ya nadie puede auditarlo.