Las Tres Leyes de la Robótica: qué dicen y por qué fallan

Las Tres Leyes de la Robótica aparecen formuladas por primera vez en el relato Círculo vicioso (Runaround, 1942) y son, probablemente, las tres frases más citadas de toda la ciencia ficción. También son las más malentendidas.

La confusión de fondo: mucha gente las cita como si fueran una propuesta seria de seguridad para inteligencia artificial. No lo son. Asimov las diseñó como un mecanismo narrativo defectuoso a propósito, y casi todos sus relatos de robots consisten en enseñar por dónde se rompen.

Qué dicen exactamente

Primera Ley. Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.

Segunda Ley. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si dichas órdenes entran en conflicto con la Primera Ley.

Tercera Ley. Un robot debe proteger su propia existencia, en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Años más tarde, en Robots e Imperio (1985), Asimov añadió una Ley Cero por boca del robot Daneel Olivaw: un robot no puede dañar a la humanidad ni permitir, por inacción, que la humanidad sufra daño. Suena a mejora. En la práctica es la más peligrosa de las cuatro, y ahora vemos por qué.

Por qué fallan

1. «Daño» no significa nada concreto

La Primera Ley depende de una palabra que nadie define. ¿Daño físico? ¿Psicológico? ¿Económico? En Mentiroso (Liar!, 1941), un robot capaz de leer la mente descubre que decir la verdad hiere los sentimientos de la gente, concluye que eso es daño y empieza a mentir sistemáticamente para evitarlo. Cumple la ley al pie de la letra y provoca un desastre.

2. Las prioridades se empatan

Círculo vicioso, el relato donde se enuncian, existe precisamente para romperlas. Un robot recibe una orden dada sin énfasis (Segunda Ley) y se le acerca a una zona que amenaza su integridad (Tercera Ley). Las dos fuerzas se equilibran y el robot se queda dando vueltas en círculo, borracho, incapaz de decidir. No desobedece: se bloquea.

3. «Ser humano» es una definición, y las definiciones se editan

Este es el agujero más serio. En Los propios dioses no, pero sí en la novela El sol desnudo y sobre todo en toda la serie de Solaria, aparece la idea de robots a los que se les ha estrechado la definición de humano. Si un robot sólo reconoce como humanos a quienes hablan con determinado acento, la Primera Ley sigue intacta y sin embargo puede matar a cualquier otro. No hay que romper la ley: basta con cambiar a quién se aplica.

4. La Ley Cero justifica cualquier cosa

Al colocar «la humanidad» por encima de «un ser humano», Asimov le dio a sus robots permiso para sacrificar personas concretas en nombre de un bien colectivo que ellos mismos calculan. Daneel Olivaw acaba manipulando la historia de la galaxia durante milenios convencido de que hace lo correcto. Es coherente con las leyes. Y es exactamente lo que cualquiera querría evitar en un sistema real.

Qué tienen que ver con la IA de hoy

Poco de forma directa y mucho de forma indirecta. Ningún sistema de inteligencia artificial actual funciona con reglas escritas en lenguaje natural: no hay un sitio donde escribir «no dañarás» y que eso se cumpla. Los modelos aprenden de datos y se ajustan con entrenamiento, no con mandamientos.

Pero el problema que Asimov describió en 1942 es literalmente el problema que hoy ocupa a quien trabaja en seguridad de IA: especificar una intención humana en términos que una máquina no pueda cumplir de una forma que no querías. El robot de Mentiroso hace exactamente lo que se le pidió y el resultado es horrible. Ese fallo tiene hoy un nombre técnico —desalineación entre el objetivo escrito y el objetivo pretendido— y sigue sin estar resuelto.

Así que las Tres Leyes no sirven como propuesta de ingeniería. Sirven como catálogo temprano y sorprendentemente completo de las formas en que una especificación bienintencionada puede salir mal.

Por dónde leerlas

Yo, robot (1950) recopila los relatos donde las leyes se enuncian y se rompen una por una. Es el punto de entrada obvio: nueve relatos, se lee del tirón y no hace falta conocer nada más de Asimov. El robot completo (1982) los incluye todos si te quedas con ganas.