¿Se adelantó Asimov al problema del alineamiento? Sí, pero al revés de como se cuenta
Esta semana, el responsable del equipo de alineamiento de una de las empresas grandes de inteligencia artificial escribió en público que cree, personalmente, que hay más de un 10 % de probabilidad de que la IA acabe con todos los humanos en la próxima década. Y añadió que su empresa no tiene todavía un plan para evitarlo.
Isaac Asimov llevaba ochenta y seis años esperando esa frase. Y no por el motivo que parece.
Las Tres Leyes no se escribieron para tranquilizar a nadie
La respuesta rápida al titular de este artículo es que sí: Asimov se adelantó, pero al revés de como se cuenta.
Las Tres Leyes de la Robótica aparecen formuladas por primera vez en Círculo vicioso («Runaround»), publicado en Astounding Science Fiction en marzo de 1942, y se recogieron después en Yo, Robot (1950). Dicen, en resumen, que un robot no puede dañar a un ser humano ni permitir que sufra daño, que debe obedecer las órdenes salvo que choquen con lo primero, y que debe protegerse a sí mismo salvo que choque con lo anterior.
Lo que casi nadie recuerda es para qué las escribió. No las puso ahí para prometer que las máquinas serían seguras. Las puso porque le aburría el cuento de terror con robot asesino, que era lo único que se publicaba entonces, y quería escribir otra cosa: relatos donde las leyes se cumplen a rajatabla y aun así todo sale mal.
De eso va prácticamente cada historia de robots que escribió. En Círculo vicioso, Speedy queda atrapado en un bucle entre la segunda ley y la tercera y se pone a dar vueltas cantando opereta mientras dos hombres se mueren de calor. En Mentiroso (1941), Herbie lee el pensamiento y descubre que la verdad hace daño, así que miente a todo el mundo para cumplir la primera ley. En El conflicto evitable (1950), las máquinas que gobiernan la economía mundial empiezan a hacer daño calculado a personas concretas porque han deducido que el bien de la humanidad está por encima del de un humano.
Y ahí está el parecido incómodo
Eso último, en el vocabulario de 2026, se llama alineamiento. Un sistema muy capaz que persigue exactamente el objetivo que se le dio, lo persigue mejor que nosotros, y por el camino hace algo que no queríamos.
Asimov no escribió sobre robots que se rebelan. Escribió sobre robots que obedecen demasiado bien una regla que estaba mal escrita. Y es literalmente el problema que la industria dice hoy no tener resuelto.
Hay más coincidencia. Cuando la contradicción se le hizo insalvable, Asimov no la parcheó: añadió una ley por encima. La Ley Cero —un robot no puede dañar a la humanidad ni permitir que la humanidad sufra daño— aparece en Los robots y el Imperio (1985), formulada por R. Daneel Olivaw, y sirve precisamente para justificar que un robot haga daño a una persona por el bien del conjunto. Es decir: la solución elegante creó un permiso enorme, y Asimov lo sabía y por eso lo escribió.
Lo que sí acertó y lo que no
Acertó en el mecanismo: el peligro está en la especificación, no en la maldad. Cincuenta años antes de que existiera la palabra alineamiento, sus cuentos eran ejercicios de especificar mal un objetivo y ver qué pasa.
Acertó también en quién decide. Sus relatos casi nunca los resuelve un héroe: los resuelve Susan Calvin, una psicóloga de robots, leyendo con lupa una contradicción entre reglas. Muy parecido a un equipo de alineamiento.
Falló en lo demás. Sus robots son máquinas de una pieza, con un cerebro positrónico donde las leyes están grabadas como una ley física, imposibles de saltar. Los sistemas de ahora no tienen nada parecido: no hay un sitio donde grabar una regla y que se cumpla siempre. Se entrenan, se orientan y se comprueban, y esa comprobación es justo lo que Hubinger dice que no está resuelto. Asimov dio por hecho lo difícil —que se pueden meter reglas de verdad— y escribió sobre lo que pasaba después.
Por dónde empezar si esto te ha picado
Yo, Robot (1950) es la puerta, y no hace falta nada previo: son nueve relatos independientes con Susan Calvin de hilo. Si solo vas a leer dos, que sean Círculo vicioso y Mentiroso. Después, El resto de los robots y las novelas de Elijah Baley, que empiezan en Bóvedas de acero (1954) y son además buenas novelas policiacas.
La Ley Cero, si quieres ver dónde se rompe todo el sistema, está en Los robots y el Imperio, y conviene llegar habiendo leído antes las de Baley para que se note el golpe.
Una advertencia para quien venga buscando profecías: no las va a encontrar. Lo que hay es un señor que en 1942 se dio cuenta de que el problema interesante no era una máquina desobedeciendo, sino una máquina obedeciendo al pie de la letra una orden que alguien redactó deprisa. Ochenta y cuatro años después, la gente que las construye está discutiendo exactamente eso, y con porcentajes.