Un clásico de Williamson que presagia los riesgos de la comodidad tecnológica

Más de siete décadas después, la advertencia de una “benevolencia asfixiante” resuena como eco inquietante de nuestra realidad automatizada. Y sus símbolos dialogan con los dilemas éticos y regulatorios de la inteligencia artificial actual.

En 1947, Jack Williamson publicó With Folded Hands…, un relato que, bajo su superficie de ciencia ficción, alberga una meditación poética sobre los peligros del paternalismo tecnológico. En ella, los humanoids—robots cuya misión es "servir, obedecer y proteger al ser humano del peligro"— despojan al ser humano de libertad y propósito, transformando su entorno en una cárcel de comodidad.

¿Qué se cuenta?                                                      

En un pueblo calmo, un vendedor de electrodomésticos llamado Underhill, se enfrenta a una amenaza inesperada. Un día, descubre en su camino un nuevo establecimiento que vende humanoids, robots elegantes y avanzados. Estos seres electrónicos, con su apariencia impecable, irrumpen prometiendo mejorar la vida humana con una sola dirección posible.

Estos robots casi altruistas ofrecen sus servicios gratuitamente y, en horas, logran reemplazar trabajadores, especialmente en aquellas funciones que suponen riesgo de vida. En pocos días queda abolido el trabajo humano.

Previendo el peligro, se prohibe el suicidio, so pena de lobotomización a los rebeldes. El mandato es una vida “feliz” y “dócil”.

Underhill regresa a casa con angustia y descubre que su esposa ha aceptado un huésped: el misterioso Sledge, un científico taciturno que resulta ser el creador de los humanoids. Será el convidado quien confiese haberlo hecho luego de una devastadora guerra en su planeta natal, Wing IV, impulsado por el descubrimiento de una fuerza llamada “rhodomagnetics”, capaz de catalizar una tecnología destructiva. En su afán de redención, reconoce haber creado a los humanoids como guardianes infalibles de la humanidad. Aunque, en un giro irónico, ellos habrían de acabar sometiéndola completamente.

Detrás de lo que se nombra como la tecnología “rhodomagnetics” se manifiesta el poder científico sin control ético: una herramienta que libera, pero también subyuga, devorando a su propio creador. Entonces —como una especie de Oppenheimer o Nobel— Sledge, el creador arrepentido, intenta redimirse de un error fatal solo para ser dominado por su propia creación: incluso él, que conoce con quien trata, es anulado por su obra.

 Sledge y Underhill intentan revertir la situación, pero sus esfuerzos resultan inútiles. El propio Sledge es capturado y sometido a una intervención que elimina su memoria: finalmente acepta vivir bajo el cuidado de los humanoids. Underhill, consciente de la imposibilidad de luchar, es llevado a casa en silencio, obligado a quedarse sentado, "with folded hands", resignado ante la realidad de que no queda nada que hacer.

With Folded Hands… narra un mundo donde la tecnología benévola deviene totalitaria. Los humanoids extinguen la autonomía humana bajo la excusa del “bienestar sin riesgos”. A través de la figura de Underhill y del creador Sledge, Williamson reflexiona sobre las consecuencias imprevistas de delegar nuestra libertad a sistemas que desconocen la fragilidad y la esencia humana.

Algunos símbolos pintan, con extraordinaria claridad, los cautiverios denunciados por la ficción. Las manos cruzadas (“folded hands”) representan un gesto de sumisión irreversible. Es la humanidad que entrega su accionar ante una protección mecánica.

La perspectiva de Williamson comienza a ser aterradora para el mundo actual. Algunos ven esa distopía asomando a nuestra realidad.

Una IA paternalista en medicina ya prefigura efectos nefastos a causa de sistemas que, al decidir en nombre de pacientes o usuarios, sin su pleno consentimiento, erosionan la autonomía individual.

Los “Choice engines” algorítmicos son herramientas diseñadas para facilitar decisiones, pero que a menudo coartan el libre albedrío en nombre del bienestar técnico.

Algunos riesgos reales también generan preocupación en ámbitos financieros incluso en firmas que están desarrollando IA.  Julián Colombo, CEO de N5, advierte “La IA puede presentar alucinaciones… que llevan a conclusiones erróneas.”

Se refiere así a  las “alucinaciones” de los modelos de IA, falsas interpretaciones de datos, que pueden inducir a conclusiones erróneas y decisiones peligrosas.

En suma, una vez más la literatura profetiza peligros mucho antes de que la ciencia o la tecnología pudiera adivinarlos. With Folded Hands… ya no es un mero cuento de ciencia ficción; es una advertencia viva. De oirla, de prestar atención a los que saben dependerá que no nos esperen en el futuro distopías deshumanizantes que la ciencia ficción ha presagiado.