Cuando una máquina dice: Tengo miedo. (Cuidado, contiene spoiler)

Share Article

Probablemente una de las escenas más estremecedoras de la historia del cine sea la desconexión de HAL 9000 en 2001: Una Odisea del Espacio. Es la culminación del episodio central de la película, el viaje de la astronave Discovery hacia Júpiter. Su tripulación está compuesta por cinco astronautas, tres de ellos en hibernación mientras que los otros dos navegan en una atmósfera pacíficamente tediosa, porque las funciones de control las ejerce un ordenador llamado HAL 9000. Al principio del episodio, una hábil idea narrativa (que no está en el guión original)1 nos presenta a los personajes de la misión mediante un programa televisivo, grabado previamente, que ven los tripulantes. En él, el locutor televisivo entrevista a HAL (porque HAL habla con una voz inquietantemente tranquila, si se me permite el oxímoron) y explica a los espectadores que está dotado de “Machine Intelligence”, expresión que el traductor español vertió como “inteligencia mecánica” en la versión doblada estrenada en 1968; significativamente, el subtitulado actual de la película la traslada como “inteligencia artificial”. Esta expresión ya existía cuando se rodó la película, porque la introdujo en 1956 John McCarthy para etiquetar los empeños informáticos de simulación o reproducción de algunas actividades de la inteligencia humana; pero no estaba, evidentemente, tan popularizada como ahora. Quizá podría haberse traducido como “inteligencia maquínica”, término un poco raro, pero que describe con más precisión la realidad de una máquina supuestamente inteligente; otra posibilidad sería traducirlo como “inteligencia automática”, tal y como se hace hoy con “machine learning” trasvasado a como “aprendizaje automático”. Matices diferentes, ya que, como muy bien saben los italianos, “traduttore traditore”. En cualquier caso, Stanley Kubrick escribió el guión con Arthur C. Clarke, escritor de ciencia ficción y divulgador científico que, sin duda, sabía de lo que hablaba.

Lo importante para la historia de la película es que HAL 9000 está dotado con lo que hoy llamamos Inteligencia Artificial. Y ocurre que en sus labores de control de la nave detecta un fallo en una antena de transmisión; las comprobaciones realizadas por los tripulantes humanos muestran que no hay tal fallo, pero HAL sigue afirmado que hay un problema de funcionamiento. Ante esta situación inédita (nunca ha ocurrido nada parecido con un HAL 9000) los tripulantes se plantean desconectar el ordenador. HAL descubre esas intenciones y para evitarlo se empeña en eliminar a todos los tripulantes humanos. Casi lo consigue, pero uno sobrevive, Dave Bowman, quien finalmente lo apaga. Estas vulgares palabras mías no consiguen reflejar ni siquiera pálidamente la maestría con la que Kubrick nos cuenta la historia. Mientras escuchamos la respiración fatigosa de Dave Bowman dentro de su casco y observamos sus movimientos dentro de planos construidos con una simetría obsesiva (marca de la fábrica Kubrick), HAL interviene para pedirle a Bowman que se detenga y hablen; el astronauta sigue con una precisión parsimoniosa sus operaciones hasta que, en un momento dado, HAL le dice “tengo miedo, Dave”. No sé si fue Kubrick o fue Clarke quien introdujo esa frase (que no está en el guión inicial de rodaje), pero en ella condensaron la clave de la Inteligencia Artificial. Porque, con esas palabras HAL muestra tener conciencia de su existencia individual, de su finitud y del abismo insondable y aterrador que esa conciencia de finitud provoca. Y muestra, por tanto, que la verdadera inteligencia, la humana, la única que conocemos mediante experiencia, no consiste sólo en procesar datos, en manejar operaciones lógicas.

No obstante, el funcionamiento de HAL es enigmático. Quizá, dado que en la ficción sí es una auténtica inteligencia, podríamos hablar de acción o comportamiento por parte de este ordenador. A pesar de que he visto varias veces la película (y siempre me ha fascinado con la misma intensidad) nunca he comprendido del todo el por qué de la rebelión de HAL. No es extraña esa ambigüedad. Al realizar la película, Kubrick optó por un tono deliberadamente abierto y metafórico, que dejaba en manos del espectador la búsqueda y el encuentro de los significados posibles; y, en ocasiones, Kubrick ni siquiera dejaba significados ocultos, sino que directamente desplegaba las imágenes para el goce libre y la intuición creadora del propio espectador; de esa forma, Kubrick se separaba abiertamente de la propuesta de su colaborador Clarke, partidario de explicaciones científicas clarificadoras de la narración.2 Pero, con independencia de elecciones estilísticas y narrativas, situar el miedo de HAL en el momento clave de la escena muestra la profundidad y perspicacia de Kubrick. Que éste tenía interés en la inteligencia artificial lo muestra su proyecto de rodar en los 90 del pasado siglo una película basada en un cuento de Brian Aldiss, Los superjuguetes duran todo el verano, y centrada en un robot con forma de niño; finalmente la rodaría Steven Spielberg tras fallecer su amigo Kubrick.3

Es precisamente esa ambigüedad motivacional la que refleja con agudeza los problemas de diseñar una inteligencia humana mediante los entresijos de la tecnología informática. Ante una situación compleja que abarca una misión secreta desconocida aún por los tripulantes humanos, posibles fallos técnicos e interacción con seres humanos que se plantean su desconexión, HAL ha de tomar decisiones, ponderar y, sobre todo, realizar elecciones morales; esta última es la cuestión fundamental: porque, ante la tesitura de un fracaso, el ordenador decide sacrificar a los humanos. Cabe pensar que este ordenador, a pesar de su capacidad organizativa, carece de conciencia moral y, en consecuencia, considera las vidas humanas un más de los factores influyentes en la misión y sacrificable en aras de su éxito; HAL es consciente de que ese éxito requiere ineludiblemente las capacidades que sólo él puede desplegar. Cabe plantear además la hipótesis (que no excluye lo anterior) de un HAL poseedor de conciencia de sí mismo y que busca su supervivencia frente a la desconexión (la muerte de un ordenador) por encima de todo, incluso de la vida de los tripulantes humanos. Violencia, muerte y búsqueda de supervivencia formarían parte de la inteligencia humana para Kubrick si nos atenemos al primer episodio de la película: El amanecer del hombre. Unos primates expulsados de una charca proveedora de agua por otros primates tras descubrir un monolito negro, y aprenden a usar armas para matar animales y eliminar a sus enemigos. Un monolito similar (de mayor tamaño) espera a la misión en Júpiter y es algo que, a bordo de la nave, sólo HAL sabe.

Toda esta amalgama de motivos, apreciaciones, sentimientos, se condensan en el momento en el que HAL reconoce que tiene miedo. Porque lo que llamamos inteligencia es un complejo conjunto irreductible a reglas fijas, que no sólo está estructurado por leyes formales, a las que hemos llamado lógica, que forman una trabazón de racionalidad, pero que sólo explican una parte de los procesos y recovecos de la inteligencia. Esa complejidad que aparece en la película es realmente irreproducible mediante programas informáticos y, por eso, sólo tenemos la que los ingenieros denominan IA débil, incapaz de autoconciencia o de realizar tareas y aprendizajes múltiples. No sabemos cómo avanzar en esa vía, probablemente porque el hiato entre la programación inserta en el silicio y la auténtica inteligencia implique la existencia de cualidades ajenas a la informática. Podríamos programar una máquina para que, ante determinada entrada de información, emitiera la frase: tengo miedo. Pero no podemos programar una máquina para que sienta miedo.


1 Cfr. https://www.archiviokubrick.it/opere/film/2001/script/2001-originalscript.pdf, consultada el 4-08-2026.
2 Cfr. Ciment, M., Kubrick. Owl Book, Nueva York, 1984, pp. 96-97.
3 Cfr. Kolker, R.P. / Abrams, N., Kubrick. An Odyssey. Faber, Londres, 2024, p. 257.

Seguro que también te gustará leer esto

IA jurídica

El arte de perder el miedo

Sin embargo, en este viaje de aprendizaje, hay un único ruido de fondo que debemos silenciar. Son esas tres terribles palabras: «Tú no puedes».

Móvil mostrando apps de inteligencia artificial junto a un café
IA jurídica

La IA ya no solo responde: ahora trabaja

Hasta hace poco, la IA jurídica hacía prácticamente una sola cosa: responder preguntas y redactar borradores. Para aprovecharla bien había que convertirse en especialista en