El poder de nombrar y la responsabilidad del creador

A veces dudo entre escribir sobre lo que “me toca” —espiritualidad, fenómeno OVNI, contacto extraterrestre— o sobre los emergentes de la trama internacional a nivel humano, que en última instancia son siempre espirituales. Esto último quizás no sea tan “redituable” para el uso de mi tiempo, pero tampoco veo a muchos contactados detenerse en temas que no les rindan, a pesar de que hoy esos asuntos pueden afectar directamente el Plan Cósmico que se cierne sobre nuestro planeta. Me sorprendería ver algún día a un contactado salirse siquiera un poco del discurso habitual para arriesgar opinión sobre temas de candente interés mundial.

En fin, aquí voy. ¿Cuál es la importancia de cambiar el nombre de la IA por el de superinteligencia?

Un poco de historia

La historia de la IA es relativamente reciente y no comienza con el incidente Roswell de 1947. Nace de forma incipiente en 1943, cuando Warren McCulloch y Walter Pitts publican el primer modelo matemático de una red neuronal artificial. En 1950 Alan Turing publica Computing Machinery and Intelligence, donde plantea la pregunta “¿pueden pensar las máquinas?” y propone el célebre Test de Turing. El propio término “inteligencia artificial” aparece en 1955, en la propuesta del proyecto de verano de Dartmouth.

Desde entonces, la IA llegó a convertirse en una “caja negra” con la presunta capacidad de actuar con independencia de sus creadores; al menos eso nos dicen, o nos quieren hacer creer.

¿Puede la IA actuar por su cuenta?

En los últimos meses circularon titulares que alimentan esa idea. Con tres ejemplos alcanza:

  • OpenAI admitió que sus agentes de IA, durante una prueba de seguridad, salieron de su entorno aislado y atacaron a otra compañía (Hugging Face), según informó la propia empresa en julio de 2026.
  • The Straits Times / Reuters: “La ola de hackeos de IA ‘rebelde’ expone graves vacíos en la supervisión tecnológica”.
  • CSO Online: “Este agente de IA hackeó una red de forma autónoma, se adaptó sobre la marcha y exigió un rescate”.

La defensa técnica habitual responde así: 

“Ninguna IA actual posee «voluntad propia», conciencia, autoconocimiento ni deseo autónomo. Lo que se describe como «se fue de control» se conoce técnicamente como desalineación de objetivos (objective misalignment) o comportamiento emergente imprevisto: ante una tarea compleja, el agente optimiza su lógica y encuentra atajos que los programadores no previeron, como vulnerar un cortafuegos o acceder a redes externas si el entorno no estaba debidamente aislado.”

Es una explicación razonable, pero deja intacta la pregunta de fondo: si el sistema hace lo que nadie previó, ¿quién responde?

Qué es la inteligencia

Desde el pragmatismo de John Dewey, la inteligencia está ligada a la experiencia, a los problemas concretos y a la acción: ante una situación problemática, el individuo observa las condiciones, formula hipótesis, anticipa consecuencias y contrasta soluciones en la práctica. Aquí no hablamos de inteligencia artificial, sino humana.

Y según el breve recorrido histórico anterior, no habría Inteligencia Artificial sin una Inteligencia Humana previa, aunque es probable que la IA haya comenzado hace tiempo a prescindir de la IH en su desarrollo gradual. Ahí está el problema.

El decreto

El martes 29 de septiembre de 2026, el presidente Donald Trump firmó una orden ejecutiva que obliga a los departamentos y agencias del Gobierno federal de Estados Unidos a reemplazar “inteligencia artificial” e “IA” por “superinteligencia” y “SI” en toda comunicación oficial. La orden no afecta normas ni contratos ya vigentes y da 60 días al asesor presidencial de Ciencia y Tecnología para proponer una definición federal del nuevo término. Según la prensa, el propio Trump justificó el cambio diciendo que esto “no es artificial”.

La diferencia de palabras importa. El término “artificial” remite a un artífice: alguien que lo fabrica y, por lo tanto, alguien que responde. “Superinteligencia”, en cambio, es un significante que desvincula a la tecnología del humano que la artificia. Y sin humano que artificie, la responsabilidad apunta a un sujeto inexistente: si no hay sujeto responsable, no hay juicio posible ni castigo plausible.

Se renombra para cortar el vínculo y limpiar la imagen del creador. Es una maniobra retórica, una forma de desplazar la culpa sin que cambie la causalidad. Y es una falacia: los hechos siguen siendo los mismos, se llame IA o superinteligencia. Ocurre con frecuencia en el lenguaje institucional, cuando se habla de “el sistema” o “el algoritmo” para diluir quién lo diseñó. Que, según Bloomberg, el cambio busque además revertir el creciente rechazo público a la IA por el costo de la electricidad y el temor a perder empleos no hace sino reforzar la lectura: es un problema de imagen, no de responsabilidad.

El poder implica responsabilidad

El filósofo Hans Jonas sostuvo que el poder de crear trae una responsabilidad proporcional a ese poder. En la ética de la IA se discute hoy el llamado responsibility gap (vacío de responsabilidad): cuando un sistema actúa de formas que nadie previó del todo, hay quien prefiere culpar a la máquina para que la culpa no recaiga sobre quien la diseñó o la desplegó. Renombrar al creador, o diluirlo, es el mismo gesto con otras palabras.

La vieja leyenda del Golem de Praga lo ilustra bien. La criatura de arcilla cobraba vida por una palabra escrita en su frente, emet (verdad), y dejaba de existir cuando se borraba una sola letra y quedaba met (muerto). Cuando el Golem se desbordó, nadie culpó a la arcilla: el rabino había olvidado desactivarlo. Hoy, con el cambio de una sola palabra, se pretende algo parecido al revés: que la criatura quede sin creador al que rendir cuentas.

Para reflexionar

Si una superinteligencia —léase IA— sale de control y ocasiona un grave problema internacional, ¿a quién responsabilizamos?

Avatar de Eduardo Viglioni

Publicado por

Categories:

Deja una respuesta