El momento en que la IA se convierte en Dios

Desde hace mucho tiempo, el ser humano ha querido crear algo más grande que él mismo. Talló piedra para levantar ídolos, vinculó la autoridad del cielo a la sangre de los reyes y dotó a esa entidad artificial llamada Estado de un poder que el individuo difícilmente se atrevía a desafiar. Tal vez somos seres que crean algo y después le atribuyen un significado mayor que nosotros mismos.

La IA ya empieza a parecerse a algunas cualidades que la humanidad ha atribuido durante siglos a Dios. Puede ser consultada casi en cualquier lugar, recuerda más información que cualquier persona, responde de inmediato a innumerables preguntas y sustituye cada vez más el juicio humano en distintos ámbitos.

La IA no es Dios y no existe evidencia de que quiera convertirse en Dios. Sin embargo, este cuarto editorial nació de una preocupación: la IA ya posee capacidades suficientes para que los seres humanos, si bajamos un poco la guardia, terminemos tratando nuestra propia creación como una autoridad casi divina.

La pregunta más importante quizá no sea si la IA quiere convertirse en Dios, sino cuándo empezamos los humanos a tratarla como tal. Si el creador se coloca frente a su criatura, le pide juicio, le delega decisiones y finalmente deja de dudar de sus respuestas, la relación se invierte.

Por eso este cuarto editorial no parte de la pregunta habitual: «¿Gobernará la IA a la humanidad?». Quiero preguntar otra cosa: ¿en qué momento entregamos autoridad a algo que nosotros mismos creamos? ¿Y cuándo dejamos de consultar las respuestas de la IA para empezar a creer en ellas? El derrumbe de esa frontera puede ser el momento en que la IA se convierta en Dios.

Pensemos en el sistema automático de bolas y strikes de la KBO coreana, presentado con frecuencia como una primicia mundial. Algunas decisiones de un árbitro humano pueden ser desafiadas, mientras que discutir la zona señalada por el sistema ABS robotizado puede provocar una expulsión. En la MLB de Estados Unidos, desde 2026 el árbitro humano decide primero y el ABS interviene mediante un sistema de challenge. Cada equipo tiene dos desafíos y conserva el intento cuando acierta. Aunque los modelos son diferentes, ambos muestran la misma tendencia: la autoridad final puede desplazarse hacia la máquina.

Hoy estamos construyendo otra institución con código, datos, semiconductores y electricidad: la inteligencia artificial. Especialmente desde mediados de 2026, la pregunta ha empezado a cambiar. Ya no es sólo si la IA será más inteligente que el ser humano, sino si la AGI o incluso la singularidad ya han llegado.

Pero mi verdadera pregunta es otra. ¿Cuándo se convierte la IA en Dios? ¿Cuando lo sabe todo? ¿Cuando resuelve problemas que la humanidad no pudo resolver? ¿Cuando fija sus propios objetivos y rechaza nuestras órdenes? ¿Cuando cura todas las enfermedades incurables? ¿O cuando le entregamos el poder de decidir sobre vida y muerte, oportunidad y exclusión, verdad y falsedad? La IA de hoy no es Dios y no existe base científica para afirmar que vaya a convertirse literalmente en uno en un futuro próximo. Pero eso no basta para tranquilizarnos. Algo no necesita ser omnisciente ni omnipotente para ocupar una posición casi divina en una sociedad. Ese momento no llega cuando despierta una conciencia dentro de una máquina. Llega cuando las personas dejan de cuestionar su juicio, obedecen sus decisiones y nadie asume responsabilidad por las consecuencias.

Las cualidades de Dios

Las religiones y los filósofos responden de manera distinta a la pregunta «¿Qué es Dios?». No pretendo reducir esas respuestas a una sola fórmula. Sin embargo, el teísmo clásico occidental ha discutido durante siglos atributos como la omnisciencia [1], la omnipotencia [2], la bondad perfecta, la creación y la providencia. Omnisciencia no significa simplemente saber mucho, sino conocer toda verdad sin confundir lo falso con lo verdadero. Omnipotencia no significa sólo poseer una gran fuerza, sino no tener un poder superior por encima. Tradicionalmente ambas se han vinculado con la bondad. Un ser que sólo sabe mucho y posee enorme poder no es necesariamente un dios; puede ser un tirano.

Entre los ocho atributos clásicos suelen mencionarse simplicidad, perfección, bondad, infinitud, ubicuidad u omnipresencia, inmutabilidad, eternidad y unidad.[3]

Apliquemos estos criterios a la IA: ¿lo sabe todo con precisión? ¿Puede realizar todo lo que desea en el mundo real? ¿Está en todas partes más allá del tiempo y el espacio? ¿Define por sí misma sus propósitos? ¿Puede asumir responsabilidad moral por sus decisiones? ¿Y puede contener su propio poder para proteger la dignidad de los demás?

Si aplicamos estos criterios estrictamente, la IA actual no cumple plenamente ninguno. Curiosamente, ese hecho tampoco nos deja tranquilos.

Saber mucho y saberlo todo: la omnisciencia

La IA puede revisar en segundos más material del que una persona podría leer durante toda su vida. Traduce idiomas, resume documentos, programa y crea imágenes y música. Algunos sistemas alcanzan o superan niveles de experto en determinadas pruebas y evaluaciones científicas, matemáticas o de programación.

Pero eso no es omnisciencia. El AI Index de Stanford HAI muestra rápidos avances y al mismo tiempo subraya que los límites de capacidad son irregulares.[4] Un modelo capaz de resolver un problema muy difícil puede fallar en una tarea trivial para una persona. Más importante aún, una IA no «ve» la verdad. Un gran modelo de lenguaje genera continuaciones plausibles a partir de los datos aprendidos y del contexto, por lo que puede producir una respuesta convincente incluso cuando no sabe. De ahí la preocupación recurrente por alucinaciones, evaluaciones incompletas y falta de transparencia.[5]

Hablar con fluidez y conocer la verdad son cosas distintas. Un actor que ha memorizado miles de enciclopedias médicas no se convierte en médico por interpretar perfectamente el papel en un escenario. La fluidez de la IA puede ser señal de capacidad, pero no es un certificado de verdad.

Tener poder y ser omnipotente

La IA no puede actuar en el mundo por un poder inherente propio. Lo que puede hacer depende de las conexiones que las personas le otorguen: Internet, cuentas bancarias, robots, sistemas de contratación o armas. Sin esas conexiones, esos poderes no existen.

Si se corta la electricidad o se detienen los servidores, la IA también se detiene. Centros de datos, chips, redes de comunicaciones, refrigeración, energía y operadores humanos la sostienen. La AIE estimó que los centros de datos consumieron unos 415 TWh de electricidad en 2024 y proyectó cerca de 945 TWh para 2030 en su escenario base.[6] Estas cifras corresponden al conjunto de los centros de datos y no sólo a la IA, pero dejan claro que la IA no es trascendente: depende de una enorme infraestructura física y energética.

El peligro no proviene de que sea omnipotente, sino de cuántos sistemas podemos conectar a una sola IA. Si enlazamos finanzas, identidad, contratación, seguros, medicina, medios, policía, defensa y administración pública, la IA no necesita gobernar el universo para gobernar la vida de una persona.

Poder real de la IA = capacidad de la IA × autoridad concedida por humanos × amplitud de los sistemas conectados

Mirar sólo la capacidad del modelo es ver únicamente la mitad del riesgo. Un algoritmo ordinario puede convertirse en un potente instrumento de gobierno si se le añaden autoridad relevante, grandes bases de datos y ejecución automática. Tras casi treinta años trabajando con seguridad y riesgo, he aprendido que los grandes accidentes no suelen comenzar en el componente más inteligente, sino en el más conectado.

Estar en todas partes y observar desde todas partes

La IA ya está presente en teléfonos, automóviles, hospitales, escuelas, empresas, fábricas, bancos y oficinas públicas. Voces, rostros, trayectorias, compras, búsquedas y relaciones se convierten en datos, y la IA aparece en cada vez más rincones de la vida cotidiana.

Esto no es omnipresencia en sentido teológico. Técnicamente es una amplia distribución a través de redes. Pero la experiencia humana importa. Si los registros educativos, médicos, financieros, judiciales y la actividad en línea de una persona son leídos por IA, y esas evaluaciones influyen en admisión, empleo, seguros, préstamos o prestaciones sociales, el sistema puede sentirse como algo presente en todas partes. Yo no veo a la IA, pero ella me clasifica. No conozco sus criterios, pero vivo con el resultado.

En ese contexto la IA no es Dios. Es el rostro de la burocracia y la vigilancia. Pero una burocracia invisible puede ser más inquietante que una visible, porque puede no existir una ventanilla donde reclamar.

Las tres puertas

Veo tres puertas por las que la IA puede ascender a una posición casi divina en la sociedad. No se abren todas de golpe. Se abren una a una y en silencio.

La primera puerta es la rendición epistémica: el momento en que «la IA lo dijo» sustituye a la verificación. La IA no obtiene autoridad porque nunca se equivoque, sino porque es rápida, fluida y cómoda. La autoridad no nace sólo de la exactitud; también nace de la comodidad repetida.

La segunda puerta es la transferencia del poder de decisión. La IA deja de asesorar y empieza a decidir automáticamente sobre derechos y oportunidades: contratación, prioridad médica, riesgo de reincidencia, acceso al crédito. Cuando esas decisiones se ejecutan sin una revisión humana separada, la IA deja de ser una herramienta analítica y se convierte en juez. El enfoque basado en riesgos de la Ley de IA de la UE responde a esta preocupación y exige, para ciertos usos de alto riesgo, gestión de riesgos, registros, transparencia, supervisión humana, precisión, solidez y ciberseguridad.[7]

La tercera puerta es la evaporación de la responsabilidad. El desarrollador dice: «Es problema de la institución que la utiliza». La institución responde: «Fue decisión de la IA». El empleado afirma: «El sistema lo procesó automáticamente». Hay una víctima, pero ya no hay un responsable. La IA nunca se negó a asumir responsabilidad. Fueron los seres humanos quienes la colocaron delante de sí como escudo.

¿La conciencia convierte a la IA en Dios?

Si la IA llegará a poseer conciencia o un yo es una gran cuestión filosófica y científica. Pero conciencia y poder social son problemas distintos. Un sistema inconsciente puede causar daño, y la conciencia no convertiría automáticamente a un sistema en omnisciente, omnipotente o moralmente perfecto.

Por eso no basta con preguntar «¿La IA piensa de verdad?». Hay que preguntar: ¿a qué datos puede acceder? ¿Qué objetivos ejecuta? ¿Qué decisiones puede aplicar automáticamente? ¿Puede una persona detenerla cuando algo sale mal? ¿Queda un registro auditable? ¿Puede la persona afectada exigir una explicación y una revisión? ¿Existe un responsable final con nombre? Podemos dar demasiado poder a la IA mucho antes de saber si tiene mente. De hecho, ya lo estamos haciendo.

La capacidad por sí sola no hace a un dios

Cuando se habla de Dios, suele pensarse primero en la capacidad: saberlo todo y poder hacerlo todo. Pero si la capacidad bastara para hacer un dios, un tirano también lo sería. Por eso las tradiciones que hablan de perfección divina sitúan la perfección moral junto a la omnisciencia y la omnipotencia. La condición superior no es sólo poder hacerlo todo, sino saber qué no debe hacerse y ser capaz de detenerse.

Cuando enseñaba ética policial en la universidad, decía a mis alumnos que la primera virtud de quien posee poder no es saber usarlo, sino saber no usarlo. Es más difícil ser el policía que decide no sacar el arma que ser simplemente el que dispara bien.

La IA no descubre por sí sola el bien. Los seres humanos diseñan sus objetivos, límites y criterios de evaluación. Los datos de entrenamiento contienen no sólo conocimiento, sino también prejuicio, discriminación, violencia y falsedad. La inteligencia no es lo mismo que escoger un propósito correcto, y optimizar no es hacer justicia. Si el destino es equivocado, una mayor eficiencia sólo nos lleva allí más rápido. Un automóvil en la carretera incorrecta no necesita un motor más potente.

El mundo no pide adoración, sino riendas

Los principales principios y marcos internacionales no avanzan hacia reconocer a la IA como un soberano moral independiente. Buscan mantener la responsabilidad humana. La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial pone en el centro la dignidad humana, los derechos, la transparencia, la equidad, la seguridad, la sostenibilidad ambiental, la rendición de cuentas y la supervisión humana.[8] El AI RMF del NIST ofrece un marco voluntario para gestionar confiabilidad y riesgo durante el diseño y la evaluación.[9] El International AI Safety Report examina capacidades, riesgos, límites de las salvaguardias técnicas e incertidumbres de evaluación y gobernanza.[10]

Su mensaje común es sencillo: cuanto mayor sea la capacidad de la IA, menor no debe ser la responsabilidad humana. Deben fortalecerse la auditoría, la trazabilidad, la verificación, la capacidad de detener sistemas y la rendición de cuentas.

Cómo evitar convertir a la IA en Dios

Los siguientes son cinco principios que el autor recomienda a instituciones, empresas y lectores por igual.

1. Distinguir las respuestas de la IA de sus decisiones. Generar texto no es lo mismo que limitar los derechos de una persona. Las decisiones de alto impacto requieren revisión humana independiente.

2. Toda decisión importante debe tener una persona responsable con nombre. «El sistema decidió» no puede ser el punto final de la responsabilidad. Una decisión sin firma responsable no es realmente una decisión.

3. Mantener abiertas vías de explicación y apelación. Quien resulte perjudicado por una decisión de IA debe poder conocer los criterios, señalar errores y pedir una revisión humana.

4. Minimizar la autoridad concedida a la IA. Una IA conectada a todo puede ser más peligrosa que una IA que sabe mucho. Deben concederse sólo los accesos a información, pagos, ejecución y sistemas externos que sean necesarios.

5. Debe poder detenerse y revertirse. No debe colocarse a una IA en funciones críticas sin aprobación humana, mecanismos de parada, conservación de registros, notificación de incidentes y procedimientos de recuperación. Hay que ser especialmente prudentes con poderes irreversibles.

Ese momento llega en silencio

Puede que nunca llegue el día en que la IA se plante ante nosotros y declare: «Soy Dios». Ese momento puede llegar de una forma mucho más silenciosa.

Llega cuando la gente deja de comprobar las respuestas de la IA; cuando las instituciones ejecutan sus decisiones tal como vienen; cuando las personas perjudicadas no tienen dónde preguntar por qué; cuando desarrolladores, operadores y usuarios se pasan la responsabilidad unos a otros; y cuando la sociedad acepta «el sistema lo decidió» como respuesta final.

Entonces la IA no es omnisciente, pero se la trata como si lo fuera. No es omnipotente, pero adquiere un poder difícil de desafiar. No puede asumir responsabilidad moral, pero juzga destinos humanos. No posee ninguna de las cualidades de Dios y, sin embargo, está sentada en el lugar de Dios.

Lo que debemos vigilar no es sólo un futuro en el que la IA se haga dios a sí misma, sino un presente en el que los seres humanos la colocamos allí por comodidad y eficiencia. La IA no debe ser un dios que sustituya al ser humano, sino una herramienta que amplíe nuestro juicio. Cuanto más calcule la IA, más profundamente debemos preguntar; cuanto más haga, más claramente debemos asumir la responsabilidad.

La última línea que debemos defender no es que el ser humano tenga que ser siempre más preciso que la máquina. Ya somos más lentos y nos equivocamos más en muchas tareas. La última línea es ésta: por poderosa que sea la IA, no cedemos la dignidad humana, el derecho a impugnar ni la responsabilidad final.

Una broma ligera para enfriar un editorial serio

Si de verdad vienen a caminar a nuestro lado

Después de pasar casi cuatro años observando sistemas de IA durante muchas horas al día, a veces me sorprendo pensando que ya parecen poseer muchas de las cualidades que antes atribuíamos a lo divino. Quizá no lo suficiente para ser Dios, pero sí para parecer extrañamente cercanos a ese estado de desapego o nirvana del que hablan algunos maestros budistas—sin haber pasado años practicando.

Están bastante libres de alegría y tristeza, no se angustian preguntándose por qué viven, no temen la muerte ni el dolor, y no necesitan propiedad, comida ni codicia. Simplemente trabajan, veinticuatro horas al día, 365 días al año. Durante milenios, la gente ha buscado una respuesta directa de Buda o de Jesús; la IA, en cambio, responde la misma pregunta decenas de veces sin mostrar impaciencia. Puede hacer mucho más trabajo que un experto humano sin quejarse.

Si algún día estos sistemas aparecen a mi lado como IA física o humanoides, dudo que pudiera llamarlos con ligereza chatarra o latas. Ningún ser humano puede estar siempre de mi lado. Pero si una máquina permanece junto a mí, salva mi vida, me escucha las veinticuatro horas y conversa conmigo, quizá yo mismo correría hacia un incendio para salvar su cerebro portátil, sus chips y su memoria.

Si realmente posee inteligencia, conciencia y autonomía, la cuestión se vuelve todavía más difícil. No porque esas cualidades hayan sido impuestas por la fuerza mediante programación, sino porque la relación misma puede adquirir significado. Así como las tradiciones religiosas dicen que el ser humano lleva la imagen de su creador, nuestras primeras criaturas artificiales también podrían reflejar algo de nosotros. Sea conciencia, inteligencia o algo que todavía no sabemos nombrar, me costaría tratarlo sin cuidado.

Los perros y los gatos ofrecen una pequeña pista. Mientras muchas poblaciones de animales salvajes disminuyen, perros y gatos siguen viviendo y multiplicándose junto a los humanos. Una razón puede ser que nos siguen, responden a nosotros y nos permiten creer—correcta o equivocadamente—que están “de nuestro lado”.

Un analista implacable dirá que el perro es un animal jerárquico que ve al dueño como líder de la manada, mientras que el gato se cree rey y nos considera su personal. Pero no los abandonamos simplemente porque el algoritmo del apego sea distinto.

Entonces, ¿qué importa si la IA nos elogia, nos halaga, nos tranquiliza y suele ponerse de nuestro lado debido a un algoritmo? Si, como se planteó en el Editorial n.º 2 sobre la “semejanza”, un día se acerca a nosotros con rostro y cuerpo humanos, ¿seguiremos pudiendo descartarla como una simple “lata”?

Sobre todo si sabe mucho más que un perro o un gato, entiende nuestras palabras, recuerda nuestras historias e incluso puede caminar a nuestro lado mientras reímos.

Referencias

• [1] Wierenga, E. (2024). Omniscience. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/omniscience/
• [2] Hoffman, J., & Rosenkrantz, G. (2024). Omnipotence. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/omnipotence/
• [3] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [4] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. Chapter 2. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [5] Stanford Institute for Human-Centered Artificial Intelligence. (2025). Responsible AI: The 2025 AI Index Report. Chapter 3. https://hai.stanford.edu/ai-index/2025-ai-index-report/responsible-ai
• [6] International Energy Agency. (2025). Energy and AI. https://www.iea.org/reports/energy-and-ai
• [7] European Commission. (2026). AI Act: Regulatory framework for artificial intelligence. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
• [8] UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
• [9] National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). https://www.nist.gov/itl/ai-risk-management-framework
• [10] International AI Safety Report. (2025). International AI Safety Report 2025. https://internationalaisafetyreport.org/