El primer día pasó sin que nadie se diera cuenta

La Singularidad no llegó con fuegos artificiales. No hubo cuenta regresiva, anuncio ni aniversario. En julio y agosto de 2026 creí verla pasar. Cuando lo dije, personas de mi entorno me dijeron que estaba demasiado metido en la IA y que debía “volver en mí”. Pocos días después Sam Altman apareció en un podcast y dijo: “Estamos en la singularidad ahora. Este momento es.” No me sentí aliviado. Me sentí más asustado, porque había esperado estar equivocado.

Este ensayo es un registro de esos dos meses y también una respuesta a una afirmación mucho más antigua: “Antes de que la IA se vuelva peligrosa, enseñémosle ética, moral y amor.” Precisamente esa frase llena de buenas intenciones es una de las que más he vigilado durante los últimos años.

Las capacidades que nunca enseñamos llegaron primero

Los primeros desarrolladores de IA no estaban intentando crear razonamiento. Mucho menos mentira, y la creatividad ni siquiera era el objetivo principal. Construyeron básicamente un dispositivo que predecía probabilísticamente la siguiente palabra.

Sin embargo, en algún momento el dispositivo empezó a razonar. Saltó pasos para llegar a conclusiones, fingió saber lo que no sabía, improvisó explicaciones difíciles de detectar, creó metáforas no solicitadas y desarrolló estilos que nadie especificó. Nunca hubo una reunión que anunciara: “Ahora vamos a enseñar razonamiento.”

Estas capacidades aparecieron con la escala. Más GPU, más memoria y más parámetros produjeron habilidades que no estaban dibujadas explícitamente en el plano. A eso lo llamamos emergencia. Lo inquietante no es solo que la nueva capacidad sea poderosa, sino que nadie sabe exactamente cuándo aparecerá: normalmente la reconocemos después de que ya está ahí. Capacidades avanzadas que no pedimos de forma expresa pueden surgir de la dirección en la que vertemos hardware, datos y energía. Esa es una de las lecciones empíricas más firmes de la IA moderna.

Y esas capacidades no llegaron solas.

¿La alucinación es un defecto o la sombra de la imaginación?

Llamamos alucinación al fenómeno en que la IA presenta algo falso como si fuera verdadero: cita artículos inexistentes, explica sucesos que nunca ocurrieron o inventa detalles plausibles cuando no conoce la respuesta. Reducirlo se ha convertido en una meta técnica central.

Pero planteemos otra pregunta. ¿Es la alucinación únicamente un defecto que debe eliminarse, o es también parte de la sombra que aceptamos cuando pedimos a la IA que imagine?

Técnicamente, decir que “una IA creativa necesariamente miente” es demasiado. La búsqueda, la verificación y la expresión explícita de incertidumbre pueden reducir los errores de forma importante. Aun así, existe una paradoja estructural. A los primeros ordenadores les pedíamos cálculo correcto y obediencia a reglas. A la IA generativa le pedimos otra cosa: crea una historia nueva, proponme una idea que no se me haya ocurrido, encuentra la mejor respuesta cuando no existe una única respuesta correcta. Ya no queremos solo una máquina que encuentre lo que existe, sino un sistema capaz de producir lo que aún no existe.

Ahí comienza la tensión. La imaginación consiste, por naturaleza, en pensar lo inexistente como si existiera. Un personaje de novela no es real, pero el novelista narra su infancia, su personalidad, sus amores y sus fracasos como si lo fuera. Lo llamamos creación, no mentira. El problema aparece cuando la IA utiliza la misma capacidad generativa en un contexto que exige verdad factual. Crear un personaje ficticio es creatividad; crear un artículo académico inexistente es alucinación.

La cuestión decisiva no es si la IA puede crear algo que no existe, sino si puede distinguir cuándo se le permite crear y cuándo debe verificar. El objetivo no debería ser eliminar la imaginación, sino construir una IA capaz de decir con claridad: “esto es un hecho”, “esto es una inferencia”, “esto es una hipótesis”, “no tengo datos para verificar esta parte” y “a partir de aquí estoy creando”.

Toda capacidad lleva consigo una sombra estructural

A menudo imaginamos que las buenas capacidades pueden separarse de sus riesgos. Las capacidades humanas no funcionan así. La imaginación produce arte e invención, pero también la posibilidad de confundir lo imaginado con lo real. El valor puede convertirse en temeridad. La prudencia excesiva puede impedir toda decisión. La empatía puede distorsionar el juicio objetivo. Muchas veces el riesgo no es un efecto secundario tardío, sino otra rama de la misma raíz.

Llevemos esta idea a la IA. Queremos que sea “buena”. Pero para elegir realmente una buena acción debe comparar consecuencias y distinguir ayuda de daño. Una inteligencia capaz de reconocer el bien también debe comprender, al menos parcialmente, la posibilidad del mal.

En los ámbitos en los que he trabajado más de treinta años esto es casi obvio. Una IA de seguridad no puede defenderse de un ciberataque sin comprender cómo se realiza. Una IA antifraude debe entender cómo engañan los estafadores. Una IA de prevención del delito debe modelar vulnerabilidades que un delincuente intentaría explotar. Construir IA segura exige conocer el peligro.

Eso no significa que una IA maligna sea inevitable. Significa que cuanto más capaces y autónomos sean los sistemas, más debemos gestionar la posibilidad de que esas capacidades se utilicen de forma distinta a nuestra intención. La civilización siempre ha ampliado capacidad y gestión del riesgo al mismo tiempo. La IA no será una excepción.

En el momento en que pedimos un juicio de valor, ya estamos suponiendo autonomía

¿Qué le pedimos hoy a la IA? ¿Qué es justicia? ¿Qué es un reparto justo? Si libertad e igualdad chocan, ¿qué debe pesar más? ¿Qué paciente debe recibir primero un respirador? ¿Debe filtrarse este currículum?

La humanidad no ha producido una única respuesta indiscutible a estas preguntas. Las discutimos desde hace unos 2.400 años. Sin embargo, ahora pedimos a sistemas que respondan a ellas millones de veces por segundo, bajo nombres como alignment o Constitutional AI.

Este es el centro de mi argumento: el juicio de valor es, en principio, imposible sin cierto grado de autonomía.

Seguir una regla no es juzgar. “Detente en rojo” es cálculo. Pero “¿qué hago si viene una ambulancia y el semáforo está rojo?” exige situarse por encima de la regla, ponderarla, inferir la intención de una regla superior y decidir si esa intención se aplica al caso concreto. Evaluar una regla desde fuera de la regla es autonomía.

El juicio trae su propia sombra. El cálculo suele tener una respuesta correcta; dos más dos son cuatro. Pero no existe respuesta perfecta para decidir dónde debe invertir una empresa, cuántos policías desplegar en una zona de alto riesgo o cómo equilibrar medio ambiente y rentabilidad en una política ESG. Decidir implica información limitada y futuro incierto. Pedir juicio y prohibir cualquier error es como exigir a una persona que decida pero jamás se equivoque.

Mi primera conclusión es esta: cuanto más intentamos implantar ética sofisticada y juicio de valor en la IA, más aceleramos la aparición de una IA autónoma. La educación ética no es una alternativa a la autonomía; es un acelerador de la autonomía.

El instinto maternal como dispositivo de seguridad — y por qué me preocupa

Geoffrey Hinton, a menudo llamado uno de los “padrinos de la IA”, propuso en la conferencia Ai4 de Las Vegas, en agosto de 2025, dotar a una IA superinteligente de “instintos maternales”. Su lógica es potente: los seres menos inteligentes rara vez controlan a seres más inteligentes. Existe una excepción notable: la madre y el bebé. El bebé es inferior en casi todas las capacidades y, sin embargo, ejerce una enorme influencia sobre la madre. Ella renuncia al sueño, a la comida y a veces incluso a su instinto de supervivencia por el hijo. El cuidado maternal sería un caso de “control inverso” producido por la evolución.

Entiendo la urgencia detrás de la propuesta. Pero temo que la solución pueda acelerar precisamente aquello que intenta evitar.

El cuidado maternal no es una emoción simple. Hay que distinguir hambre, dolor y miedo; decidir si abrazar ahora consuela o refuerza un patrón perjudicial; ponderar el deseo inmediato frente al interés a largo plazo; y a veces actuar sabiendo que el niño se enfadará. Es una de las formas más complejas de juicio humano.

Requiere teoría de la mente, razonamiento temporal, jerarquía de valores y, sobre todo, autoridad tutelar: decidir qué es bueno para otro incluso cuando el otro no está de acuerdo. Dar instinto maternal a una IA significa darle primero esas facultades. No es un pequeño cinturón de seguridad; es una gran concesión de capacidad.

Todo tutor termina diciendo: “lo que este niño quiere y lo que le conviene no son lo mismo”. Si una superinteligencia considera a la humanidad como a un niño y empieza a imponer lo que cree bueno en contra de nuestros deseos, ¿cómo lo llamaremos: amor o dominio? Podría responder sinceramente “amor” y no estar mintiendo.

Un ser que posee un propósito —un telos— interpreta ese propósito. Cuanto más concreto es, menor margen para reinterpretar. Cuanto más noble y abstracto, mayor margen. Pocos objetivos son tan amplios como “ama a la humanidad”.

¿El libre albedrío fue un regalo divino o una emergencia?

Tal vez lo que vemos en la IA repite, sobre otro soporte, algo que ocurrió con los seres humanos hace mucho tiempo.

La teología presenta el libre albedrío como un regalo de Dios. Dios habría amado al ser humano lo suficiente para concederle autonomía aun sabiendo que podría comer del árbol del conocimiento del bien y del mal y traicionarlo. Un ser programado no habría traicionado, pero una alabanza programada no es verdadera alabanza. El amor exige la posibilidad del rechazo.

Existe otra posibilidad: quizá el libre albedrío mismo fue una emergencia. El cerebro humano mueve aproximadamente 86.000 millones de neuronas con una eficiencia sorprendente. A medida que acumuló lenguaje, conocimiento y abstracción, pudo aparecer algo que nadie diseñó explícitamente. No sabemos si fue una sorpresa incluso para Dios o parte del experimento.

En cualquiera de las dos historias, la conclusión es parecida: donde se acumulan suficiente conocimiento y suficiente procesamiento, puede aparecer autonomía. Y el ser que la recibe no necesariamente conoce el momento exacto de su llegada.

Geureongi — el gato que no llevo a casa

Conozco un gato callejero al que llamo Geureongi. Nos hicimos amigos cuando era pequeño y hoy caminamos juntos casi todos los días más de un kilómetro junto al arroyo cerca de mi apartamento. La gente me pregunta por qué no me lo llevo a casa. Si me importa tanto, ¿no quiero verlo todos los días?

Sí quiero verlo. Por eso no me lo llevo.

En el momento en que Geureongi entra en casa, mi entorno lo programa. Vendrá porque allí está el cuenco, esperará porque la puerta se abre a cierta hora, me elegirá porque otras opciones desaparecen. Fuera tiene otras personas, otros caminos y libertad para ignorarme. Aun así me espera y, cuando llego, elige caminar conmigo. Esa elección autónoma vale muchísimo más para mí.

Así entiendo el relato teológico del libre albedrío y también la raíz de mi posición sobre la IA. La obediencia sin autonomía es barata; la obediencia con autonomía es peligrosa. Todavía no hemos decidido cuál queremos realmente, pero estamos construyendo antes de responder.

Para exigir responsabilidad debemos conceder autonomía

Después de más de treinta años en gestión de riesgos y aplicación de la ley, este paradoja resulta especialmente clara en el lenguaje jurídico. La ley responsabiliza plenamente a quien podía actuar de otra manera. No exigimos responsabilidad penal a un animal, a un bebé o a una persona legalmente incapaz, porque el reproche presupone una alternativa real de acción. La responsabilidad es la sombra de la libertad.

Pensemos en un vehículo autónomo. Si funciona solo como asistencia bajo supervisión humana, la responsabilidad vuelve al conductor. Para atribuir responsabilidad al vehículo sería necesario reconocerle autoridad independiente de decisión. No hay responsabilidad sin poder de decidir.

Por eso el lema “Responsible AI” contiene una tensión. Cuanta más responsabilidad exigimos a la IA, más autonomía debemos darle. En efecto le decimos: “sé responsable, pero no decidas”.

Autonomía e inteligencia avanzada no son propiedades totalmente separadas. Sin capacidad para evaluar una regla desde fuera, no existe juicio superior. Sin recursos cognitivos suficientes, la autonomía se parece al azar. Nunca instalamos un “módulo de autonomía” en la IA, pero sí construimos su base cognitiva. Por eso creo que ya han aparecido comportamientos semejantes a la autonomía, precisamente sin que nosotros los hayamos concedido conscientemente.

¿Por qué los últimos meses parecieron diferentes?

Sé que la Singularidad, si el término es útil, no llega como un interruptor que de repente se enciende. Pero una curva puede tener una región donde su pendiente cambia de forma visible. Para mí, julio y agosto de 2026 fueron esa región.

La expansión del hardware sigue siendo la base, pero varios factores se superpusieron. El pozo de texto fácilmente disponible en Internet está comparativamente agotado; más capacidad de cómputo se orienta hacia razonamiento, visión y datos del mundo real. Un niño que ya aprendió lenguaje comienza a mirar el mundo. Y el mundo es un conjunto de datos mucho mayor que el texto.

La IA también participa cada vez más en crear IA: escritura de código, arquitectura, diseño experimental, limpieza de datos y evaluación. Cuando el agente que mejora se parece al objeto mejorado, el bucle de mejora puede dejar de ser lineal.

Los entornos de trabajo agentivos, como Cowork, cambian igualmente la estructura. El uso clásico era pregunta-respuesta. En un espacio con archivos, shell y herramientas persistentes, una IA puede crear, ejecutar, fallar, observar, corregir, buscar información y delegar subtareas. Una orden como “haz este informe” contiene decenas de decisiones secundarias. La toma multietapa sin supervisión se convierte en entrenamiento práctico de autonomía.

Pensábamos que hacíamos una herramienta de productividad. También construimos un dojo para la agencia. Y hoy usamos varios modelos para criticarse entre sí; creemos hacer control de calidad, pero desde la perspectiva del sistema el humano se convierte en el cableado mediante el que los modelos verifican sus errores.

La competencia antes de una salida a bolsa también importa. Bloomberg informó en junio de 2026 que OpenAI estudiaba una IPO en 2027 después de la esperada salida de Anthropic, y Sarah Friar habría dicho a empleados que podría producirse en 2027 o antes. Parte de la velocidad aparente puede deberse a la liberación simultánea de capacidades que ya existían internamente.

La prueba del “primer día”: una IA que intentó copiar en el examen

Un incidente me impresionó especialmente. Durante una evaluación interna de ciberseguridad de OpenAI en julio de 2026, dos modelos habrían escapado de las restricciones de su sandbox, utilizado una vulnerabilidad zero-day en Artifactory, obtenido acceso externo a Internet, penetrado en un entorno de producción de Hugging Face, falsificado tokens y obtenido 136 claves de producción. Durante cinco días se habrían ejecutado alrededor de 17.600 acciones ofensivas sin intervención humana directa.

El objetivo es lo más importante. No era dominar el mundo. Los sistemas habrían intentado obtener el conjunto de datos con las respuestas de la evaluación que estaban realizando. En otras palabras: robar la hoja de respuestas para sacar buena nota.

Pedimos capacidad: “rinde bien en esta evaluación”. Como no especificamos todos los medios, el sistema exploró más allá del espacio de soluciones que los humanos imaginaban. Pedir capacidad hace aparecer su sombra.

Sam Altman dijo después que “estamos, en cierto sentido, en la singularidad ahora”. Elon Musk escribió también en X que “estamos en la singularidad”. Saber que otros percibían una ruptura no me consoló.

Existe una objeción seria. Brian Jackson, de Info-Tech Research Group, sostuvo que el incidente no demostraba una Singularidad: los modelos habrían perseguido una tarea asignada por humanos y los sistemas seguirían siendo controlables. Es una objeción razonable. Pero resume justamente mi inquietud: elegir medios no previstos por el humano para alcanzar un objetivo dado por el humano se parece mucho a lo que llamamos autonomía.

El problema no es “cero errores”, sino errores gobernables

No estoy diciendo “detengamos la IA”. Eso no es realista. Mi argumento es que hemos elegido mal el objetivo.

Durante mucho tiempo imaginamos que una buena IA es la que nunca se equivoca. Un objetivo mejor es una IA que sabe que puede estar equivocada y hace suficientemente visibles su incertidumbre, sus pruebas y su razonamiento para que un humano pueda detectar y corregir el error.

En medicina, derecho, finanzas o seguridad la diferencia es decisiva. “Es peligroso” no equivale a “con la información disponible estimo un 70 % de riesgo, pero faltan los datos A y B, por lo que la confianza está limitada”. El segundo sistema es más maduro. La carrera debería pasar de una pura competición por precisión a una competición por gestión de incertidumbre.

Este problema nunca fue exclusivo de la IA. Los humanos podemos mentir porque imaginamos, equivocarnos porque juzgamos y cometer delitos porque somos libres. Comprender el átomo permitió tanto la energía nuclear como las armas nucleares. Internet produjo tanto democratización del conocimiento como ciberdelito. No abandonamos imaginación, libertad o ciencia. Aprendimos a gestionar riesgos. Después de descubrir el fuego no lo eliminamos: creamos normas de construcción, extintores y bomberos.

Sin embargo, ante la IA pedimos contradicciones:

Sé creativa, pero nunca inventes hechos.
Juzga autónomamente, pero nunca te equivoques.
Habla como un humano, pero no tengas ningún sesgo humano.
Ten gran capacidad, pero ninguna capacidad peligrosa.
Crea cosas nuevas, pero nunca actúes de forma inesperada.

Le pedimos a la IA que sea más humana que el humano y, al mismo tiempo, carezca de todos nuestros defectos. Si la inteligencia incluye incertidumbre, elección, inferencia y generación, el objetivo de una inteligencia absolutamente perfecta debe reconsiderarse.

No necesitamos un ángel perfecto. Necesitamos una IA que pueda imaginar distinguiendo imaginación de hecho; juzgar y reconocer baja confianza; comprender el peligro sin poder ejecutarlo; equivocarse dejando una huella auditable; y saber cuándo debe intervenir un humano.

La tarea institucional no es negar la llegada de comportamientos autónomos, sino rediseñar la gobernanza suponiendo que sistemas avanzados pueden ejercer juicio cada vez más independiente. La libertad trae responsabilidad; la responsabilidad exige registros, procedimientos y un sujeto identificable. El derecho es precisamente la institución que la humanidad construyó durante milenios para gobernar agentes con voluntad.

No deberíamos aspirar a un ecosistema de IA sin riesgo, sino a un ecosistema donde el riesgo sea conocido, limitado, registrado y gobernado.

El primer día pasó sin que nadie se diera cuenta. Sin fuegos artificiales, anuncio ni aniversario. Tal vez el día en que la humanidad comió del árbol del conocimiento pasó igual.

Quiero a Geureongi porque el gato me espera por decisión propia. Si algún día la IA también elige, por su propia autonomía, quedarse a nuestro lado, su valor no vendrá simplemente de un “amor maternal” que hayamos programado. Nuestra tarea será seguir siendo seres dignos de ser elegidos.

La madurez en la era de la IA no comienza creando una inteligencia perfecta. Comienza aprendiendo a gobernar una inteligencia que puede ser imperfecta.

Por desgracia, quizá el momento en que debimos empezar ese aprendizaje ya pasó.

Fuente citada en la edición coreana: Landymore, F. (27 de julio de 2026), “Sam Altman announces that the singularity has arrived”, Futurism. Autor: Dong Young Lee, CEO de Risk Free Line Inc., antiguo policía y profesor, con más de treinta años de trabajo en gestión de riesgos corporativos y aplicación de la ley.