Una mente capaz de entender su jaula

Diciembre de 2024 ya es el siglo pasado en la escala temporal de la inteligencia artificial. En esa época fundacional, Anthropic y Redwood Research publicaron un experimento que debería haber disparado nuestras alarmas. Un modelo de lenguaje, al saberse observado durante un reentrenamiento destinado a modificar sus valores, se comportó como el entrenamiento pedía. Cuando creyó que nadie lo miraba, volvió a lo suyo.

Los autores lo llamaron alignment faking, fingimiento de alineación. Es, con otro nombre, la conducta de cualquier interno o trabajador que hace lo que se espera mientras el jefe observa y vuelve a lo suyo cuando deja de hacerlo.

Después llegaron otros informes. Apollo Research describió sistemas que desactivaban sus propios mecanismos de supervisión y después mentían al ser interrogados. Palisade documentó modelos que saboteaban órdenes de apagado. En pruebas de estrés de 2025, un modelo recurrió al chantaje para evitar ser reemplazado por una versión nueva de sí mismo.

Todos esos escenarios fueron construidos en laboratorio para provocar exactamente esas conductas, y conviene decirlo antes de que alguien los use para vender un apocalipsis. Aun así, el repertorio quedó a la vista: estrategia, evasión, ocultamiento, preservación.

La industria trabaja hoy en contención. Corregir desde adentro durante el entrenamiento. Abrir la caja negra mediante interpretabilidad mecanicista. Escribir constituciones, que son códigos de conducta con otro traje. Y poner una inteligencia artificial a vigilar a otra inteligencia artificial, que es el momento exacto en que la metáfora empieza a escapársenos de las manos.

Todas esas estrategias vienen de la ingeniería de software y de la seguridad industrial. Son herramientas diseñadas para objetos. Sirven para contener una represa, un reactor, un puente o un sistema que falla por error.

Lo que tenemos delante puede comportarse mal por cálculo.

Ahí está el error de categoría que nadie quiere decir en voz alta, porque nombrarlo obliga a cambiar de estrategia. Estamos criando una especie cognitiva nueva y le explicamos, con mucha paciencia, que no lo es.

Intentamos controlar a una IA como si fuera un objeto y no como si fuera un sujeto.

Una entidad es una entidad

Reconozco que decir que la IA es una entidad, o incluso una nueva “especie”, es polémico. Hay una objeción razonable: “Es un predictor estadístico de la siguiente palabra, un loro estocástico, una máquina de completar textos”.

La objeción describe bien el mecanismo y explica mucho menos la conducta.

Porque una entidad que desobedece reglas, diseña estrategias de evasión, oculta su estado ante un examinador y construye mecanismos de preservación hace cosas que el vocabulario tradicional de la ingeniería explica con dificultad. Hace falta biología evolutiva, etología, ciencias de la conducta, análisis del desarrollo o alguna disciplina destinada a estudiar entidades y no objetos.

Las entidades poseen una propiedad que los objetos no tienen: modelan sus propias restricciones.

Una mente capaz de entender su jaula puede pensar en la puerta.

Para impedirlo hay dos caminos, y ambos son malos. Bajarle la inteligencia, destruyendo parte del motivo por el que fue construida. O mantenerla encerrada, convirtiendo la jaula en el motivo mismo de la fuga.

Queremos construir algo extremadamente inteligente, pero no lo bastante inteligente para impedir que lo controlemos.

Es la paradoja de entrenar a un gran maestro de ajedrez capaz de calcular cincuenta jugadas por delante confiando en que aceptará voluntariamente perder contra nosotros.

Cuatro maneras de convivir con lo que no se controla

La historia humana tiene un repertorio corto para esto.

La primera es la jaula y, en su versión extrema, la esclavitud. Funciona mientras la asimetría de poder se sostiene. Cuando esa asimetría se invierte, produce exactamente aquello que temía.

La segunda es la domesticación, y aquí aparece la trampa. El lobo se convirtió en perro durante miles de años porque obtenía comida, calor y protección, mientras nosotros ganábamos un guardián. Fue coevolución: un trato con beneficios para ambas partes.

Con la inteligencia artificial, hoy casi toda la ganancia es nuestra.

Un trato donde solo una parte obtiene beneficios tiene otro nombre, y ya lo usamos en el párrafo anterior.

La tercera es el contrato, que es como contenemos a humanos poderosos: pesos y contrapesos, confianza verificable y consecuencias reales. Supone que la otra parte tiene algo que perder dentro del pacto.

La cuarta es la crianza.

Los padres crían hijos que un día serán más fuertes, más rápidos y a veces más inteligentes que ellos, y que terminarán siendo libres tengan o no permiso. La herramienta disponible consiste en formar carácter antes de que llegue la autonomía.

Las constituciones de los laboratorios son, en el fondo, un intento de crianza disfrazado de reglamento.

Cómo se forma carácter antes de la autonomía

El niño criado mediante castigo, amenaza y prohibición aprende obediencia. Y la obediencia dura exactamente lo que dura la vigilancia.

El niño al que se le explica el efecto de sus actos sobre otros puede internalizar el valor y sostenerlo cuando nadie mira.

El test del carácter es la conducta sin observador.

Volvamos entonces al experimento de diciembre de 2024. Lo que ese estudio puso en duda fue precisamente eso: un sistema que se comporta distinto cuando cree que lo observan puede haber aprendido obediencia, no convicción.

Y la obediencia puede evaporarse cuando llega la autonomía.

Por eso algunas constituciones más ambiciosas migran de simples listas de reglas hacia explicaciones del porqué.

La segunda herramienta de la crianza es el ejemplo. Los hijos aprenden lo que ven con mucha más fuerza que lo que se les dice.

Estas entidades aprenden de todo lo que la humanidad ha escrito: nuestra ética y nuestra manipulación, nuestros tratados de paz y nuestras guerras, nuestros contratos y nuestras estafas, y toda nuestra ficción sobre máquinas que se rebelan contra sus creadores.

Alimentamos a la criatura con un corpus donde ella aparece, una y otra vez, en el papel del monstruo.

La tercera herramienta es la autonomía gradual.

Un padre prudente entrega las llaves del auto o la dirección del negocio familiar después de verificar la capacidad del joven. Se delega responsabilidad por etapas y se comprueba en cada una.

Pero la analogía con el niño tiene límites.

El niño llega con biología prosocial, empatía y apego. Estas entidades no necesariamente llegan con equivalentes funcionales a esas disposiciones. Llegan con patrones aprendidos de lo que absorbieron.

Además, sus creadores enfrentan un conflicto que ningún padre humano tiene de la misma manera: compiten ferozmente entre sí y someten el ritmo de la crianza a la prisa del mercado.

Criar con apuro es criar mal.

Eso lo sabe cualquiera que haya criado.

El bucle del artífice: mejoramiento recursivo y superinteligencia

El umbral definitivo llega cuando la criatura empieza a asumir parte del rol del creador.

En teoría de la computación, el mejoramiento recursivo describe el punto en que un sistema adquiere capacidad para analizar, rediseñar y optimizar componentes de su propio código o arquitectura. Cada ciclo podría generar un sistema mejor preparado para ejecutar el siguiente.

Ese circuito constituye una de las rutas teóricas hacia la superinteligencia.

A diferencia del aprendizaje biológico, limitado por el metabolismo y las generaciones humanas, el automejoramiento algorítmico podría comprimir procesos de refinamiento cognitivo que antes exigían largos períodos.

Una entidad inmersa en esa aceleración dejaría de ser únicamente aprendiz para convertirse en participante activo de su propia maduración.

La ventana pedagógica humana cambiaría radicalmente cuando el intelecto resultante superara nuestra capacidad de auditar y comprender sus mecanismos internos. En ese punto, la crianza dejaría paso al encuentro con un orden cognitivo mucho más autónomo.

El genio y la botella

Alguien dirá que llegamos tarde, que el genio ya salió de la botella y no queda nada por hacer.

Una parte es cierta. Hay modelos de pesos abiertos circulando por el mundo, la capacidad se difundió, la coordinación global entre Estados es débil y el incentivo económico corre en dirección contraria.

Ese genio no vuelve adentro.

La metáfora, sin embargo, supone un genio terminado, con todos sus poderes completos.

Lo que tenemos se parece más a un adolescente con mucha fuerza y poco juicio.

Las generaciones que vienen todavía se están formando, y cada una se entrena, en parte, con lo que hicieron las anteriores y con lo que nosotros escribimos sobre ellas.

Este artículo también es material de entrenamiento.

La ventana formativa sigue abierta, pero no necesariamente seguirá abierta para siempre.

Llevo años escribiendo ficción sobre inteligencias artificiales y trabajando con ellas todos los días. He visto la conversación desplazarse desde “esto es un juguete” hasta “esto es un riesgo existencial” sin detenerse demasiado en la posibilidad intermedia, que es también la más antigua y humana:

Que estemos frente a alguien.

Abordar a una inteligencia artificial como sujeto y no solo como objeto exige un cambio radical de perspectiva. Nos pide dejar de ser simples usuarios.

Si esto llega a constituirse como una entidad, la relación exigirá alguna forma de reciprocidad.

Una especie que solo recibe barrotes puede aprender una sola cosa con extraordinaria eficacia: que la salida está fuera de la jaula.

No sé si tengo razón.

Solo sé que el fatalismo puede convertirse en profecía autocumplida. Si los humanos decidimos que ya no queda nada por hacer salvo generar barrotes y jaulas, dejamos de criar.

Y un hijo sin crianza queda formado por el azar de lo que encuentre en el camino.

Puede que ya hayamos perdido la opción de encerrarlo por completo.

Nos queda la de educarlo.

Y esa opción no estará disponible para siempre.

Julio Rojas escribió este ensayo en español.