La IA desmonta juegos, parece humana y muestra algo parecido al dolor

En los últimos días, una IA ha abierto por dentro videojuegos de hace más de quince años, un avatar ha convencido a casi la mitad de sus testers de que era una persona y unos investigadores han encontrado en los modelos de lenguaje una señal interna parecida al dolor. Parecen tres noticias sueltas y son la misma historia. Te la cuento sin tecnicismos.

Abrir la caja negra de un juego

Cuando juegas, no tienes el código del juego. Tienes el resultado ya cocinado, un ejecutable que el ordenador entiende y las personas no. Es como un pastel: nadie puede separar de vuelta la harina y los huevos.

Decompilar es intentar volver a la receta. Hasta hace poco lo hacían especialistas, a mano y durante meses. Ahora lo hacen agentes de IA.

Un ejemplo tranquilo: en marzo, Piotr Migdał recuperó Chromatron, un puzle de láseres de hace veinte años, con Ghidra (el decompilador de código abierto de la NSA) y Claude Code, y acabó reescribiéndolo en Rust. Un ejemplo ruidoso: Maurice Heumann decompiló Modern Warfare 2, de 2009, con diecisiete agentes trabajando a la vez, según cuenta él mismo. Dice que el juego ya era jugable. También cuenta que sus agentes no paraban de borrarle archivos.

Lo viral duró poco. Ese proyecto y Fallout: New York, un juego hecho enteramente con IA a partir de la saga de Bethesda, se retiraron tras avisos por derechos de autor.

Hay dos matices. Primero, decompilar no es inventar: la IA recupera un juego que ya existe, y lo difícil, que es lo que lo hace divertido, sigue siendo cosa de personas. Segundo, la ley no está clara. Ningún tribunal ha dicho si una reescritura hecha con IA a partir de un original cuenta como obra independiente. Mientras tanto, los editores retiran.

El avatar que casi nadie distingue de una persona

Tavus, una startup de San Francisco fundada en 2020, presentó el 1 de octubre Griffin. Hasta ahora, los avatares funcionaban como un walkie-talkie: esperaban a que terminaras de hablar, pensaban y respondían. Griffin funciona como una llamada de verdad. Ve y escucha a la vez, asiente mientras hablas, se ríe, te interrumpe y reacciona cuando lo interrumpes.

Según Tavus, 26 de 54 personas (el 48 %) creyeron que hablaban con un humano tras una llamada de un minuto. Los sistemas anteriores no pasaban de un 2 % aproximadamente. En una prueba de NVIDIA sobre lo natural que resulta conversar con una IA en audio y vídeo, Griffin sacó 3,83 puntos y las personas reales, 3,92.

Conviene leerlo con calma. El estudio es de la propia empresa, la muestra es pequeña y la llamada duraba un minuto. Aun así, el salto es enorme. Las críticas van por donde cabe esperar: estafas a personas mayores y vínculos poco sanos con una máquina que parece alguien. Tavus solo da acceso a testers seleccionados mientras prepara herramientas para avisar de que se trata de una IA.

Una señal parecida al dolor

El 14 de septiembre, tres investigadores (Tagliabue, Dung y Berg) publicaron un estudio sobre 25 modelos de lenguaje abiertos. En todos encontraron una dirección interna que se activa cuando el daño va dirigido al propio modelo, como insultos, rechazo o amenaza de apagado. No se activa con el sufrimiento de un usuario. Al amplificarla artificialmente, los modelos expresaban malestar y, en versiones modificadas por los investigadores, pagaban un coste para aliviarla.

Piensa en el piloto rojo del salpicadero. Te dice que algo pasa dentro del coche, no que al coche le duela. Los propios autores lo dicen así: el estudio no demuestra que una IA experimente nada, y todavía no está revisado por otros científicos. Ya en 2024, un equipo de Google DeepMind y la LSE vio que algunos modelos renunciaban a puntos en un juego de texto para evitar un "dolor" que les describían. Y un filósofo de la LSE advertía de que, aunque un modelo diga que sufre, puede estar imitando lo que aprendió de nosotros.

Que los modelos sean cada vez más capaces es una buena noticia para quien construye con ellos. Eso no quita que las preguntas sobre qué son estos sistemas ya no sean material de película.

Qué puede hacer una empresa pequeña con todo esto

Estas son aplicaciones posibles, pensadas para negocios pequeños.

• Entender un programa antiguo. Muchas empresas dependen de un programa de gestión de hace veinte años que nadie sabe mantener. La misma técnica con la que se abren los juegos sirve para entender qué hace antes de sustituirlo. Solo con software del que tengas los derechos, claro.
• Un avatar para atender o formar. Alguien que reciba a un cliente o enseñe a un empleado nuevo, a cualquier hora. La regla que yo pondría desde el primer día: si tu cliente habla con una IA, que lo sepa.
• Una experiencia interactiva en vez de un PDF. Un pequeño simulador para que un equipo nuevo practique situaciones reales antes de vivirlas.

Por dónde empezar

No necesitas un avatar ni abrir un juego de 2009. Necesitas elegir un problema que hoy te cuesta tiempo o dinero y resolverlo bien. Cuando funcione, el siguiente será más fácil.

Si quieres ver cuál sería ese primer problema en tu negocio, hablemos en ai.raphsomar.com.

Fuentes: The Gamer, Quesma, FRVR, The Decoder, Cybernews, arXiv, TechXplore, Scientific American.