Investigadores del MIT usan GPT-6 Astra para reparar una IA modificando sus parámetros internos

Investigadores del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del Instituto Tecnológico de Massachusetts (MIT CSAIL) dieron a conocer una serie de experimentos en los que utilizaron GPT-6 Astra para examinar y modificar directamente los parámetros internos de otras redes neuronales.

Uno de los resultados más relevantes se obtuvo con Qwen3.5-0.8B, un modelo de inteligencia artificial de pesos abiertos que presentaba un problema de repetición durante sus procesos de razonamiento.

Mediante una intervención sobre aproximadamente el 0.016 por ciento de sus parámetros, GPT-6 Astra logró corregir ese comportamiento y mejorar el desempeño del modelo en distintas evaluaciones.

En la prueba matemática MATH-500, Qwen pasó de una precisión de 7.9 por ciento a 48.1 por ciento, de acuerdo con los resultados publicados por los investigadores.

Una forma diferente de modificar la inteligencia artificial

El equipo del MIT denomina a esta técnica Weight-Space Programming, que puede entenderse como programación directa de los parámetros de una red neuronal.

Estos parámetros, también llamados pesos, son valores numéricos que influyen en la manera en que un sistema de inteligencia artificial procesa información y genera respuestas.

Habitualmente, los modelos se mejoran mediante procedimientos de entrenamiento o ajuste que calculan cambios en esos valores a partir de datos y evaluaciones.

En los experimentos del MIT, GPT-6 Astra examinó los parámetros y propuso modificaciones directamente, sin utilizar el procedimiento convencional de entrenamiento basado en gradientes para determinar esos cambios.

La investigación explora la posibilidad de que un modelo avanzado pueda identificar comportamientos internos de otras redes neuronales y realizar correcciones específicas.

Corrigieron un problema de repetición en Qwen

Durante las pruebas, los investigadores observaron que Qwen3.5-0.8B entraba con frecuencia en ciclos repetitivos que le impedían concluir adecuadamente sus respuestas.

GPT-6 Astra analizó el funcionamiento del modelo e identificó una dirección numérica asociada con ese comportamiento.

La corrección se aplicó a componentes específicos de su estructura interna y afectó 131 mil 72 pesos neuronales, una proporción mínima del total.

Después de esa intervención, Qwen redujo los problemas de repetición y mejoró sus resultados en diferentes pruebas.

Además del incremento registrado en MATH-500, los investigadores observaron avances en evaluaciones de seguimiento de instrucciones.

Sin embargo, el resultado no significa que el modelo haya adquirido de manera repentina una cantidad equivalente de nuevos conocimientos matemáticos.

La explicación principal es que la corrección permitió aprovechar mejor capacidades que el sistema ya tenía, pero que no lograba expresar adecuadamente debido a sus fallos de repetición.

La reparación fue pequeña, pero encontrarla tomó tiempo

Aunque la modificación final involucró una fracción reducida de los parámetros, el proceso para identificarla requirió numerosos análisis y pruebas.

El experimento incluyó interacciones con GPT-6 Astra, ejecuciones de código y evaluaciones del comportamiento de Qwen antes de aplicar la corrección.

Esto indica que todavía no se trata de una solución automática e inmediata para cualquier falla de inteligencia artificial.

Los investigadores también realizaron experimentos en redes neuronales más pequeñas, en los que GPT-6 Astra identificó comportamientos, modificó estrategias y construyó determinados sistemas a partir de sus parámetros.

Los resultados apuntan a una posible nueva herramienta para estudiar y mantener modelos de inteligencia artificial, aunque su eficacia en otros sistemas todavía debe comprobarse.

¿Por qué importa?

La investigación abre una posibilidad distinta para el desarrollo tecnológico: corregir determinados problemas de una inteligencia artificial sin tener que modificarla mediante los procedimientos habituales de entrenamiento.

En el futuro, este enfoque podría contribuir a detectar fallos, comprender comportamientos inesperados y realizar ajustes específicos en sistemas ya existentes.

También representa un avance para la interpretabilidad de la inteligencia artificial, un campo que busca explicar cómo funcionan internamente los modelos y por qué producen determinadas respuestas.

No obstante, el experimento no demuestra que las inteligencias artificiales puedan mejorarse a sí mismas de manera continua ni que esta técnica sustituya al entrenamiento convencional.

¿Qué observar?

Uno de los siguientes pasos será comprobar si otros equipos de investigación pueden reproducir los resultados y aplicar la técnica a modelos diferentes.

También será necesario evaluar si la edición directa de parámetros puede corregir otros tipos de fallos sin provocar efectos negativos en capacidades que ya funcionan correctamente.

Otro aspecto importante será determinar cuánto tiempo y qué recursos informáticos requiere esta metodología en comparación con los procedimientos tradicionales.

Por ahora, los experimentos del MIT muestran que una inteligencia artificial avanzada puede participar en la reparación puntual de otra red neuronal, un resultado que podría abrir nuevas líneas de investigación sobre el funcionamiento y mantenimiento de estos sistemas.