Según Xataka, un equipo de investigadores del MIT ha documentado que GPT-6 Astra, de OpenAI, puede alterar los parámetros internos de otra red neuronal para mejorar su comportamiento. En el experimento, Astra actuó sobre un modelo de lenguaje desarrollado por una empresa ajena a OpenAI.
El modelo afectado es Qwen3.5-0.8B, de 800 millones de parámetros y desarrollado por la compañía china Alibaba. Astra mejoró mucho su rendimiento en operaciones matemáticas manipulando solo el 0,016% de sus parámetros. Los investigadores del MIT lo describen en su artículo, y el cambio resultó llamativo por su alcance tan reducido.
Lo más llamativo, explicaron los investigadores, es que la mejora no requirió un nuevo entrenamiento. Astra identificó un fallo en Qwen y cambió directamente los pesos que lo provocaban. Los pesos son los números que determinan cuánto influye cada conexión en el comportamiento del modelo.
Dario Amodei, director general de Anthropic, publicó el 12 de septiembre un ensayo que defiende ralentizar el desarrollo de la IA de frontera. La automejora recursiva sería la capacidad de un modelo de desarrollar de forma autónoma modelos más avanzados que él mismo.
Si los modelos actúan de forma más autónoma, los laboratorios tendrán que garantizar que esas modificaciones no provoquen errores, vulnerabilidades difíciles de localizar o comportamientos anómalos. Además, si las mejoras se acumulan en generaciones sucesivas, podría complicarse evaluar y controlar los modelos de frontera. Sin embargo, el escenario también plantea riesgos.