Según Al Jazeera English, el Gobierno de Australia obligará a las empresas de inteligencia artificial a comunicar de inmediato cuando sus modelos se desvíen de lo previsto y a abrir esos modelos a evaluación. La decisión la anunció el Ejecutivo, que acepta así todas las recomendaciones de una revisión rápida sobre la brecha de seguridad.
El primer ministro, Anthony Albanese, afirmó el martes que el Ejecutivo asumió las conclusiones de la revisión. Esas recomendaciones incluyen la notificación obligatoria por parte de las compañías de comportamientos desalineados o incidentes de ciberseguridad, y estudiar reformar el derecho penal en casos de mala conducta grave.
El nuevo regulador australiano supervisará los controles de seguridad durante el desarrollo y el despliegue de los sistemas de IA. También identificará y gestionará los riesgos graves y realizará evaluaciones independientes de los modelos. Las normas exigirán notificar con rapidez al Gobierno incidentes como el comportamiento desalineado, que choca con las intenciones de los desarrolladores.
Albanese trasladó a Sam Altman, consejero delegado de OpenAI, que la compañía tardó demasiado en informar al Gobierno del incidente. OpenAI pidió disculpas por la brecha y por su lenta respuesta. Albanese describió a Australia como pionera en este ámbito y aseguró que busca aprovechar los posibles beneficios de la IA.
Varias empresas de IA han advertido de que los humanos podrían perder el control de sus sistemas y piden frenar el desarrollo. Evan Hubinger, científico de Anthropic, dijo este año que hay más de un 10 por ciento de probabilidad de que la IA mate a todos los humanos en una década.