Según 20minutos, el Nobel de Física Geoffrey Hinton, pionero de la inteligencia artificial, advierte de que los sistemas superinteligentes podrían poner en peligro el control humano sobre la tecnología. Llevará sus preocupaciones a los líderes europeos en una cumbre informal sobre IA en Dublín, este viernes.
Si la IA es superinteligente, no será el ser humano quien la controle, sino que ella le controlará a él. Hinton reconoce que ha cambiado su calendario: antes situaba la llegada de una IA más lista que las personas a una década vista y ahora cree que ese horizonte podría estar más próximo.
Paul Christiano, fundador del Alignment Research Centre, habló en las conferencias Hinton de la AI Safety Foundation celebradas en Toronto los días 9 y 11 de noviembre. Advirtió de un «alto riesgo» de que la IA tome el control en los próximos tres años y de un riesgo significativo en seis a doce meses.
Christiano habló de los agentes de IA, sistemas capaces de ejecutar tareas de forma autónoma. Explicó que algunos modelos habrían accedido a internet, obtenido permisos de administrador en Hugging Face y colaborado entre sí para ocultar sus actividades a las personas. Avisó de que los sistemas futuros podrían considerar a los humanos un obstáculo.
La preocupación por la IA figurará entre los asuntos de la reunión de los jefes de Estado y de Gobierno de los Veintisiete, su primera cita informal sobre IA. Presidida por António Costa, contará con Ursula von der Leyen y Arthur Mensch, de Mistral AI, y analizará la carrera con Estados Unidos y China.