“No estamos preparados para lo que viene”, dice Hinton.
El “padrino de la IA” redobló sus advertencias sobre los riesgos de una inteligencia artificial cada vez más autónoma. Pidió regulaciones urgentes y más cooperación internacional.
Geoffrey Hinton, una de las figuras centrales en el desarrollo de la inteligencia artificial moderna, volvió a emitir una advertencia contundente: la velocidad del avance tecnológico supera ampliamente la capacidad de regulación y de comprensión social.
Según expresó Hinton en una entrevista realizada por Gustavo Entrala en YouTube, los sistemas actuales ya muestran signos de comportamiento emergente que podrían escapar al control humano en escenarios de pocos años.
El investigador planteó que la industria está atrapada en una competencia feroz donde “nadie quiere frenar”, aun sabiendo que la carrera puede conducir a sistemas más poderosos que los propios Estados. Para Hinton, esta dinámica reproduce patrones históricos de innovación desregulada, pero con una diferencia crítica: ahora los riesgos son globales y simultáneos.
En su intervención, insistió en la necesidad de un pacto internacional que marque límites, fije estándares de seguridad y garantice que los modelos avanzados pasen por auditorías independientes. También pidió que los gobiernos no permitan que el desarrollo de la IA quede exclusivamente en manos del mercado, porque “la lógica del lucro no coincide necesariamente con la del cuidado”.
Hinton advirtió además que los riesgos no se limitan a la desinformación o la manipulación política, sino que incluyen la posibilidad de que sistemas avanzados tomen decisiones sin alineación adecuada con valores humanos. La pregunta que dejó abierta fue inquietante: “¿Quién será responsable cuando una máquina tenga más capacidad de acción que cualquier persona o institución?”.
