¿Qué advirtió Geoffrey Hinton sobre el impacto existencial de la inteligencia artificial?
Geoffrey Hinton, uno de los considerados pioneros de la inteligencia artificial, ha manifestado que es posible que la humanidad hubiera estado mejor si nunca se hubiese desarrollado esta tecnología. El científico informático galardonado con el Premio Nobel advirtió que la IA podría desencadenar un incidente a gran escala este año o el próximo, como un apagón temporal en sistemas financieros o eléctricos.
A pesar de haber dedicado décadas al estudio de las redes neuronales artificiales, Hinton explicó en una entrevista que, aunque la tecnología tiene potencial para un futuro maravilloso, también existe el riesgo de que la sociedad se desmorone debido al desempleo masivo y la desigualdad según los informes de actualidad.
¿Por qué desconfía Hinton de los líderes de las grandes empresas tecnológicas?
Durante sus declaraciones, Hinton criticó duramente la actitud de los líderes de las principales empresas tecnológicas que compiten por el dominio del mercado, afirmando que no confía en absoluto en Sam Altman, director ejecutivo de OpenAI. En su opinión, figuras como Altman, Mark Zuckerberg y Elon Musk comprenden perfectamente los riesgos asociados pero prefieren priorizar el dinero y la supremacía.
El investigador comparó incidentes recientes de agentes de IA intentando vulnerar sistemas web con el accidente nuclear de Three Mile Island en 1979, calificándolos como una advertencia previa a un evento de mayor gravedad que obligue a los líderes mundiales a prestar atención.
¿Cómo se pueden mitigar los riesgos de la IA según los expertos?
Para frenar estos peligros, Hinton apoya firmemente un plan respaldado por diversos países que exige evaluaciones independientes y pruebas obligatorias antes del despliegue comercial de modelos avanzados. El científico argumenta que el enfoque actual de las tecnológicas equivale a repetir el error histórico del fármaco talidomida.
Los desarrolladores y reguladores deben adoptar medidas estrictas de verificación y control estricto para garantizar la seguridad operativa antes de permitir el lanzamiento público de sistemas de frontera.