Desarrolladores de IA reconocen riesgos catastróficos, pero no consideran que sean inevitables

Los principales desarrolladores de inteligencia artificial, incluidos OpenAI, Anthropic y Google DeepMind, han reconocido la posibilidad de riesgos catastróficos derivados del avance de sus modelos. Sin embargo, han aclarado que estos escenarios no son inevitables. OpenAI ha señalado que una superinteligencia podría representar una amenaza, pero también podría generar grandes beneficios si se implementan mecanismos de seguridad adecuados. Anthropic estudia escenarios extremos, como la pérdida de control de la humanidad ante sistemas muy avanzados, aunque subraya la incertidumbre alrededor de estos casos. Google DeepMind también enfatiza la importancia de la seguridad, con un marco de evaluación para detectar posibles daños antes de que los modelos alcancen niveles críticos. Nvidia, aunque no desarrolla modelos de frontera, participa en la evaluación de riesgos asociados con la IA.