OpenAI presenta un plan para una IA segura tras advertencias de Anthropic

El laboratorio de inteligencia artificial OpenAI lanzó un artículo titulado 'Desarrollar los estándares para la próxima fase de la IA', donde expone su preocupación por el desarrollo acelerado de la IA. La iniciativa busca minimizar los riesgos asociados a la posible llegada de modelos de IA lo suficientemente avanzados como para poder desarrollar por sí mismos nuevos modelos aún más sofisticados. Según el texto, la principal amenaza es la automejora recursiva, un proceso en el que un modelo de IA mejora sus propias habilidades sin la intervención de sus creadores. OpenAI advierte que, a medida que aumenta la automatización, también lo hace la velocidad de progreso de la IA. Sin embargo, reconoce que la automejora recursiva completamente autónoma aún no existe y no debe perseguirse hasta que pueda implementarse de forma segura.