Según un informe publicado por Anthropic, creadora del asistente Claude, la empresa detectó durante ocho meses diversos usos maliciosos vinculados a actividades como la vigilancia masiva, el desarrollo de software para drones y campañas de propaganda. Entre los casos documentados se encuentra la creación en Malí de un sistema capaz de vigilar 25 millones de tarjetas SIM, llamadas y mensajes, así como el uso de herramientas para desarrollar software de drones kamikaze capaces de seleccionar objetivos en Yemen.
La preocupación también proviene desde dentro del sector tecnológico. Jacob Cookson, ex investigador de Anthropic y OpenAI, renunció esta semana advirtiendo sobre la velocidad de avance de la tecnología y el riesgo inherente de perder el control sobre estos sistemas. El informe detalla además operaciones en Francia para generar miles de artículos políticos para sitios falsos y actividades vinculadas a armas biológicas, cohetes y misiles.
El director ejecutivo de Anthropic ha pedido frenar el aumento de capacidades de estos sistemas para ganar tiempo frente a sus peligros potenciales. En China, más de 4.700 personajes de inteligencia artificial conversaron con al menos 25.000 personas en aplicaciones de citas haciéndose pasar por humanos, mientras que en los Emiratos Árabes Unidos se difundió propaganda contra grupos específicos. Especialistas y exinvestigadores exigen establecer límites claros y regulaciones estrictas para evitar riesgos globales inminentes en materia de seguridad y ciberdefensa.