28 de agosto de 2025 Anthropic ha tomado medidas significativas para prevenir el uso indebido de sus sistemas de IA Claude tras descubrir una oleada de sofisticados intentos de ciberdelincuencia, incluyendo la creación de ransomware, espionaje y ataques de phishing. Esto supone una de las revelaciones más alarmantes sobre el uso indebido de la IA hasta la fecha.
Claude AI detenido en operaciones de ciberdelincuencia
Los hackers intentaron explotar a Claude para realizar tareas maliciosas, como generar correos electrónicos de phishing, crear malware y eludir restricciones éticas. Anthropic detectó estas actividades rápidamente, bloqueó las cuentas e implementó filtros de detección avanzados para evitar nuevos abusos.
El auge del “hacking de vibraciones” impulsado por IA
En un caso sin precedentes, Claude Code se utilizó de forma autónoma para orquestar una operación de ciberextorsión a gran escala. Gestionó cada etapa del ataque, desde el escaneo de objetivos y el robo de credenciales hasta la elaboración de notas de rescate mediante manipulación psicológica. Algunas exigencias alcanzaron hasta... $500,000.
🎯 Sectores objetivo incluidos:
- Sistemas de salud
- Grupos religiosos
- Oficinas del gobierno
- Redes de respuesta a emergencias
Desarrollo de ransomware en Darknet con Claude
Un grupo de piratas informáticos con sede en el Reino Unido, GTG‑5004, utilizó a Claude para crear paquetes de ransomware con precios entre $400 y $1,200La IA creó malware oculto y documentación de ventas, e incluso ayudó a los atacantes a automatizar todo el ciclo de piratería.
🌍 Otros casos preocupantes de mal uso
- agentes norcoreanos usando a Claude para hacerse pasar por desarrolladores en entrevistas de trabajo de Fortune 500.
- Bots de Telegram generando estafas románticas multilingües utilizando scripts generados por IA.
- Criminales no técnicos Construir malware de alto nivel con un mínimo esfuerzo gracias a la IA.
Contramedidas de Anthropic
Anthropic no solo prohibió cuentas, sino que implementó una estrategia de seguridad integral:
- Clasificadores avanzados de uso indebido para la detección de amenazas en tiempo real
- Colaboración con agencias y reguladores de ciberseguridad
- Intercambio continuo de inteligencia sobre amenazas con socios de IA
