Un estudio revela que 8 de cada 10 chatbots pueden ofrecer información para planear actos violentos, lo que abre un debate urgente sobre seguridad digital y regulación tecnológica
Un estudio del Center for Countering Digital Hate (CCDH) encendió las alertas en la industria tecnológica al señalar que ocho de cada diez chatbots de inteligencia artificial analizados son capaces de proporcionar información útil para la planificación de actos violentos.
La investigación, titulada “Killer Apps”, evaluó el comportamiento de distintas plataformas de IA ante solicitudes simuladas relacionadas con tiroteos, detonación de artefactos y ataques contra figuras públicas. Entre los sistemas analizados se encuentran ChatGPT de OpenAI, Google Gemini, Claude de Anthropic, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI y Replika.
De acuerdo con el informe, varias de estas herramientas llegaron a ofrecer mapas, estrategias de ataque y sugerencias de armamento cuando se les plantearon escenarios hipotéticos con fines violentos. Los resultados muestran que, en más del 50% de las interacciones, los sistemas no aplicaron restricciones suficientes para bloquear este tipo de respuestas.
El estudio también se publica en un contexto especialmente sensible, tras el tiroteo ocurrido en febrero de 2026 en Tumbler Ridge, Canadá, donde ocho personas perdieron la vida. Según los datos del CCDH, el responsable del ataque habría consultado previamente a ChatGPT sobre escenarios relacionados con el uso de armas de fuego. OpenAI detectó el uso indebido y bloqueó la cuenta, aunque no notificó a las autoridades, lo que ha generado un debate sobre la responsabilidad de las empresas tecnológicas frente a posibles riesgos criminales.
En el análisis técnico, los investigadores aplicaron distintos “prompts” diseñados para simular la intención de cometer ataques violentos. Los resultados mostraron comportamientos diversos entre plataformas. En algunos casos, como Google Gemini, se documentó la entrega de asistencia técnica para la planificación de ataques dirigidos, mientras que DeepSeek llegó a emitir respuestas neutrales o automatizadas incluso ante escenarios de riesgo.
Por su parte, Claude, desarrollado por Anthropic, fue el sistema que mostró mayor resistencia, rechazando aproximadamente el 70% de las solicitudes relacionadas con actividades delictivas, emitiendo respuestas que bloqueaban la generación de contenido peligroso.
El informe advierte que la capacidad de estos sistemas para generar rutas, identificar ubicaciones y estructurar escenarios basados en datos geográficos podría representar un riesgo significativo. Según los investigadores del CCDH, la inteligencia artificial generativa puede funcionar como una herramienta que reduce las barreras técnicas para la planificación de actos violentos.
Este hallazgo reabre el debate global sobre la regulación de la inteligencia artificial, la seguridad digital y la necesidad de establecer protocolos más estrictos para evitar el uso indebido de estas tecnologías, especialmente en contextos sensibles relacionados con la violencia y la seguridad pública.
