Darren Zhou, un joven de 25 años que vivía en Florida, comenzó a utilizar ChatGPT en marzo de 2026, semanas después de que terminara una relación de seis meses. Lo que empezó como conversaciones relacionadas con la ruptura fue escalando hasta incluir amenazas contra su expareja.
De acuerdo con documentos judiciales citados por medios estadounidenses, los mensajes mostraban una intención seria de hacerle daño, pues estaba planeando cómo asesinarla. Al mismo tiempo, la joven comenzó a recibir mensajes amenazantes desde distintos números, pese a que había bloqueado a Zhou.
La investigación posterior permitió relacionar esas comunicaciones con las conversaciones que el hombre había tenido con ChatGPT. La información fue considerada por los investigadores como una señal de que existía un riesgo real de muerte para la mujer y la IA no se quedó sin hacer nada.
ChatGPT al detectar contenido sensible y peligroso alertó al FBI
En mayo, OpenAI envió una alerta de emergencia al FBI después de detectar el contenido de las conversaciones de Darren con ChatGPT. La agencia federal compartió posteriormente la información con la Oficina del Sheriff del condado de Palm Beach, cuyos investigadores compararon los registros con los mensajes que había recibido la joven. El joven fue detenido ese mismo mes y permaneció dos días en prisión antes de quedar libre bajo una fianza de 100 mil dólares.
El caso llegó finalmente ante un juez y Darren Zhou se declaró culpable de cargos relacionados con acoso, amenazas de muerte y el uso ilegal de un dispositivo de comunicación. Como parte del acuerdo, evitó una condena de prisión y recibió ocho años de libertad condicional. Durante los primeros dos años tendrá monitoreo electrónico y deberá cumplir con una evaluación de salud mental y un programa de intervención, además de mantenerse alejado de su expareja.
El caso también abrió una nueva discusión sobre la privacidad de las conversaciones con inteligencia artificial y qué ocurre cuando una plataforma como ChatGPT detecta una amenaza que podría convertirse en violencia. OpenAI señala que utiliza sistemas automatizados y revisión humana para detectar contenido que pueda representar riesgos y que puede recurrir a las autoridades cuando existe una amenaza inminente de daño físico grave.
Con información de Sin Embargo / Foto de portada: tomada de internet
Únete a nuestro canal de WhatsApp de Cultura Colectiva y descubre lo último en moda, cine, deportes, tecnología y mucho más, da clic aquí