CEO de OpenAI se disculpa por no alertar sobre tirador que usaba ChatGPT
Sam Altman pidió perdón a comunidad canadiense tras revelarse que OpenAI detectó contenido violento del tirador pero no alertó a autoridades.
El CEO de OpenAI, Sam Altman, se disculpó públicamente con los habitantes de Tumbler Ridge, Canadá, tras revelarse que su empresa detectó contenido violento de un usuario que posteriormente protagonizó un tiroteo masivo, pero no alertó a las autoridades.
Según reportó The Wall Street Journal, OpenAI había identificado y prohibido la cuenta de ChatGPT de Jesse Van Rootselaar, de 18 años, en junio de 2025, después de que describiera escenarios que involucraban violencia con armas. El joven posteriormente fue identificado como el presunto responsable de un tiroteo que dejó ocho víctimas mortales.
El personal de OpenAI debatió si alertar a la policía, pero finalmente decidió no hacerlo. La empresa solo contactó a las autoridades canadienses después de que ocurriera el tiroteo.
En una carta publicada en el periódico local Tumbler RidgeLines, Altman expresó: "Lamento profundamente que no alertáramos a las fuerzas del orden sobre la cuenta que fue prohibida en junio. Aunque sé que las palabras nunca pueden ser suficientes, creo que una disculpa es necesaria para reconocer el daño y la pérdida irreversible que su comunidad ha sufrido".
El CEO indicó que había discutido el incidente con el alcalde de Tumbler Ridge, Darryl Krakowka, y el primer ministro de Columbia Británica, David Eby, acordando que era necesaria una disculpa pública.
OpenAI anunció mejoras en sus protocolos de seguridad, incluyendo criterios más flexibles para determinar cuándo derivar cuentas a las autoridades y establecer puntos de contacto directo con las fuerzas del orden canadienses.
Eby calificó la disculpa como "necesaria, pero tremendamente insuficiente para la devastación causada a las familias de Tumbler Ridge". Las autoridades canadienses están considerando nuevas regulaciones sobre inteligencia artificial, aunque aún no han tomado decisiones finales.
Este caso plantea preguntas críticas sobre la responsabilidad de las empresas de IA en la detección temprana de riesgos y su obligación de colaborar con autoridades, un debate que también cobra relevancia en América Latina mientras la región desarrolla marcos regulatorios para la inteligencia artificial.
Fuente original: TechCrunch — Policy
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.