Las autoridades de Florida han abierto una investigación penal contra la empresa OpenAI tras la revisión de conversaciones entre su chatbot, ChatGPT, y un estudiante acusado de perpetrar un tiroteo en la Universidad Estatal de Florida.

El anuncio fue realizado por el fiscal general del estado, James Uthmeier, quien aseguró que los intercambios analizados plantean serias preocupaciones sobre el posible uso indebido de herramientas de inteligencia artificial en hechos violentos.

El sospechoso, identificado como Phoenix Ikner, enfrenta cargos por dos asesinatos en primer grado y siete intentos de asesinato. De acuerdo con los registros judiciales, se ha declarado no culpable y su juicio está previsto para el mes de octubre.

Según explicó la fiscalía, los mensajes revisados muestran que el acusado consultó al chatbot sobre distintos aspectos relacionados con armas de fuego, su efectividad y otros elementos vinculados a ataques armados. También habría preguntado sobre la seguridad en campus universitarios y el impacto mediático de este tipo de hechos.

Uthmeier sostuvo que, de tratarse de una persona real quien hubiera ofrecido ese tipo de respuestas, podría enfrentar cargos criminales. En ese contexto, su oficina ha emitido citaciones para obtener información interna de OpenAI, incluyendo políticas de seguridad, protocolos ante amenazas y mecanismos de cooperación con las autoridades.

Por su parte, OpenAI respondió que ha colaborado con la investigación y facilitó información sobre una cuenta que podría estar relacionada con el acusado. La compañía enfatizó que su tecnología no promueve actos ilegales ni violentos y que las respuestas generadas por ChatGPT se basan en información disponible públicamente.

“La tragedia ocurrida en la Universidad Estatal de Florida no puede atribuirse a la herramienta”, indicó la empresa en un comunicado, en el que también reiteró su compromiso de mejorar los sistemas de detección de intenciones dañinas y prevenir el uso indebido de sus plataformas.

Fuente: CBS News

Recomendado para ti