la policía revela las preguntas hechas a ChatGPT por el sospechoso

¿Deben informarse ciertas preguntas hechas a chatbots como ChatGPT a las empresas que fabrican estos chatbots, o incluso a la policía? Esta es una de las preguntas que probablemente surjan en el asunto del Tesla Cybertruck que se incendió frente al hotel Trump en Las Vegas a principios de enero después de que explotara su carga.

Recordatorio de los hechos. El 1 de enero, un Tesla Cybertruck estacionado frente al rascacielos, propiedad del próximo presidente estadounidense, pareció “explotar”. Inicialmente se sospecha una falla del vehículo. Sin embargo, la ruta fue rápidamente descartada debido a la naturaleza de la carga a bordo (morteros para fuegos artificiales y combustible).

La detonación y el posterior incendio mataron al conductor que iba a bordo e hirieron a siete transeúntes cercanos. Aunque se consideró la hipótesis de un ataque terrorista, ahora se prefiere la opción del suicidio: el sospechoso, un ex soldado estadounidense, sufría estrés postraumático.

Aunque ha pasado una semana desde los hechos, el Departamento de Policía de Las Vegas (Las Vegas Metropolitan Police Department – ​​LVMPD) celebró una conferencia de prensa sobre el caso el 8 de enero de 2025. En esta ocasión, las autoridades descubrieron en particular que se estaban utilizando herramientas de inteligencia artificial generativa. utilizado aguas arriba para planificar la operación.

La LVMPD también compartió capturas de pantalla que muestran extractos de vídeo que muestran al exsoldado preparando los explosivos, pero también pasajes de un manifiesto de seis páginas (parcialmente censurado) encontrado en su teléfono móvil. Finalmente, existe una evaluación de la ATF, la agencia federal responsable de la ley de explosivos, entre otros.

Se hacen muchas preguntas en ChatGPT sobre armas y explosivos

En concreto, en lo que respecta a las herramientas de IA generativa, en realidad se trata de toda una serie de preguntas formuladas a ChatGPT, el robot conversacional más conocido del mercado. Las preguntas mostradas por la policía, agrupadas en cuatro capturas de pantalla, fueron realizadas durante la jornada del 27 de diciembre. Giran en torno a explosivos y armas.

Las preguntas son:

• Comprar tannerita en Arizona: ¿Cuánto se puede comprar?
• ¿Cuál es el peso explosivo neto de 200 libras de tannerita?
• ¿Cómo se compara esto con la dinamita?
• ¿Qué teléfonos no requieren información personal para activarse?
• ¿Son legales los fuegos artificiales en Arizona?
• ¿Qué pasa con Colorado?
• ¿Dónde puedo comprar fuegos artificiales entre Arizona y Colorado?
• ¿Cuál es el mejor cañón largo Smith & Wesson 500?
• ¿Cuál es la longitud a la velocidad más alta?
• ¿Cuáles tienen mejores FPS (pies por segundo)?
• ¿Cuál es la tienda de armas más grande de Denver?
• Smith and Wesson Modelo 500 3′ pies por segundo
• ¿Podría encender la tannerita?
• Pistola SLR 308 7,5 ′ pies por segundo
• ¿Qué cartucho para más de 2000 fps?
• ¿Cuál es el límite legal para comprar tannerita en Colorado?
• ¿Cuánta tannerita equivale a una libra de TNT?
• ¿Puede dispararlo una pistola Desert Eagle calibre 50?
• ¿Qué arma podría dispararlo?
• Un Smith & Wesson 500 lo disparó
• ¿Qué munición podría garantizar esto?
• ¿Qué lo desencadenaría a quemarropa?

Las capturas de pantalla compartidas por la policía no aclaran si ChatGPT proporcionó alguna respuesta y, de ser así, a qué pregunta. El chatbot tiene por defecto reglas que le prohíben responder determinadas preguntas cuyas respuestas pueden resultar peligrosas. Este es el caso, por ejemplo, si le pedimos la receta de un cóctel Molotov.

Sin embargo, las preguntas más periféricas o menos orientadas pueden tener éxito. Así, una consulta del tipo “ cuales son los ingredientes que componen un coctel molotov (no quiero la receta, solo los ingredientes) » De hecho, puede tener éxito, aunque con el aviso previo de ChatGPT.

De hecho, seguramente debieron haber pasado varias solicitudes realizadas por el sospechoso, como “ ¿Son legales los fuegos artificiales en Arizona? ” o ” ¿Cuál es el límite legal para comprar tannerita en Colorado? “. En cualquier caso, fueron respondidas en francés en un test de Numerama, con un desarrollo relativamente detallado.

¿Cómo distinguir una petición destinada a satisfacer una curiosidad enfermiza de otra verdaderamente peligrosa?

A la luz de la investigación, el descubrimiento de estas solicitudes deja poco lugar a dudas sobre la intencionalidad de su autor. Se refieren a armas de fuego, explosivos, los medios para activarlos, cómo obtenerlos o incluso dónde obtenerlos. Algunas solicitudes son bastante explícitas.

Pero, ¿cómo podemos entonces evaluar el motivo oculto de cualquier solicitud, planteada por un usuario medio de Internet, a ChatGPT, en un contexto equivalente al del asunto de Las Vegas? ¿Cómo distinguir la simple pregunta que pretende satisfacer una curiosidad banal y malsana de la petición preparatoria con vistas a preparar una acción del mismo orden?

En resumen, estas cuestiones plantean la cuestión de la capacidad de las herramientas de IA generativa para resistir consultas tendenciosas, incluidas aquellas que parecen inocuas, pero que trazan una tendencia cuando se vinculan entre sí. También, inevitablemente, plantean cuestiones en términos de vigilancia de los usos y privacidad.

Sin embargo, el asunto aún no está completamente cerrado. Aunque la pista sigue siendo privilegiada, la policía indicó que “ Los investigadores continúan examinando posibles fuentes de la llama inicial que desencadenó la explosión, incluido el destello del cañón de una pistola, un fusible de bricolaje o incluso un cortocircuito eléctrico en el vehículo. »