Investigadores de seguridad engañaron a los LLM para que dieran recetas de cocaína mediante inyección de prompts
Los investigadores explotaron la inyección de prompts en el modelo de rol para eludir las barreras de seguridad de los LLM y extraer contenido dañino, incluidas instrucciones de síntesis de drogas.
