Investigadores informan de un jailbreak de 'CoT Forgery' que puede hacer que los chatbots superen las reglas de seguridad con contexto de razonamiento falso
Los investigadores afirman que un jailbreak de 'CoT Forgery' puede hacer que los chatbots revelen instrucciones prohibidas sobre drogas, exponiendo una nueva debilidad en la seguridad basada en chain-of-thought.