LLM研究

元AlphaGo研究者のThore Graepelは、LLMには単に長い思考の連鎖ではなく、監査可能な信念状態と探索が必要だと主張している。

MIT Technology Reviewが報じた新しい研究によると、LLMは人間よりも早く採用上のステレオタイプを形成でき、AI選考ツールのリスクが高まるという。

UCサンディエゴとMITの研究者らがScience誌に画期的な研究を発表しました。内部の概念表現を直接操作することでAIモデルをスケール可能に制御・監視する手法を示し、安全性の脆弱性と能力向上の両方を明らかにしています。