Интерпретируемость AI

Живой глоссарий ИИ от TechCrunch объясняет быстро меняющиеся термины — от opaque recurrence до AI agents — помогая разработчикам и покупателям оценивать новые заявления.

Новое исследование усиливает дискуссию о том, можно ли извлекать рассуждение ИИ, обостряя напряжённость между США и Китаем вокруг дистилляции моделей и контроля.

Anthropic сообщает, что новое исследование Claude выявило отделимое внутреннее пространство для рассуждения — это заявление может изменить интерпретируемость ИИ и работу по безопасности.

Институт программного обеспечения CAS запустил Reasoning Lens — инструмент, призванный сделать рассуждения моделей ИИ более прозрачными для отладки, повышения доверия и оценки.

Исследователи Anthropic изучают внутреннюю работу Claude AI с помощью анализа нейронов и психологических экспериментов, чтобы понять «разум» системы.