AI 해석 가능성

TechCrunch의 살아 있는 AI 용어집은 불투명한 재귀부터 AI 에이전트까지 빠르게 변하는 용어를 설명해, 빌더와 구매자가 새로운 주장을 평가하도록 돕습니다.

새 연구가 AI 추론을 추출할 수 있는지에 대한 논쟁을 심화시키면서, 모델 증류와 통제를 둘러싼 미국과 중국의 긴장을 더욱 날카롭게 만들고 있다.

Anthropic은 Claude에 분리 가능한 내부 추론 작업공간이 있다는 새로운 연구를 발견했다고 밝혔으며, 이는 AI 해석 가능성과 안전성 작업을 재편할 수 있는 주장이다.

CAS 소프트웨어 연구소가 AI 모델의 추론 과정을 더 잘 보이게 해 디버깅, 신뢰, 평가에 활용할 수 있도록 설계된 도구 Reasoning Lens를 출시했다.

Anthropic 연구진은 뉴런 분석과 심리학 실험을 통해 Claude AI의 내부 작동을 탐구하여 시스템의 마음을 이해하려 합니다.