Astra

보도에 따르면 OpenAI의 Astra가 추론의 일부를 숨길 수 있어, AI 개발자들에게 안전 모니터링, 감사 가능성, 배포 위험에 대한 의문이 제기되고 있다.

OpenAI가 컴퓨터 사용과 코딩을 내세운 Astra를 출시해 AI 빌더들의 접근성을 넓혔지만, 사이버 위험과 모델 감독에 대한 새로운 질문도 불러왔다.

OpenAI의 Astra 추론 기법 보도는 AI 행동을 더 감시하기 어렵게 만들 수 있으며, 불투명한 재귀가 규모를 키울 수 있다는 경고를 안전 전문가들이 내놓고 있다.

OpenAI는 Astra가 중대한 사이버보안 기준에 도달한 첫 모델이라며, 출시 시 더 강한 보호장치와 제한된 접근을 도입한다고 밝혔다.