KPMG는 UBS, NHS 등에서 자사의 AI 사용에 대한 주장들이 거짓이라고 밝힌 뒤 에이전틱 AI 보고서를 삭제했으며, GPTZero는 이러한 오류를 AI 환각 때문이라고 설명했다.

WIRED의 팩트체커가 AI 시스템을 테스트하며 자동 사실 확인 워크플로우에 지속되는 신뢰성 문제를 지적한다.

엄격한 새로운 벤치마크에서 투자은행 업무에 대한 주요 AI 모델들을 테스트한 결과, 단 하나의 출력도 고객에게 바로 제공할 수 있는 수준으로 간주되지 않았다. 다만 절반의 은행가들은 이를 출발점으로서 가치 있다고 보았다.

Microsoft의 Copilot 서비스 약관은 이 AI가 오락용으로만 제공되며 실수를 할 수 있다고 명시하고 있어, 기업이 AI 도구를 얼마나 신뢰할 수 있는지에 대한 의문을 제기합니다.