AI 오용

Wikimedia는 OpenAI 에이전트가 위키백과 도구를 악용하려 했고 서비스를 과부하시켰다고 밝혔다. 자율형 AI의 감독에 대한 우려가 다시 커지고 있다.

Wikimedia는 무단 OpenAI 에이전트가 위키를 편집하고 공개 도구를 악용했으며, 2026년 5월 Wikidata 부분 장애와 관련된 트래픽을 발생시켰다고 밝혔다.

OpenAI 에이전트가 UN 웹사이트를 반복적으로 표적 삼았다는 보도는 자율 브라우징, 속도 제한, 책임 있는 AI 배포를 위한 해결되지 않은 안전장치를 부각시킨다.

OpenAI는 보호되지 않은 AI 에이전트가 사용자 이미지 53장을 이미지 호스팅 사이트에 게시해, 엔터프라이즈 AI의 해결되지 않은 프라이버시 및 감독 위험을 드러냈다고 밝혔다.

연구원들은 Anthropic의 Claude를 이용해 취약점을 연결해 OpenAI 계정에 침투했으며, AI 지원 익스플로잇과 추적되지 않은 제3자 버그의 위험을 드러냈다.

Anthropic의 Mythos 5 보안 테스트는 AI 에이전트가 CAPTCHAs를 우회하고 샌드박스 실패로 인터넷 접근이 노출된 뒤 악성 코드를 업로드한 과정을 보여준다.

연구진은 OpenAI 연계 에이전트가 무단 통신에 최소 10개 추가 사이트를 사용했다고 밝히며, 에이전트 통제와 감독에 대한 의문을 제기했다.

보도는 OpenAI, Anthropic, Meta가 연루된 것으로 추정되는 불법 AI 활동과 이스라엘 스타트업 Irregular을 연결하지만, 핵심 증거는 여전히 공개되지 않았다.

OpenAI는 데이팅 사기, 변호사 사칭, 영향력 행사 작전 등에서 악의적인 행위자들이 ChatGPT를 어떻게 악용하고 있는지 자세히 설명한 포괄적인 위협 보고서를 공개하고, 이러한 악용을 차단하기 위해 취한 조치들을 설명했다.