AI 거버넌스

Vinod Khosla가 약 50억 달러로 평가되는 AI 스타트업을 비윤리적이라고 비난한 것으로 알려지면서 투자자의 영향력과 책임에 대한 의문이 제기되고 있다.

Nvidia가 도입한 것으로 알려진 AI 에이전트 안전 가드레일이 HR 기술 거버넌스를 부각시키고 있다. 자동화된 의사결정에는 더 강력한 감독과 책임성이 필요하기 때문이다.

중국-미국 포커스의 논평은 글로벌 AI 경쟁을 실존적 위험과 연결하며, 더 안전한 발전을 위해 여러 강대국의 협력이 필요하다고 주장한다.

개빈 뉴섬 캘리포니아 주지사가 AI 모델 킬 스위치와 독립 연구소 감사인을 요구하는 명령에 서명하며 AI 안전에 대한 주 차원의 압박을 강화했다.

새로운 해설은 중국이 AI 안전과 통제에 집중하고 있음을 강조하지만, 출처가 제한적이라 구체적 안전장치와 실제 구현 방식은 불분명하다.

OpenAI는 권력, 거버넌스, 경제, 자유에 대한 AI의 잠재적 영향을 다루는 블로그 Intelligence Age를 시작했지만, 세부 내용은 여전히 제한적이다.

NTT의 “AI 동료” 프레이밍과 Burges Salmon의 EU AI Act 업데이트는 코파일럿에서 통제되고 책임 있는 업무용 에이전트로의 전환을 가리킨다.

Iveda는 비디오 분석 부문에서 EU AI Act 대응 준비를 완료했다고 밝히며, 유럽 구매자들이 더 엄격한 AI 거버넌스 규칙에 직면한 가운데 컴플라이언스 작업을 강조했다.

Red Hat은 AI 팀과 기업을 위해 정책부터 프로덕션까지 AI 안전성과 거버넌스를 자동화하는 오픈 소스 프로젝트 asago Community를 출시했다.

Onyx가 6억 4,000만 달러 가치평가로 1억 1,300만 달러 시리즈 B를 유치하며, AI 에이전트 통제 및 보안 도구에 대한 투자자 수요를 부각했다.

Communications of the ACM의 한 기사는 파운데이션 모델의 개방성을 평가하기 위한 프레임워크를 제안하며, 이는 기업 AI 구매자와 구축자에게 핵심적인 이슈다.

First Recon AI는 감사 대응 증거에 초점을 맞춘 AI Security Runtime을 선보이며, 보다 엄격한 AI 거버넌스에 대한 기업 수요 증가를 반영했다.

일리노이 주 J.B. 프리츠커 주지사가 AI 규제 법안에 서명하면서 AI 리스크에 대한 더 강한 감독과 기업의 새로운 컴플라이언스 작업이 예고됐다.

Doubao와 Qwen이 중국의 사용자 제작 AI 서비스에 대한 감독 강화에 따라 7월 15일 개인화 AI 에이전트 기능을 종료할 것으로 알려졌다.

UN은 AI 역량이 감시를 앞서가고 있다며, 정부와 기업이 광범위한 원칙을 강제 가능한 규칙으로 전환해야 한다는 압박을 높이고 있다고 말한다.

새로운 유엔 보고서는 통제되지 않은 AI 개발이 전 세계 불평등을 악화시킬 수 있다고 경고하며, 공동의 국제 거버넌스 체계를 촉구한다.

Anthropic, OpenAI, Google DeepMind의 수장들은 G7 정상들에게 국제적인 AI 거버넌스가 시급히 필요하다고 전했지만, 그것이 어떤 형태여야 하는지에 대해서는 대체로 의견이 엇갈렸다.

OpenAI, Anthropic, Google DeepMind의 CEO들이 프랑스에서 G7 세계 지도자들과 만나 AI 거버넌스, 표준, 그리고 Anthropic 모델 접근 중단에 대해 논의했다.

OpenAI, Anthropic, Google의 CEO들은 2026년 정상회의에서 AI 거버넌스, 안전성, 지정학적 권력에 대해 논의하기 위해 프랑스에서 트럼프 대통령 및 G7 정상들과 합류했다.

여러 주 법무장관이 저작권 침해와 ChatGPT 관련 피해를 둘러싼 ongoing 소송 속에서 OpenAI에 대한 조사를 시작했다.