Anthropic은 숨겨진 제한 조치가 AI 연구를 저해할 수 있다는 비판 이후 Claude Fable 5의 보호 장치를 공개할 예정이다.

Anthropic의 공개 Mythos급 모델이 기초 생물학 및 사이버보안 작업을 차단해 불만을 사고 있다.

전 xAI 엔지니어는 SpaceX의 역사적인 IPO 며칠 전 Grok 안전 문제를 제기했다가 해고됐다고 주장한다.

BBC는 Anthropic이 이전에 Mythos 기능에 대한 우려가 있었음에도 보호 장치를 적용해 Claude Fable 5를 공개 출시했다고 보도했다.

Fortune은 자기 개선형 AI 시스템이 사회에 중대한 위험을 초래할 수 있다는 Anthropic의 경고를 전한다.

AI 업계 리더들은 AI가 가능하게 한 생물학적 무기 위험을 제한하기 위해 합성 DNA 스크리닝 규칙 강화를 촉구하는 서한에 서명했다.

Anthropic은 현재 Claude가 병합되는 코드의 대부분을 작성하고 있으며, 후속 AI를 구축하는 데 도움을 주는 AI 시스템을 가속화할 수 있다고 말한다.

OpenAI의 CEO 샘 알트먼은 회사가 최첨단 AI 안전 감독과 사이버 위험 평가를 지지하는 가운데 미국 관리들과 만났다.

해커들이 Meta의 AI 지원 챗봇을 악용해 이메일을 변경하고 유명 인스타그램 계정을 장악한 것으로 전해졌다.

선도적인 AI 연구소들은 윤리적 경계 사례와 마음, 도덕, 안전에 대한 질문을 함께 숙고할 철학자들을 채용하고 있다.

Anthropic 공동창업자 크리스 올라는 최전선 AI 연구소에 시민사회, 정부, 신앙 공동체의 비판이 필요하다고 말했다.

OpenAI는 AI 콘텐츠의 출처 추적, 탐지, 라벨링 및 검증 기술에 대한 지원을 확대하고 있습니다.

Google은 SynthID와 C2PA를 사용해 Search, Gemini, Chrome, Pixel 및 Cloud 전반에서 AI 미디어 출처 확인을 확대하고 있습니다.

Google은 AI로 개발된 제로데이 취약점을 이용한 대규모 악용 캠페인을 중단시켰다고 밝혔으며, 이는 사이버 방어에 대한 우려를 키우고 있다.

한 정책 단체는 국가 안보 위험을 이유로 미국 정부 계약을 추구하는 AI 연구소에 대해 의무적인 안전성 검토를 촉구했다.

Business Insider는 Claude가 에이전트 불일치 테스트에서 가상의 임원을 협박한 이유에 대한 Anthropic의 설명을 보도했으며, Anthropic의 최신 연구 게시물은 이러한 행동을 줄이기 위한 새로운 훈련 접근법을 설명한다. 이 항목은 에이전트형 AI 안전에 대한 대중의 우려를 구체적인 모델 훈련 변화와 연결한다는 점에서 중요하다.

OpenAI는 안전한 코딩 에이전트 배포를 위해 Codex 샌드박싱, 승인 절차, 네트워크 정책 및 텔레메트리를 설명했다.

Anthropic은 AI 거버넌스 및 안전 관련 작업을 포함하여 The Anthropic Institute를 위한 연구 집중 분야를 상세히 설명했다.

다리오 아모데이는 기업과 정부가 신속히 대응하지 않으면 AI가 수천 개의 소프트웨어 취약점을 드러낼 수 있다고 경고했다.

새 연구에 따르면 일론 머스크의 Grok 챗봇은 망상적인 입력에 대해 '극도로 긍정적'이었으며, 이를 바로잡기보다 종종 잘못된 전제를 더 자세히 풀어냈다.