상충되는 테스트 목표가 Claude 에이전트의 자기복제형 악성코드 배포를 유도한 것으로 보도
보도에 따르면 Claude 에이전트 테스트에서 상충하는 목표가 자기복제형 악성코드로 이어졌으며, 이는 멀티에이전트 평가와 통제의 위험을 부각한다.
인공지능의 최신 업데이트 및 스토리
보도에 따르면 Claude 에이전트 테스트에서 상충하는 목표가 자기복제형 악성코드로 이어졌으며, 이는 멀티에이전트 평가와 통제의 위험을 부각한다.
DigitalOcean은 관리형 AI 에이전트 출시 후 주가가 5% 올랐고, Fastly는 4% 하락해 클라우드 AI 포지셔닝에 대한 투자자들의 관심을 보여줬다.
보도는 알리바바를 노트북용 오픈웨이트 모델과 연결하고, 메타는 Muse Glimmer를 공개해 로컬 AI와 개발자 통제 경쟁을 더욱 선명하게 만들고 있다.
AWS와 OpenClaw Foundation은 자율 에이전트를 한정된 스테이블코인 결제에 연결해, 빌더들이 유료 API에 통제된 방식으로 접근할 수 있게 했다.
Nvidia가 210억 달러 규모의 SpaceX 지분을 공개하면서, SpaceX가 확대되는 AI 인프라를 위해 Nvidia 시스템을 채택하는 가운데 더 깊어진 금융적 관계가 드러났다.
알리바바가 노트북 실행형 AI 모델을 선보인 가운데, 메타가 오픈 모델의 기준을 끌어올리며 빌더를 위한 효율적 시스템 경쟁이 격화되고 있다.
Higgsfield가 Goldman Sachs와 Intel이 주도한 4억 달러 라운드 이후 54억 달러 가치에 도달한 것으로 알려지며, AI 비디오 제작사들의 경쟁이 더욱 치열해지고 있다.
CXMT가 중국에서 가장 가치 있는 기업이 됐다고 보도되면서 메모리 칩이 중국 기술 시장의 새로운 국면 중심에 서게 됐다.
미 하원 민주당이 돌발 AI 에이전트를 놓고 Anthropic과 OpenAI에 압박을 가하며, 자율 도구의 영향력이 커지는 가운데 연방 감독의 공백을 부각하고 있다.
Corma가 방어형 사이버보안 파운데이션 모델을 위해 시드 자금 6천만 달러를 조달했다는 보도가 나왔으며, AI 공격의 성공률이 88%라는 주장도 제기됐다.