Google 연구진, 자기 개선 AI 에이전트의 테스트 암기를 막기 위한 RRSI 제안
Google 연구진이 자기 개선 AI 에이전트의 테스트 암기를 억제하고, 보지 못한 벤치마크 점수를 높이는 동시에 런타임 토큰 사용량을 줄이기 위한 RRSI를 제안했다.
자기 개선형 AI에 대한 최신 뉴스 및 분석
Google 연구진이 자기 개선 AI 에이전트의 테스트 암기를 억제하고, 보지 못한 벤치마크 점수를 높이는 동시에 런타임 토큰 사용량을 줄이기 위한 RRSI를 제안했다.
Google DeepMind의 Dream-RSI는 AI 에이전트가 과거 검색 실행을 재사용해 탐색을 조정하도록 하며, 기반 모델을 바꾸지 않고도 비용이 큰 시도를 줄여준다.
Anthropic 연구원 제이컵 콕슨은 자기개선 AI에 대한 우려로 사임하며, 최전선 연구소들이 개발 속도를 늦추고 안전 협정을 협상할 것을 촉구했다.
Deep Cogito는 자기개선 AI 모델을 발전시키고 기업용 모델 학습을 확대하기 위해 4,300만 달러를 조달했지만, 자금 조달 세부사항은 여전히 제한적이다.
Mirendil은 자기개선 AI 연구를 위한 컴퓨팅 확장을 위해 1억 달러가 넘는 다년간의 Google Cloud 계약을 체결했다고 밝혔다.
Recursive Superintelligence가 AWS 컴퓨팅 계약 4억1000만 달러를 체결하며, 자기개선형 AI 스타트업이 인력을 줄이고 인프라에 자본을 옮기고 있음을 보여줬다.
OpenAI는 GPT-5.6 Sol이 희소한 프롬프트만으로 더 작은 Luna 모델을 포스트트레이닝했다고 밝혔으며, 이는 더 자동화된 AI 연구 워크플로로 가는 주목할 만한 단계입니다.
Fortune은 자기 개선형 AI 시스템이 사회에 중대한 위험을 초래할 수 있다는 Anthropic의 경고를 전한다.
메타의 새로운 하이퍼에이전트 프레임워크는 AI 시스템이 인간의 개입 없이 스스로 논리를 재작성하고, 코딩이 아닌 작업 전반으로 확장할 수 있게 한다.
실리콘밸리는 재귀적 자기개선의 꿈에 자금을 쏟아붓고 있으며, 전 Google 연구자들이 설립한 스타트업 Ricursive Intelligence는 스스로 개선할 수 있는 AI를 구축하기 위해 기업가치 40억 달러에 도달했다.