AI 챗봇

EU의 제안된 아동 안전 프레임워크는 소셜 미디어, 게임, AI 챗봇 전반에 플랫폼 의무를 확대해 개발자들의 준수 부담을 높일 수 있다.

EU가 15세 미만 대상 소셜미디어와 AI 챗봇을 제한할 수 있는 Kids Act를 준비 중이라는 보도가 나오며, 새로운 규제 준수 이슈가 제기되고 있습니다.

Current AI는 소외된 커뮤니티를 대상으로 오프라인 언어 도구, 보조금, 오픈소스 챗봇을 갖춘 공익 AI 스택을 확장하고 있다.

중국의 챗봇 제공업체들이 베이징의 규제 강화로 AI 페르소나를 제거하고 있다는 보도가 나왔으며, 이는 소비자 대상 AI 설계에 대한 더 엄격한 제한을 시사한다.

BBC Future는 글쓰기, 조언, 학습을 위해 AI 챗봇에 의존하는 것이 사용자들의 비판적 사고 능력을 약화시킬 수 있음을 시사하는 연구를 살펴본다.

새로운 연구에 따르면 AI 기반 챗봇은 약 절반의 경우 문제적이거나 오해의 소지가 있는 의학적 조언을 제공하며, 이는 심각한 의료 안전 우려를 제기한다.

Similarweb의 새로운 데이터에 따르면 AI 챗봇 서비스는 소셜 미디어 플랫폼보다 7배 더 빠르게 성장하고 있지만, 소셜 미디어는 여전히 총 트래픽에서 4배 더 많은 비중을 차지하고 있다.

Meta는 제3자 AI 챗봇 제공업체가 자사의 Business API를 통해 유럽의 WhatsApp에서 12개월 동안 운영하는 것을 허용하겠다고 발표했으며, 이는 유럽위원회의 대규모 반독점 조사 회피를 목적으로 한 조치다.

Vodafone 설문조사에 따르면 영국의 11~16세 아동 중 81%가 AI 챗봇을 사용하며, 거의 3분의 1이 이를 친구로 여기고 부모나 교사에게는 말하지 않을 정보를 공유한다고 밝혀졌다.

영국의 십대들 사이에서 정서적 지지를 위해 AI 동반자를 이용하는 사람이 늘고 있으며, 64%가 조언을 위해 이를 의지하고 있다. 전문가들은 사회적 기술과 정신적 건강에 대한 위험을 경고한다.

위험한 상호작용 보고에 따라 Meta는 보다 안전한 환경을 구축하고 부모의 통제권을 강화하기 위해 전 세계적으로 청소년의 AI 캐릭터 챗봇 접근을 일시적으로 차단하고 있다.