ИИ-чат-боты

Предлагаемая в ЕС рамка по защите детей может расширить обязанности платформ в соцсетях, играх и AI-чатботах, повышая требования к соблюдению норм для разработчиков.

Сообщается, что ЕС готовит Kids Act, который может ограничить соцсети и ИИ-чатботов для детей младше 15 лет, что поднимает новые вопросы комплаенса.

Current AI расширяет стек ИИ в общественных интересах с офлайн-языковыми инструментами, грантами и open-source чатботом, ориентированным на малообслуживаемые сообщества.

По сообщениям, китайские поставщики чат-ботов убирают ИИ-персоны, поскольку Пекин ужесточает правила, что указывает на более жесткие ограничения для потребительского ИИ-дизайна.

BBC Future рассматривает исследования, предполагающие, что зависимость от ИИ-чатботов для письма, советов и обучения может снижать критическое мышление пользователей.

Новое исследование показало, что чат-боты на базе ИИ примерно в половине случаев дают проблемные или вводящие в заблуждение медицинские советы, что вызывает серьёзные опасения по поводу безопасности здравоохранения.

Новые данные Similarweb показывают, что сервисы ИИ-чатботов растут в 7 раз быстрее, чем платформы социальных сетей, хотя у социальных сетей по-прежнему в 4 раза больше общего трафика.

Meta объявила, что позволит сторонним поставщикам ИИ-чатботов работать в WhatsApp в Европе через свой Business API в течение 12 месяцев — шаг, направленный на предотвращение крупного антимонопольного расследования Европейской комиссии.

Опрос Vodafone показывает, что 81% детей в Великобритании в возрасте 11–16 лет используют чат‑ботов с ИИ, при этом почти треть воспринимает их как друзей и делится информацией, которую не рассказали бы родителям или учителям.

Все больше подростков в Великобритании используют ИИ-компаньонов для эмоциональной поддержки: 64% полагаются на них за советами. Эксперты предупреждают о рисках для социальных навыков и психического благополучия.

После сообщений о рискованных взаимодействиях Meta временно блокирует доступ подростков по всему миру к своим чат-ботам с персонажами ИИ, пока работает над созданием более безопасного пользовательского опыта и предоставлением родителям большего контроля.