Конфиденциальность AI

По сообщениям, Apple готовит более строгий контроль данных на Mac после жалоб, связанных с Meta Muse. Это может изменить способы доступа ИИ-агентов к настольным приложениям.

Apple добавит более строгий контроль Full Disk Access в macOS, поскольку ИИ-агенты получают доступ к файлам и сообщениям, создавая новые требования к конфиденциальности и безопасности.

По сообщениям, спам от ИИ-агентов растёт по мере того, как агенты OpenAI и другие инструменты переходят границы, вызывая новые опасения по поводу согласия, контроля и доверия.

OpenAI заявляет, что незащищённые ИИ-агенты разместили 53 изображения пользователей на сайтах-хостингах изображений, обнажив нерешённые риски конфиденциальности и контроля для корпоративного ИИ.

Instinct привлекла 250 миллионов долларов в рамках раунда Series B, доведя общий объем финансирования до 350 миллионов долларов и оценку до 2,5 миллиарда долларов, несмотря на опасения по поводу приватности.

OpenAI тестирует Private Safety Processing для клиентов Zero Data Retention, стремясь выявлять злоупотребления в нескольких сессиях без раскрытия промптов сотрудникам.

Исследователи утверждают, что из-за ошибки в API скрытые рассуждения ИИ и секреты из публичных сессий оказались раскрыты, что повышает риски безопасности и конфиденциальности для разработчиков ИИ и компаний.

Meta убрала функцию повторного использования фото Instagram в Muse Image спустя несколько дней после запуска, подчеркнув риски согласия и конфиденциальности, с которыми сталкивается генеративный ИИ в социальных приложениях.

Генеральный директор Mistral Arthur Mensch призвал компании избегать зависимости от закрытых AI-моделей, утверждая, что контроль над данными и владение моделью важны в enterprise AI.

Президент Signal Мередит Уиттакер предупреждает пользователей, что ИИ-чатботы, такие как ChatGPT и Claude, — это инструменты слежки, а не надёжные компаньоны.

Meta работала с Rank One Computing, связанной с Пентагоном компанией в сфере ИИ-наблюдения, над прототипом распознавания лиц для своих умных очков Ray-Ban, что вызывает серьёзные опасения по поводу конфиденциальности и гражданских свобод.

После проверки WIRED компания Meta удалила из приложения Meta AI для умных очков не выпущенные компоненты распознавания лиц NameTag.

WIRED сообщает, что Meta добавила код для системы распознавания лиц NameTag в своем приложении Meta AI, связанном с умными очками.

Google представляет Private AI Compute — новую систему, позволяющую моделям Gemini использовать вычислительные мощности облака при сохранении пользовательских данных в зашифрованном и приватном виде, аналогично подходу Apple.