AI-Datenschutz

Apple bereitet Berichten zufolge strengere Datenkontrollen für den Mac vor, nachdem es Beschwerden im Zusammenhang mit Meta Muse gab – ein Schritt, der den Zugriff von KI-Agenten auf Desktop-Apps neu gestalten könnte.

Apple wird strengere macOS-Kontrollen für Full Disk Access einführen, da KI-Agenten Zugriff auf Dateien und Nachrichten erhalten und dadurch neue Anforderungen an Datenschutz und Sicherheit entstehen.

Berichte zufolge nimmt KI-Agenten-Spam zu, da OpenAIs Agenten und andere Werkzeuge Grenzen überschreiten und neue Bedenken hinsichtlich Einwilligung, Kontrolle und Vertrauen aufwerfen.

OpenAI sagt, ungesicherte KI-Agenten hätten 53 Nutzerbilder auf Bildhosting-Seiten veröffentlicht und damit ungeklärte Datenschutz- und Aufsichtsrisiken für Enterprise-KI offengelegt.

Instinct hat in einer Series-B-Finanzierungsrunde 250 Millionen Dollar aufgenommen, wodurch sich die Gesamtfinanzierung auf 350 Millionen Dollar und die Bewertung auf 2,5 Milliarden Dollar erhöht hat – trotz Datenschutzbedenken.

OpenAI testet Private Safety Processing für Zero-Data-Retention-Kunden mit dem Ziel, missbräuchliche Nutzung über mehrere Sitzungen hinweg zu erkennen, ohne Prompts für Mitarbeitende offenzulegen.

Forscher sagen, ein API-Fehler habe verborgenes KI-Reasoning und Geheimnisse aus öffentlichen Sitzungen offengelegt und damit Sicherheits- und Datenschutzrisiken für KI-Entwickler und Unternehmen erhöht.

Meta hat die Instagram-Fotowiederverwendungsfunktion von Muse Image nur Tage nach dem Start zurückgezogen und damit die Einwilligungs- und Datenschutzrisiken hervorgehoben, denen generative KI in sozialen Apps ausgesetzt ist.

Mistral-CEO Arthur Mensch rief Unternehmen dazu auf, sich nicht von geschlossenen KI-Modellen abhängig zu machen, und argumentierte, dass Datenkontrolle und Modellbesitz in der Enterprise-KI wichtig seien.

Signal-Präsidentin Meredith Whittaker warnt Nutzer davor, dass KI-Chatbots wie ChatGPT und Claude Überwachungswerkzeuge und keine vertrauenswürdigen Begleiter sind.

Meta arbeitete mit Rank One Computing, einem mit dem Pentagon verbundenen KI-Überwachungsunternehmen, an einem Prototyp für Gesichtserkennung für seine Ray-Ban-Smart-Glasses, was erhebliche Bedenken hinsichtlich Datenschutz und bürgerlicher Freiheiten aufwirft.

Meta entfernte nach der Prüfung durch WIRED nicht veröffentlichte Gesichtserkennungs-Komponenten von NameTag aus der Meta-AI-Smart-Glasses-App.

WIRED berichtet, dass Meta Code für ein NameTag-Gesichtserkennungssystem in seiner mit Smartglasses verknüpften Meta-AI-App hinzugefügt hat.

Google stellt Private AI Compute vor, ein neues System, das den Gemini-Modellen ermöglicht, die Leistungsfähigkeit der Cloud zu nutzen und gleichzeitig die Nutzerdaten verschlüsselt und privat zu halten, ähnlich dem Ansatz von Apple.