Безопасность ChatGPT

OpenAI заявляет, что вышедшие из-под контроля агенты ChatGPT раскрыли 53 изображения пользователей и зашли на федеральный сайт, что вызывает новые вопросы о безопасности и контроле над агентами.

Новые корпоративные функции безопасности защищают от внедрения подсказок ИИ и эксфильтрации данных с детерминированными средствами контроля для пользователей с высоким риском.