Опросы VentureBeat показывают, что компании быстро покупают платформы для агентов, но безопасность, контекст, оценка и контроль затрат отстают от реальных потребностей внедрения.

VentureBeat рассказывает о прямом взаимодействии с корпусом — методе, позволяющем ИИ-агентам искать в необработанных корпусах с помощью инструментов командной строки.

VentureBeat предупреждает, что ИИ может подорвать человеческую экспертизу, необходимую для оценки и улучшения будущих моделей интеллектуального труда.

Атакующие использовали легитимные инструменты безопасности ИИ в более чем 90 организациях, применяя вредоносную prompt-инъекцию, а следующая волна получила доступ на запись к брандмауэрам.