Tongui Agent предоставляет модульную архитектуру для создания AI-агентов, которые могут поддерживать состояние диалога, использовать внешние инструменты и координировать несколько субагентов. Разработчики настраивают LLM-бэкэнды, определяют пользовательские действия и присоединяют модули памяти для хранения контекста. В фреймворк входит SDK, CLI и middleware hooks для наблюдаемости, что облегчает интеграцию в веб-приложения или Node.js. Поддерживаемые LLM — OpenAI, Azure OpenAI и модели с открытым исходным кодом.

Шаблон агента FastAPI LangGraph предлагает комплексную основу для разработки агентов на базе LLM внутри приложения FastAPI. Он включает предопределённые узлы LangGraph для таких задач, как завершение текста, внедрение и поиск по вектору, а также позволяет создавать собственные узлы и конвейеры. Шаблон управляет историей разговоров с помощью модулей памяти, сохраняющих контекст между сессиями, и поддерживает конфигурацию в зависимости от среды для разных этапов развертывания. Встроенные файлы Docker и структура, совместимая с CI/CD, обеспечивают беспрепятственную контейнеризацию и развертывание. Middleware логирования и обработки ошибок повышают наблюдаемость, а модульная кодовая база упрощает расширение функциональности. Объединив высокопроизводительный веб-фреймворк FastAPI с оркестрационными возможностями LangGraph, этот шаблон ускоряет цикл разработки агента от прототипирования до производства.

Playbooks AI — это фреймворк для разработчиков для построения AI-агентов с помощью декларативного DSL плейбуков. Он поддерживает интеграцию с различными LLM, пользовательскими инструментами и хранилищами памяти. С помощью CLI и веб-интерфейса пользователи могут определять поведение агента, оркестровать многоэтапные рабочие процессы и отслеживать выполнение. Особенности включают маршрутизацию инструментов, состояние памяти, контроль версий, аналитики и коллаборацию нескольких агентов, что облегчает создание прототипов и развертывание готовых к производству AI-ассистентов.