Tongui Agent stellt eine modulare Architektur bereit, mit der KI-Agenten erstellt werden können, die Gesprächszustände aufrechterhalten, externe Tools nutzen und mehrere Sub-Agenten koordinieren. Entwickler konfigurieren LLM-Backends, definieren benutzerdefinierte Aktionen und hängen Speicher-Module an, um den Kontext zu speichern. Das Framework umfasst ein SDK, CLI und Middleware-Hooks für Beobachtbarkeit, um die Integration in Web- oder Node.js-Anwendungen zu erleichtern. Unterstützte LLMs sind OpenAI, Azure OpenAI und Open-Source-Modelle.

FastAPI LangGraph Agent Template bietet eine umfassende Grundlage für die Entwicklung von LLM-getriebenen Agenten innerhalb einer FastAPI-Anwendung. Es enthält vordefinierte LangGraph-Knoten für gängige Aufgaben wie Textvervollständigung, Einbettung und Vektorsuche, während Entwickler eigene Knoten und Pipelines erstellen können. Die Vorlage verwaltet Konversationsverlauf über Speichermodule, die den Kontext über Sitzungen hinweg bewahren, und unterstützt Umgebungs-basierte Konfigurationen für verschiedene Einsatzphasen. Eingebaute Docker-Dateien und eine CI/CD-freundliche Struktur sorgen für eine nahtlose Containerisierung und Bereitstellung. Logging und Fehlerbehandlungs-Middleware verbessern die Sichtbarkeit, während die modulare Codebasis die Funktionserweiterung vereinfacht. Durch die Kombination von FastAPI's Hochleistungs-Webframework mit LangGraphs Orchestrierungsfähigkeiten vereinfacht diese Vorlage den Entwicklungsprozess des Agenten-Frameworks von Prototyping bis Produktion.

Playbooks AI ist ein Entwicklerrahmenwerk zum Aufbau von KI-Agenten durch eine deklarative Playbook-DSL. Es unterstützt die Integration verschiedener LLMs, benutzerdefinierter Tools und Speichersysteme. Mit CLI und Web UI können Benutzer das Verhalten des Agenten definieren, multi-schrittige Workflows orchestrieren und die Ausführung überwachen. Zu den Funktionen gehören Tool-Routing, zustandsbehafteter Speicher, Versionskontrolle, Analytik und Multi-Agenten-Kollaboration, was die Prototypentwicklung und den produktionsreifen Einsatz erleichtert.