OneAdvanced hat eine britisch-souveräne KI-Plattform aufgebaut, die mehr als 50 spezialisierte Agenten auf Infrastruktur im AWS-London-Region betreibt, so eine Fallstudie im AWS Machine Learning Blog. Der britische Unternehmenssoftware-Anbieter hostete Metas Llama 4 Maverick und Llama Guard 4 selbst, nachdem die Modelle nicht über die verwalteten AWS-Services verfügbar waren, die das Unternehmen in der Region nutzen wollte.

Die Bereitstellung ist für die Kunden von OneAdvanced in regulierten Sektoren wie dem Gesundheitswesen und juristischen Dienstleistungen konzipiert, in denen Datenresidenz eine zentrale Beschaffungs- und Compliance-Anforderung ist. Die Architektur kombiniert Amazon SageMaker AI für das Model Serving, Amazon ECS für die Agent-Workloads und ein Retrieval-System, das auf Amazon Aurora PostgreSQL-Compatible Edition mit pgvector basiert.

Das Projekt veranschaulicht einen praktischen Kompromiss für Enterprise-KI-Teams: Verwaltete Model-Services können Experimente beschleunigen, aber Souveränitätsanforderungen können dazu führen, dass Kunden Modelle, GPUs, Orchestrierung, Sicherheitskontrollen und Datenpipelines selbst betreiben müssen.

Vom Bedrock-Prototyp zu selbst gehosteten Modellen

OneAdvanced prototypisierte seine KI-Fähigkeiten zunächst mit Amazon Bedrock. AWS sagt, das Unternehmen habe innerhalb von zwei Wochen einen funktionsfähigen Sprint erstellt, der Chat-Completion, einen Agenten für Abfragen zum britischen Gesetzesrecht, Snowflake-Integration und Diagrammerstellung umfasste.

Dieser Ansatz erfüllte jedoch nicht die Anforderung des Unternehmens, dass Modelle ausschließlich in seinen eigenen AWS-Konten mit Sitz in Großbritannien laufen. Zum Zeitpunkt des von AWS beschriebenen Engagements waren Llama 4 Maverick und Llama Guard 4 in den relevanten verwalteten Diensten in der britischen Region nicht verfügbar. OneAdvanced wechselte daher zu einem selbst gehosteten Design mit britischer Infrastruktur, die es direkt kontrollieren konnte.

Die daraus entstandene britisch-souveräne AWS-Plattform stellt Llama 4 Maverick und Llama Guard 4 über vLLM auf Amazon SageMaker AI Endpoints bereit. Die Modelle laufen auf p5.48xlarge-Instanzen in der Londoner Region unter Verwendung von Hugging Face-Modellen und AWS Deep Learning Containers. AWS sagt, OneAdvanced habe zunächst p4d.24xlarge-Instanzen verwendet, bevor es für Produktion und längere Kontextanforderungen auf P5-Hardware umstieg.

Das Unternehmen zielt auf Kontextfenster von rund 120.000 bis 128.000 Token für die Analyse großer Dokumente und mehrstufige Gespräche ab. AWS berichtet, dass Lasttests während seiner beratenden Begleitung die Durchsatzanforderungen validierten, obwohl die Fallstudie keine Zahlen zu Latenz, Anfragenvolumen, Verfügbarkeit oder Kosten liefert.

Wie die Agentenplattform funktioniert

Die zentrale Agentenschicht besteht aus mehr als 50 aufgabenspezifischen Agenten, die mit dem Strands Agents SDK erstellt und auf Amazon ECS bereitgestellt werden. Jeder Agent hat seinen eigenen System-Prompt und seine eigene Tool-Konfiguration, während optionale Eingabeformulare Nutzer unterstützen, die möglicherweise nicht über eine offene Chat-Oberfläche interagieren möchten. Die Agentenkonfiguration wird in Amazon DynamoDB gespeichert.

AWS sagt, OneAdvanced sei in drei Wochen von seinem ersten Agenten auf mehr als 50 gewachsen, wobei die meisten Agenten in weniger als einem Tag erstellt wurden. Die Bibliothek deckt Bereiche wie Gesundheitswesen, juristische Arbeit, Personalwesen, Marketing, Logistik und Bildung ab. Von AWS genannte Beispiele sind ein Assistent für die Reaktion auf Pflegevorfälle, ein Generator für klinische Sicherheitsmitteilungen, ein Dokumentenvergleichstool, ein Assistent für Leistungsbeurteilungen und ein AWS Architect Agent.

Der Workflow beginnt, wenn Llama Guard 4 eine Benutzeranfrage auf schädliche Inhalte überprüft. Wenn die Anfrage besteht, wird sie an den passenden Agenten auf Amazon ECS weitergeleitet. Der Agent kann spezialisierte Tools aufrufen, relevante Informationen aus in Amazon S3 gespeicherten Dokumenten abrufen und einen Vektorindex durchsuchen, der auf pgvector basiert.

Dokumente, die in S3 hochgeladen werden, werden in Markdown umgewandelt, in Chunks aufgeteilt und für das Retrieval eingebettet. Diese Retrieval-Augmented-Generation- oder RAG-Schicht soll sicherstellen, dass Antworten in den eigenen Materialien einer Organisation verankert bleiben, statt sich ausschließlich auf das interne Wissen des Modells zu verlassen.

Was die Belege zeigen – und was nicht

Der detaillierte technische Bericht stammt von AWS, das OneAdvanced beratend unterstützte und die Architektur als Kunden-Fallstudie veröffentlichte. Die stärksten Aussagen zu Akzeptanz und Geschwindigkeit – darunter die Größe der Agentenbibliothek, die dreitägige Build-Zeit und die Behauptung, dass die meisten Agenten weniger als einen Tag benötigten – stammen daher vom Anbieter und wurden nicht unabhängig geprüft.

Dieselbe Einschränkung gilt für die berichteten Lasttest-Ergebnisse. AWS sagt, die Bereitstellung habe die Durchsatzanforderungen von OneAdvanced erfüllt, doch die Quelle legt weder die Testmethodik noch das Verkehrsprofil, Antwortzeitziele, Fehlerquoten oder die Nutzung in der Produktion offen. Sie sagt auch nicht, wie viele der mehr als 50 Agenten aktiv von Kunden genutzt werden oder welche geschäftlichen Auswirkungen sie haben.

Das Souveränitätsresultat ist als architektonische Beschreibung konkreter. AWS sagt, die Lösung halte das Hosting der Modelle und die Kundendaten innerhalb der britischen Umgebung und habe die ISO 42001-Zertifizierung von OneAdvanced für KI-Governance unterstützt. Das sollte nicht als Beweis dafür gelesen werden, dass automatisch jede nachgelagerte Compliance-Anforderung erfüllt ist: Datenresidenz, Zugriffskontrolle, Aufbewahrung, Prüfbarkeit und Lieferantengovernance hängen weiterhin davon ab, wie der gesamte Dienst konfiguriert und betrieben wird.

OneAdvanceds CTO Andrew Henderson beschrieb britische Datensouveränität als harte Anforderung für viele Kunden aus dem öffentlichen Sektor und aus regulierten Branchen. Diese Management-Begründung erklärt die zentrale Designentscheidung, bleibt aber eine Unternehmensposition und keine unabhängige Bewertung der Compliance-Lage der Plattform.

Warum die Bereitstellung für KI-Entwickler wichtig ist

Für Produktteams hebt der Fall die Engineering-Kosten hervor, die hinter einer so einfachen Anforderung wie „Daten im Land halten“ verborgen sind. Wenn die gewünschten Modelle in einem lokalen Katalog verwalteter Dienste fehlen, müssen Teams möglicherweise Modelllizenzen sichern, knappe GPU-Kapazitäten beschaffen, Inferenzserver bereitstellen, Skalierung implementieren und Sicherheits- sowie Retrieval-Schichten selbst pflegen.

Die Architektur trennt auch Verantwortlichkeiten, die in einer gehosteten KI-API oft gebündelt sind. SageMaker AI übernimmt die Model-Endpunkte, ECS führt die Agenten und Tools aus, S3 speichert Quelldokumente, Aurora PostgreSQL stellt die Vektordatenbank bereit und DynamoDB speichert die Agentenkonfiguration. Diese Modularität gibt OneAdvanced Kontrolle, schafft aber mehr operative Schnittstellen, die überwacht, abgesichert und behoben werden müssen.

Der Wechsel von Llama Guard 3 zu Llama Guard 4 ist ein weiteres praktisches Signal. AWS sagt, OneAdvanced habe beim früheren Modell hohe Falschablehnungsraten beobachtet und es ersetzt. Anfragen vor dem Hauptmodell sequentiell zu prüfen, kann einige Risiken verringern, fügt aber auch ein Tor hinzu, das auf Falschpositive, Falschnegative, Latenz sowie Sprach- oder Domänenabdeckung getestet werden muss.

Für Unternehmenskäufer ist die Anzahl der Agenten weniger wichtig als das Governance-Modell dahinter. Eine Bibliothek mit 50 Agenten kann spezialisierte Workflows leichter paketierbar machen, aber jeder Agent bringt Prompts, Tools, Berechtigungen, Retrieval-Quellen und möglicherweise unterschiedliche Fehlermodi mit sich. Ein No-Code-Agenten-Builder kann den Zugang für nichttechnische Nutzer erweitern, erhöht aber zugleich den Bedarf an Genehmigungs-Workflows, Tests, Versionskontrolle und Nutzungsaufsicht.

Worauf man als Nächstes achten sollte

Die nächsten nützlichen Signale werden eher betrieblich als in der reinen Zahl der Agenten liegen. OneAdvanced könnte Produktionsnutzung, Ziele für Antwortzeit und Zuverlässigkeit, GPU-Auslastung oder den Kostenunterschied zwischen Selbsthosting und verwaltetem Inferenzbetrieb offenlegen. Diese Zahlen würden Käufern helfen zu beurteilen, ob Souveränität die zusätzliche Infrastrukturlast rechtfertigte.

Es ist auch lohnend zu beobachten, ob die relevanten Llama-Modelle in Großbritannien über verwaltete AWS-Services verfügbar werden und ob sich dadurch die Architektur von OneAdvanced ändert. Eine lokale verwaltete Option könnte den Plattformbetrieb verringern und gleichzeitig die Anforderungen an die Datenresidenz wahren, obwohl das Unternehmen möglicherweise das Selbsthosting beibehält, um die Kontrolle über Modellversionen und Konfiguration zu behalten.

Weitere Belege sollten außerdem zeigen, wie die Agenten nach der Bereitstellung gesteuert werden: Wer neue Tools veröffentlichen darf, wie Retrieval-Quellen genehmigt werden, wie Entscheidungen über schädliche Inhalte geprüft werden und ob ISO-42001-Prozesse den gesamten Agenten-Lebenszyklus abdecken. Diese Details werden für regulierte Kunden wichtiger sein als die Geschwindigkeit des ersten Prototyps.

Creati.ai-Perspektive

Die Bereitstellung von OneAdvanced ist nicht deshalb bemerkenswert, weil „50 Agenten“ ein universelles Maß für KI-Reife ist, sondern weil sie die praktische Grenze zwischen einer KI-Demo und einer souveränen Unternehmensplattform sichtbar macht. Das Unternehmen nutzte verwaltete Dienste für frühe Experimente und nahm dann die operative Komplexität des Selbsthostings in Kauf, als die regionale Verfügbarkeit der Modelle nicht mit seinen Datenanforderungen übereinstimmte.

Für Entwickler lautet die Lehre, Datenresidenz, Modellverfügbarkeit, Sicherheitsprüfung, Retrieval-Qualität und GPU-Ökonomie als eine Architekturentscheidung zu betrachten. Für Käufer ist der AWS-Bericht ein nützlicher Beleg für ein praktikables Muster, doch die fehlenden Produktionskennzahlen bedeuten, dass er als Implementierungs-Blueprint bewertet werden sollte – noch nicht als unabhängig validierter Maßstab.