Foundation Models: eine API vor vielen groĂen Modellen
GroĂe Sprachmodelle und andere Foundation Models beantworten Prompts: zusammenfassen, vergleichen, klassifizieren, entwerfen, erklĂ€ren. Sie wĂ€hlen das Modell und schreiben die Anfrage, jemand anderer betreibt die Inferenz.
Was sind Foundation Models?
Ein Foundation Model ist ein groĂes, breit trainiertes Modell, das Sie mit einem Prompt steuern, statt es selbst zu trainieren. Verwaltete Plattformen stellen viele Modelle mehrerer Anbieter hinter eine API, rechnen pro Token ab und kosten nichts, wenn niemand fragt.
Was Sie gestalten, ist die Anfrage: welches Modell, welcher Kontext abgerufen und in den Prompt gelegt wird, welche Tools es aufrufen darf, die Guardrails und wie Sie prĂŒfen, dass die Antworten gut genug bleiben. Das Modell zu tauschen ist fast eine Zeile, die Funktionen unterscheiden sich trotzdem von Modell zu Modell.
Vier Wege, sie zu betreiben
Jede der groĂen Clouds bietet sie als verwalteten Service an, und Sie können sie auch selbst betreiben. Dieselbe Aufgabe, eine andere Rechnung und eine andere Konsole.
Amazon Bedrock[1]
Der verwaltete Foundation-Model-Service auf AWS: Modelle mehrerer Anbieter ĂŒber eine API, abgerechnet pro Token.
Offizielle Dokumentation →Microsoft Foundry[2]
Die Plattform auf Microsoft Azure fĂŒr die Arbeit mit Modellen und Agenten, im November 2025 von Azure AI Foundry umbenannt.
Offizielle Dokumentation →Vertex AI[3]
Die verwaltete KI-Plattform auf Google Cloud, mit Gemini und weiteren Modellen.
Offizielle Dokumentation →vLLM oder Ollama[4]
Serving-Engines fĂŒr Modelle mit offenen Gewichten auf Ihrer eigenen GPU. vLLM (Apache 2.0) liefert mit OpenAI-kompatibler API im groĂen MaĂstab, Ollama ist der einfachste Weg, ein Modell auf einem Rechner zu betreiben.
Projektseite →
So sieht es in einer Architektur aus
Folien aus meiner Lehrveranstaltung zu KI-Architekturen an der FH Burgenland, aus echten Projekten (auf Englisch).
Wo ich es eingesetzt habe
Die Video-Pipeline
In meiner Video-Pipeline bewertet ein Modell auf Bedrock die SchnittvorschlĂ€ge, fĂŒr etwa 5 Cent pro Clip.
Zum Bericht (Englisch) →Der Event-Assistent
In meinem Event-Assistenten steht hinter drei der sechs Agenten jeweils ein anderes Modell: Claude und Amazon Nova auf Bedrock und ein kleines Modell, das ich selbst feinjustiert habe. FĂŒr die fragende Person ist davon nichts zu sehen.
Zu den Referenzprojekten →Die Geodaten-Plattform
In meiner Geodaten-Plattform beantworten Bedrock und AgentCore den öffentlichen Teil jeder Frage in der Cloud. Der private Teil erreicht nie ein verwaltetes Modell.
Architektur auf ai-solutions.wiki →Verwaltet und selbst betrieben zusammen: Hybrid
Bei einem verwalteten Modell bleibt das Modell beim Anbieter und Ihre privaten Daten bleiben bei Ihnen. Nur der erlaubte Kontext geht hinaus. Wo Daten gar nicht hinaus dĂŒrfen, klassifiziert ein Routing-Schritt jede Anfrage und schickt sie entweder an das verwaltete Modell in einer Cloud-Region oder an ein offenes Modell auf Ihrer eigenen Plattform, etwa vLLM auf OpenShift AI, mit einem gemeinsamen Audit-Trail.[8]
Was hilft Ihnen als NĂ€chstes?
Entscheiden lernen
Der Kurs âFrom Managed to Hybridâ zeigt, wo KI laufen sollte: was jede Ebene kostet, was Sie betreiben und wo Ihre Daten bleiben mĂŒssen. Er ist in Vorbereitung, mit einer kostenlosen Live-Session zum Start.
Linda MohamedKI- und Cloud-Beraterin, AWS Community Hero, Wien
Gemeinsam bauen
ErzĂ€hlen Sie mir, was Sie bauen wollen. In 30 Minuten prĂŒfen wir, welcher der vier Wege zu Ihren Daten, Ihren Regeln und Ihrem Budget passt und ob AWS-Förderung fĂŒr einen Proof of Concept einen Teil abdeckt. So funktioniert AWS-Förderung →
Sie wissen schon, was Sie brauchen
Buchen Sie direkt den Workshop:
- Generative-AI-Use-Case-Workshop →
Welche GenAI-Ideen sich lohnen und ob Prompts, Retrieval oder Fine-Tuning jeweils passt. - KI-Konzept- und Prototyp-Workshops →
Zuerst die Architektur, pro Service bepreist und mit Ihren Daten getestet, dann ein Prototyp mit Go- oder Stopp-Entscheidung.
Mehr auf ai-solutions.wiki
Meine offene Wissensbasis, mit lÀngeren Vergleichen, Preisnotizen und Quellen (auf Englisch).
Quellen
- Amazon Bedrock Dokumentation. https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html
- Microsoft Foundry Dokumentation. https://learn.microsoft.com/en-us/azure/foundry/what-is-foundry
- Vertex AI Dokumentation. https://cloud.google.com/vertex-ai/docs
- vLLM oder Ollama. https://docs.vllm.ai/
- Linda Mohamed, Kursfolien âThe projectsâ, MASE-3, FH Burgenland, September 2026
- Linda Mohamed, Kursfolien âHow to run AI, layer by layerâ, MASE-3, FH Burgenland, September 2026
- Linda Mohamed, Kursfolien âStart hereâ, MASE-3, FH Burgenland, September 2026
- Meeting data residency requirements with AWS hybrid and edge services, AWS Machine Learning Blog. https://aws.amazon.com/blogs/machine-learning/implement-rag-while-meeting-data-residency-requirements-using-aws-hybrid-and-edge-services/
- Amazon Bedrock, ai-solutions.wiki. https://ai-solutions.wiki/tools/amazon-bedrock/
- Amazon Bedrock vs Azure OpenAI, ai-solutions.wiki. https://ai-solutions.wiki/comparisons/bedrock-vs-azure-openai/
- vLLM, ai-solutions.wiki. https://ai-solutions.wiki/tools/vllm/
- Managed vs reserved vs self-hosted inference, ai-solutions.wiki. https://ai-solutions.wiki/comparisons/managed-vs-reserved-vs-self-hosted-inference/
Links geprĂŒft im September 2026. Produktnamen und Funktionen Ă€ndern sich: PrĂŒfen Sie die verlinkten Seiten, bevor Sie entscheiden.
