Der erste Agent scheitert selten am Modell

AI Foundation Discovery Workshop

Meistens scheitert er an Fragen, die vor dem Betrieb niemand gestellt hat: unter welcher Identität er läuft, welche Daten er sehen darf, wer seine Rechnung bekommt. Bringt einen Use Case mit, wir skizzieren ihn mit euch in Microsoft Foundry, und nach einem halben Tag wisst ihr, was euer erster Agent kann, was er braucht und wie er in Produktion kommt.

Die Demo dauert zehn Minuten

Einen Agenten anzulegen, der Fragen zu einem PDF beantwortet, dauert in Foundry etwa so lange wie ein Kaffee. Derselbe Agent in Produktion braucht eine eigene Identität in Entra, Wissensquellen, die Berechtigungen respektieren, Werkzeuge mit klaren Grenzen und jemanden, der die Rechnung bekommt. Der Workshop nimmt euren Fall und geht diese Strecke einmal ab.

Ihr bringt einen Use Case

Einen Fall mit Betroffenen und Daten, kein Strategiepapier. Ein Agent, der Lieferantenrechnungen gegen Bestellungen prüft, ist ein besserer Kandidat als ein Assistent für alles, weil sich bei ihm sagen lässt, was eine richtige Antwort ist.

Wir skizzieren ihn in Microsoft Foundry

Wir legen den Agenten in unserer Referenzumgebung an, nicht auf Folien: Modell, Wissensquellen, Werkzeuge, Guardrails. Was in Foundry nicht geht, sieht man dabei sofort. Was nur mit viel Aufwand geht, wenig später.

Ihr nehmt ein realistisches Bild mit

Was der Agent kann, was er nicht kann, welche Entscheidungen vor dem Betrieb anstehen und welcher der drei Einstiege in die AI Foundation zu eurer Umgebung passt. Die Skizze gehört euch, auch wenn ihr sie mit jemand anderem umsetzt.

So läuft der halbe Tag

  • Foundry verstehen
    Foundry verstehen
    An unserer Referenzumgebung zeigen wir, wie Modellkatalog, Agent Service, Wissensquellen und Guardrails zusammenhängen, und wo die Plattform aufhört: Microsoft liefert die Control Plane, den Betrieb liefert sie nicht.
  • Use Case zerlegen
    Use Case zerlegen
    Wer löst den Agenten aus, welche Daten liest er, was darf er tun, was auf keinen Fall. Die letzte Frage ist die kürzeste und zieht die längste Diskussion nach sich.
  • Agenten skizzieren
    Agenten skizzieren
    Modellwahl, Wissen per RAG oder MCP, Werkzeuge, Prüfungen vor und nach jeder Antwort. Am Ende steht ein Agent, der antwortet, und eine Liste dessen, was ihn noch vom Produktivsystem trennt.
  • Einstieg festlegen
    Einstieg festlegen
    Welche Fragen offen bleiben, welcher Einstieg in die AI Foundation zu eurer Landing Zone passt und was als Nächstes käme, wenn ihr weitermacht. Wenn nicht, bleibt euch die Skizze.

Die Fragen wiederholen sich, die Antworten nicht

In jedem Workshop landen die Fragen in denselben vier Feldern. Die Antworten hängen an eurem Fall: Ein Agent, der SharePoint liest, hat ein anderes Berechtigungsproblem als einer, der in SAP schreibt.

  • Modelle und AgentenModellvielfalt, ProvisionerWelches Modell für euren Fall reicht und wie jedes Team seinen eigenen Bereich in Foundry bekommt, mit Budget und Grenzen, statt eines gemeinsamen Kontos für alle.
  • Daten und WissenRAG, MCPWoher der Agent sein Wissen nimmt und ob er dabei die Berechtigungen der Quelle erbt oder umgeht. Ein Index ohne Zugriffskontrolle ist der kürzeste Weg, die Gehaltsliste in den Chat zu bringen.
  • Sicherheit und ComplianceGuardrails, Defender, AI GatewayWelche Prüfungen vor und nach jeder Antwort laufen, wie Modellzugriffe über ein Gateway gehen statt über Schlüssel in Konfigurationsdateien, und welche Daten die EU nicht verlassen.
  • Betrieb und SkalierungBlueprint, Betriebsmodell, TiersWer den Agenten betreibt, wenn er läuft, wie aus einem Agenten zwanzig werden, ohne dass es zwanzig Betriebsmodelle gibt, und welche der drei Ausbaustufen zu eurer Landing Zone passt.

Drei Wege, tiefer einzusteigen

Der Workshop braucht keine Vorbereitung. Wer trotzdem vorher wissen will, worauf er sich einlässt, findet hier den Betrieb, der danach kommt, die Landing Zone, auf der alles aufsetzt, und einen Webcast über Agenten in der Praxis.

Schickt uns euren Use Case

Ein Satz reicht, der Rest ist Teil des Workshops. Ihr bekommt einen Terminvorschlag für den halben Tag und vorher keine Folien.
Florian Stöckl
Woran KI-Vorhaben scheitern, ist fast nie das Modell, sondern das Fundament darunter: Daten, die nicht zusammenlaufen, Workloads ohne kontrollierte Laufzeit, Agents, die nie aus dem Prototyp herauskommen. Dieses Fundament bauen wir als Managed Service.
Florian StöcklAzure Lead