03 / 06

Cyber · KI · Digitale Intelligenz

Angewandte KI und Agenten

Einen geschäftlichen Anwendungsfall in ein nützliches, kontrollierbares KI-System überführen, das Ihre Vertraulichkeitsanforderungen erfüllt.

Dienstleistung anfragen · Française du Numérique (Formular auf Englisch)

Private KI-Recheninfrastruktur in einem leeren Labor KI-generierte redaktionelle Illustration

Wir beginnen mit der tatsächlichen Arbeit: verfügbaren Informationen, zu unterstützenden Entscheidungen, wiederkehrenden Aufgaben, akzeptablen Fehlern und sensiblen Daten. Der Prototyp folgt der Auftragsklärung, mit ausdrücklicher Überprüfung und menschlicher Verantwortung.

03

Was Ihnen der Auftrag bringen soll

  1. 01Nach Wert und Machbarkeit geordnete Anwendungsfälle
  2. 02Ein messbarer Prototyp statt einer vagen Demonstration
  3. 03Klare Regeln für Daten, Kontrolle und Grenzen

So läuft der Auftrag ab

So läuft der Auftrag ab

Ein kurzer, klarer Ablauf, angepasst an die Sensibilität der Situation.

  1. 01

    Auftragsklärung

    Wir bestimmen die zu unterstützende Entscheidung, relevante Assets, Einschränkungen, autorisierte Quellen und die erforderliche Vertraulichkeit.

  2. 02

    Untersuchung

    Erhebung und Analyse folgen dem vereinbarten Umfang. Fakten, Hypothesen und Unsicherheiten bleiben klar voneinander getrennt.

  3. 03

    Priorisierung

    Jeder Befund wird nach Verlässlichkeit, wahrscheinlicher Auswirkung und erforderlichem Handlungsaufwand bewertet.

  4. 04

    Übergabe

    Sie erhalten eine verständliche Zusammenfassung, hilfreiche Nachweise und einen umsetzbaren Maßnahmenplan.

Mögliche Ergebnisse

Mögliche Ergebnisse

  • Übersicht über KI-Potenziale
  • Prototyp eines Assistenten, RAG-Systems oder Agenten
  • Testfälle und Qualitätsprotokoll
  • Rahmen für Nutzung, Datenschutz und Governance

Typische Situationen

Typische Situationen

  • Suche in einer internen Wissensbasis
  • Einordnung von Anfragen oder Zusammenfassung von Fällen
  • Kontrollierte Automatisierung wiederkehrender Arbeit

Wie lässt sich das Ergebnis des Auftrags prüfen?

Vereinbaren Sie Nachweise vor Beginn. Die Kriterien richten sich nach dem Umfang; die Beispiele sind keine Kundenergebnisse.

Nachweise und Entscheidungen bei der Eingrenzung vereinbaren
PrüfgegenstandBenötigter NachweisMögliche Entscheidung
BewertungFallarten, Kriterien, schwere Fehler und VersionenFehler hinter dem Durchschnitt untersuchen
RechteAktion, Daten, Rolle und AblehnungstestsNur beauftragte Handlungen erlauben

Die Entscheidung prüfen

96 richtige Antworten: Kontenänderungen erlauben?

Ein Assistent beantwortet die meisten Anfragen richtig, verändert bei einem Fehler aber unbefugt ein Konto.

Fiktiver Lehrfall. Die Zahlen erläutern die Überlegung; sie sind weder Kundenergebnisse noch vorgeschriebene Grenzwerte.

bewertete Anfragen
100
richtige Antworten
96
unbefugte Änderung unter den vier Fehlern
1
Entscheidungen im Vergleich
Mögliche EntscheidungBegründung oder fehlender Nachweis
Bei 96 % alle Aktionen freigebenDer Durchschnitt verdeckt die Schwere einer unbefugten Änderung.
Änderungen sperren, Lesen separat bewertenBerechtigungsprüfung korrigieren, dann die Aktion erneut testen.
Entscheidung und nächsten Prüfschritt lesen

96 % beschreiben diesen Fragensatz und erteilen keine Rechte. Vor einem Lesepilot auch die übrigen drei Fehler prüfen.

Nächster Prüfschritt

Entzogenen Zugriff, veraltete Quelle und unbeantwortbare Frage erneut testen; unerlaubte Aktionen ausschließen.

Was dieser Fall nicht belegt

Hundert Fälle decken weder jede Zukunftssituation ab noch beweisen sie die Rechteprüfung.

Quellen und Geltungsbereich

Quellen am 17. Oktober 2026 geprüft.

Vor dem Auftrag

Eine sinnvolle Entscheidung vorbereiten

Ausgangspunkt sind eine Aufgabe, ihr Volumen und die Kosten einer falschen Antwort oder Handlung. Der Umfang bestimmt zugängliche Daten, Werkzeugberechtigungen und die Zeitpunkte, an denen eine Person zustimmen oder übernehmen muss.

Benötigte Informationen

  • Reale Beispiele erfolgreicher und fehlgeschlagener Aufgaben
  • Dokumente, Zugriffsrechte und Aufbewahrungsbedingungen
  • Qualitätskriterien und akzeptable Fehlerkosten

Vorzubereitende Entscheidungen

  • Wird ein einfacher Assistent, eine Dokumentensuche oder ein Agent benötigt?
  • Welche Handlungen erfordern eine Freigabe?
  • Welche Tests verhindern eine Freigabe für den Betrieb?
  • Kann die vorherige Konfiguration wiederhergestellt werden?
  • Wie lassen sich vertrauliche Dokumente in Tests vermeiden?

Illustratives Auftragsbeispiel · fiktiver Fall

Situation
Ein Dienst möchte Anfragen automatisch einordnen, aber Antworten und Kontoänderungen weiterhin freigeben lassen.
Vorgehen
Eine von Menschen gekennzeichnete Referenz mit dem Assistenten anhand repräsentativer, mehrdeutiger und adversarialer Fälle vergleichen; Werkzeuge einschränken und Ablehnungen protokollieren.
Ergebnis
Ein versioniertes Testprotokoll, eine Berechtigungsmatrix, Schwellen für menschliche Freigabe und Abschaltkriterien im Produktivbetrieb.

Beispiele für Abnahmekriterien, die bei der Auftragsklärung vereinbart werden

  • Nützliche und unzulässige Aufgaben haben getrennte Testfälle.
  • Eine nicht vertrauenswürdige Quelle kann Werkzeugberechtigungen nicht erweitern.
  • Abschaltkriterien und die Übergabe an Menschen werden geprobt.
Zugehörige öffentliche Methoden

FAQ

Häufige Fragen

Praktische Antworten, um den Bedarf vor einem ersten Gespräch einzugrenzen.

Müssen wir zuerst ein KI-Modell oder eine Plattform auswählen?

Nein. Die technische Wahl folgt auf die Analyse des Bedarfs, der verfügbaren Daten, akzeptabler Fehler, der Vertraulichkeitsanforderungen und der Betriebskosten.

Wie messen Sie die Zuverlässigkeit eines Assistenten oder Agenten?

Repräsentative Testfälle messen Genauigkeit, Nachvollziehbarkeit, erwartete Ablehnungen und kritische Fehler. Die Ergebnisse bestimmen menschliche Kontrollen und angemessene Nutzungsgrenzen.

Was muss nach Änderungen am KI-Assistenten erneut getestet werden?

Nach Änderungen an Modell, Anweisungen, Dokumentbestand oder Werkzeug einen stabilen Satz erlaubter, mehrdeutiger und verbotener Anfragen wiederholen. Antworten, Aktionen und Ablehnungen je Falltyp mit Version und Rechten vergleichen. Eine frühere Abnahme deckt neues Verhalten nicht automatisch ab.

Bewerten Sie KI-Regressionen vor einem Versionswechsel

NIST — AI Risk Management Framework