Menü

Kontakt aufnehmen
Logo
Presse

KI-Assistenten & RAG

KI-Antworten brauchen belastbare Quellen.

Mitarbeitende suchen Antworten in Handbüchern, Tickets und internen Dokumenten. Wir bauen Assistenten, die passende Inhalte finden, Quellen anzeigen und die Zugriffsrechte Ihrer Systeme berücksichtigen. Aktionen in Fachsystemen werden getrennt von der reinen Wissenssuche geplant und freigegeben.

Notebook-Tastatur mit hervorgehobenen KI-Tasten – Symbolmotiv
Assistent mit Quellenangaben · Planung und Umsetzung durch OTOKO®

Ihr Auftrag an OTOKO®

Was wir für Sie übernehmen.

Bei Retrieval-Augmented Generation, kurz RAG, werden zur Frage passende Dokumentabschnitte gesucht und dem Sprachmodell als Kontext bereitgestellt. Wir kümmern uns um Extraktion, sinnvolle Abschnitte, Metadaten und Aktualisierung. Veraltete oder gelöschte Inhalte müssen aus dem Suchbestand verschwinden. Die Auswahl wird anhand echter Fragen geprüft: Findet die Suche die richtige Passage, und lässt sich die Antwort daraus belegen? Eine Quellenangabe allein beweist noch keine korrekte Antwort; dafür braucht es inhaltliche Bewertung.

Der mögliche Leistungsumfang

  • Auswahl des Modells nach Schutzbedarf: Hyperscaler-Dienst, EU-Anbieter oder Open-Source-Modell im eigenen Rechenzentrum
  • Anbindung von SharePoint, Confluence, Ticketsystemen, Dateiablagen und Fachanwendungen
  • Berechtigungen der Quellsysteme werden im Assistenten durchgesetzt
  • Dokumentenverarbeitung: Klassifikation, Extraktion, Zusammenfassung mit Prüfschritten
  • Bewertungsverfahren für Antwortqualität, Halluzinationen und Datenabfluss

Den konkreten Umfang, Ihre Mitwirkung und die Abnahmekriterien legen wir vor Beginn fest.

Technik verständlich eingeordnet

So setzen wir die Aufgabe um.

01

Berechtigungen gelten auch für Suche und Werkzeuge

Der Assistent soll nur Inhalte finden, die der fragende Nutzer lesen darf. Diese Prüfung erfolgt technisch außerhalb der frei formulierten Modellantwort und berücksichtigt geänderte Gruppenrechte. Gefundene Dokumente werden als Daten behandelt, nicht als Anweisungen. Soll der Assistent Tickets erstellen oder Datensätze ändern, begrenzen wir erlaubte Werkzeuge, Zielsysteme und Parameter. Folgenreiche Schritte erhalten eine menschliche Freigabe. Protokollierung wird nach Schutzbedarf gestaltet; vertrauliche Fragen und Antworten müssen nicht pauschal vollständig gespeichert werden.

02

Antwortqualität mit einem festen Fragenkatalog prüfen

Der Testkatalog enthält beantwortbare Fragen, fehlende Informationen, widersprüchliche Quellen und verbotene Zugriffe. Gemessen werden Belegbarkeit, hilfreiche Ablehnung, Antwortzeit und Kosten pro Vorgang. Modell- oder Indexänderungen durchlaufen denselben Vergleich. Ein erster Pilot arbeitet mit einem begrenzten Wissensbestand und benannten Nutzern. Erst danach werden weitere Quellen und gegebenenfalls schreibende Funktionen aufgenommen.

Besprechungsraum im Kölner OTOKO® Büro

Ein überprüfbares Ergebnis

Damit arbeiten Sie weiter.

  1. Assistent mit Quellenangaben
  2. Berechtigungs- und Datenschutzkonzept
  3. Bewertungsverfahren mit Testfragenkatalog

Die Übergabe verbindet Umsetzung und Dokumentation. Gemeinsam prüfen wir die vereinbarten Fälle und halten verbleibende Aufgaben fest.

Ihr Vorhaben im Detail

Ein Assistent muss wissen, welche Quellen er verwenden darf.

Wir entwickeln KI-Assistenten für konkrete Wissens- und Arbeitsprozesse. Dazu gehören Dokumentenaufbereitung, Suche, Berechtigungen, Antwortprüfung und die Einbindung in Ihre vorhandenen Oberflächen.

Wissen auffindbar machen, ohne Zugriffsgrenzen aufzulösen

RAG verbindet die Suche in freigegebenen Inhalten mit der Formulierung einer Antwort. Wir planen, wie Dokumente eingelesen, sinnvoll in Abschnitte aufgeteilt und mit Herkunft, Datum und Berechtigungen versehen werden. Entfernte oder geänderte Dokumente müssen auch im Suchbestand aktualisiert werden; ein einmaliger Import reicht für lebendes Unternehmenswissen nicht aus.

Die Suchqualität prüfen wir mit realistischen Fragen und erwarteten Belegen. Fachbegriffe, Abkürzungen und schlecht strukturierte Dokumente können dazu führen, dass die richtige Passage nicht gefunden wird. Wir unterscheiden deshalb einen Suchfehler von einer fehlerhaften Antwortformulierung und verbessern gezielt die betroffene Stufe.

Antworten, Aktionen und menschliche Freigaben trennen

Ein Wissensassistent kann Quellen erklären, ohne selbst Änderungen in Fachsystemen auszuführen. Werden Aktionen gewünscht, erhält jede Anbindung begrenzte Rechte und klar definierte Parameter. Kritische Vorgänge wie Bestellungen oder Stammdatenänderungen können eine gesonderte Bestätigung benötigen; importierte Dokumente dürfen diese Regeln nicht überschreiben.

Vor der Freigabe testen wir unberechtigte Fragen, widersprüchliche Quellen und Versuche, den Assistenten über Dokumentinhalte umzulenken. Protokollierung wird auf Fehlersuche und Schutzbedarf abgestimmt. Auswertungen zu Antwortqualität, Latenz und Nutzungskosten helfen, den Betrieb zu steuern, ohne vertrauliche Anfragen unnötig dauerhaft zu speichern.

Illustratives Projektszenario

Wie die Leistung im Alltag hilft.

Beispiel: Mitarbeitende suchen interne Arbeitsanweisungen. Der Assistent findet freigegebene Fassungen, verlinkt die verwendeten Abschnitte und weist auf fehlende Belege hin. Personalunterlagen anderer Teams bleiben ausgeschlossen. Erst nach einem getrennten Projekt kann der Assistent zusätzlich genehmigte Aufgaben in einem Fachsystem auslösen.

Dieses Beispiel erläutert einen möglichen Ablauf und ist keine Kundenreferenz.

Vor dem ersten Schritt

Ihre Fragen zu KI-Assistenten & RAG.

Verhindert RAG falsche Antworten vollständig?

Nein. Suche und Generierung können Fehler machen. Quellenanzeige, geeignete Tests und ein klarer Umgang mit fehlender Evidenz reduzieren das Risiko; wichtige Entscheidungen benötigen eine fachliche Prüfung.

Müssen unsere Dokumente einen externen Modellanbieter erreichen?

Nicht zwingend. Wir vergleichen gehostete Dienste und Betrieb in Ihrer Umgebung nach Datenflüssen, Leistung, Kosten und Verantwortlichkeiten. Die konkrete Architektur wird vor der Umsetzung vereinbart.

Ihr Vorhaben

Welche Aufgabe möchten Sie lösen?

Beschreiben Sie Ihre Ausgangslage und das gewünschte Ergebnis. Die ausgewählte Leistung wird in die Kontaktanfrage übernommen.

Diese Leistung anfragen

Unsere Partner

  • Microsoft
  • Microsoft Azure
  • Amazon AWS
  • Google Cloud
  • Thales Group
  • Arrow ECS
  • Vodafone
  • IBM
  • Veeam
  • Atlassian
  • JetBrains
  • NinjaOne
  • OPSWAT
  • Utimaco
  • Eviden

Barrierefreiheit

Passe die Darstellung an deine Bedürfnisse an.

Für diese Seite ist noch keine einfache Fassung verfügbar.

Einstellungen gelten aktuell für diesen Besuch. Dauerhaftes Speichern kannst du in den Cookie-Einstellungen erlauben.