Skip to Main Content
Empolis Buddy Ideas Portal
Created by Thomas Schmidt
Created on Oct 17, 2024

RAG Hook zur gleichzeitigen Nutzung des Empolis Buddy Frontends und einem projektspezifischen Agenten

No description provided
People to keep up to date (Email) henning.bergmeyer@empolis.com, rebecca.morrissey@empolis.com, rainer.terlutter@empolis.com
  • Attach files
  • Thomas Schmidt
    Reply
    |
    Oct 17, 2024

    Eine description kann beim erstellen des Tickets nicht angegeben werden, daher füge ich sie als Kommentar zu.

    Im Allgemeinen besteht bei KUKA die Anforderung, den projektspezifischen Agenten (= hohe Antwortqualität) und gleichzeitig von den Entwicklungen des Standard Empolis Buddy zu profitieren. Dieses AHA Ticket zielt also darauf ab, den Empolis Buddy im Frontend zu nutzen und den projektspezifischen Agenten über den angefragten "RAK Hook" einzuklinken (analog zum Search Hook).

    Eine Hürde sind die Use Case spezifischen langen Laufzeiten eines Requests.

    Grobe Architektur:

    • Verwendung Empolis-Buddy ohne spezifische Anpassungen

      • Greift auf Standard-APIs zu

      • Kuka-Agentenlogik durch RAG-Hook, s.u.

      • Kein gesonderdtes Deployment, keine projektspezifischen UI-Anpassungen

    • Hook der Projektfunktionalität in ESC RAG API

      • Verarbeitet nur Textnachricht und Antwort, plus Result-List mit Metadaten und Token-Usage.

      • Hook-API noch zu spezifizieren. Herausforderungen: Behandlung langlaufender Requests

        • Projekt-Chat-API wird angepasst auf RAG Hook Spezifikation