Was ich beim Assistenten-Bau gelernt habe

Ich gebe zu, ich war verwirrt. Ich saß vor Langdock, wollte einen Assistenten für unser Team bauen und sah zwei Optionen: Knowledge und Integrations → Knowledge Folder. Beide klangen nach Wissen – aber was war der Unterschied? Ich wusste zugegebenermaßen das Kowlege Folder eine Art RAG System sind und dachte mir Knowlege wird wohl ähnlich funktionieren - aber nur für den Assistenten.

Was ich nicht wusste: Der Unterschied hat uns bereits einiges an Problemen beschert.

Der Moment, in dem ich merkte: Da läuft was schief

Ich hatte einen kuratierten Google Drive Folder voller Dokumente und dachte mir: "Das kommt alles in Knowledge rein." Unser Assistent war online, schien zu funktionieren – bis er anfing, sich merkwürdig zu verhalten.

Er war langsam. Manchmal gab er wirre Antworten. Und das Frustrierendste: Er schien unter “Context-Rot” zu leiden, also wurde qusi immer “dümmer” und weniger präzise.

Warum funktionierte das nicht richtig?

Support-Anfrage

Irgendwann schrieb ich dem Langdock Support. Meine Frage war einfach: "Was genau ist der Unterschied zwischen Knowledge und Knowledge Folder?"

Die Antwort war aufschlussreich: Alles, was du in Knowledge hochlädst, wird direkt Teil der Prompt.

Das bedeutete: Jedes einzelne Dokument aus unserem Google Drive Folder wurde bei jeder Anfrage komplett in die Prompt gepackt. Seitenweise Text bei jeder einzelnen Anfrage.

Kein Wunder, dass unser Assistent überfordert war.

Knowlege vs. Knowlege Folder

Plötzlich machte alles Sinn. Hier die beiden Systeme, wie sie funktionieren:

Knowledge: Der Prompt-Integrator

• Funktionsweise: Alle Inhalte werden direkt in die Prompt integriert - dadurch ist auch das gesamte Wissen im Kontext vorhanden
• Limitation: Begrenzung durch die maximale Prompt-Länge des Models und schnellerer Context-Rot
• Performance: Jede Anfrage "sieht" alle Dokumente gleichzeitig und wird dadurch evtl. langsamer
• Use Case: Wenige, sehr relevante, kurze Dokumente die für die meisten Prompts benötigt werden.

Knowledge Folder: Der intelligente Researcher

• Funktionsweise: RAG -  Intelligente Vektorsuche findet nur relevante Abschnitte für die Jeweilige anfrage
• Limitation: Kann Inhalte übersehen oder aus dem Kontext reißen (bekommt nur z.B. Abschnitte von einem PDF) und auch meistens nicht gut mit “strukturierten Daten” wie z.B. Excels umgehen.
• Suche: Intelligente Vektorsuche findet nur relevante Abschnitte für die Jeweilige anfrage (kann a
• Performance: Nur kontextrelevante Informationen werden abgerufen und ist meist schneller
• Uses Case: Große Dokumentmengen, umfassende Wissensbasis

Meine Empfehlungen: Wann nutzt du was?

Nach diesem Lernprozess hier meine Empfehlungen:

Knowledge:

• API-Dokumentation: Ein spezifisches Dokument, das bei jeder Anfrage relevant ist
• Brand Guidelines & Styleguides: Tonalität und Style, die immer beachtet werden sollen
• Kurze Prozessbeschreibungen: 1-2 Seiten, die das Verhalten des Assistenten steuern
• Aktuelle benötigte Projektinfos: Spezifische Details zum laufenden Projekt

Faustformel: Wenn du willst, dass der Assistent diese Info immer berücksichtigt, dann nutze Knowledge.

Knowledge Folder:

• Große Dokumentsammlungen: Hunderte von Seiten Firmen-Wiki
• Historische Daten: Alte E-Mails, vergangene Projekte, Archiv-Material
• Umfassende Wissensdatenbanken: Alles, was der Assistent "wissen könnte" - bei uns z.B. unser Content Hub
• Recherche-Material: Studien, Artikel, Referenz-Dokumente

Faustformel: Wenn der Assistent bei Bedarf darin suchen soll oder es sich um eine Vielzahl von Informationen handelt, dann Knowledge Folder.

Die praktische Lösung: Hybrid-Ansatz

Unser bester Assistent nutzt heute beide Systeme:

• Knowledge: Die 3-4 wichtigsten Dokumente, die seine "Persönlichkeit" definieren und Informationen zu DECAID geben.
• Knowledge Folder: Unsere gesamte Firmen-Wissensbasis für den Sales (Beispiel-Mails, Q&A Fragen, Informationen zum Produkt, etc.)

Der Assistent ist jetzt schnell, präzise und findet trotzdem auch spezifische Informationen aus unserem umfangreichen Archiv.

Mein Rat: Schrittweise vorgehen

Falls du vor derselben Entscheidung stehst:

1. Starte mit Knowledge für die absoluten Must-have-Docs
2. Teste die Performance mit echten Anfragen
3. Erweitere zu Knowledge Folder wenn du merkst, dass wichtige Infos fehlen
4. Optimiere das Zusammenspiel zwischen beiden Systemen

‍