Getrennte LLM-Schichten: Attention, DB, Worker
Eine LLM-Anwendung, die alles in einer einzigen Instanz erledigt, hat ein strukturelles Problem: Während das Modell an einer großen Aufgabe rechnet, ist die Konversation blockiert – der Nutzer wartet. Die Lösung ist ein bewährtes Architekturprinzip, neu angewendet: die Schichten voneinander getrennt halten.
Drei Schichten mit klar verteilten Rollen: eine Attention-Schicht, die dem Nutzer sofort antwortet, eine Datenbank als Vermittlerin dazwischen – und eine Worker-Schicht, die im Hintergrund das Heavy Lifting übernimmt.
Attention-Schicht: das Gesicht nach vorn
Die Attention-Schicht ist das, was dem Nutzer sofort antwortet. Sie hält die Konversation, klärt Rückfragen, nimmt Aufgaben entgegen und formuliert daraus Aufträge. Sie bleibt bewusst leichtgewichtig – ihre wichtigste Pflicht ist Reaktionsfähigkeit.
DB-Schicht: das Gedächtnis dazwischen
Die Datenbank ist die Kommunikation zwischen Front und Hintergrund: Die Attention-Schicht schreibt Aufträge hinein, Worker holen sie ab und legen Status und Ergebnisse zurück. Beide Seiten kennen sich nicht direkt – jede Übergabe ist persistiert und nachvollziehbar.
Worker-Schicht: das Heavy Lifting
Die Worker-Schicht macht die eigentliche Arbeit: lange Recherchen, Code-Generierung, Analysen, Agenten-Läufe. Sie zieht sich Aufträge aus der Datenbank, arbeitet sie im Hintergrund ab und schreibt die Ergebnisse zurück – ohne die Konversation je zu blockieren.
Das Zusammenspiel der drei Schichten – live animiert:
Der Effekt: Weiterschreiben statt Warten
Der Nutzer schickt eine große Aufgabe los und schreibt einfach weiter – über andere Themen, mit sofortigen Antworten. Sobald ein Worker fertig ist, liegt das Ergebnis in der Datenbank, und die Attention-Schicht reicht es in die laufende Konversation.
Die Trennung bringt mehr als Komfort: Worker lassen sich unabhängig skalieren, ein Absturz verliert keine Aufträge – alles steht in der Datenbank –, und jeder Auftrag ist dokumentiert. Es ist dieselbe Nachvollziehbarkeit, die auch den agentischen QA-Abnahmeprozess trägt.