Taris: Der KI-Assistent, bei dem Daten beim Kunden bleiben

2026-06-26 · Sintaris · taris, rag, on-prem, ollama, vendor-neutral, smb, ai-platform

Taris: Der KI-Assistent, bei dem Daten beim Kunden bleiben

TL;DR. Taris ist ein KI-Assistent, bei dem die Daten des Kunden nicht zum Anbieter wandern. Grundprinzip: das Modell ist ein Plugin hinter einer stabilen Schnittstelle — nicht das Zentrum der Architektur. Innen: Vendor-Neutral LLM-Dispatcher, hybrides RAG (BM25 + Dense + RRF + Cross-Encoder Rerank), Multi-Tenant Postgres mit pgvector, optional lokale Modelle via Ollama. Dieser Artikel beschreibt, wie Taris aufgebaut ist, warum es so aufgebaut ist — und wo das für KMU in der EU und der GUS Vorteile bringt.

1. Das Problem: „Nehmen wir GPT-4 — und vergessen den Rest"

Wenn ein Kleinunternehmer fragt „welchen KI-Assistenten sollen wir einsetzen?", bekommt er üblicherweise eine von zwei Extremantworten:

Taris ist der dritte Weg: eine produktisierte Basis (Modell-Dispatcher, hybrides RAG, Multi-Tenant Postgres, Kanal-Adapter), die wir für den Kunden einsetzen und beim Kunden belassen. Kein SaaS. Kein „von Grund auf bauen." Ein Halbprodukt, das sich klar anpassen lässt.

2. Für wen das relevant ist

3. Der häufige Fehler

Was wir in 70 % der „Pilots" sehen, die vor uns begonnen wurden:

4. Der technische Ansatz: Was in Taris steckt

Architektur — vier unabhängige Schichten:

flowchart LR
  subgraph Kanäle
    TG[Telegram Bot]
    WEB[Web UI / PWA]
    VOICE[Sprache]
    API[REST API]
  end
  subgraph Kern
    GW[FastAPI Gateway]
    ORCH[Agenten-Orchestrator]
    DISP[LLM Dispatcher]
    KB[KB Service]
    AUTH[Auth + RBAC]
  end
  subgraph Speicher
    PG[(Postgres + pgvector)]
    OBJ[(MinIO / S3)]
    LOG[(Audit-Log)]
  end
  subgraph Modelle
    LOCAL[Ollama / llama.cpp]
    CLOUD[OpenAI / Anthropic / Gemini / YandexGPT]
  end
  TG --> GW
  WEB --> GW
  VOICE --> GW
  API --> GW
  GW --> AUTH --> ORCH
  ORCH --> KB --> PG
  ORCH --> DISP
  DISP --> LOCAL
  DISP --> CLOUD
  ORCH --> LOG

Jede Schicht ist ersetzbar — das ist der Kernpunkt. Kanäle sind Adapter. Das Modell ist ein Plugin. Speicher ist ein Backend. Der Orchestrator ist der einzige Ort, wo Geschäftslogik lebt. Wenn OpenAI morgen seine Preise verdreifacht, wechselt eine Taris-Installation mit einer einzigen Konfigurationsdatei.

4.1. LLM-Dispatcher

class LLMProvider(Protocol):
    async def complete(
        self,
        messages: list[ChatMessage],
        *,
        max_tokens: int,
        temperature: float,
        tools: list[Tool] | None = None,
    ) -> ChatCompletion: ...

Sieben konkrete Anbieter: OpenAI, Anthropic, Gemini, YandexGPT, OpenRouter, Ollama, llama.cpp. Routing über YAML:

default: openrouter:openai/gpt-4o-mini
routes:
  - match: { task: rerank }
    use:   ollama:bge-reranker-base
  - match: { task: summary, locale: ru }
    use:   yandexgpt:latest
  - match: { sensitive: true }
    use:   ollama:llama3.1:8b
fallback:
  - openrouter:anthropic/claude-3-5-sonnet
  - ollama:llama3.1:8b

4.2. Hybrides RAG mit RRF

Retrieval — drei Durchgangsstufen:

  1. Lexikalisch (BM25) — Postgres FTS mit sprachbewusstem Analyzer für RU/EN/DE/SL.
  2. Dense — pgvector Cosinus, Standard text-embedding-3-small, für On-Prem — bge-m3.
  3. Metadaten-Boost — exakte Übereinstimmung bei Tags (product, section, last_updated).

Fusion — Reciprocal Rank Fusion:

$$ \text{score}(d) = \sum_{i \in \text{retrievers}} \frac{1}{k + \text{rank}_i(d)}, \quad k = 60 $$

Dann Cross-Encoder Rerank (bge-reranker-base) auf Top-5. Empirischer Gewinn auf unserem internen Arbeitssicherheits-Golden-Set: Recall@5 0,71 → 0,88 (RRF vs. Pure Dense), Grounding-Rate +0,07 nach Rerank. Das ist kein „etwas besser" — das ist der Unterschied zwischen „verwendbar" und „dem Kunden Geld zurückgeben."

4.3. Multi-Tenant Postgres mit RLS

CREATE POLICY tenant_isolation ON chunks
  USING (tenant_id = current_setting('app.tenant_id')::int);

Jede Verbindung setzt vor der Abfrage SET app.tenant_id = $1. Es ist unmöglich, versehentlich Daten eines anderen Kunden zu lesen: die Datenbank erzwingt das selbst.

5. Tabelle: Welche Komponenten sind ersetzbar

Schicht Standard Alternative Wechselkosten
Embedding text-embedding-3-small bge-m3 Config + Neuindizierung
Reranker bge-reranker-base mxbai-rerank Config
Vektorspeicher pgvector Qdrant docker-compose + Migration
LLM gpt-4o-mini claude-3-5-sonnet, llama3.1:8b Config
Kanal Telegram Web / VK / Slack / WhatsApp Adapter ~200 Zeilen
Dateispeicher MinIO S3 / Nextcloud Config
Deployment Docker Compose Kubernetes / Nomad Manifeste

6. SINTARIS-Minicase

Das Produkt Worksafety Superassistant ist ein Beispiel für Taris im realen Einsatz. Aufgabe:

Technische Umsetzung:

Metriken nach 90 Tagen:

Details: Worksafety § 6 RAG pipeline und OpenClaw § 8 AI dispatch.

7. Checkliste (15 Punkte) bei der Auswahl eines KI-Assistenten für KMU

  1. Vendor-Lock-In geprüft: Können Sie den LLM-Anbieter in einer Woche wechseln?
  2. Daten — wo werden Kundendokumente physisch gespeichert?
  3. Embeddings — wo werden sie gespeichert? (oft vergessen: sie sind auch PII-Ableitungen)
  4. DPA unterzeichnet mit jedem LLM-Anbieter, den Sie nutzen.
  5. Eval-Set — haben Sie eines, und wie viele Fragen sind darin?
  6. Zitierung — generiert das System Quellenverweise?
  7. Grounding-Rate — wird sie gemessen? (wenn nicht — weiß niemand, ob das Modell lügt)
  8. Retrieval-Regression nach jeder Prompt-Änderung getestet?
  9. Multi-Tenant-Sicherheit — RLS auf DB-Ebene, nicht nur „im Code abgesprochen"?
  10. Lokale Modelle verfügbar — gibt es einen Plan B, wenn die Cloud ausfällt?
  11. Kosten pro Token — in Echtzeit überwacht?
  12. DSAR + Löschung — als Code implementiert, nicht als manuelle Prozedur?
  13. Audit-Log — vorhanden, unveränderlich, mit erforderlicher Aufbewahrungsfrist?
  14. Kanäle — ist das Hinzufügen eines neuen Kanals < 500 Zeilen oder ein Kern-Rewrite?
  15. Dokumentation — in welcher Sprache, für wen, wie oft aktualisiert?

8. Risiken

9. Was als Nächstes zu tun ist

Wenn Sie bereits einen KI-Assistenten haben und es Zeit ist, ihn zu ersetzen — wir machen einen KI-Audit für €900–4500. Wenn Sie Taris ausprobieren möchten — gibt es einen KI-Pilot über 4–8 Wochen für €3000–12000 mit festem Umfang. −25 % für slowenische Unternehmen vom 1. bis 30. Juni 2026 — siehe Pakete.

Wenn Sie zuerst lesen möchten — schauen Sie in die KB-Kapitel Taris (vollständige Beschreibung) und OpenClaw (On-Prem-Topologie).

10. Quellen

Sintaris führt KI-Prozessaudits, KI-Pilots und Taris-Implementierungen für KMU in der EU und der GUS durch. Discovery-Call — kostenlos, 30 Minuten.