Zum Inhalt

Komponenten

Plattform-Komponenten der Inovetra AI Platform

Übersicht aller Services, deren Kubernetes-Ressourcentypen, Ports, Zweck und Abhängigkeiten. Alle Komponenten laufen im Namespace inovetra-platform.


Applikations-Services

Service Typ Port Zweck Abhängigkeiten
LibreChat Deployment — (via Ingress) Chat-Frontend und -Backend MongoDB, LiteLLM, RAG API
Customer API Deployment 8000 Plattform-Management-Backend PostgreSQL, MongoDB, K8s API
Customer Portal Deployment 80/443 Self-Service Admin-UI Customer API
RAG API Deployment 8443 Dokumenten-Ingestion & RAG-Queries Qdrant, MinIO, Redis, LiteLLM
Connector Service Deployment 8000 Datenquellen-Synchronisation (SharePoint, GitHub, Confluence, Bitbucket, SMB) PostgreSQL, RAG API
OS Manager DaemonSet 8080 Host-OS-Operationen Host-Dateisystem (/host)
LiteLLM Deployment 4000 LLM-Proxy Central LLM Proxy / direkte Provider
Embedding Service Deployment 8080 Lokale Embedding-Berechnung (ONNX)
SearXNG Deployment (inovetra-searxng) 8080 Meta-Suchmaschine für die Websuche von Inovetra AI Internet-Zugang
web-scraper Deployment (inovetra-web-scraper) 8080 Inhaltsabruf gefundener Webseiten (Firecrawl-kompatibel, kein JS-Rendering) Internet-Zugang

On-demand-Komponenten (ab Chart 0.81.67)

SearXNG und web-scraper laufen nur bei aktivierter Websuche. Beim Umlegen des Websuche-Schalters (Customer Portal → KI-Einstellungen) skaliert die Customer API beide Deployments zwischen replicas 0 und 1. Standardmäßig sind beide auf 0 (Websuche aus). Details: Websuche und Runbook Websuche.

Infrastruktur-Services

Service Typ Port Zweck Storage
PostgreSQL Deployment 5432 Relationale DB (Customer API, Connector Service, LiteLLM) 10Gi PVC
MongoDB StatefulSet 27017 Dokumenten-DB (LibreChat) 10Gi PVC
Redis Deployment 6379 Cache & Conversation Memory 2Gi PVC
Qdrant Deployment 6333/6334 Vektordatenbank 20Gi PVC
MinIO StatefulSet 9000/9001 Objektspeicher (Uploads) / Admin-Console 50Gi PVC
Ingress Controller Deployment 80/443 HTTPS-Terminierung & Routing

Namespace

Alle oben genannten Services laufen im Namespace inovetra-platform. Verwenden Sie bei allen kubectl-Befehlen den Parameter -n inovetra-platform.


Health-Check-Endpunkte

Health Checks

Die folgenden Endpunkte können zur Überwachung der Service-Verfügbarkeit genutzt werden:

Service Endpunkt Beschreibung
Customer API GET /health Liveness-Check
Customer API GET /ready Readiness-Check (inkl. DB-Verbindung)
RAG API GET /health Liveness-Check
Connector Service GET /health Liveness-Check
OS Manager GET /health Liveness-Check

Weiterführende Seiten