Lokale KI

KI, bei der deine Daten im Haus bleiben.

Nicht jede Information gehört in einen Cloud-Dienst. Für Kundendaten, Verträge, Personalakten oder Konstruktionspläne richten wir KI-Modelle ein, die auf deinem eigenen Server oder in einem Rechenzentrum deiner Wahl in der EU laufen. Die Daten verlassen deinen Einflussbereich nicht.

Projekt anfragen Häufige Fragen

Wann lokale KI sinnvoll ist

  • Schützenswerte DatenGesundheits-, Personal- oder Finanzdaten, die nicht zu einem Cloud-Anbieter sollen.
  • Vertragliche VorgabenKunden oder Auftraggeber verbieten die Weitergabe an Dritte.
  • UnabhängigkeitKeine Abhängigkeit von Preisänderungen und Nutzungsbedingungen großer Anbieter.
  • Ohne InternetDie KI soll auch offline funktionieren, etwa in der Produktion.

Für viele Aufgaben reichen Cloud-Modelle europäischer oder internationaler Anbieter völlig aus. Wir sagen dir ehrlich, welche Variante zu deinen Daten passt, und kombinieren bei Bedarf beides.

Was wir einrichten

Modelle für den lokalen Betrieb

Frei verfügbare Text-, Sprach- und Bildmodelle, die wir auf deine Aufgaben abstimmen. Sie laufen vollständig auf deiner Hardware.

Server und Betrieb

Ein eigener Server in deinem Betrieb oder ein gemieteter Server in einem Rechenzentrum in der EU, etwa in Deutschland. Wir beraten zur Hardware, richten alles ein und kümmern uns um Updates.

Anwendungen darauf

Assistenten, Agenten und durchsuchbares Firmenwissen, die das lokale Modell nutzen, mit Benutzerverwaltung und Protokoll.

Beispiel: AEGIS, unser Agentensystem, läuft vollständig lokal, ohne Cloud und ohne Weitergabe von Daten.

Dokumentation

Beschreibung der Verarbeitung, der technischen und organisatorischen Maßnahmen und der eingesetzten Modelle, als Grundlage für Datenschutz und AI Act.

Modelle und Anbieter

Wir sind an keinen Anbieter gebunden. Für den lokalen Betrieb setzen wir frei verfügbare Modelle ein, bei Bedarf kombiniert mit Cloud-Diensten für Aufgaben ohne sensible Daten.

Frei verfügbare Modelle, lokal betrieben

  • Mistral
  • Meta (Llama)
  • Google (Gemma)
  • Alibaba (Qwen)
  • DeepSeek
  • Microsoft (Phi)
  • IBM (Granite)
  • OpenAI (Whisper, Spracherkennung)
  • Stability AI (Bilder)
  • und weitere

Cloud-Dienste, bei Bedarf kombiniert

  • Anthropic (Claude)
  • OpenAI (GPT)
  • Google (Gemini)
  • Mistral
  • ElevenLabs (Sprache und Stimme)
  • DeepL (Übersetzung)
  • Perplexity (Recherche)
  • und weitere

Ehrlich gesagt: die Grenzen

Lokale Modelle sind heute sehr gut bei Texten, Zusammenfassungen und Fragen zu deinen Dokumenten. Bei besonders anspruchsvollen Aufgaben liegen die größten Cloud-Modelle oft noch vorne. Dazu kommen Kosten für Hardware oder Servermiete. Deshalb prüfen wir vorher mit deinen echten Aufgaben, ob die Qualität reicht.

So gehen wir vor

  1. Erstgespräch

    Kostenfrei und unverbindlich. Wir klären Daten, Aufgaben und Anforderungen.

  2. Test mit deinen Aufgaben

    Wir vergleichen lokale Modelle mit echten Beispielen aus deinem Alltag.

  3. Einrichtung

    Server, Modell und Anwendung, abgesichert und dokumentiert.

  4. Betrieb

    Updates, Modellwechsel und Betreuung, damit die Lösung aktuell bleibt.

Kosten

Den genauen Rahmen legen wir nach dem Erstgespräch in einem klaren Angebot fest.

Lokale KI-Einrichtung
ab 1.500 €

Modell, Server-Einrichtung und eine erste Anwendung, ohne Hardware.

Hardware oder Servermiete
nach Bedarf

Eigener Server oder gemieteter Server in der EU, getrennt ausgewiesen.

Erstgespräch
kostenfrei

Wir sagen dir ehrlich, ob lokal oder Cloud für deine Daten passt.

Passende Produkte und Workshops

Ein Produkt, das zeigt, wie lokale KI im Betrieb aussieht, und Workshops zum sicheren Umgang mit Daten.

AEGIS

Lokal betriebenes Agentensystem: ohne Cloud, Planung, Prüfung und Ausführung getrennt.

Mehr erfahren →

Workshop KI-Richtlinie für Mitarbeiter

Welche Daten in welches KI-Werkzeug dürfen, als schriftliche Regel für dein Team.

Mehr erfahren →

Workshop KI-Kompetenz nach Art. 4 AI Act

Sicherer und rechtskonformer Umgang mit KI im ganzen Team.

Mehr erfahren →

Häufige Fragen zu lokaler KI

Ist lokale KI automatisch DSGVO-konform?
Sie macht es deutlich einfacher, weil keine Daten an Dritte gehen. Zweck, Rechtsgrundlage, Zugriffsrechte und Löschfristen musst du trotzdem regeln. Wir liefern die technische Dokumentation dazu, eine Rechtsberatung ersetzt das nicht.
Welche Hardware brauchen wir?
Das hängt vom Modell und der Zahl der Nutzer ab. Für ein kleines Team reicht oft ein einzelner Server mit leistungsfähiger Grafikkarte, alternativ ein gemieteter Server im Rechenzentrum. Wir empfehlen erst nach dem Test mit deinen Aufgaben.
Können wir lokale und Cloud-KI kombinieren?
Ja, und das ist oft die beste Lösung: Sensible Daten bleiben beim lokalen Modell, allgemeine Aufgaben übernimmt ein Cloud-Modell. Welche Daten wohin dürfen, legen wir gemeinsam fest, gerne auch als schriftliche KI-Richtlinie.
Wer kümmert sich um Updates?
Auf Wunsch wir. Neue Modelle erscheinen laufend, wir prüfen sie und tauschen sie aus, wenn sie für deine Aufgaben besser sind.
Was kostet lokale KI?
Die Einrichtung eines lokalen Modells mit einer ersten Anwendung beginnt bei 1.500 Euro, ohne Hardware. Eigener Server oder Servermiete kommen je nach Bedarf dazu, wir weisen sie getrennt aus.

Weiterlesen

Aus dem Blog

Begriffe erklärt

Weitere KI-Leistungen

KI-Lösungen im Überblick

Beratung, Assistenten, Agenten, Firmenwissen, Infrastruktur und Schulung auf einen Blick.

Mehr erfahren →

Firmenwissen mit KI

Antworten aus deinen eigenen Dokumenten, mit Quellenangabe. Wissensassistent ab 1.000 €.

Mehr erfahren →

KI-Agenten

Agenten, die mehrstufige Aufgaben erledigen, mit Freigabe durch dich. Einzelne Agenten ab 2.000 €.

Mehr erfahren →