Für wen sich das lohnt
Viele Unternehmen dürfen Microsoft Copilot, ChatGPT oder Claude nicht einsetzen: Compliance, Kundendaten, Betriebsvereinbarungen. Diese Firmen fragen gerade am lautesten nach KI-Unterstützung für ihre Entwickler. Ein eigenes Modell im Haus löst den Konflikt, weil Quellcode, Prompts und Modellantworten unter Ihrer Kontrolle bleiben.
Passt, wenn
- Quellcode oder Kundendaten das Haus nachweisbar nicht verlassen dürfen
- eine Betriebsvereinbarung oder Compliance US-Cloud-KI ausschließt
- Sie in einer regulierten Branche arbeiten: Bank, Versicherung, Behörde, Gesundheitswesen, Medizintechnik
- ein Team KI regelmäßig nutzt, sodass sich eine eigene Instanz rechnet
Eher nicht, wenn
- ein kleines Team KI nur gelegentlich und mit unkritischen Daten nutzt
- Sie Tab-Autovervollständigung im Editor suchen statt agentischer Arbeit an ganzen Projekten
- Sie erwarten, dass ein lokales Modell Claude oder Copilot in jeder Aufgabe schlägt
Warum ein EU-Standort allein nicht reicht
Wo die Daten liegen, ist nicht dasselbe wie die Frage, wer rechtlich Zugriff hat. Der 2018 in Kraft getretene US-amerikanische CLOUD Act verpflichtet US-Unternehmen zur Herausgabe angeforderter Daten an US-Behörden, auch wenn die Server in der EU stehen. Wie real das ist, zeigte Microsoft im Juni 2025: Vor dem französischen Senat räumte der Konzern ein, die Herausgabe von in Frankreich gespeicherten Daten an US-Behörden nicht ausschließen zu können.
Das betrifft auch die als souverän vermarkteten Angebote. AWS betreibt seit Januar 2026 eine European Sovereign Cloud mit erster Region in Brandenburg und einem C5-Testat, dem Cloud-Sicherheitsnachweis des Bundesamts für Sicherheit in der Informationstechnik. Als US-Konzern bleibt AWS aber in der Reichweite des CLOUD Act. Und im November 2025 stuften die europäischen Aufsichtsbehörden gerade Amazon Web Services, Microsoft und Google als besonders kritische Anbieter ein, im Rahmen von DORA, einer EU-Regel, die Banken und Versicherer zu strengerer Kontrolle ihrer IT-Dienstleister verpflichtet. Die Sorge um echte Datenhoheit ist also keine Nische, sondern steht bei Aufsehern und Vorständen auf der Tagesordnung.
Deshalb zählt nicht nur der Standort, sondern der Anbieter: ein Rechenzentrumsbetreiber unter deutscher Jurisdiktion ohne US-Mutterkonzern. Ein Nachweis wie BSI C5 ist bei Banken, Versicherern und im Gesundheitswesen oft ohnehin Vertragsvoraussetzung, also die Eintrittskarte überhaupt. Bei der Anbieterwahl helfe ich; deutsche Häuser wie STACKIT (Schwarz-Gruppe) oder die Open Telekom Cloud gehören zum Kreis, den man dafür ernsthaft prüft.
Womit ich unterstütze
Modell- und Hardware-Wahl
Welches offene Modell zu Ihren Aufgaben passt und wie viel Grafikspeicher es wirklich braucht. Ehrlich nach Bedarf ausgelegt, nicht nach Datenblatt, denn beim agentischen Arbeiten entscheidet die Kontextlänge, nicht die Benchmark-Punktzahl.
Einrichtung im deutschen Rechenzentrum
Eine dedizierte GPU-Instanz bei einem deutschen Anbieter, die Sie auf eigenen Namen mieten. Ich richte die Modell-Laufzeit ein, sodass Ihre Werkzeuge sie ansprechen können.
Anbindung der Coding-Werkzeuge
Editor und Terminal gegen das eigene Modell gerichtet. Weil moderne Laufzeiten dieselbe Schnittstelle sprechen wie die großen Anbieter, lassen sich auch gewohnte Werkzeuge wie Claude Code weiter nutzen, nur ohne Datenabfluss.
Feinschliff für Ihren Code
Damit die KI Ihre Standards kennt, nicht umgekehrt: Konventionsdateien, wiederverwendbare Prompt-Bausteine und auf Wunsch ein eigenes Firmenmodell. Damit arbeitet die lokale KI so, wie in Ihrem Haus entwickelt wird.
Team-Schulung und Übergabe
Ihr Team lernt, produktiv damit zu arbeiten und die Grenzen der lokalen Modelle einzuschätzen. Danach übergebe ich den Betrieb, damit Sie nicht von mir abhängig bleiben.
So arbeiten wir zusammen
Ich bringe Ihre lokale KI zum Laufen und Ihr Team in die produktive Nutzung: Modell und Instanz einrichten, Ihre Werkzeuge anbinden, schulen und sauber übergeben. Ein Projekt mit klarem Ergebnis, an dessen Ende Ihr Team eigenständig weiterarbeitet.
Die Einbettung in Ihre Sicherheit läuft Hand in Hand mit Ihrer IT: Ich liefere die Anforderungen an den Modell-Server, Ihre Administratoren integrieren ihn in die bestehende Firewall- und Netzstruktur, die sie ohnehin am besten kennen. So bleibt jede Seite bei ihrer Stärke und Sie behalten die volle Kontrolle über Betrieb und Daten.
Was die lokale KI leistet
Für den Alltag Ihrer Entwickler ist die Qualität offener Modelle heute stark: ein bestehendes Projekt analysieren, Fehler finden, mehrere Dateien ändern und Tests schreiben, all das läuft lokal zuverlässig. Das deckt den Großteil der täglichen Arbeit ab.
Bei den absoluten Spitzenaufgaben, sehr langem agentischem Arbeiten über viele Dateien und komplexem Schlussfolgern, sind die großen Cloud-Modelle noch einen Schritt voraus. Das ist kein Nachteil, sondern eine bewusste Aufteilung: das Sensible und das Alltägliche bleibt souverän im eigenen Haus, für einzelne unkritische Spitzenfälle steht der Weg in die Cloud weiter offen. Ich sage Ihnen von Anfang an, wo diese Linie verläuft, damit Sie mit klaren Erwartungen und einem Aufbau starten, der wirklich zu Ihrer Arbeit passt.
Was es kostet
Eine dedizierte GPU-Instanz, also ein gemieteter Server mit eigener Grafik-Rechenleistung, bewegt sich je nach Ausbau im Bereich einiger hundert bis weniger tausend Euro im Monat und rechnet sich erst als Team-Angebot, nicht für einen einzelnen Entwickler. Diese Miete zahlen Sie direkt an das Rechenzentrum. Dazu kommt mein einmaliger Projektaufwand für Einrichtung, Anbindung und Schulung. Konkrete Zahlen nenne ich nach einem kurzen Gespräch über Ihren Bedarf, ohne Schätzung ins Blaue.
Warum ich
Ich bin seit über 20 Jahren Softwareentwickler und Architekt und unterrichte KI-gestützte Entwicklung als Dozent der GFU Cyrus AG in Köln. Lokale Modelle betreibe ich selbst und habe daraus einen 2-tägigen Kurs zum Programmieren mit lokalem LLM aufgebaut. Dieses Angebot ist die direkte Antwort auf eine Frage, die mir in meinen Schulungen immer wieder gestellt wird.
Ich rede nicht über Folien, sondern über das, was auf echter Hardware läuft: die richtige Modell- und Kontextwahl, die Anbindung der Werkzeuge und der nüchterne Blick darauf, was lokal heute trägt und was besser hybrid bleibt. Diese Kombination ist selten, weil die wenigsten beide Seiten kennen, die Technik und den Schulungsalltag mit echten Entwicklerteams.
Verwandte Themen
Hintergrund zum Thema: Lokale KI im Unternehmen: KI-Coding mit eigenem LLM statt Cloud. Wenn es Ihnen zuerst um die Befähigung des Teams geht: der KI-Coding-Workshop. Für die breitere KI-Einführung inklusive Datenschutz-Stufen und Automatisierung: KI-Einführung & Automatisierung.
