On-Premise LLM in München
On-Premise LLM in München auf höchstem Niveau, zum bestmöglichen Preis.
Die GPU ist da, das Modell auch. Was fehlt, ist das Stück dazwischen: das Modell als zuverlässige private API, sicher erreichbar aus Ihrer Anwendung, mit Ergebnissen, denen Sie vertrauen können. Genau das ist der Auftrag.
Münchens Wirtschaft ruht auf großen Industrie- und Finanzkonzernen: Autoherstellern und ihren Zulieferern, Industrietechnologiekonzernen und einigen der weltweit größten Erst- und Rückversicherer. Software wird hier von Konzern-IT und Einkaufsabteilungen mit langen Qualifizierungsprozessen gekauft, und die Startup-Szene rund um die Technische Universität München verkauft Deep Tech oft genau an diese Konzerne.
Für einen Münchner Versicherer oder Autozulieferer lautet die KI-Frage, ob Schadensakten oder Konstruktionsunterlagen die Unternehmensgrenze überhaupt verlassen dürfen. Ein privates Modell in Ihrer eigenen Infrastruktur oder Ihrem EU-Cloud-Konto, mit Logs unter Ihrer Kontrolle, ermöglicht diesen Teams KI auf Daten, die eine geteilte API nie berühren dürfte.
Was Sie bekommen
- vLLM-Serving, abgestimmt auf Ihre GPU: Quantisierung auf dem nativen Kernel-Pfad, Dimensionierung des KV-Cache, Continuous Batching, Prefix Caching
- Ein privater Netzwerkpfad ohne öffentliche Erreichbarkeit, nachweislich als direkte Peer-Verbindung statt über ein Relay
- Schema-gebundene Antworten plus ein deterministisches QA-Gate, sodass eine falsche Antwort abgewiesen statt angezeigt wird
- Dokumentierte Ausgangswerte: Tokens pro Sekunde, Time to First Token, reale gleichzeitige Kapazität
- Infrastructure as Code in Ihrem Repository, ein Runbook, und sämtliche Zugangsdaten liegen bei Ihnen
Keine Vorauszahlung und kein Treuhandkonto nötig. Sie behalten jeden Dollar, bis ein Meilenstein geliefert und abgenommen ist, und dreißig Tage Fehlerbehebung sind inklusive. Umfang und Preis werden in einem Gespräch festgelegt.
Rechnungsstellung in USD oder EUR, zahlbar per Wise oder Banküberweisung.
Rückruf anfordern
Sie sprechen mit dem Entwickler, der die Arbeit macht. Kein Vertrieb, keine Verkaufspräsentation.
Wer hier entwickelt
On-Premise LLM
Münchens Versicherer und Industriekonzerne halten einige der sensibelsten Daten Europas, von Schadensakten bis zu unveröffentlichten Konstruktionen, und lassen sie nur selten an eine geteilte Modell-API gelangen.
Drei Phasen, nichts Verstecktes.
Analyse zum Festpreis
Fünf Werktage ab dem Tag, an dem die Zugänge stehen. Ihr Stack wird durchgängig geprüft, bestehende Arbeit begründet als beizubehalten oder zu ersetzen eingestuft, das Verbindungsdesign festgelegt und die Abnahmekriterien als prüfbare Aussagen formuliert.
Umsetzung in Meilensteinen
Rund drei Wochen. Für jeden Meilenstein gibt es schriftliche Abnahmekriterien, die vor Arbeitsbeginn vereinbart werden, und er wird erst nach Ihrer Abnahme in Rechnung gestellt. Auf Wunsch benennen Sie einen unabhängigen technischen Prüfer.
Übergabe und Abschluss
Eine echte Anfrage durch Ihre echte Anwendung, mit synthetischen Daten, die jede QA-Regel besteht. Runbook, aufgezeichnete Übergabe, und alle unsere Zugänge werden entfernt, schriftlich bestätigt.
Was hier tatsächlich gilt.
Regulierung und Daten
DSGVO und BDSG gelten, und private Unternehmen in Bayern unterliegen der Aufsicht des Bayerischen Landesamts für Datenschutzaufsicht (BayLDA). Die Mitbestimmung des Betriebsrats nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz ist bei Münchens großen Arbeitgebern Routine, daher braucht jedes Tool, das Beschäftigte überwachen kann, frühzeitig eine Einigung. Automobilzulieferer müssen in der Regel ein TISAX-Assessment vorweisen, und Fahrzeugsoftware fällt unter die Cybersicherheitsregeln der UNECE R155. Für Versicherer gilt seit Januar 2025 DORA, das für Unternehmen in seinem Anwendungsbereich die VAIT der BaFin abgelöst hat. Das deutsche NIS2-Umsetzungsgesetz (NIS2UmsuCG) gilt seit Dezember 2025. Die KI-Verordnung der EU ist seit August 2024 in Kraft: Die Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten seit August 2025, die Transparenzpflichten seit August 2026, während der Digital-Omnibus von 2026 die zentralen Hochrisiko-Pflichten auf Dezember 2027 für eigenständige Systeme wie Personalauswahl oder Kreditscoring und auf August 2028 für KI in regulierten Produkten verschoben hat.
Vertrag und Zahlung
Ihr Vertragspartner ist ein selbstständiger Berater mit Sitz in Indien. Rechnungen in EUR oder USD, Zahlung per Wise oder Banküberweisung. Ihre Buchhaltung behandelt einen ausländischen Lieferanten auf dem üblichen Weg, und alle Unterlagen, die sie benötigt, erhalten Sie, bevor Zugänge eingerichtet werden.
Arbeitszeiten
Mindestens vier Stunden tägliche Überschneidung über Ihren Vormittag nach mitteleuropäischer Zeit, mit Antworten am selben Tag an Werktagen.
Können Sie einen TISAX-Prozess oder eine IT-Qualifizierung im Konzern begleiten?
Ja, auf der technischen Seite. Das heißt: dokumentierte Architektur, personengebundene Zugänge mit minimalen Rechten in Ihren Konten und Nachweise für Ihren Sicherheitsfragebogen. Das Assessment selbst liegt bei Ihrer Organisation, und wir liefern das technische Material, das es braucht.
Kann das Modell auf unserer eigenen Hardware in Bayern laufen?
Ja. Ein privates Deployment kann auf Ihren eigenen Servern oder in einer EU-Region Ihres Cloud-Kontos laufen. Nichts wird an einen externen Modellanbieter gesendet, und Gewichte, Konfiguration und Logs bleiben nach der Übergabe bei Ihnen.
Wir haben bereits Hardware und ein laufendes Modell. Ist das ein Problem?
Das ist der ideale Ausgangspunkt. Bestehende Arbeit wird in der Analyse begründet eingestuft: unverändert beibehalten, mit Änderungen beibehalten oder ersetzt. Ersetzt wird nichts ohne Ihre schriftliche Zustimmung.
Ist ein vollständig Air-Gapped-Betrieb möglich?
Ja, einschließlich Spiegelung von Modell und Abhängigkeiten, Offline-Updates und lokaler Evaluierung, ganz ohne ausgehenden Netzwerkzugriff.
Wer hält die Konten?
Sie, durchgehend. Cloud-Konten werden von Ihnen angelegt und gehalten, unsere Zugänge sind personengebunden und mit minimalen Rechten ausgestattet, und sie werden bei der Übergabe entfernt, schriftlich bestätigt.