On-Premise LLM in Berlin
On-Premise LLM in Berlin auf höchstem Niveau, zum bestmöglichen Preis.
Die GPU ist da, das Modell auch. Was fehlt, ist das Stück dazwischen: das Modell als zuverlässige private API, sicher erreichbar aus Ihrer Anwendung, mit Ergebnissen, denen Sie vertrauen können. Genau das ist der Auftrag.
Berlin ist Deutschlands Startup-Hauptstadt: Wagniskapitalfinanzierte Unternehmen aus Fintech, E-Commerce, Mobilität und Consumer-Apps arbeiten auf Englisch, stellen international ein und bewegen sich schneller als der Rest des deutschen Markts. Zugleich ist Berlin Sitz der Bundesregierung, sodass neben den Startups ein zweiter, langsamerer Markt aus Ministerien, Behörden und deren Auftragnehmern besteht. Startups kaufen nach Tempo und Vertrauen in die Gründer, öffentliche Auftraggeber über formelle Ausschreibungen.
Berliner Startups, die an deutsche Konzerne oder öffentliche Stellen verkaufen, stoßen im Einkauf immer wieder auf dieselbe Frage: Wo werden die Prompts verarbeitet? Ein Modell, das aus einer EU-Region Ihres eigenen Cloud-Kontos bereitgestellt wird, mit Logs in Ihrer Hand, beantwortet sie, bevor sie den Deal blockiert.
Was Sie bekommen
- vLLM-Serving, abgestimmt auf Ihre GPU: Quantisierung auf dem nativen Kernel-Pfad, Dimensionierung des KV-Cache, Continuous Batching, Prefix Caching
- Ein privater Netzwerkpfad ohne öffentliche Erreichbarkeit, nachweislich als direkte Peer-Verbindung statt über ein Relay
- Schema-gebundene Antworten plus ein deterministisches QA-Gate, sodass eine falsche Antwort abgewiesen statt angezeigt wird
- Dokumentierte Ausgangswerte: Tokens pro Sekunde, Time to First Token, reale gleichzeitige Kapazität
- Infrastructure as Code in Ihrem Repository, ein Runbook, und sämtliche Zugangsdaten liegen bei Ihnen
Keine Vorauszahlung und kein Treuhandkonto nötig. Sie behalten jeden Dollar, bis ein Meilenstein geliefert und abgenommen ist, und dreißig Tage Fehlerbehebung sind inklusive. Umfang und Preis werden in einem Gespräch festgelegt.
Rechnungsstellung in USD oder EUR, zahlbar per Wise oder Banküberweisung.
Rückruf anfordern
Sie sprechen mit dem Entwickler, der die Arbeit macht. Kein Vertrieb, keine Verkaufspräsentation.
Wer hier entwickelt
App- und MVP-Entwicklung
Der typische Berliner Kunde ist ein finanzierter Gründer mit einem kleinen, englischsprachigen Team, der vor der nächsten Finanzierungsrunde ein funktionierendes Produkt braucht und innerhalb einer Woche entscheiden kann, statt eine Ausschreibung durchzuführen.
Drei Phasen, nichts Verstecktes.
Analyse zum Festpreis
Fünf Werktage ab dem Tag, an dem die Zugänge stehen. Ihr Stack wird durchgängig geprüft, bestehende Arbeit begründet als beizubehalten oder zu ersetzen eingestuft, das Verbindungsdesign festgelegt und die Abnahmekriterien als prüfbare Aussagen formuliert.
Umsetzung in Meilensteinen
Rund drei Wochen. Für jeden Meilenstein gibt es schriftliche Abnahmekriterien, die vor Arbeitsbeginn vereinbart werden, und er wird erst nach Ihrer Abnahme in Rechnung gestellt. Auf Wunsch benennen Sie einen unabhängigen technischen Prüfer.
Übergabe und Abschluss
Eine echte Anfrage durch Ihre echte Anwendung, mit synthetischen Daten, die jede QA-Regel besteht. Runbook, aufgezeichnete Übergabe, und alle unsere Zugänge werden entfernt, schriftlich bestätigt.
Was hier tatsächlich gilt.
Regulierung und Daten
Die DSGVO gilt zusammen mit dem Bundesdatenschutzgesetz (BDSG), und private Unternehmen in Berlin unterliegen der Aufsicht der Berliner Beauftragten für Datenschutz und Informationsfreiheit. Wo es einen Betriebsrat gibt, braucht jedes Tool, das Verhalten oder Leistung von Beschäftigten überwachen kann, nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz dessen Zustimmung, und das betrifft oft auch KI-Assistenten, die Nutzung protokollieren. Digitale Gesundheitsanwendungen, die eine Erstattung anstreben, durchlaufen das DiGA-Verfahren des BfArM. Das deutsche NIS2-Umsetzungsgesetz (NIS2UmsuCG) gilt seit Dezember 2025, und das Bundesgesetz zur KI-Marktüberwachung vom Juli 2026 macht die Bundesnetzagentur zur zentralen Behörde für die KI-Verordnung. Die KI-Verordnung der EU ist seit August 2024 in Kraft: Die Regeln für KI-Modelle mit allgemeinem Verwendungszweck gelten seit August 2025, die Transparenzpflichten seit August 2026, während der Digital-Omnibus von 2026 die zentralen Hochrisiko-Pflichten auf Dezember 2027 für eigenständige Systeme wie Personalauswahl oder Kreditscoring und auf August 2028 für KI in regulierten Produkten verschoben hat.
Vertrag und Zahlung
Ihr Vertragspartner ist ein selbstständiger Berater mit Sitz in Indien. Rechnungen in EUR oder USD, Zahlung per Wise oder Banküberweisung. Ihre Buchhaltung behandelt einen ausländischen Lieferanten auf dem üblichen Weg, und alle Unterlagen, die sie benötigt, erhalten Sie, bevor Zugänge eingerichtet werden.
Arbeitszeiten
Mindestens vier Stunden tägliche Überschneidung über Ihren Vormittag nach mitteleuropäischer Zeit, mit Antworten am selben Tag an Werktagen.
Arbeiten Sie auch mit einem Berliner Startup, das auf Englisch arbeitet?
Ja. Alle Arbeit, Dokumentation und Gespräche laufen auf Englisch, was zu den meisten Berliner Startup-Teams passt. Wenn eine deutsche Behörde oder ein Konzernkunde Unterlagen für den Einkauf braucht, ist die technische Dokumentation so geschrieben, dass Ihr Team sie übersetzen oder anpassen kann.
Bleiben unsere Daten in der EU?
Ja. Deployments erfolgen in eine EU-Region Ihres eigenen Cloud-Kontos, etwa Frankfurt, oder auf Ihre eigene Hardware. Modell, Serving-Schicht und Logs bleiben innerhalb dieser Grenze, und Zugänge sind personengebunden, eingeschränkt und werden bei der Übergabe entfernt.
Wie passen die Arbeitszeiten zu Berlin?
Mindestens vier Stunden tägliche Überschneidung über Ihren Vormittag nach mitteleuropäischer Zeit, mit Antworten am selben Tag an Werktagen. Die Arbeit erfolgt remote aus Indien, es gibt also keine Treffen vor Ort, aber Reviews und Demos finden per Call an Ihrem Vormittag statt.
Wir haben bereits Hardware und ein laufendes Modell. Ist das ein Problem?
Das ist der ideale Ausgangspunkt. Bestehende Arbeit wird in der Analyse begründet eingestuft: unverändert beibehalten, mit Änderungen beibehalten oder ersetzt. Ersetzt wird nichts ohne Ihre schriftliche Zustimmung.
Ist ein vollständig Air-Gapped-Betrieb möglich?
Ja, einschließlich Spiegelung von Modell und Abhängigkeiten, Offline-Updates und lokaler Evaluierung, ganz ohne ausgehenden Netzwerkzugriff.
Wer hält die Konten?
Sie, durchgehend. Cloud-Konten werden von Ihnen angelegt und gehalten, unsere Zugänge sind personengebunden und mit minimalen Rechten ausgestattet, und sie werden bei der Übergabe entfernt, schriftlich bestätigt.