On-Premise LLM in Wien
On-Premise LLM in Wien auf höchstem Niveau, zum bestmöglichen Preis.
Die GPU ist da, das Modell auch. Was fehlt, ist das Stück dazwischen: das Modell als zuverlässige private API, sicher erreichbar aus Ihrer Anwendung, mit Ergebnissen, denen Sie vertrauen können. Genau das ist der Auftrag.
Wien vereint einen großen öffentlichen und internationalen Sektor, Banken mit Netzwerken in Mittel- und Osteuropa, einen starken Life-Sciences-Cluster und eine wachsende Startup-Szene, die von öffentlichen Förderstellen unterstützt wird. Ein Großteil der österreichischen Wirtschaft besteht aus etablierten, oft familiengeführten Industrie- und Dienstleistungsunternehmen, die sorgfältig einkaufen, Wert auf Datenschutz legen und von einem Dienstleister erwarten, genau zu erklären, wohin Daten fließen.
Datenschutz hat bei österreichischen Kunden echtes Gewicht, und viele schicken interne Dokumente nicht an einen KI-Dienst aus den USA. Ein privates Modell auf Ihren eigenen Servern oder in einer EU-Region Ihres Kontos, ohne ausgehende Verbindungen, räumt diesen Einwand aus.
Was Sie bekommen
- vLLM-Serving, abgestimmt auf Ihre GPU: Quantisierung auf dem nativen Kernel-Pfad, Dimensionierung des KV-Cache, Continuous Batching, Prefix Caching
- Ein privater Netzwerkpfad ohne öffentliche Erreichbarkeit, nachweislich als direkte Peer-Verbindung statt über ein Relay
- Schema-gebundene Antworten plus ein deterministisches QA-Gate, sodass eine falsche Antwort abgewiesen statt angezeigt wird
- Dokumentierte Ausgangswerte: Tokens pro Sekunde, Time to First Token, reale gleichzeitige Kapazität
- Infrastructure as Code in Ihrem Repository, ein Runbook, und sämtliche Zugangsdaten liegen bei Ihnen
Keine Vorauszahlung und kein Treuhandkonto nötig. Sie behalten jeden Dollar, bis ein Meilenstein geliefert und abgenommen ist, und dreißig Tage Fehlerbehebung sind inklusive. Umfang und Preis werden in einem Gespräch festgelegt.
Rechnungsstellung in USD oder EUR, zahlbar per Wise oder Banküberweisung.
Rückruf anfordern
Sie sprechen mit dem Entwickler, der die Arbeit macht. Kein Vertrieb, keine Verkaufspräsentation.
Wer hier entwickelt
KI-Datenanalyst
Wiens etablierte Unternehmen haben jahrelange Daten in ERP- und operativen Datenbanken und nur wenige Leute, die sie abfragen können. Ein Analyst auf einem schreibgeschützten Replikat in der eigenen Umgebung liefert schnell Antworten und hält die Daten dort, wo österreichische Kunden sie erwarten.
Drei Phasen, nichts Verstecktes.
Analyse zum Festpreis
Fünf Werktage ab dem Tag, an dem die Zugänge stehen. Ihr Stack wird durchgängig geprüft, bestehende Arbeit begründet als beizubehalten oder zu ersetzen eingestuft, das Verbindungsdesign festgelegt und die Abnahmekriterien als prüfbare Aussagen formuliert.
Umsetzung in Meilensteinen
Rund drei Wochen. Für jeden Meilenstein gibt es schriftliche Abnahmekriterien, die vor Arbeitsbeginn vereinbart werden, und er wird erst nach Ihrer Abnahme in Rechnung gestellt. Auf Wunsch benennen Sie einen unabhängigen technischen Prüfer.
Übergabe und Abschluss
Eine echte Anfrage durch Ihre echte Anwendung, mit synthetischen Daten, die jede QA-Regel besteht. Runbook, aufgezeichnete Übergabe, und alle unsere Zugänge werden entfernt, schriftlich bestätigt.
Was hier tatsächlich gilt.
Regulierung und Daten
Die DSGVO wird von der österreichischen Datenschutzbehörde durchgesetzt, und in Wien sitzt noyb, die von Max Schrems gegründete Datenschutzorganisation, deren Verfahren die EU-Regeln für Übermittlungen personenbezogener Daten in die USA geprägt haben. Österreichs NIS2-Gesetz, das NISG 2026, wurde im Dezember 2025 beschlossen und gilt ab 1. Oktober 2026, mit einem neuen Bundesamt für Cybersicherheit. Banken und Versicherer unterliegen der FMA, und DORA gilt für sie seit Januar 2025. Die RTR betreibt eine KI-Servicestelle, die zur KI-Verordnung der EU berät, während die formelle Benennung der österreichischen Aufsichtsbehörden für die KI-Verordnung zum Zeitpunkt der Erstellung noch diskutiert wurde. Die meisten Hochrisiko-Pflichten der KI-Verordnung gelten nun ab Dezember 2027.
Vertrag und Zahlung
Ihr Vertragspartner ist ein selbstständiger Berater mit Sitz in Indien. Rechnungen in EUR oder USD, Zahlung per Wise oder Banküberweisung. Ihre Buchhaltung behandelt einen ausländischen Lieferanten auf dem üblichen Weg, und alle Unterlagen, die sie benötigt, erhalten Sie, bevor Zugänge eingerichtet werden.
Arbeitszeiten
Mindestens vier Stunden tägliche Überschneidung über Ihren Vormittag nach mitteleuropäischer Zeit, mit Antworten am selben Tag an Werktagen.
Ist das NISG 2026 für unser KI-Projekt relevant?
Wenn Ihr Unternehmen in den Anwendungsbereich des österreichischen NIS2-Gesetzes fällt, unterliegen ab 1. Oktober 2026 auch Ihre Lieferanten dessen Regeln zur Sicherheit der Lieferkette. Wir arbeiten mit personengebundenen Zugängen, Infrastruktur in Ihren Konten und dokumentierten Kontrollen, und genau darauf achtet Ihre NIS2-Bewertung eines Lieferanten.
Können die Antworten auf Deutsch kommen?
Ja. Nutzer können auf Deutsch fragen und erhalten Antworten auf Deutsch, während SQL, Logs und technische Dokumentation auf Englisch bleiben. Wir testen deutschsprachige Fragen vor der Übergabe gemeinsam mit Ihrem Team.
Welche Überschneidung haben wir mit den Wiener Arbeitszeiten?
Mindestens vier Stunden tägliche Überschneidung über Ihren Vormittag nach mitteleuropäischer Zeit, mit Antworten am selben Tag an Werktagen. Damit bleibt Raum für ein wöchentliches Review mit Ihrem Team und kurze Calls, wann immer eine Entscheidung ansteht, alles innerhalb Ihres normalen Vormittags.
Wir haben bereits Hardware und ein laufendes Modell. Ist das ein Problem?
Das ist der ideale Ausgangspunkt. Bestehende Arbeit wird in der Analyse begründet eingestuft: unverändert beibehalten, mit Änderungen beibehalten oder ersetzt. Ersetzt wird nichts ohne Ihre schriftliche Zustimmung.
Ist ein vollständig Air-Gapped-Betrieb möglich?
Ja, einschließlich Spiegelung von Modell und Abhängigkeiten, Offline-Updates und lokaler Evaluierung, ganz ohne ausgehenden Netzwerkzugriff.
Wer hält die Konten?
Sie, durchgehend. Cloud-Konten werden von Ihnen angelegt und gehalten, unsere Zugänge sind personengebunden und mit minimalen Rechten ausgestattet, und sie werden bei der Übergabe entfernt, schriftlich bestätigt.