Paikallinen LLM-käyttöönotto Helsingissä
Paikallinen LLM-käyttöönotto Helsingissä parhaalla laadulla ja parhaaseen saatavilla olevaan hintaan.
Teillä on GPU ja teillä on malli. Puuttuu se, mikä on niiden välissä: malli luotettavana yksityisenä rajapintana, johon sovelluksenne yhdistää turvallisesti ja joka palauttaa dataa, johon voi luottaa. Siitä koko toimeksianto koostuu.
Helsinki ja naapurikaupunki Espoo yhdistävät Nokian ajoilta periytyvän syvän insinööriosaamisen, peliteollisuuden, vahvan deep tech -startupkentän ja julkisen sektorin, joka rakensi kansallisen kehyksen sosiaali- ja terveystietojen turvalliselle toissijaiselle käytölle. Suomalaiset ostajat ovat käytännöllisiä ja suoria: he haluavat selkeän teknisen suunnitelman, rehelliset arviot ja kirjalliset sopimukset, ja luottamus toimittajaan syntyy yleensä, kun ensimmäinen toimitus pitää.
Suomalaiset terveys-, vakuutus- ja julkisen sektorin organisaatiot toimivat tiukkojen sääntöjen alla siitä, missä dataa saa käsitellä. Yksityinen malli suomalaisella tai EU:n datakeskusalueella tai omilla palvelimillanne pitää arkaluonteisen tekstin niiden rajojen sisällä, joita säännöt edellyttävät.
Mitä saatte
- vLLM-palvelu viritettynä GPU:llenne: kvantisointi natiivilla kernel-polulla, KV-välimuistin mitoitus, continuous batching ja prefix caching
- Yksityinen verkkoyhteys ilman julkista näkyvyyttä, todennettu suoraksi vertaisyhteydeksi eikä välityspalvelimen kautta kulkevaksi
- Skeemaan sidotut vastaukset ja deterministinen laatutarkistus, joten väärä vastaus hylätään eikä sitä näytetä
- Dokumentoitu lähtötaso: tokenit sekunnissa, aika ensimmäiseen tokeniin ja todellinen samanaikainen kapasiteetti
- Infrastruktuuri koodina omassa repositoriossanne, runbook ja kaikki tunnukset teidän hallussanne
Ei ennakkomaksua eikä sulkutiliä. Jokainen dollari pysyy teillä, kunnes välitavoite on toimitettu ja hyväksytty, ja kolmenkymmenen päivän virhekorjaus sisältyy hintaan. Laajuus ja hinta sovitaan puhelussa.
Laskutus Yhdysvaltain dollareissa tai euroissa, maksu Wisen kautta tai tilisiirtona.
Jätä soittopyyntö
Puhutte suoraan sen kehittäjän kanssa, joka tekee työn. Ei myyjiä, ei esitysdioja.
Kuka täällä rakentaa
Osa-aikainen CTO
Helsingissä on paljon teknisesti vahvoja perustajia Aallosta, peliteollisuudesta ja tutkimuslaboratorioista, jotka rakentavat nyt omia yrityksiään. He tarvitsevat usein osa-aikaista senior-tason näkemystä arkkitehtuurista, pilvikuluista ja rekrytoinneista, kun he itse keskittyvät tuotteeseen ja rahoitukseen.
Kolme vaihetta, kaikki näkyvissä.
Kiinteähintainen arviointi
Viisi arkipäivää siitä, kun pääsyoikeudet ovat kunnossa. Ympäristönne käydään läpi päästä päähän, nykyinen työ luokitellaan perusteluineen säilytettäväksi tai korvattavaksi, yhteysratkaisu suunnitellaan ja hyväksymiskriteerit kirjataan testattaviksi väittämiksi.
Toteutus välitavoitteittain
Noin kolme viikkoa. Jokaisella välitavoitteella on kirjalliset hyväksymiskriteerit, joista sovitaan ennen työn alkua, ja se laskutetaan vasta, kun olette hyväksyneet sen. Voitte halutessanne nimetä riippumattoman teknisen arvioijan.
Luovutus ja päättäminen
Yksi todellinen pyyntö oikean sovelluksenne läpi synteettisellä datalla niin, että se läpäisee jokaisen laatusäännön. Runbook, tallennettu luovutus ja kaikkien pääsyoikeuksiemme poisto kirjallisesti vahvistettuna.
Mikä täällä oikeasti pätee.
Sääntely ja data
Tietosuoja-asetuksen (GDPR) noudattamista valvoo tietosuojavaltuutetun toimisto. Suomen kyberturvallisuuslaki panee täytäntöön NIS2-direktiivin: velvoitteet ovat olleet voimassa 8. huhtikuuta 2025 lähtien, ja keskeinen viranomainen on Traficom. Ensimmäiset EU:n tekoälysäädöksen täytäntöönpanotoimet tulivat voimaan 1. tammikuuta 2026: Traficom on keskitetty yhteyspiste, tietosuojavaltuutettu valvoo kiellettyjä käytäntöjä ja alakohtaiset viranomaiset, kuten Finanssivalvonta, vastaavat omista aloistaan. Sosiaali- ja terveystietojen toissijaista käyttöä sääntelee oma lakinsa ja lupaviranomainen Findata. DORA-asetusta on sovellettu finanssialan toimijoihin tammikuusta 2025, ja useimmat EU:n tekoälysäädöksen suuririskisiä järjestelmiä koskevat velvoitteet tulevat nyt sovellettaviksi joulukuusta 2027.
Sopimukset ja maksaminen
Sopimuskumppaninanne on Intiassa toimiva itsenäinen konsultti. Laskut euroissa tai dollareissa, maksu Wisen kautta tai tilisiirtona. Kirjanpitäjänne käsittelee ulkomaisen toimittajan tavalliseen tapaan, ja kaikki tarvittavat asiakirjat toimitetaan ennen kuin pääsyoikeudet myönnetään.
Työajat
Suurin osa työpäivästänne osuu samaan aikaan omani kanssa, kun olette Itä-Euroopan ajassa. Puhelut sopivat mihin tahansa järkevään aikaan, ja vastaukset tulevat samana päivänä.
Kuinka paljon työpäivämme menevät päällekkäin?
Suurin osa työpäivästänne osuu samaan aikaan omani kanssa, kun olette Itä-Euroopan ajassa, joten puhelut sopivat mihin tahansa järkevään aikaan ja vastaukset tulevat samana päivänä. Yön yli odottavia luovutuksia ei ole, joten katselmoinnit ja päätökset etenevät normaalia tahtia.
Voitteko työskennellä sosiaali- ja terveystietojen kanssa Suomen sääntöjen mukaisesti?
Kyllä, teknisen toteutuksen osalta. Rakennamme ympäristössänne tai hallitsemassanne turvallisessa käyttöympäristössä ja dokumentoimme pääsyoikeudet ja tietovirrat. Toissijaisen käytön luvat myöntää Findata tai rekisterinpitäjä, ja lupahakemus jää tiimillenne.
Meillä on jo laitteisto ja malli käytössä. Onko se ongelma?
Se on ihanteellinen lähtökohta. Arvioinnissa nykyinen työ luokitellaan perusteluineen joko sellaisenaan säilytettäväksi, muutoksin säilytettäväksi tai korvattavaksi, eikä mitään korvata ilman kirjallista suostumustanne.
Voiko ympäristön eristää verkosta kokonaan?
Kyllä, mukaan lukien mallien ja riippuvuuksien peilaus, offline-päivitykset ja paikallinen arviointi, ilman mitään ulospäin suuntautuvaa verkkoyhteyttä.
Kenen hallussa tilit ovat?
Teidän, koko ajan. Pilvitilit luotte ja omistatte te, meidän pääsymme on nimetty ja oikeuksiltaan rajattu, ja se poistetaan luovutuksessa kirjallisesti vahvistettuna.