Privaatse LLM-i juurutamine Tallinnas
Privaatse LLM-i juurutamine Tallinnas parimal tasemel ja parima võimaliku hinnaga.
GPU on teil olemas ja mudel samuti. Puudu on vahelüli: mudel usaldusväärse privaatse API-na, millele teie rakendus turvaliselt ligi pääseb ja mis tagastab andmeid, mida saab usaldada. See ongi kogu töö.
Tallinn on tehnoloogias oma suurusest palju võimekam: siinne idufirmade kogukond on kasvatanud mitu rahvusvahelist ettevõtet ja riik on üles ehitatud digiteenustele, mida kodanikud ja ettevõtted iga päev kasutavad. Paljud ostjad on asutajad, sealhulgas e-residendid, kes juhivad Eesti ettevõtet välismaalt, ning nad ostavad kiiresti, ootavad, et kõik toimiks veebis, ja hindavad tarnijaid tulemuste, mitte esitluse järgi.
Tallinna govtech- ja küberturbeettevõtted müüvad sageli valitsustele, kes ei nõustu andmete lahkumisega oma kontrolli alt. Privaatne mudel kliendi omanduses oleval riistvaral, kuni täielikult võrgust isoleeritud lahenduseni, on versioon, mille need ostjad saavad heaks kiita.
Mida saate
- vLLM-i serveerimine teie GPU jaoks häälestatuna: kvantimine natiivse kerneli rajal, KV-vahemälu mõõtmestamine, pidev pakktöötlus (continuous batching) ja prefiksi vahemälu
- Privaatne võrguühendus ilma avaliku ligipääsuta, kontrollitud otsese partnerühendusena, mitte relee kaudu
- Skeemiga piiratud vastused ja deterministlik kvaliteedikontroll, nii et vale vastus lükatakse tagasi, mitte ei kuvata
- Dokumenteeritud baastase: tokenid sekundis, aeg esimese tokenini ja tegelik samaaegne võimsus
- Taristu koodina teie repositooriumis, käsiraamat (runbook) ja kõik juurdepääsuandmed teie käes
Ettemaksu ega tagatiskontot pole vaja. Iga dollar jääb teie kätte, kuni verstapost on tarnitud ja vastu võetud, ning hinna sisse kuulub kolmekümne päeva vigade parandus. Ulatus ja hind lepitakse kokku kõne käigus.
Arveldus USA dollarites või eurodes, tasumine Wise'i või pangaülekandega.
Telli tagasihelistamine
Räägite otse inseneriga, kes töö ära teeb. Ei mingit müügiesindajat ega esitlust.
Kes siin ehitavad
AI-toote ja MVP arendus
Tallinn on täis varajases faasis asutajaid, paljud neist e-residendid, kes vajavad tootmisvalmis toodet kiiresti ja soodsalt. Fikseeritud hinnaga arendus sobib asutaja juhitud ettevõttele, kes soovib oma koodi algusest peale ise omada.
Kolm etappi, kõik on läbipaistev.
Fikseeritud hinnaga hindamine
Viis tööpäeva alates päevast, mil juurdepääs on olemas. Teie lahendus vaadatakse läbi otsast lõpuni, olemasolev töö liigitatakse põhjendustega säilitatavaks või asendatavaks, ühendus kavandatakse ja vastuvõtukriteeriumid kirjutatakse kontrollitavate väidetena.
Teostus verstapostide kaupa
Umbes kolm nädalat. Igal verstapostil on kirjalikud vastuvõtukriteeriumid, milles lepitakse kokku enne töö algust, ja arve esitatakse alles pärast seda, kui olete selle vastu võtnud. Soovi korral võite määrata sõltumatu tehnilise ülevaataja.
Üleandmine ja lõpetamine
Üks päris päring läbi teie päris rakenduse, sünteetiliste andmetega, nii et see läbib kõik kvaliteedireeglid. Käsiraamat, salvestatud üleandmine ja kogu meie juurdepääsu eemaldamine kirjaliku kinnitusega.
Mis siin tegelikult kehtib.
Regulatsioon ja andmed
Isikuandmete kaitse üldmääruse (GDPR) järelevalvet teeb Andmekaitse Inspektsioon. Eesti võttis NIS2 direktiivi üle küberturvalisuse seaduse muudatustega, mis kehtivad alates 1. jaanuarist 2026; pädev asutus on Riigi Infosüsteemi Amet (RIA) ja intsidentidega tegeleb CERT-EE. Avaliku sektori süsteemid vahetavad andmeid X-tee kaudu, nii et riigile tarnijad ehitavad selle turva- ja liidestusnõuete järgi. DORA-t on finantsüksustele kohaldatud alates 2025. aasta jaanuarist. EL-i tehisintellekti määrust on kohaldatud etapiviisiliselt alates 2024. aasta augustist ning enamik kõrge riskiga süsteemide kohustusi hakkab nüüd kehtima 2027. aasta detsembrist; Eesti enda tehisintellekti määruse järelevalveasutuste määramine oli selle kirjutamise ajal veel lahtine, seega kontrollige kehtivat olukorda.
Lepingud ja maksmine
Teie lepingupartner on Indias tegutsev füüsilisest isikust konsultant. Arved eurodes või dollarites, tasumine Wise'i või pangaülekandega. Teie raamatupidaja käsitleb välismaist tarnijat tavapärasel viisil ja kõik vajalikud dokumendid esitatakse enne, kui juurdepääs antakse.
Tööaeg
Suurem osa teie tööpäevast kattub minu omaga, Ida-Euroopa aja järgi. Kõned sobivad igal mõistlikul kellaajal ja vastused tulevad samal päeval.
Juhin oma Eesti ettevõtet e-residendina. Kas see on probleem?
Ei. Teie lepingupartner on Indias tegutsev füüsilisest isikust konsultant, arved on eurodes või dollarites ning tasumine käib Wise'i või pangaülekandega. Kõik toimub veebis, ja just nii teeb enamik e-residentide ettevõtteid oma tarnijatega juba praegu koostööd.
Kas saate liidestada X-teega?
Jah, kui teie projektil on vajalik liikmesus ja juurdepääs. Ehitame liidese X-tee avaldatud turva- ja sõnumivahetusnõuete järgi ning teie organisatsioon hoiab sertifikaate ja juurdepääsuandmeid kogu aeg enda käes.
Kuidas ajavahe Tallinnaga toimib?
Suurem osa teie tööpäevast kattub minu omaga, Ida-Euroopa aja järgi. Kõned sobivad igal mõistlikul kellaajal ja vastused tulevad samal päeval. Ülevaatused, otsused ja kiired küsimused liiguvad kohaliku koostöö tempos, ilma et vahepeal oleks öine üleandmine.
Meil on riistvara ja mudel juba töös. Kas see on probleem?
See on ideaalne lähtekoht. Hindamise käigus liigitatakse olemasolev töö põhjendustega muutmata säilitatavaks, muudatustega säilitatavaks või asendatavaks, ja midagi ei asendata ilma teie kirjaliku nõusolekuta.
Kas lahenduse saab võrgust täielikult isoleerida?
Jah, koos mudelite ja sõltuvuste peegeldamise, võrguühenduseta uuenduste ja kohaliku hindamisega, ilma igasuguse väljuva võrguühenduseta.
Kelle käes on kontod?
Teie käes, kogu aeg. Pilvekontod loote ja haldate teie, meie juurdepääs on nimeline ja piiratud õigustega ning see eemaldatakse üleandmisel kirjaliku kinnitusega.