Služby
Lokální a on-premiseopen-source modely1 nasazení LLM350 tisíc Kč2
Lokální nasazení LLM znamená, že dotazy a data zůstávají na vašem hardwaru — nic neopustí firemní síť. Nasazujeme open-source modely na vlastním serveru nebo pracovní stanici; on-premise nasazení začíná od 350 tisíc Kč (hardware není v ceně). Architektura je stejná jako u napojení na cloudové API, jen model běží u vás.
on-premise nasazení
AI integrace a on-prem LLM
od 350 000 Kč
Napojení modelu na firemní data, kontrola kvality odpovědí, transparenční vrstva. On-premise nasazení začíná výš kvůli hardwaru a provozu; hardware není v ceně.
Ceny jsou uvedeny bez DPH.
Služby
Pro koho to dává smysl?
Pro firmy, kde citlivá data — zdravotní záznamy, smlouvy, interní dokumenty — nesmí opustit síť, ale přesto chtějí těžit z AI při vyhledávání, kategorizaci nebo odpovídání na dotazy nad vlastními dokumenty. Pokud data opustit síť smí a jde vám hlavně o cenu a kvalitu odpovědí, je obvykle vhodnější napojení na Claude nebo OpenAI API — řekneme vám to na konzultaci rovnou.
Služby
Co si můžeme doložit?
Lokální nasazení pro klienta zatím v provozu nemáme a netvrdíme opak. Co máme, je architektura, na které stojí: vrstvená paměť rozhovorů a přepínání mezi poskytovateli modelů běží v produkci v Innea; u lokálního nasazení se mění poskytovatel modelu a místo, kde běží, ne stavba aplikace kolem něj.
Innea
v provozuČeská AI podpora mezi terapeutickými sezeními — textový i hlasový chat, sledování nálady a krizová vrstva s odkazem na linku 116 123.
- Next.js (App Router)
- TypeScript
- Supabase (Postgres, RLS, pg_cron)
- +5
Služby
Časté otázky
Jaký hardware na to potřebujeme?
Pro menší model stačí jeden server nebo pracovní stanice s výkonnou grafickou kartou; větší model nebo více souběžných uživatelů znamená více karet nebo více strojů. Velikost modelu volíme podle úlohy, ne naopak — na konzultaci nejdřív zjistíme, co má model umět, a z toho odvodíme hardware, který si pořídíte.
Zvládne lokální model to co ChatGPT?
Na obecné znalosti a volný rozhovor ne — menší open-source model za cloudovým nezaostává jen tam, kde má úzce vymezený úkol. Vyhledávání v dokumentech, kategorizace, odpovědi na základě vašich dat: to zvládne dobře, a bez toho, aby data opustila síť. Kde přesně leží hranice pro vaši úlohu, ověříme na vzorku vašich dat v rámci discovery, dřív než se cokoli kupuje.
Kdo model aktualizuje a kdo ho hlídá?
My — monitoring a plán aktualizací jsou součást zakázky, ne dodatečná služba: dostanete stejné automatické testy a hlídání běhu, jaké máme na vlastních produktech. Průběžnou podporu po předání sjednáme zvlášť — od „voláte, když se něco děje“ po pravidelnou údržbu.
Jde to i bez připojení k internetu?
Ano, celý provoz může běžet odpojeně od internetu — to bývá hlavní důvod, proč firmy lokální nasazení chtějí. Počítejte jen s tím, že aktualizace modelu a aplikace pak přinášíte dovnitř ručně; navrhneme postup, který to zvládne bez otevírání sítě.