Lokální AI pro firmy: jak funguje a kdy se vyplatí
Lokální AI je umělá inteligence, která běží na zařízení přímo ve Vaší firmě. Jazykový model, vyhledávání v dokumentech i rozpoznávání textu ze skenů jsou ve Vaší síti, takže texty, které do ní zaměstnanci vloží, firmu neopustí.
Zeptat se konzultantaJak lokální AI funguje
Jazykový model na zařízení
Model, který píše odpovědi, je soubor uložený na zařízení ve Vaší firmě. Nemá přístup na internet a nic neodesílá.
Dokumenty se indexují, model se netrénuje
Systém si firemní dokumenty přečte a zaindexuje, aby je při otázce našel. Model se na nich nemění.
Přihlášení a přístup podle skupin
Zaměstnanci se přihlašují firemním účtem. Kdo vidí které dokumenty, určují skupiny a ověřuje se to při každé otázce.
Odpověď s podkladem
U otázek nad firemními daty AI odpovídá z toho, co našla, a uvede soubor, předpis nebo rozhodnutí. Když nic nenajde, řekne to.
Lokální AI a AI v cloudu
| AI v cloudu | Lokální AI | |
|---|---|---|
| Kde běží model | u poskytovatele | na zařízení ve Vaší firmě |
| Kam jdou texty a dokumenty | k poskytovateli přes internet | nikam, zůstávají ve Vaší síti |
| Internet | nutný | není potřeba |
| Vyhledávání na internetu | ano | na požádání |
| Nejnovější veřejný model hned po vydání | ano | ne |
| Platba | měsíčně za uživatele | jednorázově za zařízení |
Kdy se lokální AI vyplatí a kdy ne
Vyplatí se
Pracujete se smlouvami, spisy, osobními údaji nebo obchodním tajemstvím.
Máte povinnost mlčenlivosti nebo interní pravidla, která nedovolují předávat data třetím stranám.
AI má používat hodně lidí a předplatné na každého by každý rok rostlo.
Systém má fungovat i bez internetu.
Nevyplatí se
AI použije pár lidí občas a data nejsou citlivá. Pak stačí předplatné.
Chcete vždy nejnovější veřejný model hned po jeho vydání.
Co potřebuje Vaše IT
- Místo
- místo a napájení pro zařízení, v serverovně nebo v kanceláři
- Síť
- připojení s pevnou adresou a DNS záznamem
- Dokumenty
- přístup pro čtení k úložišti, pokud má AI prohledávat firemní soubory
- Přihlášení
- Active Directory nebo lokální účty v systému
- Internet
- volitelný: vzdálená správa a aktualizace; na požádání bez jakéhokoli přístupu zvenku
Hotové zařízení, nebo vývoj na míru
Lokální AI si firma může poskládat sama: koupí server, nainstaluje volně dostupný model a k němu dopíše vyhledávání, přihlášení, přístupová práva a správu. Je to projekt na měsíce a o provoz se pak stará vlastní tým.
Arminius AI dodáme jako hotové zařízení: se softwarem, přihlášením firemním účtem, přístupem podle skupin, správou a monitoringem. Nainstalujeme ho u Vás do 2 týdnů a staráme se o něj i potom.
Otázky k lokální AI
Jaký hardware potřebujeme pro lokální AI?
U Arminius AI žádný vlastní. Hardware je součástí dodávky a připravíme ho podle počtu uživatelů a modulů; podrobnosti jsou v nabídce.
Je lokální model zdarma?
Některé jazykové modely lze používat bez licenčního poplatku. Pro provoz ve firmě však potřebujete i výkonný hardware, vyhledávání v dokumentech, přihlášení, správu a podporu. U Arminius AI je to všechno v jedné dodávce.
Může lokální AI nahradit ChatGPT?
Při práci s textem, dokumenty a otázkami nad firemními daty ano. Vyhledávání na internetu je v základním nastavení vypnuté; na Vaši žádost ho zapneme. Pak na internet odchází vyhledávací dotaz.
Musí všechno běžet bez internetu?
Ne. Internet je volitelný a umožňuje vzdálenou správu a aktualizace. Řešení funguje i bez něj; bez internetu se jen do modulu Legal nestahují nové předpisy a rozhodnutí.
Napište, s čím pracujete. Navrhneme, co dává smysl.
AI konzultant se zeptá na pár věcí a navrhne sestavu modulů pro Vaši firmu. Nabídku pak dostanete e-mailem.
Odpovědi AI konzultanta jsou informativní a nejsou závaznou nabídkou.