V současné době je patrný zřetelný trend ve vývoji umělé inteligence. Na jedné straně se objevují stále robustnější a komplexnější modely, jejichž provoz vyžaduje enormní množství výpočetního výkonu, často v cloudu. Na druhé straně se však formuje proud startupů a výzkumníků, kteří se soustředí na vytváření menších, optimalizovaných modelů. Tyto modely jsou navrženy tak, aby efektivně fungovaly přímo na koncových zařízeních, jako jsou chytré telefony nebo osobní počítače, což otevírá nové možnosti pro lokální zpracování dat.
Příkladem takového inovativního přístupu je společnost Underdog, která nedávno představila svůj hlasový model s názvem Woof. Zajímavostí je jeho kompaktní velikost pouhých 32 MB. Pro demonstraci jeho schopností byla vyvinuta interaktivní hra s retro technologickou tématikou, kde nechybí psací stroj a CRT monitor. Uživatelé mohou prostřednictvím klávesnice psát text, který jim hra ihned přečte, a také otáčet ladicím prvkem pro generování různých hudebních stylů. Celá tato zkušenost probíhá v prohlížeči a je navržena tak, aby zdůraznila nezávislost na externích cloudových službách, což je v úvodu hry naznačeno jako varování před "vtíravými" cloudovými poskytovateli.

Máte nápad na web nebo aplikaci?
Proberme ho spolu — nezávazně, bez tlaku a s konkrétním doporučením dalšího kroku.
Model Woof se svými 31 miliony parametry je volně ke stažení a má potenciál běžet na většině zařízení bez nutnosti připojení k internetu. Ačkoliv se neočekává, že by takto malý model zcela nahradil rozsáhlejší systémy, jeho uplatnění je značné. Může efektivně pohánět lokální asistenční služby, umožňovat tvorbu personalizovaných podcastů nebo zlepšovat uživatelský zážitek v mnoha offline aplikacích, kde je klíčová rychlost a soukromí zpracování dat.
Kromě modelu Woof společnost Underdog již dříve představila Bark, 167 MB velký model pro převod řeči na text. Také tento model je optimalizován pro běh na koncových zařízeních a je určen pro transkripci a diktování. Firma rovněž vyvíjí robustnější 27miliardový model, který je schopen běžet na laptopech, a chystá aplikaci, která má sloužit jako lokálně hostovaná alternativa k některým stávajícím řešením pro kreativní práci s textem a nápady.
Zakladatel společnosti, Sigil Wen, zdůrazňuje motivaci za tímto směřováním: touhu po systémech s AI modely, které běží přímo na zařízeních uživatelů a umožňují jim plnou kontrolu nad jejich daty. Věří, že během několika měsíců bude možné provozovat většinu dnešních schopných modelů na zařízeních, která již vlastníme. Cílem je vyvíjet otevřené a schopné modely, které respektují soukromí uživatelů a zároveň přinášejí vysokou úroveň umělé inteligence přímo do jejich rukou.
