Nvidia uvedla na trh nové otevřené modely, které jsou optimalizovány pro nepřetržitě běžící agenty a okrajové výpočty (edge computing). Tato nová řada si klade za cíl poskytnout flexibilní a výkonná řešení pro umělou inteligenci v různých prostředích.
Mezi hlavní novinky patří model Nemotron 3.5 Super VL, který disponuje 120 miliardami parametrů a je primárně určen pro nasazení firemních agentů. Ačkoliv má méně parametrů než jeho předchůdce Nemotron 3 Ultra, společnost uvádí, že dokáže dosáhnout srovnatelné přesnosti při plnění instrukcí a používání nástrojů. Díky své otevřenosti mohou organizace Super VL dotrénovat na vlastních datech a nasadit jej na své infrastruktuře, což jim dává plnou kontrolu nad vývojem a provozem.
Tento model je navržen tak, aby exceloval v úlohách, jako je inteligentní zpracování dokumentů, finanční účetnictví, vědecké experimenty, vyřizování zdravotních pojištění a odolnost proti bezpečnostním útokům. Získané poznatky naznačují, že při specifickém dotrénování na agentní úkoly dokáže plnit tyto úkoly rychleji než některé konkurenční modely. To dokládá i jeho nasazení u významných společností napříč různými odvětvími.
Chystáte nový web nebo aplikaci?
Napište mi, co plánujete — rád se na to podívám a poradím, jak na to nejlépe jít.
Na druhém konci spektra byly představeny dva odlehčené modely řady Bolt. Tyto modely jsou optimalizovány pro lokální běh přímo na nových generacích PC s podporou AI akcelerace a na pracovních stanicích. Cílí na širokou skupinu uživatelů, od běžných spotřebitelů přes vývojáře až po firemní pracovníky, a nabízejí možnost provádět AI úlohy bez nutnosti odesílat data do cloudu.
Možnost lokálního provozu je klíčová pro uživatele, kteří preferují vyšší míru soukromí a nechtějí svěřovat citlivé informace do cloudových služeb. Umožňuje delegovat každodenní projekty a úkoly bez opuštění lokálního prostředí. Konkrétně model Nemotron 3.5 Bolt 74B-A9B s 74 miliardami parametrů je navržen pro lokální agentní úlohy, kde vyvažuje rychlost s pokročilým uvažováním, zvládáním vícestupňové logiky, voláním nástrojů a procházením webu. Menší model Bolt E4B je pak primárně zaměřen na konverzační agenty.
Modely Nemotron 3.5 Super VL a Bolt 74B-A9B jsou již k dispozici, zatímco model Bolt E4B bude uveden na trh koncem tohoto měsíce.