Prispevek na spletnem portalu podjetja ASUS v rubriki Pressroom predstavlja UGen300 USB AI Accelerator, ki velja za prvo tovrstno prenosno napravo za lokalno poganjanje generativne umetne inteligence. Majhen modul uporablja procesor Hailo-10H in nudi 40 TOPS zmogljivosti, kar omogoča delovanje kompleksnih jezikovnih modelov brez povezave z oblakom. Naprava vključuje 8 GB namenskega pomnilnika in deluje prek vmesnika USB-C, kar zagotavlja preprosto uporabo na različnih operacijskih sistemih. Z nizko porabo energije in podporo priljubljenim ogrodjem, kot sta TensorFlow in PyTorch, je izdelek namenjen razvijalcem in izobraževalcem. Ta strojna oprema uporabnikom omogoča večjo zasebnost, hitrejše odzivne čase in nižje stroške brez potrebe po mesečnih naročninah.

Sledi povzetek o napravi ASUS UGen300 USB AI Accelerator.

Pregled naprave ASUS UGen300 USB AI Accelerator

ASUS je napovedal UGen300, prvi USB-pospeševalnik za robno umetno inteligenco (Edge AI) na svetu, ki je zasnovan tako za klasične kot za generativne funkcije UI. Gre za napravo po principu »priključi in uporabljaj« (plug-and-play), namenjeno zagotavljanju visoko zmogljivega sklepanja (inference) na sistemih, ki nimajo lastnih zmogljivosti za UI.

Ključne tehnične specifikacije

• UI-procesor: Vgrajen procesor Hailo-10H AI.
• Zmogljivost: Zagotavlja 40 AI TOPS (trilijonov operacij na sekundo).
• Pomnilnik: 8 GB namenskega pomnilnika LPDDR4, ki preprečuje ozka grla v sistemu in podpira izvajanje velikih modelov.
• Vmesnik: USB 3.1 Gen 2 Type-C (na voljo je tudi različica M.2).
• Poraba energije: Učinkovita zasnova, ki pri običajnih delovnih obremenitvah porabi le 2,5 vata.
• Dimenzije: Kompaktna oblika z merami 105 x 50 x 18 mm.

Zmogljivosti in področja uporabe

• Generativna UI: Optimizirano za velike jezikovne modele (LLM) in vidno-jezikovne modele (VLM).
• Primeri uporabe: Podpira generiranje besedila, povzemanje videoposnetkov, zaznavanje v realnem času in pretvorbo glasu v dejanja.
• Prednosti robne UI: Omogoča sklepanje neposredno na napravi, kar odpravlja stroške naročnin na oblačne storitve, zmanjšuje zakasnitve (latency) ter povečuje zasebnost podatkov.

Združljivost in ekosistem

• Operacijski sistemi: Združljivo z operacijskima sistemoma Linux in Android (za B2B stranke); podpora za gonilnike za Windows je predvidena sredi maja 2026.
• Ogrodja (Frameworks): Takojšnja podpora za TensorFlow, PyTorch in ONNX.
• Podpora za razvijalce: * Orodje UGen Utility: Omogoča hitro preverjanje z uporabo več kot 100 vnaprej naučenih modelov.
  • Skupnost Hailo: Dostop do vadnic, referenčnih načrtov in tehničnih vpogledov.

Ciljna skupina

UGen300 je namenjen razvijalcem, izobraževalcem in ponudnikom vgrajenih rešitev (embedded-solutions), ki potrebujejo prenosno in prilagodljivo računalniško moč za UI na potrošniških ali industrijskih napravah.

Povzetek prispevka kot predstavitev z zdrski.

URL: https://press.asus.com/news/press-releases/asus-ugen300-usb-ai-accelerator-generative-ai-edge/