V dnešní době by se asi dal parafrázovat vtip z dob komunismu, že ze všech stran na vás útočí umělá inteligence a člověk se bojí otevřít konzervu, aby ji tam nenašel také (místo mumií sovětských masových vrahů v původní verzi). Teď na vás AI vybafne, máte-li GPU Radeon. AMD bývalo vytýkáno, že je v umělé inteligenci pozadu za Nvidií, na což reaguje nový „AI Balík“, který firma uvádí v ovladačích pro grafické karty.
AI Bundle
Jedná se o volitelný doplněk, který můžete nainstalovat spolu s ovladači GPU Radeon, nazvaný AI Bundle. a byl publikován včera spolu s novými ovladači AMD Software Adrenalin Edition 26.1.1. Jsou v něm předpřipravené různé aplikace pro použití modelů umělé inteligence na počítači s grafikou Radeon a/nebo procesorem AMD – například pro generování obrázků a video klipů, ale i jazykové modely.
Jde přitom o lokální AI, kdy model běží na vašem zařízení (musíte ho tedy mít stažený a uložený, což zabere dost místa) a je to celé soukromé. Na rozdíl od toho, když používáte něčí online službu typu ChatGPT, Gemini nebo Copilot v Bingu a všechny vaše dotazy a úkoly cestují na server poskytovatele, který tak vidí (a může si zaznamenávat) vaše nejtemnější a/nebo nejtrapnější nápady.
Důvod, proč toto AMD dělá, je v tom, že dřív nebylo úplně snadné AI aplikace rozběhat. Platívalo to i na grafikách Nvidia, kdy hodně nástrojů vyžadovalo rozsáhlé instalace vývojových prostředí a SDK, příkazovou řádku a podobně – něco na úrovni kompilování ne úplně malých softwarových projektů. Proto také AI byla více věcí Linuxu než Windows, kde uživatelé očekávají hotové „dopečené“ aplikace, které jsou připravené k použití. A v případě GPU od AMD byla tato přístupnost vždy ještě obtížnější a problematičtější, protože ve Windows dlouho byla podpora výpočetního prostředí ROCm pro GPU AMD slabá, pokud vůbec existovala.
Volba AMD AI Bundle při instalaci ovladačů grafik Radeon
AMD v poslední době ROCm dotáhlo de použitelnější formy, kdy už oficiálně podporuje novější modely grafik ve Windows. A tento AI Bundle k tomu dodává druhou část, tedy výběr aplikací a softwarových komponent, které jsou připravené, zkompilované a předkonfigurované pro počítač s kartou Radeon nebo procesorem Ryzen a ihned k použití bez těch výše popisovaných bariér.
Jde jak o uživatelské aplikace, tak i o nástroje a prostředí pro vývoj. Tento výběr má asi být už částečně použitelný k „produktivitě“, ale částečně jde spíš o demonstraci schopností akcelerace AI na grafikách AMD ve Windows než vyčerpávající kompletní sadu všeho, co by zájemce o AI mohl potřebovat nebo chtít. Co je v balíku:
-
PyTorch pro Windows: Široce používaný framework pro aplikace umělé inteligence, který umožňuje použít již hotové modely natrénované někým jiným (tj. úlohy inference), tak i vývoj a tvorbu vlastních AI modelů (trénování).
-
ComfyUI: Nástroj, který slouží jako uživatelské prostředí pro práci s různými AI modely běžícími na PyTorch. Je možné přímo z něj modely instalovat a pak používat. Poznámka: Tato aplikace z nějakého důvodu nepřidala zástupce do nabídky start, najdete ji nainstalovanou v cestě AppData\Local\AMD\AI_Bundle\ComfyUI ve své osobní složce ve Windows, kde se dá spustit pomocí souboru Launch_ComfyUI.bat (cesta k programu se dá najít třeba z oné aplikace AMD Install Manager).
-
Ollama: Nástroj pro AI modely typu LLM (velké jazykové modely), sloužící k lokálnímu generování textu, kódu (programů) a automatizaci, které je možné používat samostatně nebo integrovat do programů nebo skriptů. Modelů je k dispozici přímo z rozhraní programu docela dost, přičemž volitelně lze použít i (větší) modely v cloudu místo těch lokálních.
-
LM Studio: Také slouží k instalaci a běhu velkých jazykových modelů, se snadno přístupným nastavováním a upravováním jejich parametrů.
-
Amuse 2.0: Aplikace, která již byla k dispozici dříve, pro generování obrázků a videa přímo z grafického uživatelského prostředí (bez potřeby pracovat s příkazovou řádkou a tak podobně), přičemž také umožňuje zvolit a stáhnout různé modely pro generování obrazu/videa. Vedle klasického generování z textového promptu umí generovat i z ruční kresby nebo hotového obrázku, a také poskytuje funkce inpainting a feature extractor.
Balík AI Bundle je dostupný pro grafiky Radeon RX 9000 a část modelů generace Radeon RX 7000 – měly by to být karty od Radeonu RX 7700 XT nahoru. U levnějších karet budete limitováni na méně užitečné a kvalitní modely, protože schopnosti se zlepšují s počtem parametrů (který odpovídá spotřebované paměti).
Instalace AMD AI Bundle z utility AMD Install Manager
Alternativně ale může posloužit novější procesor Ryzen – APU Krackan, Strix Point, Gorgon Point nebo Strix Halo, tedy Ryzeny AI 300 a 400. Jednotlivé aplikace se liší v tom, zda běží na GPU, NPU nebo CPU jádrech. APU mají výhodu, že mohou alokovat pro model více paměti, než samostatná grafika – pokud máte v PC či notebooku dost RAM.
Instalace AMD AI Bundle z utility AMD Install Manager
Volitelná instalace, ovladač vám AI nebude nutit
Balík by se neměl instalovat automaticky (což je dobře, protože zabírá až desítky gigabajtů na disku). Vybrat si ho můžete v momentě instalace ovladačů, v kterých je nabídnutý jako volitelná položka.
Pokud máte nainstalovanou utilitu AMD Install Manager, která ovladače stahuje a aktualizuje automaticky, lze ji otevřít a volba AI Bundle je v ní také k dispozici. Volbou „Nainstalovat …“ se dají stáhnout a nainstalovat všechny položky, kliknutím na šipku vedle by měly jít vybrat jen některé součásti.
Tato novinka neznamená, že by uvedené aplikace byly nějak prorostlé do samotných ovladačů grafik Radeon – jde o oddělenou instalaci, která by měla jít samostatně odebrat a v aplikaci AMD Software se nijak neprojeví. Pokud tedy jste na „AI slop“ alergičtí a nechcete a chcete prostě hrát hry a používat počítač, neměl by vás AI Bundle nijak zasáhnout.
Zdroj: AMD
