Odpověď na názor
Odpovídáte na názor k článku Nová výkonnostní špička v procesorech od Applu. Mac Studio dostalo M3 Ultra, zatím se starším jádrem. Názory mohou přidávat pouze registrovaní uživatelé.
-
4000 dolarů příplatek za RAM je samozřejmě ranec, ale v kontextu použití jaké to nabízí je to směšná cena.
Aktuálně se tu chystají NVIDIA akcelerátory se 128GB paměti, A už dnešní 80GB akcelerátory jsou cenově jinde než to MacStudio s 512GB RAM. Člověk ale bude potřebovat 4 takové akcelerátory v clusteru aby dorovnal VRAM s tím MacStudiem.
Ano 4 nové NV akcelerátory budou výrazně rychlejší, ale ne vždy je nutná rychlost, deployovat nějaký LLM lokálně je daleko bezpečnější než využívat cloudových služeb. A těch 512GB paměti umožní běžet klidně nějaké 600-700B LLM.
Když se nechá základní storage bude to pořád pod 10 tisíc dolarů, disk se dá snadno přidat, nějaké TB NVMečko, klidně dva do raidu...
A samozřejmě, pokud by nestačil výkon, tak stačí thunderbolt kabel a propojit víc těch MacStudio do clusteru a pořád to může vyjít levněji než dedikované řešení přes NV/AMD akcelerátory.
