Názory k článku Nová výkonnostní špička v procesorech od Applu. Mac Studio dostalo M3 Ultra, zatím se starším jádrem

  • 10. 3. 2025 13:34

    J.Ko

    4000 dolarů příplatek za RAM je samozřejmě ranec, ale v kontextu použití jaké to nabízí je to směšná cena.

    Aktuálně se tu chystají NVIDIA akcelerátory se 128GB paměti, A už dnešní 80GB akcelerátory jsou cenově jinde než to MacStudio s 512GB RAM. Člověk ale bude potřebovat 4 takové akcelerátory v clusteru aby dorovnal VRAM s tím MacStudiem.

    Ano 4 nové NV akcelerátory budou výrazně rychlejší, ale ne vždy je nutná rychlost, deployovat nějaký LLM lokálně je daleko bezpečnější než využívat cloudových služeb. A těch 512GB paměti umožní běžet klidně nějaké 600-700B LLM.

    Když se nechá základní storage bude to pořád pod 10 tisíc dolarů, disk se dá snadno přidat, nějaké TB NVMečko, klidně dva do raidu...

    A samozřejmě, pokud by nestačil výkon, tak stačí thunderbolt kabel a propojit víc těch MacStudio do clusteru a pořád to může vyjít levněji než dedikované řešení přes NV/AMD akcelerátory.