Architektura Intel Tremont odhalena: o 30 % lepší IPC, Atomy s výkonem velkých jáder

Tremont je zaměřený na vysoký jednovláknový výkon, síla architektura se má blížit velkým jádrům jako Skylake, proti předchůdci je IPC lepší o 30 %.

14
Intel Atom Tremont vizualizace schema ilustrace 1600

Nejzásadnější události v procesorech byly v letošním roku (aspoň těch s instrukční sadou x86/x64) příchody 7nm architektury AMD Zen 2 a 10nm Ice Lake neboli jader Sunny Cove u Intelu. Ovšem ten teď představil ještě jednu novou procesorovou architekturu. A to jádro Tremont, které vychází z linie úsporných (a také v levných čipech používaných) Atomů. O Tremontu jsme do této chvíli skoro nic nevěděli, ale Intel nyní publikoval podrobný popis architektury těchto jader, také určených pro 10nm proces. A tyto detaily jsou velmi zajímavé. Tremont zdá se bude přinášet opravdu masivní nárůst IPC. Tím bude soutěžit s leckterým velkým jádrem a v budoucnu by mohl dát vzniknout hodně zajímavým procesorům.

 

Tremont: Atom, který se výkonem blíží velkému jádru

Tremont bude nadále menší (levnější) a úspornější jádro, nikoliv náhrada za velká jádra Sunny Cove, Willow Cove, Golden Cove a následující. Ale cílem Intelu bylo výrazně jeho výkon přiblížit k velkým jádrům, aby mezi nimi a „Atomy“ nebyla taková mezera, ba dokonce aby Tremonty byly například pásmu 5–10W TDP už byly konkurenceschopné nízko taktovaným procesorům Core (tj. těch s velkými jádry).

Prezentace CPU architektury Intel Tremont 12
Tremont má být na nízkých taktech a úrovních spotřeby na jádro efektivnější než velká jádra Sunny Cove

Tremont má proto ambici výrazně zlepšit jednovláknový výkon malých jader. Toto byl podle Intelu vůbec hlavní cíl při vývoji. Lepší výkon bude dosažen změnami prakticky ve všech částech jádra oproti předchozí architektuře Goldmont+ (které jsme se podrobněji věnovali v tomto článku). Nepůjde tak o žádnou malou evoluční změnu, ale o výrazně inovovanou architekturu, dalo by se asi říct, že už se dá trošku srovnávat s rozsahem změn v Sunny Cove (Ice Lake) nebo třeba Zenu 2.

Prediktory větvení a prefetch na úrovni velkých jader

Důležité změny jsou již (nebo možná zejména) ve frontendu, tedy části jádra, která se stará o krmení samotných výpočetních jednotek a zajišťování, aby měly stále práci a včas k dispozici jádra. Intel integroval výrazně posílený prediktor větvení, který by měl být blízký svými schopnostmi tomu, co je ve velkých procesorech s jádry Sunny Cove (Ice Lake), protože z nich je návrh z velké části převzatý. Není ale úplně identický, kvůli spotřebě a ploše se v určitých věcech liší.

Prediktor pracuje s dlouhou historií a má dvě úrovně. Základní predikce L1 nestojí žádný postih ve výkonu, dokonalejší predikce L2 je dostupná se zpožděním dvou cyklů, ale postih za její použití je nižší, než v předchozích generacích Atomů. Funguje to tak, že CPU nejprve pracuje s okamžitě dostupnou predikcí L1 a když po dvou cyklech dostane od L2 lepší predikci, buď se přepne na druhou větev, pokud se L2 liší od predikce L1, nebo je predikce L1 potvrzena a pokračuje se bez přerušení.

Fetch dodává z L1 instrukční cache 32 bajtů kódu za cyklus a pracuje stylem out-of-order, může současně zpracovávat až osm požadavků, kdy potřebná část kódu není v L1 nalezena („outstanding miss“) a musí se pro ní jít do RAM nebo L2. Také prefetch (spekulativní přednačítání dat z paměti RAM, aby je mělo CPU včas k dispozici v cache) byl výrazně vylepšen, Intel opět uvádí, že je použitá technologie z velké části převzatá z velkého jádra Sunny Cove.

Šest dekodérů ve dvou klastrech

Možná úplně nejústřednější novinka je pak ve fázi dekódování instrukcí. Goldmont a Goldmont+ měly tři dekodéry, tedy schopné dekódování až tří x86 instrukcí za takt. Tremont má dekodérů rovnou šest, ale je to s nimi komplikované. Ve skutečnosti jsou jich dva klastry každý se třemi dekodéry. Tato část je vlastně zdvojená, každý klastr má vlastní rozhraní do L1 instrukční cache a svoji vlastní frontu. Slovo klastr asi hned vyvolá vzpomínky na AMD Bulldozer, ale zde nejde o to, že by jedno jádro (či modul?) poskytovalo dvě výpočetní vlákna, je stále jednovláknové.

Smysl tohoto uspořádání je efektivnější zpracovávání kódu při větvení. Každý z dekódovacích klastrů umí zpracovávat separátní sekvenci instrukcí, tedy například když se po predikci větvení opět narazí na další větvení (například subrutinu ve smyčce), dostane dekódování za tímto větvením na starosti druhý dekodér. Není jasné, zda je používáno i něco jako spekulativní multithreading, kdy začnou oba klastry dopředu dekódovat jednu z možných variant výsledku jednoho větvení (do chvíle, kdy je podmínka vyhodnocena a CPU definitivně zjistí, kterou větev má počítat). Když se procesor s více instrukčními sekvencemi kvůli větvení nepotýká, protože kód běží bez větví, je jeden z klastrů deaktivován a CPU jede jen na tři dekodéry – což by mu ale asi typicky mělo stačit.

Intel uvádí, že u jednotlivých produktů může být (při výrobě) toto spekulativní zpracování větvení deaktivováno, takže by takové procesory měly napevno jen jeden klastr s třemi dekodéry. Dokonce prý podle některých zdrojů má být možné změnou mikrokódu na úrovni mikrokódu spřáhnout oba klastry pro zpracování jednoho vlákna/posloupnosti instrukcí, takže by se jádro chovalo jako by mělo klasicky šest dekódérů. Ovšem tato konfigurace se asi nebude v praxi používat, asi by nebyla ani vyvážená vzhledem k ostatním částem pipeline, které by se staly bottleneckem. Pokud by to ale někdo chtěl u nějakého modelu vyrobeného na zakázku, možnost tu prý je (není-li to nějaký omyl).

Fáze Dispatch/Allocation po dekódovaní je schopná poslat k dalšímu zpracování čtyři instrukce za takt. Rovněž fáze retire na konci celého provádění zpracovává maximálně čtyři instrukce za takt. Zde je jinak jeden velký rozdíl proti velkým jádrům. Tremont nepoužívá uOP cache (či „L0“) pro již dekódované instrukce. Toto je zřejmě kvůli velké ploše na čipu, kterou uOP cache potřebuje. Místo toho byla právě zdvojená dekódovací fáze.

Schema jadra Intel Tremont
Schéma jádra Intel Tremont

Změněné L1 a L2 cache

Standardní paměti cache však také prošly změnami. Instrukční L1 cache zůstala 32KB s 8cestnou asociativitou, ale datová L1 je zvětšená na 32 KB s osmicestnou asociativitou (u předchozích Atomů byla použitá 24KB s šesticestnou). Latence je 3 cykly, beze změn. Pro srovnání: Sunny Cove má latenci 5 cyklů, Zen/Zen 2 čtyři, Tremont má asi lepší latenci za cenu nižších dosažitelných frekvencí proti těmto větším jádrům. Rozdíl ovšem nastal v L2 cache. Zatímco Goldmont měl latenci L2 cache 17 cyklů a Goldmont+ 19 cyklů, Tremont se vrací na 17 cyklů. A změněná je kapacita. Předchozí architektura Goldmont+ měla 4MB L2 sdílenou čtyřmi jádry, která tvořila základní modul, u Tremontu mohou mít různé procesory této architektury různé kapacity. Základní modul může být jedno až čtyřjádrový, ale může mít 1,5 až 4,5 MB L2 cache, s 12 až 18cestnou asociativitou podle kapacity.

Architektura připouští i L3 cache, kterou může sdílet více modulů – například v serverové variantě – ale levné Atomy by asi mohly opět být bez L3. Jak L2, tak L3 podporují vymáhání QoS pravidel, aby například jedno jádro nemohlo vyhladovět intenzivními přístupy ostatní – toto bude podstatné pro použití jádra Tremont v procesorech pro síťovou a komunikační infrastrukturu, kam s nimi Intel počítá, mimo mobilní a PC oblast. L3 jinak může být inkluzivní i neinkluzivní.

Kromě klasických cache budou také vylepšené TLB buffery. L2 TLB má kapacitu 1024 stránek (4KB) nebo 32 stránek 2MB a 8 stránek 1GB. V Goldmontu+ měl L2 TLB kapacitu jen 512 položek.

Výpočetní jednotky

Samotné výpočetní jednotky mají podobné uspořádání jako ve velkých jádrech, jsou rozloženy mezi 10 portů. Jádro má tři ALU jako Goldmont+, dvě AGU (se schopností zpracovat dvě 16B čtení či dva 16B zápisy či jeden zápis a jedno čtení), jednu jednotku pro skoky.

Dvě ALU jsou jednodušší, třetí umí i násobení a dělení. Výpočetní jednotky ALU a JMP v celočíselné části mají své vlastní paralelní fronty reservation station (celkem čtyři), pátá je pro pro FPU a obě AGU mají dohromady jednu další (šestou).

FPU: stále bez AVX

Jednotka FPU/SIMD používá dvě výpočetní pipeline – jedna je pro floating-point sčítání, jedna pro floating-point a celočíselné násobení (a je v ní také dělička). Obě tyto pipeline obsahují 128bitovou jednotku pro akceleraci šifrování AES a 128bitovou SIMD jednotku. Třetí port/pipeline jednotky FPU je pak použitý jen pro ukládání dat. FPU část podporuje pouze 128bitové SIMD vektory (a registry), tedy instrukce SSEx, a některá další rozšíření. Atomy tedy stále nebudou podporovat operace AVX/AVX2 s jejich 256bitovými vektory, natož pak AVX-512. Jsou ale podporované nové instrukce, například GFNI (Galois Field New Instructions) a akcelerace SHA256.

Hlubší out-of-order buffery pro vyšší IPC. Skoro jako u Skylake

Podobně jako bylo jádro „rozšířeno“ (více dekodérů), budou také prohloubené out-of-order fronty, což dovoluje efektivněji využít dostupné jednotky při out-of-order vykonávání a tím zvyšuje dosažené IPC za cenu vyšší komplexity. Tremont má reorder buffer o hloubce 208 položek. To sice není takové zvětšení jako u Sunny Cove (to má 352 položek), ale je to skoro na úrovni jádra Skylake (224 položek) a víc než u Haswellu (182 položek). Kolik měl Goldmont+, bohužel nevíme, ale asi to bylo o dost méně.

Poprvé Speed Shift

Všechna jádra v modulu běží vždy na stejné frekvenci, ale uspávat je (do C-stavů) je možné separátně. Mimochodem, Tremont také bude podporovat technologii Speed Shift z architektury Skylake, jako první Atomové jádro. To znamená responzivnější, rychleji reagující turbo, jelikož je ovládané přímo procesorem, ne operačním systémem.

Pro 10nm mobilní zařízení, levné čipy i servery a infrastrukturu

Jádro Tremont je navržené pro 10nm proces a bude využité jednak v Atomech Elkhart Lake (respektive asi Celeronech/Pentiích), což budou čipy nejspíše se čtyřmi těmito jádry. Tyto čipy jsou asi ještě daleko, protože nyní místo nich Intel uvádí 14nm refresh Gemini Lake. Ovšem současně bude obsaženo také v hybridním „big.LITTLE“ Intelu Lakefield, který bude v dvoudisplejovém zařízení Microsoft Surface Neo. Tam bude plnit úlohu malého jádra pro úsporný provoz a zároveň pro maximální vícevláknový výkon, zatímco ho bude doplňovat jediné jádro Sunny Cove (z Ice Lake) pro vysoký jednovláknový výkon. Mimo spotřebitelskou oblast pak Tremont půjde do procesoru Snow Ridge pro komunikační infrastrukturu.

Nicméně konkrétní parametry pro tyto procesory zatím Intel neprobíral (leccos k Lakefieldu už je známé, ale k Elkhart Lake ne). Co však sdělil, bylo něco k opravám bezpečnostních chyb. Ty mají být na stejné úrovni jako ve 14nm procesorech Cascade Lake – kromě Meltdownu bude zalátaná například i chyba L1TF (Foreshadow), podpora pro ochrany proti Spectre v2 bude přímo v hardwaru z výroby. Pro větší bezpečnost má být podporováno i šifrování RAM (Intel Total Memory Encryption), což ovšem asi ve spotřebitelských produktech může být vypnuto.

Vzorek či pouzdro procesoru Lakefield, prosinec 2018 (Zdroj: AnandTech)

Galerie: Prezentace big.LITTLE x86 procesoru Intel Lakefield na Hot Chips


Výsledek: IPC vyšší v průměru o 30 %

Intel uvádí, že Tremont by měl proti poslednímu 14nm Atomu (architektuře Goldmont+) zlepšit jednovláknový výkon v průměru o 30 %, pokud se porovnává v benchmarku SPEC 2006 a 2017. Přičemž pro jednotlivé složky testu se nárůst pohybuje od nějakých 12 % po (výjimečně) skoro 80 %, oněch +30% je tedy průměr. Toto srovnání výkonu je údajně na stejném taktu, takže oněch +30% je čistě zlepšení IPC (výkonu na jednotku frekvence). Není to tak, že část tohoto zlepšení je dosažená tím, že Tremont dosáhne vyšších frekvencí. 30% zlepšení IPC by bylo skutečně pozoruhodné, byť se samozřejmě startuje z relativně nižšího základu.

Prezentace CPU architektury Intel Tremont 11
Rozptyl nárůstu IPC v jednotlivých podtestech SPEC 2006 a 2017. Průměrný nárůst IPC je okolo 30 %, extrémy ještě vyšší

Podle odhadů by se Tremont mohl asi dotahovat na Sandy Bridge a možná někde i na Haswell, zhruba někde v tomto pásmu by možná mohlo IPC jádra skončit (rychlejší než Sandy Bridge by možná být mohlo, výkonnější než Haswell ale už asi ne). Ovšem to platí při stejné frekvenci. Tremont ale třeba kvůli cache s nízkou latencí a asi i dalším volbám při designu zaměřeným na nízkou spotřebu, bude asi dosahovat o dost nižších frekvencí, nejvyšší dosažitelné by mohly být třeba jen někde u 3,5 GHz, zatímco onen Haswell nebo Sandy Bridge šly o dost výš (nemluvě o architektuře Skylake). Analýza výkonu této architektury tedy asi bude hodně zajímavá, až se na trhu objeví.

Zdroje: Intel, WikiChip, AnandTech

Galerie: CPU architektura Intel Tremont (prezentace)


Architektura Intel Tremont odhalena: o 30 % lepší IPC, Atomy s výkonem velkých jáder
Ohodnoťte tento článek!
5 (100%) 12 hlas/ů

14 KOMENTÁŘE

  1. No je to pekny, ale otazka je, kdo to bude chtit. V sitove infrastrukture je tvrdej boj, konkurence je velka, sice cinany se snazi zlikvidovat Trumf, ale ani to nemusi stacit.
    No a ve spotrebitelskem segmentu to s jednim Surface Neo nevytrhnou. Takze si lze jen povzdechnout, ze je skoda, ze se v mobilni sfere nedokazal Intel nijak etablovat a nezaujmul zadneho vyrobce a Microsoft jako potencionalni partner selhal a cely mobilni segment zariznul. Samotne Surface Neo je tak jen designovka bez vetsiho dopadu na mobilni sferu.

    • Vzhledem k tomu, jak populární jsou minulé generace Atomů (třeba v Alze mají v noteboocích 104 různých modelů, což je víc než modelů s Ryzeny), tak bych se o úspěch rozhodně nebál. A to jsou jen notebooky. Další desítky modelů mají v kategorii Mini PC, další modely jsou v kategorii NASů.

        • No vidíte, já naopak s klidným svědomím. Samozřejmě lidem, pro které jsou vhodné. Před měsícem po mně chtěla sousedka opravit nefunkční notebook (s kterým byla do té doby naprosto spokojená), asi 10 let starý (možná i víc), nějaké dvoujádro od AMD, 1 GB paměti. Vysvětlil jsem jí, že takové věci se neopravují, ale vyhazují. Chtěla tedy nějaký levný nový počítač. Trvala na tom, že musí být nový, repas nechtěla. Vybral jsem jí za 8 tisíc model s Pentiem N5000 a je naprosto spokojená. Z jejího pohledu je to rychlé, naprosto tiché a v dalších letech nehrozí, že by jí výkonem nestačil. Občas si tam přetáhne pár fotek z mobilu, občas se podívá na něco na internetu, občas si vytvoří nějaký jednostránkový textový dokument či si občas stáhne nějaký film z ulozto. Z jejího pohledu by bylo těch dalších pár tisíc za lepší model vyhozené peníze.
          Ono když něco nevyhovuje mně, ještě to neznamená, že to nebude vyhovovat někomu jinému.

  2. Síce to na x86/x86-64 platforme trvalo vyše 10 rokov, ale podarilo sa, tak troška historické vizionárske okienko:

    “VIP o roce 2008: grafická inkvizice
    Grafika a procesory
    Jiří Souček (no-x):

    Nejvíce se mi líbí myšlenka asymetrického multiprocessingu, kde by se čip skládal z jednoho velkého hlavního + několika dceřinných jader. Ano, něco jako Cell, ale blíž současné architektuře. Aplikace, které nejsou optimalizovány (nebo které nelze efektivně optimalizovat), by běžely na hlavním čipu, ty ostatní by pak byly přidělovány menším výpočetním jednotkám. Ale to je trochu utopie – dokud jsou uživatelé ochotni kupovat stávající produkty, není důvod cokoli měnit.”
    zdroj: https://www.cnews.cz/vip-o-roce-2008-graficka-inkvizice/

    „big.LITTLE“ Intelu Lakefield = SingleCore Suny Cove + QuadCore Tremont s L2 cache + 4MB of last-level cache (LLC).

    Čo sa týka samotnej Tremont microarchitektúry tak vypadá veľmi vizionársky v skutku by z nej boli svojho času (stavebných strojov) v AMD nadčení (clustrované zdvojená 2x 3-wide decode, a potom pokračuje nezvyčajne na 4-wide až by sme mohli povedať asymetricky, atď.) až by sa dalo povedať že škoda, že neuvidíme Tremont na steroidoch s L3 cache a aspoň s primárnou kompatibilitou pre AVX a FMA3.

    • Vždyť je tam napsané Apollo Lake 🙂
      V tom článku se pokud vím píše, že už Gemini Lake (takže předchůdce) tenhle problém nemá. Naštěstí, protože teď z něj dělají refresh, takže se asi bude prodávat ještě dost dlouho. Mám trošku obavu, že Intel bude nástup 10nm procesu do těch lowendových notebooků hodně odkládat, kvůli tomu, že by to lezlo do marží 🙁

      • Ono to odkládání nemusí být o maržích konkrétního produktu, ale o plánování vytížení jednotlivých továren. Intel chce uvést grafické čipy. Ty musí vyrábět jen a pouze na 10nm linkách a dopředu pravděpodobně nedokáže odhadnout, jak moc se budou prodávat. Zatímco u CPU dokáže odhadnout počty prodaných kusů dejme tomu s 10% chybou, u odhadů prodejů grafik to může lítat o mnohonásobky na každou stranu. A pro firmu je vždycky nejhorší, když se jim podaří náhodou uvést produkt, o který je zájem, a není schopna po něm uspokojit poptávku (a zákazníkům nezbyde nic jiného, než jít ke konkurenci). No a kdyby to nedopadlo podle představ a grafické čipy se ukázaly jako fiasko, nic mu nebrání na těch 10nm linkách rozjet výrobu připravených Elkhart Lake Atomů.