Intel lancia processori scalabili Xeon di quarta generazione, CPU serie max

Questi prodotti, adottati su larga scala dai più importanti CSP, OEM, ODM e ISV, mostrano prestazioni più elevate in AI, networking e high performance computing.

IN BREVE

  • Ampia adozione da parte di clienti e partner con AWS, Cisco, Cloudera, CoreWeave, Dell Technologies, Dropbox, Ericsson, Fujitsu, Google Cloud, Hewlett Packard Enterprise, IBM Cloud, Informazioni Inspur, IONOS, Lenovo, Los Alamos National Laboratory, Microsoft Azure, NVIDIA, Oracle Cloud, OVHcloud, phoenixNAP, RedHat, SAP, SuperMicro, Telefonica e VMware, tra gli altri.
  • Con il maggior numero di acceleratori integrati rispetto a qualsiasi altra CPU al mondo per carichi di lavoro quali AI, analytics, networking, sicurezza, storage e high performance computing (HPC), le famiglie Intel Xeon Scalable di quarta generazione e Intel Max Series forniscono prestazioni di massimo livello grazie a un approccio specializzato e attenzione prioritaria ai carichi di lavoro da soddisfare.
  • I processori Intel Xeon Scalable di quarta generazione sono altamente sostenibili grazie a una gamma di funzionalità che ottimizzano prestazioni e consumi facendo un utilizzo efficiente delle risorse delle CPU.
  • Rispetto alle generazioni precedenti, gli Xeon di quarta generazione hanno prestazioni per Watt di 2,9 volte superiori1 in media quando si utilizzano gli acceleratori integrati, un risparmio fino a 70 Watt 2 per CPU in modalità accelerata, con minime perdite di prestazioni solo su alcuni carichi di lavoro e un costo totale di esercizio (TCO) tra il 52% e il 66% più basso3.

SANTA CLARA, California, 10 gennaio 2023 – Oggi, Intel ha messo a segno uno dei lanci di prodotto più importanti nella storia dell'azienda con la presentazione dei processori Intel® Xeon® Scalable di quarta generazione (nome in codice Sapphire Rapids), delle CPU Intel® Xeon® Max Series (nome in codice Sapphire Rapids HBM) e delle GPU Intel® Data Center Max Series (nome in codice Ponte Vecchio), che determinano un importante salto di qualità in termini di prestazioni, efficienza e sicurezza in ambito data center e offrono nuove funzionalità per AI, cloud computing, networking ed edge, e per i più potenti supercomputer al mondo.

Sviluppati tenendo conto delle esigenze di clienti e dei partner, gli Xeon di quarta generazione consentono a Intel di offrire soluzioni e sistemi differenziati su larga scala per affrontare le più impegnative sfide informatiche. L'esclusivo approccio di Intel di fornire un'accelerazione di prestazioni specializzata, basata sul carico di lavoro, e un software altamente ottimizzato per usi specifici, consente all'azienda di offrire le giuste prestazioni alla giusta potenza e un costo totale di esercizio ottimale.

Press kit: processori scalabili Xeon di quarta generazione

Inoltre, gli Xeon di quarta generazione sono i più sostenibili processori per data center prodotti da Intel, con una serie di funzionalità per gestire consumi e prestazioni che fanno un utilizzo ottimale delle CPU, contribuendo al raggiungimento degli obiettivi di sostenibilità degli utenti.

"Il lancio dei processori Xeon Scalable di quarta generazione e della famiglia di prodotti Max Series è un momento cruciale nel riavviare il percorso di Intel verso la leadership nel settore dei data center e accrescere la nostra presenza in nuove arene", ", ha dichiarato Sandra Rivera, executive vice president e general manager, Datacenter and AI Group di Intel. "Le famiglie di prodotti Xeon di quarta generazione e Max Series offrono ciò che gli utenti desiderano veramente: prestazioni ai vertici e affidabilità in un ambiente sicuro, rendendo più rapido il time-to-value e sostenendo il loro ritmo di innovazione".

Diversamente da altri processori per data center già disponibili sul mercato, la famiglia degli Xeon di quarta generazione estende la strategia di Intel basata su un approccio che parte dal carico di lavoro.

Le migliori prestazioni e il beneficio della sostenibilità grazie agli acceleratori integrati

Oggi, nel mercato ci sono oltre 100 milioni di Xeon installati in server aziendali su cui girano servizi IT, compresi nuovi modelli di business as-a-service, dispositivi di networking che gestiscono il traffico su internet, base station wireless per l’edge computing e servizi cloud.

Grazie a un’esperienza di decenni nel campo dei data center e delle reti, e a una posizione di leadership nell’intelligent innovation nell’edge, i nuovi processori Xeon di quarta generazione presentano il maggior numero di acceleratori integrati rispetto a qualsiasi altra CPU oggi disponibile al mondo offrendo prestazioni elevate e consentendo agli utenti di soddisfare le loro esigenze in tema di AI, analytics, networking, sicurezza, storage e HPC.

Rispetto alle generazioni precedenti, gli utenti dei processori Intel Xeon di quarta generazione si possono aspettare prestazioni per watt superiori in media di 29xRispetto alle generazioni precedenti, gli utenti dei processori Intel Xeon di quarta generazione si possono aspettare prestazioni per watt superiori in media di 2,9 volte  su specifici carichi di lavoro quando sono in uso gli acceleratori integrati, risparmi energetici fino a 70 Watt2 per CPU in modalità ottimizzata, con perdita minima nelle prestazioni, e un TCO tra il 52% e il 66% più basso3.

Sostenibilità

Il grande numero di acceleratori integrati negli Xeon di quarta generazione consente di risparmiare energia su tutta la piattaforma, riducendo l’esigenza di ulteriori acceleratori discreti e quindi contribuendo a raggiungere gli obiettivi di sostenibilità. Inoltre, la nuova modalità Optimized Power consente risparmi energetici fino al 20% alla presa con un impatto sulle prestazioni inferiore al 5% su carichi di lavoro selezionati11. Le innovazioni nel campo del raffreddamento ad aria e a liquido consentono ulteriori riduzioni nei consumi dei data center, mentre per quanto riguarda il processo di manifattura, gli Xeon di quarta generazione sono realizzati utilizzando il 90% in più di energia rinnovabile in impianti Intel dotati di avanzati sistemi di recupero delle acque reflue.

Intelligenza artificiale

Nelle applicazioni di AI, rispetto alla precedente generazione, i processori Xeon di quarta generazione ottengono prestazioni di inferenza in tempo reale PyTorch e di istruzione fino a 10 volte5,6 superiori grazie agli acceleratori Intel® Advanced Matrix Extension (Intel® AMX) integrati. I nuovi processori abilitano nuovi livelli di prestazioni su numerosi carichi di lavoro di inferenza e istruzione dell’AI. La CPU Xeon Max Series parte da una capacità di elaborazione del linguaggio naturale per migliorarne le prestazioni fino a 20 volte12 quando applicata ai grandi modelli linguistici. Con la suite di software AI di Intel, gli sviluppatori possono utilizzare i tool di loro scelta in modo da accrescere la produttività e rendendo più rapidi i tempi di sviluppo delle applicazioni di AI.  La suite è portabile dalle workstation e scalabile nel cloud fino a raggiungere l’edge. È inoltre validata per più di 400 modelli di machine learning e deep learning relativi ai casi d’uso più comuni in tutti i settori produttivi.

Networking

La quarta generazione di Xeon offre una famiglia di processori specificamente ottimizzata per alte prestazioni e bassa latenza sui carichi di lavoro di rete e di edge computing. Questi processori sono una parte fondamentale nella costruzione di un futuro maggiormente definito dal software per settori produttivi quali le telecomunicazioni, il retail, il manifatturiero e le smart city. Per i carichi di lavoro 5G, gli acceleratori integrati consentono di accrescere il throughput e diminuire la latenza, mentre una gestione più avanzata dell’energia migliora sia i tempi di risposta sia l’efficienza della piattaforma. Inoltre, paragonati alle precedenti generazioni, gli Xeon Gen 4 offrono fino al doppio di capacità vRAN (virtualized radio access network) senza che aumentino i consumi energetici. Questo consente ai fornitori di servizi di telecomunicazioni di raddoppiare le prestazioni per watt e di soddisfare le proprie esigenze di prestazioni, scalabilità ed efficienza energetica.

High Performance Computing

I processori Xeon di quarta generazione e la famiglia di prodotti Intel Max Series integrano CPU e GPU in un’architettura scalabile ed equilibrata con l'ecosistema open software oneAPI per affrontare i carichi di lavoro dell’HPC e dell’intelligenza artificiale e risolvere le sfide più pressanti.

La CPU Xeon Max Series è il primo e unico processore basato su x86 con memoria a grande ampiezza di banda che consente di accelerare molti carichi di lavoro di high performance computing senza portare modifiche al codice. La CPU Intel Data Center Max Series è il processore a più alta densità prodotto dall’azienda e sarà disponibile in diversi fattori di forma per soddisfare diverse esigenze di utilizzo

La CPU Xeon Max Series offre 64 gigabyte di memoria ad elevata ampiezza di banda (HBM2e) nello stesso pacchetto, accrescendo significativamente il throughput di dati per i carichi di lavoro di HPC e AI. Paragonato con i più potenti processori Intel® Xeon® Scalable di terza generazione, la CPU Xeon Max Series restituisce prestazioni fino a 3,7 volte più elevate10 per numerose applicazioni reali quali ad esempio l’energia e la modellazione di sistemi terrestri.

Inoltre, la GPU Data Center Max Series è dotata di oltre 100 miliardi di transistor in un pacchetto di 47 tile, offrendo un elevatissimo livello di throughput per carichi di lavoro impegnativi quali applicazioni di fisica, servizi finanziari e scienze biologiche. Accoppiato alla CPU Xeon Max Series, raggiunge prestazioni fino a 12,8 volte superiori13 rispetto alla generazione precedente nell’utilizzo di un simulatore LAMMPS di dinamica molecolare.

La piattaforma Xeon più sicura e ricca di funzioni di tutti i tempi

La piattaforma Xeon di quarta generazione è una meraviglia di accelerazione, ma anche un importante successo in termini di manifattura, con un massimo di quattro tile Intel 7-built per singolo pacchetto collegati per mezzo della tecnologia di packaging Intel EMIB (embedded multi-die interconnect bridge) e con nuove funzionalità tra cui una maggiore ampiezza di banda della memoria con DDR5, una maggiore ampiezza di banda I/O con interconnessione PCIe5.0 e Compute Express Link (CXL) 1.1. La più grande trasformazione della piattaforma che Intel abbia offerto.

Alla base di tutto c'è la sicurezza. Con gli Xeon Gen 4, Intel offre il ppiù completo portfolio di confidential computing tra tutti i fornitori di silicio per data center, accrescendo la sicurezza dei dati, il rispetto delle normative e la sovranità dei dati. Intel è il solo fornitore di silicio a offrire l’isolamento della applicazioni per i data center con Intel® Software Guard Extensions (Intel® SGX), che fornisce la più piccola superficie d’attacco oggi disponibile per il confidential computing in ambienti pubblici, privati e cloud-to-edge. Inoltre, la nuova tecnologia di isolamento delle virtual machine Intel® Trust Domain Extensions (Intel® TDX) è ideale per portare le applicazioni esistenti in ambienti confidential e debutterà con Microsoft Azure, Alibaba Cloud, Google Cloud e IBM Cloud.

Infine, l’architettura modulare di Xeon Gen 4 consente a Intel di offrire un’ampia gamma di processori per quasi 50 SKU mirate per casi di utilizzo o applicazioni, dall’uso generico ad applicazioni specifiche per casi d’uso nel cloud, database e analytics, networking, storage e edge single-socket. La famiglia di processori Xeon Gen 4 supporta le applicazioni On-Demand e varia per numero di core, frequenza, mix di acceleratori, potenza e throughput di memoria a seconda dei casi di utilizzo e dei fattori di forma specificati dagli utenti per le loro esigenze.

Tabella SKU: SKU per Xeon di quarta generazione e Intel Xeon CPU serie Max

¹ Geomean dei seguenti carichi di lavoro: RocksDB (IAA vs ZTD), ClickHouse (IAA vs ZTD), SPDK large media and database request proxy (DSA vs out of box), Image Classification ResNet-50 (AMX vs VNNI), Object Detection SSD-ResNet-34 (AMX vs VNNI), QATzip (QAT vs zlib)

² 1 nodo, piattaforma di convalida di riferimento Intel, 2 x Intel® Xeon 8480+ (56C, 2 GHz, TDP da 350 W), HT on, Turbo ON, memoria totale: 1 TB (16 slot/ 64 GB/ 4800 MHz), 1 unità P4510 da 3,84 TB NVMe PCIe gen4, BIOS: 0091.D05, (ucode:0x2b0000c0), CentOS Stream 8, 5.15.0-spr.bkc.pc.10.4.11.x86_64, Java Perf/Watt w/ openjdk-11+28_linux-x64_bin, 112 istanze, Dimensioni dell'heap iniziale/massimo di 1550 MB, testate da Intel a partire da ottobre 2022.

Classificazione delle immagini ResNet50 ³

Nuova configurazione: 1 nodo, 2 volte pre-produzione Intel® Xeon® processore scalabile 8490H (60 core) con Intel® Advanced Matrix Extensions (Intel AMX), su SuperMicro SYS-221H-TNR di pre-produzione con memoria DDR5 da 1024 GB (16x64 GB), microcodice 0x2b0000c0, HT on, Turbo on, SNC Off, CentOS Stream 8, 5.19.16-301.fc37.x86_64, 1x3.84TB P5510 NVMe, 10GbE x540-AT2, Intel TF 2.10, IA Model=Resnet 50 v1_5, migliori punteggi ottenuti: BS1 AMX 1 core/instance (massimo 15 ms SLA), utilizzando core fisici, testati da Intel nel novembre 2022. Baseline: 1 nodo, 2x produzione di terza generazione Intel Xeon processore scalabile 8380 (40 core) su SuperMicro SYS-220U-TNR, memoria DDR4 totale 1024 GB (16x64 GB), microcodice 0xd000375, HT on, Turbo on, SNC spento, CentOS Stream 8, 5,19,16-301.fc37.x86_64, 1x3,84 TB P5510 NVMe, 10 GbE x540-AT2, Intel TF 2.10, AI Model=Resnet 50 v1_5, migliori punteggi ottenuti: BS1 INT8 2 core/istanza (massimo 15 ms SLA), utilizzando core fisici, testati da Intel nel novembre 2022.

Per una flotta di 50 server di terza generazione Xeon 8380 (RN50 w/DLBoost), stimata a novembre 2022:

Costi CapEx: 1,64 milioni di dollari

Costi OpEx (4 anni, include costi di utility di alimentazione e raffreddamento, costi di manutenzione dell'infrastruttura e dell'hardware): $ 739,9K

Consumo energetico in kWh (4 anni, per server): 44627, PUE 1.6

Altre ipotesi: l'utility costa $0,1/kWh, da kWh a kg fattore DI CO2 0,42394

Per una flotta di 17 server Xeon 8490H di quarta generazione (RN50 con/AMX), stimata a novembre 2022:

Costi CapEx: $799,4K

Costi OpEx (4 anni, include costi di utility di alimentazione e raffreddamento, costi di manutenzione dell'infrastruttura e dell'hardware): $ 275,3K

Consumo energetico in kWh (4 anni, per server): 58581, PUE 1.6

IA - TCO inferiore del 55% implementando meno server basati su processore Intel® Xeon® di quarta generazione per soddisfare gli stessi requisiti prestazionali. Vedere [E7] in intel.com/processorclaims: processori scalabili Intel Xeon di quarta generazione. I risultati effettivi possono variare.

Database - TCO inferiore del 52% implementando meno server basati su processore Intel® Xeon® di quarta generazione per soddisfare gli stessi requisiti prestazionali. Vedere [E8] in intel.com/processorclaims: processori scalabili Intel Xeon di quarta generazione. I risultati effettivi possono variare.

HPC - TCO inferiore del 66% implementando meno Intel® Xeon® server basati su processore CPU Max per soddisfare gli stessi requisiti prestazionali. Vedere [E9] in intel.com/processorclaims: processori scalabili Intel Xeon di quarta generazione. I risultati effettivi possono variare.

4 Geomean di HP Linpack, Stream Triad, SPECrate2017_fp_base est, SPECrate2017_int_base est. Vedere [G2, G4, G6] in intel.com/processorclaims: Intel Xeon scalabile di quarta generazione.

5Prestazioni di inferenza in tempo reale di PyTorch fino a 10 volte superiori con Intel® Advanced Matrix Extensions integrato (Intel® AMX) (BF16) rispetto alla generazione precedente (FP32)

Geomean PyTorch di ResNet50, Bert-Large, MaskRCNN, SSD-ResNet34, RNN-T, Resnext101.

6Prestazioni di training PyTorch fino a 10 volte superiori con Intel® Advanced Matrix Extensions integrato (Intel® AMX) (BF16) rispetto alla generazione precedente (FP32)

Geomean PyTorch di ResNet50, Bert-Large, DLRM, MaskRCNN, SSD-ResNet34, RNN-T.

7 Stimato in data 30/08/2022 in base ai miglioramenti dell'architettura dei processori scalabili di quarta generazione Intel® Xeon® rispetto alla terza generazione Intel® Xeon® processore scalabile con numero di core, potenza e frequenza del socket simili in uno scenario di test utilizzando il software FlexRAN™. I risultati effettivi possono variare.

8 core fino al 95% in meno e throughput di compressione di livello 1 2 volte superiore con Intel Xeon Platinum 8490H di quarta generazione utilizzando Intel QAT integrato rispetto alla generazione precedente.

8490H: piattaforma di pre-produzione a 1 nodo con processore scalabile Intel® Xeon di quarta generazione (60 core) con Intel QuickAssist Accelerator integrato (Intel QAT), dispositivo QAT utilizzato =8 (2 socket attivi), con memoria DDR5 totale di 1024 GB (16x64 GB), microcodice 0xf000380, HT on, Turbo Off, SNC Off, Ubuntu 22.04.1 LTS, 5.15.0-47-generico, 1x SSDSC2KG01 Intel® 1,92 TB, QAT v20.l.0.9.1 , QATzip v1.0.9 , ISA-L v2.3.0, testato da Intel nel settembre 2022.

8380: 1 nodo, 2 processori scalabili Intel Xeon di terza generazione ( 40 core) su piattaforma Coyote Pass, memoria DDR4 totale 1024 GB (16x64 GB), microcodice 0xd000375, HT acceso, Turbo Off, SNC off, Ubuntu 22.04.1 LTS, 5.15.0-47-generico, 1x 1,92 TB Intel SSDSC2KG01,QAT v1.7.l.4.16, QATzip v1.0.9 , ISA-L v2.3.0, testato da Intel ottobre 2022.

Prestazioni RocksDB fino a 9 volte superiori con Intel Xeon Platinum 8490H di quarta generazione utilizzando Intel IAA integrato rispetto alla generazione precedente.

8490H: piattaforma Intel a 1 nodo e pre-produzione con processore scalabile Intel Xeon di quarta generazione (60 core) con Intel In-Memory Analytics Accelerator (Intel IAA) integrato, HT On, Turbo acceso, memoria totale 1024 GB (16X64 GB DDR5 4800), microcodice 0xf000380, 1X SSDSC2KG01 INTEL da 1,92 TB, Ubuntu 22.04.1 LTS, 5.18.12-051812-generico, QPL v0.1.21,accel-config-v3.4.6.4, ZSTD v1.5.2, RocksDB v6.4.6 (db_bench), testato da Intel nel settembre 2022.

8380: 1 nodo, 2 processori scalabili Intel Xeon di terza generazione ( 40 core) su piattaforma Coyote Pass, HT on, Turbo on, SNC off, memoria totale 1024 GB (16x64 GB DDR4 3200), microcodice 0xd000375, 1 SSDSC2KG01 INTEL da 1,92 TB, Ubuntu 22.04.1 LTS, 5.18.12-051812-generico, ZSTD v1.5.2, RocksDB v6.4.6 (db_bench), testato da Intel nell'ottobre 2022.

10 Intel® Xeon® 8380: test di Intel a partire dal 7/01/2022. 1 nodo, 2 Intel® Xeon® CPU 8380, HT acceso, Turbo acceso, memoria totale 256 GB (16x16 GB 3200MT/s DDR4), versione BIOS SE5C620.86B.01.01.0006.2207150335, ucode revision=0xd000375, Rocky Linux 8.6, Linux versione 4.18.0-372.26.1.el8_6.crt1.x86_64, YASK v3.05.07

Intel® Xeon® CPU Max serie: test di Intel a partire da ww36'22. 1 nodo, 2 Intel® Xeon® CPU Max SeriesHT on, Turbo On, SNC4, memoria totale 128 GB (8 x 16 GB HBM2 3200MT/s), versione BIOS SE5C7411.86B.8424.D03.2208100444, ucode revision=0x2c000020, CentOS Stream 8, Linux versione 5.19.0-rc6.0712.intel_next.1.x86_64+server, YASK v3.05.07.

Risparmio energetico del sistema fino al 20% utilizzando scalabili Xeon di quarta generazione con modalità di alimentazione ottimizzata attivata e disattivata su carichi di lavoro selezionati, tra cui SpecJBB, SPECINT e NIGNX key handshake.

12 AMD Milano: testato da Numenta in data 28/01/2022. 1 nodo, 2 AMD EPYC 7R13 su AWS m6a.48xlarge, 768 GB DDR4-3200, Ubuntu 20.04 Kernel 5.15, OpenVINO 2022.3, BERT-Large, Lunghezza sequenza 512, Dimensioni batch 1

Intel® Xeon® 8480+: testato da Numenta in data 28/01/2022. 1 nodo, 2 Intel® Xeon® 8480+, 512 GB DDR5-4800, Ubuntu 22.04 Kernel 5.17, OpenVINO 2022.3, BERT-Large ottimizzato per Numenta, lunghezza sequenza 512, dimensioni batch 1

Intel® Xeon® Max 9468: testato da Numenta in data 30/01/2022. 1 nodo, 2 Intel® Xeon® Max 9468, 128 GB HBM2e 3200 MT/s, Ubuntu 22.04 Kernel 5.15, OpenVINO 2022.3, BERT-Large ottimizzato per Numenta, lunghezza sequenza 512, dimensioni batch 1

13 Intel® Xeon® 8380: test di Intel in data 28/01/2022. 1 nodo, 2 Intel® Xeon® 8380 CPU, HT acceso, Turbo acceso, memoria totale 256 GB (16x16 GB 3200MT/s, Dual-Rank), versione BIOS SE5C6200.86B.0020.P23.2103261309, ucode revision=0xd000270, Rocky Linux 8.6, Linux versione 4.18.0-372.19.1.el8_6.crt1.x86_64

HBM Intel® Xeon® CPU max: test da parte di Intel in data 28/01/2022. 1 nodo, 2 Intel® Xeon® max 9480, HT acceso, Turbo acceso, memoria totale HBM2e da 128 GB, BIOS EGSDCRB1. DWR.0085.D12.2207281916, ucode 0xac000040, SUSE Linux Enterprise Server 15 SP3, Kernel 5.3.18, oneAPI 2022.3.0

Intel® Data Center GPU Serie Max con host DDR: test di Intel a partire dal 28/01/2022. 1 nodo, 2 Intel® Xeon® Max 9480, HT acceso, Turbo acceso, memoria totale 1024 GB DDR5-4800 + HBM2e da 128 GB, modalità di memoria: piatta, HBM2e non utilizzata, 6 volte® intel Data Center GPU serie Max, BIOS EGSDCRB1. DWR.0085.D12.2207281916, ucode 0xac000040, Agama pvc-prq-54, SUSE Linux Enterprise Server 15 SP3, Kernel 5.3.18, oneAPI 2022.3.0

Intel® Data Center GPU Serie Max con host HBM: test di Intel a partire dal 28/01/2022. 1 nodo, 2 Intel® Xeon® max 9480, HT acceso, Turbo acceso, memoria totale HBM2e da 128 GB, 6 GPU GPU Intel®® serie max, BIOS EGSDCRB1. DWR.0085.D12.2207281916, ucode 0xac000040, Agama pvc-prq-54, SUSE Linux Enterprise Server 15 SP3, Kernel 5.3.18, oneAPI 2022.3.0