HPC aumentato dall'IA
L'architettura necessaria per le implementazioni di HPC ha molte similarità con le implementazioni di IA. Entrambi utilizzano gli alti livelli di elaborazione e storage, una grande capacità di memoria e larghezza di banda e fabric ad alta larghezza di banda per ottenere risultati, generalmente elaborando grandi dimensioni di dati di dimensioni crescenti. Il deep learning è un'ottima soluzione per i problemi affrontati dall'HPC, che coinvolgono set di dati molto grandi e multidimensionali. Ad esempio, Quantifi ha utilizzato l'IA con tecnologia Intel per accelerare la valutazione derivativa in mercati finanziari di un fattore di 700 volte rispetto ai metodi convenzionali,1 che forniscono risultati quasi in tempo reale per i carichi di lavoro di valutazione comuni.
La promessa di IA in HPC è IA è che i modelli di IA possono aumentare l'analisi esperta di set di dati per produrre risultati più rapidamente allo stesso livello di precisione. I casi di utilizzo principali di HPC stanno traendo beneficio dalle funzionalità di IA, tra cui:
- Analisi per i servizi finanziari (FSI) come il rilevamento del rischio e delle frodi, la logistica e la produzione
- Progettazione di prodotti industriali, dinamica di fluidi computazionale (CFD), ingegneria assistita da computer (CAE) e progettazione assistita da computer (CAD).
- Visualizzazione e simulazione scientifica, soprattutto in campi come la fisica ad alta energia.
- Raggruppamento di modelli, scienze della vita, sequenziamento genomico e ricerca medica.
- Scienze della terra ed esplorazione del settore energetico.
- Tempo, meteorologia e scienze climatiche.
- Astronomia e astrofisica.
Come sono cambiati i carichi di lavoro
Molti dei casi di utilizzo attuali per l'IA sono limitati all'edge o alle implementazioni dei data center, come i sistemi di traffico intelligenti che pendono molto su videocamere intelligenti per il riconoscimento degli oggetti tramite IA. Gli algoritmi che sottostanno ai modelli di IA stanno diventando molto più complessi. offrendo un potenziale maggiore ma anche più requisiti di elaborazione per la scoperta scientifica, l'innovazione e applicazioni industriali e aziendali. La sfida è come scalare l'inferenza dell'IA ai livelli di HPC o come passare dal riconoscimento dei modelli di traffico a un'intersezione per sequenziare un genoma in ore invece che in settimane.
Fortunatamente, la comunità di HPC offre decenni di esperienza su come affrontare le sfide di IA su scala, come la necessità di più parallelismo, l'I/O veloce per gli enormi set di dati e navigazione efficiente di ambienti di elaborazione distribuiti. Le funzionalità di HPC come queste possono aiutare ad accelerare l'IA per ottenere risultati utili, come l'applicazione di euristiche di livello esperto tramite inferenza di deep learning a migliaia di transazioni, carichi di lavoro o simulazioni per secondo.
Reti neurali informate dalla fisica (PINN)
Un esempio di caso di utilizzo di HPC aumentato dall'IA è l'integrazione delle leggi della fisica in modelli inferenziali per generare output più realistici. In queste applicazioni, le reti neurali devono obbedire alle leggi note come la conservazione della massa, dell'energia e della velocità e sono denominate reti neurali informate da fisica (PINN). I PINN possono essere utilizzati per aumentare, o sostituire, modellazione e simulazione di HPC per casi d'utilizzo come l'analisi del flusso del fluido, la dinamica molecolare, la progettazione del motore di propulsione e aerodinamica e fisica ad alta energia.
Ad esempio, i ricercatori CERN hanno utilizzato Intel® Deep Learning Boost (Intel® DL Boost) su processori scalabili Intel® Xeon® per sostituire le simulazioni di Monte Carlo per le collisioni di particelle. La quantizzazione int8 a bassa precisione ha aiutato a fornire un'elaborazione fino a 68.000 volte più veloce rispetto alle simulazioni del software,[Il CERN accelera i carichi di lavoro di simulazione con l'IA", sito web Intel. Data di accesso: agosto 2021.] con un breve miglioramento dell'accuratezza.
L'IA in HPC è guidata dalla crescita dei dati
Il driver principale per i carichi di lavoro di HPC e dell'IA è la crescita persistente dei dati e la necessità di stare al passo con l'analisi di scala dell'HPC. Gli algoritmi di IA sono sempre più sofisticati e possono gestire set di dati molto più grandi rispetto agli anni precedenti, soprattutto dall'introduzione delle metodologie di deep learning. Le discipline come il sequenziamento genomico stanno generando una quantità di dati e istituzioni come il Broad Institute of MIT e Harvard stanno creando circa 24 terabyte di nuovi dati ogni giorno.2
L'IA aiuta ad accelerare i carichi di lavoro critici, in modo che la scoperta non resti indietro. Ad esempio, Intel ha collaborato con il Broad Institute per sviluppare la soluzione Intel® Select per il toolkit di analisi genomica (GATK), che integra l'accelerazione di IA abilitata dall'hardware per guidare i carichi di lavoro di HPC per set di strumenti genomici chiave. Utilizzando la soluzione Select di GATK, il Broad Institute è stato capace di ottenere un'accelerazione di 1,75 volte per l'applicazione di Burrow-Wheeler Aligner (BWA) e un'accelerazione di 2 volte per l'applicazione di HaplotypeCaller.3
Il San Diego Supercomputer Center (SDSC) ospita uno dei più grandi data center accademici al mondo ed è riconosciuto come leader internazionale nell'utilizzo, gestione, storage e conservazione dei dati. Il Sistema incentrato sull'IA consente agli scienziati di sviluppare nuovi approcci per formazione e inferenza accelerate. Case study: SDSC crea il supercomputer incentrato sull'IA “Voyager” Supercomputer.
Superare le sfide all'IA nell'adozione dell'HPC
Quando si tratta delle configurazioni HPC per l'IA, tradizionalmente si crea un compromesso tra i requisiti di IA e di HPC dentro l'architettura della CPU. I carichi di lavoro impegnativi di IA scambieranno tipicamente il conteggio dei core per la velocità, mentre i carichi di lavoro di HPC spesso preferiscono maggiori prestazioni di elaborazione con un alto conteggio di core e altra larghezza di banda core-to-core. Con i continui miglioramenti generativi, Intel offre soluzioni tra cui l'accelerazione integrata in processori scalabili Intel® Xeon®.
Le seguenti innovazioni principali sia nello strato hardware che software stanno rendendo più facile progettare e costruire soluzioni di IA:
- I processori scalabili Intel® Xeon® offrono alti livelli di requisiti di prestazioni di IA con l'accelerazione IA integrata. Intel® AVX-512 con le istruzioni di rete neurale di vettore (VNNI) di Intel® DL Boost, esclusivo per i processori Intel®, offre prestazioni di IA ottimizzate per informazioni veloci in meno tempo.
- Le librerie di ottimizzazione a bassa precisione all'interno del toolkit di Intel® oneAPI AI Analytics stanno rendendo più facile la codifica per le piattaforme di IA di HPC, aumentando le prestazioni e mantenendo le soglie di precisione.
- Gli FPGA Intel® per l'apprendimento automatico supportano un'elevata parallelizzazione e aiutano ad accelerare i risultati e le informazioni per i carichi di lavoro HPC e IA.
- La piattaforma Gaudi di Habana Labs, il team di data center di Intel che si concentra su tecnologie di elaborazione deep learning, consente ai data scientist e agli ingegneri dell'apprendimento automatico di accelerare la formazione e di costruire nuovi modelli o di migrare quelli esistenti con solo poche linee di codice per ottenere maggiore produttività Gli acceleratori Habana sono realizzati appositamente per la formazione e l'inferenza di modelli IA su scala.
- Le soluzioni Intel® Select per i cluster di IA HPC offrono un percorso per implementare i carichi di lavoro di IA su piattaforme HPC convergenti senza implementare le GPU.
- Gli sviluppatori di IA stanno perfezionando le tecniche e il codice per eseguire in modo più efficace sui cluster HPC. Le nuove ottimizzazioni stanno accelerando i carichi di lavoro end to end dal caricamento di dati alla pre-elaborazione, formazione e inferenza.
La complessità è anche una fonte principale di attrito per l'adozione dell'HPC e dell'IA. I set di competenze richieste sono molto specifiche dei domini e le aziende dovranno acquisire talenti addestrati in HPC e in IA per avere successo. La leadership del settore Intel può aiutare ad aprire la strada, mentre Intel collabora a stretto contatto con le comunità HPC e IA per condividere competenze e idee.
Conclusione: offrire l'intelligenza IA all'HPC
L'IA è sempre più usata in applicazioni HPC con nuove tecnologie e metodologie aumentando il ritmo e la scala di analisi di IA per la scoperta rapida e informazioni. Con queste innovazioni, gli scienziati e i ricercatori di dati possono fare affidamento sull'IA per elaborare più dati e creare simulazioni più realistiche e fare previsioni più accurate, spesso in meno tempo.