Intel® FPGA AI Suite

Scoprite come Intel® FPGA AI Suite possono aggiungere FPGA'IA ai sistemi e ai data center embedded.

"La facilità d'uso del Intel® FPGA AI Suite e del Distribuzione Intel® del toolkit OpenVINO™ ha permesso a Stryker* di sviluppare Intel® FPGA IP ottimizzate per l'inferenza del deep learning. L'IP di inferenza è stato integrato con successo in un Intel® FPGA utilizzando Intel® Quartus® Software Prime. I progetti di esempio forniti con la suite hanno permesso al team di valutare rapidamente diversi algoritmi per diverse fonti di immagini. Intel® FPGA AI Suite e la Intel® Distribution di OpenVINO toolkit consentono agli scienziati dei dati e agli ingegneri FPGA di collaborare senza problemi per sviluppare un'inferenza di deep learning ottimizzata per le applicazioni mediche".

— Team di ingegneria Stryker

Panoramica

Intel FPGAs consentire l'inferenza del deep learning in tempo reale, a bassa latenza e a bassa potenza combinata con i seguenti vantaggi:

  • Flessibilità I/O
  • Riconfigurazione
  • Facilità di integrazione in piattaforme personalizzate
  • Lunga durata

Intel FPGA AI Suite è stato sviluppato con la visione della facilità d'uso dell'inferenza dell'intelligenza artificiale (IA) su Intel FPGAs. La suite consente a progettisti FPGA, ingegneri di apprendimento automatico e sviluppatori di software di creare piattaforme di IA ottimizzate FPGA in modo efficiente.

Le utility nel Intel FPGA AI Suite accelerare lo sviluppo FPGA per l'inferenza dell'IA utilizzando framework del settore noti e diffusi come TensorFlow* o PyTorch* e toolkit OpenVINO, sfruttando al contempo flussi di sviluppo FPGA robusti e comprovati con il software Prime Intel Quartus.

Il flusso di strumenti Intel FPGA AI Suite funziona con il toolkit OpenVINO, un progetto open source per ottimizzare l'inferenza su una varietà di architetture hardware. Il toolkit OpenVINO prende i modelli di Deep Learning da tutti i principali framework di Deep Learning (come TensorFlow, PyTorch, Keras*) e li ottimizza per l'inferenza su una varietà di architetture hardware, tra cui varie CPU, CPU+GPU e FPGAs.

Scoprite come Intel FPGA AI Suite possono aggiungere FPGA'IA ai sistemi embedded e ai data center.

Contattare Intel Sales per i prezzi e la disponibilità ›

Caratteristiche principali

Prestazioni elevate

Intel® Agilex™ FPGAs serie M può ottenere prestazioni teoriche massime di 38 INT8 TOPS o 3.679 frame Resnet-50 al secondo al 90% FPGA utilizzo.

Integrazione facile del sistema

Supporta l'integrazione con IP personalizzato come ADC/DAC, video ed Ethernet per ottenere il minimo ingombro e la latenza più bassa.

Basso costo totale di proprietà

Riducete al minimo il TCO con un'inferenza IA altamente scalabile, personalizzabile e fine su una vasta gamma di prestazioni e dimensioni dei batch.

Flussi semplici e standard

Crea e aggiungi IP di inferenza IA a design attuali o nuovi FPGA con Intel Quartus Prime Software o Platform Designer.

Supporto front-end IA

Utilizza il front-end dell'IA preferito come TensorFlow, Caffe, Pytorch, MXNet, Keras e ONNX.

Ottimizzazione OpenVINO

OpenVINO Toolkit ottimizza le prestazioni e la potenza riducendo al minimo la logica e l'ingombro della memoria.

Mostra di più Mostra di meno

flusso di sviluppo dell'inferenza dell'IA FPGA

Il flusso di sviluppo dell'inferenza dell'IA è mostrato nella figura 1. Il flusso combina perfettamente un flusso di lavoro hardware e software in un flusso di lavoro generico end-to-end di IA. I passaggi sono i seguenti:

1. Model Optimizer nel toolkit OpenVINO crea file di rete di rappresentazione intermedia (xml) e file di pesi e pregiudizi (.bin).

2. Intel FPGA AI Suite compilatore è utilizzato per:

  • Fornire metriche di area o prestazioni stimate per un determinato file di architettura o produrre un file di architettura ottimizzato. (L'architettura si riferisce a parametri IP di inferenza come dimensioni dell'array PE, precisione, funzioni di attivazione, larghezze dell'interfaccia, dimensioni delle finestre, ecc.)
  • Compila i file di rete in un file .bin con partizioni di rete per FPGA e CPU (o entrambi) insieme a pesi e pregiudizi.

3. Il file .bin compilato viene importato dall'applicazione di inferenza dell'utente in fase di esecuzione.

  • Le API (Application Programming Interface) di runtime includono l'API del motore di inferenza (CPU di partizione di runtime e FPGA, inferenza della pianificazione) e l'IA FPGA (memoria DDR, blocchi hardware FPGA).
  • I design di riferimento dimostrano le operazioni di base di importazione di .bin e di inferenza in esecuzione su FPGA con CPU host di supporto (processori x86 e Arm*).

Figura 1: flusso di sviluppo Intel FPGA AI Suite

Note:

Dispositivi supportati: Intel® Agilex™ FPGA, Intel® Cyclone® FPGA 10 GX, Intel® Arria® 10 FPGA

Reti testate e funzioni di attivazione1:

  • ResNet-50, MobileNet v1/v2/v3, YOLO v3, TinyYOLO v3, UNET
  • ReLU, 2D Conv, BatchNorm, EltWise Mult, completamente connesso, clamp, pReLU, SoftMax

Architetture a livello di sistema

Intel FPGA AI Suite è flessibile e configurabile per una varietà di casi d'uso a livello di sistema. Nella Figura 2 sono elencati i modi tipici per incorporare l'IP FPGA SUITE IA in un sistema. I casi d'uso si estendono su diversi verticali, dalle piattaforme embedded ottimizzate che vanno dalle applicazioni con CPU host (processori Intel® Core™, processori Arm) agli ambienti data center con processori Intel® Xeon® e anche ad applicazioni senza host (o processori soft come processori Nios® V).

Figura 2: Topologie di sistema Intel FPGA AI Suite tipiche

Offload CPU

Acceleratore IA

Offload CPU multifunzione

Acceleratore IA + funzione hardware aggiuntiva

Elaborazione ingest/inline + IA

Acceleratore IA + Direct Ingest e streaming di dati

SoC embedded FPGA + IA

Acceleratore IA + direct ingest e streaming di dati + funzione hardware +

Processori Embedded Arm o Nios® II o Nios V

Mostra di più Mostra di meno

Video

Panoramica delle Intel FPGA AI Suite

Guarda questo video per familiarizzare con il flusso di progettazione per Intel FPGA AI Suite.

Video dimostrativo di installazione Intel® FPGA AI Suite

Installare Intel FPGA AI Suite è facile, guardare questo video per una demo dell'installazione.

Video dimostrativo sulla compilazione Intel® FPGA AI Suite

Guarda una rapida dimostrazione del Intel FPGA AI Suite la compilazione di un modello PRETRAINED RESNET-50 e i risultati dell'inferenza di output.

Intel FPGA AI Suite è disponibile oggi per i prezzi e la valutazione


Design di riferimento con esempi di progettazione FPGA pre-costruiti disponibili per la valutazione iniziale sulla scheda di sviluppo Terasic DE10-Agilex e Intel Arria 10 SoC Development Kit e per l'ulteriore sviluppo di progetti personalizzati a livello di sistema.

Contattate Intel Sales

Informazioni su prodotti e prestazioni

1Contattare Intel Sales per ulteriori informazioni sulle reti e le funzioni non elencate

Il contenuto di questa pagina è il risultato della combinazione tra la traduzione umana e quella automatica del contenuto originale in lingua inglese. Questo contenuto è fornito soltanto a titolo di informazione generale e non ha pretese di completezza o accuratezza. In presenza di contraddizioni tra la versione in lingua inglese di questa pagina e la sua traduzione, fa fede la versione inglese. Visualizza la versione in lingua inglese di questa pagina.