GPU Coder

Generazione di codice CUDA per GPU NVIDIA

GPU Coder genera codice CUDA^® ottimizzato da codice MATLAB e modelli Simulink. Il codice generato include kernel CUDA per le parti parallelizzabili degli algoritmi di Deep Learning, visione embedded, radar ed elaborazione di segnali. Per ottenere prestazioni elevate, il codice generato può chiamare NVIDIA^® TensorRT™. È possibile integrare il CUDA generato nel progetto sotto forma di codice sorgente o librerie statiche/dinamiche e compilarlo per GPU NVIDIA moderne, comprese quelle integrate sulle piattaforme NVIDIA Jetson™ e NVIDIA DRIVE™. È possibile accedere alle periferiche sulle piattaforme Jetson e DRIVE e incorporare il CUDA scritto manualmente nel codice generato.

GPU Coder consente di profilare il CUDA generato per identificare colli di bottiglia e opportunità di ottimizzazione delle prestazioni (con Embedded Coder). I collegamenti bidirezionali consentono il tracciamento tra il codice MATLAB e il CUDA generato. È possibile verificare il comportamento numerico del codice generato tramite i test Software-In-the-Loop (SIL) e Processor-In-the-Loop (PIL).

Che cos’è GPU Coder?

Report sulla generazione di codice che mostra il codice CUDA generato.

Generazione di codice CUDA da MATLAB

Compila ed esegui il codice CUDA generato dagli algoritmi MATLAB sulle GPU NVIDIA più diffuse, da schede RTX per desktop a data center e a piattaforme embedded Jetson e DRIVE. Distribuisci gratuitamente il codice generato senza royalty ai clienti.

Generazione di codice CUDA per un algoritmo di rettifica fog (2:22)

Documentazione | Esempi

Modello Simulink di un rilevatore di corsie e veicoli.

Generazione di codice CUDA da Simulink

Utilizza Simulink Coder con GPU Coder per generare codice CUDA dai modelli Simulink e distribuiscilo a GPU NVIDIA. Accelera le parti delle simulazioni Simulink onerose dal punto di vista computazionale su GPU NVIDIA.

Deep Learning in Simulink per GPU NVIDIA: generazione di codice CUDA con GPU Coder (3:29)

Documentazione | Esempi

Distribuzione su NVIDIA Jetson e DRIVE

GPU Coder automatizza la distribuzione del codice generato sulle piattaforme NVIDIA Jetson e DRIVE. Accedi alle periferiche, acquisisci i dati dei sensori e distribuisci l’algoritmo alla scheda insieme al codice di interfaccia periferico per l’esecuzione autonoma.

Utilizzo di GPU Coder per la prototipazione e la distribuzione su NVIDIA Drive, Jetson (2:54)

Documentazione | Esempi

Due viste della fotocamera del traffico stradale in un’applicazione per il rilevamento di veicoli e corsie in Simulink.

Generazione di codice per il Deep Learning

Distribuisci una serie di reti di Deep Learning predefinite o personalizzate su GPU NVIDIA. Genera codice per la pre-elaborazione e la post-elaborazione insieme alle proprie reti di Deep Learning addestrate per distribuire algoritmi completi.

Deep Learning in Simulink per GPU NVIDIA: classificazione di segnali ECG (7:35)

Documentazione | Esempi

Grafico a barre intitolato “Inferenza con ResNet-50” che mostra l’aumento delle immagini al secondo con l’utilizzo di tipi di dati FP32 e INT8.

Ottimizzazione del codice generato

GPU Coder applica automaticamente ottimizzazioni come la gestione della memoria, la fusione di kernel e la regolazione automatica. Riduci il footprint di memoria generando codice INT8 o bfloat16. Aumenta ulteriormente le prestazioni tramite l’integrazione con TensorRT.

Rilevamento di pedoni su una GPU NVIDIA con TensorRT (1:34)

Documentazione | Esempi

Un report dallo strumento GPU Coder Performance Analyzer che mostra informazioni di profilazione sul codice generato.

Profilazione e analisi del codice generato

Utilizza GPU Coder Performance Analyzer per profilare il codice CUDA generato e identificare opportunità di migliorare ulteriormente la velocità di esecuzione e il footprint di memoria.

Documentazione | Esempi

Diagramma che mostra come funziona il pattern di progettazione per le operazioni di tipo “stencil” a livello concettuale.

Utilizzo di pattern di progettazione per incrementare le prestazioni

I pattern di progettazione, comprese le operazioni e le riduzioni di tipo “stencil”, vengono applicati automaticamente, quando disponibili, per aumentare le prestazioni del codice generato. È anche possibile richiamarli manualmente usando pragma specifici.

Documentazione | Esempi

Report sulla generazione di codice che mostra la tracciabilità bidirezionale interattiva tra il codice MATLAB e il codice CUDA generato.

Registrazione di segnali, regolazione di parametri e verifica del comportamento del codice

Utilizza GPU Coder con Simulink Coder per registrare segnali e regolare parametri in tempo reale. Aggiungi Embedded Coder per un tracciamento interattivo tra il codice MATLAB e il codice CUDA generato per verificare numericamente il comportamento del codice CUDA generato tramite il test SIL.

Tracciamento tra il codice CUDA generato e il codice sorgente MATLAB

Documentazione | Esempi

Modello Simulink di un algoritmo di previsione ECG con GPU Coder e GPU NVIDIA utilizzati per una maggiore velocità.

Accelerazione delle simulazioni MATLAB e Simulink

Richiama il codice CUDA generato come una funzione MEX dal codice MATLAB per velocizzare l’esecuzione. Utilizza Simulink Coder con GPU Coder per accelerare le parti onerose dal punto di vista computazionale dei blocchi funzione MATLAB nei modelli Simulink su GPU NVIDIA.

Accelerazione di simulazioni radar su GPU NVIDIA con GPU Coder (3:24)

Documentazione | Esempi

Risorse sui prodotti:

Documentazione Esempi Video Articoli tecnici Funzioni Supporto hardware Prodotti prerequisiti Requisiti Note della release

Drass sviluppa un sistema di Deep Learning per il rilevamento di oggetti in tempo reale in ambienti marittimi

“MATLAB ci ha messo a disposizione tutti gli strumenti di cui avevamo bisogno per procedere all’annotazione dei dati, alla scelta, ai test e alla regolazione del nostro modello di Deep Learning. In più, GPU Coder ci ha consentito di distribuirlo rapidamente sulle nostre GPU NVIDIA anche se la nostra esperienza in materia di GPU fosse limitata.”
Valerio Imbriolo, gruppo Drass

Visualizza altri casi dei clienti