GPU Coder
Generare codice CUDA per GPU NVIDIA
GPU Coder™ genera codice CUDA® ottimizzato dal codice MATLAB® per il deep learning, la visione embedded e i sistemi autonomi. Il codice generato consente di richiamare automaticamente le librerie CUDA di NVIDIA ottimizzate, tra cui cuDNN, cuSolver e cuBLAS. Può essere integrato nel tuo progetto in forma di codice sorgente, librerie statiche o librerie dinamiche e utilizzato per la prototipazione su GPU quali NVIDIA Tesla® e NVIDIA Tegra®. Puoi utilizzare il CUDA generato in MATLAB per accelerare le porzioni computazionalmente onerose del codice MATLAB. GPU Coder consente di incorporare il codice CUDA preesistente negli algoritmi MATLAB e nel codice generato.
Quando viene utilizzato con Embedded Coder®, GPU Coder consente di verificare il comportamento numerico del codice generato tramite test software-in-the-loop (SIL).
Inizia ora:
Distribuire algoritmi senza royalty
Compila ed esegui il codice generato su GPU NVIDIA conosciute, dai sistemi desktop ai data center e all’hardware embedded. Il codice generato è senza royalty: distribuiscilo gratuitamente ai tuoi clienti per applicazioni commerciali.
Esplora la gallery (2 images)
Generare codice da toolbox e funzioni supportate
GPU Coder genera il codice da una vasta gamma di costrutti del linguaggio MATLAB, che i progettisti utilizzano per sviluppare algoritmi come componenti di sistemi di dimensioni maggiori. Ciò include oltre 390 operatori e funzioni da MATLAB e toolbox aggiuntivi.
Supporto per linguaggio e toolbox MATLAB per la generazione di codice.
Incorporare codice preesistente
Utilizza le funzionalità di integrazione del codice preesistente per incorporare codice CUDA ottimizzato o affidabile nei tuoi algoritmi MATLAB ed eseguire i test in MATLAB, quindi richiama lo stesso codice CUDA dal codice generato.
Integrazione di codice CUDA esistente nel codice generato.
Distribuire algoritmi di deep learning end-to-end
Distribuisci una serie di reti di deep learning addestrate come ResNet-50 e SegNet da Deep Learning Toolbox™ a GPU NVIDIA. Genera codice per la pre-elaborazione e la post-elaborazione insieme alle reti di deep learning addestrate per distribuire algoritmi completi.
Distribuzione di una serie di reti di deep learning come SegNet.
Generare codice ottimizzato per l’inferenza
GPU Coder genera codice con un footprint ridotto rispetto ad altre soluzioni di deep learning, poiché genera soltanto il codice necessario per eseguire l’inferenza con l’algoritmo specifico. Il codice generato consente di richiamare automaticamente le librerie ottimizzate, tra cui TensorRT™ e cuDNN.
Inferenza di immagini singole con VGG-16 su una GPU Titan V tramite cuDNN.
Migliorare l’ottimizzazione con TensorRT
Genera codice che si integra con NVIDIA TensorRT, un runtime e ottimizzatore di inferenze di deep learning ad alte prestazioni. Utilizza tipi di dati INT8 o FP16 per incrementare ulteriormente le prestazioni rispetto al tipo di dati standard FP32.
Miglioramento della velocità di esecuzione con tipi di dati INT8 e TensorRT.
Ottimizzare l’utilizzo della memoria riducendo al minimo i trasferimenti CPU-GPU
GPU Coder analizza, identifica e suddivide automaticamente i segmenti del codice MATLAB per eseguirlo su CPU e GPU. Inoltre, consente di ridurre al minimo il numero di copie di dati tra CPU e GPU. Utilizza gli strumenti di profiling per identificare altri potenziali colli di bottiglia.
Report di profiling che identificano potenziali colli di bottiglia.
Richiamare le librerie ottimizzate
Il codice generato con GPU Coder consente di richiamare le librerie CUDA di NVIDIA ottimizzate, tra cui TensorRT, cuDNN, cuSolver, cuFFT, cuBLAS e Thrust. Quando possibile, il codice generato dalle funzioni dei toolbox MATLAB viene mappato in base alle librerie ottimizzate.
Integrazione di codice CUDA esistente nel codice generato.
Utilizzare modelli di progettazione per accelerare ulteriormente le prestazioni.
I modelli di progettazione come l’elaborazione stencil utilizzano la memoria condivisa per aumentare la larghezza di banda della memoria. Vengono applicati automaticamente quando si utilizzano alcune funzioni come la convoluzione. Puoi inoltre richiamarli manualmente utilizzando pragma specifici.
Modello di progettazione dell’elaborazione stencil.
Prototipare su piattaforme NVIDIA Jetson e DRIVE
Automatizza la cross-compilazione e la distribuzione del codice generato alle piattaforme NVIDIA Jetson™ e DRIVE™ utilizzando il pacchetto di supporto GPU Coder™ per le GPU NVIDIA®.
Prototipazione su piattaforme NVIDIA Jetson.
Accedere a periferiche e sensori da MATLAB e dal codice generato
Comunica da remoto con il target NVIDIA da MATLAB per acquisire dati da webcam e altre periferiche supportate per la prototipazione iniziale. Costruisci e distribuisci il tuo algoritmo alla scheda insieme al codice di interfaccia periferico per l’esecuzione autonoma.
Accesso a periferiche e sensori da MATLAB e dal codice generato.
Dalla prototipazione alla produzione
Utilizza GPU Coder con Embedded Coder® per tracciare in modo interattivo il tuo codice MATLAB parallelamente al CUDA generato. Verifica il comportamento numerico del codice generato eseguito sull’hardware tramite i test software-in-the-loop (SIL) e processor-in-the-loop (PIL).
Report di tracciabilità interattiva utilizzando GPU Coder con Embedded Coder.
Accelerare gli algoritmi utilizzando GPU
Richiama il codice CUDA generato come una funzione MEX dal tuo codice MATLAB per velocizzarne l'esecuzione, anche se le prestazioni varieranno in base alla natura del tuo codice MATLAB. Profila le funzioni MEX generate per identificare i colli di bottiglia e concentrare i tuoi sforzi di ottimizzazione.
Generare codice CUDA su NVIDIA GPU Cloud
Utilizza MATLAB Deep Learning Container su NVIDIA GPU Cloud per Amazon Web Services o NVIDIA DGX per addestrare le reti di deep learning. Quindi, utilizza GPU Coder nello stesso contenitore Docker per generare codice CUDA.
Generazione di codice CUDA utilizzando GPU Coder su NVIDIA GPU Cloud.
Reti Long Short-Term Memory (LSTM)
generazione di codice per reti ricorrenti, quali LSTM
Targeting Deep Learning
distribuzione di reti deep learning su processori GPU Arm Mali
Reti Deep Learning
generazione di codice per DeepLab-v3+, MobileNet-v2, Xception e DenseNet-201
Rilevatore di oggetti YOLO V2
generazione di codice da rilevatori di oggetti YOLO V2 per target cuDNN e TensorRT
Parallelismo dinamico
avvio dei kernel dai thread in esecuzione sul dispositivo GPU
Operazioni di riduzione 1-D sulla GPU
Test Processor-in-the-Loop (PIL)
verifica del comportamento numerico del codice CUDA generato su GPU NVIDIA
Supporto hardware NVIDIA
accesso a moduli con telecamera a bordo e generazione di codice CUDA per la funzione VideoReader
Guarda le note di rilascio per ulteriori informazioni su queste caratteristiche e sulle funzioni corrispondenti.
