Proiezione
Proiettare i livelli eseguendo l'analisi dei componenti principali (PCA) sulle attivazioni del livello utilizzando un set di dati rappresentativo dei dati di addestramento e applicando le proiezioni lineari sui parametri apprendibili del livello. I passaggi in avanti di una rete neurale profonda proiettata sono in genere più rapidi quando si distribuisce la rete su hardware integrato utilizzando la generazione di codice C/C++ senza librerie.
Per una panoramica dettagliata delle tecniche di compressione disponibili in Deep Learning Toolbox™ Model Compression Library, vedere Reduce Memory Footprint of Deep Neural Networks.
Funzioni
compressNetworkUsingProjection | Compress neural network using projection (Da R2022b) |
neuronPCA | Principal component analysis of neuron activations (Da R2022b) |
unpackProjectedLayers | Unpack projected layers of neural network (Da R2023b) |
ProjectedLayer | Compressed neural network layer using projection (Da R2023b) |
gruProjectedLayer | Gated recurrent unit (GRU) projected layer for recurrent neural network (RNN) (Da R2023b) |
lstmProjectedLayer | Long short-term memory (LSTM) projected layer for recurrent neural network (RNN) (Da R2022b) |
Argomenti
- Compress Neural Network Using Projection
Compress a neural network using projection and principal component analysis (PCA).
- Train Smaller Neural Network Using Knowledge Distillation
Reduce the memory footprint of a deep neural network using knowledge distillation. (Da R2023b)
Esempi in primo piano
Analyze and Compress 1-D Convolutional Neural Network
Analyze 1-D convolutional network for compression and compress it using Taylor pruning and projection.
Evaluate Code Generation Inference Time of Compressed Deep Neural Network
Compare the inference time of a compressed deep neural network for battery state of charge estimation.
