Operazioni

Sviluppare funzioni di Deep Learning personalizzate

È possibile utilizzare i livelli integrati per la maggior parte delle attività. Se non è presente un livello integrato necessario per l’attività, è possibile definire un proprio livello personalizzato. È possibile definire livelli personalizzati con parametri apprendibili e di stato. Dopo aver definito un livello personalizzato, è possibile verificare che il livello sia valido, compatibile con la GPU e che produca gradienti definiti correttamente. Per saperne di più, vedere Define Custom Deep Learning Layers. Per un elenco dei livelli di supportati, vedere List of Deep Learning Layers.

Se la funzione trainingOptions non fornisce le opzioni di addestramento necessarie per l'attività o se è presente una funzione di perdita non supportata dalla funzione trainnet, è possibile definire un loop di addestramento personalizzato. Per i modelli che non possono essere specificati come reti di livelli, è possibile definire il modello come funzione. Per saperne di più, vedere Define Custom Training Loops, Loss Functions, and Networks.

Utilizzare le operazioni di Deep Learning per sviluppare codice MATLAB^® per i livelli personalizzati, i loop di addestramento e le funzioni del modello.

Funzioni

espandi tutto

Differenziazione automatica

`dlarray`	Deep learning array for customization (Da R2019b)
`dims`	Etichette della dimensione di `dlarray` (Da R2019b)
`finddim`	Find dimensions with specified label (Da R2019b)
`stripdims`	Remove `dlarray` data format (Da R2019b)
`extractdata`	Estrae i dati da `dlarray` (Da R2019b)
`isdlarray`	Check if object is `dlarray` (Da R2020b)

Operazioni di Deep Learning

`dlconv`	Deep learning convolution (Da R2019b)
`dltranspconv`	Deep learning transposed convolution (Da R2019b)
`lstm`	Long short-term memory (Da R2019b)
`gru`	Gated recurrent unit (Da R2020a)
`attention`	Dot-product attention (Da R2022b)
`embed`	Embed discrete data (Da R2020b)
`fullyconnect`	Sum all weighted input data and apply a bias (Da R2019b)
`dlode45`	Deep learning solution of nonstiff ordinary differential equation (ODE) (Da R2021b)
`batchnorm`	Normalize data across all observations for each channel independently (Da R2019b)
`crosschannelnorm`	Cross channel square-normalize using local responses (Da R2020a)
`groupnorm`	Normalize data across grouped subsets of channels for each observation independently (Da R2020b)
`instancenorm`	Normalize across each channel for each observation independently (Da R2021a)
`layernorm`	Normalize data across all channels for each observation independently (Da R2021a)
`avgpool`	Pool data to average values over spatial dimensions (Da R2019b)
`maxpool`	Pool data to maximum value (Da R2019b)
`maxunpool`	Unpool the output of a maximum pooling operation (Da R2019b)

Attivazioni

`relu`	Applicare l'attivazione dell'unità lineare rettificata (Da R2019b)
`leakyrelu`	Apply leaky rectified linear unit activation (Da R2019b)
`gelu`	Apply Gaussian error linear unit (GELU) activation (Da R2022b)
`softmax`	Apply softmax activation to channel dimension (Da R2019b)
`sigmoid`	Applica l’attivazione sigmoidea (Da R2019b)

Operazioni di perdita

`crossentropy`	Cross-entropy loss for classification tasks (Da R2019b)
`l1loss`	L₁ loss for regression tasks (Da R2021b)
`l2loss`	L₂ loss for regression tasks (Da R2021b)
`huber`	Huber loss for regression tasks (Da R2021a)
`mse`	Half mean squared error (Da R2019b)
`ctc`	Connectionist temporal classification (CTC) loss for unaligned sequence classification (Da R2021a)

Accelerazione della funzione

`dlaccelerate`	Accelerate deep learning function for custom training loops (Da R2021a)
`AcceleratedFunction`	Accelerated deep learning function (Da R2021a)
`clearCache`	Clear accelerated deep learning function trace cache (Da R2021a)

Argomenti

Differenziazione automatica

List of Functions with dlarray Support
View the list of functions that support dlarray objects.
Automatic Differentiation Background
Learn how automatic differentiation works.
Use Automatic Differentiation In Deep Learning Toolbox
How to use automatic differentiation in deep learning.
Define Custom Deep Learning Operations
Learn how to define custom deep learning operation.
Specify Custom Operation Backward Function
This example shows how to define the SReLU operation as a differentiable function and specify a custom backward function.
Train Model Using Custom Backward Function
This example shows how to train a deep learning model that contains an operation with a custom backward function.

Funzioni del modello

Train Network Using Model Function
This example shows how to create and train a deep learning network by using functions rather than a layer graph or a dlnetwork.
Update Batch Normalization Statistics Using Model Function
This example shows how to update the network state in a network defined as a function.
Make Predictions Using Model Function
This example shows how to make predictions using a model function by splitting data into mini-batches.
Initialize Learnable Parameters for Model Function
Learn how to initialize learnable parameters for custom training loops using a model function.

Accelerazione della funzione di Deep Learning

Deep Learning Function Acceleration for Custom Training Loops
Accelerate model functions and model loss functions for custom training loops by caching and reusing traces.
Accelerate Custom Training Loop Functions
This example shows how to accelerate deep learning custom training loop and prediction functions.
Check Accelerated Deep Learning Function Outputs
This example shows how to check that the outputs of accelerated functions match the outputs of the underlying function.
Evaluate Performance of Accelerated Deep Learning Function
This example shows how to evaluate the performance gains of using an accelerated function.