Differenziazione automatica

Personalizzare i livelli di Deep Learning, le reti, i loop di addestramento e le funzioni di perdita

È possibile utilizzare i livelli integrati per la maggior parte delle attività. Se non è presente un livello integrato necessario per l’attività, è possibile definire un proprio livello personalizzato. È possibile definire livelli personalizzati con parametri apprendibili e di stato. Dopo aver definito un livello personalizzato, è possibile verificare che il livello sia valido, compatibile con la GPU e che produca gradienti definiti correttamente. Per un elenco dei livelli di supportati, vedere List of Deep Learning Layers.

Se la funzione trainingOptions non fornisce le opzioni di addestramento necessarie per l'attività o se è presente una funzione di perdita non supportata dalla funzione trainnet, è possibile definire un loop di addestramento personalizzato. Per i modelli che non possono essere specificati come reti di livelli, è possibile definire il modello come funzione. Per saperne di più, vedere Define Custom Training Loops, Loss Functions, and Networks.

Argomenti visualizzati di frequente

Categorie

Livelli personalizzati
Definire i livelli personalizzati di Deep Learning
Personalizzazione dei loop di addestramento
Personalizzare i loop di addestramento Deep Learning e le funzioni di perdita
Operazioni
Sviluppare funzioni di Deep Learning personalizzate

Esempi in primo piano

Train a Twin Network for Dimensionality Reduction

Train a twin neural network with shared weights to compare handwritten digits using dimensionality reduction.

Apri live script

Train a Twin Neural Network to Compare Images

Train a twin neural network with shared weights to identify similar images of handwritten characters.

Apri live script

Image Captioning Using Attention

Train a deep learning model for image captioning using attention.

Apri live script

Multilabel Text Classification Using Deep Learning

Classify text data that has multiple independent labels.

Apri live script

Sequence-to-Sequence Translation Using Attention

Convert decimal strings to Roman numerals using a recurrent sequence-to-sequence encoder-decoder model with attention.

Apri live script

Train Network in Parallel with Custom Training Loop

Set up a custom training loop to train a network in parallel.

Apri live script

Train Variational Autoencoder (VAE) to Generate Images

Train a deep learning variational autoencoder (VAE) to generate images.

Apri live script

Train Network Using Cyclical Learning Rate for Snapshot Ensembling

Train a network to classify images of objects using a cyclical learning rate schedule and snapshot ensembling for better test accuracy. In the example, you learn how to use a cosine function for the learning rate schedule, take snapshots of the network during training to create a model ensemble, and add L2-norm regularization (weight decay) to the training loss.

Apri live script

Train Bayesian Neural Network

Train a Bayesian neural network (BNN) for image regression using Bayes by Backpropagation.

Apri live script