Un livello di regressione calcola la perdita dell'errore quadratico semi-mediano per le attività di regressione. Per i tipici problemi di regressione, un livello di regressione deve seguire il livello finale completamente connesso.
Per una singola osservazione, l'errore quadratico medio è dato da:
dove R è il numero delle risposte, ti è l’output target e yi è la previsione della rete per la risposta i.
Per le reti di regressione dell’immagine e da sequenza-a-uno, la funzione di perdita del livello di regressione è l’errore quadratico semi-mediano delle risposte previste, non normalizzate da R:
Per le reti di regressione da immagine-a-immagine, la funzione di perdita del livello di regressione è l’errore quadratico semi-mediano delle risposte previste per ciascun pixel, non normalizzate da R:
dove H, W e C indicano rispettivamente l’altezza, la larghezza e il numero di canali dell’output e p indicizza linearmente ciascun elemento (pixel) di t e y.
Per le reti di regressione da sequenza-a-sequenza, la funzione di perdita del livello di regressione è l’errore quadratico semi-mediano delle risposte previste per ciascuna fase temporale, non normalizzate da R:
dove S è la lunghezza della sequenza.
Durante l'addestramento, il software calcola la perdita media sulle osservazioni nel mini-batch.