După cum sugerează și numele, propagarea înapoi este un algoritm care înapoi propagă erorile de la nodurile de ieșire la nodurile de intrare. Prin urmare, este pur și simplu denumită „propagarea înapoi a erorilor”. Această abordare a fost dezvoltată din analiza unui creier uman. Recunoașterea vorbirii, recunoașterea caracterelor, verificarea semnăturilor, recunoașterea feței umane sunt câteva dintre aplicațiile interesante ale rețelelor neuronale. Rețelele neuronale trec prin învățare supravegheată, vectorul de intrare care trece prin rețea produce vectorul de ieșire. Acest vector de ieșire este verificat în raport cu ieșirea dorită. Dacă rezultatul nu se potrivește cu vectorul de ieșire, se generează un raport de eroare. Pe baza raportului de eroare, greutățile sunt ajustate pentru a obține rezultatul dorit.
Ce este o rețea neuronală artificială?
Un Retele neuronale artificiale folosește reguli de învățare supravegheate pentru a deveni eficient și puternic. Informația din rețelele neuronale curge în două moduri diferite. În primul rând, atunci când modelul este instruit sau învață și când modelul funcționează normal - fie pentru testare, fie folosit pentru a îndeplini orice sarcină. Informațiile în diferite forme sunt introduse în model prin intermediul neuronilor de intrare, declanșând mai multe straturi de neuroni ascunși și ajung la neuronii de ieșire, ceea ce este cunoscut sub numele de rețea feedforward.
Deoarece toți neuronii nu se declanșează în același timp, neuronii care primesc intrările din stânga se înmulțesc cu greutățile pe măsură ce călătoresc prin straturi ascunse. Acum, adăugați toate intrările de la fiecare neuron și atunci când suma depășește un anumit nivel de prag, neuronii care au rămas tăcuți se vor declanșa și vor fi conectați.
Modul în care rețeaua neuronală artificială învață este că învață din ceea ce a greșit și face bine, iar acest lucru este cunoscut sub numele de feedback. Rețelele neuronale artificiale folosesc feedback-ul pentru a afla ce este bine și ce este greșit.
Ce este Backpropagation?
Definiție: Propagarea înapoi este un mecanism esențial prin care rețelele neuronale se antrenează. Este un mecanism utilizat pentru reglarea fină a greutăților unei rețele neuronale (altfel denumit model în acest articol) în ceea ce privește rata de eroare produsă în iterația anterioară. Este similar cu un mesager care îi spune modelului dacă rețeaua a greșit sau nu de îndată ce a prezis.
retropropagare-rețea-neuronală
Propagarea înapoi în rețelele neuronale este despre transmisie de informații și corelarea acestor informații cu eroarea generată de model atunci când a fost făcută o presupunere. Această metodă urmărește să reducă eroarea, care este denumită în alt mod funcția de pierdere.
Cum funcționează Backpropagation - Algoritm simplu
Propagarea înapoi în învățarea profundă este o abordare standard pentru formarea rețelelor neuronale artificiale. Modul în care funcționează este că - Inițial atunci când este proiectată o rețea neuronală, valorile aleatorii sunt atribuite ca greutăți. Utilizatorul nu este sigur dacă valorile de greutate atribuite sunt corecte sau se potrivesc modelului. Ca rezultat, modelul generează o valoare diferită de ieșirea reală sau așteptată, care este o valoare de eroare.
Pentru a obține rezultatul adecvat cu o eroare minimă, modelul ar trebui să fie instruit cu privire la un set de date sau parametri pertinenți și să monitorizeze progresul acestuia de fiecare dată când prezice. Rețeaua neuronală are o relație cu eroarea, astfel, ori de câte ori parametrii se schimbă, eroarea se schimbă și ea. Propagarea înapoi folosește o tehnică cunoscută sub numele de regulă delta sau coborâre în gradient pentru a modifica parametrii din model.
Diagrama de mai sus arată funcționarea propagării înapoi și funcționarea acesteia este dată mai jos.
- „X” la intrări ajunge din calea preconectată
- „W”, greutățile reale sunt utilizate pentru modelarea intrării. Valorile lui W sunt alocate aleatoriu
- Ieșirea pentru fiecare neuron este calculată prin propagarea redirecționării - stratul de intrare, stratul ascuns și stratul de ieșire.
- Eroarea este calculată la ieșiri utilizând ecuația Propagându-se din nou înapoi prin ieșire și straturi ascunse, greutățile sunt ajustate pentru a reduce eroarea.
Propagați din nou înainte pentru a calcula ieșirea și eroarea. Dacă eroarea este minimizată, acest proces se termină sau se propagă înapoi și ajustează valorile greutății.
Acest proces se repetă până când eroarea se reduce la un nivel minim și se obține rezultatul dorit.
De ce avem nevoie de propagare înapoi?
Acesta este un mecanism utilizat pentru antrenarea rețelei neuronale referitoare la setul de date particular. Unele dintre avantajele Propagării înapoi sunteți
- Este simplu, rapid și ușor de programat
- Doar numerele de intrare sunt reglate și nu orice alt parametru
- Nu este nevoie să aveți cunoștințe prealabile despre rețea
- Este flexibil
- O abordare standard și funcționează eficient
- Nu necesită ca utilizatorul să învețe funcții speciale
Tipuri de rețea de propagare înapoi
Există două tipuri de rețele de propagare înapoi. Este clasificat după cum urmează:
Propagare înapoi statică
Propagarea înapoi statică este un tip de rețea care are ca scop producerea unei mapări a unei intrări statice pentru ieșirea statică. Aceste tipuri de rețele sunt capabile să rezolve probleme de clasificare statică, cum ar fi recunoașterea optică a caracterelor (OCR).
Propagare înapoi recurentă
Propagarea înapoi recurentă este un alt tip de rețea utilizată în învățarea cu punct fix. Activările în propagarea recurentă recurentă sunt avansate până când atinge o valoare fixă. După aceasta, o eroare este calculată și propagată înapoi. A software , NeuroSolutions are capacitatea de a efectua propagarea recurentă recurentă.
Diferențele cheie: Propagarea înapoi statică oferă mapare imediată, în timp ce maparea înapoi a propagării înapoi nu este imediată.
Dezavantaje ale Backpropagation
Dezavantajele propagării înapoi sunt:
- Propagarea înapoi poate fi sensibilă la date zgomotoase și nereguli
- Performanța acestui lucru depinde în mare măsură de datele de intrare
- Are nevoie de timp excesiv pentru antrenament
- Necesitatea unei metode bazate pe matrice pentru propagarea înapoi în loc de mini-lot
Aplicații de propagare înapoi
Aplicațiile sunt
- Rețeaua neuronală este antrenată să enunțe fiecare literă a unui cuvânt și a unei propoziții
- Se utilizează în domeniul recunoaștere a vorbirii
- Este folosit în domeniul recunoașterii personajelor și a feței
Întrebări frecvente
1). De ce avem nevoie de propagare înapoi în rețelele neuronale?
Acesta este un mecanism utilizat pentru antrenarea rețelei neuronale referitoare la setul de date particular
2). Care este obiectivul algoritmului de propagare înapoi?
Obiectivul acestui algoritm este de a crea un mecanism de instruire pentru rețelele neuronale pentru a se asigura că rețeaua este instruită pentru a mapa intrările la ieșirile corespunzătoare.
3). Care este rata de învățare în rețelele neuronale?
Rata de învățare este definită în contextul optimizării și minimizării funcției de pierdere a unei rețele neuronale. Se referă la viteza cu care o rețea neuronală poate învăța date noi prin suprascrierea datelor vechi.
4). Rețeaua neuronală este un algoritm?
Da. Rețelele neuronale sunt o serie de algoritmi de învățare sau reguli concepute pentru a identifica tiparele.
5). Care este funcția de activare într-o rețea neuronală?
Funcția de activare a unei rețele neuronale decide dacă neuronul trebuie activat / declanșat sau nu pe baza sumei totale.
În acest articol, conceptul de Backpropagation a rețelelor neuronale este explicată folosind un limbaj simplu pentru ca un cititor să înțeleagă. În această metodă, rețelele neuronale sunt antrenate din erorile generate pentru a deveni autosuficiente și pentru a gestiona situații complexe. Rețelele neuronale au capacitatea de a învăța cu exactitate cu un exemplu.
