Som navnet antyder, er backpropagation en algoritme som forplanter feilene fra utgangsnoder til inngangsnoder. Derfor blir det ganske enkelt referert til som 'bakoverforplantning av feil'. Denne tilnærmingen ble utviklet fra analysen av en menneskelig hjerne. Talegjenkjenning, karaktergjenkjenning, signaturverifisering, menneskelig ansiktsgjenkjenning er noen av de interessante applikasjonene til nevrale nettverk. Nevrale nettverk går gjennom overvåket læring, inngangsvektoren som går gjennom nettverket produserer utgangsvektor. Denne utgangsvektoren er verifisert mot ønsket utgang. Hvis resultatet ikke samsvarer med utgangsvektoren, genereres en feilrapport. Basert på feilrapporten justeres vekter for å få ønsket utgang.
Hva er et kunstig nevralt nettverk?
An Kunstig nevralt nettverk bruker overvåket læringsregel for å bli effektiv og kraftig. Informasjonen i nevrale nettverk flyter på to forskjellige måter. Primært når modellen blir trent eller læres og når modellen fungerer normalt - enten for testing eller brukt til å utføre en hvilken som helst oppgave. Informasjon i forskjellige former blir matet inn i modellen gjennom inngående nevroner, utløser flere lag med skjulte nevroner og når utgangsneuronene, som er kjent som et feedforward-nettverk.
Ettersom alle nevronene ikke utløser samtidig, blir nevronene som mottar inngangene fra venstre ganget med vektene når de beveger seg gjennom skjulte lag. Nå, legg sammen alle inngangene fra alle nevroner, og når summen overstiger et visst terskelnivå, vil nevronene som hadde vært stille, utløse og bli koblet til.
Måten det kunstige nevrale nettverket lærer er at det lærer av hva det hadde gjort galt og gjør det rette, og dette er kjent som tilbakemelding. Kunstige nevrale nettverk bruker tilbakemelding for å lære hva som er riktig og galt.
Hva er Backpropagation?
Definisjon: Backpropagation er en viktig mekanisme der nevrale nettverk blir trent. Det er en mekanisme som brukes til å finjustere vektene til et nevralt nettverk (ellers referert til som en modell i denne artikkelen) med hensyn til feilraten produsert i forrige iterasjon. Det ligner på en messenger som forteller modellen om nettet gjorde en feil eller ikke så snart det forutsa.
backpropagation-neural-network
Backpropagation i nevrale nettverk handler om overføring av informasjon og relatere denne informasjonen til feilen generert av modellen da et gjetning ble gjort. Denne metoden søker å redusere feilen, som ellers blir referert til som tapsfunksjonen.
Hvordan fungerer backpropagation - enkel algoritme
Backpropagation in deep learning er en standard tilnærming for opplæring av kunstige nevrale nettverk. Måten det fungerer på er at - Opprinnelig når et nevralt nettverk er designet, tildeles tilfeldige verdier som vekter. Brukeren er ikke sikker på om de tildelte vektverdiene er riktige eller passer til modellen. Som et resultat gir modellen ut verdien som er forskjellig fra den faktiske eller forventede produksjonen, som er en feilverdi.
For å få riktig utdata med minimal feil, bør modellen trenes på et relevant datasett eller parametere og overvåke fremdriften hver gang den forutsier. Nevrale nettverk har et forhold til feilen, og når endringene endres, endres også feilen. Backpropagation bruker en teknikk kjent som deltaregelen eller gradientnedstigning for å endre parametrene i modellen.
Diagrammet ovenfor viser hvordan backpropagation fungerer, og hvordan det blir gitt er gitt nedenfor.
- ‘X’ på inngangene når fra den forhåndsforbundne banen
- ‘W’, de virkelige vektene brukes til å modellere inngangen. Verdiene til W er tilfeldig tildelt
- Produksjonen for hvert nevron beregnes gjennom videresending av forplantning - inngangslaget, skjult lag og utgangslaget.
- Feilen beregnes ved utgangene ved hjelp av ligningen. Forplantes bakover igjen gjennom utgang og skjulte lag, vekter justeres for å redusere feilen.
Fortplant deg fremover for å beregne utdata og feil. Hvis feilen er minimert, slutter denne prosessen, ellers forplanter den seg bakover og justerer vektverdiene.
Denne prosessen gjentas til feilen reduseres til et minimum og ønsket utdata oppnås.
Hvorfor trenger vi backpropagation?
Dette er en mekanisme som brukes til å trene nevrale nettverk knyttet til det aktuelle datasettet. Noen av fordelene med Backpropagation er
- Det er enkelt, raskt og enkelt å programmere
- Bare tallene på inngangen er innstilt og ikke noen annen parameter
- Ingen grunn til å ha forkunnskap om nettverket
- Det er fleksibelt
- En standard tilnærming og fungerer effektivt
- Det krever ikke at brukeren lærer spesialfunksjoner
Typer Backpropagation Network
Det er to typer backpropagation-nettverk. Den er kategorisert som nedenfor:
Statisk backpropagation
Statisk backpropagation er en type nettverk som tar sikte på å produsere en kartlegging av en statisk inngang for statisk utgang. Denne typen nettverk er i stand til å løse statiske klassifiseringsproblemer som optisk tegngjenkjenning (OCR).
Tilbakevendende Backpropagation
Den tilbakevendende backpropagation er en annen type nettverk som brukes i fastpunktslæring. Aktiveringene i tilbakevendende tilbakeslag føres frem til den oppnår en fast verdi. Etter dette blir en feil beregnet og spredt bakover. EN programvare , NeuroSolutions har evnen til å utføre tilbakevendende tilbakeslag.
Hovedforskjellene: Den statiske backpropagation tilbyr umiddelbar kartlegging, mens kartlegging av tilbakevendende backpropagation ikke er umiddelbar.
Ulemper ved Backpropagation
Ulemper med backpropagation er:
- Backpropagation kan være følsom for støyende data og uregelmessigheter
- Ytelsen til dette er avhengig av inngangsdataene
- Trenger overdreven tid for trening
- Behovet for en matrisebasert metode for backpropagation i stedet for mini-batch
Anvendelser av Backpropagation
Søknadene er
- Nevrale nettverk er opplært til å uttale hver bokstav i et ord og en setning
- Den brukes i feltet talegjenkjenning
- Den brukes innen karakter og ansiktsgjenkjenning
Vanlige spørsmål
1). Hvorfor trenger vi backpropagation i nevrale nettverk?
Dette er en mekanisme som brukes til å trene nevrale nettverk knyttet til det aktuelle datasettet
2). Hva er målet med backpropagation-algoritmen?
Målet med denne algoritmen er å lage en treningsmekanisme for nevrale nettverk for å sikre at nettverket er opplært til å kartlegge inngangene til de riktige utgangene.
3). Hva er læringsgraden i nevrale nettverk?
Læringsgraden er definert i sammenheng med optimalisering og minimering av tapsfunksjonen til et nevralt nettverk. Det refererer til hastigheten som et nevralt nettverk kan lære nye data ved å overstyre de gamle dataene.
4). Er nevrale nettverk en algoritme?
Ja. Nevrale nettverk er en serie læringsalgoritmer eller regler designet for å identifisere mønstrene.
5). Hva er aktiveringsfunksjonen i et nevralt nettverk?
Aktiveringsfunksjonen til et nevralt nettverk avgjør om nevronen skal aktiveres / utløses eller ikke basert på den totale summen.
I denne artikkelen, begrepet Backpropagation av nevrale nettverk blir forklart ved hjelp av enkelt språk for en leser å forstå. I denne metoden blir nevrale nettverk trent fra feil generert for å bli selvforsynt og håndtere komplekse situasjoner. Nevrale nettverk har evnen til å lære nøyaktig med et eksempel.
