Katika sura hiyo tulifahamiana na dhana kama vile akili ya bandia, kujifunza kwa mashine na bandia. mitandao ya neva.

Katika sura hii, nitaelezea kwa undani mfano wa neuroni wa bandia, kuzungumza juu ya mbinu za kufundisha mtandao, na pia kuelezea aina fulani zinazojulikana za mitandao ya neural ya bandia ambayo tutajifunza katika sura zifuatazo.

Kurahisisha

Katika sura ya mwisho, nilizungumza mara kwa mara juu ya kurahisisha kwa uzito. Sababu ya kurahisisha ni kwamba hakuna kompyuta za kisasa zinaweza haraka mfano vile mifumo tata kama ubongo wetu. Mbali na hilo, kama nilivyokwisha sema, ubongo wetu umejaa anuwai taratibu za kibiolojia, haihusiani na usindikaji wa habari.

Tunahitaji kielelezo cha kubadilisha mawimbi ya pembejeo kuwa mawimbi tunayohitaji. Kila kitu kingine hakitusumbui. Hebu tuanze kurahisisha.

Muundo wa kibiolojia → mchoro

Katika sura iliyotangulia, uligundua jinsi mitandao changamano ya kibayolojia ya neva na niuroni za kibayolojia zilivyo. Badala ya kuchora neurons kama monsters wenye hema, wacha tuchore michoro.

Kwa ujumla, kuna njia kadhaa picha ya mchoro mitandao ya neva na neurons. Hapa tutaonyesha niuroni bandia kama miduara.

Badala ya mchanganyiko tata wa pembejeo na matokeo, tutatumia mishale inayoonyesha mwelekeo wa harakati za ishara.

Kwa hivyo, mtandao wa neva bandia unaweza kuwakilishwa kama mkusanyiko wa miduara (nyuroni bandia) iliyounganishwa kwa mishale.

Ishara za umeme → nambari

Katika mtandao halisi wa neva wa kibaolojia, ishara ya umeme hupitishwa kutoka kwa pembejeo za mtandao hadi kwa matokeo. Inaweza kubadilika inapopitia mtandao wa neva.

Ishara ya umeme daima itakuwa ishara ya umeme. Kwa dhana, hakuna kinachobadilika. Lakini nini basi mabadiliko? Ukubwa wa ishara hii ya umeme hubadilika (nguvu zaidi / dhaifu). Na thamani yoyote inaweza kuonyeshwa kila wakati kama nambari (zaidi/chini).

Katika mfano wetu wa mtandao wa neural wa bandia, hatuhitaji kutekeleza tabia ya ishara ya umeme kabisa, kwa kuwa hakuna chochote kitakachotegemea utekelezaji wake hata hivyo.

Tutatoa nambari kadhaa kwa pembejeo za mtandao, zikiashiria ukubwa wa ishara ya umeme ikiwa ilikuwepo. Nambari hizi zitapita kwenye mtandao na kubadilika kwa njia fulani. Katika pato la mtandao tutapokea nambari inayotokana, ambayo ni majibu ya mtandao.

Kwa urahisi, bado tutaita nambari zetu zinazozunguka kwenye mawimbi ya mtandao.

Synapses → uzito wa uunganisho

Wacha tukumbuke picha kutoka kwa sura ya kwanza, ambayo miunganisho kati ya neurons - sinepsi - ilionyeshwa kwa rangi. Synapses inaweza kuimarisha au kudhoofisha ishara ya umeme inayopita kupitia kwao.

Wacha tuangazie kila muunganisho kama huo nambari fulani, inayoitwa uzito wa uhusiano huu. Ishara ilipita muunganisho huu, huzidishwa na uzito wa uunganisho unaofanana.

Hii wakati muhimu katika dhana ya mitandao ya neural ya bandia, nitaelezea kwa undani zaidi. Tazama picha hapa chini. Sasa kila mshale mweusi (muunganisho) kwenye picha hii unalingana na nambari fulani \ (w_i \) ​ (uzito wa unganisho). Na wakati ishara inapita kupitia uunganisho huu, ukubwa wake huongezeka kwa uzito wa uhusiano huu.

Katika takwimu hapo juu, si kila uhusiano una uzito kwa sababu hakuna nafasi ya maandiko. Kwa kweli, kila muunganisho \(i \) una uzito wake \(w_i \) .

Neuron Bandia

Sasa tunaendelea kuzingatia muundo wa ndani wa niuroni bandia na jinsi inavyobadilisha mawimbi inayofika kwenye pembejeo zake.

Takwimu hapa chini inaonyesha mfano kamili wa neuroni ya bandia.

Usiogope, hakuna kitu ngumu hapa. Wacha tuangalie kila kitu kwa undani kutoka kushoto kwenda kulia.

Pembejeo, uzani na fira

Kila neuroni, pamoja na zile za bandia, lazima iwe na pembejeo ambazo inapokea ishara. Tayari tumeanzisha dhana ya uzito ambayo ishara zinazopita kwenye mawasiliano zinazidishwa. Katika picha hapo juu, uzito unaonyeshwa kama miduara.

Ishara zilizopokelewa kwenye pembejeo zinazidishwa na uzani wao. Ishara ya ingizo la kwanza\(x_1 \) ​ huzidishwa kwa uzito\(w_1 \) sambamba na ingizo hili. Kwa hivyo, tunapata\(x_1w_1 \) . Na kadhalika hadi ingizo \(n\) th. Kama matokeo, ingizo la mwisho tunapata \(x_nw_n \) .

Sasa bidhaa zote zinahamishiwa kwa adder. Kulingana na jina lake, unaweza kuelewa kile kinachofanya. Inajumlisha tu ishara zote za pembejeo zilizozidishwa na uzani unaolingana:

\[ x_1w_1+x_2w_2+\cdots+x_nw_n = \jumla\mipaka^n_(i=1)x_iw_i \]

Msaada wa hisabati

Sigma - Wikipedia

Wakati unahitaji kuandika usemi mkubwa, inayojumuisha jumla ya istilahi zinazorudiwa/aina moja, kisha tumia ishara ya sigma.

Hebu tuzingatie chaguo rahisi zaidi maingizo:

\[ \jumla\vikomo^5_(i=1)i=1+2+3+4+5 \]

Kwa hivyo, kutoka chini ya sigma tunapeana kutofautisha kwa kihesabu \ (i \) bei ya kuanzia, ambayo itaongezeka hadi kufikia. kikomo cha juu(katika mfano hapo juu ni 5).

Kikomo cha juu kinaweza pia kuwa tofauti. Ngoja nikupe mfano wa kesi kama hiyo.

Hebu tuwe na \(n \) maduka. Kila duka lina nambari yake mwenyewe: kutoka 1 hadi \(n\) . Kila duka linapata faida. Hebu tuchukue (haijalishi) \(i \) duka. Faida kutoka kwake ni sawa na \(p_i \) .

\[ P = p_1+p_2+\cdots+p_i+\cdots+p_n \]

Kama unaweza kuona, masharti yote ya jumla hii ni ya aina moja. Kisha zinaweza kuandikwa kwa ufupi kwa njia ifuatayo:

\[ P=\jumla\vikomo^n_(i=1)p_i \]

Kwa maneno: "Jumuisha faida za maduka yote, kuanzia ya kwanza na kuishia na \(n\) -th." Kwa namna ya formula, ni rahisi zaidi, rahisi zaidi na nzuri zaidi.

Matokeo ya fira ni nambari inayoitwa jumla ya uzani.

Jumla iliyopimwa(Jumla iliyopimwa) (\(net \) ​) - jumla ya ishara za pembejeo zinazozidishwa na uzani wao unaolingana.

\[ jumla=\jumla\mipaka^n_(i=1)x_iw_i \]

Jukumu la fira ni dhahiri - linajumuisha ishara zote za pembejeo (ambazo zinaweza kuwa nyingi) katika nambari moja - jumla ya uzito ambayo ni sifa ya ishara iliyopokelewa na neuroni kwa ujumla. Jumla nyingine iliyopimwa inaweza kuwakilishwa kama kiwango cha msisimko wa jumla wa niuroni.

Mfano

Ili kuelewa jukumu la sehemu ya mwisho ya neuron ya bandia - kazi ya uanzishaji - nitatoa mlinganisho.

Hebu tuangalie neuroni moja ya bandia. Kazi yake ni kuamua kama kwenda likizo baharini. Ili kufanya hivyo, tunatoa data mbalimbali kwa pembejeo zake. Acha neuroni yetu iwe na pembejeo 4:

1. Gharama ya kusafiri
2. Hali ya hewa ikoje baharini?
3. Hali ya kazi ya sasa
4. Je! kutakuwa na baa ya vitafunio ufukweni

Tutaweka vigezo hivi vyote kama 0 au 1. Ipasavyo, ikiwa hali ya hewa ya baharini ni nzuri, basi tunaomba 1 kwa pembejeo hii. Na hivyo kwa vigezo vingine vyote.

Ikiwa neuroni ina pembejeo nne, basi lazima kuwe na uzito nne. Katika mfano wetu, hesabu za uzani zinaweza kuzingatiwa kama viashirio vya umuhimu wa kila ingizo, kuathiri uamuzi wa jumla wa niuroni. Tunasambaza uzani wa pembejeo kama ifuatavyo:

Ni rahisi kutambua hilo sana jukumu kubwa sababu za gharama na hali ya hewa baharini (pembejeo mbili za kwanza) zina jukumu. Pia watacheza jukumu la maamuzi wakati neuroni inafanya uamuzi.

Wacha tutoe ishara zifuatazo kwa pembejeo za neuroni zetu:

Tunazidisha uzani wa pembejeo kwa ishara za pembejeo zinazolingana:

Jumla ya uzani kwa seti kama hiyo ya ishara za pembejeo ni 6:

\[ wavu=\jumla\mipaka^4_(i=1)x_iw_i = 5 + 0 + 0 + 1 =6 \]

Hapa ndipo kipengele cha uanzishaji kinapotumika.

Kitendaji cha uanzishaji

Haina maana kabisa kuwasilisha tu kiasi kilichopimwa kama pato. Niuroni lazima kwa namna fulani isikate na kutoa mawimbi ya kutosha. Ni kwa madhumuni haya kwamba kazi ya uanzishaji hutumiwa.

Inabadilisha jumla iliyopimwa kuwa nambari fulani, ambayo ni pato la niuroni (tunaashiria pato la niuroni kwa kutofautisha ​\(out \) ).

Kwa aina tofauti neurons bandia hutumiwa na wengi kazi tofauti uanzishaji. Kwa ujumla, zinaonyeshwa na ishara \(\phi(net) \) . Kubainisha mawimbi yenye uzani kwenye mabano kunamaanisha kuwa chaguo la kukokotoa la kuwezesha huchukua jumla iliyopimwa kama kigezo.

Kitendaji cha uanzishaji (Kitendaji cha uanzishaji)(\(\phi(net) \) )) ni chaguo la kukokotoa ambalo huchukua jumla ya uzani kama hoja. Thamani ya chaguo hili la kukokotoa ni pato la niuroni (\(nje \) ).

Kazi ya kuruka moja

Aina rahisi zaidi ya kazi ya kuwezesha. Matokeo ya neuroni yanaweza tu kuwa sawa na 0 au 1. Ikiwa jumla iliyopimwa ni kubwa kuliko kizingiti fulani \(b\) , basi matokeo ya niuroni ni sawa na 1. Ikiwa chini, basi 0.

Inawezaje kutumika? Wacha tuchukue kuwa tunaenda baharini tu wakati jumla iliyopimwa ni kubwa kuliko au sawa na 5. Hii inamaanisha kuwa kizingiti chetu ni 5:

Katika mfano wetu, jumla ya uzani ilikuwa 6, ambayo inamaanisha ishara ya pato la neuroni yetu ni 1. Kwa hivyo, tunaenda baharini.

Walakini, ikiwa hali ya hewa ya baharini ilikuwa mbaya na safari ilikuwa ghali sana, lakini kulikuwa na bar ya vitafunio na mazingira ya kazi yalikuwa ya kawaida (pembejeo: 0011), basi jumla ya uzani itakuwa sawa na 2, ambayo inamaanisha matokeo ya neuron itakuwa sawa na 0. Kwa hivyo, Hatuendi popote.

Kimsingi, neuroni hutazama jumla iliyopimwa na ikiwa ni kubwa kuliko kizingiti chake, basi niuroni hutoa pato sawa na 1.

Kwa mchoro, kipengele hiki cha kuwezesha unaweza kuonyeshwa kama ifuatavyo.

Mhimili mlalo una thamani za jumla iliyopimwa. Kwenye mhimili wima ni maadili ya ishara ya pato. Kama inavyoonekana kwa urahisi, maadili mawili tu ya mawimbi ya pato yanawezekana: 0 au 1. Zaidi ya hayo, 0 daima itatolewa kutoka kwa minus infinity hadi thamani fulani ya jumla iliyopimwa, inayoitwa kizingiti. Ikiwa jumla iliyopimwa ni sawa na au kubwa kuliko kizingiti, basi chaguo la kukokotoa linarudi 1. Kila kitu ni rahisi sana.

Sasa hebu tuandike kitendakazi hiki cha kuwezesha kihisabati. Hakika umekutana na dhana ya kazi ya kiwanja. Hii ndio tunapochanganya sheria kadhaa chini ya kazi moja ambayo thamani yake inahesabiwa. Katika mfumo wa kazi ya mchanganyiko, kazi ya kuruka moja itaonekana kama hii:

\[ out(net) = \anza(kesi) 0, wavu< b \\ 1, net \geq b \end{cases} \]

Hakuna chochote gumu kuhusu rekodi hii. Matokeo ya niuroni (\(out \) ​) inategemea jumla ya uzani (\(net \) ) kama ifuatavyo: ikiwa \(net \) (jumla ya uzani) ni chini ya kizingiti fulani (​ \(b \ ) )), basi \(out \) ​ (neuron output) ni sawa na 0. Na ikiwa \(net \) ​ ni kubwa kuliko au sawa na kizingiti \(b \) , kisha \(out \) ​ ni sawa na 1 .

Kazi ya Sigmoid

Kwa kweli, kuna familia nzima ya kazi za sigmoid, ambazo baadhi hutumika kama kazi za kuwezesha katika niuroni za bandia.

Kazi hizi zote zina mali muhimu sana, ambazo hutumiwa katika mitandao ya neural. Sifa hizi zitaonekana mara tu utakapoona grafu za chaguo hizi za kukokotoa.

Kwa hivyo ... sigmoid inayotumika sana katika mitandao ya neural ni kazi ya vifaa.

Grafu ya kazi hii inaonekana rahisi sana. Ukiangalia kwa karibu, unaweza kuona kufanana Barua ya Kiingereza\(S \) , ambapo jina la familia ya majukumu haya linatoka.

Na hivi ndivyo inavyoandikwa kiuchambuzi:

\[ out(net)=\frac(1)(1+\exp(-a \cdot net)) \]

Kigezo \(a \) ni nini? Hii ni nambari fulani inayoonyesha kiwango cha mwinuko wa chaguo la kukokotoa. Chini ni kazi za vifaa na vigezo tofauti\(a\) .

Hebu tukumbuke neuron yetu ya bandia, ambayo huamua ikiwa ni muhimu kwenda baharini. Katika kesi ya kazi ya kuruka moja, kila kitu kilikuwa dhahiri. Tunaenda baharini (1) au la (0).

Hapa kesi iko karibu na ukweli. Hatuna hakika kabisa (haswa ikiwa wewe ni paranoid) - inafaa kwenda? Kisha kutumia kipengele cha kukokotoa kama kitendakazi cha kuwezesha utapata nambari kati ya 0 na 1. Zaidi ya hayo, kadiri hesabu inavyokuwa kubwa, ndivyo matokeo yatakavyokuwa karibu na 1 (lakini hayatawahi kuwa sawa nayo). Kinyume chake, kadri jumla iliyopimwa iwe ndogo, ndivyo matokeo ya neuroni yatakavyokuwa karibu 0.

Kwa mfano, matokeo ya neuron yetu ni 0.8. Hii ina maana kwamba anaamini kwamba kwenda baharini bado kuna thamani yake. Ikiwa pato lake lilikuwa sawa na 0.2, basi hii ina maana kwamba yeye ni karibu kabisa dhidi ya kwenda baharini.

Je, kazi ya vifaa ina mali gani ya ajabu?

• ni kazi ya "kubana", ambayo ni, bila kujali hoja (jumla ya uzani), ishara ya pato daima itakuwa katika safu kutoka 0 hadi 1.
• inabadilika zaidi kuliko kazi ya kuruka moja - matokeo yake yanaweza kuwa sio 0 na 1 tu, lakini nambari yoyote kati
• kwa pointi zote ina derivative, na derivative hii inaweza kuonyeshwa kupitia kazi sawa

Ni kwa sababu ya sifa hizi kwamba utendaji kazi wa vifaa hutumiwa mara nyingi kama kazi ya kuwezesha katika niuroni bandia.

Tanjenti ya hyperbolic

Hata hivyo, kuna sigmoid nyingine - tangent hyperbolic. Inatumika kama kazi ya kuwezesha na wanabiolojia kuunda mfano wa kweli zaidi wa seli ya neva.

Kazi hii hukuruhusu kupata maadili ya pato la ishara tofauti (kwa mfano, kutoka -1 hadi 1), ambayo inaweza kuwa muhimu kwa idadi ya mitandao.

Kazi imeandikwa kama ifuatavyo:

\[ out(net) = \tanh\left(\frac(net)(a)\right) \]

Katika fomula iliyo hapo juu, kigezo \(a \) pia huamua kiwango cha mwinuko wa grafu ya chaguo hili la kukokotoa.

Na hii ni nini graph ya kazi hii inaonekana kama.

Kama unaweza kuona, inaonekana kama grafu ya kazi ya vifaa. Tanjenti ya hyperbolic ina mali zote muhimu ambazo kazi ya vifaa inayo.

Tumejifunza nini?

Sasa una ufahamu kamili wa muundo wa ndani wa neuroni bandia. Nitaileta tena maelezo mafupi kazi zake.

Neuron ina pembejeo. Wanapokea ishara kwa namna ya nambari. Kila pembejeo ina uzito wake (pia nambari). Ishara za pembejeo zinazidishwa na uzito unaofanana. Tunapata seti ya ishara za pembejeo "uzito".

Jumla iliyopimwa basi inabadilishwa kazi ya uanzishaji na tunapata pato la neuroni.

Sasa hebu tuunde zaidi maelezo mafupi kazi ya neuron - mfano wake wa hisabati:

Mfano wa hisabati wa neuroni bandia na \(n \) pembejeo:

Wapi
\(\phi \) - kitendakazi cha kuwezesha
​\(\jumla\vikomo^n_(i=1)x_iw_i \)​ - jumla iliyopimwa, kama jumla ya \(n\) ​ bidhaa za mawimbi ya pembejeo kwa uzani unaolingana.

Aina za ANN

Tumegundua muundo wa neuroni bandia. Mitandao ya neva Bandia inajumuisha mkusanyiko wa niuroni bandia. Swali la kimantiki linatokea - jinsi ya kuweka/kuunganisha niuroni hizi za bandia kwa kila mmoja?

Kama sheria, mitandao mingi ya neural ina kinachojulikana safu ya pembejeo, ambayo hufanya kazi moja tu - kusambaza ishara za pembejeo kwa niuroni zingine. Neuroni katika safu hii hazifanyi mahesabu yoyote.

Mitandao ya neva ya safu moja

Katika mitandao ya neural ya safu moja, ishara kutoka kwa safu ya pembejeo hutolewa mara moja kwenye safu ya pato. Inafanya mahesabu muhimu, matokeo ambayo hutumwa mara moja kwa matokeo.

Mtandao wa neural wa safu moja unaonekana kama hii:

Katika picha hii, safu ya pembejeo inaonyeshwa na miduara (haizingatiwi safu ya mtandao wa neural), na upande wa kulia ni safu ya neurons ya kawaida.

Neurons zimeunganishwa kwa kila mmoja kwa mishale. Juu ya mishale ni uzani wa miunganisho inayolingana (coefficients ya uzani).

Mtandao wa neva wa safu moja (Mtandao wa neva wa safu moja) - mtandao ambao ishara kutoka kwa safu ya pembejeo hutolewa mara moja kwenye safu ya pato, ambayo hubadilisha ishara na mara moja hutoa majibu.

Mitandao ya neva ya safu nyingi

Mitandao hiyo, pamoja na safu za pembejeo na pato za neurons, pia zina sifa ya safu iliyofichwa (tabaka). Eneo lao ni rahisi kuelewa - tabaka hizi ziko kati ya safu za pembejeo na pato.

Muundo huu wa mitandao ya neva hunakili muundo wa safu nyingi za sehemu fulani za ubongo.

Sio bahati mbaya kwamba safu iliyofichwa ilipata jina lake. Ukweli ni kwamba mbinu za hivi majuzi tu za kufunza nyuroni za safu zilizofichwa zilitengenezwa. Kabla ya hili, mitandao ya neural ya safu moja pekee ilitumiwa.

Mitandao ya neva nyingi ina mengi fursa kubwa kuliko zile za safu moja.

Kazi ya tabaka zilizofichwa za neurons zinaweza kulinganishwa na kazi ya kiwanda kikubwa. Bidhaa (ishara ya pato) kwenye mmea imekusanywa kwa hatua. Baada ya kila mashine, matokeo ya kati hupatikana. Tabaka zilizofichwa pia hubadilisha mawimbi ya pembejeo kuwa baadhi ya matokeo ya kati.

Mtandao wa neva wa safu nyingi (Mtandao wa neva wa safu nyingi) - mtandao wa neural unaojumuisha pembejeo, pato na safu moja (kadhaa) iliyofichwa ya neurons iko kati yao.

Mitandao ya usambazaji wa moja kwa moja

Unaweza kugundua maelezo moja ya kuvutia sana katika picha za mitandao ya neva kwenye mifano hapo juu.

Katika mifano yote, mishale madhubuti huenda kutoka kushoto kwenda kulia, yaani, ishara katika mitandao hiyo huenda madhubuti kutoka kwa safu ya pembejeo hadi safu ya pato.

Mitandao ya usambazaji wa moja kwa moja (Mtandao wa neva wa mrejesho) (mitandao ya usambazaji) - mitandao ya neural ya bandia ambayo ishara hueneza madhubuti kutoka kwa safu ya pembejeo hadi safu ya pato. KATIKA mwelekeo wa nyuma ishara haienezi.

Mitandao kama hiyo hutumiwa sana na kwa mafanikio kutatua darasa fulani la shida: utabiri, nguzo na utambuzi.

Walakini, hakuna mtu anayekataza ishara kwenda upande wa nyuma.

Mitandao ya maoni

Katika mitandao ya aina hii, ishara inaweza pia kwenda kinyume. Kuna faida gani?

Ukweli ni kwamba katika mitandao ya usambazaji, matokeo ya mtandao yanatambuliwa na ishara ya pembejeo na coefficients ya uzani kwa neurons za bandia.

Na katika mitandao na maoni matokeo ya niuroni yanaweza kurejeshwa kwa pembejeo. Hii ina maana kwamba pato la neuroni imedhamiriwa si tu kwa uzito wake na ishara ya pembejeo, lakini pia na matokeo ya awali (tangu walirudi kwenye pembejeo tena).

Uwezo wa ishara kuzunguka kwenye mtandao hufungua uwezekano mpya, wa kushangaza kwa mitandao ya neva. Kwa kutumia mitandao kama hii, unaweza kuunda mitandao ya neural inayorejesha au inayosaidia mawimbi. Kwa maneno mengine, mitandao kama hiyo ya neural ina mali kumbukumbu ya muda mfupi(kama mtu).

Mitandao ya maoni (Mtandao wa kawaida wa neva) - mitandao ya neva ya bandia ambayo matokeo ya neuroni yanaweza kurudishwa kwa pembejeo yake. Kwa ujumla zaidi, hii inamaanisha uwezo wa kueneza ishara kutoka kwa matokeo hadi pembejeo.

Mafunzo ya mtandao wa neva

Sasa hebu tuangalie suala la mafunzo ya mtandao wa neural kwa undani zaidi. Ni nini? Na hii hutokeaje?

Mafunzo ya mtandao ni nini?

Mtandao wa neva bandia ni mkusanyiko wa niuroni bandia. Sasa hebu tuchukue, kwa mfano, neurons 100 na kuziunganisha kwa kila mmoja. Ni wazi kwamba tunapotumia ishara kwa pembejeo, tutapata kitu kisicho na maana katika pato.

Hii inamaanisha tunahitaji kubadilisha baadhi ya vigezo vya mtandao hadi mawimbi ya ingizo yageuzwe kuwa matokeo tunayohitaji.

Tunaweza kubadilisha nini katika mtandao wa neva?

Kubadilisha jumla ya idadi ya niuroni bandia haina maana kwa sababu mbili. Kwanza, kuongeza idadi ya vipengele vya kompyuta kwa ujumla hufanya tu mfumo kuwa mzito na usiohitajika zaidi. Pili, ukikusanya wapumbavu 1000 badala ya 100, bado hawataweza kujibu swali kwa usahihi.

Nyongeza haiwezi kubadilishwa, kwani hufanya moja kwa ukali kazi iliyopewa-kunja. Ikiwa tutaibadilisha na kitu au kuiondoa kabisa, basi haitakuwa tena neuroni ya bandia hata kidogo.

Tukibadilisha utendaji wa kuwezesha kila neuroni, tutapata mtandao wa neva ambao ni tofauti sana na hauwezi kudhibitiwa. Kwa kuongeza, katika hali nyingi, neurons katika mitandao ya neural ni ya aina moja. Hiyo ni, wote wana kazi sawa ya kuwezesha.

Kuna chaguo moja tu iliyobaki - badilisha uzito wa uunganisho.

Mafunzo ya mtandao wa neva (Mafunzo)- tafuta seti kama hiyo ya coefficients ya uzani ambayo ishara ya pembejeo, baada ya kupita kwenye mtandao, inabadilishwa kuwa pato tunalohitaji.

Mbinu hii ya neno "mafunzo ya mtandao wa neural" pia inalingana na mitandao ya neural ya kibayolojia. Ubongo wetu una idadi kubwa ya mitandao ya neural iliyounganishwa kwa kila mmoja. Kila mmoja wao ana neuroni za aina moja (kazi ya uanzishaji ni sawa). Tunajifunza kwa kubadilisha sinepsi - vipengele vinavyoimarisha / kudhoofisha ishara ya uingizaji.

Hata hivyo kuna moja zaidi hatua muhimu. Ukifunza mtandao kwa kutumia mawimbi moja tu ya ingizo, basi mtandao "utakumbuka jibu sahihi." Kutoka nje itaonekana kuwa "alijifunza" haraka sana. Na mara tu unapotoa ishara iliyobadilishwa kidogo, ukitarajia kuona jibu sahihi, mtandao utazalisha upuuzi.

Kwa kweli, kwa nini tunahitaji mtandao unaotambua uso katika picha moja tu? Tunatarajia mtandao utaweza kujumlisha baadhi ya ishara na kutambua nyuso katika picha nyingine pia.

Ni kwa kusudi hili kwamba zinaundwa sampuli za mafunzo.

Seti ya mafunzo (Seti ya mafunzo) - seti ya mwisho ya ishara za pembejeo (wakati mwingine pamoja na ishara sahihi za pato) ambayo mtandao unafunzwa.

Baada ya mtandao kufundishwa, yaani, wakati mtandao unazalisha matokeo sahihi kwa ishara zote za pembejeo kutoka kwa seti ya mafunzo, inaweza kutumika katika mazoezi.

Walakini, kabla ya kuzindua mtandao mpya wa neva kwenye vita, ubora wa kazi yake mara nyingi hupimwa kwenye kile kinachojulikana kama mtandao. sampuli ya mtihani.

Sampuli ya mtihani (Seti ya majaribio) - seti ya mwisho ya ishara za pembejeo (wakati mwingine pamoja na ishara sahihi za pato) ambayo ubora wa mtandao unatathminiwa.

Tulielewa "mafunzo ya mtandao" ni nini - kuchagua seti sahihi ya uzani. Sasa swali linatokea - unawezaje kufundisha mtandao? Katika hali ya jumla, kuna mbinu mbili zinazosababisha matokeo tofauti: kujifunza kusimamiwa na kujifunza bila kusimamiwa.

Mafunzo yaliyofundishwa

Kiini cha mbinu hii ni kwamba unatoa ishara kama pembejeo, angalia jibu la mtandao, kisha ulinganishe na jibu lililo tayari, sahihi.

Jambo muhimu. Usichanganye majibu sahihi na algorithm inayojulikana ya suluhisho! Unaweza kufuatilia uso kwenye picha kwa kidole chako (jibu sahihi), lakini hutaweza kusema jinsi ulivyofanya (algorithm inayojulikana). Hali ni hiyo hiyo hapa.

Kisha, kwa kutumia algorithms maalum, unabadilisha uzito wa miunganisho ya mtandao wa neural na tena upe ishara ya pembejeo. Unalinganisha jibu lake na moja sahihi na kurudia mchakato huu hadi mtandao unapoanza kujibu kwa usahihi unaokubalika (kama nilivyosema katika Sura ya 1, mtandao hauwezi kutoa majibu sahihi bila utata).

Mafunzo yaliyofundishwa (Mafunzo yaliyosimamiwa) ni aina ya mafunzo ya mtandao ambayo uzito wake hubadilishwa ili majibu ya mtandao yatofautiane kidogo na majibu sahihi yaliyotayarishwa tayari.

Ninaweza kupata wapi majibu sahihi?

Ikiwa tunataka mtandao kutambua nyuso, tunaweza kuunda seti ya mafunzo ya picha 1000 (ishara za kuingiza) na kuchagua nyuso kwa kujitegemea kutoka kwayo (majibu sahihi).

Iwapo tunataka mtandao utabiri ongezeko/punguzo la bei, basi sampuli ya mafunzo lazima ifanywe kulingana na data ya awali. Unaweza kuchukua kama ishara za kuingiza siku fulani, hali ya jumla soko na vigezo vingine. Na majibu sahihi ni kupanda na kushuka kwa bei siku hizo.

Ni muhimu kuzingatia kwamba mwalimu, bila shaka, si lazima mtu. Ukweli ni kwamba wakati mwingine mtandao unapaswa kufundishwa kwa masaa na siku, kufanya maelfu na makumi ya maelfu ya majaribio. Katika 99% ya kesi, jukumu hili linafanywa na kompyuta, au kwa usahihi, programu maalum ya kompyuta.

Kujifunza bila kusimamiwa

Kujifunza bila kusimamiwa hutumika wakati hatuna majibu sahihi kwa mawimbi ya uingizaji. Katika kesi hii, seti nzima ya mafunzo ina seti ya ishara za pembejeo.

Ni nini hufanyika wakati mtandao unafunzwa kwa njia hii? Inabadilika kuwa kwa "mafunzo" kama hayo mtandao huanza kutofautisha madarasa ya ishara zinazotolewa kwa pembejeo. Kwa kifupi, mtandao huanza kuunganisha.

Kwa mfano, unaonyesha pipi, keki na keki kwenye mtandao. Huna udhibiti wa uendeshaji wa mtandao kwa njia yoyote. Unalisha tu data kuhusu kitu hiki kwa pembejeo zake. Baada ya muda, mtandao utaanza kuzalisha ishara za aina tatu tofauti, ambazo zinawajibika kwa vitu kwenye pembejeo.

Kujifunza bila kusimamiwa (Kujifunza bila kusimamiwa) ni aina ya mafunzo ya mtandao ambayo mtandao huainisha kwa kujitegemea mawimbi ya pembejeo. Ishara za pato sahihi (rejeleo) hazionyeshwa.

hitimisho

Katika sura hii, ulijifunza kila kitu kuhusu muundo wa neuroni ya bandia, pamoja na ufahamu kamili wa jinsi inavyofanya kazi (na mfano wake wa hisabati).

Aidha, sasa unajua kuhusu aina mbalimbali mitandao ya neva ya bandia: safu moja, safu nyingi, pamoja na mitandao ya usambazaji na mitandao yenye maoni.

Umejifunza pia kuhusu mafunzo ya mtandao yanayosimamiwa na yasiyosimamiwa.

Tayari unajua nadharia muhimu. Sura zinazofuata ni pamoja na kuzingatia aina mahususi za mitandao ya neva, kanuni mahususi za mafunzo yao, na mazoezi ya kupanga programu.

Maswali na kazi

Unahitaji kujua nyenzo katika sura hii vizuri, kwani ina msingi habari za kinadharia kwenye mitandao ya neva bandia. Hakikisha kupata majibu ya uhakika na sahihi kwa maswali na kazi zote hapa chini.

Eleza kurahisisha kwa ANN ikilinganishwa na mitandao ya kibiolojia ya neva.

1. Muundo mgumu na mgumu wa mitandao ya neva ya kibaolojia hurahisishwa na kuwakilishwa kwa namna ya michoro. Ni mtindo wa usindikaji wa mawimbi pekee uliosalia.

2. Hali ya ishara za umeme katika mitandao ya neural ni sawa. Tofauti pekee ni ukubwa wao. Tunaondoa ishara za umeme, na badala yake tumia nambari zinazoonyesha ukubwa wa ishara iliyopitishwa.

Kitendaji cha kuwezesha mara nyingi huonyeshwa na \(\phi(net) \) .

Andika muundo wa hisabati wa neuroni bandia.

Neuroni bandia iliyo na ingizo \\(n \) ​ hubadilisha mawimbi (nambari) kuwa mawimbi ya pato (nambari) kama ifuatavyo:

\[ nje=\phi\kushoto(\sum\limits^n_(i=1)x_iw_i\kulia) \]

Kuna tofauti gani kati ya safu-moja na mitandao ya neural ya safu nyingi?

Mitandao ya neva ya safu moja ina safu moja ya hesabu ya niuroni. Safu ya pembejeo hutuma ishara moja kwa moja kwenye safu ya pato, ambayo inabadilisha ishara na mara moja hutoa matokeo.

Mitandao ya neva ya safu nyingi, pamoja na safu za pembejeo na pato, pia ina safu zilizofichwa. Tabaka hizi zilizofichwa hufanya mabadiliko ya kati ya ndani, sawa na hatua za uzalishaji wa bidhaa katika kiwanda.

Kuna tofauti gani kati ya mitandao ya feedforward na mitandao ya maoni?

Mitandao ya uwasilishaji inaruhusu ishara kupita katika mwelekeo mmoja tu - kutoka kwa pembejeo hadi matokeo. Mitandao iliyo na maoni haina vizuizi hivi, na matokeo ya niuroni yanaweza kurejeshwa kwenye ingizo.

Seti ya mafunzo ni nini? Maana yake ni nini?

Kabla ya kutumia mtandao katika mazoezi (kwa mfano, kutatua kazi za sasa, ambayo huna majibu), unahitaji kukusanya mkusanyiko wa matatizo na majibu tayari, ambayo kufundisha mtandao. Mkusanyiko huu unaitwa seti ya mafunzo.

Ikiwa unakusanya seti ndogo sana ya ishara za pembejeo na pato, mtandao utakumbuka tu majibu na lengo la kujifunza halitafikiwa.

Nini maana ya mafunzo ya mtandao?

Mafunzo ya mtandao ni mchakato wa kubadilisha mgawo wa uzani wa niuroni bandia za mtandao ili kuchagua mchanganyiko wao unaobadilisha mawimbi ya ingizo kuwa pato sahihi.

Je, ni mafunzo gani yanayosimamiwa na yasiyosimamiwa?

Wakati wa kufundisha mtandao na mwalimu, ishara hutolewa kwa pembejeo zake, na kisha pato lake linalinganishwa na pato sahihi lililojulikana hapo awali. Utaratibu huu unarudiwa hadi usahihi unaohitajika wa majibu upatikane.

Ikiwa mitandao hutoa tu ishara za pembejeo, bila kuzilinganisha na matokeo tayari, basi mtandao huanza kuainisha kwa kujitegemea ishara hizi za pembejeo. Kwa maneno mengine, hufanya nguzo za ishara za pembejeo. Aina hii ya ujifunzaji inaitwa kujifunza bila kusimamiwa.

Neuroni ni sehemu muhimu ya mtandao wa neva. Katika Mtini. 1 2 inaonyesha muundo wake Inajumuisha vipengele vya aina tatu: multipliers (synapses), adder na converter isiyo ya mstari. Synapses huwasiliana kati ya niuroni na kuzidisha mawimbi ya ingizo kwa nambari inayoashiria nguvu ya muunganisho (uzito wa sinepsi). Nyongeza hufanya ishara zinazofika kupitia miunganisho ya sinepsi kutoka kwa niuroni zingine na mawimbi ya pembejeo ya nje. Kigeuzi kisicho na mstari hutekeleza kazi isiyo ya mstari ya hoja moja - pato la fira. Kazi hii inaitwa kazi ya uanzishaji au kipengele cha uhamisho

Mchele. 1.2 Muundo wa neuroni bandia

neuroni. Neuroni kwa ujumla wake hutekeleza utendaji wa scalar wa hoja ya vekta. Mfano wa hisabati wa neuroni:

ambapo ni uzito wa sinepsi, ni thamani ya upendeleo, s ni matokeo ya summation (jumla); x ni sehemu ya vector ya pembejeo (ishara ya pembejeo), ishara ya pato ya neuron; - idadi ya pembejeo za neuroni; - mabadiliko yasiyo ya mstari (kazi ya uanzishaji).

Kwa ujumla, ishara ya pembejeo, uzani na kukabiliana inaweza kuchukua maadili halisi, na katika nyingi matatizo ya vitendo- baadhi tu ya maadili fasta. Matokeo huamuliwa na aina ya chaguo za kukokotoa na inaweza kuwa halisi au kamili.

Viunganisho vya synaptic na uzani mzuri huitwa kusisimua, na wale walio na uzani hasi huitwa kizuizi.

Kipengele kilichoelezewa cha hesabu kinaweza kuchukuliwa kuwa kilichorahisishwa mfano wa hisabati neurons za kibiolojia. Ili kusisitiza tofauti kati ya nyuroni za kibiolojia na bandia, mwisho wakati mwingine huitwa vipengele vinavyofanana na neuroni au neurons rasmi.

Kigeuzi kisicho na mstari kinajibu kwa ishara ya pembejeo na ishara ya pato, ambayo ni pato

neuron Mifano ya vitendaji vya kuwezesha huwasilishwa katika jedwali. 1.1 na katika Mtini. 1.3

Jedwali 1.1 (angalia tambazo) Vitendaji vya kuwezesha neuroni

Mojawapo ya kawaida ni kazi ya kuwezesha isiyo ya mstari na kueneza, kinachojulikana kama kazi ya vifaa au sigmoid (kazi ya umbo la S)

Inapungua, sigmoid inakuwa gorofa, na katika kikomo, hupungua ndani mstari wa usawa kwa kiwango cha 0.5, na kuongeza sigmoid inakaribia fomu ya kazi

Mchele. 1.3 Mifano ya vitendakazi vya kuwezesha - kitendakazi cha kuruka moja, b - kizingiti cha mstari (hysteresis), c - sigmoid (kazi ya vifaa), d - sigmoid (hyperbolic tangent)

kuruka moja kwa kizingiti Kutoka kwa usemi wa sigmoid ni dhahiri kwamba thamani ya pato la niuroni iko katika safu Moja ya mali ya thamani kazi ya sigmoidal - usemi rahisi kwa derivative yake, matumizi ambayo yatajadiliwa baadaye

Ikumbukwe kwamba kazi ya sigmoid inaweza kutofautishwa pamoja na mhimili wote wa x, ambayo hutumiwa katika algorithms fulani ya kujifunza. Kwa kuongeza, ina mali ya kukuza ishara dhaifu zaidi kuliko kubwa, na inazuia kueneza kutoka kwa ishara kubwa, kwa vile wao. yanahusiana na maeneo ya hoja ambapo sigmoid ina mwelekeo wa kina

Mitandao ya Neural

Nyuma katikati ya miaka ya 1980. Watafiti wengi wamegundua kuwa mifumo ya akili ya bandia, kwa sababu ya uwezo wao dhaifu wa kujisomea, wakati wa kukutana na hali isiyotarajiwa na msanidi programu, hutoa ujumbe wa makosa au kutoa matokeo yasiyo sahihi kabisa. Ili kuondokana na matatizo hayo, imependekezwa kutumia mitandao ya neural ya bandia.

Mitandao Bandia ya neva ina maana ya miundo ya hesabu inayoiga michakato ya kibayolojia, kwa kawaida inayohusishwa na michakato inayotokea ubongo wa binadamu. NN husambazwa mifumo sambamba yenye uwezo wa kujifunza kubadilika kwa kuchanganua athari chanya na hasi. Kigeuzi cha msingi katika mitandao hii ni neuroni bandia, inayoitwa hivyo kwa mlinganisho na mfano wake wa kibaolojia.

Mfumo wa neva na ubongo wa binadamu hujumuisha niuroni zilizounganishwa kwa kila mmoja na nyuzi za neva zenye uwezo wa kupitisha msukumo wa umeme. Michakato ya mtazamo na uhamisho wa ishara kutoka kwa viungo vya hisia (ngozi, masikio, macho) hadi kwa ubongo, kufikiri na udhibiti wa vitendo - yote haya yanatekelezwa katika kiumbe hai kwa namna ya kubadilishana kwa msukumo wa umeme kati ya neurons. Kiini cha neva au neuroni ni maalum seli ya kibiolojia(Mchoro 5.7).

Mchele. 5.7. Muundo rahisi wa neuroni ya kibaolojia

Inajumuisha mwili au soma, pamoja na taratibu nyuzi za neva aina mbili: dendrites zinazopokea msukumo, na akzoni moja ambayo neuroni inaweza kupitisha msukumo. Mwili wa neuroni ni pamoja na kiini na plasma. Neuroni hupokea ishara (misukumo) kutoka kwa akzoni za niuroni nyingine kupitia dendrites (vipokezi) na kupitisha mawimbi yanayotolewa na seli ya seli pamoja na akzoni (kisambazaji) chake, ambacho mwishoni hujikita kwenye nyuzi. Katika mwisho wa nyuzi hizi kuna elimu maalum− sinepsi zinazoathiri ukubwa wa msukumo.

Sinapsi ni muundo wa kimsingi na kitengo cha utendaji kati ya niuroni mbili (nyuzi ya axon ya neuroni moja na dendrite ya nyingine). Chini ya ushawishi wa msukumo unaoingia, sinepsi hutoa vitu vya kemikali, inayoitwa neurotransmitters. Neurotransmita huenea kwenye mwanya wa sinepsi, kuchochea au kuzuia, kulingana na aina ya sinepsi, uwezo wa neuroni ya kipokezi kutoa mvuto wa umeme. Ufanisi wa uhamishaji wa msukumo kwa sinepsi unaweza kusawazishwa na ishara zinazopita ndani yake, ili sinepsi ziweze kujifunza kulingana na shughuli za michakato ambayo wanashiriki. Utegemezi huu wa hadithi za nyuma hufanya kama kumbukumbu. Ni muhimu kutambua kwamba uzito wa sinepsi unaweza kubadilika kwa muda, ambayo ina maana kwamba tabia ya neurons sambamba pia inabadilika.

Kwa maneno mengine, kila neuroni ina sifa hali ya ndani na kizingiti cha msisimko, na pembejeo zake zimegawanywa katika kusisimua na kuzuia. Ishara iliyopokelewa kwenye pembejeo ya kusisimua huongeza kiwango cha shughuli za neuroni, na kwa pembejeo ya kuzuia, kinyume chake, inaipunguza. Ikiwa jumla ya ishara kwenye pembejeo za kusisimua na za kuzuia huzidi kizingiti cha kusisimua, basi neuroni hutoa ishara ya pato inayofika kwenye pembejeo za neurons nyingine zilizounganishwa nayo, i.e. msisimko (ishara) hueneza kupitia mtandao wa neva.

Ngome ya ubongo ya binadamu ina takriban nyuroni 10 11 na ni uso uliopanuliwa na unene wa mm 2-3 na eneo la karibu 2200 cm 2. Kila neuroni imeunganishwa na niuroni 10 3 -10 4 nyingine. Kwa hivyo, ubongo wa mwanadamu kwa ujumla una takriban miunganisho 10 14 hadi 10 15.

Neuroni huwasiliana kwa milipuko mifupi ya misukumo inayodumu kwa kawaida milisekunde chache. Ujumbe hupitishwa kwa kutumia urekebishaji wa masafa ya mapigo. Masafa yanaweza kutofautiana kutoka vitengo vichache hadi mamia ya hertz, ambayo ni polepole mara milioni kuliko ya kasi ya juu. nyaya za elektroniki. Hata hivyo, mtu hutatua matatizo magumu ya utambuzi katika milliseconds mia chache tu, ambayo haiwezekani kwa kompyuta nyingi za kisasa. Mchakato wa kufanya maamuzi unadhibitiwa na mtandao wa niuroni ambao huchukua milisekunde chache tu kukamilisha operesheni moja. Maelezo pekee jambo kama hilo likawa dhana kwamba ili kutatua vile kazi ngumu ubongo "huendesha" programu zinazofanana, ambayo kila moja ina hatua 100 hivi. Jambo hilo linaitwa "usambamba mkubwa". Kulingana na mbinu hii, inaweza kupatikana kuwa kiasi cha habari kinachotumwa kutoka kwa neuron moja hadi nyingine lazima iwe ndogo sana (bits chache). Kutoka ambayo inafuata kwamba sehemu kuu ya habari haipitishwa moja kwa moja, lakini inachukuliwa na kusambazwa katika uhusiano kati ya neurons.

Neuroni bandia (hapa inajulikana tu kama niuroni) ni a muundo wa bandia, ambayo ni mfano wa sifa za neuroni ya kibiolojia. Mojawapo ya mifano rahisi na ya jumla ya seli ya ujasiri ni kinachojulikana mfano wa McCulloch-Pitts, iliyotolewa kwenye Mtini. 5.8.

Mchele. 5.8. Mfano wa neuroni wa McCulloch-Pitts

Kihesabu, muundo wa neuroni unaweza kuandikwa kama ifuatavyo:

, (5.8)

Wapi x ji- seti ya ishara kwenye pembejeo ya neuroni,

w mimi j- seti ya uzito wa ishara za pembejeo,

s i- jumla ya ishara au utendaji wa hali ya nyuroni,

f i− kitendakazi uanzishaji wa neuroni,

y i- ishara ya pato la nyuroni,

N− idadi ya viingizi vya neuroni.

Moja ya mitandao ya kwanza ya neva bandia ni ile inayoitwa Rosenblatt perceptron [< лат. perceptio получение, собирание]. Персептроном называют однослойную нейронную сеть, состоящую из нейронов с пороговой функцией активации .

Wazo la utendakazi wa kuwezesha ni la msingi katika nadharia ya mtandao wa neva. Kitendaji cha uanzishaji f j huamua mwitikio wa neuroni kwa seti mvuto wa nje, iliyoonyeshwa na ukubwa wa mawimbi ya pato kama utendaji wa hali yake ya sasa.

Hivi sasa, wakati wa kuunda modeli katika msingi wa mtandao wa neva, anuwai ya kazi za uanzishaji hutumiwa, tofauti haswa katika aina. majibu ya muda mfupi. Kazi za kawaida za uanzishaji zinatolewa kwenye jedwali. 5.1.

Kompyuta za neva- Kompyuta. Mifumo ya kizazi cha 6, paka. inajumuisha idadi kubwa ya mambo sambamba ya kufanya kazi rahisi ya computational (neurons). Vipengele vimeunganishwa, na kutengeneza mtandao wa neva. Wanafanya mahesabu ya sare. vitendo na hazihitaji udhibiti wa nje. Nambari kubwa Nguvu ya kompyuta sambamba hutoa utendaji wa juu.

Kwa sasa Hivi sasa, uundaji wa kompyuta za neva unaendelea katika nchi nyingi zilizoendelea.

Kompyuta za neva hufanya iwezekanavyo kutatua matatizo kwa ufanisi wa juu mstari mzima kazi za kiakili. Hizi ndizo kazi:

utambuzi wa muundo

kudhibiti adaptive

utabiri

uchunguzi, nk.

Kompyuta za neva hutofautiana na kompyuta za vizazi vilivyopita sio tu katika uwezo wao mkubwa. Njia tunayotumia mashine inabadilika kimsingi. Kupanga kunabadilishwa na kujifunza; kompyuta ya neva hujifunza kutatua matatizo.

Elimu- marekebisho ya uzani wa uunganisho, kama matokeo ambayo kila hatua ya pembejeo inaongoza kwa malezi ya ishara inayolingana ya pato. Baada ya kupata mafunzo, mtandao unaweza kutumia ujuzi uliojifunza kwa mawimbi mapya ya kuingiza data. Wakati wa kuhama kutoka kwa programu hadi kujifunza, ufanisi wa kutatua matatizo ya kiakili huongezeka.

Neurocomputer Synapse (Siemens);

Neuro-r "Silicon Brain" (Marekani, "Ubongo wa Kielektroniki" kwa usindikaji wa picha ya anga).

Dhana ya sanaa. neuroni. Neuroni rasmi. Muundo. Mfano wa hisabati wa neuroni. Kanuni ya uendeshaji.

Bandia neuroni (Hisabati neuroni McCulloch - Pitts, Rasmi neuroni) - node ya mtandao wa neural ya bandia, ambayo ni mfano rahisi wa neuron ya asili. Kihisabati, neuroni bandia huwakilishwa kama utendaji fulani usio na mstari wa hoja moja - mseto wa mstari wa mawimbi yote ya ingizo. Kazi hii inaitwa kazi uanzishaji au kazi uanzishaji, uambukizaji kazi. Matokeo yake yanatumwa kwa pato moja. Neuroni kama hizo za bandia zimejumuishwa katika mitandao - zinaunganisha matokeo ya baadhi ya niuroni kwa pembejeo za wengine. Neuroni bandia na mitandao ndio vitu kuu vya kompyuta bora ya neuro.

Rasmi neuroni - katika mitandao ya neural - kipengele cha usindikaji, kibadilishaji data kinachopokea data ya pembejeo na kuibadilisha ipasavyo. na kazi fulani na vigezo. Fomu. neuroni hufanya kazi kwa wakati tofauti .

Mzunguko wa neuroni bandia

1. Neurons, ishara za pato ambazo hutolewa kwa pembejeo ya moja iliyotolewa 2. Adder ya ishara za pembejeo 3. Calculator ya kazi ya uhamisho 4. Neurons, ishara za pembejeo zinazotolewa na ishara ya pato ya moja iliyotolewa 5. .- uzito ishara za pembejeo

Kihisabati, neuroni inawakilishwa na ni fira yenye uzani, matokeo pekee ambayo huamuliwa kupitia pembejeo zake na matrix ya uzani kama ifuatavyo:

Wapi

Hapa upo, mtawalia, mawimbi kwenye viingiza vya neuroni na uzani wa ingizo, chaguo la kukokotoa u linaitwa sehemu ya ndani iliyoshawishiwa, na f(u) ni chaguo la kukokotoa la uhamishaji. Thamani zinazowezekana za ishara kwenye pembejeo za neuroni huzingatiwa kutolewa kwa muda. Wanaweza kuwa tofauti (0 au 1) au analog. Pembejeo za ziada zinazolingana nayo hutumiwa kwa uanzishaji neuroni. Kwa uanzishaji tunamaanisha mabadiliko katika utendaji wa kuwezesha neuroni kwenye mhimili mlalo, yaani, uundaji wa kizingiti cha unyeti wa niuroni. Kwa kuongeza, wakati mwingine thamani fulani ya nasibu inayoitwa shift huongezwa haswa kwa pato la niuroni. Mabadiliko yanaweza kuzingatiwa kama ishara kwenye sinepsi ya ziada, iliyopakiwa kila wakati.

Kazi ya uanzishaji wa neuroni. Aina za kazi.

Kazi ya kuwezesha neuroni inafafanua badiliko lisilo la mstari linalofanywa na niuroni.

Kuna aina nyingi za kazi za kuwezesha, lakini zinazojulikana zaidi ni zifuatazo nne:

1. Kizingiti kazi. Katika Mtini. 7.2, A Ratiba yake imeonyeshwa.

. (7.5)

Kazi ya kwanza ya uanzishaji iliyoanzishwa, ilielezwa katika kazi ya McCulloch na Pitts. Kwa heshima ya hili, mfano wa neuron yenye kazi ya uanzishaji wa kizingiti inaitwa mfano wa McCulloch-Pitts.

2. Mstari wa kipande kazi. Inaonyeshwa kwenye Mtini. 7.2, b na inaelezewa na uhusiano ufuatao:

. (7.6)

KATIKA kwa kesi hii a=1, na mgawo wa mteremko wa sehemu ya mstari umechaguliwa kuwa umoja, na chaguo la kukokotoa lote linaweza kufasiriwa kama ukadiriaji wa amplifaya isiyo ya mstari. Kwa mgawo mkubwa wa mteremko wa sehemu ya mstari, chaguo za kukokotoa huharibika hadi kuwa kizingiti.

Aina nyingi za mitandao ya neva bandia hutumia niuroni zilizo na kitendakazi cha kuwezesha mstari, ambacho ni kisa maalum cha (7.6) chenye eneo la mstari lisilo na kikomo.

Mchele. 7.2. Aina za kazi za uanzishaji a), d) kizingiti; b) mstari; c) sigmoidal; e) tangential; f) kazi za uanzishaji wa msingi wa radial

Dhana ya mtandao wa neva bandia.

Mtandao wa neva bandia(ANN) ni mfano wa hisabati, pamoja na programu yake au utekelezaji wa vifaa, uliojengwa juu ya kanuni ya shirika na utendaji wa mitandao ya neural ya kibaolojia - mitandao ya seli za ujasiri za kiumbe hai. Wazo hili liliibuka wakati wa kusoma michakato inayotokea kwenye ubongo na kujaribu kuiga michakato hii. Jaribio la kwanza kama hilo lilikuwa mitandao ya neural ya W. McCulloch na W. Pitts. Baada ya maendeleo ya algorithms ya kujifunza, mifano iliyosababishwa ilianza kutumika katika madhumuni ya vitendo: katika matatizo ya utabiri, kwa utambuzi wa muundo, katika matatizo ya udhibiti, nk.

ANN ni mfumo wa vichakataji vilivyounganishwa na vinavyoingiliana (nyuroni za bandia). Wasindikaji hawa kawaida ni rahisi sana (haswa ikilinganishwa na wasindikaji wanaotumiwa kwenye kompyuta za kibinafsi). Kila processor katika mtandao kama huo inahusika tu na ishara ambazo hupokea mara kwa mara na ishara ambazo hutuma mara kwa mara kwa wasindikaji wengine. Na bado, inapounganishwa kwenye mtandao mkubwa wa kutosha na mwingiliano unaodhibitiwa, wasindikaji rahisi kama hao pamoja wanaweza kufanya kazi ngumu kabisa.

Kwa mtazamo wa kujifunza kwa mashine, mtandao wa neva ni kesi maalum ya mbinu za utambuzi wa muundo, uchambuzi wa kibaguzi, mbinu za kuunganisha, nk. Kwa mtazamo wa hisabati, mafunzo ya mitandao ya neural ni tatizo la uboreshaji usio na vigezo vingi. Kwa mtazamo wa cybernetics, mtandao wa neva hutumiwa katika matatizo ya udhibiti wa kukabiliana na kama algorithms ya robotiki. Kutoka kwa mtazamo wa maendeleo ya teknolojia ya kompyuta na programu, mtandao wa neural ni njia ya kutatua tatizo la usawa wa ufanisi. Na kutoka kwa mtazamo wa akili ya bandia, ANN ni msingi wa harakati ya falsafa ya kuunganishwa na mwelekeo kuu katika mbinu ya kimuundo ya kusoma uwezekano wa kujenga (mfano) akili ya asili kwa kutumia algorithms ya kompyuta.

Mitandao ya neva haiwezi kupangwa kwa maana ya kawaida ya neno, wao wanapewa mafunzo. Uwezo wa kujifunza ni mojawapo ya faida kuu za mitandao ya neural juu ya algoriti za kitamaduni. Kitaalamu, kujifunza kunajumuisha kutafuta coefficients ya miunganisho kati ya niuroni. Wakati wa mchakato wa mafunzo, mtandao wa neva unaweza kutambua utegemezi changamano kati ya data ya pembejeo na data ya pato, na pia kufanya jumla. Hii ina maana kwamba ikiwa mafunzo yatafaulu, mtandao utaweza kurejesha matokeo sahihi kulingana na data ambayo haikuwepo katika seti ya mafunzo, pamoja na data isiyokamilika na/au "kelele", iliyopotoshwa kiasi.

Mpango wa mtandao rahisi wa neva. Kijani uteuzi wa rangi pembejeo neurons, lengo.- siri neurons, njano - siku ya mapumziko neuroni.

Tabia za kimsingi za mitandao ya neva.

Baadhi ya sifa za mitandao ya neva.

1. Mafunzo

Mitandao ya neva Bandia inaweza kubadilisha tabia zao kulingana na mazingira ya nje. Sababu hii, zaidi ya nyingine yoyote, inawajibika kwa maslahi wanayoamsha. Mara tu ishara za pembejeo zinawasilishwa (labda pamoja na matokeo yanayohitajika), hujirekebisha ili kutoa jibu linalohitajika. Algorithms nyingi za kujifunza zimetengenezwa, kila moja ikiwa na nguvu na udhaifu wao. Bado kuna matatizo kuhusu kile ambacho mtandao unaweza kujifunza na jinsi ujifunzaji unafaa kufanywa.

2. Ujumla

Mwitikio wa mtandao baada ya mafunzo unaweza kuwa haujali mabadiliko madogo katika mawimbi ya pembejeo. Uwezo huu wa asili wa kuona muundo kupitia kelele na upotoshaji ni muhimu kwa utambuzi wa muundo ulimwengu halisi. Inashinda mahitaji madhubuti ya usahihi wa kompyuta ya kawaida na kufungua njia ya mfumo ambao unaweza kukabiliana na ulimwengu usio mkamilifu tunamoishi. Ni muhimu kutambua kwamba mtandao wa neural wa bandia hufanya generalizations moja kwa moja kutokana na muundo wake, badala ya kutumia "akili ya binadamu" kwa namna ya programu za kompyuta zilizoandikwa maalum.

3. Kuondoa

Baadhi ya mitandao ya neva bandia ina uwezo wa kutoa kiini kutoka kwa mawimbi ya uingizaji. Kwa mfano, mtandao unaweza kufunzwa juu ya mlolongo wa matoleo yaliyopotoka ya herufi "A". Baada ya mafunzo sahihi, kuwasilisha mfano uliopotoka utasababisha mtandao kutoa barua ya sura kamili (katika kesi hii, barua "A"). Kwa maana fulani, atajifunza kuzaa kitu ambacho hajawahi kuona. Uwezo wa kupata prototypes bora ni ubora wa thamani sana kwa wanadamu.

4. Kutumika

Mitandao ya neva Bandia sio tiba. Kwa wazi hazifai kwa kazi kama vile malipo, lakini ni muhimu kwa darasa kubwa la kazi zingine ambazo mifumo ya kawaida ya kompyuta hufanya vibaya au haifanyi kabisa.

Matatizo yametatuliwa na mitandao ya neva.

NN zinafaa kwa utambuzi wa muundo na kutatua matatizo ya uainishaji, uboreshaji na utabiri. Ifuatayo ni orodha ya utumizi unaowezekana wa kiviwanda wa mitandao ya neva, kwa msingi ambao bidhaa za kibiashara tayari zimeundwa au prototypes za maonyesho zimetekelezwa.

Benki na makampuni ya bima:

usomaji wa moja kwa moja wa hundi na hati za kifedha;

kuangalia uhalisi wa saini;

tathmini ya hatari kwa mikopo;

utabiri wa mabadiliko katika viashiria vya kiuchumi.

Huduma za utawala:

usomaji wa hati otomatiki;

utambuzi otomatiki wa misimbo ya upau.

Sekta ya mafuta na kemikali:

uchambuzi wa habari za kijiolojia;

utambuzi wa makosa ya vifaa;

uchunguzi wa amana za madini kwa kuzingatia picha za angani;

uchambuzi wa nyimbo za uchafu;

usimamizi wa mchakato.

Sekta ya kijeshi na angani:

usindikaji wa ishara za sauti (kujitenga, kitambulisho, ujanibishaji);

usindikaji wa ishara za rada (utambuzi wa lengo, utambulisho na ujanibishaji wa vyanzo);

usindikaji wa ishara za infrared (ujanibishaji);

muhtasari wa habari;

majaribio ya moja kwa moja.

Uzalishaji wa viwanda:

udhibiti wa manipulator;

udhibiti wa ubora;

usimamizi wa mchakato;

kugundua kosa;

roboti zinazobadilika;

Huduma ya Usalama:

Sekta ya matibabu:

uchambuzi wa X-ray;

kugundua hali isiyo ya kawaida katika ECG.

Televisheni na mawasiliano:

udhibiti wa mtandao wa mawasiliano unaobadilika;

ukandamizaji wa picha na urejesho.

Perceptron ya safu nyingi. Muundo. Kanuni ya uendeshaji.

Hebu fikiria muundo wa mtandao wa hierarchical ambao neurons zilizounganishwa (node ​​za mtandao) zimeunganishwa katika tabaka kadhaa (Mchoro 6.1). F. Rosenblatt alionyesha uwezekano wa kujenga usanifu huo, lakini hakutatua tatizo la mafunzo. Miunganisho ya sinepsi ya interneuron ya mtandao hupangwa kwa njia ambayo kila neuroni huwaka kiwango hiki uongozi hupokea na kuchakata mawimbi kutoka kwa kila neuroni ya kiwango cha chini. Kwa hiyo, katika mtandao huu kuna mwelekeo wa kujitolea wa uenezi wa neuroimpulses - kutoka kwa safu ya pembejeo kupitia safu moja (au kadhaa) iliyofichwa hadi safu ya pato ya neurons. Tutaita mtandao wa neural wa topolojia kama hiyo mtazamo wa jumla wa tabaka nyingi au, ikiwa hii haileti kutoelewana, ni mtazamo tu.

Mchoro.6.1. Muundo wa perceptron ya safu nyingi yenye pembejeo tano, niuroni tatu kwenye safu iliyofichwa, na niuroni moja kwenye safu ya pato.

Perceptron ni mtandao unaojumuisha tabaka kadhaa za niuroni rasmi za McCulloch na Pitts zilizounganishwa katika mfululizo. Washa kiwango cha chini kabisa uongozi iko pembejeo safu inayojumuisha vipengele vya sensor, kazi ambayo ni kupokea tu na kusambaza taarifa za pembejeo kupitia mtandao. Kisha kuna moja au, chini ya mara nyingi, kadhaa siri tabaka. Kila neuroni kwenye safu iliyofichwa ina pembejeo kadhaa zilizounganishwa na matokeo ya niuroni za safu ya awali au moja kwa moja kwa vitambuzi vya kuingiza X1..Xn, na pato moja. Neuroni ina sifa ya vekta ya kipekee ya vigawo vya uzito w. Uzito wa niuroni zote kwenye safu huunda matriki, ambayo tutaashiria kwa V au W. Kazi ya niuroni ni kukokotoa jumla iliyopimwa ya ingizo zake na mabadiliko yake zaidi yasiyo ya mstari kuwa mawimbi ya kutoa:

(6.1)

Matokeo ya neurons ya mwisho, siku ya mapumziko, tabaka zinaelezea matokeo ya uainishaji Y=Y(X). Vipengele vya uendeshaji wa perceptron ni kama ifuatavyo. Kila neuroni hufanya muhtasari wa ishara zinazokuja kutoka kwa niuroni ngazi ya awali uongozi wenye uzani ulioamuliwa na hali za sinepsi, na hutoa ishara ya majibu (mipito hadi hali ya msisimko) ikiwa jumla inayotokana iko juu ya thamani ya kizingiti. Perceptron hutafsiri picha ya pembejeo, ambayo huamua kiwango cha msisimko wa niuroni za kiwango cha chini kabisa cha uongozi, kwenye picha ya pato, iliyoamuliwa na neurons za sana. ngazi ya juu. Idadi ya mwisho kawaida ni ndogo. Hali ya msisimko wa neuroni katika ngazi ya juu inaonyesha kwamba picha ya pembejeo ni ya jamii moja au nyingine.

Kijadi, mantiki ya analog inazingatiwa, ambayo majimbo yanayoruhusiwa ya miunganisho ya synaptic imedhamiriwa na nambari halisi za kiholela, na digrii za shughuli za neurons zinatambuliwa na nambari halisi kati ya 0 na 1. Wakati mwingine mifano iliyo na hesabu tofauti pia inasomwa, ambayo sinepsi ina sifa ya vigezo viwili vya Boolean: shughuli (0 au 1) na polarity (-1 au +1), ambayo inalingana na mantiki yenye thamani tatu. Hali za nyuroni zinaweza kuelezewa na tofauti moja ya Boolean. Mbinu hii ya kipekee hufanya nafasi ya usanidi wa majimbo ya mtandao wa neural kuwa na kikomo (bila kutaja faida katika utekelezaji wa maunzi).

Hapa tutaelezea hasa toleo la kawaida la mtandao wa multilayer na sinepsi za analogi na kazi ya uhamisho ya sigmoidal ya neurons, iliyofafanuliwa na fomula (6.1).

Kazi ya kufundisha mtandao wa neva kwa kutumia mifano.

Kulingana na shirika na utendaji wake. uteuzi wa madai. mtandao wa neva na kadhaa pembejeo na matokeo hufanya mabadiliko fulani ya vichocheo vya pembejeo - habari za hisia kuhusu ulimwengu wa nje - kuwa ishara za udhibiti wa pato. Idadi ya msukumo uliobadilishwa ni sawa na n - idadi ya pembejeo za mtandao, na idadi ya ishara za pato inafanana na idadi ya matokeo m. Jumla ya yote yanayowezekana pembejeo vekta za dimension n huunda nafasi ya vekta X , ambayo tutaita dalili nafasi(Wakati wa kuzingatia nafasi zinazolingana, inadhaniwa kuwa kawaida shughuli za vector kuongeza na kuzidisha kwa scalar (kwa maelezo zaidi, ona Hotuba ya 2) Vile vile, wikendi vekta pia huunda nafasi ya kipengele, ambayo itaonyeshwa Y . Sasa mtandao wa neva unaweza kuzingatiwa kama aina fulani ya multidimensional kazi F: X  Y , ambaye hoja yake ni ya nafasi ya kipengele cha ingizo, na ambayo thamani yake ni ya nafasi ya kipengele cha pato.

Kwa thamani ya kiholela ya mgawo wa uzito wa sinepsi ya niuroni za mtandao, kazi inayotekelezwa na mtandao pia ni ya kiholela. Kwa kupata inahitajika kazi inahitaji uchaguzi maalum wa uzito. Seti iliyopangwa ya coefficients zote za uzito wa niuroni zote inaweza kuwakilishwa kama vekta W. Seti ya vekta kama hizo pia huunda nafasi ya vekta iitwayo. nafasi ya serikali au usanidi (awamu) nafasi W . Neno "nafasi ya awamu" linatokana na fizikia ya takwimu mifumo ya chembe nyingi, ambapo inaeleweka kama jumla ya kuratibu na momenta ya chembe zote zinazounda mfumo.

Kubainisha vector katika nafasi ya usanidi huamua kabisa uzito wote wa synaptic na, kwa hiyo, hali ya mtandao. Hali ambayo mtandao wa neural hufanya kazi inayohitajika inaitwa mafunzo hali mitandao W*. Kumbuka kuwa kwa kazi fulani, hali iliyofunzwa inaweza kuwa haipo au isiwe pekee. Kazi ya kujifunza sasa ni sawa na kuunda mchakato wa mpito katika nafasi ya usanidi kutoka kwa hali fulani W 0 hadi hali iliyofunzwa.

Utendakazi unaohitajika unafafanuliwa kipekee kwa kukabidhi mawasiliano kwa kila vekta ya nafasi ya kipengele X vekta fulani kutoka angani Y . Katika kesi ya mtandao wa neuron moja katika tatizo la kugundua mipaka linazingatiwa mwishoni Mhadhara wa tatu, maelezo kamili ya kazi inayohitajika hupatikana kwa kutaja jozi nne tu za vectors. Walakini, katika hali ya jumla, kama vile wakati wa kufanya kazi na picha ya video, nafasi za vipengee zinaweza kuwa na hali ya juu, kwa hivyo, hata katika kesi ya veta za Boolean, ufafanuzi usio na utata wa kazi huwa ngumu sana (mradi, kwa kweli, chaguo za kukokotoa hazijabainishwa wazi, kwa mfano, kwa fomula; hata hivyo, kwa vitendaji vilivyobainishwa kwa Uwazi kawaida havihitaji kuwakilishwa na miundo ya mtandao wa neva). Katika visa vingi vya vitendo, maadili ya kazi zinazohitajika kwa maadili fulani ya hoja hupatikana kutoka kwa majaribio au uchunguzi, na, kwa hivyo, hujulikana tu kwa idadi ndogo ya watu vekta. Kwa kuongezea, maadili yanayojulikana ya chaguo za kukokotoa yanaweza kuwa na makosa, na data ya mtu binafsi inaweza hata kupingana kwa kiasi. Kwa sababu hizi, mtandao wa neva kawaida hupewa jukumu uwakilishi wa takriban wa chaguo za kukokotoa kulingana na mifano inayopatikana. Mifano ya mawasiliano kati ya vekta zinazopatikana kwa mtafiti, au data wakilishi zaidi iliyochaguliwa hasa kutoka kwa mifano yote huitwa. seti ya mafunzo. Sampuli ya mafunzo kawaida huamua kwa kutaja jozi za vekta, na katika kila jozi vector moja inalingana na kichocheo, na pili kwa majibu yanayotakiwa. Kufunza mtandao wa neva hujumuisha kuleta vivekta vyote vya kichocheo kutoka kwa seti ya mafunzo hadi miitikio inayohitajika kwa kuchagua mgawo wa uzani wa niuroni.

Shida ya jumla ya cybernetics ni kujenga mfumo wa bandia na tabia fulani ya utendaji, katika muktadha wa mitandao ya neva inaeleweka kama kazi usanisi mtandao wa bandia unaohitajika. Inaweza kujumuisha kazi ndogo zifuatazo: 1) uteuzi wa vipengele ambavyo ni muhimu kwa tatizo linalotatuliwa na uundaji wa nafasi za vipengele; 2) uteuzi au maendeleo ya usanifu wa mtandao wa neural wa kutosha kwa tatizo linalotatuliwa; 3) kupata sampuli ya mafunzo kutoka kwa mwakilishi zaidi, kwa maoni ya mtaalam, vectors ya nafasi za kipengele; 4) kufundisha mtandao wa neva kwenye seti ya mafunzo.

Kumbuka kuwa majukumu madogo 1)-3) yanahitaji uzoefu wa kitaalamu kufanya kazi na mitandao ya neva, na hakuna mapendekezo rasmi ya kina hapa. Masuala haya yanajadiliwa katika kitabu chote yanapotumika kwa usanifu mbalimbali wa mtandao wa neva, na vielelezo vya vipengele vyao vya kujifunza na matumizi.

Mafunzo ya mtandao wa neural yanayosimamiwa kama tatizo la uboreshaji wa vipengele vingi.

Neuron Bandia

Mzunguko wa neuroni bandia
1. Neurons, ishara za pato ambazo hufika kwenye pembejeo ya hili
2.Ingiza kiongeza ishara
3. Calculator ya kazi ya uhamisho
4. Neurons, pembejeo ambazo hupokea ishara ya pato la kupewa
5. - uzito ishara za pembejeo

Neuroni ya Bandia (Neuroni ya hisabati McCulloch-Pitts, Neuroni rasmi) - node ya mtandao wa neural ya bandia, ambayo ni mfano rahisi wa neuron ya asili. Kihisabati, neuroni bandia huwakilishwa kama utendaji fulani usio na mstari wa hoja moja - mseto wa mstari wa mawimbi yote ya ingizo. Kazi hii kuitwa kazi ya uanzishaji au trigger kazi, kipengele cha uhamisho. Matokeo yaliyopatikana yanatumwa kwa njia pekee ya kutoka. Neuroni kama hizo za bandia zimejumuishwa katika mitandao - zinaunganisha matokeo ya baadhi ya niuroni kwa pembejeo za wengine. Neuroni bandia na mitandao ndio vitu kuu vya kompyuta bora ya neuro.

Mfano wa kibaolojia

Neuroni ya kibayolojia ina mwili wenye kipenyo cha mikroni 3 hadi 100 iliyo na kiini (na kiasi kikubwa vinyweleo vya nyuklia) na viungo vingine (pamoja na ER mbaya iliyokuzwa sana na ribosomu hai, vifaa vya Golgi), na michakato. Kuna aina mbili za michakato. Akzoni kwa kawaida ni mchakato mrefu unaorekebishwa kufanya msisimko kutoka kwa mwili wa niuroni. Dendrites ni, kama sheria, michakato fupi na yenye matawi ambayo hutumika kama tovuti kuu ya kuunda sinepsi za kusisimua na za kuzuia kuathiri neuron (nyuroni tofauti zina. uwiano tofauti urefu wa axon na dendrites). Neuron inaweza kuwa na dendrites kadhaa na kwa kawaida akzoni moja tu. Neuroni moja inaweza kuwa na miunganisho na niuroni elfu 20 nyingine. Kamba ya ubongo ya binadamu ina neurons bilioni 10-20.

Historia ya maendeleo

Katika kesi hii, inawezekana kuhamisha kazi pamoja na axes zote mbili (kama inavyoonekana kwenye takwimu).

Ubaya wa hatua na vitendaji vya uanzishaji wa semilinear kuhusiana na zile za mstari ni kwamba haziwezi kutofautishwa kwenye mhimili mzima wa nambari, na kwa hivyo haziwezi kutumika wakati wa mafunzo kwa kutumia algoriti fulani.

Kitendaji cha kuwezesha kizingiti

Kitendaji cha uhamishaji kizingiti

Tanjenti ya hyperbolic

Hapa ni umbali kati ya kituo na vector ya ishara ya pembejeo. Kigezo cha scalar huamua kiwango ambacho kitendakazi huharibika vekta inaposogea kutoka katikati na kuitwa. upana wa dirisha, parameter huamua mabadiliko ya kazi ya uanzishaji pamoja na mhimili wa abscissa. Mitandao iliyo na niuroni inayotumia vitendaji hivyo inaitwa mitandao ya RBF. Vipimo anuwai vinaweza kutumika kama umbali kati ya vekta, kawaida umbali wa Euclidean hutumiwa:

Hapa - jth sehemu vekta inayotolewa kwa ingizo la niuroni, a ni sehemu ya j-th ya vekta ambayo huamua nafasi ya kituo cha kitendakazi cha uhamishaji. Ipasavyo, mitandao iliyo na niuroni kama hizo huitwa uwezekano na urejeshaji.

Katika mitandao halisi, chaguo la kukokotoa la kuwezesha niuroni hizi linaweza kuakisi usambaaji wa uwezekano wa baadhi ya tofauti tofauti, au kuonyesha utegemezi wowote wa kiheuristic kati ya wingi.

Vipengele vingine vya uhamishaji

Vipengele vilivyoorodheshwa hapo juu ni sehemu tu ya vitendaji vingi vya uhamishaji vinavyotumika wakati huu. Vipengele vingine vya uhamishaji ni pamoja na:

Neuron ya Stochastic

Mfano wa neuroni bandia ya kuamua imeelezewa hapo juu, yaani, hali katika pato la neuroni imedhamiriwa kipekee na matokeo ya uendeshaji wa fira wa ishara ya pembejeo. Neurons za Stochastic pia huzingatiwa, ambapo ubadilishaji wa neuroni hutokea kwa uwezekano kulingana na induced uwanja wa ndani, yaani, kazi ya uhamisho inafafanuliwa kama

ambapo usambazaji wa uwezekano kawaida huwa na umbo la sigmoid

kuhalalisha mara kwa mara huletwa kwa hali ya kuhalalisha usambazaji wa uwezekano. Kwa hivyo, niuroni imeamilishwa na uwezekano wa P (u). Kigezo T ni analog ya joto (lakini sio joto la neuron!) Na huamua shida katika mtandao wa neva. Ikiwa T inaelekea 0, niuroni ya stochastiki itageuka kuwa niuroni ya kawaida yenye kitendakazi cha uhamishaji cha Heaviside (tendakazi ya kizingiti).

Kuiga kazi rasmi za kimantiki

Neuroni iliyo na kitendakazi cha uhamishaji kizingiti inaweza kuiga vitendaji mbalimbali vya kimantiki. Picha zinaonyesha jinsi, kwa kuweka uzito wa mawimbi ya ingizo na kizingiti cha unyeti, unaweza kulazimisha neuroni kutekeleza kiunganishi (mantiki "AND") na mtengano (mantiki "OR") kwenye mawimbi ya ingizo, pamoja na kukanusha kimantiki. ishara ya pembejeo. Operesheni hizi tatu zinatosha kuiga kazi yoyote ya kimantiki ya idadi yoyote ya hoja.

Vidokezo

Fasihi

• Terekhov V.A., Efimov D.V., Tyukin I.Yu. Mifumo ya udhibiti wa mtandao wa neva. - 1. - shule ya kuhitimu, 2002. - P. 184. - ISBN 5-06-004094-1
• Kruglov V.V., Borisov V.V.