అధ్యాయంలో మేము కృత్రిమ మేధస్సు, యంత్ర అభ్యాసం మరియు కృత్రిమ వంటి భావనలతో పరిచయం పొందాము నరాల నెట్వర్క్.

ఈ అధ్యాయంలో, నేను కృత్రిమ న్యూరాన్ నమూనాను వివరంగా వివరిస్తాను, నెట్‌వర్క్‌కు శిక్షణ ఇచ్చే విధానాల గురించి మాట్లాడుతాను మరియు మేము ఈ క్రింది అధ్యాయాలలో అధ్యయనం చేసే కొన్ని ప్రసిద్ధ రకాల కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లను కూడా వివరిస్తాను.

సరళీకరణ

చివరి అధ్యాయంలో, నేను కొన్ని తీవ్రమైన సరళీకరణల గురించి నిరంతరం మాట్లాడాను. సరళీకరణలకు కారణం ఏ ఆధునిక కంప్యూటర్లు చేయలేవు వేగంగామోడల్ అటువంటి సంక్లిష్ట వ్యవస్థలుమన మెదడు లాంటిది. అదనంగా, నేను ఇప్పటికే చెప్పినట్లు, మన మెదడు వివిధ రకాలతో నిండి ఉంటుంది జీవ విధానాలు, సమాచార ప్రాసెసింగ్‌కు సంబంధించినది కాదు.

ఇన్‌పుట్ సిగ్నల్‌ను మనకు అవసరమైన అవుట్‌పుట్ సిగ్నల్‌గా మార్చడానికి మనకు ఒక మోడల్ అవసరం. మిగతావన్నీ మనల్ని బాధించవు. సరళీకృతం చేయడం ప్రారంభిద్దాం.

జీవ నిర్మాణం → రేఖాచిత్రం

మునుపటి అధ్యాయంలో, బయోలాజికల్ న్యూరల్ నెట్‌వర్క్‌లు మరియు బయోలాజికల్ న్యూరాన్‌లు ఎంత సంక్లిష్టంగా ఉన్నాయో మీరు గ్రహించారు. న్యూరాన్‌లను టెన్టకిల్ మాన్స్టర్స్‌గా గీయడానికి బదులుగా, రేఖాచిత్రాలను గీయండి.

సాధారణంగా చెప్పాలంటే, అనేక మార్గాలు ఉన్నాయి గ్రాఫిక్ చిత్రంన్యూరల్ నెట్‌వర్క్‌లు మరియు న్యూరాన్లు. ఇక్కడ మనం కృత్రిమ న్యూరాన్‌లను సర్కిల్‌లుగా చిత్రీకరిస్తాము.

ఇన్‌పుట్‌లు మరియు అవుట్‌పుట్‌ల సంక్లిష్ట ఇంటర్‌వీవింగ్‌కు బదులుగా, మేము సిగ్నల్ కదలిక దిశను సూచించే బాణాలను ఉపయోగిస్తాము.

అందువలన, ఒక కృత్రిమ నాడీ నెట్వర్క్ను బాణాలతో అనుసంధానించబడిన వృత్తాల (కృత్రిమ న్యూరాన్లు) సమాహారంగా సూచించవచ్చు.

ఎలక్ట్రికల్ సిగ్నల్స్ → సంఖ్యలు

నిజమైన బయోలాజికల్ న్యూరల్ నెట్‌వర్క్‌లో, నెట్‌వర్క్ ఇన్‌పుట్‌ల నుండి అవుట్‌పుట్‌లకు ఎలక్ట్రికల్ సిగ్నల్ ప్రసారం చేయబడుతుంది. ఇది న్యూరల్ నెట్‌వర్క్ గుండా వెళుతున్నప్పుడు మారవచ్చు.

ఎలక్ట్రికల్ సిగ్నల్ ఎల్లప్పుడూ ఎలక్ట్రికల్ సిగ్నల్‌గా ఉంటుంది. సంభావితంగా, ఏమీ మారదు. కానీ అప్పుడు ఏమి మారుతుంది? ఈ ఎలక్ట్రికల్ సిగ్నల్ యొక్క పరిమాణం మారుతుంది (బలమైన/బలహీనమైనది). మరియు ఏదైనా విలువ ఎల్లప్పుడూ సంఖ్యగా వ్యక్తీకరించబడుతుంది (ఎక్కువ/తక్కువ).

మా కృత్రిమ న్యూరల్ నెట్‌వర్క్ మోడల్‌లో, ఎలక్ట్రికల్ సిగ్నల్ యొక్క ప్రవర్తనను మేము అస్సలు అమలు చేయవలసిన అవసరం లేదు, ఏమైనప్పటికీ దాని అమలుపై ఏమీ ఆధారపడి ఉండదు.

మేము నెట్‌వర్క్ ఇన్‌పుట్‌లకు కొన్ని సంఖ్యలను సరఫరా చేస్తాము, విద్యుత్ సిగ్నల్ ఉనికిలో ఉన్నట్లయితే దాని పరిమాణాన్ని సూచిస్తుంది. ఈ సంఖ్యలు నెట్‌వర్క్ ద్వారా కదులుతాయి మరియు ఏదో ఒక విధంగా మారుతాయి. నెట్వర్క్ యొక్క అవుట్పుట్ వద్ద మేము కొంత ఫలిత సంఖ్యను అందుకుంటాము, ఇది నెట్వర్క్ యొక్క ప్రతిస్పందన.

సౌలభ్యం కోసం, మేము ఇప్పటికీ నెట్‌వర్క్ సిగ్నల్‌లలో తిరుగుతున్న మా నంబర్‌లకు కాల్ చేస్తాము.

సినాప్సెస్ → కనెక్షన్ బరువులు

న్యూరాన్లు - సినాప్సెస్ - మధ్య కనెక్షన్లు రంగులో చిత్రీకరించబడిన మొదటి అధ్యాయం నుండి చిత్రాన్ని గుర్తుచేసుకుందాం. సినాప్సెస్ వాటి గుండా వెళుతున్న ఎలక్ట్రికల్ సిగ్నల్‌ను బలపరుస్తాయి లేదా బలహీనపరుస్తాయి.

అటువంటి ప్రతి కనెక్షన్‌ని వర్గీకరిద్దాం ఒక నిర్దిష్ట సంఖ్య, ఈ కనెక్షన్ యొక్క బరువు అని పిలుస్తారు. సిగ్నల్ దాటిపోయింది ఈ కనెక్షన్, సంబంధిత కనెక్షన్ యొక్క బరువుతో గుణించబడుతుంది.

ఈ కీలక క్షణంకృత్రిమ న్యూరల్ నెట్‌వర్క్‌ల భావనలో, నేను దానిని మరింత వివరంగా వివరిస్తాను. క్రింది చిత్రాన్ని చూడండి. ఇప్పుడు ఈ చిత్రంలో ప్రతి నల్ల బాణం (కనెక్షన్) ఒక నిర్దిష్ట సంఖ్య  \(w_i \)   (కనెక్షన్ యొక్క బరువు)కి అనుగుణంగా ఉంటుంది. మరియు సిగ్నల్ ఈ కనెక్షన్ గుండా వెళుతున్నప్పుడు, దాని పరిమాణం ఈ కనెక్షన్ యొక్క బరువుతో గుణించబడుతుంది.

పై చిత్రంలో, లేబుల్‌లకు స్థలం లేనందున ప్రతి కనెక్షన్‌కు బరువు ఉండదు. వాస్తవానికి, ప్రతి \(i \) వ కనెక్షన్ దాని స్వంత \(w_i \) వ బరువును కలిగి ఉంటుంది.

కృత్రిమ న్యూరాన్

మేము ఇప్పుడు కృత్రిమ న్యూరాన్ యొక్క అంతర్గత నిర్మాణాన్ని మరియు దాని ఇన్‌పుట్‌ల వద్దకు వచ్చే సిగ్నల్‌ను ఎలా మారుస్తుందో పరిగణలోకి తీసుకుంటాము.

దిగువ బొమ్మ ఒక కృత్రిమ న్యూరాన్ యొక్క పూర్తి నమూనాను చూపుతుంది.

భయపడవద్దు, ఇక్కడ సంక్లిష్టంగా ఏమీ లేదు. ఎడమ నుండి కుడికి ప్రతిదీ వివరంగా చూద్దాం.

ఇన్‌పుట్‌లు, బరువులు మరియు యాడర్

కృత్రిమమైన వాటితో సహా ప్రతి న్యూరాన్ తప్పనిసరిగా కొన్ని ఇన్‌పుట్‌లను కలిగి ఉండాలి, దీని ద్వారా సిగ్నల్ అందుకుంటుంది. మేము ఇప్పటికే బరువుల భావనను పరిచయం చేసాము, దీని ద్వారా కమ్యూనికేషన్ ద్వారా ప్రయాణిస్తున్న సంకేతాలు గుణించబడతాయి. పై చిత్రంలో, బరువులు వృత్తాలుగా చూపబడ్డాయి.

ఇన్‌పుట్‌ల వద్ద అందుకున్న సంకేతాలు వాటి బరువులతో గుణించబడతాయి. మొదటి ఇన్‌పుట్ యొక్క సంకేతం \(x_1 \)   ఈ ఇన్‌పుట్‌కు సంబంధించిన బరువు \(w_1 \)తో గుణించబడుతుంది. ఫలితంగా, మనకు \(x_1w_1 \) . అలాగే \(n\) వ ఇన్‌పుట్ వరకు. ఫలితంగా, చివరి ఇన్‌పుట్ వద్ద మనకు \(x_nw_n \) .

ఇప్పుడు అన్ని ఉత్పత్తులు యాడర్‌కు బదిలీ చేయబడ్డాయి. దాని పేరును బట్టి, అది ఏమి చేస్తుందో మీరు అర్థం చేసుకోవచ్చు. ఇది అన్ని ఇన్‌పుట్ సిగ్నల్‌లను సంబంధిత బరువులతో గుణించబడుతుంది:

\[ x_1w_1+x_2w_2+\cdots+x_nw_n = \sum\పరిమితి^n_(i=1)x_iw_i \]

గణిత సహాయం

సిగ్మా - వికీపీడియా

మీరు దానిని వ్రాయవలసి వచ్చినప్పుడు పెద్ద వ్యక్తీకరణ, పునరావృతమయ్యే/ఒకే-రకం పదాల మొత్తాన్ని కలిగి ఉంటుంది, ఆపై సిగ్మా గుర్తును ఉపయోగించండి.

పరిగణలోకి తీసుకుందాం సరళమైన ఎంపికఎంట్రీలు:

\[ \sum\పరిమితులు^5_(i=1)i=1+2+3+4+5 \]

అందువలన, సిగ్మా క్రింద నుండి మేము కౌంటర్ వేరియబుల్ \(i \) ప్రారంభ విలువను కేటాయిస్తాము, అది చేరే వరకు పెరుగుతుంది. గరిష్ట పరిమితి(పై ఉదాహరణలో ఇది 5).

ఎగువ పరిమితి కూడా వేరియబుల్ కావచ్చు. అలాంటి సందర్భానికి ఒక ఉదాహరణ ఇస్తాను.

మాకు \(n \) స్టోర్‌లు ఉండనివ్వండి. ప్రతి దుకాణానికి దాని స్వంత సంఖ్య ఉంటుంది: 1 నుండి \(n\) వరకు. ఒక్కో దుకాణం లాభిస్తుంది. కొన్ని (ఏమైనప్పటికీ) \(i \)వ స్టోర్ తీసుకుందాం. దాని నుండి వచ్చే లాభం \(p_i \) .

\[ P = p_1+p_2+\cdots+p_i+\cdots+p_n \]

మీరు చూడగలిగినట్లుగా, ఈ మొత్తం యొక్క అన్ని నిబంధనలు ఒకే రకమైనవి. అప్పుడు వాటిని క్లుప్తంగా వ్రాయవచ్చు క్రింది విధంగా:

\[ P=\sum\పరిమితులు^n_(i=1)p_i \]

మాటల్లో చెప్పాలంటే: "మొదటిదానితో ప్రారంభించి, \(n\) -thతో ముగిసే అన్ని దుకాణాల లాభాలను సంక్షిప్తం చేయండి." ఫార్ములా రూపంలో, ఇది చాలా సరళంగా, మరింత సౌకర్యవంతంగా మరియు మరింత అందంగా ఉంటుంది.

యాడర్ యొక్క ఫలితం వెయిటెడ్ సమ్ అని పిలువబడే సంఖ్య.

వెయిటెడ్ మొత్తం(వెయిటెడ్ మొత్తం) (\(నికర \) ) - ఇన్‌పుట్ సిగ్నల్‌ల మొత్తం వాటి సంబంధిత బరువులతో గుణించబడుతుంది.

\[ net=\sum\పరిమితులు^n_(i=1)x_iw_i \]

యాడర్ యొక్క పాత్ర స్పష్టంగా ఉంది - ఇది అన్ని ఇన్‌పుట్ సిగ్నల్‌లను (వీటిలో చాలా ఉండవచ్చు) ఒక సంఖ్యగా కలుపుతుంది - మొత్తంగా న్యూరాన్ అందుకున్న సిగ్నల్‌ను వర్ణించే వెయిటెడ్ మొత్తం. మరొక బరువున్న మొత్తాన్ని న్యూరాన్ యొక్క సాధారణ ఉత్తేజిత స్థాయిగా సూచించవచ్చు.

ఉదాహరణ

ఒక కృత్రిమ న్యూరాన్ యొక్క చివరి భాగం యొక్క పాత్రను అర్థం చేసుకోవడానికి - యాక్టివేషన్ ఫంక్షన్ - నేను ఒక సారూప్యతను ఇస్తాను.

ఒక కృత్రిమ న్యూరాన్‌ను చూద్దాం. సముద్రంలో విహారయాత్రకు వెళ్లాలా వద్దా అని నిర్ణయించుకోవడం అతని పని. దీన్ని చేయడానికి, మేము దాని ఇన్‌పుట్‌లకు వివిధ డేటాను సరఫరా చేస్తాము. మన న్యూరాన్ 4 ఇన్‌పుట్‌లను కలిగి ఉండనివ్వండి:

1. ప్రయాణ ఖర్చు
2. సముద్రంలో వాతావరణం ఎలా ఉంటుంది?
3. ప్రస్తుత పని పరిస్థితి
4. బీచ్‌లో స్నాక్ బార్ ఉంటుందా

మేము ఈ అన్ని పారామితులను 0 లేదా 1గా వర్గీకరిస్తాము. తదనుగుణంగా, సముద్రంలో వాతావరణం బాగుంటే, మేము ఈ ఇన్‌పుట్‌కు 1ని వర్తింపజేస్తాము మరియు అన్ని ఇతర పారామితులతో.

ఒక న్యూరాన్ నాలుగు ఇన్‌పుట్‌లను కలిగి ఉంటే, అప్పుడు తప్పనిసరిగా నాలుగు బరువులు ఉండాలి. మా ఉదాహరణలో, వెయిటింగ్ కోఎఫీషియంట్‌లను ప్రతి ఇన్‌పుట్ యొక్క ప్రాముఖ్యత యొక్క సూచికలుగా భావించవచ్చు, ఇది న్యూరాన్ యొక్క మొత్తం నిర్ణయాన్ని ప్రభావితం చేస్తుంది. మేము ఇన్పుట్ బరువులను ఈ క్రింది విధంగా పంపిణీ చేస్తాము:

ఇది గమనించడం చాలా సులభం పెద్ద పాత్రసముద్రంలో ఖర్చు మరియు వాతావరణ కారకాలు (మొదటి రెండు ఇన్‌పుట్‌లు) పాత్ర పోషిస్తాయి. వాళ్ళు కూడా ఆడతారు నిర్ణయాత్మక పాత్రఒక న్యూరాన్ నిర్ణయం తీసుకున్నప్పుడు.

మన న్యూరాన్ యొక్క ఇన్‌పుట్‌లకు క్రింది సంకేతాలను సరఫరా చేద్దాం:

మేము ఇన్‌పుట్‌ల బరువులను సంబంధిత ఇన్‌పుట్‌ల సిగ్నల్స్ ద్వారా గుణిస్తాము:

అటువంటి ఇన్‌పుట్ సిగ్నల్‌ల కోసం వెయిటెడ్ మొత్తం 6:

\[ net=\sum\పరిమితులు^4_(i=1)x_iw_i = 5 + 0 + 0 + 1 =6 \]

ఇక్కడే యాక్టివేషన్ ఫంక్షన్ అమలులోకి వస్తుంది.

యాక్టివేషన్ ఫంక్షన్

వెయిటెడ్ మొత్తాన్ని అవుట్‌పుట్‌గా సమర్పించడం చాలా అర్థరహితం. న్యూరాన్ దానిని ఎలాగైనా ప్రాసెస్ చేయాలి మరియు తగిన అవుట్‌పుట్ సిగ్నల్‌ను ఉత్పత్తి చేయాలి. ఈ ప్రయోజనాల కోసమే యాక్టివేషన్ ఫంక్షన్ ఉపయోగించబడుతుంది.

ఇది వెయిటెడ్ మొత్తాన్ని నిర్దిష్ట సంఖ్యలో మారుస్తుంది, ఇది న్యూరాన్ యొక్క అవుట్‌పుట్ (మేము న్యూరాన్ యొక్క అవుట్‌పుట్‌ను వేరియబుల్ ద్వారా సూచిస్తాము \(అవుట్ \) ).

కోసం వివిధ రకములుకృత్రిమ న్యూరాన్‌లను ఎక్కువగా ఉపయోగిస్తారు వివిధ విధులుక్రియాశీలత. సాధారణంగా, అవి \(\phi(net) \) గుర్తుతో సూచించబడతాయి. కుండలీకరణాల్లో వెయిటెడ్ సిగ్నల్‌ను పేర్కొనడం అంటే యాక్టివేషన్ ఫంక్షన్ వెయిటెడ్ మొత్తాన్ని పారామీటర్‌గా తీసుకుంటుందని అర్థం.

యాక్టివేషన్ ఫంక్షన్ (యాక్టివేషన్ ఫంక్షన్)(\(\phi(net) \) ) అనేది వెయిటెడ్ మొత్తాన్ని ఆర్గ్యుమెంట్‌గా తీసుకునే ఫంక్షన్. ఈ ఫంక్షన్ యొక్క విలువ న్యూరాన్ యొక్క అవుట్‌పుట్ (\(అవుట్ \) ).

సింగిల్ జంప్ ఫంక్షన్

యాక్టివేషన్ ఫంక్షన్ యొక్క సరళమైన రకం. న్యూరాన్ యొక్క అవుట్‌పుట్ 0 లేదా 1కి మాత్రమే సమానంగా ఉంటుంది. ఒక నిర్దిష్ట థ్రెషోల్డ్ \(b\) కంటే వెయిటెడ్ మొత్తం ఎక్కువగా ఉంటే, అప్పుడు న్యూరాన్ అవుట్‌పుట్ 1కి సమానం. తక్కువ అయితే, 0.

దీన్ని ఎలా ఉపయోగించవచ్చు? బరువున్న మొత్తం 5 కంటే ఎక్కువ లేదా సమానంగా ఉన్నప్పుడు మాత్రమే మనం సముద్రానికి వెళతామని అనుకుందాం. దీని అర్థం మన థ్రెషోల్డ్ 5:

మా ఉదాహరణలో, బరువున్న మొత్తం 6, అంటే మన న్యూరాన్ యొక్క అవుట్‌పుట్ సిగ్నల్ 1. కాబట్టి, మేము సముద్రానికి వెళ్తున్నాము.

అయితే, సముద్రంలో వాతావరణం చెడ్డది మరియు పర్యటన చాలా ఖరీదైనది, కానీ అక్కడ స్నాక్ బార్ మరియు పని వాతావరణం సాధారణంగా ఉంటే (ఇన్‌పుట్‌లు: 0011), అప్పుడు వెయిటెడ్ మొత్తం 2కి సమానం, అంటే అవుట్‌పుట్ న్యూరాన్ 0కి సమానంగా ఉంటుంది. కాబట్టి, మేము ఎక్కడికీ వెళ్లడం లేదు.

ప్రాథమికంగా, ఒక న్యూరాన్ బరువున్న మొత్తాన్ని చూస్తుంది మరియు అది దాని థ్రెషోల్డ్ కంటే ఎక్కువగా ఉంటే, అప్పుడు న్యూరాన్ 1కి సమానమైన అవుట్‌పుట్‌ను ఉత్పత్తి చేస్తుంది.

గ్రాఫికల్‌గా, ఈ యాక్టివేషన్ ఫంక్షన్‌ని ఈ క్రింది విధంగా వర్ణించవచ్చు.

క్షితిజ సమాంతర అక్షం బరువున్న మొత్తం విలువలను కలిగి ఉంటుంది. నిలువు అక్షం మీద అవుట్పుట్ సిగ్నల్ విలువలు ఉంటాయి. సులభంగా చూడగలిగే విధంగా, అవుట్‌పుట్ సిగ్నల్ యొక్క రెండు విలువలు మాత్రమే సాధ్యమవుతాయి: 0 లేదా 1. అంతేకాకుండా, 0 ఎల్లప్పుడూ మైనస్ అనంతం నుండి థ్రెషోల్డ్ అని పిలువబడే వెయిటెడ్ మొత్తం యొక్క నిర్దిష్ట విలువ వరకు అవుట్‌పుట్ అవుతుంది. వెయిటెడ్ మొత్తం థ్రెషోల్డ్‌కి సమానంగా లేదా అంతకంటే ఎక్కువ ఉంటే, అప్పుడు ఫంక్షన్ రిటర్న్స్ 1. ప్రతిదీ చాలా సులభం.

ఇప్పుడు ఈ యాక్టివేషన్ ఫంక్షన్‌ను గణితశాస్త్రంగా వ్రాద్దాం. మీరు సమ్మేళనం ఫంక్షన్ యొక్క భావనను దాదాపుగా చూడవచ్చు. మేము ఒక ఫంక్షన్ క్రింద అనేక నియమాలను మిళితం చేసినప్పుడు దాని విలువ లెక్కించబడుతుంది. మిశ్రమ ఫంక్షన్ రూపంలో, సింగిల్ జంప్ ఫంక్షన్ ఇలా కనిపిస్తుంది:

\[ out(net) = \begin(cases) 0, net< b \\ 1, net \geq b \end{cases} \]

ఈ రికార్డింగ్‌లో సంక్లిష్టంగా ఏమీ లేదు. న్యూరాన్ యొక్క అవుట్‌పుట్ (\(అవుట్ \) ) కింది విధంగా బరువున్న మొత్తం (\(నికర \) )పై ఆధారపడి ఉంటుంది: \(నికర \) (వెయిటెడ్ మొత్తం) కొంత థ్రెషోల్డ్ కంటే తక్కువగా ఉంటే ( \(b \ ) ), అప్పుడు \(అవుట్ \) (న్యూరాన్ అవుట్‌పుట్) 0కి సమానం. మరియు \(నికర \) థ్రెషోల్డ్ కంటే ఎక్కువ లేదా సమానంగా ఉంటే \(b \) , అప్పుడు \(అవుట్ \) 1కి సమానం.

సిగ్మోయిడ్ ఫంక్షన్

వాస్తవానికి, సిగ్మోయిడ్ ఫంక్షన్ల యొక్క మొత్తం కుటుంబం ఉంది, వాటిలో కొన్ని కృత్రిమ న్యూరాన్లలో యాక్టివేషన్ ఫంక్షన్లుగా ఉపయోగించబడతాయి.

ఈ ఫంక్షన్లన్నీ చాలా ఉపయోగకరమైన లక్షణాలను కలిగి ఉన్నాయి, వాటి కోసం అవి నాడీ నెట్వర్క్లలో ఉపయోగించబడతాయి. మీరు ఈ ఫంక్షన్‌ల గ్రాఫ్‌లను చూసిన తర్వాత ఈ లక్షణాలు స్పష్టంగా కనిపిస్తాయి.

కాబట్టి... న్యూరల్ నెట్‌వర్క్‌లలో సాధారణంగా ఉపయోగించే సిగ్మాయిడ్ లాజిస్టిక్ ఫంక్షన్.

ఈ ఫంక్షన్ యొక్క గ్రాఫ్ చాలా సరళంగా కనిపిస్తుంది. మీరు నిశితంగా పరిశీలిస్తే, మీరు కొంత పోలికను చూడవచ్చు ఆంగ్ల అక్షరం\(S \) , దీని నుండి ఈ ఫంక్షన్ల కుటుంబం పేరు వచ్చింది.

మరియు ఇది విశ్లేషణాత్మకంగా వ్రాయబడింది:

\[ out(net)=\frac(1)(1+\exp(-a \cdot net)) \]

\(a \) పరామితి ఏమిటి? ఇది ఫంక్షన్ యొక్క ఏటవాలు స్థాయిని వర్ణించే కొంత సంఖ్య. లాజిస్టిక్స్ ఫంక్షన్‌లు క్రింద ఉన్నాయి వివిధ పారామితులు\(a\) .

మన కృత్రిమ న్యూరాన్‌ను గుర్తుంచుకుందాం, ఇది సముద్రానికి వెళ్లడం అవసరమా అని నిర్ణయిస్తుంది. సింగిల్ జంప్ ఫంక్షన్ విషయంలో, ప్రతిదీ స్పష్టంగా ఉంది. మేము సముద్రానికి వెళ్తాము (1) లేదా కాదు (0).

ఇక్కడ కేసు వాస్తవికతకు దగ్గరగా ఉంది. మాకు పూర్తిగా తెలియదు (ముఖ్యంగా మీరు మతిస్థిమితం లేని వారైతే) - ఇది విలువైనదేనా? లాజిస్టిక్ ఫంక్షన్‌ను యాక్టివేషన్ ఫంక్షన్‌గా ఉపయోగించడం వలన మీరు 0 మరియు 1 మధ్య సంఖ్యను పొందుతారు. అంతేకాకుండా, పెద్ద మొత్తంలో వెయిటెడ్ మొత్తం, అవుట్‌పుట్ 1కి దగ్గరగా ఉంటుంది (కానీ దానికి సరిగ్గా సమానంగా ఉండదు). దీనికి విరుద్ధంగా, బరువున్న మొత్తం చిన్నది, న్యూరాన్ యొక్క అవుట్‌పుట్ 0కి దగ్గరగా ఉంటుంది.

ఉదాహరణకు, మన న్యూరాన్ యొక్క అవుట్పుట్ 0.8. అంటే సముద్రంలోకి వెళ్ళడం ఇంకా విలువైనదని అతను నమ్ముతున్నాడు. అతని అవుట్‌పుట్ 0.2కి సమానం అయితే, అతను సముద్రానికి వెళ్లడానికి దాదాపు వ్యతిరేకమని దీని అర్థం.

లాజిస్టిక్స్ ఫంక్షన్ ఏ విశేషమైన లక్షణాలను కలిగి ఉంది?

• ఇది “కంప్రెసివ్” ఫంక్షన్, అంటే ఆర్గ్యుమెంట్ (వెయిటెడ్ సమ్)తో సంబంధం లేకుండా అవుట్‌పుట్ సిగ్నల్ ఎల్లప్పుడూ 0 నుండి 1 వరకు ఉంటుంది
• ఇది సింగిల్ జంప్ ఫంక్షన్ కంటే చాలా సరళమైనది - దాని ఫలితం 0 మరియు 1 మాత్రమే కాదు, మధ్యలో ఏదైనా సంఖ్య కావచ్చు
• అన్ని పాయింట్ల వద్ద ఇది ఒక ఉత్పన్నాన్ని కలిగి ఉంటుంది మరియు ఈ ఉత్పన్నం అదే ఫంక్షన్ ద్వారా వ్యక్తీకరించబడుతుంది

ఈ లక్షణాల కారణంగా లాజిస్టిక్ ఫంక్షన్ చాలా తరచుగా కృత్రిమ న్యూరాన్లలో యాక్టివేషన్ ఫంక్షన్‌గా ఉపయోగించబడుతుంది.

హైపర్బోలిక్ టాంజెంట్

అయితే, మరొక సిగ్మోయిడ్ ఉంది - హైపర్బోలిక్ టాంజెంట్. ఇది ఒక నరాల కణం యొక్క మరింత వాస్తవిక నమూనాను రూపొందించడానికి జీవశాస్త్రవేత్తలచే యాక్టివేషన్ ఫంక్షన్‌గా ఉపయోగించబడుతుంది.

ఈ ఫంక్షన్ వివిధ సంకేతాల అవుట్‌పుట్ విలువలను పొందడానికి మిమ్మల్ని అనుమతిస్తుంది (ఉదాహరణకు, -1 నుండి 1 వరకు), ఇది అనేక నెట్‌వర్క్‌లకు ఉపయోగపడుతుంది.

ఫంక్షన్ ఈ క్రింది విధంగా వ్రాయబడింది:

\[ out(net) = \tanh\left(\frac(net)(a)\right) \]

పై సూత్రంలో, \(a \) పరామితి ఈ ఫంక్షన్ యొక్క గ్రాఫ్ యొక్క ఏటవాలు స్థాయిని కూడా నిర్ణయిస్తుంది.

మరియు ఈ ఫంక్షన్ యొక్క గ్రాఫ్ ఇలా కనిపిస్తుంది.

మీరు చూడగలిగినట్లుగా, ఇది లాజిస్టిక్ ఫంక్షన్ యొక్క గ్రాఫ్ లాగా కనిపిస్తుంది. హైపర్బోలిక్ టాంజెంట్లాజిస్టిక్స్ ఫంక్షన్ కలిగి ఉన్న అన్ని ఉపయోగకరమైన లక్షణాలను కలిగి ఉంది.

మనం ఏమి నేర్చుకున్నాము?

ఇప్పుడు మీకు కృత్రిమ న్యూరాన్ యొక్క అంతర్గత నిర్మాణం గురించి పూర్తి అవగాహన ఉంది. మళ్ళీ తెస్తాను చిన్న వివరణఅతని రచనలు.

ఒక న్యూరాన్ ఇన్‌పుట్‌లను కలిగి ఉంటుంది. అవి సంఖ్యల రూపంలో సంకేతాలను అందుకుంటాయి. ప్రతి ఇన్‌పుట్‌కు దాని స్వంత బరువు ఉంటుంది (ఒక సంఖ్య కూడా). ఇన్‌పుట్ సిగ్నల్‌లు సంబంధిత బరువులతో గుణించబడతాయి. మేము "వెయిటెడ్" ఇన్‌పుట్ సిగ్నల్‌ల సమితిని పొందుతాము.

వెయిటెడ్ మొత్తం అప్పుడు మార్చబడుతుంది యాక్టివేషన్ ఫంక్షన్మరియు మేము పొందుతాము న్యూరాన్ అవుట్పుట్.

ఇప్పుడు మనం ఎక్కువగా సూత్రీకరించుకుందాం చిన్న వివరణన్యూరాన్ యొక్క పని - దాని గణిత నమూనా:

కృత్రిమ న్యూరాన్ యొక్క గణిత నమూనా\(n \) ఇన్‌పుట్‌లతో:

ఎక్కడ
\(\phi \) — యాక్టివేషన్ ఫంక్షన్
​\(\మొత్తం\పరిమితులు^n_(i=1)x_iw_i \)- వెయిటెడ్ మొత్తం, సంబంధిత బరువుల ద్వారా ఇన్‌పుట్ సిగ్నల్స్ యొక్క \(n\) ఉత్పత్తుల మొత్తం.

ANN రకాలు

మేము ఒక కృత్రిమ న్యూరాన్ యొక్క నిర్మాణాన్ని కనుగొన్నాము. కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు కృత్రిమ న్యూరాన్‌ల సేకరణను కలిగి ఉంటాయి. ఒక తార్కిక ప్రశ్న తలెత్తుతుంది - ఇదే కృత్రిమ న్యూరాన్‌లను ఒకదానికొకటి ఎలా ఉంచాలి/కనెక్ట్ చేయాలి?

నియమం ప్రకారం, చాలా న్యూరల్ నెట్‌వర్క్‌లు పిలవబడేవి ఇన్పుట్ పొర, ఇది ఒక పనిని మాత్రమే చేస్తుంది - ఇతర న్యూరాన్‌లకు ఇన్‌పుట్ సిగ్నల్‌లను పంపిణీ చేస్తుంది. ఈ పొరలోని న్యూరాన్లు ఎలాంటి గణనలను నిర్వహించవు.

సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్‌లు

సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్‌లలో, ఇన్‌పుట్ లేయర్ నుండి సిగ్నల్స్ వెంటనే అవుట్‌పుట్ లేయర్‌కి అందించబడతాయి. ఇది అవసరమైన గణనలను నిర్వహిస్తుంది, దీని ఫలితాలు వెంటనే అవుట్‌పుట్‌లకు పంపబడతాయి.

సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్ ఇలా కనిపిస్తుంది:

ఈ చిత్రంలో, ఇన్‌పుట్ లేయర్ సర్కిల్‌ల ద్వారా సూచించబడుతుంది (ఇది న్యూరల్ నెట్‌వర్క్ లేయర్‌గా పరిగణించబడదు), మరియు కుడి వైపున సాధారణ న్యూరాన్‌ల పొర ఉంటుంది.

న్యూరాన్లు బాణాల ద్వారా ఒకదానితో ఒకటి అనుసంధానించబడి ఉంటాయి. బాణాల పైన సంబంధిత కనెక్షన్ల బరువులు (వెయిటింగ్ కోఎఫీషియంట్స్) ఉంటాయి.

సింగిల్ లేయర్ న్యూరల్ నెట్‌వర్క్ (సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్) - ఇన్‌పుట్ లేయర్ నుండి సిగ్నల్‌లు వెంటనే అవుట్‌పుట్ లేయర్‌కి అందించబడే నెట్‌వర్క్, ఇది సిగ్నల్‌ను మారుస్తుంది మరియు వెంటనే ప్రతిస్పందనను ఉత్పత్తి చేస్తుంది.

బహుళస్థాయి న్యూరల్ నెట్‌వర్క్‌లు

ఇటువంటి నెట్‌వర్క్‌లు, న్యూరాన్‌ల ఇన్‌పుట్ మరియు అవుట్‌పుట్ లేయర్‌లతో పాటు, దాచిన పొర (పొరలు) ద్వారా కూడా వర్గీకరించబడతాయి. వాటి స్థానం అర్థం చేసుకోవడం సులభం - ఈ పొరలు ఇన్‌పుట్ మరియు అవుట్‌పుట్ లేయర్‌ల మధ్య ఉన్నాయి.

న్యూరల్ నెట్‌వర్క్‌ల యొక్క ఈ నిర్మాణం మెదడులోని కొన్ని భాగాల బహుళస్థాయి నిర్మాణాన్ని కాపీ చేస్తుంది.

దాచిన పొరకు దాని పేరు రావడం యాదృచ్చికం కాదు. వాస్తవం ఏమిటంటే, దాచిన పొర న్యూరాన్‌లకు శిక్షణ ఇవ్వడానికి సాపేక్షంగా ఇటీవల పద్ధతులు అభివృద్ధి చేయబడ్డాయి. దీనికి ముందు, సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్‌లు మాత్రమే ఉపయోగించబడ్డాయి.

మల్టీలేయర్ న్యూరల్ నెట్‌వర్క్‌లు చాలా ఉన్నాయి గొప్ప అవకాశాలుసింగిల్-లేయర్ వాటి కంటే.

న్యూరాన్ల దాచిన పొరల పనిని పెద్ద ఫ్యాక్టరీ పనితో పోల్చవచ్చు. ప్లాంట్‌లోని ఉత్పత్తి (అవుట్‌పుట్ సిగ్నల్) దశలవారీగా సమావేశమవుతుంది. ప్రతి యంత్రం తర్వాత కొంత ఇంటర్మీడియట్ ఫలితం లభిస్తుంది. దాచిన లేయర్‌లు ఇన్‌పుట్ సిగ్నల్‌లను కొన్ని ఇంటర్మీడియట్ ఫలితాలుగా మారుస్తాయి.

మల్టీలేయర్ న్యూరల్ నెట్‌వర్క్ (మల్టీలేయర్ న్యూరల్ నెట్‌వర్క్) - ఒక ఇన్‌పుట్, అవుట్‌పుట్ మరియు వాటి మధ్య ఉన్న న్యూరాన్‌ల యొక్క ఒక (అనేక) దాచిన పొరలతో కూడిన న్యూరల్ నెట్‌వర్క్.

ప్రత్యక్ష పంపిణీ నెట్‌వర్క్‌లు

పై ఉదాహరణలలోని న్యూరల్ నెట్‌వర్క్‌ల చిత్రాలలో చాలా ఆసక్తికరమైన వివరాలను మీరు గమనించవచ్చు.

అన్ని ఉదాహరణలలో, బాణాలు ఖచ్చితంగా ఎడమ నుండి కుడికి వెళ్తాయి, అంటే, అటువంటి నెట్‌వర్క్‌లలోని సిగ్నల్ ఇన్‌పుట్ లేయర్ నుండి అవుట్‌పుట్ లేయర్‌కు ఖచ్చితంగా వెళుతుంది.

ప్రత్యక్ష పంపిణీ నెట్‌వర్క్‌లు (ఫీడ్‌ఫార్వర్డ్ న్యూరల్ నెట్‌వర్క్) (ఫీడ్‌ఫార్వర్డ్ నెట్‌వర్క్‌లు) - ఇన్‌పుట్ లేయర్ నుండి అవుట్‌పుట్ లేయర్‌కు సిగ్నల్ ఖచ్చితంగా వ్యాపించే కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు. IN రివర్స్ దిశసిగ్నల్ ప్రచారం చేయదు.

ఇటువంటి నెట్‌వర్క్‌లు విస్తృతంగా ఉపయోగించబడుతున్నాయి మరియు నిర్దిష్ట తరగతి సమస్యలను చాలా విజయవంతంగా పరిష్కరిస్తాయి: అంచనా, క్లస్టరింగ్ మరియు గుర్తింపు.

అయినప్పటికీ, సిగ్నల్ వెళ్ళడానికి ఎవరూ నిషేధించరు వెనుక వైపు.

అభిప్రాయ నెట్‌వర్క్‌లు

ఈ రకమైన నెట్‌వర్క్‌లలో, సిగ్నల్ వ్యతిరేక దిశలో కూడా వెళ్ళవచ్చు. ప్రయోజనం ఏమిటి?

వాస్తవం ఏమిటంటే ఫీడ్‌ఫార్వర్డ్ నెట్‌వర్క్‌లలో, నెట్‌వర్క్ యొక్క అవుట్‌పుట్ కృత్రిమ న్యూరాన్‌ల కోసం ఇన్‌పుట్ సిగ్నల్ మరియు వెయిటింగ్ కోఎఫీషియంట్స్ ద్వారా నిర్ణయించబడుతుంది.

మరియు నెట్‌వర్క్‌లలో అభిప్రాయంన్యూరాన్ల అవుట్‌పుట్‌లను ఇన్‌పుట్‌లకు తిరిగి ఇవ్వవచ్చు. దీని అర్థం న్యూరాన్ యొక్క అవుట్‌పుట్ దాని బరువులు మరియు ఇన్‌పుట్ సిగ్నల్ ద్వారా మాత్రమే కాకుండా, మునుపటి అవుట్‌పుట్‌ల ద్వారా కూడా నిర్ణయించబడుతుంది (అవి మళ్లీ ఇన్‌పుట్‌లకు తిరిగి వచ్చినందున).

నెట్‌వర్క్‌లో ప్రసరించే సిగ్నల్స్ సామర్థ్యం న్యూరల్ నెట్‌వర్క్‌లకు కొత్త, అద్భుతమైన అవకాశాలను తెరుస్తుంది. అటువంటి నెట్‌వర్క్‌లను ఉపయోగించి, మీరు సిగ్నల్‌లను పునరుద్ధరించే లేదా పూర్తి చేసే న్యూరల్ నెట్‌వర్క్‌లను సృష్టించవచ్చు. మరో మాటలో చెప్పాలంటే, అటువంటి న్యూరల్ నెట్‌వర్క్‌లు లక్షణాలను కలిగి ఉంటాయి తాత్కాలిక జ్ఞప్తి(ఒక వ్యక్తి వలె).

అభిప్రాయ నెట్‌వర్క్‌లు (పునరావృత నాడీ నెట్వర్క్) - న్యూరాన్ యొక్క అవుట్‌పుట్‌ను దాని ఇన్‌పుట్‌కు తిరిగి అందించగల కృత్రిమ నాడీ నెట్‌వర్క్‌లు. మరింత సాధారణంగా, దీని అర్థం అవుట్‌పుట్‌ల నుండి ఇన్‌పుట్‌లకు సిగ్నల్‌ను ప్రచారం చేసే సామర్థ్యం.

న్యూరల్ నెట్‌వర్క్ శిక్షణ

ఇప్పుడు కొంచెం వివరంగా న్యూరల్ నెట్‌వర్క్‌కు శిక్షణ ఇచ్చే సమస్యను చూద్దాం. అదేంటి? మరియు ఇది ఎలా జరుగుతుంది?

నెట్‌వర్క్ శిక్షణ అంటే ఏమిటి?

కృత్రిమ న్యూరల్ నెట్‌వర్క్ అనేది కృత్రిమ న్యూరాన్‌ల సమాహారం. ఇప్పుడు, ఉదాహరణకు, 100 న్యూరాన్‌లను తీసుకుందాం మరియు వాటిని ఒకదానికొకటి కనెక్ట్ చేయండి. మేము ఇన్‌పుట్‌కు సిగ్నల్‌ను వర్తింపజేసినప్పుడు, అవుట్‌పుట్ వద్ద మనకు అర్థరహితమైనదాన్ని పొందుతామని స్పష్టమవుతుంది.

దీని అర్థం ఇన్‌పుట్ సిగ్నల్ మనకు అవసరమైన అవుట్‌పుట్‌గా మార్చబడే వరకు మనం కొన్ని నెట్‌వర్క్ పారామితులను మార్చాలి.

న్యూరల్ నెట్‌వర్క్‌లో మనం ఏమి మార్చవచ్చు?

కృత్రిమ న్యూరాన్ల మొత్తం సంఖ్యను మార్చడం రెండు కారణాల వల్ల అర్ధవంతం కాదు. మొదటిగా, కంప్యూటింగ్ మూలకాల సంఖ్యను మొత్తంగా పెంచడం వలన సిస్టమ్‌ను భారీగా మరియు మరింత అనవసరంగా చేస్తుంది. రెండవది, మీరు 100 మందికి బదులుగా 1000 మంది మూర్ఖులను సేకరించినట్లయితే, వారు ఇప్పటికీ ప్రశ్నకు సరిగ్గా సమాధానం ఇవ్వలేరు.

యాడర్‌ని మార్చడం సాధ్యం కాదు, ఎందుకంటే ఇది ఒకదానిని కఠినంగా చేస్తుంది ఇచ్చిన ఫంక్షన్- రెట్లు. మనం దానిని ఏదైనా దానితో భర్తీ చేస్తే లేదా పూర్తిగా తీసివేస్తే, అది ఇకపై కృత్రిమ న్యూరాన్ కాదు.

మేము ప్రతి న్యూరాన్ యొక్క క్రియాశీలత ఫంక్షన్‌ను మార్చినట్లయితే, మేము చాలా భిన్నమైన మరియు నియంత్రించలేని న్యూరల్ నెట్‌వర్క్‌ను పొందుతాము. అదనంగా, చాలా సందర్భాలలో, న్యూరల్ నెట్‌వర్క్‌లలోని న్యూరాన్లు ఒకే రకమైనవి. అంటే, అవన్నీ ఒకే యాక్టివేషన్ ఫంక్షన్‌ను కలిగి ఉంటాయి.

ఒకే ఒక ఎంపిక మిగిలి ఉంది - కనెక్షన్ బరువులను మార్చండి.

న్యూరల్ నెట్‌వర్క్ శిక్షణ (శిక్షణ)- నెట్‌వర్క్ గుండా వెళ్ళిన తర్వాత ఇన్‌పుట్ సిగ్నల్ మనకు అవసరమైన అవుట్‌పుట్‌గా మార్చబడే అటువంటి వెయిటింగ్ కోఎఫీషియంట్స్ కోసం శోధించండి.

"న్యూరల్ నెట్‌వర్క్ శిక్షణ" అనే పదానికి ఈ విధానం జీవసంబంధమైన నాడీ నెట్‌వర్క్‌లకు కూడా అనుగుణంగా ఉంటుంది. మన మెదడు ఒకదానికొకటి అనుసంధానించబడిన భారీ సంఖ్యలో న్యూరల్ నెట్‌వర్క్‌లను కలిగి ఉంటుంది. వాటిలో ప్రతి ఒక్కటి వ్యక్తిగతంగా ఒకే రకమైన న్యూరాన్‌లను కలిగి ఉంటుంది (యాక్టివేషన్ ఫంక్షన్ ఒకేలా ఉంటుంది). ఇన్‌పుట్ సిగ్నల్‌ను బలపరిచే / బలహీనపరిచే మూలకాలు - సినాప్సెస్‌ని మార్చడం ద్వారా మేము నేర్చుకుంటాము.

అయితే ఇంకొకటి ఉంది ముఖ్యమైన పాయింట్. మీరు ఒక ఇన్‌పుట్ సిగ్నల్‌ని మాత్రమే ఉపయోగించి నెట్‌వర్క్‌కు శిక్షణ ఇస్తే, ఆ నెట్‌వర్క్ కేవలం “సరైన సమాధానాన్ని గుర్తుంచుకోవాలి.” బయటి నుండి ఆమె చాలా త్వరగా "నేర్చుకుంది" అని అనిపిస్తుంది. మరియు మీరు కొద్దిగా సవరించిన సిగ్నల్ ఇచ్చిన వెంటనే, సరైన సమాధానాన్ని చూడాలని ఆశించినప్పుడు, నెట్‌వర్క్ అర్ధంలేనిదాన్ని ఉత్పత్తి చేస్తుంది.

నిజానికి, ఒక ఫోటోలో మాత్రమే ముఖాన్ని గుర్తించే నెట్‌వర్క్ మనకు ఎందుకు అవసరం? నెట్‌వర్క్ చేయగలదని మేము ఆశిస్తున్నాము సాధారణీకరించండికొన్ని సంకేతాలు మరియు ఇతర ఛాయాచిత్రాలలో కూడా ముఖాలను గుర్తించడం.

ఈ ప్రయోజనం కోసం అవి సృష్టించబడ్డాయి శిక్షణ నమూనాలు.

శిక్షణ సెట్ (శిక్షణ సెట్) - నెట్‌వర్క్ శిక్షణ పొందిన పరిమిత ఇన్‌పుట్ సిగ్నల్స్ (కొన్నిసార్లు సరైన అవుట్‌పుట్ సిగ్నల్‌లతో కలిపి).

నెట్‌వర్క్ శిక్షణ పొందిన తర్వాత, అంటే, శిక్షణా సెట్ నుండి అన్ని ఇన్‌పుట్ సిగ్నల్‌లకు నెట్‌వర్క్ సరైన ఫలితాలను అందించినప్పుడు, దానిని ఆచరణలో ఉపయోగించవచ్చు.

అయితే, తాజాగా కాల్చిన న్యూరల్ నెట్‌వర్క్‌ను యుద్ధంలోకి ప్రారంభించడానికి ముందు, దాని పని నాణ్యత తరచుగా పిలవబడే వాటిపై అంచనా వేయబడుతుంది. పరీక్ష నమూనా.

పరీక్ష నమూనా (పరీక్ష సెట్) - నెట్‌వర్క్ నాణ్యత అంచనా వేయబడే ఇన్‌పుట్ సిగ్నల్‌ల పరిమిత సెట్ (కొన్నిసార్లు సరైన అవుట్‌పుట్ సిగ్నల్‌లతో కలిపి).

"నెట్‌వర్క్ శిక్షణ" అంటే ఏమిటో మేము అర్థం చేసుకున్నాము - సరైన బరువుల సెట్‌ను ఎంచుకోవడం. ఇప్పుడు ప్రశ్న తలెత్తుతుంది - మీరు నెట్‌వర్క్‌కు ఎలా శిక్షణ ఇవ్వగలరు? అత్యంత సాధారణ సందర్భంలో, విభిన్న ఫలితాలకు దారితీసే రెండు విధానాలు ఉన్నాయి: పర్యవేక్షించబడే అభ్యాసం మరియు పర్యవేక్షించబడని అభ్యాసం.

శిక్షణ పొందిన శిక్షణ

ఈ విధానం యొక్క సారాంశం ఏమిటంటే, మీరు ఇన్‌పుట్‌గా సిగ్నల్‌ను అందించడం, నెట్‌వర్క్ ప్రతిస్పందనను చూసి, ఆపై దాన్ని రెడీమేడ్, సరైన ప్రతిస్పందనతో పోల్చడం.

ముఖ్యమైన పాయింట్. తెలిసిన పరిష్కార అల్గారిథమ్‌తో సరైన సమాధానాలను తికమక పెట్టవద్దు! మీరు మీ వేలితో ఫోటోలోని ముఖాన్ని కనుగొనవచ్చు (సరైన సమాధానం), కానీ మీరు దీన్ని ఎలా చేశారో చెప్పలేరు (ప్రసిద్ధ అల్గోరిథం). ఇక్కడ కూడా అదే పరిస్థితి.

అప్పుడు, ప్రత్యేక అల్గోరిథంలను ఉపయోగించి, మీరు న్యూరల్ నెట్‌వర్క్ కనెక్షన్‌ల బరువులను మార్చండి మరియు మళ్లీ ఇన్‌పుట్ సిగ్నల్ ఇవ్వండి. మీరు దాని సమాధానాన్ని సరైన దానితో సరిపోల్చండి మరియు నెట్‌వర్క్ ఆమోదయోగ్యమైన ఖచ్చితత్వంతో ప్రతిస్పందించడం ప్రారంభించే వరకు ఈ విధానాన్ని పునరావృతం చేయండి (నేను అధ్యాయం 1లో చెప్పినట్లు, నెట్‌వర్క్ నిస్సందేహంగా ఖచ్చితమైన సమాధానాలను ఇవ్వదు).

శిక్షణ పొందిన శిక్షణ (అభ్యాసాన్ని పర్యవేక్షించారు) అనేది ఒక రకమైన నెట్‌వర్క్ శిక్షణ, దీనిలో దాని బరువులు మార్చబడతాయి, తద్వారా నెట్‌వర్క్ సమాధానాలు ఇప్పటికే సిద్ధం చేసిన సరైన సమాధానాల నుండి కనిష్టంగా భిన్నంగా ఉంటాయి.

నేను సరైన సమాధానాలను ఎక్కడ పొందగలను?

నెట్‌వర్క్ ముఖాలను గుర్తించాలని మేము కోరుకుంటే, మేము 1000 ఫోటోల (ఇన్‌పుట్ సిగ్నల్స్) శిక్షణా సమితిని సృష్టించవచ్చు మరియు స్వతంత్రంగా దాని నుండి ముఖాలను ఎంచుకోవచ్చు (సరైన సమాధానాలు).

మేము నెట్‌వర్క్ ధరల పెరుగుదల/తగ్గింపులను అంచనా వేయాలనుకుంటే, శిక్షణ నమూనా తప్పనిసరిగా గత డేటా ఆధారంగా తయారు చేయబడాలి. మీరు ఇన్‌పుట్ సిగ్నల్స్‌గా తీసుకోవచ్చు కొన్ని రోజులు, సాధారణ స్థితిమార్కెట్ మరియు ఇతర పారామితులు. మరియు సరైన సమాధానాలు ఆ రోజుల్లో ధరల పెరుగుదల మరియు తగ్గుదల.

ఉపాధ్యాయుడు తప్పనిసరిగా ఒక వ్యక్తి కాదని గమనించాలి. వాస్తవం ఏమిటంటే, కొన్నిసార్లు నెట్‌వర్క్‌కు గంటలు మరియు రోజుల పాటు శిక్షణ ఇవ్వవలసి ఉంటుంది, వేల మరియు పదివేల ప్రయత్నాలు చేస్తుంది. 99% కేసులలో, ఈ పాత్ర కంప్యూటర్ లేదా మరింత ఖచ్చితంగా ప్రత్యేక కంప్యూటర్ ప్రోగ్రామ్ ద్వారా నిర్వహించబడుతుంది.

పర్యవేక్షించబడని అభ్యాసం

ఇన్‌పుట్ సిగ్నల్‌లకు సరైన సమాధానాలు లేనప్పుడు పర్యవేక్షించబడని అభ్యాసం ఉపయోగించబడుతుంది. ఈ సందర్భంలో, మొత్తం శిక్షణా సెట్ ఇన్‌పుట్ సిగ్నల్‌ల సమితిని కలిగి ఉంటుంది.

ఈ విధంగా నెట్‌వర్క్ శిక్షణ పొందినప్పుడు ఏమి జరుగుతుంది? అటువంటి "శిక్షణ" తో నెట్‌వర్క్ ఇన్‌పుట్‌కు సరఫరా చేయబడిన సిగ్నల్‌ల తరగతులను వేరు చేయడం ప్రారంభిస్తుందని ఇది మారుతుంది. సంక్షిప్తంగా, నెట్వర్క్ క్లస్టరింగ్ ప్రారంభమవుతుంది.

ఉదాహరణకు, మీరు నెట్‌వర్క్‌కు మిఠాయి, పేస్ట్రీలు మరియు కేక్‌లను ప్రదర్శిస్తున్నారు. మీరు ఏ విధంగానూ నెట్‌వర్క్ యొక్క ఆపరేషన్‌ను నియంత్రించరు. మీరు ఈ వస్తువుకు సంబంధించిన డేటాను దాని ఇన్‌పుట్‌లకు అందించండి. కాలక్రమేణా, నెట్‌వర్క్ మూడు విభిన్న రకాల సంకేతాలను ఉత్పత్తి చేయడం ప్రారంభిస్తుంది, ఇవి ఇన్‌పుట్‌లోని వస్తువులకు బాధ్యత వహిస్తాయి.

పర్యవేక్షించబడని అభ్యాసం (పర్యవేక్షించబడని అభ్యాసం) అనేది ఒక రకమైన నెట్‌వర్క్ శిక్షణ, దీనిలో నెట్‌వర్క్ స్వతంత్రంగా ఇన్‌పుట్ సిగ్నల్‌లను వర్గీకరిస్తుంది. సరైన (సూచన) అవుట్‌పుట్ సంకేతాలు చూపబడవు.

ముగింపులు

ఈ అధ్యాయంలో, మీరు ఒక కృత్రిమ న్యూరాన్ యొక్క నిర్మాణం గురించి, అలాగే అది ఎలా పనిచేస్తుందనే దాని గురించి (మరియు దాని గణిత నమూనా) గురించి పూర్తిగా తెలుసుకున్నారు.

అదనంగా, మీకు ఇప్పుడు దాని గురించి తెలుసు వివిధ రకాలకృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు: సింగిల్-లేయర్, మల్టీ-లేయర్, అలాగే ఫీడ్‌ఫార్వర్డ్ నెట్‌వర్క్‌లు మరియు ఫీడ్‌బ్యాక్‌తో కూడిన నెట్‌వర్క్‌లు.

మీరు పర్యవేక్షించబడే మరియు పర్యవేక్షించబడని నెట్‌వర్క్ అభ్యాసం గురించి కూడా తెలుసుకున్నారు.

మీకు ముందే తెలుసు అవసరమైన సిద్ధాంతం. తదుపరి అధ్యాయాలలో నిర్దిష్ట రకాల న్యూరల్ నెట్‌వర్క్‌ల పరిశీలన, వాటి శిక్షణ కోసం నిర్దిష్ట అల్గారిథమ్‌లు మరియు ప్రోగ్రామింగ్ ప్రాక్టీస్ ఉన్నాయి.

ప్రశ్నలు మరియు పనులు

మీరు ఈ అధ్యాయంలోని మెటీరియల్‌ని బాగా తెలుసుకోవాలి, ఎందుకంటే ఇందులో ప్రాథమిక అంశాలు ఉన్నాయి సైద్ధాంతిక సమాచారంకృత్రిమ న్యూరల్ నెట్‌వర్క్‌లపై. దిగువన ఉన్న అన్ని ప్రశ్నలు మరియు టాస్క్‌లకు నమ్మకంగా మరియు సరైన సమాధానాలను సాధించాలని నిర్ధారించుకోండి.

బయోలాజికల్ న్యూరల్ నెట్‌వర్క్‌లతో పోలిస్తే ANNల సరళీకరణలను వివరించండి.

1. బయోలాజికల్ న్యూరల్ నెట్‌వర్క్‌ల సంక్లిష్టమైన మరియు సంక్లిష్టమైన నిర్మాణం సరళీకృతం చేయబడింది మరియు రేఖాచిత్రాల రూపంలో సూచించబడుతుంది. సిగ్నల్ ప్రాసెసింగ్ మోడల్ మాత్రమే మిగిలి ఉంది.

2. న్యూరల్ నెట్‌వర్క్‌లలో ఎలక్ట్రికల్ సిగ్నల్స్ స్వభావం ఒకే విధంగా ఉంటుంది. వాటి పరిమాణం మాత్రమే తేడా. మేము విద్యుత్ సంకేతాలను తీసివేస్తాము మరియు బదులుగా ప్రసారం చేయబడిన సిగ్నల్ యొక్క పరిమాణాన్ని సూచించే సంఖ్యలను ఉపయోగిస్తాము.

యాక్టివేషన్ ఫంక్షన్ తరచుగా \(\phi(net) \) ద్వారా సూచించబడుతుంది.

ఒక కృత్రిమ న్యూరాన్ యొక్క గణిత నమూనాను వ్రాయండి.

\(n \) ఇన్‌పుట్‌లతో కూడిన ఒక కృత్రిమ న్యూరాన్ ఇన్‌పుట్ సిగ్నల్ (సంఖ్య)ని అవుట్‌పుట్ సిగ్నల్ (సంఖ్య)గా ఈ క్రింది విధంగా మారుస్తుంది:

\[ out=\phi\left(\sum\పరిమితులు^n_(i=1)x_iw_i\right) \]

సింగిల్-లేయర్ మరియు మల్టీ-లేయర్ న్యూరల్ నెట్‌వర్క్‌ల మధ్య తేడా ఏమిటి?

సింగిల్-లేయర్ న్యూరల్ నెట్‌వర్క్‌లు న్యూరాన్‌ల యొక్క ఒకే గణన పొరను కలిగి ఉంటాయి. ఇన్‌పుట్ లేయర్ నేరుగా అవుట్‌పుట్ లేయర్‌కు సిగ్నల్‌లను పంపుతుంది, ఇది సిగ్నల్‌ను మారుస్తుంది మరియు వెంటనే ఫలితాన్ని ఉత్పత్తి చేస్తుంది.

ఇన్‌పుట్ మరియు అవుట్‌పుట్ లేయర్‌లతో పాటు మల్టీలేయర్ న్యూరల్ నెట్‌వర్క్‌లు కూడా దాచిన లేయర్‌లను కలిగి ఉంటాయి. ఈ దాచిన పొరలు ఫ్యాక్టరీలో ఉత్పత్తుల ఉత్పత్తి దశల మాదిరిగానే కొన్ని అంతర్గత ఇంటర్మీడియట్ పరివర్తనలను నిర్వహిస్తాయి.

ఫీడ్‌ఫార్వర్డ్ నెట్‌వర్క్‌లు మరియు ఫీడ్‌బ్యాక్ నెట్‌వర్క్‌ల మధ్య తేడా ఏమిటి?

ఫీడ్‌ఫార్వర్డ్ నెట్‌వర్క్‌లు సిగ్నల్‌ను ఒకే దిశలో పాస్ చేయడానికి అనుమతిస్తాయి - ఇన్‌పుట్‌ల నుండి అవుట్‌పుట్‌ల వరకు. ఫీడ్‌బ్యాక్ ఉన్న నెట్‌వర్క్‌లకు ఈ పరిమితులు లేవు మరియు న్యూరాన్‌ల అవుట్‌పుట్‌లను ఇన్‌పుట్‌లలోకి తిరిగి అందించవచ్చు.

శిక్షణా సమితి అంటే ఏమిటి? దాని అర్థం ఏమిటి?

ఆచరణలో నెట్వర్క్ను ఉపయోగించే ముందు (ఉదాహరణకు, పరిష్కరించడానికి ప్రస్తుత పనులు, దీనికి మీకు సమాధానాలు లేవు), మీరు నెట్‌వర్క్‌కు శిక్షణ ఇవ్వడానికి సిద్ధంగా ఉన్న సమాధానాలతో సమస్యల సేకరణను సేకరించాలి. ఈ సేకరణను శిక్షణా సమితి అంటారు.

మీరు చాలా చిన్న ఇన్‌పుట్ మరియు అవుట్‌పుట్ సిగ్నల్‌లను సేకరిస్తే, నెట్‌వర్క్ సమాధానాలను గుర్తుంచుకుంటుంది మరియు అభ్యాస లక్ష్యం సాధించబడదు.

నెట్‌వర్క్ శిక్షణ అంటే ఏమిటి?

నెట్‌వర్క్ శిక్షణ అనేది ఇన్‌పుట్ సిగ్నల్‌ను సరైన అవుట్‌పుట్‌గా మార్చే వాటి కలయికను ఎంచుకోవడానికి నెట్‌వర్క్ యొక్క కృత్రిమ న్యూరాన్‌ల యొక్క వెయిటింగ్ కోఎఫీషియంట్‌లను మార్చే ప్రక్రియ.

పర్యవేక్షించబడే మరియు పర్యవేక్షించబడని అభ్యాసం అంటే ఏమిటి?

ఉపాధ్యాయుడితో నెట్‌వర్క్‌కు శిక్షణ ఇస్తున్నప్పుడు, దాని ఇన్‌పుట్‌లకు సంకేతాలు ఇవ్వబడతాయి, ఆపై దాని అవుట్‌పుట్ గతంలో తెలిసిన సరైన అవుట్‌పుట్‌తో పోల్చబడుతుంది. సమాధానాల యొక్క అవసరమైన ఖచ్చితత్వం సాధించబడే వరకు ఈ ప్రక్రియ పునరావృతమవుతుంది.

నెట్‌వర్క్‌లు సిద్ధంగా ఉన్న అవుట్‌పుట్‌లతో పోల్చకుండా ఇన్‌పుట్ సిగ్నల్‌లను మాత్రమే సరఫరా చేస్తే, నెట్‌వర్క్ ఈ ఇన్‌పుట్ సిగ్నల్‌లను స్వతంత్రంగా వర్గీకరించడం ప్రారంభిస్తుంది. మరో మాటలో చెప్పాలంటే, ఇది ఇన్‌పుట్ సిగ్నల్‌ల క్లస్టరింగ్‌ను నిర్వహిస్తుంది. ఈ రకమైన అభ్యాసాన్ని అన్‌పర్వైజ్డ్ లెర్నింగ్ అంటారు.

న్యూరాన్ అనేది న్యూరల్ నెట్‌వర్క్‌లో అంతర్భాగం. అంజీర్లో. 1 2 దాని నిర్మాణాన్ని చూపుతుంది.ఇది మూడు రకాల మూలకాలను కలిగి ఉంటుంది: మల్టిప్లైయర్స్ (సినాప్సెస్), యాడర్ మరియు నాన్ లీనియర్ కన్వర్టర్. సినాప్సెస్ న్యూరాన్ల మధ్య కమ్యూనికేట్ చేస్తాయి మరియు కనెక్షన్ యొక్క బలాన్ని (సినాప్స్ యొక్క బరువు) వర్ణించే సంఖ్య ద్వారా ఇన్‌పుట్ సిగ్నల్‌ను గుణిస్తారు. ఇతర న్యూరాన్లు మరియు బాహ్య ఇన్‌పుట్ సిగ్నల్‌ల నుండి సినాప్టిక్ కనెక్షన్‌ల ద్వారా వచ్చే సిగ్నల్‌ల జోడింపును యాడర్ నిర్వహిస్తుంది. నాన్ లీనియర్ కన్వర్టర్ ఒక ఆర్గ్యుమెంట్ యొక్క నాన్ లీనియర్ ఫంక్షన్‌ను అమలు చేస్తుంది - యాడర్ యొక్క అవుట్‌పుట్. ఈ ఫంక్షన్ అంటారు యాక్టివేషన్ ఫంక్షన్ లేదా బదిలీ ఫంక్షన్

అన్నం. 1.2 ఒక కృత్రిమ న్యూరాన్ యొక్క నిర్మాణం

న్యూరాన్. న్యూరాన్ మొత్తం వెక్టర్ ఆర్గ్యుమెంట్ యొక్క స్కేలార్ ఫంక్షన్‌ను అమలు చేస్తుంది. న్యూరాన్ యొక్క గణిత నమూనా:

సినాప్స్ యొక్క బరువు ఎక్కడ ఉంది, ఇది బయాస్ విలువ, s అనేది సమ్మషన్ యొక్క ఫలితం (మొత్తం); x అనేది ఇన్‌పుట్ వెక్టర్ (ఇన్‌పుట్ సిగ్నల్), న్యూరాన్ యొక్క అవుట్‌పుట్ సిగ్నల్ యొక్క భాగం; - న్యూరాన్ ఇన్‌పుట్‌ల సంఖ్య; - నాన్ లీనియర్ ట్రాన్స్‌ఫర్మేషన్ (యాక్టివేషన్ ఫంక్షన్).

సాధారణంగా, ఇన్‌పుట్ సిగ్నల్, బరువులు మరియు ఆఫ్‌సెట్ తీసుకోవచ్చు నిజమైన విలువలు, మరియు చాలా మందిలో ఆచరణాత్మక సమస్యలు- కొన్ని స్థిర విలువలు మాత్రమే. అవుట్‌పుట్ యాక్టివేషన్ ఫంక్షన్ రకం ద్వారా నిర్ణయించబడుతుంది మరియు వాస్తవమైనది లేదా పూర్ణాంకం కావచ్చు.

సానుకూల బరువులతో కూడిన సినాప్టిక్ కనెక్షన్‌లను ఎక్సైటేటరీ అని పిలుస్తారు మరియు ప్రతికూల బరువులు ఉన్న వాటిని ఇన్హిబిటరీ అంటారు.

వివరించిన గణన మూలకాన్ని సరళీకృతంగా పరిగణించవచ్చు గణిత నమూనాజీవ న్యూరాన్లు. జీవసంబంధమైన మరియు కృత్రిమ న్యూరాన్ల మధ్య వ్యత్యాసాన్ని నొక్కి చెప్పడానికి, తరువాతి కొన్నిసార్లు న్యూరాన్-వంటి మూలకాలు లేదా అధికారిక న్యూరాన్లు అని పిలుస్తారు.

నాన్ లీనియర్ కన్వర్టర్ అవుట్‌పుట్ సిగ్నల్‌తో ఇన్‌పుట్ సిగ్నల్‌కు ప్రతిస్పందిస్తుంది, ఇది అవుట్‌పుట్

న్యూరాన్ యాక్టివేషన్ ఫంక్షన్ల ఉదాహరణలు టేబుల్‌లో అందించబడ్డాయి. 1.1 మరియు అంజీర్‌లో. 1.3

టేబుల్ 1.1 (స్కాన్ చూడండి) న్యూరాన్ యాక్టివేషన్ ఫంక్షన్‌లు

లాజిస్టిక్ ఫంక్షన్ లేదా సిగ్మోయిడ్ (S-ఆకారపు ఫంక్షన్) అని పిలవబడే సంతృప్తతతో నాన్ లీనియర్ యాక్టివేషన్ ఫంక్షన్ అత్యంత సాధారణమైనది.

తగ్గినప్పుడు, సిగ్మోయిడ్ చదునుగా మారుతుంది మరియు పరిమితిలో, క్షీణిస్తుంది క్షితిజ సమాంతర రేఖ 0.5 స్థాయిలో, ఒక పెరుగుదలతో సిగ్మోయిడ్ ఫంక్షన్ యొక్క రూపాన్ని చేరుకుంటుంది

అన్నం. 1.3 యాక్టివేషన్ ఫంక్షన్లకు ఉదాహరణలు a - సింగిల్ జంప్ ఫంక్షన్, b - లీనియర్ థ్రెషోల్డ్ (హిస్టెరిసిస్), c - సిగ్మోయిడ్ (లాజిస్టిక్ ఫంక్షన్), d - సిగ్మోయిడ్ (హైపర్బోలిక్ టాంజెంట్)

థ్రెషోల్డ్‌తో సింగిల్ జంప్ సిగ్మోయిడ్ యొక్క వ్యక్తీకరణ నుండి, న్యూరాన్ యొక్క అవుట్‌పుట్ విలువ ఒక పరిధిలో ఉంటుందని స్పష్టంగా తెలుస్తుంది విలువైన ఆస్తులుసిగ్మోయిడల్ ఫంక్షన్ - దాని ఉత్పన్నం కోసం ఒక సాధారణ వ్యక్తీకరణ, దీని అప్లికేషన్ తరువాత చర్చించబడుతుంది

సిగ్మోయిడ్ ఫంక్షన్ మొత్తం x-యాక్సిస్‌లో విభిన్నంగా ఉంటుందని గమనించాలి, ఇది కొన్ని లెర్నింగ్ అల్గారిథమ్‌లలో ఉపయోగించబడుతుంది.అంతేకాకుండా, ఇది బలహీనమైన సిగ్నల్‌లను పెద్ద వాటి కంటే మెరుగ్గా విస్తరించే లక్షణాన్ని కలిగి ఉంది మరియు పెద్ద సిగ్నల్‌ల నుండి సంతృప్తతను నిరోధిస్తుంది. సిగ్మోయిడ్ నిస్సారమైన వంపు ఉన్న ఆర్గ్యుమెంట్‌ల ప్రాంతాలకు అనుగుణంగా ఉంటుంది

నరాల నెట్వర్క్

తిరిగి 1980ల మధ్యలో. చాలా మంది పరిశోధకులు కృత్రిమ మేధస్సు వ్యవస్థలు, స్వీయ-నేర్చుకునే బలహీనమైన సామర్థ్యం కారణంగా, డెవలపర్ ఊహించని పరిస్థితిని ఎదుర్కొన్నప్పుడు, దోష సందేశాన్ని సృష్టించడం లేదా పూర్తిగా తప్పు ఫలితాలను ఇవ్వడం గమనించారు. అటువంటి సమస్యలను అధిగమించడానికి, కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లను ఉపయోగించాలని ప్రతిపాదించబడింది.

ఆర్టిఫిషియల్ న్యూరల్ నెట్‌వర్క్‌లు అంటే జీవ ప్రక్రియలను మోడల్ చేసే గణన నిర్మాణాలు, సాధారణంగా జరిగే ప్రక్రియలతో సంబంధం కలిగి ఉంటాయి. మానవ మెదడు. NNలు సానుకూల మరియు ప్రతికూల ప్రభావాలను విశ్లేషించడం ద్వారా అనుకూల అభ్యాసం చేయగల సమాంతర వ్యవస్థలను పంపిణీ చేస్తాయి. ఈ నెట్‌వర్క్‌లలోని ఎలిమెంటరీ కన్వర్టర్ ఒక కృత్రిమ న్యూరాన్, కాబట్టి దాని బయోలాజికల్ ప్రోటోటైప్‌తో సారూప్యతతో పేరు పెట్టారు.

నాడీ వ్యవస్థమరియు మానవ మెదడు విద్యుత్ ప్రేరణలను ప్రసారం చేయగల నరాల ఫైబర్స్ ద్వారా ఒకదానికొకటి అనుసంధానించబడిన న్యూరాన్‌లను కలిగి ఉంటుంది. ఇంద్రియ అవయవాలు (చర్మం, చెవులు, కళ్ళు) నుండి మెదడుకు సంకేతాలను గ్రహించడం మరియు ప్రసారం చేయడం, ఆలోచనలు మరియు చర్యల నియంత్రణ - ఇవన్నీ న్యూరాన్ల మధ్య విద్యుత్ ప్రేరణల మార్పిడి రూపంలో ఒక జీవిలో అమలు చేయబడతాయి. నాడీ కణం లేదా న్యూరాన్ ప్రత్యేకమైనది జీవ కణం(Fig. 5.7).

అన్నం. 5.7 బయోలాజికల్ న్యూరాన్ యొక్క సరళీకృత నిర్మాణం

ఇది శరీరం లేదా సోమ, అలాగే ప్రక్రియలను కలిగి ఉంటుంది నరాల ఫైబర్స్రెండు రకాలు: ప్రేరణలను స్వీకరించే డెండ్రైట్‌లు మరియు న్యూరాన్ ప్రేరణను ప్రసారం చేయగల ఒకే ఆక్సాన్. న్యూరాన్ శరీరంలో న్యూక్లియస్ మరియు ప్లాస్మా ఉంటాయి. ఒక న్యూరాన్ ఇతర న్యూరాన్‌ల ఆక్సాన్‌ల నుండి డెండ్రైట్‌ల (రిసీవర్‌లు) ద్వారా సంకేతాలను (ప్రేరణలు) అందుకుంటుంది మరియు సెల్ బాడీ ద్వారా ఉత్పత్తి చేయబడిన సంకేతాలను దాని ఆక్సాన్ (ట్రాన్స్‌మిటర్) వెంట ప్రసారం చేస్తుంది, ఇది చివరిలో ఫైబర్‌లుగా మారుతుంది. ఈ ఫైబర్స్ చివర్లలో ఉన్నాయి ప్రత్యెక విద్య- ప్రేరణల వ్యాప్తిని ప్రభావితం చేసే సినాప్సెస్.

సినాప్స్ అనేది రెండు న్యూరాన్‌ల మధ్య ఉండే ప్రాథమిక నిర్మాణం మరియు క్రియాత్మక యూనిట్ (ఒక న్యూరాన్ యొక్క ఆక్సాన్ ఫైబర్ మరియు మరొకటి డెండ్రైట్). ఇన్‌కమింగ్ ఇంపల్స్ ప్రభావంతో, సినాప్స్ విడుదల అవుతుంది రసాయన పదార్థాలు, న్యూరోట్రాన్స్మిటర్లు అని పిలుస్తారు. న్యూరోట్రాన్స్మిటర్లు సినాప్టిక్ చీలిక అంతటా వ్యాపించి, ఉత్తేజపరిచే లేదా నిరోధిస్తాయి, సినాప్స్ రకాన్ని బట్టి, రిసీవర్ న్యూరాన్ విద్యుత్ ప్రేరణలను ఉత్పత్తి చేసే సామర్థ్యాన్ని బట్టి ఉంటుంది. సినాప్స్ ద్వారా ఇంపల్స్ ట్రాన్స్‌మిషన్ యొక్క సామర్థ్యాన్ని దాని గుండా వెళ్ళే సంకేతాల ద్వారా ట్యూన్ చేయవచ్చు, తద్వారా సినాప్సెస్ వారు పాల్గొనే ప్రక్రియల కార్యాచరణపై ఆధారపడి నేర్చుకోగలుగుతారు. బ్యాక్‌స్టోరీపై ఈ ఆధారపడటం జ్ఞాపకశక్తిగా పనిచేస్తుంది. సినాప్సెస్ యొక్క బరువులు కాలక్రమేణా మారవచ్చని గమనించడం ముఖ్యం, అంటే సంబంధిత న్యూరాన్ల ప్రవర్తన కూడా మారుతుంది.

మరో మాటలో చెప్పాలంటే, ప్రతి న్యూరాన్ వర్గీకరించబడుతుంది అంతర్గత స్థితిమరియు ఉత్తేజితత యొక్క థ్రెషోల్డ్, మరియు దాని ఇన్‌పుట్‌లు ఉత్తేజకరమైన మరియు నిరోధకంగా విభజించబడ్డాయి. ఉత్తేజిత ఇన్‌పుట్ వద్ద అందుకున్న సిగ్నల్ న్యూరాన్ కార్యకలాపాల స్థాయిని పెంచుతుంది మరియు నిరోధక ఇన్‌పుట్ వద్ద, దీనికి విరుద్ధంగా, దానిని తగ్గిస్తుంది. ప్రేరేపిత మరియు నిరోధక ఇన్‌పుట్‌ల వద్ద ఉన్న సిగ్నల్‌ల మొత్తం ఉత్తేజితత థ్రెషోల్డ్‌ను మించి ఉంటే, అప్పుడు న్యూరాన్ దానితో అనుసంధానించబడిన ఇతర న్యూరాన్‌ల ఇన్‌పుట్‌ల వద్దకు వచ్చే అవుట్‌పుట్ సిగ్నల్‌ను ఉత్పత్తి చేస్తుంది, అనగా. ఉత్తేజితం (సిగ్నల్) న్యూరల్ నెట్‌వర్క్ ద్వారా వ్యాపిస్తుంది.

మానవ మస్తిష్క వల్కలం దాదాపు 10 11 న్యూరాన్‌లను కలిగి ఉంటుంది మరియు ఇది 2-3 mm మందం మరియు 2200 cm 2 వైశాల్యంతో విస్తరించిన ఉపరితలం. ప్రతి న్యూరాన్ 10 3 −10 4 ఇతర న్యూరాన్‌లకు అనుసంధానించబడి ఉంటుంది. ఈ విధంగా, మానవ మెదడు మొత్తం దాదాపు 10 14 నుండి 10 15 కనెక్షన్‌లను కలిగి ఉంటుంది.

న్యూరాన్లు సాధారణంగా కొన్ని మిల్లీసెకన్ల వరకు ఉండే ప్రేరణల యొక్క చిన్న పేలుళ్లలో కమ్యూనికేట్ చేస్తాయి. పల్స్ ఫ్రీక్వెన్సీ మాడ్యులేషన్ ఉపయోగించి సందేశం ప్రసారం చేయబడుతుంది. ఫ్రీక్వెన్సీ కొన్ని యూనిట్ల నుండి వందల హెర్ట్జ్ వరకు మారవచ్చు, ఇది హై-స్పీడ్ కంటే మిలియన్ రెట్లు నెమ్మదిగా ఉంటుంది ఎలక్ట్రానిక్ సర్క్యూట్లు. అయినప్పటికీ, ఒక వ్యక్తి సంక్లిష్ట గుర్తింపు సమస్యలను కేవలం కొన్ని వందల మిల్లీసెకన్లలో పరిష్కరిస్తాడు, ఇది చాలా ఆధునిక కంప్యూటర్లకు సాధ్యం కాదు. నిర్ణయం తీసుకునే ప్రక్రియ న్యూరాన్ల నెట్‌వర్క్ ద్వారా నియంత్రించబడుతుంది, ఇది ఒక ఆపరేషన్‌ను పూర్తి చేయడానికి కొన్ని మిల్లీసెకన్లు మాత్రమే పడుతుంది. ఒక్కటే వివరణఅటువంటి దృగ్విషయం అటువంటి పరిష్కరించడానికి ఊహగా మారింది క్లిష్టమైన పనులుమెదడు సమాంతర ప్రోగ్రామ్‌లను "రన్ చేస్తుంది", వీటిలో ప్రతి ఒక్కటి 100 దశలను కలిగి ఉంటుంది. దృగ్విషయాన్ని "భారీ సమాంతరత" అని పిలుస్తారు. ఈ విధానం ఆధారంగా, ఒక న్యూరాన్ నుండి మరొక న్యూరాన్‌కు పంపబడిన సమాచారం చాలా తక్కువగా ఉండాలి (కొన్ని బిట్స్) అని కనుగొనవచ్చు. దీని నుండి సమాచారం యొక్క ప్రధాన భాగం నేరుగా ప్రసారం చేయబడదు, కానీ న్యూరాన్ల మధ్య కనెక్షన్లలో సంగ్రహించబడి పంపిణీ చేయబడుతుంది.

ఒక కృత్రిమ న్యూరాన్ (ఇకపై కేవలం న్యూరాన్ అని పిలుస్తారు) a కృత్రిమ నిర్మాణం, ఇది బయోలాజికల్ న్యూరాన్ యొక్క లక్షణాలను మోడల్ చేస్తుంది. నరాల కణం యొక్క సరళమైన మరియు అత్యంత సాధారణ నమూనాలలో ఒకటి మెక్‌కల్లోచ్-పిట్స్ మోడల్ అని పిలవబడేది, ఇది అంజీర్‌లో ప్రదర్శించబడింది. 5.8

అన్నం. 5.8 మెక్‌కల్లోచ్-పిట్స్ న్యూరాన్ మోడల్

గణితశాస్త్రపరంగా, న్యూరాన్ నమూనాను ఈ క్రింది విధంగా వ్రాయవచ్చు:

, (5.8)

ఎక్కడ x జీ- న్యూరాన్ ఇన్‌పుట్ వద్ద సంకేతాల సమితి,

w i j- ఇన్‌పుట్ సిగ్నల్స్ బరువుల సమితి,

s i- న్యూరాన్ స్థితి యొక్క మొత్తం సిగ్నల్ లేదా ఫంక్షన్,

f i- ఫంక్షన్ న్యూరాన్ యాక్టివేషన్,

y i- న్యూరాన్ అవుట్‌పుట్ సిగ్నల్,

ఎన్- న్యూరాన్ ఇన్‌పుట్‌ల సంఖ్య.

మొదటి కృత్రిమ నాడీ నెట్‌వర్క్‌లలో ఒకటి రోసెన్‌బ్లాట్ పెర్సెప్ట్రాన్ [< лат. perceptio получение, собирание]. Персептроном называют однослойную нейронную сеть, состоящую из нейронов с пороговой функцией активации .

న్యూరల్ నెట్‌వర్క్ సిద్ధాంతంలో యాక్టివేషన్ ఫంక్షన్ యొక్క భావన ప్రాథమికమైనది. యాక్టివేషన్ ఫంక్షన్ f jసమితికి న్యూరాన్ యొక్క ప్రతిస్పందనను నిర్ణయిస్తుంది బాహ్య ప్రభావాలు, అవుట్‌పుట్ సిగ్నల్ పరిమాణం దాని ప్రస్తుత స్థితి యొక్క విధిగా వ్యక్తీకరించబడింది.

ప్రస్తుతం, న్యూరల్ నెట్‌వర్క్ ప్రాతిపదికన మోడలింగ్ చేస్తున్నప్పుడు, అనేక రకాల యాక్టివేషన్ ఫంక్షన్‌లు ఉపయోగించబడతాయి, ఇవి ప్రధానంగా రకంలో విభిన్నంగా ఉంటాయి. తాత్కాలిక ప్రతిస్పందన. అత్యంత సాధారణ క్రియాశీలత విధులు పట్టికలో ఇవ్వబడ్డాయి. 5.1

న్యూరో కంప్యూటర్లు-కంప్యూట్. 6వ తరం వ్యవస్థలు, పిల్లి. పెద్ద సంఖ్యలో సమాంతర పని చేసే సాధారణ గణన మూలకాలు (న్యూరాన్లు) ఉంటాయి. మూలకాలు ఒకదానితో ఒకటి అనుసంధానించబడి, నాడీ నెట్వర్క్ను ఏర్పరుస్తాయి. వారు ఏకరీతి గణనలను నిర్వహిస్తారు. చర్యలు మరియు బాహ్య నియంత్రణ అవసరం లేదు. పెద్ద సంఖ్యసమాంతర కంప్యూటింగ్ శక్తి అధిక పనితీరును అందిస్తుంది.

ప్రస్తుతం ప్రస్తుతం, చాలా పారిశ్రామిక దేశాలలో న్యూరోకంప్యూటర్ల అభివృద్ధి జరుగుతోంది.

న్యూరోకంప్యూటర్లు అధిక సామర్థ్యంతో సమస్యలను పరిష్కరించడానికి సాధ్యపడతాయి మొత్తం లైన్మేధోపరమైన పనులు. ఇవి పనులు:

నమూనా గుర్తింపు

అనుకూల నియంత్రణ

అంచనా వేయడం

రోగనిర్ధారణ, మొదలైనవి.

న్యూరోకంప్యూటర్‌లు మునుపటి తరాలకు చెందిన కంప్యూటర్‌ల కంటే వాటి గొప్ప సామర్థ్యాల్లోనే కాకుండా విభిన్నంగా ఉంటాయి. మేము యంత్రాన్ని ఉపయోగించే విధానం ప్రాథమికంగా మారుతోంది. ప్రోగ్రామింగ్ అనేది నేర్చుకోవడం ద్వారా భర్తీ చేయబడుతుంది; న్యూరోకంప్యూటర్ సమస్యలను పరిష్కరించడానికి నేర్చుకుంటుంది.

చదువు- కనెక్షన్ బరువుల సర్దుబాటు, దీని ఫలితంగా ప్రతి ఇన్‌పుట్ చర్య సంబంధిత అవుట్‌పుట్ సిగ్నల్ ఏర్పడటానికి దారితీస్తుంది. శిక్షణ పొందిన తర్వాత, నెట్‌వర్క్ నేర్చుకున్న నైపుణ్యాలను కొత్త ఇన్‌పుట్ సిగ్నల్‌లకు వర్తింపజేయవచ్చు. ప్రోగ్రామింగ్ నుండి అభ్యాసానికి మారినప్పుడు, మేధో సమస్యలను పరిష్కరించే సామర్థ్యం పెరుగుతుంది.

న్యూరోకంప్యూటర్ సినాప్స్ (సిమెన్స్);

న్యూరో-ఆర్ “సిలికాన్ బ్రెయిన్” (USA, ఏరోస్పేస్ ఇమేజ్ ప్రాసెసింగ్ కోసం “ఎలక్ట్రానిక్ బ్రెయిన్”).

కళ యొక్క భావన. న్యూరాన్. అధికారిక న్యూరాన్. నిర్మాణం. న్యూరాన్ యొక్క గణిత నమూనా. ఆపరేషన్ సూత్రం.

కృత్రిమమైనది న్యూరాన్ (గణితశాస్త్రం న్యూరాన్మెక్‌కల్లోచ్ - పిట్స్, అధికారిక న్యూరాన్) - ఒక కృత్రిమ న్యూరల్ నెట్‌వర్క్ యొక్క నోడ్, ఇది సహజ న్యూరాన్ యొక్క సరళీకృత నమూనా. గణితశాస్త్రపరంగా, ఒక కృత్రిమ న్యూరాన్ సాధారణంగా ఒకే ఆర్గ్యుమెంట్ యొక్క కొన్ని నాన్ లీనియర్ ఫంక్షన్‌గా సూచించబడుతుంది - అన్ని ఇన్‌పుట్ సిగ్నల్స్ యొక్క లీనియర్ కలయిక. ఈ ఫంక్షన్ అంటారు ఫంక్షన్ క్రియాశీలతలేదా ఫంక్షన్ ప్రేరేపణ, ఒకరి నుండి ఒకరికి వ్యాధి ప్రబలడం ఫంక్షన్. ఫలిత ఫలితం ఒకే అవుట్‌పుట్‌కు పంపబడుతుంది. ఇటువంటి కృత్రిమ న్యూరాన్లు నెట్‌వర్క్‌లుగా మిళితం చేయబడతాయి - అవి కొన్ని న్యూరాన్‌ల అవుట్‌పుట్‌లను ఇతరుల ఇన్‌పుట్‌లకు కనెక్ట్ చేస్తాయి. కృత్రిమ న్యూరాన్లు మరియు నెట్‌వర్క్‌లు ఆదర్శవంతమైన న్యూరోకంప్యూటర్ యొక్క ప్రధాన అంశాలు.

అధికారిక న్యూరాన్ - న్యూరల్ నెట్‌వర్క్‌లలో - ప్రాసెసింగ్ ఎలిమెంట్, ఇన్‌పుట్ డేటాను స్వీకరించి తదనుగుణంగా మార్చే డేటా కన్వర్టర్. ఇచ్చిన ఫంక్షన్ మరియు పారామితులతో. రూపం. న్యూరాన్ వివిక్త సమయంలో పనిచేస్తుంది .

కృత్రిమ న్యూరాన్ సర్క్యూట్

1. న్యూరాన్లు, వాటి యొక్క అవుట్‌పుట్ సిగ్నల్‌లు ఇచ్చిన దాని యొక్క ఇన్‌పుట్‌కు సరఫరా చేయబడతాయి 2. ఇన్‌పుట్ సిగ్నల్‌ల యాడర్ 3. ట్రాన్స్‌ఫర్ ఫంక్షన్ కాలిక్యులేటర్ 4. న్యూరాన్‌లు, వీటిలో ఇన్‌పుట్ సిగ్నల్‌లు ఇచ్చిన దాని అవుట్‌పుట్ సిగ్నల్‌తో సరఫరా చేయబడతాయి 5 .- బరువుఇన్పుట్ సిగ్నల్స్

గణితశాస్త్రపరంగా, ఒక న్యూరాన్ దీని ద్వారా సూచించబడుతుంది వెయిటెడ్ యాడర్, దీని యొక్క ఏకైక అవుట్‌పుట్ దాని ఇన్‌పుట్‌లు మరియు వెయిట్ మ్యాట్రిక్స్ ద్వారా ఈ క్రింది విధంగా నిర్ణయించబడుతుంది:

ఎక్కడ

ఇక్కడ u వరుసగా, న్యూరాన్ యొక్క ఇన్‌పుట్‌ల వద్ద సంకేతాలు మరియు ఇన్‌పుట్‌ల బరువులు, ఫంక్షన్ uని ప్రేరిత లోకల్ ఫీల్డ్ అంటారు మరియు f(u) అనేది బదిలీ ఫంక్షన్. న్యూరాన్ ఇన్‌పుట్‌ల వద్ద సిగ్నల్స్ యొక్క సాధ్యమైన విలువలు విరామంలో ఇవ్వబడ్డాయి. అవి వివిక్త (0 లేదా 1) లేదా అనలాగ్ కావచ్చు. దానికి సంబంధించిన అదనపు ఇన్‌పుట్‌లు ఉపయోగించబడతాయి ప్రారంభించడంన్యూరాన్. ప్రారంభించడం ద్వారా, క్షితిజ సమాంతర అక్షం వెంట న్యూరాన్ యొక్క క్రియాశీలత ఫంక్షన్‌లో మార్పు అని మేము అర్థం, అంటే, న్యూరాన్ యొక్క సున్నితత్వ థ్రెషోల్డ్ ఏర్పడటం. అదనంగా, కొన్నిసార్లు షిఫ్ట్ అని పిలువబడే నిర్దిష్ట యాదృచ్ఛిక విలువ న్యూరాన్ యొక్క అవుట్‌పుట్‌కు ప్రత్యేకంగా జోడించబడుతుంది. షిఫ్ట్‌ని అదనపు, ఎల్లప్పుడూ లోడ్ చేయబడిన, సినాప్స్ వద్ద సిగ్నల్‌గా పరిగణించవచ్చు.

న్యూరాన్ యొక్క యాక్టివేషన్ ఫంక్షన్. విధుల రకాలు.

న్యూరాన్ యాక్టివేషన్ ఫంక్షన్న్యూరాన్ ద్వారా జరిగే నాన్ లీనియర్ పరివర్తనను నిర్వచిస్తుంది.

అనేక రకాల యాక్టివేషన్ ఫంక్షన్‌లు ఉన్నాయి, కానీ అత్యంత సాధారణమైనవి ఈ క్రింది నాలుగు:

1. థ్రెషోల్డ్ఫంక్షన్. అంజీర్లో. 7.2, ఎదాని షెడ్యూల్ చూపబడింది.

. (7.5)

మొదటి యాక్టివేషన్ ఫంక్షన్ పరిచయం చేయబడింది, ఇది మెక్‌కల్లోచ్ మరియు పిట్స్ యొక్క పనిలో వివరించబడింది. దీనికి గౌరవసూచకంగా, థ్రెషోల్డ్ యాక్టివేషన్ ఫంక్షన్‌తో కూడిన న్యూరాన్ మోడల్‌ను మెక్‌కల్లోచ్-పిట్స్ మోడల్ అంటారు.

2. పీస్‌వైస్ లీనియర్ఫంక్షన్. ఇది అంజీర్లో చూపబడింది. 7.2, బిమరియు ఈ క్రింది సంబంధం ద్వారా వివరించబడింది:

. (7.6)

IN ఈ విషయంలో a=1, మరియు లీనియర్ విభాగం యొక్క స్లోప్ కోఎఫీషియంట్ యూనిటీగా ఎంపిక చేయబడింది మరియు మొత్తం ఫంక్షన్‌ను నాన్ లీనియర్ యాంప్లిఫైయర్ యొక్క ఉజ్జాయింపుగా అర్థం చేసుకోవచ్చు. సరళ విభాగం యొక్క అనంతమైన పెద్ద వాలు గుణకంతో, ఫంక్షన్ ఒక థ్రెషోల్డ్‌గా క్షీణిస్తుంది.

చాలా రకాల కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు లీనియర్ యాక్టివేషన్ ఫంక్షన్‌తో న్యూరాన్‌లను ఉపయోగిస్తాయి, ఇది అపరిమిత సరళ ప్రాంతంతో (7.6) ప్రత్యేక సందర్భం.

అన్నం. 7.2 యాక్టివేషన్ ఫంక్షన్ల రకాలు a), d) థ్రెషోల్డ్; బి) సరళ; సి) సిగ్మోయిడల్; ఇ) టాంజెన్షియల్; f) రేడియల్-బేస్ యాక్టివేషన్ ఫంక్షన్‌లు

ఒక కృత్రిమ నాడీ నెట్వర్క్ యొక్క భావన.

కృత్రిమ నాడీ నెట్వర్క్(ANN) అనేది గణిత నమూనా, అలాగే దాని సాఫ్ట్‌వేర్ లేదా హార్డ్‌వేర్ అమలు, జీవసంబంధ నాడీ నెట్‌వర్క్‌ల యొక్క సంస్థ మరియు పనితీరు యొక్క సూత్రంపై నిర్మించబడింది - జీవి యొక్క నాడీ కణాల నెట్‌వర్క్‌లు. మెదడులో సంభవించే ప్రక్రియలను అధ్యయనం చేస్తున్నప్పుడు మరియు ఈ ప్రక్రియలను మోడల్ చేయడానికి ప్రయత్నిస్తున్నప్పుడు ఈ భావన ఉద్భవించింది. అటువంటి మొదటి ప్రయత్నం W. మెక్‌కల్లోచ్ మరియు W. పిట్స్ యొక్క నాడీ నెట్‌వర్క్‌లు. అభ్యాస అల్గోరిథంల అభివృద్ధి తరువాత, ఫలిత నమూనాలు ఉపయోగించడం ప్రారంభించబడ్డాయి ఆచరణాత్మక ప్రయోజనాల: సమస్యలను అంచనా వేయడంలో, నమూనా గుర్తింపు కోసం, నియంత్రణ సమస్యలు మొదలైనవి.

ANNలు అనుసంధానించబడిన మరియు పరస్పర చర్య చేసే సాధారణ ప్రాసెసర్ల వ్యవస్థ (కృత్రిమ న్యూరాన్లు). ఈ ప్రాసెసర్‌లు సాధారణంగా చాలా సరళంగా ఉంటాయి (ముఖ్యంగా పర్సనల్ కంప్యూటర్‌లలో ఉపయోగించే ప్రాసెసర్‌లతో పోలిస్తే). అటువంటి నెట్‌వర్క్‌లోని ప్రతి ప్రాసెసర్ క్రమానుగతంగా స్వీకరించే సంకేతాలు మరియు ఇతర ప్రాసెసర్‌లకు క్రమానుగతంగా పంపే సంకేతాలతో మాత్రమే వ్యవహరిస్తుంది. ఇంకా, నియంత్రిత పరస్పర చర్యతో తగినంత పెద్ద నెట్‌వర్క్‌కి కనెక్ట్ అయినప్పుడు, అటువంటి స్థానికంగా సాధారణ ప్రాసెసర్‌లు కలిసి చాలా క్లిష్టమైన పనులను చేయగలవు.

మెషిన్ లెర్నింగ్ దృక్కోణంలో, న్యూరల్ నెట్‌వర్క్ అనేది నమూనా గుర్తింపు పద్ధతులు, వివక్షత విశ్లేషణ, క్లస్టరింగ్ పద్ధతులు మొదలైన వాటి యొక్క ప్రత్యేక సందర్భం. గణిత కోణం నుండి, న్యూరల్ నెట్‌వర్క్‌లకు శిక్షణ ఇవ్వడం అనేది బహుళ-పారామీటర్ నాన్‌లీనియర్ ఆప్టిమైజేషన్ సమస్య. సైబర్‌నెటిక్స్ దృక్కోణం నుండి, ఒక న్యూరల్ నెట్‌వర్క్ అనుకూల నియంత్రణ సమస్యలలో మరియు రోబోటిక్స్ కోసం అల్గారిథమ్‌లుగా ఉపయోగించబడుతుంది. కంప్యూటింగ్ టెక్నాలజీ మరియు ప్రోగ్రామింగ్ అభివృద్ధి దృష్ట్యా, సమర్థవంతమైన సమాంతరత సమస్యను పరిష్కరించడానికి ఒక న్యూరల్ నెట్‌వర్క్ ఒక మార్గం. మరియు కృత్రిమ మేధస్సు యొక్క దృక్కోణం నుండి, ANN అనేది కనెక్టివిజం యొక్క తాత్విక కదలికకు ఆధారం మరియు కంప్యూటర్ అల్గోరిథంలను ఉపయోగించి సహజ మేధస్సును నిర్మించే (మోడలింగ్) అవకాశాన్ని అధ్యయనం చేయడానికి నిర్మాణాత్మక విధానంలో ప్రధాన దిశ.

న్యూరల్ నెట్‌వర్క్‌లు పదం యొక్క సాధారణ అర్థంలో ప్రోగ్రామబుల్ కాదు, అవి శిక్షణ పొందుతున్నారు. సాంప్రదాయ అల్గారిథమ్‌ల కంటే న్యూరల్ నెట్‌వర్క్‌ల యొక్క ప్రధాన ప్రయోజనాల్లో నేర్చుకునే సామర్థ్యం ఒకటి. సాంకేతికంగా, లెర్నింగ్ అనేది న్యూరాన్‌ల మధ్య కనెక్షన్‌ల గుణకాలను కనుగొనడం. శిక్షణ ప్రక్రియలో, న్యూరల్ నెట్‌వర్క్ ఇన్‌పుట్ డేటా మరియు అవుట్‌పుట్ డేటా మధ్య సంక్లిష్ట డిపెండెన్సీలను గుర్తించగలదు, అలాగే సాధారణీకరణను కూడా చేయగలదు. శిక్షణ విజయవంతమైతే, శిక్షణా సెట్‌లో తప్పిపోయిన డేటా, అలాగే అసంపూర్ణమైన మరియు/లేదా “ధ్వనించే”, పాక్షికంగా వక్రీకరించిన డేటా ఆధారంగా నెట్‌వర్క్ సరైన ఫలితాన్ని అందించగలదని దీని అర్థం.

సాధారణ న్యూరల్ నెట్‌వర్క్ యొక్క పథకం. ఆకుపచ్చ రంగు హోదా ఇన్పుట్న్యూరాన్లు, లక్ష్యం.- దాచబడిందిన్యూరాన్లు, పసుపు - రోజు సెలవున్యూరాన్.

న్యూరల్ నెట్‌వర్క్‌ల ప్రాథమిక లక్షణాలు.

న్యూరల్ నెట్‌వర్క్‌ల యొక్క కొన్ని లక్షణాలు.

1. శిక్షణ

కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు బాహ్య వాతావరణాన్ని బట్టి తమ ప్రవర్తనను మార్చుకోగలవు. ఈ అంశం, ఇతర వాటి కంటే ఎక్కువగా, వారు రేకెత్తించే ఆసక్తికి బాధ్యత వహిస్తుంది. ఇన్‌పుట్ సిగ్నల్స్ అందించిన తర్వాత (బహుశా అవసరమైన అవుట్‌పుట్‌లతో పాటు), అవసరమైన ప్రతిస్పందనను అందించడానికి అవి స్వీయ-సర్దుబాటు చేస్తాయి. అనేక అభ్యాస అల్గారిథమ్‌లు అభివృద్ధి చేయబడ్డాయి, ప్రతి దాని స్వంత బలాలు మరియు బలహీనతలు ఉన్నాయి. నెట్‌వర్క్ ఏమి నేర్చుకోగలదు మరియు ఎలా నేర్చుకోవాలి అనే విషయంలో ఇంకా సమస్యలు ఉన్నాయి.

2. సాధారణీకరణ

శిక్షణ తర్వాత నెట్‌వర్క్ ప్రతిస్పందన ఇన్‌పుట్ సిగ్నల్‌లలో చిన్న మార్పులకు కొంత సున్నితంగా ఉండవచ్చు. శబ్దం మరియు వక్రీకరణ ద్వారా నమూనాను చూడగల ఈ స్వాభావిక సామర్థ్యం నమూనా గుర్తింపుకు చాలా ముఖ్యమైనది వాస్తవ ప్రపంచంలో. ఇది సాంప్రదాయిక కంప్యూటర్ యొక్క ఖచ్చితమైన ఖచ్చితత్వ అవసరాలను అధిగమిస్తుంది మరియు మనం నివసించే అసంపూర్ణ ప్రపంచంతో వ్యవహరించగల వ్యవస్థకు మార్గాన్ని తెరుస్తుంది. ఒక కృత్రిమ న్యూరల్ నెట్‌వర్క్ ప్రత్యేకంగా వ్రాసిన కంప్యూటర్ ప్రోగ్రామ్‌ల రూపంలో "మానవ మేధస్సు"ని ఉపయోగించడం ద్వారా కాకుండా, దాని రూపకల్పన కారణంగా స్వయంచాలకంగా సాధారణీకరణలను చేస్తుందని గమనించడం ముఖ్యం.

3. సంగ్రహణ

కొన్ని కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు ఇన్‌పుట్ సిగ్నల్స్ నుండి సారాన్ని సంగ్రహించే సామర్థ్యాన్ని కలిగి ఉంటాయి. ఉదాహరణకు, "A" అక్షరం యొక్క వక్రీకరించిన సంస్కరణల క్రమంలో నెట్‌వర్క్ శిక్షణ పొందవచ్చు. తగిన శిక్షణ తర్వాత, అటువంటి వక్రీకరించిన ఉదాహరణను ప్రదర్శించడం వలన నెట్‌వర్క్ ఖచ్చితమైన ఆకారం యొక్క అక్షరాన్ని ఉత్పత్తి చేస్తుంది (ఈ సందర్భంలో, అక్షరం "A"). ఒక రకంగా చెప్పాలంటే, ఆమె ఎప్పుడూ చూడని వాటికి జన్మనివ్వడం నేర్చుకుంటుంది. ఆదర్శ నమూనాలను పొందగల సామర్థ్యం మానవులలో చాలా విలువైన నాణ్యత.

4. వర్తింపు

కృత్రిమ న్యూరల్ నెట్‌వర్క్‌లు సర్వరోగ నివారిణి కాదు. అవి పేరోల్ వంటి పనులకు స్పష్టంగా సరిపోవు, కానీ సాంప్రదాయిక కంప్యూటింగ్ సిస్టమ్‌లు పేలవంగా లేదా అస్సలు చేయని ఇతర పనుల యొక్క పెద్ద తరగతికి అవి చాలా అవసరం.

న్యూరల్ నెట్‌వర్క్‌ల ద్వారా సమస్యలు పరిష్కరించబడతాయి.

NNలు నమూనా గుర్తింపు మరియు వర్గీకరణ, ఆప్టిమైజేషన్ మరియు ప్రిడిక్షన్ సమస్యలను పరిష్కరించడానికి బాగా సరిపోతాయి. నాడీ నెట్‌వర్క్‌ల యొక్క సాధ్యమయ్యే పారిశ్రామిక అనువర్తనాల జాబితా క్రింద ఉంది, దీని ఆధారంగా వాణిజ్య ఉత్పత్తులు ఇప్పటికే సృష్టించబడ్డాయి లేదా ప్రదర్శన నమూనాలు అమలు చేయబడ్డాయి.

బ్యాంకులు మరియు బీమా కంపెనీలు:

చెక్కులు మరియు ఆర్థిక పత్రాల స్వయంచాలక పఠనం;

సంతకాల యొక్క ప్రామాణికతను తనిఖీ చేయడం;

రుణాల కోసం ప్రమాద అంచనా;

ఆర్థిక సూచికలలో మార్పులను అంచనా వేయడం.

పరిపాలనా సేవలు:

ఆటోమేటిక్ డాక్యుమెంట్ రీడింగ్;

బార్ కోడ్‌ల స్వయంచాలక గుర్తింపు.

పెట్రోలియం మరియు రసాయన పరిశ్రమ:

భౌగోళిక సమాచారం యొక్క విశ్లేషణ;

పరికరాల లోపాల గుర్తింపు;

వైమానిక ఛాయాచిత్రాల ఆధారంగా ఖనిజ నిక్షేపాల అన్వేషణ;

అశుద్ధ కూర్పుల విశ్లేషణ;

ప్రక్రియ నిర్వహణ.

సైనిక పరిశ్రమ మరియు ఏరోనాటిక్స్:

ఆడియో సిగ్నల్స్ ప్రాసెసింగ్ (విభజన, గుర్తింపు, స్థానికీకరణ);

రాడార్ సిగ్నల్స్ ప్రాసెసింగ్ (లక్ష్య గుర్తింపు, గుర్తింపు మరియు మూలాల స్థానికీకరణ);

పరారుణ సంకేతాల ప్రాసెసింగ్ (స్థానికీకరణ);

సమాచారాన్ని సంగ్రహించడం;

ఆటోమేటిక్ పైలటింగ్.

పారిశ్రామిక ఉత్పత్తి:

మానిప్యులేటర్ నియంత్రణ;

నాణ్యత నియంత్రణ;

ప్రక్రియ నిర్వహణ;

తప్పు గుర్తింపు;

అనుకూల రోబోటిక్స్;

భద్రతా సేవ:

బయోమెడికల్ పరిశ్రమ:

X- రే విశ్లేషణ;

ECG లో అసాధారణతలను గుర్తించడం.

టెలివిజన్ మరియు కమ్యూనికేషన్స్:

అనుకూల కమ్యూనికేషన్ నెట్వర్క్ నియంత్రణ;

చిత్రం కుదింపు మరియు పునరుద్ధరణ.

బహుళస్థాయి గ్రహణశక్తి. నిర్మాణం. ఆపరేషన్ సూత్రం.

ఇంటర్కనెక్టడ్ న్యూరాన్లు (నెట్‌వర్క్ నోడ్స్) అనేక పొరలుగా (Fig. 6.1) మిళితం చేయబడిన ఒక క్రమానుగత నెట్‌వర్క్ నిర్మాణాన్ని పరిశీలిద్దాం. F. రోసెన్‌బ్లాట్ అటువంటి నిర్మాణాలను నిర్మించే అవకాశాన్ని ఎత్తి చూపారు, కానీ అతను శిక్షణ సమస్యను పరిష్కరించలేదు. నెట్‌వర్క్ యొక్క ఇంటర్న్‌యూరాన్ సినాప్టిక్ కనెక్షన్‌లు ప్రతి న్యూరాన్ ఆన్ చేసే విధంగా అమర్చబడి ఉంటాయి ఈ స్థాయిసోపానక్రమం ప్రతి దిగువ-స్థాయి న్యూరాన్ నుండి సంకేతాలను అందుకుంటుంది మరియు ప్రాసెస్ చేస్తుంది. అందువల్ల, ఈ నెట్‌వర్క్‌లో న్యూరోఇంపల్స్‌ల ప్రచారం యొక్క ప్రత్యేక దిశ ఉంది - ఇన్‌పుట్ లేయర్ నుండి ఒకటి (లేదా అనేక) దాచిన పొరల ద్వారా న్యూరాన్‌ల అవుట్‌పుట్ లేయర్ వరకు. మేము అటువంటి టోపోలాజీ యొక్క న్యూరల్ నెట్‌వర్క్‌ను సాధారణీకరించిన బహుళస్థాయి గ్రహణశక్తి అని పిలుస్తాము లేదా ఇది అపార్థాలకు కారణం కాకపోతే, కేవలం గ్రహణశక్తి అని పిలుస్తాము.

Fig.6.1. ఐదు ఇన్‌పుట్‌లు, దాచిన పొరలో మూడు న్యూరాన్‌లు మరియు అవుట్‌పుట్ లేయర్‌లో ఒక న్యూరాన్‌లతో కూడిన మల్టీలేయర్ పర్సెప్‌ట్రాన్ నిర్మాణం.

పర్‌సెప్ట్రాన్ అనేది శ్రేణిలో అనుసంధానించబడిన అధికారిక మెక్‌కల్లోచ్ మరియు పిట్స్ న్యూరాన్‌ల యొక్క అనేక పొరలను కలిగి ఉన్న నెట్‌వర్క్. పై అత్యల్ప స్థాయిసోపానక్రమం ఉంది ఇన్పుట్సెన్సార్ మూలకాలతో కూడిన పొర, దీని పని నెట్‌వర్క్ ద్వారా ఇన్‌పుట్ సమాచారాన్ని స్వీకరించడం మరియు పంపిణీ చేయడం మాత్రమే. అప్పుడు ఒకటి లేదా, తక్కువ తరచుగా, అనేక ఉన్నాయి దాచబడిందిపొరలు. దాచిన లేయర్‌లోని ప్రతి న్యూరాన్ మునుపటి లేయర్ యొక్క న్యూరాన్‌ల అవుట్‌పుట్‌లకు లేదా నేరుగా ఇన్‌పుట్ సెన్సార్‌లు X1..Xn మరియు ఒక అవుట్‌పుట్‌కు కనెక్ట్ చేయబడిన అనేక ఇన్‌పుట్‌లను కలిగి ఉంటుంది. న్యూరాన్ బరువు గుణకాల యొక్క ప్రత్యేకమైన వెక్టర్ ద్వారా వర్గీకరించబడుతుంది w. పొరలోని అన్ని న్యూరాన్‌ల బరువులు మాతృకను ఏర్పరుస్తాయి, దీనిని మనం V లేదా W ద్వారా సూచిస్తాము. న్యూరాన్ యొక్క పని ఏమిటంటే, దాని ఇన్‌పుట్‌ల యొక్క వెయిటెడ్ మొత్తాన్ని దాని తదుపరి నాన్‌లీనియర్ ట్రాన్స్‌ఫర్మేషన్‌తో అవుట్‌పుట్ సిగ్నల్‌గా లెక్కించడం:

(6.1)

తరువాతి న్యూరాన్ల అవుట్‌పుట్‌లు, రోజు సెలవు, పొరలు వర్గీకరణ ఫలితాన్ని వివరిస్తాయి Y=Y(X). పర్సెప్ట్రాన్ యొక్క ఆపరేటింగ్ లక్షణాలు క్రింది విధంగా ఉన్నాయి. ప్రతి న్యూరాన్ న్యూరాన్ల నుండి వచ్చే సంకేతాలను సంగ్రహిస్తుంది మునుపటి స్థాయిసినాప్సెస్ యొక్క స్థితులచే నిర్ణయించబడిన బరువులతో కూడిన సోపానక్రమం మరియు ఫలిత మొత్తం థ్రెషోల్డ్ విలువ కంటే ఎక్కువగా ఉంటే ప్రతిస్పందన సిగ్నల్ (ఉత్తేజిత స్థితికి పరివర్తనాలు) ఉత్పత్తి చేస్తుంది. పర్సెప్ట్రాన్ ఇన్‌పుట్ ఇమేజ్‌ను అనువదిస్తుంది, ఇది సోపానక్రమంలోని అత్యల్ప స్థాయి న్యూరాన్‌ల ఉత్తేజిత స్థాయిని నిర్ధారిస్తుంది, ఇది చాలా న్యూరాన్‌లచే నిర్ణయించబడుతుంది. ఉన్నత స్థాయి. తరువాతి సంఖ్య సాధారణంగా చాలా తక్కువగా ఉంటుంది. ఎగువ స్థాయిలో న్యూరాన్ యొక్క ఉత్తేజిత స్థితి ఇన్పుట్ చిత్రం ఒక వర్గానికి లేదా మరొకదానికి చెందినదని సూచిస్తుంది.

సాంప్రదాయకంగా, అనలాగ్ లాజిక్ పరిగణించబడుతుంది, దీనిలో సినాప్టిక్ కనెక్షన్‌ల యొక్క అనుమతించదగిన స్థితులు ఏకపక్ష వాస్తవ సంఖ్యల ద్వారా నిర్ణయించబడతాయి మరియు న్యూరాన్‌ల కార్యాచరణ స్థాయిలు 0 మరియు 1 మధ్య ఉన్న వాస్తవ సంఖ్యల ద్వారా నిర్ణయించబడతాయి. కొన్నిసార్లు వివిక్త అంకగణితంతో నమూనాలు కూడా అధ్యయనం చేయబడతాయి, దీనిలో ఒక సినాప్స్ రెండు బూలియన్ వేరియబుల్స్ ద్వారా వర్గీకరించబడుతుంది: కార్యాచరణ (0 లేదా 1) మరియు ధ్రువణత (-1 లేదా +1), ఇది మూడు-విలువైన తర్కానికి అనుగుణంగా ఉంటుంది. న్యూరాన్ల స్థితులను ఒకే బూలియన్ వేరియబుల్ ద్వారా వర్ణించవచ్చు. ఈ వివిక్త విధానం న్యూరల్ నెట్‌వర్క్ యొక్క స్థితుల కాన్ఫిగరేషన్ స్థలాన్ని పరిమితం చేస్తుంది (హార్డ్‌వేర్ అమలులో ప్రయోజనాల గురించి చెప్పనవసరం లేదు).

ఇక్కడ మనం ప్రధానంగా అనలాగ్ సినాప్సెస్ మరియు ఫార్ములా (6.1) ద్వారా నిర్వచించబడిన న్యూరాన్ల యొక్క సిగ్మాయిడల్ బదిలీ ఫంక్షన్‌తో కూడిన బహుళస్థాయి నెట్‌వర్క్ యొక్క క్లాసిక్ వెర్షన్‌ను వివరిస్తాము.

ఉదాహరణలను ఉపయోగించి న్యూరల్ నెట్‌వర్క్‌కు శిక్షణ ఇచ్చే పని.

దాని సంస్థ మరియు కార్యాచరణ ప్రకారం. దావా నియామకం. అనేక తో న్యూరల్ నెట్వర్క్ ఇన్‌పుట్‌లు మరియు అవుట్‌పుట్‌లు ఇన్‌పుట్ ఉద్దీపనలను - బయటి ప్రపంచం గురించి సంవేదనాత్మక సమాచారం - అవుట్‌పుట్ కంట్రోల్ సిగ్నల్‌లుగా కొంత పరివర్తన చేస్తాయి. మార్చబడిన ఉద్దీపనల సంఖ్య nకి సమానం - నెట్‌వర్క్ ఇన్‌పుట్‌ల సంఖ్య, మరియు అవుట్‌పుట్ సిగ్నల్‌ల సంఖ్య అవుట్‌పుట్‌ల సంఖ్యకు అనుగుణంగా ఉంటుంది m. సాధ్యమైన అన్నింటి యొక్క సంపూర్ణత ఇన్పుట్పరిమాణం n యొక్క వెక్టర్స్ వెక్టార్ స్పేస్‌ను ఏర్పరుస్తాయి X , మేము పిలుస్తాము సూచిక స్థలం(సంబంధిత ఖాళీలను పరిగణనలోకి తీసుకున్నప్పుడు, ఇది సాధారణమైనదిగా భావించబడుతుంది వెక్టర్ కార్యకలాపాలుస్కేలార్ ద్వారా కూడిక మరియు గుణకారం (మరిన్ని వివరాల కోసం, చూడండి ఉపన్యాసం 2) అదేవిధంగా, వారాంతంవెక్టర్స్ కూడా ఫీచర్ స్పేస్‌ను ఏర్పరుస్తాయి, ఇది సూచించబడుతుంది వై . ఇప్పుడు న్యూరల్ నెట్‌వర్క్‌ని ఒకరకమైన మల్టీడైమెన్షనల్‌గా భావించవచ్చు ఫంక్షన్ F: X  వై , దీని ఆర్గ్యుమెంట్ ఇన్‌పుట్ ఫీచర్ స్పేస్‌కు చెందినది మరియు దీని విలువ అవుట్‌పుట్ ఫీచర్ స్పేస్‌కు చెందినది.

నెట్వర్క్ యొక్క న్యూరాన్ల యొక్క సినాప్టిక్ బరువు గుణకాల యొక్క ఏకపక్ష విలువతో, నెట్వర్క్ ద్వారా అమలు చేయబడిన ఫంక్షన్ కూడా ఏకపక్షంగా ఉంటుంది. పొందడం కోసం అవసరంఫంక్షన్‌కు నిర్దిష్ట బరువుల ఎంపిక అవసరం. అన్ని న్యూరాన్‌ల యొక్క అన్ని బరువు గుణకాల యొక్క ఆర్డర్ సెట్‌ను వెక్టర్ Wగా సూచించవచ్చు. అటువంటి అన్ని వెక్టర్‌ల సమితి కూడా వెక్టర్ స్పేస్‌గా పిలువబడుతుంది. రాష్ట్ర స్థలంలేదా ఆకృతీకరణ (దశ)స్థలం W . "ఫేజ్ స్పేస్" అనే పదం నుండి వచ్చింది గణాంక భౌతిక శాస్త్రంఅనేక కణాల వ్యవస్థలు, ఇక్కడ ఇది వ్యవస్థను రూపొందించే అన్ని కణాల కోఆర్డినేట్‌లు మరియు మొమెంటా యొక్క మొత్తంగా అర్థం చేసుకోబడుతుంది.

కాన్ఫిగరేషన్ స్పేస్‌లో వెక్టర్‌ను పేర్కొనడం అనేది అన్ని సినాప్టిక్ బరువులను మరియు తద్వారా నెట్‌వర్క్ స్థితిని పూర్తిగా నిర్ణయిస్తుంది. న్యూరల్ నెట్‌వర్క్ అవసరమైన పనితీరును చేసే స్థితిని అంటారు శిక్షణ పొందారు పరిస్థితినెట్వర్క్లు W*. ఇచ్చిన ఫంక్షన్ కోసం, శిక్షణ పొందిన స్థితి ఉనికిలో ఉండకపోవచ్చు లేదా ఒక్కటే కాకపోవచ్చు. లెర్నింగ్ టాస్క్ ఇప్పుడు అధికారికంగా కాన్ఫిగరేషన్ స్పేస్‌లో కొన్ని ఏకపక్ష స్థితి W 0 నుండి శిక్షణ పొందిన స్థితికి పరివర్తన ప్రక్రియను నిర్మించడానికి సమానం.

ఫీచర్ స్పేస్‌లోని ప్రతి వెక్టర్‌కు కరస్పాండెన్స్‌ని కేటాయించడం ద్వారా అవసరమైన ఫంక్షన్ ప్రత్యేకంగా వివరించబడింది X అంతరిక్షం నుండి కొంత వెక్టర్ వై . చివరగా పరిగణించబడే సరిహద్దు గుర్తింపు సమస్యలో ఒక న్యూరాన్ యొక్క నెట్‌వర్క్ విషయంలో మూడవ ఉపన్యాసం, నాలుగు జతల వెక్టర్లను మాత్రమే పేర్కొనడం ద్వారా అవసరమైన ఫంక్షన్ యొక్క పూర్తి వివరణ సాధించబడుతుంది. అయితే, సాధారణ సందర్భంలో, వీడియో ఇమేజ్‌తో పని చేస్తున్నప్పుడు, ఫీచర్ స్పేస్‌లు అధిక కోణాన్ని కలిగి ఉంటాయి, కాబట్టి, బూలియన్ వెక్టర్స్ విషయంలో కూడా, ఒక ఫంక్షన్ యొక్క స్పష్టమైన నిర్వచనం చాలా గజిబిజిగా మారుతుంది (అందిస్తే, అయితే, అది ఫంక్షన్ స్పష్టంగా పేర్కొనబడలేదు, ఉదాహరణకు, ఒక ఫార్ములా ద్వారా; అయినప్పటికీ, స్పష్టంగా నిర్వచించబడిన ఫంక్షన్‌ల కోసం సాధారణంగా న్యూరల్ నెట్‌వర్క్ నమూనాల ద్వారా ప్రాతినిధ్యం వహించాల్సిన అవసరం లేదు). అనేక ఆచరణాత్మక సందర్భాలలో, ఆర్గ్యుమెంట్ యొక్క ఇచ్చిన విలువలకు అవసరమైన ఫంక్షన్ల విలువలు ప్రయోగం లేదా పరిశీలన నుండి పొందబడతాయి మరియు అందువల్ల, వీటికి మాత్రమే తెలుసు పరిమిత జనాభావెక్టర్స్. అదనంగా, ఫంక్షన్ యొక్క తెలిసిన విలువలు లోపాలను కలిగి ఉండవచ్చు మరియు వ్యక్తిగత డేటా పాక్షికంగా ఒకదానికొకటి విరుద్ధంగా ఉండవచ్చు. ఈ కారణాల వల్ల, ఒక నాడీ నెట్వర్క్ సాధారణంగా పని చేయబడుతుంది అందుబాటులో ఉన్న ఉదాహరణల ఆధారంగా ఫంక్షన్ యొక్క ఉజ్జాయింపు ప్రాతినిధ్యం. పరిశోధకుడికి అందుబాటులో ఉన్న వెక్టర్‌ల మధ్య కరస్పాండెన్స్‌ల ఉదాహరణలు లేదా అన్ని ఉదాహరణల నుండి ప్రత్యేకంగా ఎంపిక చేయబడిన అత్యంత ప్రాతినిధ్య డేటా అంటారు. శిక్షణ సెట్. శిక్షణ నమూనా సాధారణంగా వెక్టర్స్ జతలను పేర్కొనడం ద్వారా నిర్ణయించబడుతుంది మరియు ప్రతి జతలో ఒక వెక్టర్ ఉద్దీపనకు అనుగుణంగా ఉంటుంది మరియు రెండవది అవసరమైన ప్రతిస్పందనకు అనుగుణంగా ఉంటుంది. న్యూరల్ నెట్‌వర్క్‌కు శిక్షణ ఇవ్వడం అనేది న్యూరాన్‌ల యొక్క వెయిటింగ్ కోఎఫీషియంట్‌లను ఎంచుకోవడం ద్వారా శిక్షణ సెట్ నుండి అన్ని ఉద్దీపన వెక్టర్‌లను అవసరమైన ప్రతిచర్యలకు తీసుకురావడం.

సైబర్నెటిక్స్ యొక్క సాధారణ సమస్య నిర్మించడం కృత్రిమ వ్యవస్థఇచ్చిన ఫంక్షనల్ ప్రవర్తనతో, న్యూరల్ నెట్‌వర్క్‌ల సందర్భంలో ఒక పనిగా అర్థం చేసుకోవచ్చు సంశ్లేషణఅవసరమైన కృత్రిమ నెట్వర్క్. ఇది క్రింది సబ్‌టాస్క్‌లను కలిగి ఉండవచ్చు: 1) సమస్య పరిష్కారానికి మరియు ఫీచర్ స్పేస్‌ల ఏర్పాటుకు అవసరమైన లక్షణాల ఎంపిక; 2) పరిష్కరించబడుతున్న సమస్యకు తగిన న్యూరల్ నెట్‌వర్క్ ఆర్కిటెక్చర్ ఎంపిక లేదా అభివృద్ధి; 3) నిపుణుల అభిప్రాయం ప్రకారం, ఫీచర్ స్పేస్‌ల వెక్టర్స్ నుండి చాలా ప్రతినిధి నుండి శిక్షణ నమూనాను పొందడం; 4) శిక్షణా సెట్‌లో న్యూరల్ నెట్‌వర్క్‌కు శిక్షణ ఇవ్వడం.

సబ్‌టాస్క్‌లు 1)-3) ఎక్కువగా న్యూరల్ నెట్‌వర్క్‌లతో పని చేసే నిపుణుల అనుభవం అవసరమని మరియు ఇక్కడ సమగ్రమైన అధికారిక సిఫార్సులు లేవని గమనించండి. ఈ సమస్యలు వివిధ న్యూరల్ నెట్‌వర్క్ ఆర్కిటెక్చర్‌లకు వర్తిస్తాయి, వాటి అభ్యాసం మరియు అప్లికేషన్ ఫీచర్‌ల దృష్టాంతాలతో పుస్తకం అంతటా చర్చించబడ్డాయి.

మల్టీఫ్యాక్టర్ ఆప్టిమైజేషన్ సమస్యగా పర్యవేక్షించబడిన న్యూరల్ నెట్‌వర్క్ శిక్షణ.

కృత్రిమ న్యూరాన్

కృత్రిమ న్యూరాన్ సర్క్యూట్
1. న్యూరాన్లు, దీని యొక్క అవుట్‌పుట్ సంకేతాలు దీని ఇన్‌పుట్ వద్దకు చేరుకుంటాయి
2.ఇన్‌పుట్ సిగ్నల్ యాడర్
3. బదిలీ ఫంక్షన్ కాలిక్యులేటర్
4. న్యూరాన్లు, ఇన్‌పుట్‌లు ఇచ్చిన అవుట్‌పుట్ సిగ్నల్‌ను అందుకుంటాయి
5. - బరువుఇన్పుట్ సిగ్నల్స్

కృత్రిమ న్యూరాన్ (గణిత న్యూరాన్మెక్కల్లోచ్-పిట్స్, అధికారిక న్యూరాన్) - ఒక కృత్రిమ న్యూరల్ నెట్‌వర్క్ యొక్క నోడ్, ఇది సహజ న్యూరాన్ యొక్క సరళీకృత నమూనా. గణితశాస్త్రపరంగా, ఒక కృత్రిమ న్యూరాన్ సాధారణంగా ఒకే ఆర్గ్యుమెంట్ యొక్క కొన్ని నాన్ లీనియర్ ఫంక్షన్‌గా సూచించబడుతుంది - అన్ని ఇన్‌పుట్ సిగ్నల్స్ యొక్క లీనియర్ కలయిక. ఈ ఫంక్షన్అని పిలిచారు యాక్టివేషన్ ఫంక్షన్లేదా ట్రిగ్గర్ ఫంక్షన్, బదిలీ ఫంక్షన్. పొందిన ఫలితం పంపబడుతుంది ఏకైక మార్గం. ఇటువంటి కృత్రిమ న్యూరాన్లు నెట్‌వర్క్‌లుగా మిళితం చేయబడతాయి - అవి కొన్ని న్యూరాన్‌ల అవుట్‌పుట్‌లను ఇతరుల ఇన్‌పుట్‌లకు కనెక్ట్ చేస్తాయి. కృత్రిమ న్యూరాన్లు మరియు నెట్‌వర్క్‌లు ఆదర్శవంతమైన న్యూరోకంప్యూటర్ యొక్క ప్రధాన అంశాలు.

బయోలాజికల్ ప్రోటోటైప్

ఒక బయోలాజికల్ న్యూరాన్ 3 నుండి 100 మైక్రాన్ల వ్యాసం కలిగిన ఒక న్యూక్లియస్‌ను కలిగి ఉంటుంది (తో పెద్ద మొత్తంఅణు రంధ్రాలు) మరియు ఇతర అవయవాలు (క్రియాశీల రైబోజోమ్‌లు, గొల్గి ఉపకరణం) మరియు ప్రక్రియలతో అత్యంత అభివృద్ధి చెందిన కఠినమైన ERతో సహా. రెండు రకాల ప్రక్రియలు ఉన్నాయి. ఆక్సాన్ అనేది సాధారణంగా న్యూరాన్ శరీరం నుండి ఉత్తేజాన్ని నిర్వహించడానికి అనువుగా ఉండే సుదీర్ఘ ప్రక్రియ. డెండ్రైట్‌లు, నియమం ప్రకారం, న్యూరాన్‌ను ప్రభావితం చేసే ఉత్తేజకరమైన మరియు నిరోధక సినాప్సెస్ ఏర్పడటానికి ప్రధాన ప్రదేశంగా పనిచేసే చిన్న మరియు అధిక శాఖల ప్రక్రియలు (వివిధ న్యూరాన్‌లు కలిగి ఉంటాయి వివిధ నిష్పత్తిఆక్సాన్ మరియు డెండ్రైట్‌ల పొడవు). ఒక న్యూరాన్ అనేక డెండ్రైట్‌లను కలిగి ఉండవచ్చు మరియు సాధారణంగా ఒక ఆక్సాన్ మాత్రమే ఉంటుంది. ఒక న్యూరాన్ 20 వేల ఇతర న్యూరాన్‌లతో కనెక్షన్‌లను కలిగి ఉంటుంది. మానవ సెరిబ్రల్ కార్టెక్స్‌లో 10-20 బిలియన్ న్యూరాన్లు ఉంటాయి.

అభివృద్ధి చరిత్ర

ఈ సందర్భంలో, ఫంక్షన్‌ను రెండు అక్షాల వెంట మార్చడం సాధ్యమవుతుంది (చిత్రంలో చూపిన విధంగా).

లీనియర్ వాటికి సంబంధించి స్టెప్ మరియు సెమిలీనియర్ యాక్టివేషన్ ఫంక్షన్‌ల యొక్క ప్రతికూలతలు ఏమిటంటే అవి మొత్తం సంఖ్యా అక్షం మీద భేదం కావు, అందువల్ల కొన్ని అల్గారిథమ్‌లను ఉపయోగించి శిక్షణ పొందేటప్పుడు ఉపయోగించబడదు.

థ్రెషోల్డ్ యాక్టివేషన్ ఫంక్షన్

థ్రెషోల్డ్ బదిలీ ఫంక్షన్

హైపర్బోలిక్ టాంజెంట్

ఇక్కడ కేంద్రం మరియు ఇన్‌పుట్ సిగ్నల్స్ వెక్టార్ మధ్య దూరం. స్కేలార్ పరామితి వెక్టర్ కేంద్రం నుండి దూరంగా కదులుతున్నప్పుడు ఫంక్షన్ క్షీణించే రేటును నిర్ణయిస్తుంది మరియు దీనిని పిలుస్తారు విండో వెడల్పు, పరామితి abscissa అక్షం వెంట యాక్టివేషన్ ఫంక్షన్ యొక్క షిఫ్ట్‌ని నిర్ణయిస్తుంది. అటువంటి విధులను ఉపయోగించే న్యూరాన్‌లతో కూడిన నెట్‌వర్క్‌లను RBF నెట్‌వర్క్‌లు అంటారు. వెక్టర్స్ మధ్య దూరంగా వివిధ కొలమానాలను ఉపయోగించవచ్చు, సాధారణంగా యూక్లిడియన్ దూరం ఉపయోగించబడుతుంది:

ఇక్కడ - jth భాగంన్యూరాన్ యొక్క ఇన్‌పుట్‌కు సరఫరా చేయబడిన వెక్టర్, a అనేది వెక్టర్ యొక్క j-వ భాగం, ఇది బదిలీ ఫంక్షన్ యొక్క కేంద్రం యొక్క స్థానాన్ని నిర్ణయిస్తుంది. దీని ప్రకారం, అటువంటి న్యూరాన్‌లతో కూడిన నెట్‌వర్క్‌లను ప్రాబబిలిస్టిక్ మరియు రిగ్రెషన్ అంటారు.

నిజమైన నెట్‌వర్క్‌లలో, ఈ న్యూరాన్‌ల యాక్టివేషన్ ఫంక్షన్ కొన్ని యాదృచ్ఛిక వేరియబుల్ యొక్క సంభావ్యత పంపిణీని ప్రతిబింబిస్తుంది లేదా పరిమాణాల మధ్య ఏదైనా హ్యూరిస్టిక్ డిపెండెన్సీలను సూచిస్తుంది.

ఇతర బదిలీ విధులు

పైన జాబితా చేయబడిన ఫంక్షన్‌లు ఉపయోగించిన అనేక బదిలీ ఫంక్షన్‌లలో ఒక భాగం మాత్రమే ఈ క్షణం. ఇతర బదిలీ విధులు:

యాదృచ్ఛిక న్యూరాన్

నిర్ణయాత్మక కృత్రిమ న్యూరాన్ యొక్క నమూనా పైన వివరించబడింది, అనగా, న్యూరాన్ యొక్క అవుట్‌పుట్ వద్ద ఉన్న స్థితి ఇన్‌పుట్ సిగ్నల్ యాడర్ యొక్క ఆపరేషన్ ఫలితం ద్వారా ప్రత్యేకంగా నిర్ణయించబడుతుంది. యాదృచ్ఛిక న్యూరాన్లు కూడా పరిగణించబడతాయి, ఇక్కడ న్యూరాన్ మార్పిడి అనేది ప్రేరేపిత ఆధారంగా సంభావ్యతతో సంభవిస్తుంది స్థానిక క్షేత్రం, అంటే, బదిలీ ఫంక్షన్ ఇలా నిర్వచించబడింది

ఇక్కడ సంభావ్యత పంపిణీ సాధారణంగా సిగ్మోయిడ్ రూపాన్ని కలిగి ఉంటుంది

సంభావ్యత పంపిణీ యొక్క సాధారణీకరణ స్థితి కోసం సాధారణీకరణ స్థిరాంకం ప్రవేశపెట్టబడింది. అందువలన, న్యూరాన్ సంభావ్యత P(u)తో సక్రియం చేయబడుతుంది. పారామితి T అనేది ఉష్ణోగ్రత యొక్క అనలాగ్ (కానీ న్యూరాన్ యొక్క ఉష్ణోగ్రత కాదు!) మరియు న్యూరల్ నెట్‌వర్క్‌లోని రుగ్మతను నిర్ణయిస్తుంది. T 0కి మారినట్లయితే, యాదృచ్ఛిక న్యూరాన్ హెవీసైడ్ బదిలీ ఫంక్షన్ (థ్రెషోల్డ్ ఫంక్షన్)తో సాధారణ న్యూరాన్‌గా మారుతుంది.

మోడలింగ్ ఫార్మల్ లాజికల్ ఫంక్షన్లు

థ్రెషోల్డ్ ట్రాన్స్‌ఫర్ ఫంక్షన్‌తో కూడిన న్యూరాన్ వివిధ లాజికల్ ఫంక్షన్‌లను మోడల్ చేయగలదు. ఇన్‌పుట్ సిగ్నల్‌ల బరువులు మరియు సెన్సిటివిటీ థ్రెషోల్డ్‌ను సెట్ చేయడం ద్వారా, మీరు ఇన్‌పుట్ సిగ్నల్‌లపై సంయోగం (లాజికల్ “AND”) మరియు డిస్‌జంక్షన్ (లాజికల్ “OR”) చేయడానికి న్యూరాన్‌ను ఎలా బలవంతం చేయవచ్చు, అలాగే లాజికల్ నెగెషన్‌ను ఎలా చేయాలో చిత్రాలు వివరిస్తాయి. ఇన్పుట్ సిగ్నల్. ఈ మూడు కార్యకలాపాలు ఏవైనా ఆర్గ్యుమెంట్‌ల యొక్క ఏదైనా తార్కిక ఫంక్షన్‌ను ఖచ్చితంగా రూపొందించడానికి సరిపోతాయి.

గమనికలు

సాహిత్యం

• టెరెఖోవ్ V.A., ఎఫిమోవ్ D.V., త్యూకిన్ I.Yu.న్యూరల్ నెట్‌వర్క్ నియంత్రణ వ్యవస్థలు. - 1వ. - పట్టబద్రుల పాటశాల, 2002. - P. 184. - ISBN 5-06-004094-1
• క్రుగ్లోవ్ V.V., బోరిసోవ్ V.V.