មុខងារធ្វើឱ្យណឺរ៉ូនសិប្បនិម្មិត។ គំរូបណ្តាញសរសៃប្រសាទ bionic និងកម្មវិធីរបស់វា Preprint, Inst

នៅក្នុងជំពូកនេះ យើងបានស្គាល់គំនិតដូចជា បញ្ញាសិប្បនិមិត្ត ការរៀនម៉ាស៊ីន និងសិប្បនិម្មិត បណ្តាញសរសៃប្រសាទ.

នៅក្នុងជំពូកនេះ ខ្ញុំនឹងរៀបរាប់លម្អិតអំពីគំរូណឺរ៉ូនសិប្បនិម្មិត និយាយអំពីវិធីសាស្រ្តក្នុងការបណ្តុះបណ្តាលបណ្តាញ និងក៏ពិពណ៌នាអំពីប្រភេទបណ្តាញសរសៃប្រសាទសិប្បនិម្មិតល្បីៗមួយចំនួន ដែលយើងនឹងសិក្សានៅក្នុងជំពូកខាងក្រោម។

ភាពសាមញ្ញ

នៅក្នុងជំពូកចុងក្រោយ ខ្ញុំបាននិយាយឥតឈប់ឈរអំពីភាពសាមញ្ញដ៏ធ្ងន់ធ្ងរមួយចំនួន។ ហេតុផល​សម្រាប់​ភាព​សាមញ្ញ​គឺ​ថា​គ្មាន​កុំព្យូទ័រ​ទំនើប​អាច​ធ្វើ​បាន។ លឿនម៉ូដែលបែបនេះ ប្រព័ន្ធស្មុគស្មាញដូចជាខួរក្បាលរបស់យើង។ លើសពីនេះ ដូចដែលខ្ញុំបាននិយាយរួចមកហើយថា ខួរក្បាលរបស់យើងពោរពេញទៅដោយភាពផ្សេងៗគ្នា យន្តការជីវសាស្រ្តដែលមិនទាក់ទងនឹងដំណើរការព័ត៌មាន។

យើងត្រូវការគំរូសម្រាប់បំប្លែងសញ្ញាបញ្ចូលទៅក្នុងសញ្ញាទិន្នផលដែលយើងត្រូវការ។ អ្វីៗផ្សេងទៀតមិនរំខានយើងទេ។ ចូរចាប់ផ្តើមធ្វើឱ្យសាមញ្ញ។

រចនាសម្ព័ន្ធជីវសាស្រ្ត → ដ្យាក្រាម

នៅក្នុងជំពូកមុន អ្នកបានដឹងថា បណ្តាញសរសៃប្រសាទជីវសាស្រ្ត និងណឺរ៉ូនជីវសាស្រ្តមានភាពស្មុគស្មាញប៉ុណ្ណា។ ជំនួសឱ្យការគូរណឺរ៉ូនជាសត្វចម្លែក តោះគូរដ្យាក្រាម។

និយាយជាទូទៅមានវិធីជាច្រើន។ រូបភាពក្រាហ្វិកបណ្តាញសរសៃប្រសាទ និងសរសៃប្រសាទ។ នៅទីនេះយើងនឹងពណ៌នាណឺរ៉ូនសិប្បនិម្មិតជារង្វង់។

ជំនួសឱ្យការភ្ជាប់គ្នាដ៏ស្មុគស្មាញនៃធាតុចូល និងលទ្ធផល យើងនឹងប្រើព្រួញដែលបង្ហាញពីទិសដៅនៃចលនាសញ្ញា។

ដូច្នេះបណ្តាញសរសៃប្រសាទសិប្បនិម្មិតអាចត្រូវបានតំណាងថាជាបណ្តុំនៃរង្វង់ (សរសៃប្រសាទសិប្បនិម្មិត) ដែលភ្ជាប់ដោយព្រួញ។

សញ្ញាអគ្គិសនី → លេខ

នៅក្នុងបណ្តាញសរសៃប្រសាទជីវសាស្រ្តពិត សញ្ញាអគ្គិសនីត្រូវបានបញ្ជូនពីធាតុចូលបណ្តាញទៅលទ្ធផល។ វាអាចផ្លាស់ប្តូរនៅពេលដែលវាឆ្លងកាត់បណ្តាញសរសៃប្រសាទ។

សញ្ញាអគ្គិសនីតែងតែជាសញ្ញាអគ្គិសនី។ តាមគំនិត គ្មានអ្វីផ្លាស់ប្តូរទេ។ ប៉ុន្តែតើមានអ្វីផ្លាស់ប្តូរ? ទំហំនៃសញ្ញាអគ្គិសនីនេះផ្លាស់ប្តូរ (ខ្លាំងជាង/ខ្សោយ)។ ហើយតម្លៃណាមួយអាចតែងតែត្រូវបានបង្ហាញជាលេខ (ច្រើន/តិច)។

នៅក្នុងគំរូបណ្តាញសរសៃប្រសាទសិប្បនិម្មិតរបស់យើង យើងមិនចាំបាច់អនុវត្តឥរិយាបថនៃសញ្ញាអគ្គិសនីទាល់តែសោះ ព្រោះគ្មានអ្វីនឹងអាស្រ័យលើការអនុវត្តរបស់វានោះទេ។

យើង​នឹង​ផ្គត់ផ្គង់​លេខ​មួយ​ចំនួន​ទៅ​ការ​បញ្ចូល​បណ្តាញ​ដែល​តំណាង​ឱ្យ​ទំហំ​នៃ​សញ្ញា​អគ្គិសនី​ប្រសិន​បើ​វា​មាន។ លេខទាំងនេះនឹងផ្លាស់ទីតាមបណ្តាញ និងផ្លាស់ប្តូរតាមមធ្យោបាយណាមួយ។ នៅទិន្នផលបណ្តាញ យើងនឹងទទួលបានលេខលទ្ធផលមួយចំនួន ដែលជាការឆ្លើយតបបណ្តាញ។

ដើម្បីភាពងាយស្រួល យើងនឹងនៅតែហៅលេខរបស់យើងដែលកំពុងចរាចរនៅក្នុងសញ្ញាបណ្តាញ។

Synapses → ទម្ងន់នៃការតភ្ជាប់

ចូរយើងរំលឹកឡើងវិញនូវរូបភាពពីជំពូកទីមួយ ដែលទំនាក់ទំនងរវាងណឺរ៉ូន - synapses - ត្រូវបានពណ៌នាជាពណ៌។ Synapses អាចពង្រឹង ឬចុះខ្សោយនៃសញ្ញាអគ្គិសនីដែលឆ្លងកាត់ពួកវា។

ចូរកំណត់លក្ខណៈនៃការតភ្ជាប់បែបនេះនីមួយៗ ចំនួនជាក់លាក់មួយ។ហៅថាទម្ងន់នៃការតភ្ជាប់នេះ។ សញ្ញាបានឆ្លងកាត់ ការតភ្ជាប់នេះ។, ត្រូវបានគុណនឹងទម្ងន់នៃការតភ្ជាប់ដែលត្រូវគ្នា។

នេះ។ ពេលសំខាន់នៅក្នុងគំនិតនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត ខ្ញុំនឹងពន្យល់លម្អិតបន្ថែមទៀត។ សូមមើលរូបភាពខាងក្រោម។ ឥឡូវនេះព្រួញខ្មៅនីមួយៗ (ការតភ្ជាប់) នៅក្នុងរូបភាពនេះត្រូវគ្នាទៅនឹងចំនួនជាក់លាក់មួយ \(w_i \) ​(ទម្ងន់នៃការតភ្ជាប់)។ ហើយនៅពេលដែលសញ្ញាឆ្លងកាត់ការតភ្ជាប់នេះទំហំរបស់វាត្រូវបានគុណនឹងទម្ងន់នៃការតភ្ជាប់នេះ។

នៅក្នុងតួលេខខាងលើ មិនមែនគ្រប់ការភ្ជាប់ទាំងអស់មានទម្ងន់នោះទេ ព្រោះមិនមានកន្លែងសម្រាប់ស្លាក។ តាមពិត ការតភ្ជាប់ \(i \) នីមួយៗមានទំងន់ \(w_i \) របស់វា។

ណឺរ៉ូនសិប្បនិម្មិត

ឥឡូវនេះ យើងបន្តទៅពិចារណារចនាសម្ព័ន្ធខាងក្នុងនៃណឺរ៉ូនសិប្បនិម្មិត និងរបៀបដែលវាបំប្លែងសញ្ញាដែលមកដល់ធាតុចូលរបស់វា។

រូបខាងក្រោមបង្ហាញពីគំរូពេញលេញនៃណឺរ៉ូនសិប្បនិម្មិត។

កុំភ័យស្លន់ស្លោ គ្មានអ្វីស្មុគស្មាញនៅទីនេះទេ។ សូមក្រឡេកមើលអ្វីៗគ្រប់យ៉ាងដោយលម្អិតពីឆ្វេងទៅស្តាំ។

ធាតុបញ្ចូល ទម្ងន់ និងសារធាតុបន្ថែម

ណឺរ៉ូននីមួយៗ រួមទាំងវត្ថុសិប្បនិម្មិត ត្រូវតែមានធាតុចូលមួយចំនួន ដែលវាទទួលសញ្ញា។ យើងបានណែនាំរួចហើយនូវគោលគំនិតនៃទម្ងន់ ដែលសញ្ញាដែលឆ្លងកាត់ទំនាក់ទំនងត្រូវបានគុណ។ នៅក្នុងរូបភាពខាងលើ ទម្ងន់ត្រូវបានបង្ហាញជារង្វង់។

សញ្ញាដែលទទួលបាននៅធាតុបញ្ចូលត្រូវបានគុណនឹងទម្ងន់របស់វា។ សញ្ញា​នៃ​ការ​បញ្ចូល​ទី​មួយ \(x_1 \) ​ត្រូវ​បាន​គុណ​នឹង​ទម្ងន់ \(w_1 \) ​ដែល​ត្រូវ​គ្នា​នឹង​ការ​បញ្ចូល​នេះ។ ជាលទ្ធផលយើងទទួលបាន \(x_1w_1 \) ។ ហើយបន្តរហូតដល់ការបញ្ចូល \(n\) th ។ ជាលទ្ធផល នៅការបញ្ចូលចុងក្រោយ យើងទទួលបាន \(x_nw_n \) .

ឥឡូវនេះផលិតផលទាំងអស់ត្រូវបានផ្ទេរទៅអ្នកបន្ថែម។ គ្រាន់តែផ្អែកលើឈ្មោះរបស់វា អ្នកអាចយល់ពីអ្វីដែលវាធ្វើ។ វាគ្រាន់តែបូកសរុបសញ្ញាបញ្ចូលទាំងអស់គុណនឹងទម្ងន់ដែលត្រូវគ្នា៖

\[x_1w_1+x_2w_2+\cdots+x_nw_n = \sum\limits^n_(i=1)x_iw_i \]

ជំនួយគណិតវិទ្យា

Sigma - វិគីភីឌា

នៅពេលដែលអ្នកត្រូវការសរសេរអ្វីខ្លីៗ កន្សោមធំដែលរួមមានផលបូកនៃពាក្យដដែលៗ/ប្រភេទដូចគ្នា បន្ទាប់មកប្រើសញ្ញា sigma ។

ចូរយើងពិចារណា ជម្រើសសាមញ្ញបំផុត។ធាតុ៖

\[ \sum\limits^5_(i=1)i=1+2+3+4+5 \]

ដូច្នេះ ពីខាងក្រោម sigma យើងកំណត់ counter variable ​\(i \) ​​តម្លៃចាប់ផ្តើមដែលនឹងកើនឡើងរហូតដល់វាឈានដល់ ដែនកំណត់ខាងលើ(នៅក្នុងឧទាហរណ៍ខាងលើវាគឺ 5) ។

ដែនកំណត់ខាងលើក៏អាចប្រែប្រួលផងដែរ។ ខ្ញុំសូមលើកឧទាហរណ៍មួយអំពីករណីបែបនេះ។

សូមឱ្យយើងមានហាង \(n \) ។ ហាងនីមួយៗមានលេខរៀងៗខ្លួន៖ ពី ១ ដល់ \(n\) ​។ ហាងនីមួយៗទទួលបានប្រាក់ចំណេញ។ តោះយកខ្លះ (មិនថាអីទេ) \(i \) th store ។ ប្រាក់ចំណេញពីវាស្មើនឹង \(p_i \) ។

\[ P=p_1+p_2+\cdots+p_i+\cdots+p_n \]

ដូចដែលអ្នកអាចឃើញលក្ខខណ្ឌទាំងអស់នៃផលបូកនេះគឺមានប្រភេទដូចគ្នា។ បន្ទាប់មកពួកគេអាចសរសេរដោយសង្ខេប តាមវិធីខាងក្រោម:

\[ P=\sum\limits^n_(i=1)p_i \]

នៅក្នុងពាក្យ៖ "បូកសរុបប្រាក់ចំណេញរបស់ហាងទាំងអស់ ដោយចាប់ផ្តើមពីដំបូង និងបញ្ចប់ដោយ \(n\) -th"។ នៅក្នុងទម្រង់នៃរូបមន្តគឺសាមញ្ញជាង ងាយស្រួល និងស្រស់ស្អាតជាង។

លទ្ធផលនៃ adder គឺជាលេខដែលហៅថា ផលបូកទម្ងន់។

ផលបូកទម្ងន់(ផលបូកទម្ងន់) (\(net \) ) - ផលបូកនៃសញ្ញាបញ្ចូលគុណនឹងទម្ងន់ដែលត្រូវគ្នា។

\[ net=\sum\limits^n_(i=1)x_iw_i \]

តួនាទីរបស់អ្នកបន្ថែមគឺជាក់ស្តែង - វាប្រមូលផ្តុំសញ្ញាបញ្ចូលទាំងអស់ (ដែលអាចមានច្រើន) ទៅជាលេខមួយ - ផលបូកទម្ងន់ដែលកំណត់លក្ខណៈនៃសញ្ញាដែលទទួលបានដោយណឺរ៉ូនទាំងមូល។ ផលបូកទម្ងន់មួយផ្សេងទៀតអាចត្រូវបានតំណាងថាជាកម្រិតនៃការរំភើបទូទៅនៃណឺរ៉ូន។

ឧទាហរណ៍

ដើម្បីយល់ពីតួនាទីនៃសមាសធាតុចុងក្រោយនៃសរសៃប្រសាទសិប្បនិម្មិត - មុខងារធ្វើឱ្យសកម្ម - ខ្ញុំនឹងផ្តល់ភាពស្រដៀងគ្នា។

សូមក្រឡេកមើលណឺរ៉ូនសិប្បនិម្មិតមួយ។ ភារកិច្ចរបស់គាត់គឺសម្រេចចិត្តថាតើត្រូវទៅវិស្សមកាលនៅសមុទ្រ។ ដើម្បីធ្វើដូច្នេះ យើងផ្គត់ផ្គង់ទិន្នន័យផ្សេងៗទៅធាតុចូលរបស់វា។ អនុញ្ញាតឱ្យណឺរ៉ូនរបស់យើងមាន 4 ធាតុបញ្ចូល:

  1. ថ្លៃធ្វើដំណើរ
  2. តើអាកាសធាតុនៅសមុទ្រយ៉ាងណា?
  3. ស្ថានភាពការងារបច្ចុប្បន្ន
  4. តើនឹងមានរបារអាហារសម្រន់នៅលើឆ្នេរដែរឬទេ?

យើង​នឹង​កំណត់​លក្ខណៈ​ប៉ារ៉ាម៉ែត្រ​ទាំង​អស់​នេះ​ថា​ជា 0 ឬ 1។ ដូច្នោះ​ហើយ ប្រសិន​បើ​អាកាសធាតុ​នៅ​សមុទ្រ​ល្អ នោះ​យើង​អនុវត្ត 1 ទៅ​នឹង​ការ​បញ្ចូល​នេះ ហើយ​ដូច្នេះ​ជាមួយ​នឹង​ប៉ារ៉ាម៉ែត្រ​ផ្សេង​ទៀត​ទាំងអស់។

ប្រសិនបើណឺរ៉ូនមានធាតុបញ្ចូលចំនួនបួន នោះត្រូវតែមានទម្ងន់បួន។ ក្នុងឧទាហរណ៍របស់យើង មេគុណទម្ងន់អាចត្រូវបានចាត់ទុកថាជាសូចនាករនៃសារៈសំខាន់នៃធាតុបញ្ចូលនីមួយៗ ដែលមានឥទ្ធិពលលើការសម្រេចចិត្តទាំងមូលនៃណឺរ៉ូន។ យើងចែកចាយទម្ងន់បញ្ចូលដូចខាងក្រោមៈ

វាងាយស្រួលកត់សម្គាល់ណាស់។ តួនាទីធំកត្តានៃការចំណាយ និងអាកាសធាតុនៅសមុទ្រ (ធាតុចូលពីរដំបូង) ដើរតួនាទីមួយ។ ពួកគេក៏នឹងលេងផងដែរ។ តួនាទីសម្រេចចិត្តនៅពេលដែលណឺរ៉ូនធ្វើការសម្រេចចិត្ត។

អនុញ្ញាតឱ្យយើងផ្គត់ផ្គង់សញ្ញាដូចខាងក្រោមទៅធាតុបញ្ចូលនៃណឺរ៉ូនរបស់យើង:

យើងគុណនឹងទម្ងន់នៃធាតុបញ្ចូលដោយសញ្ញានៃធាតុបញ្ចូលដែលត្រូវគ្នា៖

ផលបូកទម្ងន់សម្រាប់សំណុំនៃសញ្ញាបញ្ចូលបែបនេះគឺ 6:

\[ net=\sum\limits^4_(i=1)x_iw_i = 5 + 0 + 0 + 1 =6 \\]

នេះគឺជាកន្លែងដែលមុខងារធ្វើឱ្យសកម្មចូលមកលេង។

មុខងារធ្វើឱ្យសកម្ម

វាគ្មានន័យទេក្នុងការគ្រាន់តែដាក់បរិមាណទម្ងន់ជាលទ្ធផល។ ណឺរ៉ូនត្រូវតែដំណើរការវា ហើយបង្កើតសញ្ញាទិន្នផលគ្រប់គ្រាន់។ វាគឺសម្រាប់គោលបំណងទាំងនេះដែលមុខងារធ្វើឱ្យសកម្មត្រូវបានប្រើ។

វាបំប្លែងផលបូកទម្ងន់ទៅជាចំនួនជាក់លាក់ ដែលជាលទ្ធផលនៃណឺរ៉ូន (យើងសម្គាល់លទ្ធផលនៃណឺរ៉ូនដោយអថេរ \(ចេញ \)) ។

សម្រាប់ ប្រភេទផ្សេងគ្នាណឺរ៉ូនសិប្បនិម្មិតត្រូវបានប្រើប្រាស់ច្រើនបំផុត មុខងារផ្សេងគ្នាការធ្វើឱ្យសកម្ម។ ជាទូទៅពួកវាត្រូវបានតាងដោយនិមិត្តសញ្ញា \(\phi(net) \) . ការបញ្ជាក់សញ្ញាទម្ងន់ក្នុងវង់ក្រចកមានន័យថាមុខងារធ្វើឱ្យសកម្មយកផលបូកទម្ងន់ជាប៉ារ៉ាម៉ែត្រ។

មុខងារធ្វើឱ្យសកម្ម (មុខងារធ្វើឱ្យសកម្ម)(\(\phi(net)\) ) គឺជាអនុគមន៍ដែលយកផលបូកទម្ងន់ជាអាគុយម៉ង់។ តម្លៃនៃអនុគមន៍នេះគឺជាលទ្ធផលនៃណឺរ៉ូន (\(ចេញ\)) ។

មុខងារលោតតែមួយ

ប្រភេទសាមញ្ញបំផុតនៃមុខងារធ្វើឱ្យសកម្ម។ លទ្ធផលនៃណឺរ៉ូនអាចស្មើនឹង 0 ឬ 1។ ប្រសិនបើផលបូកដែលមានទម្ងន់ធំជាងកម្រិតជាក់លាក់មួយ \(b\) ​នោះលទ្ធផលនៃណឺរ៉ូនគឺស្មើនឹង 1។ ប្រសិនបើទាបជាង នោះ 0។

តើវាអាចប្រើបានយ៉ាងដូចម្តេច? ចូរសន្មតថាយើងទៅសមុទ្រតែនៅពេលដែលផលបូកទម្ងន់ធំជាងឬស្មើ 5 ។ នេះមានន័យថាកម្រិតរបស់យើងគឺ 5៖

ក្នុងឧទាហរណ៍របស់យើង ផលបូកដែលមានទម្ងន់គឺ 6 ដែលមានន័យថាសញ្ញាទិន្នផលនៃណឺរ៉ូនរបស់យើងគឺ 1។ ដូច្នេះយើងនឹងទៅសមុទ្រ។

ទោះយ៉ាងណាក៏ដោយ ប្រសិនបើអាកាសធាតុនៅសមុទ្រមិនល្អ ហើយការធ្វើដំណើរមានតម្លៃថ្លៃ ប៉ុន្តែមានអាហារសម្រន់ ហើយបរិយាកាសការងារគឺធម្មតា (ធាតុចូល៖ 0011) នោះផលបូកដែលមានទម្ងន់នឹងស្មើនឹង 2 ដែលមានន័យថាទិន្នផលនៃ ណឺរ៉ូននឹងស្មើនឹង 0។ ដូច្នេះ យើងនឹងមិនទៅណាទេ។

ជាទូទៅ ណឺរ៉ូនមើលលើផលបូកទម្ងន់ ហើយប្រសិនបើវាធំជាងកម្រិតរបស់វា នោះណឺរ៉ូនបង្កើតលទ្ធផលស្មើនឹង 1 ។

ជាក្រាហ្វិក មុខងារធ្វើឱ្យសកម្មនេះអាចត្រូវបានបង្ហាញដូចខាងក្រោម។

អ័ក្ស​ផ្ដេក​មាន​តម្លៃ​នៃ​ផលបូក​ទម្ងន់។ នៅលើអ័ក្សបញ្ឈរគឺជាតម្លៃសញ្ញាទិន្នផល។ ដូចដែលវាងាយស្រួលមើល មានតែតម្លៃពីរនៃសញ្ញាទិន្នផលប៉ុណ្ណោះដែលអាចធ្វើបាន៖ 0 ឬ 1។ លើសពីនេះ 0 នឹងតែងតែជាលទ្ធផលពីដកគ្មានដែនកំណត់រហូតដល់តម្លៃជាក់លាក់នៃផលបូកទម្ងន់ដែលហៅថាកម្រិត។ ប្រសិនបើផលបូកទម្ងន់ស្មើនឹង ឬធំជាងកម្រិតកំណត់ នោះអនុគមន៍ត្រឡប់ 1។ អ្វីៗទាំងអស់គឺសាមញ្ញបំផុត។

ឥឡូវនេះ ចូរយើងសរសេរមុខងារធ្វើឱ្យសកម្មនេះតាមគណិតវិទ្យា។ អ្នកពិតជាបានឆ្លងកាត់គំនិតនៃមុខងារផ្សំមួយ។ នេះគឺជាពេលដែលយើងបញ្ចូលគ្នានូវច្បាប់ជាច្រើននៅក្រោមមុខងារមួយ ដែលតម្លៃរបស់វាត្រូវបានគណនា។ នៅក្នុងទម្រង់នៃអនុគមន៍ផ្សំ អនុគមន៍លោតតែមួយនឹងមើលទៅដូចនេះ៖

\\ [ ចេញ (សុទ្ធ) = \\ ចាប់ផ្តើម (ករណី) ០, សុទ្ធ< b \\ 1, net \geq b \end{cases} \]

មិនមានអ្វីស្មុគស្មាញអំពីការថតនេះទេ។ លទ្ធផលនៃណឺរ៉ូន (\(ចេញ \) ) អាស្រ័យទៅលើផលបូកទម្ងន់ (\(net \)) ​​ដូចតទៅ៖ ប្រសិនបើ \(សុទ្ធ \) ​ (ផលបូកទម្ងន់) តិចជាងកម្រិតមួយចំនួន (​ \(b \ ) ​) បន្ទាប់មក \(ចេញ \) ​(ទិន្នផល​ណឺរ៉ូន) ស្មើនឹង 0។ ហើយ​ប្រសិនបើ \(net \) ​ធំជាង ឬស្មើ​នឹង​កម្រិត \(b \) ​​បន្ទាប់មក \\ (ចេញ \\) ស្មើនឹង ១ ។

មុខងារ Sigmoid

តាមការពិត មានក្រុមគ្រួសារទាំងមូលនៃមុខងារ sigmoid ដែលមួយចំនួនត្រូវបានគេប្រើជាមុខងារធ្វើឱ្យសកម្មនៅក្នុងណឺរ៉ូនសិប្បនិម្មិត។

មុខងារទាំងអស់នេះមានលក្ខណៈសម្បត្តិមានប្រយោជន៍ខ្លាំងណាស់ ដែលពួកវាត្រូវបានប្រើនៅក្នុងបណ្តាញសរសៃប្រសាទ។ លក្ខណៈសម្បត្តិទាំងនេះនឹងបង្ហាញឱ្យឃើញនៅពេលដែលអ្នកឃើញក្រាហ្វនៃមុខងារទាំងនេះ។

ដូច្នេះ... sigmoid ដែលប្រើជាទូទៅបំផុតនៅក្នុងបណ្តាញសរសៃប្រសាទគឺ មុខងារដឹកជញ្ជូន.

ក្រាហ្វនៃមុខងារនេះមើលទៅសាមញ្ញណាស់។ ប្រសិនបើអ្នកក្រឡេកមើលឱ្យជិតអ្នកអាចឃើញភាពស្រដៀងគ្នាមួយចំនួន អក្សរអង់គ្លេស​​(S \\) ដែលជាឈ្មោះគ្រួសារនៃមុខងារទាំងនេះមកពី។

ហើយនេះជារបៀបដែលវាត្រូវបានសរសេរដោយវិភាគ៖

\[ ចេញ(សុទ្ធ)=\frac(1)(1+\exp(-a \cdot net)) \\]

តើប៉ារ៉ាម៉ែត្រ \(a \) គឺជាអ្វី? នេះគឺជាលេខមួយចំនួនដែលកំណត់កម្រិតនៃភាពចោតនៃមុខងារ។ ខាងក្រោម​នេះ​ជា​មុខងារ​ភស្តុភារ​ជាមួយ ប៉ារ៉ាម៉ែត្រផ្សេងគ្នា\\ (a\) ។

ចូរយើងចងចាំណឺរ៉ូនសិប្បនិម្មិតរបស់យើងដែលកំណត់ថាតើវាចាំបាច់ដើម្បីទៅសមុទ្រ។ ក្នុងករណីមុខងារលោតតែមួយ អ្វីគ្រប់យ៉ាងគឺជាក់ស្តែង។ យើងទៅសមុទ្រ (1) ឬមិន (0) ។

នៅទីនេះករណីគឺខិតទៅជិតការពិត។ យើងមិនប្រាកដទាំងស្រុងទេ (ជាពិសេសប្រសិនបើអ្នកមានការភ័យខ្លាច) - តើវាសមនឹងទៅទេ? បន្ទាប់មក ការប្រើប្រាស់មុខងារ logistic ជាមុខងារធ្វើឱ្យសកម្មនឹងនាំឱ្យអ្នកទទួលបានលេខចន្លោះពី 0 និង 1។ លើសពីនេះ ផលបូកទម្ងន់កាន់តែធំ លទ្ធផលនឹងកាន់តែជិតដល់ 1 (ប៉ុន្តែនឹងមិនដែលស្មើនឹងវាទេ)។ ផ្ទុយទៅវិញ ផលបូកដែលមានទម្ងន់កាន់តែតូច លទ្ធផលនៃណឺរ៉ូនកាន់តែខិតទៅជិត 0 ។

ឧទាហរណ៍ទិន្នផលនៃណឺរ៉ូនរបស់យើងគឺ 0.8 ។ នេះ​មាន​ន័យ​ថា​គាត់​ជឿ​ថា​ទៅ​លេង​សមុទ្រ​នៅ​តែ​មាន​តម្លៃ។ ប្រសិនបើទិន្នផលរបស់គាត់ស្មើនឹង 0.2 នោះមានន័យថាគាត់ស្ទើរតែប្រឆាំងនឹងការទៅសមុទ្រ។

តើមុខងារភ័ស្តុភារមានលក្ខណៈសម្បត្តិគួរឱ្យកត់សម្គាល់អ្វីខ្លះ?

  • វាគឺជាមុខងារ "បង្ហាប់" ពោលគឺដោយមិនគិតពីអាគុយម៉ង់ (ផលបូកទម្ងន់) សញ្ញាលទ្ធផលនឹងស្ថិតនៅក្នុងចន្លោះពី 0 ដល់ 1 ជានិច្ច។
  • វាមានភាពបត់បែនជាងមុខងារលោតតែមួយ - លទ្ធផលរបស់វាអាចមិនត្រឹមតែ 0 និង 1 ប៉ុណ្ណោះទេ ប៉ុន្តែលេខណាមួយនៅចន្លោះ
  • នៅគ្រប់ចំណុចទាំងអស់វាមានដេរីវេ ហើយដេរីវេនេះអាចត្រូវបានបង្ហាញតាមរយៈមុខងារដូចគ្នា។

វាគឺដោយសារតែលក្ខណៈសម្បត្តិទាំងនេះដែលមុខងារ logistic ត្រូវបានគេប្រើញឹកញាប់បំផុតជាមុខងារធ្វើឱ្យសកម្មនៅក្នុងសរសៃប្រសាទសិប្បនិម្មិត។

តង់ហ្សង់អ៊ីពែរបូល

ទោះយ៉ាងណាក៏ដោយមាន sigmoid មួយទៀត - តង់ហ្សង់អ៊ីពែរបូល។ វាត្រូវបានប្រើជាមុខងារធ្វើឱ្យសកម្មដោយអ្នកជីវវិទូ ដើម្បីបង្កើតគំរូជាក់ស្តែងបន្ថែមទៀតនៃកោសិកាសរសៃប្រសាទ។

មុខងារនេះអនុញ្ញាតឱ្យអ្នកទទួលបានតម្លៃលទ្ធផលនៃសញ្ញាផ្សេងគ្នា (ឧទាហរណ៍ពី -1 ដល់ 1) ដែលអាចមានប្រយោជន៍សម្រាប់បណ្តាញមួយចំនួន។

មុខងារត្រូវបានសរសេរដូចខាងក្រោមៈ

\[ ចេញ(សុទ្ធ) = \tanh\left(\frac(net)(a)\right) \]

នៅក្នុងរូបមន្តខាងលើ ប៉ារ៉ាម៉ែត្រ \(a \) ក៏កំណត់កម្រិតនៃភាពចោតនៃក្រាហ្វនៃមុខងារនេះផងដែរ។

ហើយនេះគឺជាអ្វីដែលក្រាហ្វនៃមុខងារនេះមើលទៅ។

ដូចដែលអ្នកអាចឃើញវាមើលទៅដូចជាក្រាហ្វនៃមុខងារភ័ស្តុភារ។ តង់ហ្សង់អ៊ីពែរបូលមានលក្ខណៈសម្បត្តិមានប្រយោជន៍ទាំងអស់ដែលមុខងារដឹកជញ្ជូនមាន។

តើយើងបានរៀនអ្វីខ្លះ?

ឥឡូវនេះអ្នកមានការយល់ដឹងពេញលេញអំពីរចនាសម្ព័ន្ធខាងក្នុងនៃណឺរ៉ូនសិប្បនិម្មិតមួយ។ ខ្ញុំនឹងយកវាមកម្តងទៀត ការពិពណ៌នាខ្លីស្នាដៃរបស់គាត់។

ណឺរ៉ូនមានធាតុចូល។ ពួកគេទទួលសញ្ញាក្នុងទម្រង់ជាលេខ។ ការបញ្ចូលនីមួយៗមានទម្ងន់ផ្ទាល់ខ្លួន (ក៏ជាលេខផងដែរ) ។ សញ្ញាបញ្ចូលត្រូវបានគុណនឹងទម្ងន់ដែលត្រូវគ្នា។ យើងទទួលបានសំណុំនៃសញ្ញាបញ្ចូល "ទម្ងន់" ។

បន្ទាប់មក ផលបូកទម្ងន់ត្រូវបានបំប្លែង មុខងារធ្វើឱ្យសកម្មហើយយើងទទួលបាន ទិន្នផលណឺរ៉ូន.

ឥឡូវ​នេះ​សូម​ឱ្យ​យើង​បង្កើត​ឱ្យ​បាន​ច្រើន​បំផុត​ ការពិពណ៌នាខ្លីប្រតិបត្តិការនៃណឺរ៉ូន - គំរូគណិតវិទ្យារបស់វា៖

គំរូគណិតវិទ្យានៃណឺរ៉ូនសិប្បនិម្មិតជាមួយនឹងការបញ្ចូល \(n \)៖

កន្លែងណា
\\ (\phi \\) - មុខងារធ្វើឱ្យសកម្ម
\(\sum\limits^n_(i=1)x_iw_i \)- ផលបូកទម្ងន់ ជាផលបូកនៃ \(n\) ផលិតផលនៃសញ្ញាបញ្ចូលដោយទម្ងន់ដែលត្រូវគ្នា។

ប្រភេទនៃ ANN

យើងបានរកឃើញរចនាសម្ព័ន្ធនៃណឺរ៉ូនសិប្បនិម្មិត។ បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតមានបណ្តុំនៃណឺរ៉ូនសិប្បនិម្មិត។ សំណួរឡូជីខលកើតឡើង - របៀបដាក់ / ភ្ជាប់សរសៃប្រសាទសិប្បនិម្មិតដូចគ្នាទាំងនេះទៅគ្នាទៅវិញទៅមក?

តាមក្បួនមួយបណ្តាញសរសៃប្រសាទភាគច្រើនមានអ្វីដែលហៅថា ស្រទាប់បញ្ចូលដែលអនុវត្តភារកិច្ចតែមួយ - ចែកចាយសញ្ញាបញ្ចូលទៅកាន់ណឺរ៉ូនផ្សេងទៀត។ ណឺរ៉ូននៅក្នុងស្រទាប់នេះមិនធ្វើការគណនាណាមួយឡើយ។

បណ្តាញសរសៃប្រសាទតែមួយស្រទាប់

នៅក្នុងបណ្តាញសរសៃប្រសាទស្រទាប់តែមួយ សញ្ញាពីស្រទាប់បញ្ចូលត្រូវបានបញ្ចូលភ្លាមៗទៅកាន់ស្រទាប់លទ្ធផល។ វាអនុវត្តការគណនាចាំបាច់ដែលលទ្ធផលត្រូវបានបញ្ជូនទៅលទ្ធផលភ្លាមៗ។

បណ្តាញសរសៃប្រសាទស្រទាប់តែមួយមើលទៅដូចនេះ៖

នៅក្នុងរូបភាពនេះ ស្រទាប់បញ្ចូលត្រូវបានចង្អុលបង្ហាញដោយរង្វង់ (វាមិនត្រូវបានគេចាត់ទុកថាជាស្រទាប់បណ្តាញសរសៃប្រសាទទេ) ហើយនៅខាងស្តាំគឺជាស្រទាប់នៃណឺរ៉ូនធម្មតា។

ណឺរ៉ូនត្រូវបានភ្ជាប់ទៅគ្នាទៅវិញទៅមកដោយព្រួញ។ ខាងលើព្រួញគឺជាទម្ងន់នៃការតភ្ជាប់ដែលត្រូវគ្នា (មេគុណទម្ងន់)។

បណ្តាញសរសៃប្រសាទស្រទាប់តែមួយ (បណ្តាញសរសៃប្រសាទតែមួយស្រទាប់) - បណ្តាញដែលសញ្ញាពីស្រទាប់បញ្ចូលត្រូវបានបញ្ចូលភ្លាមៗទៅស្រទាប់ទិន្នផល ដែលបំប្លែងសញ្ញា និងបង្កើតការឆ្លើយតបភ្លាមៗ។

បណ្តាញសរសៃប្រសាទពហុស្រទាប់

បណ្តាញបែបនេះ បន្ថែមពីលើស្រទាប់បញ្ចូល និងទិន្នផលនៃណឺរ៉ូន ក៏ត្រូវបានកំណត់លក្ខណៈដោយស្រទាប់លាក់ (ស្រទាប់)។ ទីតាំងរបស់ពួកគេងាយយល់ - ស្រទាប់ទាំងនេះស្ថិតនៅចន្លោះស្រទាប់បញ្ចូល និងទិន្នផល។

រចនាសម្ព័ន្ធនៃបណ្តាញសរសៃប្រសាទនេះចម្លងរចនាសម្ព័ន្ធពហុស្រទាប់នៃផ្នែកខ្លះនៃខួរក្បាល។

វាមិនមែនជារឿងចៃដន្យទេដែលស្រទាប់លាក់ខ្លួនបានទទួលឈ្មោះរបស់វា។ ការពិតគឺថាថ្មីៗនេះមានតែវិធីសាស្រ្តសម្រាប់ការបណ្តុះបណ្តាលសរសៃប្រសាទស្រទាប់លាក់កំបាំងប៉ុណ្ណោះដែលត្រូវបានបង្កើតឡើង។ មុនពេលនេះមានតែបណ្តាញសរសៃប្រសាទស្រទាប់តែមួយប៉ុណ្ណោះដែលត្រូវបានប្រើប្រាស់។

បណ្តាញសរសៃប្រសាទពហុស្រទាប់មានច្រើន។ ឱកាសដ៏អស្ចារ្យជាងស្រទាប់តែមួយ។

ការងារនៃស្រទាប់លាក់នៃណឺរ៉ូនអាចប្រៀបធៀបទៅនឹងការងាររបស់រោងចក្រធំមួយ។ ផលិតផល (សញ្ញាទិន្នផល) នៅរោងចក្រត្រូវបានផ្គុំជាដំណាក់កាល។ បន្ទាប់ពីម៉ាស៊ីននីមួយៗ លទ្ធផលកម្រិតមធ្យមមួយចំនួនត្រូវបានទទួល។ ស្រទាប់ដែលលាក់ក៏បំលែងសញ្ញាបញ្ចូលទៅក្នុងលទ្ធផលកម្រិតមធ្យមមួយចំនួនផងដែរ។

បណ្តាញសរសៃប្រសាទពហុស្រទាប់ (បណ្តាញសរសៃប្រសាទពហុស្រទាប់) - បណ្តាញសរសៃប្រសាទដែលមានធាតុបញ្ចូល ទិន្នផល និងមួយ (ជាច្រើន) ស្រទាប់លាក់នៃណឺរ៉ូនដែលស្ថិតនៅចន្លោះពួកវា។

បណ្តាញចែកចាយផ្ទាល់

អ្នកអាចកត់សម្គាល់ព័ត៌មានលម្អិតគួរឱ្យចាប់អារម្មណ៍មួយនៅក្នុងរូបភាពនៃបណ្តាញសរសៃប្រសាទនៅក្នុងឧទាហរណ៍ខាងលើ។

នៅក្នុងឧទាហរណ៍ទាំងអស់ ព្រួញទៅយ៉ាងតឹងរ៉ឹងពីឆ្វេងទៅស្តាំ ពោលគឺសញ្ញានៅក្នុងបណ្តាញបែបនេះទៅយ៉ាងតឹងរ៉ឹងពីស្រទាប់បញ្ចូលទៅស្រទាប់លទ្ធផល។

បណ្តាញចែកចាយផ្ទាល់ (បណ្តាញសរសៃប្រសាទ Feedforward) (បណ្តាញ feedforward) - បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតដែលសញ្ញាបន្តផ្សាយយ៉ាងតឹងរ៉ឹងពីស្រទាប់បញ្ចូលទៅស្រទាប់ទិន្នផល។ IN ទិសដៅបញ្ច្រាសសញ្ញាមិនរីករាលដាលទេ។

បណ្តាញបែបនេះត្រូវបានប្រើប្រាស់យ៉ាងទូលំទូលាយ ហើយដោះស្រាយបញ្ហាមួយចំនួនដោយជោគជ័យ៖ ការព្យាករណ៍ ការចង្កោម និងការទទួលស្គាល់។

ទោះ​ជា​យ៉ាង​ណា​ក៏​ដោយ គ្មាន​អ្នក​ណា​ហាម​ឃាត់​សញ្ញា​ដើម្បី​ទៅ​ឡើយ។ ផ្នែកខាងបញ្ច្រាស.

បណ្តាញផ្តល់មតិ

នៅក្នុងបណ្តាញនៃប្រភេទនេះ សញ្ញាក៏អាចទៅក្នុងទិសដៅផ្ទុយផងដែរ។ តើមានអត្ថប្រយោជន៍អ្វី?

ការពិតគឺថានៅក្នុងបណ្តាញ feedforward លទ្ធផលនៃបណ្តាញត្រូវបានកំណត់ដោយសញ្ញាបញ្ចូលនិងមេគុណទម្ងន់សម្រាប់ណឺរ៉ូនសិប្បនិម្មិត។

ហើយនៅក្នុងបណ្តាញជាមួយ មតិកែលម្អលទ្ធផលនៃណឺរ៉ូនអាចត្រលប់ទៅធាតុបញ្ចូល។ នេះមានន័យថាទិន្នផលនៃណឺរ៉ូនត្រូវបានកំណត់មិនត្រឹមតែដោយទម្ងន់ និងសញ្ញាបញ្ចូលរបស់វាប៉ុណ្ណោះទេ ប៉ុន្តែក៏ដោយលទ្ធផលពីមុន (ចាប់តាំងពីពួកគេបានត្រលប់ទៅធាតុបញ្ចូលម្តងទៀត)។

សមត្ថភាព​នៃ​សញ្ញា​ដើម្បី​ចរាចរ​ក្នុង​បណ្តាញ​មួយ​បើក​លទ្ធភាព​ថ្មី​អស្ចារ្យ​សម្រាប់​បណ្តាញ​សរសៃប្រសាទ។ ដោយប្រើបណ្តាញបែបនេះ អ្នកអាចបង្កើតបណ្តាញសរសៃប្រសាទដែលស្ដារ ឬបំពេញបន្ថែមសញ្ញា។ នៅក្នុងពាក្យផ្សេងទៀតបណ្តាញសរសៃប្រសាទបែបនេះមានលក្ខណៈសម្បត្តិ ការ​ចងចាំ​រយៈពេល​ខ្លី(ដូចជាមនុស្ស) ។

បណ្តាញផ្តល់មតិ (បណ្តាញសរសៃប្រសាទកើតឡើងវិញ។) - បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតដែលទិន្នផលនៃណឺរ៉ូនអាចត្រូវបានផ្តល់អាហារត្រលប់ទៅការបញ្ចូលរបស់វា។ ជាទូទៅ នេះមានន័យថាសមត្ថភាពក្នុងការផ្សព្វផ្សាយសញ្ញាពីទិន្នផលទៅធាតុបញ្ចូល។

ការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទ

ឥឡូវនេះសូមក្រឡេកមើលបញ្ហានៃការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទនៅក្នុងលម្អិតបន្ថែមទៀត។ តើ​វា​ជា​អ្វី? ហើយ​តើ​វា​កើត​ឡើង​ដោយ​របៀប​ណា?

តើការបណ្តុះបណ្តាលបណ្តាញគឺជាអ្វី?

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតគឺជាការប្រមូលផ្តុំនៃសរសៃប្រសាទសិប្បនិម្មិត។ ឥឡូវនេះ ចូរយើងយកឧទាហរណ៍ 100 ណឺរ៉ូន ហើយភ្ជាប់ពួកវាទៅគ្នាទៅវិញទៅមក។ វាច្បាស់ណាស់ថានៅពេលដែលយើងអនុវត្តសញ្ញាទៅធាតុបញ្ចូលយើងនឹងទទួលបានអ្វីដែលគ្មានន័យនៅទិន្នផល។

នេះមានន័យថាយើងត្រូវផ្លាស់ប្តូរប៉ារ៉ាម៉ែត្របណ្តាញមួយចំនួនរហូតដល់សញ្ញាបញ្ចូលត្រូវបានបម្លែងទៅជាទិន្នផលដែលយើងត្រូវការ។

តើយើងអាចផ្លាស់ប្តូរអ្វីខ្លះនៅក្នុងបណ្តាញសរសៃប្រសាទ?

ការផ្លាស់ប្តូរចំនួនសរុបនៃណឺរ៉ូនសិប្បនិម្មិតគ្មានន័យសម្រាប់ហេតុផលពីរ។ ទីមួយ ការបង្កើនចំនួនធាតុកុំព្យូទ័រទាំងមូលធ្វើឱ្យប្រព័ន្ធកាន់តែធ្ងន់ និងលែងត្រូវការតទៅទៀត។ ទីពីរ ប្រសិនបើអ្នកប្រមូលមនុស្សល្ងីល្ងើ 1000 នាក់ជំនួសឱ្យ 100 ពួកគេនៅតែមិនអាចឆ្លើយសំណួរបានត្រឹមត្រូវ។

សារធាតុបន្ថែមមិនអាចផ្លាស់ប្តូរបានទេ ដោយសារវាដំណើរការយ៉ាងតឹងរ៉ឹង មុខងារដែលបានផ្តល់ឱ្យ- បត់។ ប្រសិនបើយើងជំនួសវាដោយអ្វីមួយ ឬដកវាចេញទាំងស្រុង នោះវានឹងលែងជាណឺរ៉ូនសិប្បនិម្មិតទៀតហើយ។

ប្រសិនបើយើងផ្លាស់ប្តូរមុខងារធ្វើឱ្យសកម្មនៃណឺរ៉ូននីមួយៗ នោះយើងនឹងទទួលបានបណ្តាញសរសៃប្រសាទដែលខុសពីធម្មតា និងមិនអាចគ្រប់គ្រងបាន។ លើសពីនេះទៀត ក្នុងករណីភាគច្រើន ណឺរ៉ូននៅក្នុងបណ្តាញសរសៃប្រសាទមានប្រភេទដូចគ្នា។ នោះគឺពួកវាទាំងអស់មានមុខងារធ្វើឱ្យសកម្មដូចគ្នា។

នៅសល់ជម្រើសតែមួយគត់ - ផ្លាស់ប្តូរទម្ងន់នៃការតភ្ជាប់.

ការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទ (ការបណ្តុះបណ្តាល)- ស្វែងរកសំណុំនៃមេគុណទម្ងន់ដែលសញ្ញាបញ្ចូលបន្ទាប់ពីឆ្លងកាត់បណ្តាញត្រូវបានបម្លែងទៅជាទិន្នផលដែលយើងត្រូវការ។

វិធីសាស្រ្តនេះចំពោះពាក្យ "ការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទ" ក៏ត្រូវគ្នាទៅនឹងបណ្តាញសរសៃប្រសាទជីវសាស្រ្តផងដែរ។ ខួរក្បាលរបស់យើងមានបណ្តាញសរសៃប្រសាទជាច្រើនដែលតភ្ជាប់គ្នាទៅវិញទៅមក។ ពួកគេម្នាក់ៗមានណឺរ៉ូននៃប្រភេទដូចគ្នា (មុខងារធ្វើឱ្យសកម្មគឺដូចគ្នា) ។ យើងរៀនដោយការផ្លាស់ប្តូរ synapses - ធាតុដែលពង្រឹង / ចុះខ្សោយនៃសញ្ញាបញ្ចូល។

ទោះយ៉ាងណាក៏ដោយមានមួយទៀត ចំណុចសំខាន់. ប្រសិនបើអ្នកហ្វឹកហាត់បណ្តាញដោយប្រើសញ្ញាបញ្ចូលតែមួយ នោះបណ្តាញនឹងគ្រាន់តែ "ចងចាំចម្លើយដែលត្រឹមត្រូវ"។ ពីខាងក្រៅវាហាក់ដូចជានាង "រៀន" យ៉ាងឆាប់រហ័ស។ ហើយដរាបណាអ្នកផ្តល់សញ្ញាដែលបានកែប្រែបន្តិច ដោយរំពឹងថានឹងឃើញចម្លើយត្រឹមត្រូវ បណ្តាញនឹងបង្កើតភាពសមហេតុសមផល។

តាមពិត ហេតុអ្វីបានជាយើងត្រូវការបណ្តាញដែលរកឃើញមុខក្នុងរូបថតតែមួយ? យើងរំពឹងថាបណ្តាញនឹងអាច ទូទៅសញ្ញាមួយចំនួន និងសម្គាល់មុខនៅក្នុងរូបថតផ្សេងទៀតផងដែរ។

វាគឺសម្រាប់គោលបំណងនេះដែលពួកគេត្រូវបានបង្កើតឡើង គំរូបណ្តុះបណ្តាល.

សំណុំបណ្តុះបណ្តាល (សំណុំបណ្តុះបណ្តាល) គឺជាសំណុំកំណត់នៃសញ្ញាបញ្ចូល (ជួនកាលរួមជាមួយនឹងសញ្ញាលទ្ធផលត្រឹមត្រូវ) ដែលបណ្តាញត្រូវបានបណ្តុះបណ្តាល។

បន្ទាប់ពីបណ្តាញត្រូវបានបណ្តុះបណ្តាល នោះមានន័យថា នៅពេលដែលបណ្តាញបង្កើតលទ្ធផលត្រឹមត្រូវសម្រាប់សញ្ញាបញ្ចូលទាំងអស់ពីសំណុំហ្វឹកហ្វឺន វាអាចប្រើប្រាស់ក្នុងការអនុវត្តជាក់ស្តែង។

ទោះជាយ៉ាងណាក៏ដោយ មុនពេលចាប់ផ្តើមបណ្តាញសរសៃប្រសាទដែលទើបតែដុតនំថ្មីចូលទៅក្នុងសមរភូមិ គុណភាពនៃការងាររបស់វាត្រូវបានវាយតម្លៃជាញឹកញាប់លើអ្វីដែលគេហៅថា គំរូសាកល្បង.

គំរូសាកល្បង (សំណុំតេស្ត) - សំណុំកំណត់នៃសញ្ញាបញ្ចូល (ជួនកាលរួមជាមួយនឹងសញ្ញាលទ្ធផលត្រឹមត្រូវ) ដែលគុណភាពនៃប្រតិបត្តិការបណ្តាញត្រូវបានវាយតម្លៃ។

យើងបានយល់ពីអ្វីដែល "ការបណ្តុះបណ្តាលបណ្តាញ" គឺ - ការជ្រើសរើសសំណុំទម្ងន់ត្រឹមត្រូវ។ ឥឡូវនេះសំណួរកើតឡើង - តើអ្នកអាចបណ្តុះបណ្តាលបណ្តាញដោយរបៀបណា? នៅក្នុងករណីទូទៅបំផុត មានវិធីសាស្រ្តពីរដែលនាំទៅរកលទ្ធផលផ្សេងៗគ្នា៖ ការរៀនសូត្រតាមការត្រួតពិនិត្យ និងការរៀនដោយគ្មានការត្រួតពិនិត្យ។

ការបណ្តុះបណ្តាលដែលបានណែនាំ

ខ្លឹមសារនៃវិធីសាស្រ្តនេះគឺថាអ្នកផ្តល់សញ្ញាជាធាតុបញ្ចូល មើលការឆ្លើយតបរបស់បណ្តាញ ហើយបន្ទាប់មកប្រៀបធៀបវាជាមួយនឹងការឆ្លើយតបត្រឹមត្រូវដែលត្រៀមរួចជាស្រេច។

ចំណុចសំខាន់។ កុំច្រឡំចម្លើយត្រឹមត្រូវជាមួយក្បួនដោះស្រាយដំណោះស្រាយដែលគេស្គាល់! អ្នកអាចតាមដានមុខនៅក្នុងរូបថតដោយប្រើម្រាមដៃរបស់អ្នក (ចម្លើយត្រឹមត្រូវ) ប៉ុន្តែអ្នកនឹងមិនអាចប្រាប់ពីរបៀបដែលអ្នកធ្វើវាបានទេ (ក្បួនដោះស្រាយល្បី)។ ស្ថានភាពគឺដូចគ្នានៅទីនេះ។

បន្ទាប់មក ដោយប្រើក្បួនដោះស្រាយពិសេស អ្នកផ្លាស់ប្តូរទម្ងន់នៃការតភ្ជាប់បណ្តាញសរសៃប្រសាទ ហើយផ្តល់សញ្ញាបញ្ចូលម្តងទៀត។ អ្នកប្រៀបធៀបចម្លើយរបស់វាជាមួយនឹងចម្លើយដែលត្រឹមត្រូវ ហើយដំណើរការនេះម្តងទៀតរហូតដល់បណ្តាញចាប់ផ្តើមឆ្លើយតបជាមួយនឹងភាពត្រឹមត្រូវដែលអាចទទួលយកបាន (ដូចដែលខ្ញុំបាននិយាយនៅក្នុងជំពូកទី 1 បណ្តាញមិនអាចផ្តល់ចម្លើយត្រឹមត្រូវដោយមិនច្បាស់លាស់)។

ការបណ្តុះបណ្តាលដែលបានណែនាំ (ការ​សិក្សា​ដែល​បាន​ត្រួត​ពិនិត្យ) គឺជាប្រភេទនៃការបណ្តុះបណ្តាលបណ្តាញដែលទម្ងន់របស់វាត្រូវបានផ្លាស់ប្តូរ ដូច្នេះចម្លើយរបស់បណ្តាញមានភាពខុសគ្នាតិចតួចពីចម្លើយត្រឹមត្រូវដែលបានរៀបចំរួចហើយ។

តើខ្ញុំអាចទទួលបានចម្លើយត្រឹមត្រូវនៅឯណា?

ប្រសិនបើយើងចង់ឱ្យបណ្តាញសម្គាល់មុខ យើងអាចបង្កើតឈុតបណ្តុះបណ្តាលនៃរូបថតចំនួន 1000 (សញ្ញាបញ្ចូល) ហើយជ្រើសរើសមុខដោយឯករាជ្យពីវា (ចម្លើយត្រឹមត្រូវ)។

ប្រសិនបើយើងចង់ឱ្យបណ្តាញព្យាករណ៍ពីការកើនឡើង/ការធ្លាក់ចុះតម្លៃ នោះគំរូបណ្តុះបណ្តាលត្រូវតែធ្វើឡើងដោយផ្អែកលើទិន្នន័យកន្លងមក។ អ្នកអាចយកជាសញ្ញាបញ្ចូល ថ្ងៃជាក់លាក់, រដ្ឋទូទៅទីផ្សារ និងប៉ារ៉ាម៉ែត្រផ្សេងទៀត។ ហើយ​ចម្លើយ​ដែល​ត្រឹមត្រូវ​គឺ​ការ​ឡើង​ចុះ​នៃ​តម្លៃ​ក្នុង​សម័យ​នោះ។

គួរកត់សំគាល់ថា លោកគ្រូ អ្នកគ្រូ មិនចាំបាច់ជាបុគ្គលនោះទេ។ ការពិតគឺថា ពេលខ្លះបណ្តាញត្រូវហ្វឹកហាត់រាប់ម៉ោង និងច្រើនថ្ងៃ ធ្វើឱ្យមានការប៉ុនប៉ងរាប់ពាន់ដង។ ក្នុង 99% នៃករណី តួនាទីនេះត្រូវបានអនុវត្តដោយកុំព្យូទ័រ ឬច្បាស់ជាងនេះទៅទៀត កម្មវិធីកុំព្យូទ័រពិសេស។

ការ​សិក្សា​ដែល​មិន​មាន​ការ​ត្រួត​ពិនិត្យ

ការរៀនដែលគ្មានការត្រួតពិនិត្យត្រូវបានប្រើនៅពេលដែលយើងមិនមានចម្លើយត្រឹមត្រូវចំពោះសញ្ញាបញ្ចូល។ ក្នុងករណីនេះសំណុំហ្វឹកហាត់ទាំងមូលមានសំណុំនៃសញ្ញាបញ្ចូល។

តើមានអ្វីកើតឡើងនៅពេលដែលបណ្តាញត្រូវបានបណ្តុះបណ្តាលតាមរបៀបនេះ? វាប្រែថាជាមួយនឹង "ការបណ្តុះបណ្តាល" បណ្តាញចាប់ផ្តើមដើម្បីបែងចែកថ្នាក់នៃសញ្ញាដែលបានផ្គត់ផ្គង់ទៅធាតុបញ្ចូល។ និយាយឱ្យខ្លី បណ្តាញចាប់ផ្តើមចង្កោម។

ឧទាហរណ៍ អ្នកបង្ហាញស្ករគ្រាប់ កុម្មង់នំ និងនំទៅបណ្តាញ។ អ្នកមិនគ្រប់គ្រងប្រតិបត្តិការបណ្តាញតាមមធ្យោបាយណាមួយឡើយ។ អ្នកគ្រាន់តែបញ្ជូនទិន្នន័យអំពីវត្ថុនេះទៅធាតុចូលរបស់វា។ យូរ ៗ ទៅបណ្តាញនឹងចាប់ផ្តើមបង្កើតសញ្ញានៃបីប្រភេទផ្សេងគ្នាដែលទទួលខុសត្រូវចំពោះវត្ថុនៅឯធាតុបញ្ចូល។

ការ​សិក្សា​ដែល​មិន​មាន​ការ​ត្រួត​ពិនិត្យ (ការ​សិក្សា​ដែល​មិន​មាន​ការ​ត្រួត​ពិនិត្យ) គឺជាប្រភេទនៃការបណ្តុះបណ្តាលបណ្តាញដែលបណ្តាញបែងចែកដោយឯករាជ្យនូវសញ្ញាបញ្ចូល។ សញ្ញាលទ្ធផលត្រឹមត្រូវ (យោង) មិនត្រូវបានបង្ហាញទេ។

ការសន្និដ្ឋាន

នៅក្នុងជំពូកនេះ អ្នកបានរៀនអ្វីគ្រប់យ៉ាងអំពីរចនាសម្ព័ន្ធនៃណឺរ៉ូនសិប្បនិម្មិត ក៏ដូចជាការយល់ដឹងអំពីរបៀបដែលវាដំណើរការ (និងគំរូគណិតវិទ្យារបស់វា)។

លើសពីនេះទៅទៀតឥឡូវនេះអ្នកដឹងអំពី ប្រភេទផ្សេងៗបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត៖ ស្រទាប់តែមួយ ពហុស្រទាប់ ក៏ដូចជាបណ្តាញ feedforward និងបណ្តាញដែលមានមតិកែលម្អ។

អ្នកក៏បានរៀនអំពីការរៀនបណ្តាញដែលមានការគ្រប់គ្រង និងគ្មានការត្រួតពិនិត្យ

អ្នកដឹងរួចហើយ ទ្រឹស្តីចាំបាច់. ជំពូកបន្តបន្ទាប់រួមមានការពិចារណាអំពីប្រភេទជាក់លាក់នៃបណ្តាញសរសៃប្រសាទ ក្បួនដោះស្រាយជាក់លាក់សម្រាប់ការបណ្តុះបណ្តាលរបស់ពួកគេ និងការអនុវត្តកម្មវិធី។

សំណួរនិងភារកិច្ច

អ្នកត្រូវដឹងពីសម្ភារៈនៅក្នុងជំពូកនេះឱ្យបានច្បាស់ ព្រោះវាមានមូលដ្ឋាន ព័ត៌មានទ្រឹស្តីនៅលើបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត។ ត្រូវប្រាកដថាទទួលបានចម្លើយប្រកបដោយទំនុកចិត្ត និងត្រឹមត្រូវចំពោះសំណួរ និងកិច្ចការទាំងអស់ខាងក្រោម។

ពិពណ៌នាអំពីភាពសាមញ្ញនៃ ANNs បើប្រៀបធៀបទៅនឹងបណ្តាញសរសៃប្រសាទជីវសាស្រ្ត។

1. រចនាសម្ព័ន្ធស្មុគ្រស្មាញ និងស្មុគ្រស្មាញនៃបណ្តាញសរសៃប្រសាទជីវសាស្រ្តត្រូវបានធ្វើឱ្យសាមញ្ញ និងតំណាងនៅក្នុងទម្រង់នៃដ្យាក្រាម។ នៅសល់តែម៉ូដែលដំណើរការសញ្ញាប៉ុណ្ណោះ។

2. ធម្មជាតិនៃសញ្ញាអគ្គិសនីនៅក្នុងបណ្តាញសរសៃប្រសាទគឺដូចគ្នា។ ភាពខុសគ្នាតែមួយគត់គឺទំហំរបស់ពួកគេ។ យើងដកសញ្ញាអគ្គិសនីចេញ ហើយជំនួសមកវិញនូវលេខដែលបង្ហាញពីទំហំនៃសញ្ញាបញ្ជូន។

មុខងារធ្វើឱ្យសកម្មត្រូវបានបញ្ជាក់ជាញឹកញាប់ដោយ \\(\phi(net) \\) .

សរសេរគំរូគណិតវិទ្យានៃណឺរ៉ូនសិប្បនិម្មិត។

ណឺរ៉ូន​សិប្បនិម្មិត​ដែល​មាន​ការ​បញ្ចូល \(n \) ​ បំប្លែង​សញ្ញា​បញ្ចូល (លេខ) ទៅជា​សញ្ញា​ទិន្នផល (លេខ) ដូចខាងក្រោម៖

\[ចេញ=\phi\left(\sum\limits^n_(i=1)x_iw_i\right) \]

តើអ្វីជាភាពខុសគ្នារវាងបណ្តាញសរសៃប្រសាទតែមួយស្រទាប់ និងស្រទាប់ពហុស្រទាប់?

បណ្តាញសរសៃប្រសាទតែមួយស្រទាប់មានស្រទាប់ប្រសាទគណនាតែមួយ។ ស្រទាប់បញ្ចូលបញ្ជូនសញ្ញាដោយផ្ទាល់ទៅស្រទាប់ទិន្នផល ដែលបំប្លែងសញ្ញា និងបង្កើតលទ្ធផលភ្លាមៗ។

បណ្តាញសរសៃប្រសាទពហុស្រទាប់ បន្ថែមពីលើស្រទាប់បញ្ចូល និងទិន្នផល ក៏មានស្រទាប់លាក់ផងដែរ។ ស្រទាប់លាក់ទាំងនេះអនុវត្តការបំប្លែងកម្រិតមធ្យមខាងក្នុងមួយចំនួន ដែលស្រដៀងទៅនឹងដំណាក់កាលនៃការផលិតផលិតផលនៅក្នុងរោងចក្រ។

តើអ្វីជាភាពខុសគ្នារវាងបណ្តាញ feedforward និងបណ្តាញមតិកែលម្អ?

បណ្តាញ Feedforward អនុញ្ញាតឱ្យសញ្ញាឆ្លងកាត់ក្នុងទិសដៅតែមួយ - ពីធាតុបញ្ចូលទៅទិន្នផល។ បណ្តាញដែលមានមតិកែលម្អមិនមានការរឹតបន្តឹងទាំងនេះទេ ហើយលទ្ធផលនៃណឺរ៉ូនអាចត្រូវបានបញ្ចូលទៅក្នុងធាតុបញ្ចូលវិញ។

តើឈុតហ្វឹកហាត់ជាអ្វី? តើវាមានន័យយ៉ាងណា?

មុនពេលប្រើបណ្តាញក្នុងការអនុវត្ត (ឧទាហរណ៍ដើម្បីដោះស្រាយ ភារកិច្ចបច្ចុប្បន្នដែលអ្នកមិនមានចម្លើយ) អ្នកត្រូវប្រមូលបណ្តុំនៃបញ្ហាជាមួយនឹងចម្លើយដែលត្រៀមរួចជាស្រេច ដើម្បីបណ្តុះបណ្តាលបណ្តាញ។ ការប្រមូលនេះត្រូវបានគេហៅថា សំណុំបណ្តុះបណ្តាល។

ប្រសិនបើអ្នកប្រមូលបណ្តុំនៃសញ្ញាបញ្ចូល និងទិន្នផលតូចពេក បណ្តាញនឹងចងចាំចម្លើយយ៉ាងសាមញ្ញ ហើយគោលដៅសិក្សានឹងមិនសម្រេចបានទេ។

តើការបណ្តុះបណ្តាលបណ្តាញមានន័យដូចម្តេច?

ការបណ្តុះបណ្តាលបណ្តាញគឺជាដំណើរការនៃការផ្លាស់ប្តូរមេគុណទម្ងន់នៃសរសៃប្រសាទសិប្បនិម្មិតនៃបណ្តាញដើម្បីជ្រើសរើសការរួមបញ្ចូលគ្នានៃពួកវាដែលបម្លែងសញ្ញាបញ្ចូលទៅជាលទ្ធផលត្រឹមត្រូវ។

តើ​អ្វី​ទៅ​ជា​ការ​សិក្សា​ដែល​ស្ថិត​ក្រោម​ការ​ត្រួត​ពិនិត្យ និង​គ្មាន​ការ​ត្រួត​ពិនិត្យ?

នៅពេលបណ្តុះបណ្តាលបណ្តាញជាមួយគ្រូ សញ្ញាត្រូវបានផ្តល់ទៅឱ្យធាតុចូលរបស់វា ហើយបន្ទាប់មកទិន្នផលរបស់វាត្រូវបានប្រៀបធៀបជាមួយនឹងទិន្នផលត្រឹមត្រូវដែលគេស្គាល់ពីមុន។ ដំណើរការនេះត្រូវបានធ្វើម្តងទៀតរហូតដល់ភាពត្រឹមត្រូវដែលត្រូវការនៃចម្លើយត្រូវបានសម្រេច។

ប្រសិនបើបណ្តាញផ្គត់ផ្គង់តែសញ្ញាបញ្ចូល ដោយមិនប្រៀបធៀបពួកវាជាមួយនឹងលទ្ធផលដែលត្រៀមរួចជាស្រេច នោះបណ្តាញចាប់ផ្តើមចាត់ថ្នាក់ដោយឯករាជ្យនូវសញ្ញាបញ្ចូលទាំងនេះ។ នៅក្នុងពាក្យផ្សេងទៀតវាអនុវត្តការចង្កោមនៃសញ្ញាបញ្ចូល។ ការ​រៀន​បែប​នេះ​ត្រូវ​បាន​គេ​ហៅ​ថា​ការ​រៀន​មិន​បាន​ត្រួត​ពិនិត្យ។

ណឺរ៉ូនគឺជាផ្នែកសំខាន់មួយនៃបណ្តាញសរសៃប្រសាទ។ នៅក្នុងរូបភព។ 1 2 បង្ហាញពីរចនាសម្ព័ន្ធរបស់វា វាមានធាតុបីប្រភេទគឺ មេគុណ (synapses) adder និង nonlinear converter។ Synapses ទំនាក់ទំនងរវាងណឺរ៉ូន និងគុណសញ្ញាបញ្ចូលដោយលេខដែលបង្ហាញពីភាពខ្លាំងនៃការតភ្ជាប់ (ទម្ងន់នៃ synapse) ។ adder អនុវត្តការបន្ថែមនៃសញ្ញាដែលមកដល់តាមរយៈការភ្ជាប់ synaptic ពីណឺរ៉ូនផ្សេងទៀត និងសញ្ញាបញ្ចូលខាងក្រៅ។ កម្មវិធីបម្លែង nonlinear អនុវត្តមុខងារ nonlinear នៃអាគុយម៉ង់មួយ - លទ្ធផលនៃ adder ។ មុខងារនេះត្រូវបានគេហៅថា មុខងារធ្វើឱ្យសកម្ម ឬ មុខងារផ្ទេរ

អង្ករ។ 1.2 រចនាសម្ព័ន្ធនៃណឺរ៉ូនសិប្បនិម្មិត

ណឺរ៉ូន។ ណឺរ៉ូនទាំងមូលអនុវត្តមុខងារមាត្រដ្ឋាននៃអាគុយម៉ង់វ៉ិចទ័រ។ គំរូគណិតវិទ្យានៃណឺរ៉ូន៖

ឯណាជាទម្ងន់នៃ synapse គឺជាតម្លៃលំអៀង s ជាលទ្ធផលនៃការបូកសរុប (sum); x គឺជាធាតុផ្សំនៃវ៉ិចទ័របញ្ចូល (សញ្ញាបញ្ចូល) សញ្ញាទិន្នផលនៃណឺរ៉ូន; - ចំនួននៃការបញ្ចូលណឺរ៉ូន; - ការផ្លាស់ប្តូរមិនលីនេអ៊ែរ (មុខងារធ្វើឱ្យសកម្ម) ។

ជាទូទៅ សញ្ញាបញ្ចូល ទម្ងន់ និងអុហ្វសិតអាចទទួលយកបាន។ តម្លៃពិតនិងនៅក្នុងជាច្រើន។ បញ្ហាជាក់ស្តែង- មានតែតម្លៃថេរមួយចំនួនប៉ុណ្ណោះ។ លទ្ធផលត្រូវបានកំណត់ដោយប្រភេទនៃមុខងារធ្វើឱ្យសកម្ម ហើយអាចជាចំនួនពិត ឬចំនួនគត់។

ការតភ្ជាប់ Synaptic ជាមួយនឹងទម្ងន់វិជ្ជមានត្រូវបានគេហៅថារំភើប ហើយអ្នកដែលមានទម្ងន់អវិជ្ជមានត្រូវបានគេហៅថា inhibitory ។

ធាតុគណនាដែលបានពិពណ៌នាអាចត្រូវបានចាត់ទុកថាសាមញ្ញ គំរូគណិតវិទ្យាណឺរ៉ូនជីវសាស្រ្ត។ ដើម្បីបញ្ជាក់ពីភាពខុសគ្នារវាងណឺរ៉ូនជីវសាស្រ្ត និងសិប្បនិម្មិត ក្រោយមកទៀតត្រូវបានគេហៅថា ធាតុដូចណឺរ៉ូន ឬណឺរ៉ូនផ្លូវការ។

កម្មវិធីបម្លែង nonlinear ឆ្លើយតបទៅនឹងសញ្ញាបញ្ចូលជាមួយនឹងសញ្ញាទិន្នផលដែលជាទិន្នផល

ណឺរ៉ូន ឧទាហរណ៍នៃមុខងារធ្វើឱ្យសកម្មត្រូវបានបង្ហាញក្នុងតារាង។ 1.1 និងនៅក្នុងរូបភព។ ១.៣

តារាង 1.1 (សូមមើលការស្កេន) មុខងារធ្វើឱ្យណឺរ៉ូនសកម្ម

មួយក្នុងចំណោមទូទៅបំផុតគឺមុខងារធ្វើឱ្យសកម្ម nonlinear ជាមួយ saturation ដែលហៅថាមុខងារ logistic ឬ sigmoid (មុខងាររាងអក្សរ S) ។

នៅពេលដែលការថយចុះ sigmoid ក្លាយជាសំប៉ែត ហើយនៅក្នុងដែនកំណត់របស់វា degenerates ចូលទៅក្នុង បន្ទាត់ផ្ដេកនៅកម្រិត 0.5 ជាមួយនឹងការកើនឡើង sigmoid ខិតជិតទម្រង់នៃមុខងារ

អង្ករ។ 1.3 ឧទាហរណ៍នៃមុខងារធ្វើឱ្យសកម្ម a - មុខងារលោតតែមួយ b - កម្រិតលីនេអ៊ែរ (hysteresis) គ - sigmoid (មុខងារឡូជីស្ទិក) ឃ - sigmoid (តង់ហ្សង់អ៊ីប៉ូបូលីក)

លោតតែមួយជាមួយនឹងកម្រិតចាប់ផ្ដើម ពីកន្សោមសម្រាប់ sigmoid វាច្បាស់ណាស់ថាតម្លៃលទ្ធផលនៃណឺរ៉ូនស្ថិតនៅក្នុងជួរមួយនៃ ទ្រព្យសម្បត្តិដ៏មានតម្លៃអនុគមន៍ sigmoidal - កន្សោមសាមញ្ញសម្រាប់ដេរីវេរបស់វា កម្មវិធីដែលនឹងត្រូវបានពិភាក្សានៅពេលក្រោយ

វាគួរតែត្រូវបានកត់សម្គាល់ថាមុខងារ sigmoid គឺខុសគ្នាតាមអ័ក្ស x ទាំងមូលដែលត្រូវបានប្រើនៅក្នុងក្បួនដោះស្រាយការរៀនមួយចំនួន លើសពីនេះទៀតវាមានទ្រព្យសម្បត្តិនៃការពង្រីកសញ្ញាខ្សោយប្រសើរជាងសញ្ញាធំនិងការពារការតិត្ថិភាពពីសញ្ញាធំ។ ត្រូវគ្នាទៅនឹងតំបន់នៃអាគុយម៉ង់ដែល sigmoid មានទំនោររាក់

បណ្តាញសរសៃប្រសាទ

ត្រលប់ទៅពាក់កណ្តាលទសវត្សរ៍ឆ្នាំ 1980 ។ អ្នកស្រាវជ្រាវជាច្រើនបានកត់សម្គាល់ឃើញថា ប្រព័ន្ធបញ្ញាសិប្បនិមិត្ត ដោយសារតែសមត្ថភាពខ្សោយរបស់ពួកគេក្នុងការរៀនដោយខ្លួនឯង នៅពេលដែលជួបប្រទះនឹងស្ថានភាពដែលមិនត្រូវបានរំពឹងទុកដោយអ្នកអភិវឌ្ឍន៍ ទាំងបង្កើតសារកំហុស ឬផ្តល់លទ្ធផលមិនត្រឹមត្រូវទាំងស្រុង។ ដើម្បីជម្នះបញ្ហាបែបនេះវាត្រូវបានគេស្នើឱ្យប្រើបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត។

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតមានន័យថារចនាសម្ព័ន្ធគណនាដែលធ្វើគំរូដំណើរការជីវសាស្រ្ត ដែលជាធម្មតាត្រូវបានផ្សារភ្ជាប់ជាមួយនឹងដំណើរការដែលកើតឡើងនៅក្នុង ខួរក្បាលរបស់មនុស្ស. NNs ត្រូវបានចែកចាយប្រព័ន្ធប៉ារ៉ាឡែលដែលមានសមត្ថភាពរៀនសម្របខ្លួនដោយការវិភាគផលប៉ះពាល់វិជ្ជមាន និងអវិជ្ជមាន។ ឧបករណ៍បំប្លែងបឋមនៅក្នុងបណ្តាញទាំងនេះគឺជាណឺរ៉ូនសិប្បនិម្មិត ដែលត្រូវបានដាក់ឈ្មោះដោយភាពស្រដៀងគ្នាជាមួយនឹងគំរូជីវសាស្រ្តរបស់វា។

ប្រព័ន្ធ​ប្រសាទហើយខួរក្បាលរបស់មនុស្សមានកោសិកាប្រសាទដែលតភ្ជាប់គ្នាទៅវិញទៅមកដោយសរសៃសរសៃប្រសាទដែលមានសមត្ថភាពបញ្ជូនចរន្តអគ្គិសនី។ ដំណើរការនៃការយល់ឃើញ និងការបញ្ជូនសញ្ញាពីសរីរាង្គនៃអារម្មណ៍ (ស្បែក ត្រចៀក ភ្នែក) ទៅកាន់ខួរក្បាល ការគិត និងការគ្រប់គ្រងសកម្មភាព - ទាំងអស់នេះត្រូវបានអនុវត្តនៅក្នុងសារពាង្គកាយមានជីវិតក្នុងទម្រង់នៃការផ្លាស់ប្តូរនៃចរន្តអគ្គិសនីរវាងណឺរ៉ូន។ កោសិកាប្រសាទ ឬណឺរ៉ូនគឺពិសេស កោសិកាជីវសាស្រ្ត(រូបភាព 5.7) ។

អង្ករ។ ៥.៧. រចនាសម្ព័ន្ធសាមញ្ញនៃណឺរ៉ូនជីវសាស្រ្ត

វាមានរាងកាយ ឬសូម៉ា ក៏ដូចជាដំណើរការ សរសៃសរសៃប្រសាទពីរប្រភេទ៖ dendrites ដែលទទួល Impulses និង axon តែមួយដែល neuron អាចបញ្ជូន impulse ។ រាងកាយណឺរ៉ូនរួមមានស្នូលនិងប្លាស្មា។ ណឺរ៉ូនទទួលសញ្ញា (ការជំរុញ) ពីអ័ក្សនៃណឺរ៉ូនផ្សេងទៀតតាមរយៈ dendrites (អ្នកទទួល) ហើយបញ្ជូនសញ្ញាដែលបង្កើតដោយកោសិកាតាមអ័ក្សរបស់វា (បញ្ជូន) ដែលនៅចុងបញ្ចប់សាខាទៅជាសរសៃ។ នៅចុងបញ្ចប់នៃសរសៃទាំងនេះមាន ការអប់រំពិសេស- synapses ដែលមានឥទ្ធិពលលើទំហំនៃកម្លាំងរុញច្រាន។

synapse គឺជារចនាសម្ព័ន្ធបឋម និងអង្គភាពមុខងាររវាងណឺរ៉ូនពីរ (សរសៃ axon នៃណឺរ៉ូនមួយ និង dendrite នៃមួយផ្សេងទៀត) ។ នៅក្រោមឥទិ្ធពលនៃកម្លាំងដែលចូលមក synapse បញ្ចេញ សារធាតុគីមីហៅថា សារធាតុបញ្ជូនសរសៃប្រសាទ។ សារធាតុបញ្ជូនសរសៃប្រសាទបានសាយភាយឆ្លងកាត់ចន្លោះប្រហោង synaptic រំញោច ឬរារាំង អាស្រ័យលើប្រភេទនៃ synapse សមត្ថភាពរបស់ណឺរ៉ូនអ្នកទទួលដើម្បីបង្កើតការជំរុញអគ្គិសនី។ ប្រសិទ្ធភាពនៃការបញ្ជូនកម្លាំងដោយ synapse អាចត្រូវបានលៃតម្រូវដោយសញ្ញាដែលឆ្លងកាត់វា ដូច្នេះ synapses អាចរៀនអាស្រ័យលើសកម្មភាពនៃដំណើរការដែលពួកគេចូលរួម។ ការពឹងផ្អែកនេះលើរឿងរ៉ាវខាងក្រោយដើរតួជាការចងចាំ។ វាជាការសំខាន់ក្នុងការកត់សម្គាល់ថាទម្ងន់នៃ synapses អាចផ្លាស់ប្តូរតាមពេលវេលាដែលមានន័យថាអាកប្បកិរិយារបស់ណឺរ៉ូនដែលត្រូវគ្នាក៏ផ្លាស់ប្តូរផងដែរ។



និយាយម្យ៉ាងទៀតណឺរ៉ូននីមួយៗត្រូវបានកំណត់លក្ខណៈ រដ្ឋផ្ទៃក្នុងនិងកម្រិតនៃភាពរំជើបរំជួល ហើយធាតុចូលរបស់វាត្រូវបានបែងចែកទៅជា excitatory និង inhibitory ។ សញ្ញាដែលទទួលបាននៅការបញ្ចូលរំភើបបង្កើនកម្រិតនៃសកម្មភាពណឺរ៉ូនហើយនៅការបញ្ចូល inhibitory ផ្ទុយទៅវិញកាត់បន្ថយវា។ ប្រសិនបើផលបូកនៃសញ្ញានៅ inputs រំភើប និង inhibitory លើសពីកម្រិត excitability នោះ neuron បង្កើត output signal ដែលមកដល់ inputs នៃ neurons ផ្សេងទៀតដែលភ្ជាប់ទៅវា i.e. ការរំភើបចិត្ត (សញ្ញា) រីករាលដាលតាមរយៈបណ្តាញសរសៃប្រសាទ។

Cortex ខួរក្បាលរបស់មនុស្សមានប្រហែល 10 11 ណឺរ៉ូន និងជាផ្ទៃលាតសន្ធឹងដែលមានកម្រាស់ 2-3 មម និងផ្ទៃដីប្រហែល 2200 សង់ទីម៉ែត្រ 2 ។ ណឺរ៉ូននីមួយៗត្រូវបានភ្ជាប់ទៅ 10 3 −10 4 ណឺរ៉ូនផ្សេងទៀត។ ដូច្នេះខួរក្បាលមនុស្សទាំងមូលមានទំនាក់ទំនងប្រហែល ១០ ១៤ ទៅ ១០ ១៥ ។

ណឺរ៉ូនប្រាស្រ័យទាក់ទងគ្នាក្នុងរយៈពេលខ្លីនៃកម្លាំងរុញច្រានដែលមានរយៈពេលជាធម្មតាពីរបីមីលីវិនាទី។ សារត្រូវបានបញ្ជូនដោយប្រើម៉ូឌុលប្រេកង់ជីពចរ។ ប្រេកង់អាចប្រែប្រួលពីពីរបីឯកតាទៅរាប់រយហឺត ដែលជាល្បឿនយឺតជាងមួយលានដង។ សៀគ្វីអេឡិចត្រូនិច. ទោះជាយ៉ាងណាក៏ដោយ មនុស្សម្នាក់ដោះស្រាយបញ្ហាការទទួលស្គាល់ដ៏ស្មុគ្រស្មាញក្នុងរយៈពេលត្រឹមតែពីរបីរយមិល្លីវិនាទីប៉ុណ្ណោះ ដែលវាមិនអាចទៅរួចសម្រាប់កុំព្យូទ័រទំនើបភាគច្រើន។ ដំណើរការធ្វើការសម្រេចចិត្តត្រូវបានគ្រប់គ្រងដោយបណ្តាញណឺរ៉ូនដែលចំណាយពេលត្រឹមតែពីរបីមីលីវិនាទីដើម្បីបញ្ចប់ប្រតិបត្តិការមួយ។ ការពន្យល់តែមួយគត់បាតុភូតបែបនេះបានក្លាយជាការសន្មត់ថាដើម្បីដោះស្រាយបែបនេះ កិច្ចការស្មុគស្មាញខួរក្បាល "ដំណើរការ" កម្មវិធីប៉ារ៉ាឡែលដែលនីមួយៗមានប្រហែល 100 ជំហាន។ បាតុភូតនេះត្រូវបានគេហៅថា "ភាពស្របគ្នាដ៏ធំ" ។ ដោយផ្អែកលើវិធីសាស្រ្តនេះ គេអាចរកឃើញថា បរិមាណនៃព័ត៌មានដែលបញ្ជូនពីណឺរ៉ូនមួយទៅណឺរ៉ូនមួយទៀត ត្រូវតែតូចណាស់ (ពីរបីប៊ីត)។ ពីនេះវាដូចខាងក្រោមដែលផ្នែកសំខាន់នៃព័ត៌មានមិនត្រូវបានបញ្ជូនដោយផ្ទាល់នោះទេប៉ុន្តែត្រូវបានចាប់យកនិងចែកចាយនៅក្នុងការតភ្ជាប់រវាងណឺរ៉ូន។

ណឺរ៉ូនសិប្បនិមិត្ត (ដែលតទៅនេះហៅថា ណឺរ៉ូន) គឺ ក រចនាសម្ព័ន្ធសិប្បនិម្មិតដែលជាគំរូនៃលក្ខណៈសម្បត្តិនៃណឺរ៉ូនជីវសាស្រ្ត។ គំរូមួយក្នុងចំណោមគំរូទូទៅ និងសាមញ្ញបំផុតនៃកោសិកាប្រសាទគឺអ្វីដែលគេហៅថាគំរូ McCulloch-Pitts ដែលបង្ហាញក្នុងរូបភព។ ៥.៨.

អង្ករ។ ៥.៨. គំរូណឺរ៉ូន McCulloch-Pitts

តាមគណិតវិទ្យា គំរូណឺរ៉ូនអាចសរសេរដូចខាងក្រោម៖

, (5.8)

កន្លែងណា x ជី- សំណុំនៃសញ្ញានៅការបញ្ចូលណឺរ៉ូន,

w i j- សំណុំនៃទម្ងន់នៃសញ្ញាបញ្ចូល,

s ខ្ញុំ- សញ្ញាសរុប ឬមុខងារនៃរដ្ឋណឺរ៉ូន

f i- មុខងារ ការធ្វើឱ្យសកម្មណឺរ៉ូន,

y ខ្ញុំ- សញ្ញាទិន្នផលណឺរ៉ូន

- ចំនួននៃការបញ្ចូលណឺរ៉ូន។

បណ្តាញសរសៃប្រសាទសិប្បនិមិត្តដំបូងគេមួយ ហៅថា Rosenblatt perceptron [< лат. perceptio получение, собирание]. Персептроном называют однослойную нейронную сеть, состоящую из нейронов с пороговой функцией активации .

គោលគំនិតនៃមុខងារធ្វើឱ្យសកម្មគឺជាមូលដ្ឋានគ្រឹះនៅក្នុងទ្រឹស្តីបណ្តាញសរសៃប្រសាទ។ មុខងារធ្វើឱ្យសកម្ម f jកំណត់ការឆ្លើយតបរបស់ណឺរ៉ូនទៅសំណុំ ឥទ្ធិពលខាងក្រៅបង្ហាញដោយទំហំនៃសញ្ញាទិន្នផលជាមុខងារនៃស្ថានភាពបច្ចុប្បន្នរបស់វា។

បច្ចុប្បន្ននេះ នៅពេលធ្វើគំរូក្នុងមូលដ្ឋានបណ្តាញសរសៃប្រសាទ មុខងារធ្វើឱ្យសកម្មជាច្រើនត្រូវបានប្រើប្រាស់ ដែលខុសគ្នាជាចម្បងនៅក្នុងប្រភេទ ការឆ្លើយតបបណ្តោះអាសន្ន. មុខងារធ្វើឱ្យសកម្មទូទៅបំផុតត្រូវបានផ្តល់ឱ្យក្នុងតារាង។ ៥.១.

Neurocomputers-កុំព្យូទ័រ។ ប្រព័ន្ធជំនាន់ទី 6, ឆ្មា។ មានមួយចំនួនធំនៃធាតុគណនាសាមញ្ញដែលដំណើរការស្របគ្នា (ណឺរ៉ូន) ។ ធាតុត្រូវបានភ្ជាប់គ្នាទៅវិញទៅមកបង្កើតជាបណ្តាញសរសៃប្រសាទ។ ពួកគេអនុវត្តការគណនាឯកសណ្ឋាន។ សកម្មភាព និងមិនត្រូវការការគ្រប់គ្រងខាងក្រៅ។ លេខធំថាមពលកុំព្យូទ័រប៉ារ៉ាឡែលធានានូវដំណើរការខ្ពស់។

បច្ចុប្បន្ន បច្ចុប្បន្ននេះ ការអភិវឌ្ឍន៍នៃកុំព្យូទ័រ neurocomputers កំពុងដំណើរការនៅក្នុងប្រទេសឧស្សាហកម្មភាគច្រើន។

Neurocomputers ធ្វើឱ្យវាអាចដោះស្រាយបញ្ហាជាមួយនឹងប្រសិទ្ធភាពខ្ពស់។ បន្ទាត់ទាំងមូលភារកិច្ចបញ្ញា។ ទាំងនេះគឺជាភារកិច្ច៖

    ការទទួលស្គាល់លំនាំ

    ការគ្រប់គ្រងការសម្របខ្លួន

    ព្យាករណ៍

    រោគវិនិច្ឆ័យ។ល។

Neurocomputers ខុសពីកុំព្យូទ័រជំនាន់មុនៗ មិនត្រឹមតែសមត្ថភាពខ្លាំងរបស់វាប៉ុណ្ណោះទេ។ របៀបដែលយើងប្រើម៉ាស៊ីនគឺផ្លាស់ប្តូរជាមូលដ្ឋាន។ ការសរសេរកម្មវិធីត្រូវបានជំនួសដោយការរៀន កុំព្យូទ័រ neurocomputer រៀនដោះស្រាយបញ្ហា។

ការអប់រំ- ការលៃតម្រូវទម្ងន់នៃការតភ្ជាប់ដែលជាលទ្ធផលនៃសកម្មភាពបញ្ចូលនីមួយៗនាំឱ្យមានការបង្កើតសញ្ញាទិន្នផលដែលត្រូវគ្នា។ នៅពេលដែលបានទទួលការបណ្តុះបណ្តាល បណ្តាញអាចអនុវត្តជំនាញដែលបានរៀនទៅនឹងសញ្ញាបញ្ចូលថ្មី។ នៅពេលផ្លាស់ប្តូរពីការសរសេរកម្មវិធីទៅការរៀន ប្រសិទ្ធភាពនៃការដោះស្រាយបញ្ហាបញ្ញាកើនឡើង។

    Neurocomputer Synapse (Siemens);

    Neuro-r "ខួរក្បាលស៊ីលីកុន" (សហរដ្ឋអាមេរិក "ខួរក្បាលអេឡិចត្រូនិច" សម្រាប់ដំណើរការរូបភាពអវកាស) ។

    គំនិតនៃសិល្បៈ។ ណឺរ៉ូន។ ណឺរ៉ូនផ្លូវការ។ រចនាសម្ព័ន្ធ។

គំរូគណិតវិទ្យានៃណឺរ៉ូន។ គោលការណ៍នៃប្រតិបត្តិការ។ សិប្បនិម្មិត (ណឺរ៉ូន គណិតវិទ្យាណឺរ៉ូន McCulloch - Pitts, គណិតវិទ្យាផ្លូវការ ) - ថ្នាំងនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត ដែលជាគំរូសាមញ្ញនៃណឺរ៉ូនធម្មជាតិ។ តាមគណិតវិទ្យា ណឺរ៉ូនសិប្បនិម្មិតជាធម្មតាត្រូវបានតំណាងជាមុខងារមិនមែនលីនេអ៊ែរនៃអាគុយម៉ង់តែមួយ - ការរួមបញ្ចូលគ្នាលីនេអ៊ែរនៃសញ្ញាបញ្ចូលទាំងអស់។ មុខងារនេះត្រូវបានគេហៅថា មុខងារការធ្វើឱ្យសកម្ម ) - ថ្នាំងនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត ដែលជាគំរូសាមញ្ញនៃណឺរ៉ូនធម្មជាតិ។ តាមគណិតវិទ្យា ណឺរ៉ូនសិប្បនិម្មិតជាធម្មតាត្រូវបានតំណាងជាមុខងារមិនមែនលីនេអ៊ែរនៃអាគុយម៉ង់តែមួយ - ការរួមបញ្ចូលគ្នាលីនេអ៊ែរនៃសញ្ញាបញ្ចូលទាំងអស់។ មុខងារនេះត្រូវបានគេហៅថា , សកម្មភាព ) - ថ្នាំងនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត ដែលជាគំរូសាមញ្ញនៃណឺរ៉ូនធម្មជាតិ។ តាមគណិតវិទ្យា ណឺរ៉ូនសិប្បនិម្មិតជាធម្មតាត្រូវបានតំណាងជាមុខងារមិនមែនលីនេអ៊ែរនៃអាគុយម៉ង់តែមួយ - ការរួមបញ្ចូលគ្នាលីនេអ៊ែរនៃសញ្ញាបញ្ចូលទាំងអស់។ មុខងារនេះត្រូវបានគេហៅថាការឆ្លង

McCulloch - Pitts, គណិតវិទ្យា . លទ្ធផលលទ្ធផលត្រូវបានបញ្ជូនទៅទិន្នផលតែមួយ។ ណឺរ៉ូនសិប្បនិម្មិតបែបនេះត្រូវបានបញ្ចូលគ្នាជាបណ្តាញ - ពួកគេភ្ជាប់លទ្ធផលនៃណឺរ៉ូនមួយចំនួនទៅនឹងធាតុបញ្ចូលរបស់អ្នកដទៃ។ ណឺរ៉ូន​សិប្បនិម្មិត និង​បណ្តាញ​គឺជា​ធាតុ​សំខាន់​នៃ​កុំព្យូទ័រ​សរសៃប្រសាទ​ដ៏​ល្អ​។ .

- នៅក្នុងបណ្តាញសរសៃប្រសាទ - ធាតុដំណើរការ កម្មវិធីបម្លែងទិន្នន័យដែលទទួលទិន្នន័យបញ្ចូល និងបំប្លែងវាទៅតាម។ ជាមួយនឹងមុខងារនិងប៉ារ៉ាម៉ែត្រដែលបានផ្តល់ឱ្យ។ ទម្រង់។ ណឺរ៉ូនដំណើរការក្នុងពេលវេលាដាច់ដោយឡែក

សៀគ្វីណឺរ៉ូនសិប្បនិម្មិត 1. ណឺរ៉ូនដែលជាសញ្ញាទិន្នផលដែលត្រូវបានផ្គត់ផ្គង់ទៅធាតុបញ្ចូលនៃសញ្ញាដែលបានផ្តល់ឱ្យ 2. Adder នៃសញ្ញាបញ្ចូល 3. ឧបករណ៍គណនាមុខងារផ្ទេរ 4. ណឺរ៉ូនដែលជាសញ្ញាបញ្ចូលដែលត្រូវបានផ្គត់ផ្គង់ជាមួយនឹងសញ្ញាទិន្នផលនៃសញ្ញាដែលបានផ្តល់ឱ្យ 5 .-ទម្ងន់

សញ្ញាបញ្ចូល

តាមគណិតវិទ្យា ណឺរ៉ូនត្រូវបានតំណាងដោយ គឺជាឧបករណ៍បន្ថែមទម្ងន់ ដែលជាលទ្ធផលតែមួយគត់ដែលត្រូវបានកំណត់ដោយការបញ្ចូលរបស់វា និងម៉ាទ្រីសទម្ងន់ដូចខាងក្រោម៖

អ្នកនៅទីនេះរៀងគ្នា សញ្ញានៅធាតុបញ្ចូលនៃណឺរ៉ូន និងទម្ងន់នៃធាតុបញ្ចូល មុខងារ u ត្រូវបានគេហៅថា វាលមូលដ្ឋានដែលជម្រុញ ហើយ f (u) គឺជាមុខងារផ្ទេរ។ តម្លៃដែលអាចធ្វើបាននៃសញ្ញានៅការបញ្ចូលណឺរ៉ូនត្រូវបានចាត់ទុកថាត្រូវបានផ្តល់ឱ្យក្នុងចន្លោះពេល។ ពួកវាអាចជាដាច់ពីគ្នា (0 ឬ 1) ឬអាណាឡូក។ ការបញ្ចូលបន្ថែម និងទម្ងន់ដែលត្រូវគ្នាត្រូវបានប្រើសម្រាប់ ការចាប់ផ្តើមណឺរ៉ូន។ តាមរយៈការចាប់ផ្តើម យើងមានន័យថាការផ្លាស់ប្តូរនៅក្នុងមុខងារធ្វើឱ្យសកម្មនៃណឺរ៉ូនតាមអ័ក្សផ្តេក ពោលគឺការបង្កើតកម្រិតនៃភាពប្រែប្រួលរបស់ណឺរ៉ូន។ លើសពីនេះ ជួនកាលអថេរចៃដន្យជាក់លាក់មួយហៅថា ការផ្លាស់ប្តូរត្រូវបានបន្ថែមជាពិសេសទៅលទ្ធផលនៃណឺរ៉ូន។ ការផ្លាស់ប្តូរអាចត្រូវបានចាត់ទុកថាជាសញ្ញាមួយនៅការបន្ថែម តែងតែផ្ទុក synapse ។

    មុខងារធ្វើឱ្យសកម្មនៃណឺរ៉ូន។ ប្រភេទនៃមុខងារ។

មុខងារធ្វើឱ្យណឺរ៉ូនសកម្មកំណត់ការផ្លាស់ប្តូរ nonlinear ដែលធ្វើឡើងដោយណឺរ៉ូន។

មុខងារធ្វើឱ្យសកម្មមានច្រើនប្រភេទ ប៉ុន្តែជាទូទៅមានមុខងារបួនដូចខាងក្រោម៖

1. កម្រិតមុខងារ។ នៅក្នុងរូបភព។ ៧.២, កាលវិភាគរបស់វាត្រូវបានបង្ហាញ។

. (7.5)

មុខងារធ្វើឱ្យសកម្មដំបូងត្រូវបានណែនាំ វាត្រូវបានពិពណ៌នានៅក្នុងការងាររបស់ McCulloch និង Pitts ។ ក្នុងកិត្តិយសនេះ គំរូនៃណឺរ៉ូនដែលមានមុខងារធ្វើឱ្យសកម្មកម្រិតមួយត្រូវបានគេហៅថាគំរូ McCulloch-Pitts ។

2. លីនេអ៊ែរជាដុំៗមុខងារ។ វាត្រូវបានបង្ហាញនៅក្នុងរូបភព។ ៧.២, ហើយត្រូវបានពិពណ៌នាដោយទំនាក់ទំនងដូចខាងក្រោមៈ

. (7.6)

IN ក្នុងករណី​នេះ =1 ហើយមេគុណជម្រាលនៃផ្នែកលីនេអ៊ែរត្រូវបានជ្រើសរើសជាឯកតា ហើយមុខងារទាំងមូលអាចត្រូវបានបកស្រាយថាជាការប្រហាក់ប្រហែលនៃ amplifier nonlinear ។ ជាមួយនឹងមេគុណចំណោទដ៏ធំគ្មានកំណត់នៃផ្នែកលីនេអ៊ែរ មុខងារ degenerates ទៅជាកម្រិតចាប់ផ្ដើមមួយ។

ប្រភេទបណ្តាញសរសៃប្រសាទសិប្បនិម្មិតភាគច្រើនប្រើណឺរ៉ូនដែលមានមុខងារធ្វើឱ្យសកម្មលីនេអ៊ែរ ដែលជាករណីពិសេសនៃ (7.6) ជាមួយនឹងតំបន់លីនេអ៊ែរគ្មានដែនកំណត់។

អង្ករ។ ៧.២. ប្រភេទនៃមុខងារធ្វើឱ្យសកម្ម a), ឃ) កម្រិតចាប់ផ្ដើម; ខ) លីនេអ៊ែរ; គ) sigmoidal; e) តង់សង់; f) មុខងារធ្វើឱ្យសកម្មរ៉ាឌីកាល់មូលដ្ឋាន

    គំនិតនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត។

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិត(ANN) - គំរូគណិតវិទ្យា ក៏ដូចជាការអនុវត្តកម្មវិធី ឬផ្នែករឹងរបស់វា ដែលត្រូវបានបង្កើតឡើងនៅលើគោលការណ៍នៃការរៀបចំ និងការប្រព្រឹត្តទៅនៃបណ្តាញសរសៃប្រសាទជីវសាស្រ្ត - បណ្តាញនៃកោសិកាប្រសាទនៃសារពាង្គកាយមានជីវិត។ គំនិត​នេះ​បាន​កើត​ឡើង​ខណៈ​កំពុង​សិក្សា​ដំណើរ​ការ​ដែល​កើត​ឡើង​នៅ​ក្នុង​ខួរក្បាល ហើយ​ព្យាយាម​យក​គំរូ​តាម​ដំណើរការ​ទាំង​នេះ។ ការប៉ុនប៉ងបែបនេះជាលើកដំបូងគឺបណ្តាញសរសៃប្រសាទរបស់ W. McCulloch និង W. Pitts ។ បន្ទាប់​ពី​ការ​អភិវឌ្ឍ​នៃ​ក្បួន​ដោះស្រាយ​ការ​រៀន​សូត្រ គំរូ​លទ្ធផល​បាន​ចាប់​ផ្តើ​ម​ត្រូវ​បាន​ប្រើ​នៅ​ក្នុង គោលបំណងជាក់ស្តែង៖ ក្នុងការព្យាករណ៍បញ្ហា សម្រាប់ការទទួលស្គាល់លំនាំ ក្នុងបញ្ហាគ្រប់គ្រង។ល។

ANNs គឺជាប្រព័ន្ធនៃដំណើរការតភ្ជាប់ និងអន្តរកម្មសាមញ្ញ (ណឺរ៉ូនសិប្បនិម្មិត)។ ដំណើរការទាំងនេះជាធម្មតាសាមញ្ញណាស់ (ជាពិសេសបើប្រៀបធៀបទៅនឹង processors ដែលប្រើក្នុងកុំព្យូទ័រផ្ទាល់ខ្លួន)។ ខួរក្បាលនីមួយៗនៅក្នុងបណ្តាញបែបនេះទាក់ទងតែជាមួយសញ្ញាដែលវាទទួលជាទៀងទាត់ និងសញ្ញាដែលវាបញ្ជូនតាមកាលកំណត់ទៅ processors ផ្សេងទៀត។ និងនៅឡើយទេ នៅពេលដែលបានភ្ជាប់ទៅក្នុងបណ្តាញដ៏ធំគ្រប់គ្រាន់ជាមួយនឹងអន្តរកម្មដែលបានគ្រប់គ្រងនោះ ដំណើរការសាមញ្ញក្នុងមូលដ្ឋានបែបនេះអាចបំពេញការងារដ៏ស្មុគស្មាញបាន។

តាមទស្សនៈនៃការរៀនម៉ាស៊ីន បណ្តាញសរសៃប្រសាទគឺជាករណីពិសេសនៃវិធីសាស្ត្រសម្គាល់គំរូ ការវិភាគរើសអើង វិធីសាស្ត្រចង្កោម។ តាមទស្សនៈនៃ cybernetics បណ្តាញសរសៃប្រសាទត្រូវបានប្រើក្នុងបញ្ហាគ្រប់គ្រងការសម្របសម្រួល និងជាក្បួនដោះស្រាយសម្រាប់មនុស្សយន្ត។ តាមទស្សនៈនៃការអភិវឌ្ឍន៍បច្ចេកវិទ្យាកុំព្យូទ័រ និងការសរសេរកម្មវិធី បណ្តាញសរសៃប្រសាទគឺជាមធ្យោបាយដោះស្រាយបញ្ហានៃភាពស្របគ្នាប្រកបដោយប្រសិទ្ធភាព។ ហើយតាមទស្សនៈនៃបញ្ញាសិប្បនិមិត្ត ANN គឺជាមូលដ្ឋាននៃចលនាទស្សនវិជ្ជានៃទំនាក់ទំនងនិយម និងទិសដៅសំខាន់ក្នុងវិធីសាស្រ្តរចនាសម្ព័ន្ធដើម្បីសិក្សាពីលទ្ធភាពនៃការសាងសង់ (ការធ្វើគំរូ) បញ្ញាធម្មជាតិដោយប្រើក្បួនដោះស្រាយកុំព្យូទ័រ។

បណ្តាញសរសៃប្រសាទមិនអាចសរសេរកម្មវិធីបានតាមន័យធម្មតានៃពាក្យនោះទេ។ កំពុងត្រូវបានបណ្តុះបណ្តាល. សមត្ថភាពក្នុងការរៀនគឺជាគុណសម្បត្តិចម្បងមួយនៃបណ្តាញសរសៃប្រសាទជាងក្បួនដោះស្រាយប្រពៃណី។ តាមបច្ចេកទេស ការរៀនគឺមានការស្វែងរកមេគុណនៃទំនាក់ទំនងរវាងណឺរ៉ូន។ ក្នុងអំឡុងពេលដំណើរការបណ្តុះបណ្តាល បណ្តាញសរសៃប្រសាទអាចកំណត់អត្តសញ្ញាណភាពអាស្រ័យដ៏ស្មុគស្មាញរវាងទិន្នន័យបញ្ចូល និងទិន្នន័យលទ្ធផល ក៏ដូចជាដំណើរការទូទៅ។ នេះមានន័យថា ប្រសិនបើការបណ្តុះបណ្តាលទទួលបានជោគជ័យ បណ្តាញនឹងអាចត្រឡប់លទ្ធផលត្រឹមត្រូវដោយផ្អែកលើទិន្នន័យដែលបានបាត់នៅក្នុងសំណុំបណ្តុះបណ្តាល ក៏ដូចជាទិន្នន័យមិនពេញលេញ និង/ឬ "រំខាន" ដែលខូចទ្រង់ទ្រាយដោយផ្នែក។

គ្រោងការណ៍នៃបណ្តាញសរសៃប្រសាទសាមញ្ញ។ បៃតង ការកំណត់ពណ៌ បញ្ចូលណឺរ៉ូន គោលដៅ។- លាក់ណឺរ៉ូនពណ៌លឿង - ថ្ងៃ​ឈប់សម្រាកណឺរ៉ូន។

    លក្ខណៈមូលដ្ឋាននៃបណ្តាញសរសៃប្រសាទ។

លក្ខណៈសម្បត្តិមួយចំនួននៃបណ្តាញសរសៃប្រសាទ។

1. ការបណ្តុះបណ្តាល

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតអាចផ្លាស់ប្តូរឥរិយាបថរបស់វាអាស្រ័យលើបរិយាកាសខាងក្រៅ។ កត្តានេះច្រើនជាងកត្តាផ្សេងទៀតគឺទទួលខុសត្រូវចំពោះផលប្រយោជន៍ដែលពួកគេជម្រុញ។ នៅពេលដែលសញ្ញាបញ្ចូលត្រូវបានបង្ហាញ (ប្រហែលជារួមជាមួយនឹងលទ្ធផលដែលត្រូវការ) ពួកគេកែតម្រូវដោយខ្លួនឯងដើម្បីផ្តល់នូវការឆ្លើយតបដែលត្រូវការ។ ក្បួនដោះស្រាយការរៀនសូត្រជាច្រើនត្រូវបានបង្កើតឡើង ដែលនីមួយៗមានចំណុចខ្លាំង និងចំណុចខ្សោយរៀងៗខ្លួន។ នៅតែមានបញ្ហាទាក់ទងនឹងអ្វីដែលបណ្តាញអាចរៀន និងរបៀបដែលការរៀនគួរត្រូវបានធ្វើ។

2. ទូទៅ

ការឆ្លើយតបបណ្តាញបន្ទាប់ពីការបណ្តុះបណ្តាលអាចមានភាពមិនច្បាស់លាស់ចំពោះការផ្លាស់ប្តូរតិចតួចនៅក្នុងសញ្ញាបញ្ចូល។ សមត្ថភាព​ដើម​នេះ​ក្នុង​ការ​មើល​ឃើញ​គំរូ​តាម​រយៈ​សំឡេង​រំខាន និង​ការ​បង្ខូច​ទ្រង់ទ្រាយ​គឺ​មាន​សារៈ​សំខាន់​ក្នុង​ការ​ទទួល​ស្គាល់​គំរូ​នៅ​ក្នុង ពិភព​ពិត. វាយកឈ្នះលើតម្រូវការភាពជាក់លាក់ដ៏តឹងរឹងនៃកុំព្យូទ័រធម្មតា ហើយបើកផ្លូវទៅកាន់ប្រព័ន្ធដែលអាចដោះស្រាយជាមួយនឹងពិភពលោកមិនល្អឥតខ្ចោះដែលយើងរស់នៅ។ វាជាការសំខាន់ក្នុងការកត់សម្គាល់ថាបណ្តាញសរសៃប្រសាទសិប្បនិម្មិតធ្វើឱ្យមានភាពទូទៅដោយស្វ័យប្រវត្តិដោយសារតែការរចនារបស់វាជាជាងតាមរយៈការប្រើប្រាស់ "ភាពវៃឆ្លាតរបស់មនុស្ស" នៅក្នុងទម្រង់នៃកម្មវិធីកុំព្យូទ័រដែលសរសេរជាពិសេស។

3. អរូបី

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតមួយចំនួនមានសមត្ថភាពទាញយកខ្លឹមសារចេញពីសញ្ញាបញ្ចូល។ ឧទាហរណ៍ បណ្តាញអាចត្រូវបានបណ្តុះបណ្តាលលើលំដាប់នៃកំណែដែលខូចទ្រង់ទ្រាយនៃអក្សរ "A"។ បន្ទាប់ពីការបណ្តុះបណ្តាលសមស្រប ការបង្ហាញឧទាហរណ៍ដែលបង្ខូចទ្រង់ទ្រាយបែបនេះនឹងធ្វើឱ្យបណ្តាញបង្កើតអក្សរនៃរូបរាងល្អឥតខ្ចោះ (ក្នុងករណីនេះអក្សរ "A") ។ ក្នុងន័យមួយ នាងនឹងរៀនបង្កើតនូវអ្វីដែលនាងមិនដែលឃើញ។ សមត្ថភាពក្នុងការទទួលបានគំរូដ៏ល្អគឺជាគុណភាពដ៏មានតម្លៃសម្រាប់មនុស្ស។

4. ភាពអាចអនុវត្តបាន។

បណ្តាញសរសៃប្រសាទសិប្បនិម្មិតមិនមែនជា panacea ទេ។ ពួកវាច្បាស់ជាមិនស័ក្តិសមសម្រាប់ការងារដូចជាការបើកប្រាក់បៀវត្សរ៍នោះទេ ប៉ុន្តែពួកគេមិនអាចខ្វះបានសម្រាប់កិច្ចការធំៗផ្សេងទៀត ដែលប្រព័ន្ធកុំព្យូទ័រធម្មតាធ្វើមិនបានល្អ ឬមិនបានទាំងអស់។

    បញ្ហាដែលត្រូវបានដោះស្រាយដោយបណ្តាញសរសៃប្រសាទ។

NNs គឺស័ក្តិសមយ៉ាងល្អសម្រាប់ការទទួលស្គាល់គំរូ និងការដោះស្រាយបញ្ហានៃចំណាត់ថ្នាក់ ការបង្កើនប្រសិទ្ធភាព និងការព្យាករណ៍។ ខាងក្រោមនេះគឺជាបញ្ជីនៃកម្មវិធីឧស្សាហកម្មដែលអាចកើតមាននៃបណ្តាញសរសៃប្រសាទ ដែលផ្អែកលើផលិតផលពាណិជ្ជកម្មណាមួយត្រូវបានបង្កើតរួចហើយ ឬគំរូគំរូត្រូវបានអនុវត្ត។

ធនាគារ និងក្រុមហ៊ុនធានារ៉ាប់រង៖

    ការអានមូលប្បទានប័ត្រ និងឯកសារហិរញ្ញវត្ថុដោយស្វ័យប្រវត្តិ;

    ពិនិត្យមើលភាពត្រឹមត្រូវនៃហត្ថលេខា;

    ការវាយតម្លៃហានិភ័យសម្រាប់ប្រាក់កម្ចី;

    ការព្យាករណ៍ការផ្លាស់ប្តូរសូចនាករសេដ្ឋកិច្ច។

សេវាកម្មរដ្ឋបាល៖

    ការអានឯកសារដោយស្វ័យប្រវត្តិ;

    ការទទួលស្គាល់ដោយស្វ័យប្រវត្តិនៃកូដរបារ។

ឧស្សាហកម្ម​គីមី និង​ប្រេង​ឥន្ធនៈ

    ការវិភាគព័ត៌មានភូមិសាស្ត្រ;

    ការកំណត់អត្តសញ្ញាណកំហុសឧបករណ៍;

    ការរុករករ៉ែដែលមានមូលដ្ឋានលើរូបថតពីលើអាកាស;

    ការវិភាគនៃសមាសធាតុមិនបរិសុទ្ធ;

    ការគ្រប់គ្រងដំណើរការ។

ឧស្សាហកម្មយោធា និងអាកាសចរណ៍៖

    ដំណើរការនៃសញ្ញាអូឌីយ៉ូ (ការបំបែក, ការកំណត់អត្តសញ្ញាណ, ការធ្វើមូលដ្ឋានីយកម្ម);

    ដំណើរការនៃសញ្ញារ៉ាដា (ការទទួលស្គាល់គោលដៅ ការកំណត់អត្តសញ្ញាណ និងការធ្វើមូលដ្ឋានីយកម្មនៃប្រភព);

    ដំណើរការនៃសញ្ញាអ៊ីនហ្វ្រារ៉េដ (ការធ្វើមូលដ្ឋានីយកម្ម);

    សង្ខេបព័ត៌មាន;

    ការបើកបរដោយស្វ័យប្រវត្តិ។

ផលិតកម្មឧស្សាហកម្ម៖

    ការគ្រប់គ្រងឧបាយកល;

    ការត្រួតពិនិត្យគុណភាព;

    ការគ្រប់គ្រងដំណើរការ;

    ការរកឃើញកំហុស;

    មនុស្សយន្តអាដាប់ធ័រ;

សេវាសន្តិសុខ៖

ឧស្សាហកម្មជីវវេជ្ជសាស្ត្រ៖

    ការវិភាគកាំរស្មីអ៊ិច;

    ការរកឃើញភាពមិនប្រក្រតីនៅក្នុង ECG ។

ទូរទស្សន៍ និងទំនាក់ទំនង:

    ការគ្រប់គ្រងបណ្តាញទំនាក់ទំនងប្រែប្រួល;

    ការបង្រួមរូបភាពនិងការស្តារឡើងវិញ។

    ការយល់ឃើញពហុស្រទាប់។ រចនាសម្ព័ន្ធ។ គោលការណ៍នៃប្រតិបត្តិការ។

ចូរយើងពិចារណាអំពីរចនាសម្ព័ន្ធបណ្តាញតាមឋានានុក្រមដែលក្នុងនោះណឺរ៉ូនដែលទាក់ទងគ្នា (ថ្នាំងបណ្តាញ) ត្រូវបានបញ្ចូលគ្នាទៅក្នុងស្រទាប់ជាច្រើន (រូបភាព 6.1) ។ F. Rosenblatt បានចង្អុលបង្ហាញពីលទ្ធភាពនៃការកសាងស្ថាបត្យកម្មបែបនេះ ប៉ុន្តែគាត់មិនបានដោះស្រាយបញ្ហានៃការបណ្តុះបណ្តាលនោះទេ។ ការតភ្ជាប់ interneuron synaptic នៃបណ្តាញត្រូវបានរៀបចំតាមរបៀបដែលណឺរ៉ូននីមួយៗបើក កម្រិតនេះ។ឋានានុក្រមទទួល និងដំណើរការសញ្ញាពីណឺរ៉ូនកម្រិតទាបនីមួយៗ។ ដូច្នេះនៅក្នុងបណ្តាញនេះមានទិសដៅជាក់លាក់នៃការបន្តពូជនៃ neuroimpulses - ពីស្រទាប់បញ្ចូលតាមរយៈស្រទាប់លាក់មួយ (ឬច្រើន) ទៅស្រទាប់លទ្ធផលនៃណឺរ៉ូន។ យើងនឹងហៅបណ្តាញសរសៃប្រសាទនៃ topology បែបនេះថាជា perceptron ពហុស្រទាប់ទូទៅ ឬប្រសិនបើវាមិនបង្កឱ្យមានការយល់ច្រឡំទេ គ្រាន់តែជា perceptron ប៉ុណ្ណោះ។

រូប ៦.១. រចនាសម្ព័ន្ធនៃ perceptron ពហុស្រទាប់ដែលមានធាតុបញ្ចូលចំនួនប្រាំ ណឺរ៉ូនបីនៅក្នុងស្រទាប់លាក់កំបាំង និងណឺរ៉ូនមួយនៅក្នុងស្រទាប់លទ្ធផល។

perceptron គឺជាបណ្តាញមួយដែលមានស្រទាប់ជាច្រើននៃណឺរ៉ូន McCulloch និង Pitts ផ្លូវការដែលតភ្ជាប់ជាស៊េរី។ បើក កម្រិតទាបបំផុត។ឋានានុក្រមមានទីតាំងនៅ បញ្ចូលស្រទាប់មួយដែលមានធាតុឧបករណ៍ចាប់សញ្ញា ភារកិច្ចគឺទទួល និងចែកចាយព័ត៌មានបញ្ចូលតាមរយៈបណ្តាញ។ បន្ទាប់មកមានមួយ ឬតិចជាញឹកញាប់ លាក់ស្រទាប់។ ណឺរ៉ូននីមួយៗនៅលើស្រទាប់លាក់មានធាតុបញ្ចូលជាច្រើនដែលភ្ជាប់ទៅនឹងលទ្ធផលនៃណឺរ៉ូននៃស្រទាប់មុន ឬដោយផ្ទាល់ទៅឧបករណ៍ចាប់សញ្ញាបញ្ចូល X1..Xn និងទិន្នផលមួយ។ ណឺរ៉ូនត្រូវបានកំណត់លក្ខណៈដោយវ៉ិចទ័រតែមួយគត់នៃមេគុណទម្ងន់ w ។ ទម្ងន់នៃណឺរ៉ូនទាំងអស់នៅក្នុងស្រទាប់បង្កើតជាម៉ាទ្រីស ដែលយើងនឹងសម្គាល់ដោយ V ឬ W. មុខងារនៃណឺរ៉ូនគឺដើម្បីគណនាផលបូកទម្ងន់នៃធាតុបញ្ចូលរបស់វាជាមួយនឹងការផ្លាស់ប្តូរដែលមិនមែនជាលីនេអ៊ែរបន្ថែមទៀតទៅជាសញ្ញាទិន្នផល៖

(6.1)

លទ្ធផលនៃណឺរ៉ូននៃក្រោយ, ថ្ងៃ​ឈប់សម្រាកស្រទាប់ពិពណ៌នាអំពីលទ្ធផលចំណាត់ថ្នាក់ Y=Y(X)។ លក្ខណៈប្រតិបត្តិការរបស់ perceptron មានដូចខាងក្រោម។ ណឺរ៉ូននីមួយៗសង្ខេបសញ្ញាដែលចូលមកវាពីណឺរ៉ូន កម្រិតមុន។ឋានានុក្រម​ជាមួយ​ទម្ងន់​កំណត់​ដោយ​ស្ថានភាព​នៃ synapses និង​បង្កើត​សញ្ញា​ឆ្លើយតប (ការ​ផ្លាស់​ប្តូរ​ទៅ​ជា​ស្ថានភាព​រំភើប) ប្រសិនបើ​ផលបូក​លទ្ធផល​គឺ​លើស​តម្លៃ​កំណត់។ perceptron បកប្រែរូបភាពបញ្ចូល ដែលកំណត់កម្រិតនៃការរំភើបនៃណឺរ៉ូននៃកម្រិតទាបបំផុតនៃឋានានុក្រមទៅជារូបភាពលទ្ធផល ដែលកំណត់ដោយណឺរ៉ូននៃ កម្រិតកំពូល. ចំនួននៃក្រោយនេះជាធម្មតាមានតិចតួច។ ស្ថានភាពរំភើបនៃណឺរ៉ូននៅកម្រិតខាងលើបង្ហាញថារូបភាពបញ្ចូលជាកម្មសិទ្ធិរបស់ប្រភេទមួយឬផ្សេងទៀត។

ជាប្រពៃណី តក្កវិជ្ជាអាណាឡូកត្រូវបានពិចារណា ដែលស្ថានភាពដែលអាចអនុញ្ញាតបាននៃការតភ្ជាប់ synaptic ត្រូវបានកំណត់ដោយចំនួនពិតតាមអំពើចិត្ត ហើយកម្រិតនៃសកម្មភាពនៃណឺរ៉ូនត្រូវបានកំណត់ដោយចំនួនពិតចន្លោះពី 0 និង 1។ ពេលខ្លះគំរូដែលមានលេខនព្វន្ធដាច់ពីគ្នាក៏ត្រូវបានសិក្សាផងដែរ ដែលក្នុងនោះ synapse ត្រូវបានកំណត់ដោយអថេរប៊ូលីនពីរ៖ សកម្មភាព (0 ឬ 1) និងបន្ទាត់រាងប៉ូល (-1 ឬ +1) ដែលត្រូវនឹងតក្កវិជ្ជាតម្លៃបី។ ស្ថានភាពនៃណឺរ៉ូនអាចត្រូវបានពិពណ៌នាដោយអថេរប៊ូលីនតែមួយ។ វិធីសាស្រ្តដាច់ដោយឡែកនេះធ្វើឱ្យទំហំកំណត់រចនាសម្ព័ន្ធនៃរដ្ឋនៃបណ្តាញសរសៃប្រសាទមានកំណត់ (មិននិយាយពីគុណសម្បត្តិក្នុងការអនុវត្តផ្នែករឹង)។

នៅទីនេះយើងនឹងពណ៌នាជាចម្បងនូវកំណែបុរាណនៃបណ្តាញពហុស្រទាប់ជាមួយ analog synapses និងមុខងារផ្ទេរ sigmoidal នៃណឺរ៉ូនដែលកំណត់ដោយរូបមន្ត (6.1) ។

    ភារកិច្ចបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទដោយប្រើឧទាហរណ៍។

យោងទៅតាមអង្គការនិងមុខងាររបស់វា។ ការតែងតាំងការទាមទារ។ បណ្តាញសរសៃប្រសាទជាមួយមួយចំនួន ធាតុចូល និងទិន្នផល អនុវត្តការបំប្លែងមួយចំនួននៃរំញោចការបញ្ចូល - ព័ត៌មានអារម្មណ៍អំពីពិភពខាងក្រៅ - ទៅជាសញ្ញាត្រួតពិនិត្យទិន្នផល។ ចំនួននៃការរំញោចដែលបានបំប្លែងគឺស្មើនឹង n - ចំនួននៃការបញ្ចូលបណ្តាញហើយចំនួននៃសញ្ញាលទ្ធផលត្រូវគ្នាទៅនឹងចំនួនលទ្ធផល m ។ សរុបទាំងអស់ដែលអាចធ្វើបាន បញ្ចូលវ៉ិចទ័រនៃវិមាត្រ n បង្កើតចន្លោះវ៉ិចទ័រ X ដែលយើងនឹងហៅ សូចនាករ លំហ(នៅពេលពិចារណាចន្លោះដែលត្រូវគ្នា វាត្រូវបានសន្មត់ថាធម្មតា។ ប្រតិបត្តិការវ៉ិចទ័រការបូក និងគុណដោយមាត្រដ្ឋាន (សម្រាប់ព័ត៌មានលម្អិត សូមមើល បាឋកថា ២) ដូចគ្នានេះដែរ ចុងសប្តាហ៍វ៉ិចទ័រ​ក៏​បង្កើត​ជា​ចន្លោះ​លក្ខណៈ​ពិសេស ដែល​នឹង​ត្រូវ​បាន​តំណាង . ឥឡូវនេះបណ្តាញសរសៃប្រសាទអាចត្រូវបានគិតថាជាប្រភេទនៃពហុវិមាត្រមួយចំនួន មុខងារ F: X អាគុយម៉ង់​ដែល​ជា​កម្មសិទ្ធិ​របស់​ចន្លោះ​លក្ខណៈ​បញ្ចូល ហើយ​តម្លៃ​របស់​វា​ជា​កម្មសិទ្ធិ​របស់​ចន្លោះ​លក្ខណៈ​លទ្ធផល។

ជាមួយនឹងតម្លៃបំពាននៃមេគុណទម្ងន់ synaptic នៃណឺរ៉ូននៃបណ្តាញ មុខងារដែលបានអនុវត្តដោយបណ្តាញក៏បំពានផងដែរ។ សម្រាប់ការទទួលបាន ទាមទារមុខងារតម្រូវឱ្យមានជម្រើសជាក់លាក់នៃទម្ងន់។ សំណុំនៃមេគុណទម្ងន់ទាំងអស់នៃណឺរ៉ូនទាំងអស់អាចត្រូវបានតំណាងជាវ៉ិចទ័រ W. សំណុំនៃវ៉ិចទ័របែបនេះក៏បង្កើតជាចន្លោះវ៉ិចទ័រដែលហៅថា លំហរដ្ឋការកំណត់រចនាសម្ព័ន្ធ (ដំណាក់កាល)លំហ . ពាក្យ "ចន្លោះដំណាក់កាល" មកពី រូបវិទ្យាស្ថិតិប្រព័ន្ធនៃភាគល្អិតជាច្រើន ដែលវាត្រូវបានគេយល់ថាជាចំនួនសរុបនៃកូអរដោណេ និងសន្ទុះនៃភាគល្អិតទាំងអស់ដែលបង្កើតជាប្រព័ន្ធ។

ការបញ្ជាក់វ៉ិចទ័រនៅក្នុងទំហំកំណត់រចនាសម្ព័ន្ធកំណត់ទាំងស្រុងនូវទម្ងន់ synaptic ទាំងអស់ ហើយដោយហេតុនេះ ស្ថានភាពនៃបណ្តាញ។ ស្ថានភាពដែលបណ្តាញសរសៃប្រសាទដំណើរការមុខងារដែលត្រូវការត្រូវបានគេហៅថា បានបណ្តុះបណ្តាល លក្ខខណ្ឌបណ្តាញ W * ។ ចំណាំថាសម្រាប់មុខងារដែលបានផ្តល់ឱ្យ ស្ថានភាពដែលបានបណ្តុះបណ្តាលអាចមិនមាន ឬមិនមែនតែមួយទេ។ ឥឡូវនេះ ភារកិច្ចសិក្សាគឺសមមូលជាផ្លូវការទៅនឹងការសាងសង់ដំណើរការផ្លាស់ប្តូរនៅក្នុងចន្លោះកំណត់រចនាសម្ព័ន្ធពីស្ថានភាពបំពានមួយចំនួន W 0 ទៅរដ្ឋដែលបានបណ្តុះបណ្តាល។

មុខងារដែលត្រូវការត្រូវបានពិពណ៌នាដោយឡែកដោយកំណត់ការឆ្លើយឆ្លងទៅវ៉ិចទ័រនីមួយៗនៃទំហំមុខងារ X វ៉ិចទ័រខ្លះពីលំហ . ក្នុងករណីបណ្តាញនៃណឺរ៉ូនមួយនៅក្នុងបញ្ហានៃការរកឃើញព្រំដែនត្រូវបានពិចារណានៅចុងបញ្ចប់ ការបង្រៀនទីបីការពិពណ៌នាពេញលេញនៃអនុគមន៍ដែលត្រូវការគឺត្រូវបានសម្រេចដោយបញ្ជាក់តែបួនគូនៃវ៉ិចទ័រ។ ទោះយ៉ាងណាក៏ដោយ ក្នុងករណីទូទៅ ដូចជានៅពេលធ្វើការជាមួយរូបភាពវីដេអូ ចន្លោះលក្ខណៈអាចមានវិមាត្រខ្ពស់ ដូច្នេះសូម្បីតែនៅក្នុងករណីនៃវ៉ិចទ័រ Boolean ក៏ដោយ និយមន័យមិនច្បាស់លាស់នៃមុខងារមួយក្លាយជាស្មុគស្មាញខ្លាំង (ផ្តល់ជាការពិតថា អនុគមន៍មិនត្រូវបានបញ្ជាក់ច្បាស់លាស់ទេ ឧទាហរណ៍ដោយរូបមន្តមួយ ទោះយ៉ាងណាក៏ដោយ សម្រាប់មុខងារដែលបានកំណត់យ៉ាងច្បាស់ជាធម្មតាមិនចាំបាច់ត្រូវបានតំណាងដោយគំរូបណ្តាញសរសៃប្រសាទ)។ ក្នុងករណីជាក់ស្តែងជាច្រើន តម្លៃនៃមុខងារដែលត្រូវការសម្រាប់តម្លៃដែលបានផ្តល់ឱ្យនៃអាគុយម៉ង់គឺទទួលបានពីការពិសោធន៍ ឬការសង្កេត ហើយដូច្នេះវាត្រូវបានគេស្គាល់សម្រាប់តែ ចំនួនប្រជាជនមានកំណត់វ៉ិចទ័រ។ លើសពីនេះ តម្លៃដែលគេស្គាល់នៃមុខងារអាចមានកំហុស ហើយទិន្នន័យនីមួយៗអាចផ្ទុយពីគ្នាទៅវិញទៅមក។ សម្រាប់ហេតុផលទាំងនេះបណ្តាញសរសៃប្រសាទជាធម្មតាត្រូវបានផ្តល់ភារកិច្ច តំណាងប្រហាក់ប្រហែលនៃមុខងារដោយផ្អែកលើឧទាហរណ៍ដែលមាន. ឧទាហរណ៍នៃការឆ្លើយឆ្លងរវាងវ៉ិចទ័រដែលមានសម្រាប់អ្នកស្រាវជ្រាវ ឬទិន្នន័យតំណាងភាគច្រើនដែលត្រូវបានជ្រើសរើសជាពិសេសពីឧទាហរណ៍ទាំងអស់ត្រូវបានគេហៅថា សំណុំបណ្តុះបណ្តាល. គំរូបណ្ដុះបណ្ដាលជាធម្មតាត្រូវបានកំណត់ដោយការបញ្ជាក់គូនៃវ៉ិចទ័រ ហើយក្នុងគូនីមួយៗ វ៉ិចទ័រមួយត្រូវគ្នាទៅនឹងការជំរុញ និងទីពីរចំពោះការឆ្លើយតបដែលត្រូវការ។ ការបណ្តុះបណ្តាលបណ្តាញប្រសាទរួមមានការនាំយកវ៉ិចទ័ររំញោចទាំងអស់ពីសំណុំបណ្តុះបណ្តាលទៅនឹងប្រតិកម្មដែលត្រូវការដោយជ្រើសរើសមេគុណទម្ងន់នៃណឺរ៉ូន។

បញ្ហាទូទៅនៃ cybernetics គឺការសាងសង់ ប្រព័ន្ធសិប្បនិម្មិតជាមួយនឹងឥរិយាបថមុខងារដែលបានផ្តល់ឱ្យនៅក្នុងបរិបទនៃបណ្តាញសរសៃប្រសាទត្រូវបានគេយល់ថាជាភារកិច្ច ការសំយោគបណ្តាញសិប្បនិម្មិតដែលត្រូវការ។ វាអាចរួមបញ្ចូលកិច្ចការរងខាងក្រោម៖ 1) ការជ្រើសរើសលក្ខណៈពិសេសដែលចាំបាច់សម្រាប់បញ្ហាដែលកំពុងត្រូវបានដោះស្រាយ និងការបង្កើតចន្លោះលក្ខណៈ។ 2) ការជ្រើសរើសឬការអភិវឌ្ឍនៃស្ថាបត្យកម្មបណ្តាញសរសៃប្រសាទគ្រប់គ្រាន់ទៅនឹងបញ្ហាដែលកំពុងត្រូវបានដោះស្រាយ; 3) ការទទួលបានគំរូបណ្តុះបណ្តាលពីអ្នកតំណាងភាគច្រើន តាមគំនិតរបស់អ្នកជំនាញ វ៉ិចទ័រនៃចន្លោះលក្ខណៈពិសេស។ 4) ការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទនៅលើសំណុំបណ្តុះបណ្តាល។

ចំណាំថាកិច្ចការរង 1)-3) ភាគច្រើនទាមទារបទពិសោធន៍អ្នកជំនាញដែលធ្វើការជាមួយបណ្តាញសរសៃប្រសាទ ហើយមិនមានអនុសាសន៍ផ្លូវការដ៏ទូលំទូលាយនៅទីនេះទេ។ បញ្ហាទាំងនេះត្រូវបានពិភាក្សាពេញសៀវភៅនេះ នៅពេលដែលពួកគេអនុវត្តចំពោះស្ថាបត្យកម្មបណ្តាញសរសៃប្រសាទផ្សេងៗ ជាមួយនឹងការបង្ហាញអំពីមុខងារសិក្សា និងកម្មវិធីរបស់ពួកគេ។

    ការបណ្តុះបណ្តាលបណ្តាញសរសៃប្រសាទដែលមានការត្រួតពិនិត្យជាបញ្ហាបង្កើនប្រសិទ្ធភាពពហុកត្តា។

ណឺរ៉ូនសិប្បនិម្មិត

សៀគ្វីណឺរ៉ូនសិប្បនិម្មិត
1. ណឺរ៉ូនដែលជាសញ្ញាទិន្នផលដែលមកដល់ការបញ្ចូលនៃនេះ។
2. ឧបករណ៍បន្ថែមសញ្ញាបញ្ចូល
3. ផ្ទេរមុខងារគណនា
4. ណឺរ៉ូនដែលជាធាតុបញ្ចូលដែលទទួលសញ្ញាទិន្នផលនៃសញ្ញាដែលបានផ្តល់ឱ្យ
5. - 1. ណឺរ៉ូនដែលជាសញ្ញាទិន្នផលដែលត្រូវបានផ្គត់ផ្គង់ទៅធាតុបញ្ចូលនៃសញ្ញាដែលបានផ្តល់ឱ្យ 2. Adder នៃសញ្ញាបញ្ចូល 3. ឧបករណ៍គណនាមុខងារផ្ទេរ 4. ណឺរ៉ូនដែលជាសញ្ញាបញ្ចូលដែលត្រូវបានផ្គត់ផ្គង់ជាមួយនឹងសញ្ញាទិន្នផលនៃសញ្ញាដែលបានផ្តល់ឱ្យ 5 .-សញ្ញាបញ្ចូល

ណឺរ៉ូនសិប្បនិម្មិត (ណឺរ៉ូនគណិតវិទ្យា McCulloch-Pitts, ណឺរ៉ូនផ្លូវការ) - ថ្នាំងនៃបណ្តាញសរសៃប្រសាទសិប្បនិម្មិត ដែលជាគំរូសាមញ្ញនៃណឺរ៉ូនធម្មជាតិ។ តាមគណិតវិទ្យា ណឺរ៉ូនសិប្បនិម្មិតជាធម្មតាត្រូវបានតំណាងជាមុខងារមិនមែនលីនេអ៊ែរនៃអាគុយម៉ង់តែមួយ - ការរួមបញ្ចូលគ្នាលីនេអ៊ែរនៃសញ្ញាបញ្ចូលទាំងអស់។ មុខងារនេះ។ហៅ មុខងារធ្វើឱ្យសកម្មមុខងារកេះ, មុខងារផ្ទេរ. លទ្ធផលដែលទទួលបានត្រូវបានបញ្ជូនទៅ ផ្លូវចេញតែមួយគត់. ណឺរ៉ូនសិប្បនិម្មិតបែបនេះត្រូវបានបញ្ចូលគ្នាជាបណ្តាញ - ពួកគេភ្ជាប់លទ្ធផលនៃណឺរ៉ូនមួយចំនួនទៅនឹងធាតុបញ្ចូលរបស់អ្នកដទៃ។ ណឺរ៉ូន​សិប្បនិម្មិត និង​បណ្តាញ​គឺជា​ធាតុ​សំខាន់​នៃ​កុំព្យូទ័រ​សរសៃប្រសាទ​ដ៏​ល្អ​។

គំរូជីវសាស្រ្ត

ណឺរ៉ូនជីវសាស្រ្តមានរាងកាយមួយដែលមានអង្កត់ផ្ចិតពី 3 ទៅ 100 មីក្រូដែលមានស្នូល (ជាមួយ ចំនួនធំរន្ធនុយក្លេអ៊ែរ) និងសរីរាង្គផ្សេងទៀត (រួមទាំង ER រដុបដែលត្រូវបានអភិវឌ្ឍយ៉ាងខ្លាំងជាមួយនឹង ribosomes សកម្ម ឧបករណ៍ Golgi) និងដំណើរការ។ មានដំណើរការពីរប្រភេទ។ ជាធម្មតា axon គឺជាដំណើរការដ៏វែងមួយដែលសម្របខ្លួនដើម្បីធ្វើការរំភើបចិត្តពីរាងកាយណឺរ៉ូន។ Dendrites ជាក្បួនដំណើរការខ្លី និងមានសាខាខ្ពស់ដែលបម្រើជាកន្លែងសំខាន់សម្រាប់ការបង្កើត synapses excitatory និង inhibitory ដែលមានឥទ្ធិពលលើណឺរ៉ូន (ណឺរ៉ូនផ្សេងគ្នាមាន សមាមាត្រផ្សេងគ្នាប្រវែងនៃ axon និង dendrites) ។ ណឺរ៉ូនអាចមាន dendrites ជាច្រើន ហើយជាធម្មតាមានតែ axon មួយប៉ុណ្ណោះ។ ណឺរ៉ូនមួយអាចមានទំនាក់ទំនងជាមួយណឺរ៉ូន 20 ពាន់ផ្សេងទៀត។ Cortex ខួរក្បាលរបស់មនុស្សមាន 10-20 ពាន់លានណឺរ៉ូន។

ប្រវត្តិនៃការអភិវឌ្ឍន៍

ក្នុងករណីនេះវាអាចផ្លាស់ប្តូរមុខងារតាមអ័ក្សទាំងពីរ (ដូចបង្ហាញក្នុងរូប)។

គុណវិបត្តិនៃមុខងារធ្វើឱ្យសកម្មជំហាន និងពាក់កណ្តាលលីនេអ៊ែរ ទាក់ទងទៅនឹងលីនេអ៊ែរគឺថា ពួកវាមិនអាចខុសគ្នានៅលើអ័ក្សលេខទាំងមូលទេ ដូច្នេះហើយមិនអាចប្រើនៅពេលហ្វឹកហាត់ដោយប្រើក្បួនដោះស្រាយមួយចំនួនបានទេ។

មុខងារធ្វើឱ្យសកម្មកម្រិត

មុខងារផ្ទេរកម្រិត

តង់ហ្សង់អ៊ីពែរបូល

នេះគឺជាចំងាយរវាងចំនុចកណ្តាល និងវ៉ិចទ័រនៃសញ្ញាបញ្ចូល។ ប៉ារ៉ាម៉ែត្រ​មាត្រដ្ឋាន​កំណត់​អត្រា​ដែល​អនុគមន៍​ខូច​ខណៈ​ដែល​វ៉ិចទ័រ​ផ្លាស់ទី​ឆ្ងាយ​ពី​ចំណុច​កណ្តាល ហើយ​ត្រូវ​បាន​ហៅ​ថា ទទឹងបង្អួច, ប៉ារ៉ាម៉ែត្រកំណត់ការផ្លាស់ប្តូរនៃមុខងារធ្វើឱ្យសកម្មតាមបណ្តោយអ័ក្ស abscissa ។ បណ្តាញដែលមានណឺរ៉ូនដែលប្រើមុខងារបែបនេះត្រូវបានគេហៅថាបណ្តាញ RBF ។ ម៉ែត្រ​ផ្សេងៗ​អាច​ត្រូវ​បាន​ប្រើ​ជា​ចម្ងាយ​រវាង​វ៉ិចទ័រ ដែល​ជា​ធម្មតា​ចម្ងាយ Euclidean ត្រូវ​បាន​ប្រើ៖

នៅទីនេះ - សមាសធាតុ jthវ៉ិចទ័រដែលផ្គត់ផ្គង់ទៅការបញ្ចូលនៃណឺរ៉ូន a គឺជាសមាសធាតុ j-th នៃវ៉ិចទ័រដែលកំណត់ទីតាំងកណ្តាលនៃមុខងារផ្ទេរ។ ដូច្នោះហើយបណ្តាញដែលមានសរសៃប្រសាទបែបនេះត្រូវបានគេហៅថា probabilistic និង regression ។

នៅក្នុងបណ្តាញពិត មុខងារធ្វើឱ្យសកម្មនៃណឺរ៉ូនទាំងនេះអាចឆ្លុះបញ្ចាំងពីការចែកចាយប្រូបាប៊ីលីតេនៃអថេរចៃដន្យមួយចំនួន ឬបង្ហាញពីភាពអាស្រ័យ heuristic ណាមួយរវាងបរិមាណ។

មុខងារផ្ទេរផ្សេងទៀត។

មុខងារដែលបានរាយខាងលើគ្រាន់តែជាផ្នែកនៃមុខងារផ្ទេរប្រាក់ជាច្រើនដែលប្រើនៅលើ ពេលនេះ. មុខងារផ្ទេរប្រាក់ផ្សេងទៀតរួមមាន:

ណឺរ៉ូន Stochastic

គំរូនៃណឺរ៉ូនសិប្បនិម្មិតដែលកំណត់ត្រូវបានពិពណ៌នាខាងលើ ពោលគឺស្ថានភាពនៅទិន្នផលនៃណឺរ៉ូនត្រូវបានកំណត់យ៉ាងពិសេសដោយលទ្ធផលនៃធាតុបញ្ចូលសញ្ញាបញ្ចូល។ ណឺរ៉ូន Stochastic ក៏ត្រូវបានពិចារណាផងដែរ ដែលការផ្លាស់ប្តូរណឺរ៉ូនកើតឡើងជាមួយនឹងប្រូបាប៊ីលីតេ អាស្រ័យលើការបង្កហេតុ វាលក្នុងស្រុកនោះគឺមុខងារផ្ទេរត្រូវបានកំណត់ជា

ដែលជាកន្លែងដែលការចែកចាយប្រូបាប៊ីលីតេជាធម្មតាមានទម្រង់នៃ sigmoid មួយ។

ថេរនីយកម្មត្រូវបានណែនាំសម្រាប់លក្ខខណ្ឌនៃការធ្វើឱ្យធម្មតានៃការចែកចាយប្រូបាប៊ីលីតេ។ ដូច្នេះណឺរ៉ូនត្រូវបានធ្វើឱ្យសកម្មជាមួយនឹងប្រូបាប៊ីលីតេ P(u) ។ ប៉ារ៉ាម៉ែត្រ T គឺជា analogue នៃសីតុណ្ហភាព (ប៉ុន្តែមិនមែនសីតុណ្ហភាពនៃណឺរ៉ូនទេ!) និងកំណត់ភាពមិនប្រក្រតីនៅក្នុងបណ្តាញសរសៃប្រសាទ។ ប្រសិនបើ T មានទំនោរទៅ 0 ណឺរ៉ូន stochastic នឹងប្រែទៅជាណឺរ៉ូនធម្មតាដែលមានមុខងារផ្ទេរ Heaviside (មុខងារកម្រិត) ។

ការធ្វើគំរូមុខងារឡូជីខលផ្លូវការ

ណឺរ៉ូនដែលមានមុខងារផ្ទេរកម្រិតអាចធ្វើគំរូមុខងារឡូជីខលផ្សេងៗ។ រូបភាពបង្ហាញពីរបៀប ដោយការកំណត់ទម្ងន់នៃសញ្ញាបញ្ចូល និងកម្រិតនៃអារម្មណ៍ អ្នកអាចបង្ខំណឺរ៉ូនឱ្យអនុវត្តការភ្ជាប់ (ឡូជីខល "AND") និងការបំបែក (ឡូជីខល "OR") លើសញ្ញាបញ្ចូល ក៏ដូចជាការអវិជ្ជមានឡូជីខលនៃ សញ្ញាបញ្ចូល។ ប្រតិបត្តិការទាំងបីនេះគឺគ្រប់គ្រាន់ដើម្បីធ្វើគំរូនូវមុខងារឡូជីខលនៃចំនួនអាគុយម៉ង់ណាមួយ។

កំណត់ចំណាំ

អក្សរសិល្ប៍