•    فهرست
•    چكيده    8
•    مقدمه     8
•    شكل 1 ساختار يك نورون طبيعي    9
•    شكل 2 ساختار نورون مصنوعي     11
•    تعريف شبكه‌هاي عصبي مصنوعي     12
•    تاريخچه     13
•    انواع شبكه‌هاي عصبي مصنوعي     14
•    شبكه عصبي زيستي     14
•    معرفي شبكه عصبي مصنوعي     15
•    تاريخچه شبكه عصبي مصنوعي     15
•    چرا از شبكه هاي عصبي استفاده مي‌كنيم؟     17  
•    مقايسه‌ي شبكه هاي عصبي با كامپيوتر سنتي     18
•    نورون مصنوعي     19
•    ساختار شبكه‌هاي عصبي     20
•    تقسيم بندي شبكه‌هاي عصبي     21
•    كاربرد شبكه‌هاي عصبي     22
•    معايب شبكه‌هاي عصبي     23
•    نظريه‌ي تشديد انطباقي     25
•    مدل يادگيري     25
•    روش‌هاي تعليم شبكه عصبي     27
•    مدل نرون ساده‌ي خطي     29
•    شكل 3 نرون ساده خطي     29
•    شكل 4 مدل نرون خطي به همراه تابع فشرده‌سازي    30
•    تکنیک های تعیین پارامترهای نرون خطی     31
•    شبکه‌های پرسپترون چندلایه     33
•    شکل5 نمونه ازشبکه پرسپترون     34
•    الگوریتم یادگیری شبکه های پرسپترون (انتشاربه عقب)     35
•    انتشار به عقب خطا     38
•    تصحیح اوزان وبایاسها     39
•    شبکه های عصبی مصنوعی     41
•    مغزانسان     42
•    سلولهای عصبی     43
•    سلول عصبي مصنوعي     44
•    شبکه عصبی مصنوعی     44
•    شناخت حروف توسط شبکه های عصبی     45
•    تشکیل شبکه عصبی     48
•    ایجادلایه    file input    50
•    ایجادیک لایه خطي     50
•    ایجادلایه  winery take all     51                                             
•    تقسیم بندی الگوهابه سه دسته     51
•    آموزش شبکه     52
•    تست کردن شبکه     54
•    امتحان با مثالهای جدید     57
•    تشخیص دیجیتال با استفاده ازشبکه عصبی      58
•    نتیجه گیری     59
•    ................
•    کلمات کلیدی     59
•    مقدمه     59
•    کارمرتبط     60
•    شکل1مثالهای شکلهای مختلف درعدد 4     63
•    شکل2سناریوی تشخیص عددبا شبکه مصنوعی     64
•    زیرساخت     64
•    اجزای سیستم     66
•    موادوروشها     66
•    پیش پردازش     66
•    نرمالسازی قیاس بندی     66
•    نازی سازی وچارچوب بندي     66
•    جداسازی    67
•    استخراج مشخصه        67
•    تشخیص وکلاس بندی 67
•    شکل 4 شبکه دولایه،یک لایه مخفی،ویک لایه خروجی         68    
•    کد الگوریتم            68
•    شکل5شبکه سه لایه، 2 لایه مخفی ویک لایه خروجی    70
•    آموزش شبکه         71
•    مرحله تغذیه جلویی    71
•    شکل6تابع راندمان اموزش    72  
•    نتایج و مباحث        72
•    جدول 1مقایسه بین شبکه ها           73
•    جدول2دقت تشخیص     74
•    شکل7مثالی برای تصویرکشیدن مراحل مختلف        75
•    شکل8مقایسه بین نظریه هاوسیتم مان برحسب دقت تشخیص          76
•    شبکه عصبی برپایه معماری تنظیم پایگاه داده     77
•    .........
•    کلمات کلیدی        77
•    مقدمه      78
•    شکل1 ساختارپایه شبکه عصبی       82
•    شکل2معماری تنظیم برپایه شبکه عصبی        82
•    جدول 1سری داده های آموزش نمونه      84
•    شکل3تاثیراندازه بافربر زمان اجرای جستجو        84       
•    داخل کردن کلاس بندی وپیوند درمدل تعمیم شبکه عصبی جمعی    86
•    نتایج           86
•    ............
•    کلمات کلیدی        87
•    مقدمه          87
•    شکل 1 لایه کلی مدل شبکه جمعی مطرح             92
•    شکل2  ساختارکلی مدل شبکه جمع      93         
•    شکل3 طرح لایه بندی دوگانه             94
•    شکل4نمودارجریان سازگاری ساختاری مدل مطرح شده        97  
•    جدول2 بخشهای میانگین مربع خطا             101
•    شکل1 نمادهای مدلهای سه بعدی کشتی              102
•    شکل2 ساختارسیستم کلاس سازکشتی               103
•    شکل3 ساختارشبکه عصبی                104
•    شکل4           106          
•    پانوشتها             107
•    فهرست منابع       108
 
شبکه های عصبی

چکيده :
در اين نوشتار به معرفي شبکه هاي عصبي مصنوعي[1] و ساختارهاي آنها به صورت خلاصه ميپردازيم. در ابتدا نرونهاي شبکه هاي عصبي طبيعي معرفي شده و طرز کار آنها نشان داده شده است. سپس مدل مصنوعي اين نرونها و ساختار آنها ، مدل رياضي آنها ، شبکه هاي عصبي مصنوعي و نحوه آموزش و بکار گيري اين شبکه ها به همراه روش يادگيري گراديان کاهنده نشان داده شده است. تمرکز بيشتر بر نوعي از اين شبکه ها بنام شبکه هاي عصبي مصنوعي پرسپترون چند لايه ميباشد.  ابزاهايي نيز براي پياده سازي اين شبکه ها نام برده شده است.
كليدواژه‌ها: شبکه هاي عصبي مصنوعي ، شبکه هاي عصبي، Artificial Neural networks Multi layered Perceptron, Gradient descent
 
مقدمه :
در ساليان اخير شاهد حرکتي مستمر از تحقيقات صرفا تئوري به تحقيقات کاربردي بخصوص در زمينه پردازش اطلاعات ، براي مسائلي که براي آنها راه حلي موجود نيست و يا براحتي قابل حل نيستند بوده ايم. با عنايت به اين امر ، علاقه اي فزاينده اي در توسعه تئوريکي سيستمهاي ديناميکي هوشمند مدل آزاد[2] -که مبتني بر داده هاي تجربي ميباشند – ايجاد شده است. ANN ها جزء اين دسته از سيستمهاي مکانيکي قرار دارند که با پردازش روي داده هاي تجربي ، دانش يا قانون نهفته در وراي داده  ها را به ساختار شبکه منتقل ميکنند.به همين خاطر به اين سيستمها هوشمند گفته ميشود ، زيرا بر اساس محاسبات روي داده هاي عددي يا مثالها ، قوانين کلي را فرا ميگيرند.اين سيستمها در مدلسازي ساختار نرو-سيناپتيکي[3] مغز بشر ميکوشند.
البته اين سخن که" ANN ها در مدلسازي مغز بشر ميکوشند" اغراق آميز ميباشد.دانشمندان هرچه بيشتر در مورد مغز بشر تحقيق ميکنند و مي آموزند ، بيشتر در مي يابند که مغز بشر دست نيافتني است.در حقيقت در مورد مغز و ساختار سيستم عصبي انسان اطلاعات زيادي بدست آمده است. ولي پياده سازي ساختاري با پيچيدگي مغز انسان بر اساس اطلاعاتي و تکنولوژي که امروزه وجود دارد غير ممکن ميباشد.
ما ميتوانيم يک نرون عصبي انسان و عملکرد آنرا را توسط مدل هاي رياضي ، مدلسازي کنيم.شکل1 ساختار يک نرون طبيعي را نشان ميدهد.
 
شکل1 - ساختار نرون طبيعي انسان

هر نرون طبيعي از سه قسمت اصلي تشکيل شده است :
1.       بدنه سلول (Soma)
2.       دندريت(Dendrite)
3.       اکسون (Axon)
دندريتها به عنوان مناطق دريافت سيگنالهاي الکتريکي ، شبکه هايي تشکيل يافته از فيبرهاي سلولي هستند که داراي سطح نامنظم و شاخه هاي انشعابي بيشمار ميباشند .دندريتها سيگنالهاي الکتريکي را به هسته سلول منتقل ميکنند. بدنه سلول انرژي لازم را براي فعاليت نرون فراهم کرده و برروي سيگنالهاي دريافتي عمل ميکند ، که با يک عمل ساده جمع و مقايسه با يک سطح آستانه مدل ميگردد. اکسون بر خلاف دندريتها از سطحي هموارتر و تعداد شاخه هاي کمتري برخوردار ميباشد. اکسون طول بيشتري دارد و سيگنالهاي الکتروشيميايي دريافتي از هسته سلول را به نرونهاي ديگر منتقل ميکند.محل تلاقي يک اکسون از يک سلول به دندريتهاي سلولهاي ديگر را سيناپس ميگويند.توسط سيناپسها ارتباطات مابين نرونها برقرار ميشود.به فضاي مابين اکسون و دندريتها فضاي سيناپسي گويند.
در حقيقت دندريتها به عنوان ورودي نرون و اکسون به عنوان خروجي و فضاي سيناپسي محل اتصال  ايندو ميباشد. زمانيکه سيگنال عصبي از اکسون به نرونها و يا عناصر ديگر بدن مثل ماهيچه ها ميرسد ، باعث تحريک آنها ميشود.
نرونها از هريک از اتصالات ورودي خود يک ولتاژ کم دريافت ميکند ( توسط سيگنال عصبي ورودي ) و آنها را با هم جمع ميزند. اگر اين حاصل جمع به يک مقدار آستانه رسيد اصطلاحا نرون آتش ميکند و روي اکسون خود يک ولتاژ خروجي ارسال ميکند که اين ولتاژ به دندريتهايي که به اين اکسون متصلند رسيده و باعث يکسري فعل و انفعالهاي شيميايي در اتصالات سيناپسي ميشود و  ميتواند باعث آتش کردن نرونهاي ديگر شود. تمامي فعاليتهاي مغزي انسان توسط همين اتش کردنها انجام ميشود.
حافظه کوتاه مدت انسان جرقه هاي لحظه اي الکتريکي ميباشند و حافظه بلند مدت به صورت تغييرات الکتروشيميايي در اتصالات سيناپسي ذخيره ميشود که عمدتا منجر به تغيير يونها ميشود.
همانگونه که گفته شد ما ميتوانيم توسط مفاهيم رياضي يک نرون طبيعي را مدل کنيم.شکل 2 يک نرون عصبي مصنوعي را نشان ميدهد.