از سلول های عصبی انسانی تا سلول های عصبی مصنوعی
ما این شبکه های عصبی را با تلاش اولیه در جهت یافتن خصوصیات اساسی سلول های عصبی و اتصالات آنها ، هدایت می کنیم. سپس بطور معمول یک کامپیوتر را برای شبیه سازی این خصوصیات برنامه ریزی می کنیم .اگر چه بدلیل اینکه دانش ما از سلول های عصبی ناقص است و قدرت محاسبات ما محدود است ، مدل های ما لزوما آرمان های خام و ناقصی از شبکه های واقعی سلول های عصبی است .
یک روش مهندسی
یک سلول عصبی ساده
یک سلول عصبی مصنوعی دستگاهی است با تعداد زیادی ورودی و یک خروجی . سلول عصبی دو گونه عمل دارد ; حالت یادگیری پرورشی و حالت کاربردی . در حالت یادگیری سلول می آموزد که برای حالت خاصی فعال و بر انگسخته شود ( یا برای همان حالت بر انگیخته نشود). و در حالت کاربردی و استفاده وقتی الگوی ورودی آموزش یافته ای در ورودی شناسایی شود خروجی مرتبط با آن خروجی کنونی سلول می شود . اگر الگوی ورودی به لیست الگو های ورودی ای کا از پیش به سلول آموزش داده شده نباشد ، قوانین فعال سازی سلول خروجی سلول را تعیین می کند که آیا فعال کننده باشد یا نه.
قوانین فعال سازی
قانون فعال سازی مفهوم مهمی در شبکه های عصبی است و مسئول انعطاف پذیری بالای دستگاه می باشد . قانون فعال سازی تعیین میکند که چگونه یک واحد محاسبه کند که آیا یک سلول عصبی باید برای هر الگوی ورودی واکنش فعال سازی را انجام دهد. این قانون برای کلیه الگو ها شرح داده می شود نه فقط برای آنهایی که گره عصبی برایش پرورش یافته است.
یک قانون فعال سازی ساده بوسیله تکنیک فاصله Hamming قابل اجرا است قواننین به صورت زیر اجرا میشود:
یک مجموعه از الگو های آموزشی را برای یک گره عصبی انجام دهید، تعدادی از این الگوها سبب فعالسازی (مجموعه الگوهای آموزشی با حاصل 1) و باقی که از فعالیت آن جلوگیری می کنند (مجموعه الگوهای آموزشی با حاصل0 ) سپس الگو های خارج از مجموعه ای سبب فعال سازی گره عصبی می شوند که عناصر مشترک بیشتری با نزدیکترین الگو در مجموعه آموزشی 1 دارند تا با نزدیکترین الگو در مجموعه آموزشی 0 . اگر در این بین گرهای وجود داشته باشد الگوی مورد نظر در وضعیت غیر تعریف شده باقی می مانند.
بعنوان مثال ، یک سلول عصبی با 3 ورودی در نظر بگیرید که آموزش یافته تا خروجی 1 را زمانی بدهد که ورودی (x1 ،x2 وx3) 111 یا 101 است و خروجی 0 را زمانی داشته باشد که ورودی 000و001 است. پس قبل از اعمال قانون فعال سازی ، جدول درستی به صورت زیر است:
|
X1: |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
1 |
|
X2: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
|
X3: |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
|
OUT: |
0 |
0 |
0/1 |
0/1 |
0/1 |
1 |
0/1 |
1 |
010 را بعنوان مثالی که در آن قوانین فعال سازی اعمال می شود در نظر بگیرید. این ورودی با ورودی 000 در یک عنصر و با ورودی001 در دو عنصر متفاوت است ، با 101 در سه عنصر وبا 111 در دو عنصر متفاوت است . بنابر این نزدیکترین الگو به آن 000 است که به الگوهای آموزشی با حاصل0 تعلق دارد . در نتیجه قوانین فعال سازی لازم می داند زمانی که ورودی 001 است تا سلول عصبی فعالیتی نکند . از طرف دیگر ، 011 در فاصله ای برابر بین در دسته الگو های آموزشی است که دارای خروجی های متفاوتی هستند بنابراین خروجی این الگو بدون تعریف می ماند (1/0).
با اعمال قوانین فعال سازی تمام ستون های جدول درستی زیر به دست آمده است:
|
X1: |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
1 |
|
X2: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
|
X3: |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
|
OUT: |
0 |
0 |
0 |
0/1 |
0/1 |
1 |
1 |
1 |
تفاوت بین دو جدول عمومیت دادن سلول عصبی نامیده می شود بنابر این قوانین فعالسازی به سلول عصبی حس تشخیص شباهت ها را می دهد و آنها را قادر می کند تا هوشمندانه به الگو هایی که در طول تمرین آنها را ندیده اند جواب بدهد.
الگوشناسی- یک مثال
یکی از کاربردهای شبکه های عصبی تشخیص الگو است.الگوشناسی با استفاده از شبکه های عصبی که ازپیش (مانند شکل 1) تغذیه شده اند و مطابق با موضوع پرورش یافته اند قابل اجرا است.وقتی از شبکه استفاده می کنیم خودش الگو های ورودی را شناسایی می کند و سعی می کند تا خروجی متناسب با آن الگو را بدهد . توان شبکه های عصبی زمانی خودش را نشان می دهد که الگویی به عنوان ورودی به آن داده شود که از قبل خروجی مرتبط با آن را نداشته ، در یان وضعیت خروجی متناسب است با یک الگوی ورودی که داری حداقل اختلاف با الگوی داده شده است.
بعنوان مثال:
شبکه عصبی در شکل 1 برای شناسایی الگوهای حروف T وH آموزش داده شده اند.همانگونه که شکل نشان می دهد الگوهای مرتبط بترتیب تماما سیاه و تماما سفید هستند .
اگر ما مربع های سیاه را با 0 و مربع های سفید را با با 1 نمایش دهیم بنابراین جدول درستی برای سه سلول عصبی بعد از عمومیت دادن (با قانون فعال سازی ) به صورت زیر است.
|
X11: |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
1 |
|
X12: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
|
X13: |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
|
OUT: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
خروجی سلول بالایی
|
X21: |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
1 |
|
X22: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
|
X23: |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
|
OUT: |
1 |
0/1 |
1 |
0/1 |
0/1 |
0 |
0/1 |
0 |
خروجی سلول میانی
|
X21: |
0 |
0 |
0 |
0 |
1 |
1 |
1 |
1 |
|
X22: |
0 |
0 |
1 |
1 |
0 |
0 |
1 |
1 |
|
X23: |
0 |
1 |
0 |
1 |
0 |
1 |
0 |
1 |
|
OUT: |
1 |
0 |
1 |
1 |
0 |
0 |
1 |
0 |
خروجی سلول پایینی
می توان موضوعات تداعی شده زیر را از جداول بالا است استخراج کرد.
در این مورد ، این کاملا واضح است که خروجی می تواند تماما سیاه باشد زمانی که الگوی ورودی تقریبا شبیه الگوی T است.
این جا هم کاملا آشکار است که خروجی کاملا سفید خواهد بود زمانی که الگوی ورودی تقریبا شبیه الگوی H است.
دراینجا، ردیف بالایی با دو اشتباه از الگوی T وبا سه تا اشتباه از الگوی H دور است بنابراین خروجی بالایی سیاه . ردیف میانی با یک اشتباه از هر دو الگوی TوH دور است.بنابراین خروجی بصورت اتفاقی انتخاب می شود. ردیف پایینی با یک اشتباه از الگوی T و با دو اشتباه از الگوی H دور است. بنابراین خروجی سیاه است. کل خروجی شبکه هنوز به نفع شکل Tاست.
یک سلول عصبیی کمی پیچده تر
سلول عصبی قبلی کاری که کامپیوتر های متعارف انجام ندهند را انجام نمی دهد . سلول عصبی کمی پیچیده تر مدل McCulloch و Pitts (MCP)است. فرق آن با مدل قبلی این است که ورودی ها وزن دار هستند، تاثیری که هر ورودی در گرفتن تصمیم دارد بستگی به وزن یک ورودی خاص دارد.وزن یک ورودی عددی است ، زمانی که این عدد در وردی ضرب می شود ورودی وزندار را می دهد. این ورودی های وزندار سپس با هم جمع می شود و اگر مجموع آنها از ارزش آستانه ای از پیش تنظیم شده تجاوز کند سلول فعال می شود . در موارد دیگر سلول فعال نمی شود.
(شکل 2)
به بیان ریاضی ، سلول عصبی فعال می شود اگر و فقط اگر:
X1W1 + X2W2 + X3W3 + ... > T
افزایش وزن های ورودی و بوسیله ی آستانه ارزش این سلول عصبی را یک سلول منعطف و قدرتمند می کند . سلول ها MCP قابلیت سازگاری با وضعیتی خاص را بکمک تغییر وزن ها و یا آستانه ارزش، دارد. الگوریتم های گوناگونی وجود دارد که سبب سازگاری سلول عصبی می شود ، پر استفاده ترین آنها قانون دلتا( Delta )است و روش پخش اشتباه گذشته(back error propagation)است . قالبی که در شبکه های از پیش تغذیه شده وبعد از آن در شبکه های بازخوردی استقاده شده است.
معماری شبکه های عصبی
شبکه های عصبی از قبل تغذیه شده
شبکه های از قبل تغدیه شده (شکل 1) به سیگنال ها اجازه می دهند تنها از مسیر یکطرفه عبور کنند، یعنی از ورودی تا خروجی. بنابراین باز خوردی( حلقه ها) وجود ندارد به این معنی که خروجی هر لایه تاثیری بر همان لایه ندارد . این گونه سازماندهی ازپایین به بالا واز بالا به پایین هم نام برده می شوند.
شبکه های عصبی بازخوردی
شبکه های بازخوردی می توانند سیگنال هایی داشته باشند که در هر دو مسیر با استفاده از حلقه های درست شده ،حرکت کنند . شبکه های بازخوردی خیلی قدرتمند هستند و می توانند به شدت پیچیده شوند. شبکه های بازخوردی پویا هستند ، وضعیت آنها پیوسته در حال تغییر است تا آنها به یک نقطه تعادل برسند.آنها در این وضعیت تعادل باقی می مانند تا زمانی که ورودی تغییر کند و نیاز باشد تا تعادل تازهای پیدا شود. معماری های بازخوردی ، بر هم کنشی(interactive) وبازگشت کننده (recurrent) هم نامیده می شوند، اگر چه این لفظ آخری بسشتر برای مشخص کردن اتصالات بازخوردی در سازماندهی های تک لایه به کار می رود .
