ترجمه فارسی عنوان مقاله
تابع هدف محدب جدید برای یادگیری با نظارت شبکههای عصبی تک لایه
عنوان انگلیسی
A new convex objective function for the supervised learning of single-layer neural networks
کد مقاله | سال انتشار | تعداد صفحات مقاله انگلیسی |
---|---|---|
52886 | 2010 | 8 صفحه PDF |
منبع
Publisher : Elsevier - Science Direct (الزویر - ساینس دایرکت)
Journal : Pattern Recognition, Volume 43, Issue 5, May 2010, Pages 1984–1992
فهرست مطالب ترجمه فارسی
چکیده
مقدمه
تعریف روش پیشنهادی
تنظیم تابع هدف: تعیین میزان خطا (MSE)
تابع هدف جدید: تعیین میزان خطا( MSE)پیش از غیرخطی شدن
یک مثال همراه توضیح
شبیه سازیها
آنالیز مقایسهای با روشهای پیشین
تحقیقات تطبیقی (مقایسهای) با دیگر الگوریتمهای استاندارد
نتیجهگیریها
مقدمه
تعریف روش پیشنهادی
تنظیم تابع هدف: تعیین میزان خطا (MSE)
تابع هدف جدید: تعیین میزان خطا( MSE)پیش از غیرخطی شدن
یک مثال همراه توضیح
شبیه سازیها
آنالیز مقایسهای با روشهای پیشین
تحقیقات تطبیقی (مقایسهای) با دیگر الگوریتمهای استاندارد
نتیجهگیریها
ترجمه کلمات کلیدی
شبکه های تک لایه عصبی، بهینه کلی، روش یادگیری نظارت شده، حداقل مربعات، بهینه سازی محدب، یادگیری افزایشی
کلمات کلیدی انگلیسی
Single-layer neural networks, Global optimum, Supervised learning method, Least squares, Convex optimization, Incremental learning
ترجمه چکیده
در این مقاله روش نوین یادگیری با نظارت برای ارزیابی شبکههای تغذیه رو به جلو عصبی تکلایه ارائه میشود. این روش از تابعهدفی بر مبنایMSE استفاده میکند، که خطاها را به جای اینکه پس از تابع فعالسازی غیرخطی نرونها ارزیابی کند قبل از آنها بررسی میکند. در این گونه موارد، راهحل را میتوان به سهولت از طریق حل معادلات در سیستمهای خطی بهدست آورد یعنی در این روش نسبت به روشهای معین و مرسوم پیشین به محاسبات کمتری نیاز است. تحقیقات تئوری شامل اثبات موازنههای تقریبی بین بهینۀ جهانی تابع هدف بر مبنای معیار MSE و یک تابع پیشنهادی دیگر میباشد. بعلاوه مشخص شده است که این روش قابلیت توسعه و توزیع آموزش را دارا میباشد. طی تحقیقات تجربی جامع نیز تنوع صحت در انرمان این روش مشخص شده است. این تحقیق شامل 10 دستهبندی ((Classification و 16 مسئلهی بازگشتی میباشد. بعلاوه، مقایسهاین روش با دیگر الگوریتمهای آموزشی با عملکرد بالا نشان میدهد که روش مذکور بطور متوسط بیشترین قابلیت اجرایی را داشته و به حداقل محاسبات در این روش نیاز میباشد.
ترجمه مقدمه
برای بررسی شبکه عصبی تغذیه رو به جلو تکلایه با تابع فعالسازی خطی، مقادیر وزن برای تابع بهMSE حداقل رسیده و میتوان این مقادیر را به وسیله یک ماتریس شبهمعکوس بدست آورد[1,2] . بعلاوه، میتوان اثبات کرد که سطح MSE این شبکه خطی تابعی درجه دوم میباشد [3] . بنابراین این سطحConvex هایپر پارابولیک( فراسهمیوار) را میتوان به سادگی با روش گرادیان نزولی (Gradient descent) طی کرد. با این حال، اگر ازتابع فعالسازی غیر خطی استفاده شود، مینیممهای محلی میتوانند بر مبنای معیارMSE در تابع هدف دیده شوند[4-6]. طی تحقیقات مختلف میتوان مشاهده نمود که تعداد چنین مینیممهایی میتوانند با ابعاد ورودی به صورت نمایی توسعه پیدا کند. تنها در برخی موارد خاص میتوان تضمین کرد که شرایط حاکم، فاقدMin های محلی هستند. در مورد الگوهای تفکیکپذیرخطی و معیار آستانه MSE ، وجود حداقل یک مقدارMin در تابع هدف به اثبات رسیده است[8,9]. با این حال، این امر یک موقعیت عمومی نمیباشد.
کارهای مشابه این تحقیق نیز بیانگر تابع هدفConvex جدید و معادل باMSE هستندکه شاملMin های محلی نبوده و راه حل کلی آنها با استفاده از سیستمهای معادلات خطی بدستمیآید. این سیستم را میتوان برای هر خروجی با پیچیدگی( N ) O حل کرد؛ در جایی که N تعداد پارامترهای شبکه را نشان میدهد: