چکیدههدف اصلی از ارایه این پایان نامه، انتقال نظراتی است که در سالهای گذشته در تحقیقات مربوط به رشته یادگیری ماشین (زیر شاخه ای از هوش مصنوعی که بر روی برنامه هایی تمرکز می کند که از طریق تجربه به یادگیری می پردازند.) مطرح شده است. در ارایه این نظرات تلاش شده است که با حفظ دقت، از بیش از حد رسمی شدن پرهیز شود، هرجا که مناسب بوده الگوریتم های شبه برنامه نیز گنجانده شده تا نظرات را ملموس تر کند. به جای توضیح این زیر شاخه از هوش مصنوعی به سبک خاص خودش، سعی گردیده است تا تمام دانسته ها در این زمینه در یک چارچوب مشترک ارایه شوند. در این پایان نامه، نقش یادگیری به عنوان گسترش دسترسی طراح به محیط های ناشناخته توضیح وهمچنین نشان داده می شود که این نقش چگونه برای طراحی عامل ها محدودیت ایجاد می کند و از بازنمایی صریح دانش و استدلال پشتیبانی مینماید. این مبحث، روشهای تولید دانش مورد نیاز توسط اجزای تصمیم گیرنده را توصیف می کند، همچنین نوع جدیدی از این اجزاء (شبکه عصبی) را به همراه رویه های یادگیری مربوط به ان معرفی می نماید. بدین منظور به ترجمه بخش یادگیری از کتاب هوش مصنوعی راسل (فصول 18، 19، 20 و 21) مبادرت شده است. پنج مشخصه اصلی این پایان نامه عبارتند از: 1-ارایه دیدگاهی یکپارچه از رشته یادگیری ماشین. 2-تمرکز حول محور عاملهای هوشمند 3-پوشش جامع و به روز مطالب 4-تأکید یکسان هم بر مباحث نظری و هم عملی 5-درک مطالب از طریق پیاده سازی تعداد صفحات 240 word فهرست مطالبفصل یکم یادگیری از طریق مشاهدات.. 21-1- اَشکال یادگیری.. 31-2-یادگیری استقرایی.. 71-3-یادگیری درختان تصمیم.. 101-3-1 درختان تصمیم به عنوان عناصر کارایی.. 111-3-2 رسا بودن درختان تصمیم.. 141-3-3 استنباط درختان تصمیم از مثالها 161-3-4 انتخاب تستهای صفت... 231-3-5 ارزیابی کارایی الگوریتم یادگیری.. 251-3-6 اختلال و برازش کاذب.. 281-3-7 توسعه ی قابلیت اعمال درختان تصمیم.. 311-4- یادگیری گروهی.. 331-5- چرا یادگیری درست عمل می کند : نظریه یادگیری محاسباتی.. 401-5-1 چه تعداد مثال مورد نیاز است؟. 411-5-2 یادگیری لیستهای تصمیم.. 441-6 -خلاصه. 49فصل دوم دانش در یادگیری.. 502-1- یک تدوین منطقی از یادگیری.. 512-1-1 مثالها و فرضها 512-1-2 جستجوی بهترین فرض جاری.. 542-1-3 جستجوی حداقل تعهد. 592-2- دانش در یادگیری.. 662-2-1 تعدادی مثال ساده. 672-2-2 تعدادی طرح کلی.. 682-3-یادگیری مبتنی بر تشریح.. 712-3-استخراج قوانین کلی از مثالها 732-4 - یادگیری با استفاده از ارتباط اطلاعات.. 782-4-1 تعیین فضای فرض.... 792-4-2 یادگیری و بهکارگیری ارتباط اطلاعات: 802-5- برنامه نویسی منطقی استقرایی.. 842-5-1 روشهای یادگیری استقرایی بالا به پایین.. 892-5-2 یادگیری استقرایی با استقرای معکوس... 942-6-خلاصه. 100فصل سوم روشهای یادگیری اماری.. 1023-1- یادگیری اماری.. 1033-2-یادگیری با داده های کامل.. 1093-2-1 یادگیری پارامتری حداکثر درستنمایی: مدلهای گسسته. 1093-2-2 مدلهای خام بیزین.. 1133-2-3 یادگیری پارامتری حداکثر درستنمایی: مدلهای پیوسته. 1153-2-4 یادگیری پارامتری بیزین.. 1173-2-5یادگیری ساختارهای شبکه بیزین: 1213-3-یادگیری با متغیرهای پنهان: الگوریتم EM... 1233-3-1 دسته بندی بدون نظارت: یادگیری ترکیبی گاوس... 1253-3-2 یادگیری شبکةهای بیزین با متغیرهای پنهان.. 1293-3-3 یادگیری مدلهای پنهان مارکوف.. 1323-3-4 شکل کلی الگوریتم EM... 1333-3-4 یادگیری ساختارهای شبکه بیز با متغیرهای پنهان.. 1343-4-یادگیری نمونه محور. 1363-4-1 مدلهای نزدیکترین همسایه. 1363-4-2 مدلهای کرنل.. 1403-5- شبکه های عصبی.. 1423-5-1 واحدها در شبکه های عصبی.. 1423-5-2 ساختارهای شبکه. 1453-5-3 شبکه های عصبی پیشرو تکلایهای (پرسپترونها) 1473-5-4 شبکه های عصبی پیشرو چندلایهای.. 1543-6-ماشین های کرنل.. 1633-7-مطالعة موردی : تشخیص ارقام دست نویس.... 1683-8-خلاصه. 171فصل چهارم یادگیری تقویتی.. 1744-1-مقدمه. 1754-2-یادگیری تقویتی غیر فعال.. 1784-2-1 تخمین مستقیم سودمندی.. 1804-2-2 برنامه ریزی پویای تطبیقی.. 1814-2-3 یادگیری تفاضل موقتی.. 1834-3-یادگیری تقویتی فعال.. 1884-4-تعمیم در یادگیری تقویتی.. 1964-4-1 کاربردها در انجام بازیها: 2014-4-2 کاربرد در کنترل ربات.. 2024-5-جستجوی خط مشی.. 2044-6-خلاصه. 210فصل پنجم جمع بندی و نتیجه گیری.. 214فهرست واژگان: 217 فهرست اشکالشکل 1-1. 8شکل 1-2 درخت تصمیمی برای تصمیم درمورد این که ایا برای یک میز منتظر میمانیم یا خیر. 13شکل 1-3- مثالهایی برای دامنه رستوران.. 16شکل 1-4-تقسیمبندی مثالها بهوسیله تست بر روی صفات. 18شکل 1-5- الگوریتم یادگیری درخت تصمیم.. 20شکل 1-6- درخت تصمیمی که از مجموعه اموزشی مربوط به 12 مثال نتیجه شده است. 22شکل1-7- منحنی یادگیری برای الگوریتم درخت تصمیم بر اساس 100 مثالی که بطور تصادفی در دامنه رستوران تولید شده اند. 27شکل 1-8- تصویری از قدرت رسایی افزایش یافته که توسط یادگیری گروهی به دست امده است. 34شکل 1-9-چگونگی کارکرد الگوریتم بوستینگ. 36شکل1-10-گونه ADABOOSTروش بوستینگ درمورد یادگیری گروهی. 37شکل 1-11. 39شکل 1-12- نمای طرح واری از فضای فرض که نشان دهنده "ε–بال"اطراف تابع درست fاست. 42شکل 1-13- یک لیست تصمیم برای مسأله رستوران. 44شکل 1-14-الگوریتمی برای یادگیری لیست های تصمیم. 47شکل 1-15- منحنی یادگیری برای الگوریتم یادگیری لیست تصمیمبر اساس داده های رستوران. منحنی یادگیری درخت تصمیم نیز برای مقایسه نشان داده شده است. 48شکل 2-1-(الف) یک فرض سازگار. (ب) یک منفی کاذب. (ج) فرض تعمیم یافته است. (د) یک مثبت کاذب. (ه) فرض تخصیص یافته است. 55شکل 2-2- الگوریتم یادگیری جستجوی بهترین فرض جاری. این الگوریتم به دنبال یک فرض سازگار میگردد و زمانی که نتواند هیچ تعمیم/تخصیص سازگاری را بیابد عقبگرد میکند. 56شکل 2-3- الگوریتم یادگیری فضای نمونه. این الگوریتم زیرمجموعه ای از Vرا مییابد که با مثالها سازگار باشد. 60شکل 2-4- فضای نمونه شامل تمام فرضهای سازگار با مثالها میباشد. 62شکل 2-5- بسط های اعضای Sو G. هیچ مثال شناخته شده ای در بین دو مجموعه کران قرار نمیگیرد. 63شکل 2-6-یک فرایند یادگیری فزاینده در طول زمان از دانش زمینه اش استفاده میکند و به ان میافزاید. 67شکل 2-7- درختان اثبات برای مسأله ساده سازی. 74شکل 2-8- الگوریتمی برای یافتن یک تعیین کننده سازگار کمینه. 82شکل 2-9- مقایسه کارایی بین RBDTLو DECISION-TREE-LEARNING.. 84شکل 2-11-یک درخت خانواده معمولی. 87شکل 2-12- خلاصه ای از الگوریتم FOIL.. 92شکل 2-13- مراحل اولیه در یک فرایند تحلیل معکوس. 95شکل 2-14-مرحله ای از تحلیل معکوس که یک گزاره جدید Pرا تولید می کند. 98شکل 3-2. 111شکل 3-3- منحنی یادگیری برای یادگیری خام بیزین.. 114شکل 3-5- مثالهایی از توزیعbeta [a, b] برای مقادیر مختلفی از [a, b]. 118شکل 3-9-نمودارها نشان دهنده لگاریتم درستنمایی داده ها 128شکل 3-10-(الف)یک مدل ترکیبی برای ابنبات. 129شکل 3-11-شبکه بیزین پویا و گسترده ای که یک مدل پنهان مارکوف را بازنمایی می کند. 132شکل 3-14-تخمین چگالی کرنل برای داده های.. 141شکل 3-18-یک شبکه عصبی بسیار ساده با دو ورودی، یک لایه پنهان دو واحدی، و یک خروجی. 146شکل 3-19. 147شکل 3-20-تفکیک پذیری خطی در پرسپترونهای استانه. 149شکل 3-21- الگوریتم یادگیری نزول گرادیان برای پرسپترونها 152شکل 3-22-مقایسه کارایی پرسپترونها و درختان تصمیم. 152شکل 3-23. 155شکل 3-24-یک شبکه عصبی چندلایه ای با یک لایه پنهان و 10 ورودی، که برای مسأله رستوران مناسب است. 156شکل 3-25-الگوریتم پس-انتشار برای یادگیری در شبکه های چندلایه ای. 158شکل 3-26-. 161شکل 3-29. 168شکل 4-6-کارایی یک عامل ADPحریص که به اجرای اقدامی می پردازد. 190شکل 4-7-کارایی عامل ADPاکتشافی که از R+=2و Ne=5 استفاده می کند. 192شکل 4-10 تصاویری از یک هلیکوپتر خودمختار که در حال اجرای یک مانور دایره ای بسیار سخت می باشد211 توجه : در حدود 10 صفحه از نوشته های پایان نامه به عکس می باشد و همچنین فرمول ها