چکیده توزیع‌های نیم نرمال و نیم t به ترتیب حالت‌های خاصی از توزیع‌های نرمال و t بریده شده می‌باشند که تکیه گاه آنها اعداد حقیقی غیر منفی بوده و در بسیاری از مطالعات آماری مورد استفاده قرار می‌گیرند. در این رساله ابتدا به معرفی توزیع نیم‌نرمال و توزیع نیم t پرداخته و سپس با استفاده از روش حداکثر درستنمایی به استنباط کلاسیک و بیز در مورد پارامتر این توزیع‌ها می‌پردازیم. برای انتخاب بهترین مدل متناسب با داده ها، از فاکتور بیز استفاده نموده و با تولید داده‌های شبیه سازی شده، برآوردگرهای کلاسیک و بیز را در مدل نیم‌نرمال مقایسه می‌کنیم. به علاوه برای داده‌های واقعی نیز، متناسب بودن مدل نیم‌نرمال و نیم t را مورد بررسی قرار می‌دهیم و نشان می‌دهیم که با انتخاب یک توزیع پیشین مناسب می‌توان برآوردگرهای نقطه‌ای و فاصله‌ای بیزی که دارای عملکرد بهتری نسبت به برآوردگرهای کلاسیک هستند را بدست آورد. هم چنین با استفاده از داده‌های واقعی و شبیه سازی شده نشان می‌دهیم که در صورت انتخاب توزیع پیشین نامناسب، کارایی و احتمال پوشش پایینی برای برآوردگرهای بیز بدست می‌آیند.کلید واژه : استنباط کلاسیک، استنباط بیز،مدل نیم نرمال، مدل نیم t عنوان صفحه فصل اول: مقدمه و مفاهیم پایه 1-1 مقدمه ............. 21-2 برخی از توزیع‌های آماری .................................................................................................... 41-2-1 توزیع نرمال .............................................................................................................. 41-2-2 توزیع تی استیودنت................................................................................................... 51-2-3 توزیع نرمال گامای از راست بریده ..................................................................... 51-2-4 توزیع گوسین گامای تعدیل یافته ......................................................................... 61-2-5 توزیع پیشین و توزیع پسین .................................................................................. 61-2-6 توابع چگالی پیشین آگاهی بخش و نا آگاهی بخش ....................................... 61-2-7 توزیع پیشین جفریز ................................................................................................. 71-3 نمونه گیری گیبس ............................................................................................................... 71-3-1 انتگرال‌گيری مونت کارلو........................................................................................ 81-3-2 الگوريتم نمونهگيری گيبس ................................................................................... 91-3-3 تعداد دور ريز در الگوريتم گيبس ..................................................................... 101-3-4 همگرايي الگوريتم گيبس ................................................................................... 111-4 فصل بندی رساله .............................................................................................................. 13 عنوان صفحهفصل دوم : استنباط کلاسیک و بیز درمورد مدل نیم‌نرمال2-1 مروری برتوزیع نرمال بریده ............................................................................................ 152-1-1 میانگین و واریانس توزیع نرمال بریده .............................................................. 152-2 متغیر تصادفی نیم نرمال (HN)..................................................................................... 192-2-1 میانگین و واریانس توزیع نیم نرمال................................................................... 192-3 استنباط کلاسیک مبنی بر برآوردگرهای حداکثر درستنمایی ..............................222-3-1 برآوردگرهای کلاسیک پارامترهای توزیع نیم‌نرمال ....................................... 222-3-2 فاصله اطمینان کلاسیک برای پارامترهای توزیع نیم‌نرمال .......................... 232-4 استنباط بیزدر مورد مدل نیم نرمال ............................................................................. 272-4-1 مقدمه‌ای بر استنباط بیز ...................................................................................... 272-4-2 توزیع پیشین و توزیع پسین برای مدل نیم نرمال ......................................... 282-4-3 برآورد نقطه‌ای و فاصله‌ای بیز برای پارامترهای مدل نیم‌نرمال ................... 312-4-4 خانواده چگالی مزدوج ........................................................................................... 35فصل سوم: استنباط کلاسیک و بیز در مدل نیم t3-1 معرفی توزیع t بریده ........................................................................................................ 383-2 توزیع نیمt ............................................................................................................................ 393-2-1 میانگین و واریانس توزیع نیم t استاندارد ...................................................... 403-3 استنباط کلاسیک توزیع نیم t بر اساس روش حداکثر درستنمایی ....................... 423-3-1 برآورد میانگین توزیع نیم t.................................................................................. 423-3-2 برآورد واریانس توزیع نیم t ................................................................................. 433-4 استنباط بیزی در مورد توزیع نیم t .............................................................................. 43 عنوان صفحه فصل چهارم : انتخاب مدل4-1 مروری بر روشهای انتخاب مدل .................................................................................... 484-2 فاکتور بیز برای توزیع پیشین آگاهی بخش ................................................................ 484-3 فاکتور بیز برای توزیع پیشین ناآگاهی بخش ............................................................ 504-3-1: فاکتور بیز جزئی ..................................................................................................... 514-4 الگوریتم چیب .................................................................................................................... 53فصل پنجم : شبیه سازی و نتیجه گیری 5-1 مقایسه همزمان برآوردگرهای کلاسیک و بیز در مدل نیم نرمال ........................ 575-2 انتخاب مدل ....................................................................................................................... 625-2-1 مدل نیم نرمال ...................................................................................................... 625-5-2 مدل نیم t .................................................................................................................645-3 نتیجه گیری ......................................................................................................................... 67منابع .......................................................................................................................................................... 68پیوست ....................................................................................................................................................... 71چکیده و صفحه عنوان انگلیسی فهرست جداول عنوان صفحهجدول 1.5 برآورد اریبی و از برآوردگر حداکثر درستنمایی،حداکثر درستنماییتصحیح شده اریبی و میانگین توزیع پسین برای پارامتر ................................. 58جدول 2.5 برآورد احتمال پوشش و پهنای فاصله اطمینان 95% فواصل کلاسیک و بیز،، برای پارامتر .................................................................................................. 59جدول 3.5 برآورد اریبی و ، از حداکثر درستنمایی، حداکثر درستنمایی تصحیحشده اریبی، میانگین توزیع پسین و مد توزیعپسین برای پارامتر .................. 60جدول 4.5 برآورد احتمال پوشش و پهنای فاصله اطمینان 95% فواصل کلاسیک قابلقبول بیز و فاصله بیز، ، برای پارامتر ........................................................ 61فهرست شکل ها عنوان صفحهشکل 1.2 نمودار تابع چگالی توزیع نیم نرمال استاندارد و توزیع نرمال استاندارد ................20شکل 2.2 ناحیه اطمینان 95% توام ................................................................................ 26شکل 1.5 ناحیه اطمینان کلاسیک 95% و ناحیه اطمینان قابل قبول بیز ..............63شکل 2.5 هیستوگرام فراوانی نسبی همراه با تابع چگالی وتوزیعپیش بین بیز ..................................................................................................................... 64شکل 3.5 هیستوگرام فراونی نسبی مقادیر، همراه با برآورد چگالی پسین ...................... 65شکل 4.5 تابع توزیع تجربی میزان چربی بدن 102 ورزشکار توام با تابع توزیع پیشبین نیم t ...........................................................................................................................66 مقدمه و مفاهیم پایه 1-1 مقدمه توزیع نرمال یکی از مهمترین توزیع‌های احتمالیپیوسته در نظریه احتمالاست. علت نام‌گذاری و همچنین اهمیت این توزیع، هم‌خوانی بسیاری از مقادیر حاصل از نوسان‌های طبیعی و فیزیکی پیرامون یک مقدار ثابت با مقادیر حاصل از این توزیع است. همچنین نقش این توزیع در قضیه حد مرکزیدلیل دیگری بر اهمیت توزیع نرمال می باشد. به زبان ساده، در قضیه حد مرکزینشان داده می‌شود که تحت شرایطی، مجموع مقادیر حاصل از متغیرهای مختلف که هرکدام میانگین و پراکندگی متناهی دارند، با افزایش تعداد متغیرها، دارای توزیعی بسیار نزدیک به توزیع نرمال است. این قانون بیان کننده آن است که برآیند نوسان‌های مختلف تعداد زیادی از متغیرهای ناشناخته، در طبیعت به صورت توزیع نرمال آشکار شود. به عنوان مثال، با اینکه عوامل زیادی بر میزان خطای اندازه‌گیری یک کمیت اثر می‌گذارند. (مانند خطای دید، خطای وسیله اندازه‌گیری، شرایط محیط و ...) اما با اندازه‌گیری های متعدد، برآیند این خطاها همواره دارای توزیع نرمال است که حول مقدار ثابتی پراکنده شده است. مثال‌های دیگری از این نوسان‌های طبیعی، طول قد، وزن یا بهره هوشیافراد است.این توزیع گاهی به دلیل استفاده کارل فردریک گاوس[1] (1777-1855)با نام توزیع گوسی (گاوسی) استفاده می‌شود، همچنین به دلیل شکل تابع چگالی آن به توزیع زنگوله‌ای (زنگدیس) نیز معروف است. با وجود سودمند بودن توزیع نرمال، مقادیر متغیر تصادفی در تئوری این توزیع روی مجموعه اعداد حقیقی تغییر می‌کند. حال آنکه در بسیاری از مطالعات آماری که داده‌ها تمایل به پیروی از توزیع نرمال دارند، دامنه تغییرات آنها تمام مجموعه اعداد حقیقی را در بر نمی‌گیرد. پس استفاده از توزیع نرمال در بررسی این داده‌ها، باعث بوجود آمدن خطای محاسباتی معنی‌داری می‌شود. بنابراین توزیع نرمال با تکیه‌گاه قسمتی از مجموعه اعداد حقیقی، انگیزه‌ای برای تحقیق در مورد توزیع نرمال بریده را بوجود می‌آورد. توزیع نیم نرمال حالت خاصی از توزیع نرمال بریده می‌باشد که نقاط بریدگی در صفر و بی نهایت اتفاق می‌افتد. آزالینی[2] (1985) ثابت کرد، توزیع نیم نرمال می‌تواند حد توزیع نرمال اریب باشد.هنگام تعیین تقریبی میانگین نمونه‌های برداشته شده از یک متغیر تصادفی، توزیع تی‌استودنت مطرح می‌شود. این توزیع اساس آزمونی به نام "آزمون تی" است که تفاوت میانگین جامعهرا از روی نمونه‌هایشان بررسی می‌کند.آزالینی و کاپیتانیو[3] (2003) ، جونز و فدی[4] (2003)، ثابت کردند، که توزیع نیم t می تواند حد توزیع t اریب باشد استنباط بیز برای توزیع نرمال اریب توسط لیزو[5] (2004) انجام گرفت.در این فصل در بخش اول به تعریف توزیع‌های مهم بکار رفته در پایان نامه می‌پردازیم و سپس در بخش دوم پس از تعریف توزیع پیشین و توزیع پسین، توزیع های پیشین آگاهی بخش و توزیع پیشین غیر آگاهی بخش را معرفی نموده و توزیع جفریز را توضیح می‌دهیم. در بخش سوم به معرفی الگوریتم متروپلیس - هستینگز می‌پردازیم و درانتها به چکیده‌ای از کارهایی که در این پایان نامه صورت گرفته است اشاره می‌کنیم.1-2 برخی از توزیع‌های مهم آماری در این بخش بعضی از توزیع‌های آماری مهم که در این رساله مورد استفاده قرار می‌گیرد را معرفی می‌کنیم.1-2-1 توزیع نرمالیکی از مهمترین توزیع های آماری توزیع نرمال است. تابع چگالی توزیع نرمال با پارامترهایو به صورت زیر است :توزیع نرمال دارای ویژگی های زیر است: 1-2-2 توزیع تی استودنتفرض کنید که متغیرهای تصادفی مستقلو هم توزیع با نرمالبا میانگینو واریانسهستند .اگر میانگین این متغیرهای تصادفی و واریانس آنها را نشان دهد آنگاه متغیر تصادفیدارای توزیع t با n-1 درجه آزادی است.تابع چگالی متغیر تصادفی T با درجه آزادی به صورت زیر نوشته می شودکه در آنΓ همان تابع گامااست.میانگین این توزیع برای درجه آزادی بزرگتر از یک برابر با صفر و واریانس توزیع برای درجه آزادی بزرگتر از دو برابر با می باشد.1-2-3 توزیع نرمال گامای از راست بریدهبردار تصادفی دارای توزیع نرمال گامای از راست بریده در نقطه است و نوشته میشودهر گاه تابع چگالی توزیع به صورت زیر باشد،1-2-4 توزیع گوسین گامای تعدیل یافتهمتغیر تصادفی Wدارای توزیع گوسین گامای تعدیل شده گفته است و آن را با نماد،نشان می دهند. هرگاه:1-2-5 توزیع پیشین و توزیع پسیناگر پارمتر توزیع متغیر به عنوان یک متغیر تصادفی در نظر گرفته شود و تابع چگالی آن با ، نمایش داده شود، را چگالی پیشین می‌نامند. فضای پارامتر در حکم تکیه گاه می باشد و براساس تعبیر شخصی تعیین می‌شود.نمونه تصادفی را در نظر بگیرید این نمونه یا آماره را به کار می‌بریم تا اطلاعات بیشتری درباره به دست آوریم. به این منظورتابع چگالی شرطی را به شرط داشتن یا پیدا می‌کنیم و تابع چگالی شرطی را با نشان می دهیم. را تابع چگالی پسین می نامیم.1-2-6 توابع چگالی پیشین آگاهی بخش و نا آگاهی بخشتابع چگالی پیشین آگاهی بخش، اطلاعات قابل اطمینانی را در مورد پارامتر ارائه می‌دهد و در تعیین تابع چگالی پسین تاثیرگذار است، عرض نقطه ماکزیمم در منحنی توزیع‌های پیشین آگاهی بخش، زیاد است. ولی درپیشین‌های ناسره یا غیر اطلاعاتی، توزیع پیشین، هیچ اطلاع قابل اعتمادی مرتبط با پارامتر مجهول را ارائه نمی‌دهد، و یا اینکه یک اثبات کلاسیک بر اساس داده‌ها را بوجود می‌آورد.اگر باشد، آنگاه توزیع یکنواخت پیوستهیک پیشین نا آگاهی بخش برای تعریف می کند به طوری که هیچ یک از مقادیر نسبت به مقدار دیگری از آن ترجیح داده نمی‌شود.1-2-7 توزیع پیشین جفریزپیشین جفریز در سال 1964 توسط هارولد جفریز ارائه شد. این پیشین بر اساس اطلاع فیشر می‌باشد. این توزیع متناسب با جذر اطلاع فیشر ساخته می شود. اگر اطلاع فیشر مرتبط بارا نشان دهد آنگاهتوزیع پیشین جفریز بصورت تعریف می‌شود.1-3 نمونهگيری گيبس نمونه گيری گيبس يک روش شبيه سازی برای به دست آوردن نمونه‌هايي از يک تابع چگالی توأماست. مشکل محاسبه در توزيع‌های حاشيه‌ای از يک تابع چگالی توأم، بدست آوردن انتگرال است. برای مثال فرض کنيد بردار و چگالي توأم غيرنرمال شده[6] باشد. نرمال کردن f مستلزم محاسبه است. برای به دست آوردن توزيع حاشيه‌ای لازم است عبارت زير محاسبه شودکه در آن نشان دهنده تمام مؤلفه‌های به جز است.هنگامی کهp بزرگ باشد، محاسبه چنين انتگرالی پيچيده خواهد بود. در اين صورت استفاده از روش نمونهگيری گيبس می‌تواند مؤثر واقع شود. اما مهم‌ترين کاربرد نمونه گيری گيبس در مدل‌های بيزی است. در اين مدل‌ها چگالی توأم برای مشاهدات Y و پارامترهای مجهول به صورت مشخص می‌شود. در حالت بيزی مشاهداتY ثابت و استنباط بر اساس چگالی پسين يعنی:صورت می‌گيرد. استنباط بيزی مستلزم به دست آوردن چگالی‌های حاشيه‌ای و اميد رياضی حاشيه‌ای است که اغلب نيازمند انتگرال‌گيری از تابع‌هايي با ابعاد زياد بوده و اين نيز مستلزم محاسبات بسيار پيچيده می‌باشد. در اين حالت الگوريتم نمونه گيری گيبس را که تنها مستلزم محاسبه توزيع‌های پسين شرطی کامل پارامترهاست می‌توان به کار برد. قبل از معرفی اين روش مروری بر روش انتگرال‌گيری مونت کارلو و اينکه چگونه می‌تواند در روشهای بيزی استفاده شود خواهيم داشت.