چکیده:پیش‌بینی سری‌های زمانی یکی از شاخه های علم آمار و احتمال است که در سایر رشته‌ها مانند اقتصاد، مهندسی ارتباطات، هواشناسی، مدیریت و بازاریابی کاربرد فراوانی دارد. دامنه کاربرد پیش‌بینی سری‌های زمانی روزبه‌روز گسترده‌تر شده و نیاز دانش‌پژوهان در این زمینه افزون‌تر می‌گردد. سری‌های زمانی آشوبی، زیرمجموعه‌ای از فرآیندهای غیرخطی با نتایج بسیار پیچیده و نامنظم، تعریف می‌شوند. در طول چند دهه گذشته، پیش‌بینی سری‌های‌زمانی آشوبی یک موضوع چالش برانگیز و جالب بوده است. اگرچه سری‌های زمانی آشوبی ویژگی‌های سیستم‌های دینامیکی را به صورت تصادفی نشان می‌دهند، در فضای‌حالت مناسب، رفتارهای قطعی را ارائه می‌دهند.در این پایان نامه پیش‌بینی سری زمانی آشوبی و تحلیل خطا با استفاده از شبکه‌های عصبی خطی و غیرخطی همراه با بگارگیری تئوری جاسازی پیشنهاد شده است. سری‌های زمانی به طور کلی شامل مؤلفه‌های خطی و غیرخطی می‌باشند. در این مطالعه در جهت بهبود دقت پیش‌بینی، یک روش ترکیبی شامل پیش‌بینی کننده خطی و غیرخطی، برای مدل کردن هر دو مؤلفه ارائه شده است. ابتدا با استفاده از نظریه جاسازی، سری‌زمانی در فضای حالت مناسب نمایش داده شده، سپس نقاط فضای‌حالت به یک شبکه عصبی خطی داده شده اند. خطای سری زمانی پیش‌بینی شده، محاسبه و به عنوان یک سری‌زمانی آشوبی جدید، در فضای‌حالت مناسب جاسازی شده است. در ادامه نقاط فضای‌حالت بدست آمده به مدل غیرخطی مورد نظر که یک شبکه عصبی بازگشتی المان آموزش داده شده با الگوریتم بهینه‌سازی جمعیت ذرات می‌باشد، خورانده شده تا مورد تحلیل قرار گیرند. در نهایت مقادیر پیش‌بینی شده از سری زمانی اصلی و سری زمانی خطا یعنی خروجی دو پیش‌بینی کننده خطی و غیرخطی، با هم جمع شده و با مقادیر واقعی سری زمانی مقایسه شده‌اند. سری‌های زمانی آشوبی مکی‌گلاس، لورنز و لکه‌های خورشیدی برای ارزیابی کارایی روش پیشنهادی استفاده شده اند. نتایج به دست آمده نشان دهنده‌ی پیش‌بینی دقیق‌تر روش پیشنهادی در مقایسه با روش‌های پیش‌بینی موجود، می‌باشد.کلمات کلیدی: سری زمانی آشوبی، پیش‌بینی، نظریه جاسازیس، تحلیل خطا، شبکه‌های عصبی مصنوعی. فهرست مطالبعنوانصفحهفصل اول: مقدمه 11-1:مقدمه ..........................................................................................................................................21-2: هدف تحقیق ..................................................................................................................................41-3: ساختار پایان‌نامه ............................................................................................................................5 فصل دوم: سری‌های زمانی آشوبی62-1: معرفی سری‌های زمانی ............................................................................................................72-2: سری‌های زمانی آشوبی ............................................................................................................102-3: تجزیه و تحلیل سری‌های زمانی آشوبی ...............................................................................132-4: معادلات آشوبی ..........................................................................................................................15 فصل سوم: مروری بر روش‌های تحلیل سری‌های زمانی آشوبی 173-1: تعیین پارامترهای فضای حالت برای جاسازی سری‌زمانی آشوبی ....................................183-1-1: مروری بر روش‌های تعیین پارامترهای فضای حالت ............................................183-1-2: روش‌های تعیین بهینه پارامترهای فضای حالت ...................................................203-2: پیش‌بینی سری‌های زمانی آشوبی با روش‌های هوش محاسباتی و ترکیب آن‌ها............213-2-1: پیش‌بینی با روش‌های مبتنی بر شبکه‌های عصبی مصنوعی ............................223-2-2: پیش‌بینی با ترکیب شبکه‌های عصبی و سایر الگوریتم‌های هوش محاسباتی ..25 فصل چهارم: شبکه‌های عصبی مصنوعی و الگوریتم بهینه‌سازی جمعیت ذرات 284-1: شبکه‌های عصبی مصنوعی ......................................................................................................294-1-1: کاربرد شبکه‌های عصبی مصنوعی .........................................................................304-1-2: ساختار شبکه‌های عصبی مصنوعی ..........................................................................314-1-3: یادگیری شبکه‌های عصبی مصنوعی .......................................................................324-1-4: انواع شبکه‌های عصبی مصنوعی ..............................................................................334-1-5: شبکه عصبی بازگشتی المان ...................................................................................354-1-6: شبکه عصبی خطی ...................................................................................................354-2: الگوریتم‌های تکاملی و محاسبات زیستی ..............................................................................374-2-1: مقدمه‌ای بر الگوریتم‌های فرامکاشفه‌ای ..............................................................374-2-2: هوش‌جمعی ............................................................................................................394-2-3: الگوریتم بهینه‌سازی جمعیت ذرات .......................................................................41 فصل پنجم: روش پیشنهادی435-1: بیان مسئله ....................................................................................................................................445-2: مدل پیش‌بینی و تحلیل خطا ...............................................................................................445-2-1: انتخاب سری زمانی و تشخیص آشوب....................................................................465-2-2: جاسازی سری‌زمانی در فضای‌حالت ......................................................................465-2-3: بکارگیری پیش‌بینی کننده خطی برای پیش‌بینی سری زمانی اصلی..............465-2-4: محاسبه خطا و جاسازی آن در فضای حالت ........................................................475-2-5: بکارگیری پیش‌بینی کننده غیرخطی برای پیش‌بینی سری زمانی خطاها .....475-2-6: مجموع نتایج پیش‌بینی کننده خطی و غیرخطی ...............................................495-3: نحوه ارزیابی ..................................................................................................................................505-4: نتیجه‌گیری ......................................................................................................................50 فصل ششم: نتایج شبیه‌سازی و ارزیابی روش پیشنهادی516-1: سری‌زمانی آشوبی مکی‌گلاس ..................................................................................................526-2: سری‌زمانی آشوبی لورنز ..............................................................................................................566-3: سری‌زمانی آشوبی لکه‌های خورشیدی ......................................................................................606-4: نتیجه‌گیری ..............................................................................................................................64 فصل هفتم: نتیجه گیری و پیشنهادات ..............................................................................................657-1: نتیجه گیری ..................................................................................................................667-2: پیشنهادات ........................................................................................................................69 مراجع ..............................................................................................................................................................70پیوست 1: واژه نامه ...................................................................................................................................76پیوست 2: شرح اختصارها ...............................................................................................................84پیوست 3: فهرست نام‌ها ........................................................................................................................85 فهرست جدولهاعنوانصفحه جدول6-1. خطای پیش‌بینی کننده‌ها به ازای داده تستاز سری‌زمانی آشوبی مکی‌گلاس53جدول 6-2. مقایسه خطای مدل پیش‌بینی پیشنهاد شده و دیگر پیش‌بینی کننده‌های مشابه مورد بررسی برای سری‌زمانی آشوبی مکی‌گلاس55جدول 6-3. مقایسه خطای پیش‌بینی در دیگر پژوهش‌ها و روش پیشنهاد شده برای سری‌زمانی آشوبی مکی‌گلاس56جدول6-4. خطای پیش‌بینی کننده‌ها به ازای داده تستاز سری‌زمانی آشوبی لورنز58جدول 6-5. مقایسه خطای مدل پیش‌بینی پیشنهاد شده و دیگر پیش‌بینی کننده‌های مشابه مورد بررسی برای سری‌زمانی آشوبی لورنز59جدول 6-6.مقایسه خطای پیش‌بینی در دیگر پژوهش‌ها و روش پیشنهاد شده برای سری‌زمانی آشوبی لورنز60جدول6-7. خطای پیش‌بینی کننده‌ها به ازای داده تستاز سری‌زمانی آشوبی لکه‌های خورشیدی62جدول 6-8. مقایسه خطای مدل پیش‌بینی پیشنهاد شده و دیگر پیش‌بینی کننده‌های مشابه مورد بررسی برای سری‌زمانی آشوبی لکه‌های خورشیدی63جدول 6-9.مقایسه خطای پیش‌بینی در دیگر پژوهش‌ها و روش پیشنهاد شده برای سری‌زمانی آشوبی لکه‌های خورشیدی63 فهرست شکلهاعنوانصفحه شکل 2-1.روند دراز مدت سری‌زمانی ...................................................................................................7شکل 2-2. روند و تغییرات فصلی سری‌زمانی .........................................................................................8شکل 2-3. تغییرات دوره‌ای سری‌زمانی ..................................................................................................8شکل 2-4. تغییرات نامنظم سری‌زمانی ...................................................................................................9 شکل 3-1. نمایش جاذب یک سیستم دینامیکی در به همراه تصویرش در .....................20 شکل 4-1. نمایش خلاصه یک لایه از نرون‌ها ....................................................................................31شکل 4-2. معماری شبکه عصبی بازگشتی المان ..................................................................................36شکل 4-3. شبکه عصبی خطی تک‌لایه .................................................................................................36شکل 4-4. طبقه‌بندی الگوریتم‌های فرامکاشفه‌ای ................................................................................38 شکل5-1. دیاگرام شرح روش پیش‌بینی پیشنهادی ...........................................................................45شکل 5-2. ساختار شبکه عصبی المان ....................................................................................................49 شکل 6-1. سری‌زمانی آشوبی مکی‌گلاس ..............................................................................................54شکل 6-2. سری‌زمانی آشوبی مکی‌گلاس جاسازی شده در فضای حالت با D=3 و T=2 ........54شکل 6-3. مقایسه مقادیر پیش‌بینی شده و مقادیر واقعی سری‌زمانی آشوبی مکی‌گلاس.............55شکل 6-4. سری‌زمانی آشوبی لورنز ..........................................................................................................57شکل 6-5. سری‌زمانی آشوبی لورنز جاسازی شده در فضای حالت با D=3 و T=3 ...................58شکل 6-6. مقایسه مقادیر پیش‌بینی شده و مقادیر واقعی سری‌زمانی آشوبی لورنز .....................59شکل 6-7. سری‌زمانی آشوبی لکه‌های خورشیدی ................................................................................62شکل6-8. مقایسه مقادیر پیش‌بینی شده و مقادیر اصلی سری‌زمانی آشوبی لکه‌های خورشیدی62 1فصل اول در طول چند دهه گذشته پیش‌بینی سری‌های زمانی آشوبی یک موضوع چالش برانگیز و مهم بوده است [17]. آشــوب* در لغت به معناي هرج‌و‌مرج و بينظمي است. ریشه لغوي آشوب به کلمه رومي «كائــوس*» برميگردد. محيط عمل پديده آشـوب، سيستم‌هاي ديناميكي است. سری‌های زمانی آشوب‌گونه می‌توانند به عنوان زیرمجموعه‌ای از فرآیندهای غیرخطی که نتایج بسیار پیچیده و نامنظم ایجاد می‌کنند، در نظر گرفته شوند [18]. تئوری آشوب به عنوان یک بخش اساسی تئوری غیرخطی، یک ابزار مناسب برای نشان دادن ویژگی‌های سیستم‌های دینامیکی و پیش‌بینی روند سیستم‌های پیچیده فراهم کرده است [17]. در واقع نظریه آشوب به سیستم‌هایی اشاره دارد که حاوی روابط غیرخطی، پیچیده و رفتار آشفته هستند. رفتار آشفته دو ویژگی مهم دارد به طوری که اینگونه رفتار از یک دید غیرقابل پیش‌بینی ولی از دید دیگر دارای الگوی نهفته در درون خود است. طبق این نظریه، رویدادها در جهان چنان پیچیده و پویا هستند که به نظر بی‌نظم می‌رسند اما در حقیقت نظام آشوب‌گونه دارای نظم زیربنایی است که شناسایی این نظم زیربنایی و نهفته اگرچه غیرممکن نیست ولی مشکل است زیرا عوامل و پارامترهای متعددی در تعامل پویا و غیرقابل پیش‌بینی رفتار پدیده‌ها را شکل داده و الگوی رفتاری آینده آن‌را به وجود مـی‌آورند [2]. خلاصه اینکه آشوب‌گونه بودن رفتارها و حرکات پدیده‌های مختلف فیزیکی، انسانی، اجتماعی و سازمانی همه خبر از نظم غائی می‌دهند، لذا می‌توان گفت که آشوب‌گونه بودن به معنای تصادفی بودن نیست بلکه بیانگر نظمی در درون بی‌نظمی‌هـا و قاعده‌ای در درون بی‌قاعدگی‌های ظاهری است[3].تحلیل سری‌های زمانی آشوب‌گونه* سه فاز اصلی دارد: 1) بررسی ویژگی‌های سیستم 2) تشخیص پارامترهای فضای‌حالت* برای جاسازی* سری‌زمانی 3) پیش‌بینی سری‌زمانی ]19[. فاز یک بررسی می‌کند که آیا یک سری‌زمانی آشوب‌گونه است؟ همچنین این فاز ممکن است شامل تشخیص این باشد که آیا سیستم قطعی است یا تصادفی؟ آیا خطی پویاست یا غیرخطی؟ جاسازی سری‌زمانی آشوب‌گونه در فضای‌حالت کمک زیادی به شناسایی سیستم می‌کند. روش‌های زیادی برای جاسازی فضای‌حالت وجود دارد. در غیاب یک معادله حاکم برای سیستم، نقاط فضای‌فاز یا همان فضای‌حالت، از سری‌زمانی اصلی با استفاده از یک روش جاسازی* تولید می‌شوند ]20[. تاکنز* در سال 1981 میلادی در یک مقاله مفصل و جامع ]19,21[، پایه‌های ریاضی برای کارکردن روی سری‌های زمانی آشوبی را بنیان نهاده است. در انتها مسئله پیش‌بینی سری‌زمانی است که شامل مطالعه رفتار گذشته و حال سیستم برای پیش‌بینی آینده است.پیش‌بینی سری‌های زمانی آشوبی در زمینه‌های مختلف از جمله سیستم‌های بازاریابی، مدیریت زنجیره تأمین، پردازش سیگنال، جریان ترافیک، پیش‌بینی هوا، پیش‌بینی لکه‌های خورشیدی و بسیاری از زمینه‌های دیگر مشاهده شده است [17]. به علت اهمیت همه این زمینه‌ها دقت روش‌های پیش‌بینی نیز مورد توجه و حائز اهمیت خواهد بود.