پرسپترون (Perceptron) : اولین الگوریتم هوش مصنوعی چگونه کار می‌کرد؟

هوش مصنوعی (Artificial Intelligence) به ماشین‌هایی دلالت دارد که می‌توانند مانند انسان یا حیوانات یاد بگیرند، استدلال کنند، خودشان اقدام کنند و تصمیم بگیرند. امروزه تحقیقات در حوزه هوش مصنوعی تلاش‌های متنوعی را در حوزه‌های بینایی ماشین، پردازش زبان طبیعی، رباتیک و یادگیری ماشین شامل می‌شود.

گرچه امروزه حوزه هوش مصنوعی یکی از پیشران‌های حوزه فن‌آوری محسوب می‌شود، بدان معنی نیست که این تلاش‌ها به‌تازگی صورت پذیرفته است. مطالعه این تلاش‌ها و افکاری که پشت توسعه الگوریتم‌ها است به خواننده کمک می‌کند منطق توسعه این الگوریتم‌ها را بهتر درک کند و با چالش‌های  هوش مصنوعی و مدل‌های یادگیری ماشین بهتر آشنا شود. در این مقاله من به اولین مدل هوش مصنوعی موسوم به پرسپترون که در دهه ۱۹۵۰ میلادی توسعه یافت، می‌پردازم و آن را در پایتون پیاده‌سازی می‌کنم.

مغر انسان؛ الهام‌بخش هوش مصنوعی

مغز انسان یادگیرنده شگفت‌انگیزی است. سلول‌های عصبی یا همان نورون‌ها (Neurons) ساختار اصلی تشکیل‌دهنده مغز و سیستم عصبی، هستند. شکل-۱ یک نورون را نشان می‌دهد. سیگنال‌های عصبی از طریق دندریت‌ها وارد هسته سلول می‌شود. ورودی‌ها در درون هسته سلول تجمیع می‌شوند و اگر از یک آستانه‌ای (Threshold) بیشتر شوند سیگنال خروجی از طریق آکسان انتقال می‌یابد.

شکل-۱

 

اولین تلاش‌ها برای مدل‌سازی ماشینی که نزدیک به مغر انسان عمل کند، مربوط به مقاله‌ای است که مک کالِک (McCulloch) و پیتس (Pitts) در سال ۱۹۴۳ منتشر کردند (شکل-۲). در این مقاله آن‌ها سعی کردند که یک مدل ریاضی مبتنی بر یک دروازه دودویی (Binary Gate) از نورون ارائه کنند.

شکل-۲

 

شکل-۳

 

شکل-۳ عملکرد نورون را به زبان ریاضی توضیح می‌دهد. ترکیب خطی متغیرهای ورودی x_{j}^{(i)} وارد نورون می‌شوند. برای محاسبه این ترکیب خطی، مقادیر ورودی x_{j}^{(i)} در ضرایب ثابت متناظر w_{j} ضرب شده و سپس همه این مقادیر با یکدیگر جمع می‌شوند. درنهایت پس از اضافه شدن یک عدد ثابت که سوگیری (Bias) نام دارد، خروجی (z) محاسبه می‌شود:

z = w_{1}x_{1}^{(i)} + ... + w_{m}x_{m}^{(i)} + b

 

در گام بعدی، z وارد تابع فعال‌سازی (Activation Function) می‌شود. تابع فعال‌سازی تصمیم می‌گیرد که نورون فعال شود (خروجی ۱ بدهد) یا غیرفعال بماند (خروجی صفر بدهد). در آن زمان تابع فعال‌سازی پله‌ای (Step Function) پیشنهاد گردید. در تابع پله‌ای اگر ورودی از عدد صفر بزرگ‌تر یا مساوی باشد، خروجی ۱ و اگر کوچک‌تر از صفر باشد، خروجی صفر است.

پرسپترون چگونه یاد می‌گیرد؟

به‌طور خلاصه، پرسپترون مجموعه‌ای از سیگنال‌های ورودی‌ را دریافت می‌کند و اگر ترکیب خطی این ورودی‌ها از مقدار آستانه بیشتر شد فعال می‌شود، وگرنه غیرفعال باقی می‌ماند.

برای آنکه پرسپترون کار کند، نیاز است تا ضرایب w_{j} و سوگیری b برای آن مسئله مشخص معلوم باشند. این‌ها پارامترهای مدل هستند که باید محاسبه شوند. پرسش این است این پارامترها چگونه باید محاسبه شوند؟

فرانک روزنبلات (Frank Rosenblatt) که تصویرش را در شکل-۴ می‌بینید، در سال ۱۹۵۷ الگوریتمی پیشنهاد داد که بتواند با مقادیر اولیه‌ای برای پارامترها شروع کند و در گام‌های بعدی به‌تدریج بر اساس ورودی‌های مختلف پارامترهای اولیه را اصلاح و به سمت پارامتر بهینه میل کند. الگوریتم یادگیری پیشنهادی وی، برای حل مسائلی کاربرد داشت که هدف تشخیص تمایز دو رسته‌ای بود که به شکل خطی از هم جداشدنی هستند.

شکل-۴

 

در زبان یادگیری ماشین، به مسائلی که هدف آن پیش‌بینی یک متغیر رسته‌ای (Categorical Variable) بر اساس مجموعه‌ای از ورودی‌هاست، مسائل دسته‌بندی (Classification) گفته ‌می‌شوند. عملاً پرسپترون یک مسئله دسته‌بندی باینری را حل می‌کند.

برای آشنایی بیشتر با انواع الگوریتم‌های یادگیری ماشین به مقاله “مقدمه‌ای بر یادگیری ماشین” مراجعه کنید.

الگوریتم پیشنهادی روزنبلات بسیار ساده است و به طریق زیر عمل می‎‌کند:

گام اول، پارامتر‌ها صفر یا اعداد تصادفی کوچک در نظر گرفته شوند.

گام دوم، به ازای هر مشاهده:

بر اساس ورودی داده‌ها و پارامتر‌ها، خروجی نهایی (\hat{y}_{}^{(i)}) پیش‌بینی شود.

بر اساس رابطه زیر پارامترها به‌روزرسانی شوند:

  \Delta w_{j}=\gamma({y_{}}^{(i)} - \hat{y}_{}^{(i)})x_{j}^{(i)}

 

در رابطه بالا، i اندیس مشاهده و j اندیس متغیر (همان ویژگی (Feature) به زبان یادگیری ماشین) است. \gamma نرخ یادگیری (Learning Rate) است که تعیین می‌کند چه میزان وزن‌ها اصلاح شوند.  مقدار واقعی و  مقدار پیش‌بینی رسته مشاهده i است. همان‌طور که از رابطه بالا مشخص است اگر بین مقدار واقعی و پیش‌بینی تفاوتی نباشد، پارامترها به‌روز نمی‌شوند ولی اگر تفاوت باشد بر اساس میزان نرخ یادگیری مقدار پارامترها به‌روز می‌شوند. نکته دیگر اینکه پارامترها، همگی باهم به‌روز می‌شوند.

اگر همه مشاهدات نمونه، از الگوریتم عبور کند و فرآیند آموزش یک‌بار روی داده‌ها طی شود، اصطلاحاً یک اِپُک (Epoch) طی شده است. مدل‌ساز می‌تواند تعیین کند، الگوریتم به ازای چند اپک اجرا گردد.

همگرا شدن الگوریتم تنها در صورتی تضمین می‌شود که دو رسته به شکل خطی از هم جداشدنی باشند. اگر نتوان دو رسته را با یک مرز خطی از هم جدا کرد، می‌توان تعیین کرد پس از چند اپک الگوریتم متوقف شود.

پیاده‌سازی پرسپترون در پایتون

برای آنکه درک بهتری از این الگوریتم پیدا کنید، من مثالی را در پایتون شبیه‌سازی کردم که در آن دو متغیر پیش‌بینی کننده داریم که بر اساس آن باید رسته مشاهده (آبی یا قرمز) را پیش‌بینی کنیم.

در این مثال برای ساخت داده مصنوعی (Synthetic Data)، از ماژول datasets در کتابخانه sklearn استفاده کردم. تابع make_blobs اجازه می‌دهد داده‌های خوشه‌ای ایجاد کنیم. آرگومان centers مراکز خوشه و cluster_std پراکندگی حول مراکز خوشه را مشخص می‌کند. ماتریس ویژگی‌ها را در آرایه features و ماتریس پاسخ را در آرایه response ذخیره کردم. کد زیر نحوه ساخت داده‌ها را نشان می‌دهد.

نتیجه کار در شکل-۵ مشخص است. همان‌طور که پیداست این دو رسته به شکل کاملی از هم جدا شده‌اند و مثال مناسبی است برای آنکه بتوان الگوریتم پرسپترون را بر روی آن پیاده‌سازی کرد.

شکل-۵

در کد زیر ابتدا من تابع فعال‌سازی پله‌ای را ایجاد کردم و خروجی آن را برای ورودی ۵ و ۲- بررسی کردم:

در گام بعدی، الگوریتم یادگیری پرسپترون را در تابع perceptron_fit پیاده‌سازی کردم. در کد زیر کاربر ماتریس ویژگی، ماتریس پاسخ، نرخ یادگیری و تعداد اپک را به‌عنوان ورودی به تابع می‌دهد. در گام بعد، مقادیر اولیه پارامترها را صفر در نظر گرفتم. برای بررسی نحوه همگرایی پارامترها دو لیست با عنوان w_history و b_history ایجاد کردم که پس از پایان هر اپک، آخرین مقادیر پارامترها را در خود ذخیره می‌کنند.

در حلقه اول، به تعداد اپک مراحل یادگیری اجرا می‌شود. در هر اپک (حلقه دوم) کل داده‌های آموزش یکی‌یکی وارد الگوریتم می‌شوند. ترکیب خطی ورودی با استفاده از تابع dot از کتابخانه Numpy محاسبه شده و در z ذخیره می‌گردد که خود ورودی تابع activation_func است. در گام بعدی بر اساس همان رابطه‌ای که در بالا توضیح دادم، به‌روزرسانی پارامترها صورت می‌پذیرد. درنهایت تابع پارامترهای برآوردی نهایی و تاریخچه آنان را برمی‌گرداند.

من در کد زیر تابع perceptron_fit را برای برآورد پارامترها در مثالی که ساختم، استفاده کردم:

به‌این‌ترتیب،

w_{1} = 0.012,
w_{2} = 0.031,
b = -0.300

برآورد شده‌اند.

پس از آموزش الگوریتم، از تابع perceptron_predict برای پیش‌بینی رسته مشاهدات استفاده کردم:

با مقایسه مقدار واقعی و مقدار پیش‌بینی‌شده در کل نمونه، می‌توان فهمید چند درصد پیش‌بینی‌ها درست بوده است. این همان شاخص دقت (Accuracy) مدل است. برای این مدل شاخص دقت ۱۰۰ درصد به دست می‌آید.

برای آنکه درک بهتری از خروجی الگوریتم داشته باشیم، من خط جداکننده را در شکل-۶ رسم کردم. این خط فضای ویژگی‌ها را به دو ناحیه آبی و قرمز تقسیم می‌کند. در این مثال که رسته‌ها به‌خوبی با خط از هم جدا شده‌اند عملکرد الگوریتم خیلی خوب است. گرچه به‌ندرت در مسائل دنیای واقعی با چنین شرایطی مواجه هستیم.

شکل-۶

 

کد رسم شکل بالا را در زیر آورده‌ام:

با توجه به آنکه من تاریخچه تغییرات پارامترها را در w_history و b_history ذخیره کردم، می‌توانم نحوه همگرایی آنان را در طول اپک‌ها بررسی کنم. شکل-۷ و شکل-۸ نشان می‌دهد که آنان خیلی زود همگرا شدند.

شکل-۷

 

شکل-۸

 

حال مثال را کمی چالشی می‌کنم. در کد زیر من طوری داده‌های مصنوعی را ساختم که با خط نتوان به‌سادگی رسته‌ها را  جدا کرد (شکل-۹). جالب است عملکرد پرسپترون را در این حالت بررسی کنیم.

شکل-۹

 

وقتی از تابع perceptron_fit برای این مثال، به ازای ۵۰ اپک استفاده می‌کنم، به این پارامترهای برآوردی می‌رسم:

w_{1} = 0.456,
w_{2} = -0.224,
b = -1.600

دقت مدل روی داده‌های آموزش به ۸۷ درصد می‌رسد و خط جداکننده دو رسته در شکل-۱۰ مشخص است.

شکل-۱۰

 

وقتی تعداد اپک را به ۵۰۰ می‌رسانم، پارامترهای برآوردی کاملاً تغییر می‌کنند:

w_{1} = 0.876,
w_{2} = -0.054,
b = -5.290

 دقت مدل به ۷۸٫۵ درصد می‌رسد. خط جداکننده حالا مطابق شکل-۱۱ می‌شود.

شکل-۱۱

 

به نظر می‌رسد الگوریتم دچار مشکل شده است. در شکل-۱۲ و شکل-۱۳ تاریخچه تغییرات پارامترها را رسم کردم. همان‌طور که معلوم است الگوریتم در طول ۵۰۰ اپک نتوانسته همگرا شود. توصیه می‌کنم الگوریتم را به ازای اپک‌های بیشتر و نرخ یادگیری متفاوت اجرا کنید و نتیجه را ببینید.

شکل-۱۲

 

شکل-۱۳

 

مثال‌هایی که حل کردم، نشان داد که پرسپترون، جداکننده خطی است و می‌توان آن را برای جدا کردن دو رسته بکار برد. اگر داده‌ها به شکل خطی قابل جدا کردن نباشد، الگوریتم همگرا نمی‌گردد.

نکته مهم دیگر آن است که حتی در مثال اولی که دو رسته به شکل خطی از هم جداشدنی هستند، الگوریتم بلافاصله وقتی‌که برچسب همه رسته‌ها را درست تشخیص می‌دهد، متوقف می‌شود و ضرایب به‌روز نمی‌شوند. این می‌تواند ما را دچار مشکل تعمیم‌پذیری کند. به‌صورت شهودی، بهتر است خط جداکننده جایی بین دو رسته باشد به‌طوری‌که حاشیه زیادی با دو طرف داشته باشد تا وقتی مدل در معرض داده‌های جدید قرار گرفت، خطای آن کم باشد. نکته‌ای که الگوریتم‌های مدرن‌تر مانند ماشین بردار پشتیبان (Support Vector Machines – SVMs) به آن توجه می‌کنند.

در مقابل پرسپترون، تنها تلاش می‌کند روی داده‌هایی که برای آموزش استفاده می‌کند، مرز جداکننده را تشخیص دهد. آن‌هم با اولین نتیجه خوب، کار را متوقف می‌کند. شکل-۱۴ تفاوت دو رویکرد را نشان می‌دهد.

به دلیل نقاط ضعفی که اشاره کردم، امروزه پرسپترون کاربردی ندارد. اما این تلاش‌های اولیه گام‌هایی بودند که ما را وارد عصر هوش مصنوعی کردند.

شکل-۱۴

 

منابع:

Rosenblatt, F. (1957). “The Perceptron, A Perceiving and Recognizing Automaton Project Para”, Cornell Aeronautical Laboratory

McCulloch W. S. & Pitts W. (1943). “A Logical Calculus of the Ideas Immanent In Nervous Activity”, The Bulletin of Mathematical Biophysics, 5(4):115–۱۳۳

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *