هوش مصنوعی

آموزش ارزش‌های انسانی به عوامل مصنوعی با استفاده از داستان

آموزش ارزش‌های انسانی به عوامل مصنوعی با استفاده داستان

یک تکنیک هوش مصنوعی به نام “کیشوت” به دنبال آموزش “ارزش‌های انسانی” به ربات‌ها با تعلیم داستان خوانی، یادگیری توالی قابل قبول از رخدادها و درک راه‌های صحیح برای رفتار در جوامع انسانی به آن‌هاست.

رشد سریع هوش مصنوعی (AI) موجب بروز نگرانی‌هایی در مورد رفتارهای غیراخلاقی احتمالی ربات‌ها و امکان آسیب‌پذیری انسان از آن‌ها شده است. به همین دلیل، برخی خواستار توقف تحقیقات در زمینه رباتیک و هوش مصنوعی شده‌اند، برخی دیگر نیز خواستار تحقیقات بیشتری در مورد چگونگی مقیدسازی ربات‌ها هستند. اما چگونه ربات‌ها می‌توانند رفتارهایی اخلاقی را یاد بگیرند بدون اینکه هیچ “کتابچه راهنمایی” برای انسان شدن وجود داشته باشد؟

مارک ریدل و برنت هریسون، محققان دانشکده رایانش تعاملی در موسسه فناوری جورجیا بر این باورند که جواب این سؤال در “کیشوت” نهفته شده است.

ریدل، دانشیار و سرپرست آزمایشگاه تحقیقاتی هوش سرگرمی می‌گوید:”قصه‌ها و داستان‌ها از فرهنگ‌های گوناگون به کودکان می‌آموزند که چگونه در جامعه رفتار به هنجاری داشته باشند، این آموزش از طریق نشان دادن رفتار صحیح و ناصحیح در افسانه‌ها، رمان‌ها و دیگر گونه‌های ادبی صورت می‌پذیرد.” وی افزود:”ما اعتقاد داریم که ادراک داستان در ربات‌ها می‌تواند رفتارهای احتمالی نا به هنجار آن‌ها را حذف کرده و انتخاب‌هایی را که برای انسان‌ها آسیب‌زا نیستند، در آن‌ها تقویت نماید.”

کیشوت یک تکنیک برای هماهنگی اهداف هوش مصنوعی با ارزش‌های انسانی توسط اهدای پاداش در ازای رفتارهای اجتماعی به هنجار است. این تکنیک بر اساس تحقیقات قبلی ریدل شکل گرفته است (سیستم شهرزاد) که نشان داد چگونه هوش مصنوعی می‌تواند توالی درستی از کنش‌ها را با دریافت بخش‌های مختلف داستان از اینترنت داشته باشد.

این تکنیک در کنفرانس AAAI-16 در فونیکس آریزونا (12 تا 17 فوریه) معرفی شد.

About the author

تیم تحریریه متنا

Add Comment

Click here to post a comment

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *