چگونه هوش مصنوعی را شکست دهیم
انسانها در رفتارهایشان هوشمند هستند – البته گاهی اوقات. انسانها می توانند فکر کنند ، از مفاهیم به نحو احسن بهره ببرند و اتفاقات را مورد قضاوت قرار دهند. ممکن است از خود بپرسیم شامپانزهها ، گوریلها ، خوکها و دلفینها چه هوشی دارند و برداشتشان از جهان چگونه است.
... و انتخاب کنیم کجا بنشینیم انسانها در رفتارهایشان هوشمند هستند – البته گاهی اوقات. انسانها می توانند فکر کنند ، از مفاهیم به نحو احسن بهره ببرند و اتفاقات را مورد قضاوت قرار دهند. ممکن است از خود بپرسیم شامپانزهها ، گوریلها ، خوکها و دلفینها چه هوشی دارند و برداشتشان از جهان چگونه است. ولی در اینجا به موضوع دیگری می پردازیم که به همان اندازه برای فلاسفه جالب توجه است: به ماشینها ، کامپیوترها و روباتها. ترموستاتها و کامپیوترهایی که شطرنج بازی می کنند انسانها در برابر دنیا عکس العمل نشان می دهند و این عکس العمل بیانگر برداشت آنهاست از آنچه در حال رخ دادن است ، آنچه احتمال دارد رخ دهد و آنچه آنها دلشان می خواهد رخ دهد. این برداشت می تواند یک برداشت غلط باشد؛ خواستهها می توانند احمقانه باشند. چه غلط باشد چه نه ، حالات روانی دارای جهت و مضمون هستند. مثلاً ممکن است فکر شما درگیر مردی باشد که بر لبۀ پنجره ایستاده است ، با این مضمون "نپر!" و یا شاید "بپر!" فردی از شیشۀ پنجره به بیرون می نگرد و به ابر های سیاه خیره می شود. چند دقیقه بعد ، چتری بر می دارد و خانه را ترک می کند. ما نتیجه می گیریم او فکر می کند باران خواهد بارید و دلش نمیخواهد خیس شود. او برداشتی از دنیا و در نتیجه خواستهای دارد. در حقیقت ، ما برداشتی از برداشت او داریم و ممکن است در اشتباه باشیم. شاید او فکر می کرده خورشید به زودی بیرون می آید و چتر را بهعنوان محافظ آفتاب با خود برده است. در هر صورت ، همۀ آنچه ما دیدهایم حرکات ناشی از محیط اطراف او بوده است؛ آنها را بهعنوان رفتارهایی هوشیارانه و در نتیجه هوشمندانه تعبیر کردهایم. بر عکس ترموستاتها. ترموستاتها در برابر محیط اطرافشان عکس العمل نشان می دهند؛ ولی هیچ وقت آنها را موجوداتی هوشمند در نظر نمی گیریم. ترموستات دمای محیط اطرافش را بررسی و قضاوت نمیکند. رسیدن به یک دمای ثابت با روشن و خاموشکردن بویلر ، خواستۀ او نیست. وقتی خراب شود و دما افزایش یابد ، ما عصبانی می شویم ولی نه از برداشت غلط ترموستات. شاید مثال ترموستاتها بیش از اندازه ساده است. کامپیوترهایی که شطرنج بازی می کنند می توانند در برابر حرکات بیشماری عکس العمل نشان دهند و حتی استادان بزرگ شطرنج را هم شکست دهند. ولی شک داریم که آیا آنها قوانین بازی شطرنج را می فهمند و دلشان می خواهد برنده شوند یا خیر. شاید این مثال هم خیلی ساده است. اکنون این سؤال پیش می آید: یک ماشین چه رفتاری باید انجام دهد که باور کنیم دارای درک نسبت به محیط اطرافش و خواسته و هدف است؟ چه چیزی ثابت می کند یک ماشین دارای "ذهن" و هوش مصنوعی است؟ آلن تورین – ریاضی دان انگلیسی که رمز انیگما را کشف کرد ، مرد مهربانی که به دلیل قوانین ضد هم جنسگرایی به خود کشی کشیده شد – راه حلی را مطرح کرد. فرض کنید یک کامپیوتر می تواند با انسانها مکالمه کند و در نتیجه یک انسان شمرده شود. این نشان خواهد داد که کامپیوتر مانند انسانها دارای هوش است. فراتر از نتیجه گیری تورین ، شاید این آزمایش نشان دهد که کامپیوتر دارای علایق و باور است. البته ، فرض می کنیم که کامپیوتر نمی تواند دیده شود: در غیر این صورت بازی لو می رود. همچنین باید مکالمات را محدود کنیم ، تا بازی لو نرود ، مثلاً بپرسیم آیا به روغن کاری (یا هرچیز دیگر مخصوص کامپیوتر) نیاز دارد ، ولی نباید خود را به پیشبینی حرکات شطرنج محدود کنیم. آنچه ذکر شد ایدۀ کلی تست تورین را بیان می کند که در آن سؤالات یکسانی از الف و ب که مخفی هستند پرسیده می شود: الف یک انسان باهوش و ب یک کامپیوتر است. اگر از پاسخهایشان نتوانیم تشخیص دهیم کدامشان انسان است ، باید نتیجه بگیریم که کامپیوتر به همان اندازۀ انسان هوشمند است. اگر به این نتیجه نرسیم ، متهم به فرق گذاشتن بین یک موجود زنده و یک ماشین هستیم. در حقیقت ، همانطور که تورین می نویسد: ماشینها مرا متعجب می کنند ... یک کامپیوتر حق دارد هوشمند خوانده شود اگر بتواند یک انسان را فریب دهد که او انسان است و نه کامپیوتر. بنابراین ، بر طبق نظر مدافعان هوش مصنوعی ، اگر یک ماشین بتواند در تست تورین قبول شود ، شاید حتی بتوان نتیجه گرفت که دارای قدرت فکرکردن و باور داشتن است. شعار معروف این است: ذهن متعلق به مغز است همانطور که برنامه متعلق به ماشین ، کامپیوتر و سخت افزار است. اتاق چینی با در نظر داشتن تست تورین ، جان شارل آمریکایی آزمایش فکری پیچیدهای را مطرح می کند. آنچه در داستان اتاق چینی شارل اتفاق می افتد ، قرار است با استفادۀ ما از کامپیوتر قابل قیاس باشد؛ هر اندازه هم که کامپیوتر های ما "هوشمند" باشند. کامپیوترها و اتاق چینی ، و حتی یک ترموستات ، از سه مؤلفه تشکیل شدهاند – یک ورودی ، یک فرآیند داخلی و یک خروجی. استدلال اینگونه است: افرادی که به زبان چینی صحبت می کنند ، کاغذهایی را از زیر در به درون اتاق می اندازند؛ روی کاغذها کلمات چینی نوشته شده است. به کاغذها "دعوت نامه" می گوییم. درون اتاق یک فرد انگلیسی زبان که زبان چینی بلد نیست حضور دارد: فرض کنیم اسم او هرمیت است. هرمیت با سبد های مملو از پاسخ این دعوت نامه های چینی زبان محاصره شده است. او یک کتاب دستورزبان بسیار پیچیده دارد که به او نشان می دهد در جواب هر نماد چینی که در دعوت نامهها آمده است ، چه پاسخی را باید به کار ببرد. این جوابها ، خروجی هستند. هر زمان دعوت نامهای به اتاق انداخته می شود ، هرمیت از کتابش استفاده می کند و از می ان پاسخ های درون سبد ، پاسخ مناسب را پیدا کرده و می فرستد. افراد چینی زبان بیرون از اتاق پاسخهایی دریافت می کنند که منطقیست و معنی می دهد. آنها شگفت زده می شوند. دعوت نامهها ممکن است سؤالاتی ساده در مورد جهان و یا اظهار نظرهایی پیچیده در مورد مسائل سیاسی باشند. آنچه واضح است – حداقل برای شارل – این است که هرمیت زبان چینی بلد نیست: او نه دعوت نامههایی که دریافت می کند را می فهمد و نه پاسخهایی که ارسال می کند. تنها بر طبق دستورالعمل های کتابی که دارد از نماد های به خصوصی استفاده می کند. قوانین زبان را رعایت می کند ، ولی هیچ درکی از معانی به کار رفته در آن ندارد. هرکسی شبیه به هرمیت می تواند در تست درک زبان چینی تورین قبول شود ، بدون اینکه کوچکترین درکی از زبان چینی داشته باشد. اگر این نتیجه گیری را بپذیریم ، باید این را هم بپذیریم برنامه های کامپیوتری که بر اساس طبقه بندی نمادها عمل می کنند ، هر چقدر هم پاسخ های معقول ارائه دهند ، هیچ درکی از کاری که انجام می دهند ندارند؛ هیچ برداشتی از معانی و آنچه گفته می شود ندارند. استفاده از نماد ، برای درککردن و هوشمند بودن کافی نیست. شاید اتاق فکر می کند؟ تمرکز قصۀ اتاق چینی روی فردِ ، هرمیت ، درون اتاق است. هرمیت زبان چینی نمیفهمد ولی این بدین معنی نیست که مجموعۀ هرمیت و کتاب دستورالعمل و سبد پاسخ های گوناگون ، چینی نمیفهمد. این پاسخ ما را به این نتیجه می رساند که اتاق و محتویاتش با هم چینی می فهمند. ولی پاسخی برای این پاسخ موجود است. فرض کنید هرمیت حافظۀ بسیار خوبی دارد: دستورالعمل های کتاب و نماد های مختلف پاسخ های مختلف را حفظ می کند. به بیان دیگر ، همۀ اطلاعات در هرمیت وجود دارد – و وقتی دعوت نامهها از راه می رسند ، او پاسخها را می نویسد. بار دیگر باید بپذیریم که هرمیت هیچگونه درکی از سؤالات و پاسخهایی که خودش می نویسد ندارد. البته پاسخ شجاعانهای به این مسئله که هرمیت اتاق محسوب می شود وجود دارد. و پاسخ این است که هرمیت زبان چینی را می فهمد ولی خودش این موضوع را نمیداند. با این حال ، شجاعت حقیقت را تأمین نمیکند. چرا باید باور داشته باشیم که او چنین درکی دارد ولی خودش از آن آگاه نیست؟ برای اینکه باور کنیم درکی از زبان چینی وجود دارد ، به چیزی فراتر از استفاده از چند نماد نیاز داریم. یک انتقاد مهم از داستان شارل باقی می ماند که آن هم سادگی این داستان است. مدل مطرح شده توسط شارل ، چیزی بیشتر از مثال کامپیوترهایی که شطرنج بازی می کنند نیست. اگر مسائل پیچیدهتری را مطرح کنیم دیگر نمی توانیم به این سرعت پاسخ دهیم "واضح است که هرمیت متوجه نمی شود." خواصی وجود دارند که فقط وقتی سیستم به حد کافی پیچیده است خود را نشان می دهند. تپهای از شن به نظر ایستا می رسد. تا زمانی که تپه از اندازۀ مشخصی تجاوز نکند ، ثابت باقی می ماند. ولی در نقطۀ مشخصی ، نیروها نمی توانند یکدیگر را خنثی کنند و هرچه شن بیشتری به تپه اضافه می شود ، با بهمنی از شن مواجه می شویم. ناگهان حرکت در نتیجۀ افزایش پیچیدگی به وجود آمده است. پس اگر از مثال شن بهعنوان یک قیاس استفاده کنیم ، اگر سبد های پاسخ زیادتر شوند و کتاب دستورالعمل پیچیدهتر شود ، شاید آگاهی پدیدار شود. به رقص در آوردن هرمیت آیا هیچ دلیل خوبی داریم که باور کنیم آگاهی به روشی که گفتیم مطرح می شود و در نتیجه فقط به استفاده از چند نماد بستگی دارد؟ ببینیم چرا جواب "بله" غیر ممکن به نظر می رسد ، اگر فقط نمادها را هر چقدر هم پیچیده باشند در نظر بگیریم. به مثال هرمیت بر می گردیم. مثال اولیۀ اتاق چینی ما را به این نتیجه می رساند که پاسخ دادن به سؤالات بدون هیچ آگاهی از نمادها صورت می گرفت. وقتی یک سیستم این چنین مجزا باشد ، سیستمیشبیه کامپیوتری که شطرنج بازی می کند داریم که هیچ دلیلی برای رخ دادن آگاهی در آن ، وجود ندارد. فرض کنید دعوت نامه های اتاق چینی ، در واقع دعوت نامههایی برای رقص یا مهمانی باشد. فرض کنید کتاب دستورالعمل – که اکنون کتابی بسیار جالب به نظر می رسد – با توجه به شرایط زمانی و مکانی ، گاهی به پاسخ "بله" و گاهی به پاسخ "خیر" راهنمایی می کند. هرمیت این پاسخها را می فرستد ولی هیچ ایدهای راجع به معنی آنها ندارد. یک توفیق غیرمترقبۀ محض خواهد بود اگر او ناگهان خود را در مجلس رقص یا مهمانی ببیند. اگر او می دانست چه پاسخی دارد می دهد ، بایستی مطابق آن عمل می نمود و یا حداقل می دانست کاری که گفته انجام می دهد را انجام نخواهد داد. ولی ، از آنجایی که نمیداند چه پاسخی داده است ، نه مطابق جوابش عمل می کند و نه می داند که دارد مطابق جوابش عمل نمیکند. پیش از اینکه بگوییم امکان دارد هرمیت زبان چینی را بفهمد ، باید هوش مصنوعی استفاده از نمادها را به رفتار مناسب با آن ارتباط بدهیم. البته این نکته این سؤال را پیش می آورد که ارتباط بین آنها چه نوع ارتباطی است؛ و این تنها یک حدس است که افزایش پیچیدگی در استفاده از نمادها منجر به پدیدار شدن رفتار مناسب می شود. این حدس زمانی پررنگتر می شود که یک کامپیوتر "هوشمند" یا حتی یک ربات را با انسانی که برای شناکردن به دریا می رود مقایسه کنیم. بدانیم چگونه هوش و آگاهی انسانی به دانستن چگونه چیزها را به کار بردن نیاز دارد – و این "دانستن چگونه" در درک ما از مفاهیم حضور دارد. دانستن چگونه دوچرخه سواریکردن ، چگونه شناکردن ، چگونه در آغوش گرفتن ، فقط (یا حتی) درک این جملات نیست. فهمیدن و از بر بودن دستورالعمل چگونه دوچرخه سواریکردن یا چگونه تنفس مصنوعی دادن به هیچ وجه ضمانت نمیکند که می توانید دوچرخه سواری کنید یا اگر موقعیت پیش بیاید ، می توانید تنفس مصنوعی بدهید. علاوه بر این ، بسیاری از مفاهیمیکه ما هر روزه به کار می بریم به آگاهی ما از اینکه زندگیکردن بهعنوان یک انسان چه معنایی دارد ، چرا برخی چیزها به نظر زیبا می آیند و بعضی اتفاقات ناخوشایند هستند ، بستگی دارد. مفهوم "تخت خواب" را در نظر بگیرید. درک ما از این مفهوم به آگاهی ما به این موارد بستگی دارد: خسته بودن چه معنایی دارد ، چگونه ممکن است مبل های راحتی و حتی زمین نقش تخت خواب را داشته باشند ، چرا تخت خواب جزئی از مبلمان محسوب می شود و غیره. به نظر می رسد آگاهی ضرورتاً به حالت بیولوژیکی ما و اینکه می توانیم در دنیا حرکت کنیم و امیدها و ترس های خود را داشته باشیم ، بستگی دارد. اینگونه است که ما چیزی بیشتر از یک ترموستات هستیم و "هوش مصنوعی" را شکست می دهیم. شاید هنوز هم مفهوم آگاهی بهعنوان خاصیتی پدیدار شونده بتواند وارد ماجرا شود. آگاهی ، از افزایش پیچیدگی روابط ما با جهان حاصل می شود. ما قسمتی از مبلمان متحرک جهان هستیم.
1396/11/21 1683
شما می توانید به عنوان اولین نفر نظر خود را ارسال نمایید
وارد کردن نام و نام خانوادگی الزامی می باشد
وارد کردن ایمیل الزامی می باشد info@iiketab.com - ایمیل وارد شده صحیح نمی باشد
وارد کردن متن الزامی می باشد
ارسال نظر