فراخوانی به ناجهان مقولات نو

نشست هفتگی شهر کتاب در روز سه‌شنبه ۲۷ آذر به نقد و بررسی کتاب «زندگی ۳/۰، انسان بودن در عصر هوش مصنوعی» نوشته‌ی مکس تگمارک، استاد MIT و از بنیان‌گذاران مؤسسه‌ی آینده‌ی زندگی، اختصاص داشت و با حضور دکتر عبدالحسین وهابی، علی خدادادی‌شاهی‌وند و دکتر میثم محمدامینی برگزار ‌شد.

کتابی از جنس شَر ضروری

میثم محمدامینی، مترجم اثر، اظهار داشت: این کتاب به دو حوزه‌ی ترویج علم و آینده‌پژوهی متعلق است و میان این حوزه‌ها و فلسفه ارتباط برقرار می‌کند. چنان‌که نیک بوستروم می‌گوید، تحولات اخیر هوش مصنوعی و زیست‌فناوری مسائل فلسفی را از دانشکده‌های فلسفه وارد دانشکده‌های مهندسی و علوم کامپیوتر می‌کنند. یووال هراری، نویسنده‌ی سه‌گانه‌ی انسان خردمند، با استفاده از مساله‌ی تراموا در فلسفه، بحث جالبی را درباره‌ی ارتباط میان هوش مصنوعی و اخلاق طرح می‌کند. مساله‌ی تراموا به انتخاب‌های اخلاقی‌ ممکن براساس اخلاق فایده‌گرا، فضیلت‌نگر و... در موقعیت از خط خارج شدن قطار می‌پردازد. هراری توضیح می‌دهد که فرد در عمل با غریزه و احساس خود عمل می‌کند، اما کامپیوتر از کد پیروی می‌کند. پس در شرایطی که راننده میان جان خودش و جان چندین عابر ناچار به انتخاب است، بی‌تردید سیستم جان راننده را فدا می‌کند. اما اگر چنین برنامه‌ای را روی ماشین‌های خودران پیاده کنیم، این ماشین‌ها به فروش می‌روند؟

   او افزود: مکس تگمارک فیزیکدان شناخته‌شده‌ای است که در زمینه‌ی اخلاق یا هوش مصنوعی تخصص ندارد، اما در ترویج علم فعال است. کتاب‌های ترویج علم که با عنوان « popular science» شناخته شده‌اند، عامه‌پسند یا نادرست نیستند. این کتاب‌ها امروز در حوزه‌ی مطالعات علم و فناوری بسیار مهم‌اند. وظیفه‌ی آنها بیان آخرین نظریات علمی برای جمعیت غیرمتخصص است. امروزه هزینه‌های علم در نظام‌های دموکراتیک از منابع عمومی تأمین می‌شود. پس، مهم است که عموم مردم بتوانند در مورد سیاستگذاری و جهت‌گیری علم، دست‌کم غیرمستقیم، اثرگذار باشند. در اینجا، همه‌ی افراد جامعه حق دارند در باره‌ی هزینه‌ای که از منابعشان می‌شود، تصمیم‌گیرنده باشند و کانال مهم و ضروری برای مشارکت در این تصمیم‌گیری، انتقال آگاهی از چیزهایی است که در دانشکده‌ها و مراکز پژوهشی در جریان است. اهمیت این کانال به حدی است که خیلی اوقات تصمیم‌گیری سیاستگذاران را در حوزه‌ی علم متأثر می‌کند.

او توضیح داد: ساده‌سازی در اینجا ناگریز است، چرا که برای مطالعه‌ی علومی مثل فیزیک کوانتومی پیش‌نیازهایی چون علم ریاضیات لازم است. اهمیت این امر تا حدی است که امروزه با عنوان شر ضروری پذیرفته شده است. برای نمونه بیان هراری در سه‌گانه‌ی خود از نیای مشترک ما با میمون، از نظر متخصصان زیست‌شناسی دقیق نیست. اما این در عرصه‌ی ترویج علم پذیرفتنی و حتی مطلوب است، چرا که مفهوم اساسی را به درستی منتقل می‌کند. در این کتاب نیز بحث‌های طرح شده درباره‌ی هوش مصنوعی چنین وضعی دارند.

   او در ادامه نمونه‌هایی از ارتباط میان هوش مصنوعی با ترجمه و بازی‌های خلاقه را برشمرد و تأکید کرد: تگمارک می‌کوشد با توضیح دادن درباره‌ی مبانی علمی هوش مصنوعی بگوید ترس ما از اینکه ربات‌ها آگاه شوند یا از کنترل ما خارج شوند منطقی نیست. گرچه فیلم‌های علمی-تخیلی شورش این سازه‌ها بر آدمی را به تصویر می‌کشند. در واقع، ما باید از این بترسیم که آنها همیشه فرمان‌بردار ما هستند. 

در گریز از تقدیر ایکاروس

علی خدادادی ‌شاهی‌وند، دانشجوی دکترای فلسفه‌ی هنر، اظهار داشت: با توجه به اینکه خود تگمارک تخیلی‌بودن هر فصل را در ابتدای آن تعیین کرده است، من این کتاب را به شکل رمان خواندم. کتاب دو لایه دارد. سطح رویی آن به هوش مصنوعی سودمند می‌پردازد و با وجود برخی هشدارها بسیار شاد و امیدوارانه است. اما لایه‌ی دوم، لایه‌ای سرکوب شده است که احتمالاً در آینده بیشتر آشکار خواهد شد. استدلال من این است که انگ فناوری‌هراسی باعث می‌شود که تگمارکی که موقعیت رسمی و وجه نمادینی در این حوزه دارد، نتواند تردیدهایش را در این حوزه با صراحت بیان کند. پس، این تردیدها به لایه‌ی زیرین متن تبعید شده‌اند.

   بخش عمده‌ی مباحث این کتاب پیرامون تکنولوژی‌دوستی یا تکنولوژی‌هراسی تنظیم شده اند. گروه اول، به بهتر شدن وضعیت با هوش مصنوعی تأکید می‌ورزند. بر این باورند که همان‌طور که تکنولوژی تاکنون عمل کرده است، هوش مصنوعی می‌تواند به شکل‌گیری اوتوپیایی لیبرال کمک کند. گروه دوم، تکنولوژی‌ستیزها، باور دارند که پیشرفت این تکنولوژی ما را از بین برده یا به جایگاهی پست‌تر فروخواهد راند. به هر روی، کتاب نشان می‌دهد که تکنولوژی تقدیر بشر است. چه تکنولوژی‌دوست باشیم و چه تکنولوژی‌ستیز، تکنولوژی پیشرفت می‌کند و جلوگیری از پیشرفت آن بسیار دشوار است. یکی از تزهای این کتاب با عنوان «دولت ۱۹۸۴» درباره‌ی برقراری دولتی دوهزار ساله است که بتواند همه را کنترل کند و نگذارد کسی هوش مصنوعی را دنبال کند. اما اینجا پارادوکسی ایجاد می‌شود، اینکه با کدام تکنولوژی می‌تواند جلوی ساخته شدن هوش مصنوعی را گرفت؟

   او افزود: شاید این تکنولوژی به قدری دور باشد که در تقدیر ما نگنجد، اما اگر باقی بمانیم و با آن رویاروی شویم چه چیزی را در خطر خواهیم یافت؟ به نظر من انسان را. تگمارک به نقل از نویسندگانی که به این رویارویی بدبین‌اند، توضیح می‌دهد که احتمالاً ما در آن زمان برای هوش مصنوعی همان سوسک‌هایی هستیم که اهمیتی ناچیز دارند. در تمثیلی درخشان می‌گوید اگر فرض کنید رباتی هستید که وظیفه‌تان خانه‌سازی برای سازنده‌تان است و با توانایی بهبود خود توانسته‌اید به مرتبه‌ی هوشی بالاتری از او برسید، باز هم برای سازنده‌تان خانه می‌سازید؟ این توقعی بی‌جا است. امروز ما با مورچه‌ها دشمن نیستیم. اما خراب شدن خانه‌ی مورچه مانع سدسازی ما نمی‌شود.

او ادامه داد: این تقدیر ما است، چون طی بازه‌ای بسیار بلند و در نتیجه‌ی سعی و خطاهای فراوان مقولاتمان را از تکامل به دست آورده‌ایم. این در حالی است که هوش مصنوعی از تکامل استفاده نمی‌کند. برای نمونه، بچه‌ی انسان در فرایندی زمان‌بر شطرنج را می‌آموزد، در حالی‌که هوش مصنوعی توانسته این بازی را در چهار ساعت به خودش بیاموزاند. پس، ما از هوش مصنوعی عقب خواهیم افتاد و باید به این شرایط بیندیشیم. ما هنوز با مقولات تکاملی کار می‌کنیم. ذهن‌مان به مدت هزاران سال برای شکار، فرار و سرپناه برنامه‌ریزی شده است. اگر مکانیک کوانتومی را نمی‌فهمیم، برای این است که برای آن برنامه‌ریزی نشده‌ایم.

   او افزود: اینجا است که تگمارک پیشنهاد می‌کند ما باید به‌صورت کنشگرانه خودمان را بکشیم. به این معنا که مقولاتی را که از آنها استفاده می‌کنیم، کنار بگذاریم و مقولاتی نو دراندازیم. در واقع، امروز با اضطرار تغییر دادن مقولات انسانی روبه‌روییم. هوش مصنوعی از مقولات ما استفاده نمی‌کند، پس ما نیز باید بکوشیم با استدلال، ادبیات، فلسفه یا هر ابزار ممکنی این مقولات را عوض کنیم. از این رو، تگمارک مدام فلاسفه را به بحث در این خصوص فرا می‌خواند. مدام می‌گوید ما باید بتوانیم کاری کنیم که اهداف و اخلاق این موجود با ما هم سو باشد. اما کتاب ترجیع‌بندی تلخ هم دارد. اینکه البته اینها چیزهایی است که به ذهن ما می‌رسد. ما از شیوه‌ی هوش مصنوعی برای فکر کردن، فرار کردن و اداره‌ی جهان بی‌خبریم. شاید برای فهمیدن آن باید وارد جهانی ناجهان شویم یا به بیان دیگر، وارد مقولاتی شویم که جهان مألوف تکاملی ما را شکل نمی‌دهد و از متافیزیک به نفع موجودی غیرتکاملی انسان‌زدایی می‌کند. فلاسفه‌ای که در طی تاریخ فلسفه کوشیده‌اند مقولاتی را برای فهم بهتر جهان بپردازند یا مقولاتی نو را پدید آورند، اکنون بایستی وارد متافیزیکی انسان‌زدایانه شوند. 

   او در پایان گفت: کل کتاب به نظر من شباهتی به یکی از اسطوره‌های یونانی دارد که در آن ددالوس می‌خواهد از هزارتویی که خودش ساخته فرار کند. او برای این کار بال‌هایی می‌سازد و با موم به خودش و پسرش، ایکاروس، می‌چسباند. سپس به ایکاروس هشدار می‌دهد که به خورشید نزدیک نشود. این در حالی است که خواننده احساس می‌کند نزدیک شدن به خورشید و فروافتادن از فراز آسمان تقدیر ایکاروس است. در اینجا نیز تگمارک تقدیر بشر را در نزدیک شدن به خورشید بیان می‌کند و ما را به چاره کردن این تقدیر فرامی‌خواند.

از نام‌گذاری تا پرفورمنس انسانی

  عبدالحسین وهابی، دکترای علوم شناختی، اظهار داشت: چیزی حدود شصت‌هزار ارجاع علمی به کارهای تگمارک نشان‌دهنده‌ی اهمیت علمی این فیزیکدان است. در بخش‌هایی از این کتاب دانش دقیقی درباره‌ی هوش مصنوعی منتقل می‌شود، اما هنگامی که نویسنده می‌کوشد در بسط دادن هوش مصنوعی در کهکشان تخیل کند، مطلب به ناباوری می‌زند. هربرت سایمون، برنده‌ی نوبل اقتصاد و نظریه‌پرداز، به منظور رسیدن به سیستمی نظیر ساختار فکری انسان، فرایندی برای ترکیب عملگراهای منطقی و بسط دادن منطق برای رسیدن از چند گزاره به گزاره‌ی بعدی پیشنهاد کرد. این سیستم‌ها براساس قوانین کار می‌کردند. پس تا اینجا هوشمندی در برنامه‌نویسی مطرح بود، البته نه به معنایی که امروز در هوش مصنوعی درباره‌اش صحبت می‌کنیم.

   او ادامه داد: با شکل‌گیری دنیای دیجیتال، سیگنال‌های کوانتیزه و بیت‌ها جای سیگنال‌های آنالوگ را گرفتند و قدرت پردازش روی داده به‌شدت افزایش یافت. در پردازش‌ این سیگنال‌ها با مساله‌ی دسته‌بندی مواجه شدیم که در آن مثلاً تصویری انتخاب و برچسب‌گذاری می‌شود. این دسته‌بندی‌ها استفاده می‌شد تا روزن‌بلات با الهام از روش‌های آماری و مغز رباتی، پرسپترون را پیشنهاد کرد. در ابتدا، گمان این بود که تمام مسائل دسته‌بندی‌ها حل شده است. تا ده سال، بحث شبکه‌های عصبی رونق گرفت. گمان بر این بود با ارائه‌ی تعداد کافی نمونه می‌توان به قدرت تشخیص و شناخت خوبی دست یافت. اما در دهه‌ی ۱۹۷۰ مینسکی و پاپر در مقاله‌ای این توانایی را به چالش کشیدند. در دهه‌ی ۱۹۸۰ شبکه‌های هاپفیلد جدیدی ایجاد شدند که در آنها مفهوم فیزیکی نورورن‌ها می‌توانست حافظه را توسعه بدهد. از سوی دیگر، گفته شد که با چیدن چند لایه نورون در پی هم می‌توان هر تابعی را تخمین زد. در نتیجه، این کار رونق گرفت. در این میان، پژوهشگری با استفاده از نظریه‌های ریاضی و کرنل‌ها روش‌های بسیار قوی‌ای برای دسته‌بندی پیشنهاد داد که ساپورت وکتور ماشین‌ها با آنها ایجاد شد. رونق این ساپورت وکتور ماشین‌ها موجب کم‌رونق شدن شبکه‌ی عصبی شد.

   او افزود: سرانجام در سال ۲۰۱۲، شبکه‌ی عصبی به پرفورمنس بسیار بالایی دست یافت. در این زمان، گروهی از استنفورد پایگاه داده‌ی تصویری یک میلیون و پانصد تایی‌ای در آمازون قرار دادند و از کاربران برای کدگذاری‌شان استفاده کردند. پردازش این تعداد تصویر برای سیستم بسیار دشوار بود، اما یکی از دانشجویان گروه جف هینتون توانست با استفاده از GPUها به پرفورمنسی شصت درصدی در این مسابقه دست یابد. این باعث شد که دوران یادگیری‌های عمیق شروع شود. این مسیر ادامه یافت تا سرانجام پرفورمنس انسان حاصل شد. اما باز هم مشکلاتی وجود دارد. مثلاً هنوز می‌توان با افزودن نویزی اندک یا جابه‌جایی برخی پیکسل‌ها به تصاویر شبکه را فریب داد.

   وهابی توضیح داد: به موازات این مسیرها، یادگیری تقویتی وجود دارد که در آن مفاهیم روان‌شناسی و نوروساینس به کار گرفته می‌شود و سیستم یادگیری تصمیم‌گیری ایجاد می‌شود. این سیستم‌ها با سعی و خطا می‌آموزند، اما همیشه نمی‌توان این سعی و خطا را برای رسیدن به عمل بهینه گذراند. پس شبکه‌های هوشمند در دنیای واقعی از آدمی بسیار عقب‌ترند. نکته‌ی دیگر این است که این سیستم‌ها در چندوظیفگی (multi tasking) ضعیف‌اند. به بیان دیگر تک‌بعدی‌اند.

   او در ادامه توضیح داد که تگمارک در بخش‌هایی از این کتاب دست به اغراق زده است. چنان‌که برآمدن تهدیدهای هوش مصنوعی برای بشر در زمانی در حدود هزار سال آینده تخمین زده است، در حالی‌که مشکلات جدی‌ای مثل بیکاری بر اثر جایگزینی ذهن انسان با هوش مصنوعی و بحران انرژی بسیار نزدیک و به‌ویژه در نظام سرمایه‌داری برای فرد انسانی آسیب‌رسان‌ به نظر می‌رسند.