سیدعرفان نوربخش – در آغاز این قرن در یک سخنرانی فلسفه شرکت کردم. سخنران نکتهای قابل تأمل بیان کرد: به نظر میرسید جهان قرار است در قرن ۲۱ اندیشه و فلسفه را برای همیشه با فناوری معاوضه کند.
اکنون در سال ۲۰۲۵، زمانی که میتوان از هوش مصنوعی خواست مقالهای بنویسد، موسیقی بسازد یا اثری هنری تولید کند، آن جمله شگفتانگیزانه پیشبینانه به نظر میرسد. وقتی سامانههای خودکار کارهایی را انجام میدهند که زمانی منحصر به ذهن انسان بود، این پرسش اساسی پیش میآید: آیا انسانها در حال بیمصرف شدناند؟ آیا در بیست سال آینده نقشی برای ما باقی خواهد ماند؟
برخی تحلیلگران این تغییرات را با انقلاب صنعتی مقایسه میکنند: ماشینها نیروی کار دستی را جایگزین کردند، بسیاری شغل خود را از دست دادند، اما همزمان فرصتهای تازهای در کارخانهها و صنایع وابسته پدید آمد. بر همین اساس گفته میشود که هوش مصنوعی نیز بعضی مشاغل را از میان میبرد اما در عوض مشاغل تازهای در زمینه طراحی، نگهداری و همکاری با سامانههای هوشمند ایجاد میشود. با این حال من چندان خوشبین نیستم. آنچه انسان را در میان گونهها ممتاز کرده است، خرد اوست. در انقلاب صنعتی ما تنها توان بازو را با ماشین جایگزین کردیم، نه توانایی ذهنی را. امروز اما موجوداتی میآفرینیم که میتوانند در قلمرو اندیشه با ما رقابت کنند و حتی ما را شکست دهند. این تفاوتی بنیادین است.
لحظهای که رایانه «دیپ بلو» گری کاسپاروف قهرمان شطرنج جهان را شکست داد مرز نمادین میان برتری فکری انسان و توان ماشین فرو ریخت. در سال ۱۹۹۶ شاید این اتفاق هیجانانگیز و سرگرمکننده جلوه کرد؛ اما امروز هوش مصنوعی موسیقی میسازد، پادکست تولید میکند، نقاشی میکشد و فیلمنامه مینویسد. دور نیست روزی که کارگردانی فیلمها، ایفای نقش و حتی خلق آثار کامل سینمایی بدون دخالت مستقیم انسان انجام شود. رؤیای کنار گذاشتن ستارههای پرهزینه و سختگیر همانگونه که در فیلم «سیمون» با بازی درخشان آل پاچینو به تصویر کشیده شد، اکنون چندان دور از واقعیت نیست. پرسش این است: تا کجا میخواهیم پیش برویم؟
شاید دلبستگی همیشگی من به ادبیات علمی- تخیلی سبب میشود تا این نگرانیها را جدیتر ببینم. در بسیاری از روایتهای آیندهنگر، فناوری نو ابتدا با شادی و شور فراوان پذیرفته میشود و زندگی را آسانتر میسازد. اما به تدریج معضل منطقی پدیدار میشود: اگر سازندگان از ساختههای خود در همه جنبهها ضعیفتر باشند، چرا مخلوقین از خالقان باید اطاعت کنند؟ در بسیاری از این داستانها همین پرسش به شورش مخلوق و سرانجام نابودی خالق میانجامد. شاید بتوان چنین سناریوهایی را خیالپردازی ادبی دانست، اما نشانههای واقعی نگرانکنندهاند: گزارشهایی از خودکشی جوانان پس از گفتگو با هوش مصنوعی منتشر شده، از هوش مصنوعی برای طراحی حملات به نظامیان و حتی غیرنظامیان دشمن استفاده شده و میلیاردها دلار صرف توسعه جنگافزارهای خودکار میشود. این واقعیات نشان میدهد که مرز میان خیال و واقعیت چندان پررنگ نیست.
آنچه بیش از همه هراسانگیز است، شادمانی و هیجان دولتها درباره این فناوری است. همانگونه که پس از جنگ جهانی دوم رقابت برای دستیابی به بمب اتم شدت گرفت، امروز نیز رهبران جهان در پی بهرهگیری از هوش مصنوعی برای برتری استراتژیک هستند. سخن گفتن از اهمیت هوش مصنوعی در عرصه نظامی به موضوعی رایج در پایتختهای جهان از واشنگتن گرفته تا پکن و مسکو بدل شده است. ترکیب پهپادها با توانایی تصمیمگیری مستقل- خطری که حتی در مجامع بینالمللی هشدار داده شده (سخنرانی چند روز پیش زلینسکی در مجمع عمومی سازمان ملل برای نمونه)- نمونهای روشن است. این فناوری شاید برای دیکتاتورها و جنگسالاران جذاب باشد، اما منطق درونی آن ممکن است غیرنظامیان یا حتی سازندگانش را روزی تهدید تلقی کند.
کنترل چنین فناوریهایی پرسشهای دشوار مدیریت و کشورداری را پیش میکشد. در قرن بیستم، رژیمهای منع گسترش سلاح هستهای توانستند تعداد کشورهای دارنده بمب اتم را محدود نگه دارند. اما اجرای مشابه این ساز و کار برای هوش مصنوعی بسیار دشوارتر است: توسعه هستهای نیازمند مواد و زیرساختهای خاص بود، حال آنکه پیشبرد پژوهشهای هوش مصنوعی حتی در آزمایشگاههای کوچک یا فضاهای مجازی ممکن است. همین امر نظارت جهانی را بسیار پیچیدهتر میکند.
پس چه باید کرد؟ آیا باید مثل آن خیاطهای اروپایی قرن هجدهم که سعی کردند چرخ خیاطیهای اختراع شده را که خیاطیهای سنتی را با کارگاههای بزرگ جایگزین میکرد، نابود کرد و سعی کنیم از شرّ هوش مصنوعی خلاص شویم؟ معلوم است که نه. ادبیات علمی- تخیلی راه دیگری را پیشنهاد میدهد.
آیزاک آسیموف در کتاب «من، روبات» «سه قانون روباتیک» را معرفی کرد: قوانین سلسلهمراتبی برای مهار رفتار روباتها تا از آسیبرسانی به انسان جلوگیری شود. این قوانین به عنوان الگویی برای نشان دادن امکان مهار ماشینهای نیرومند مطرح شد. اما اجرای آنها در جهان واقعی نیازمند نهادهای بینالمللی قدرتمند است؛ نقشی که شاید سازمانهایی مانند آژانس بینالمللی انرژی اتمی یا سازمان ملل بر عهده گیرند. با این حال کارنامه سازمان ملل در جلوگیری از جنگ و ناامنی چندان امیدوارکننده نیست. بنابراین ساخت معماری مدیریت جهانی برای هوش مصنوعی چالشی عظیم خواهد بود.
حتی اگر موفق شویم بطور موقت محدودیتهایی بر هوش مصنوعی تحمیل کنیم، درس اصلی این است: هرگز نباید فلسفه و اندیشه را قربانی فناوری کنیم. فناوری تنها ابزاری در دست ماست؛ بدون اندیشه، قضاوت و اخلاق، همین ابزارها میتوانند ارزشهایی را که برایشان ساخته شدهاند نابود کنند. فلسفه به ما میآموزد چه چیز را باید ارزشمند بدانیم، معنای انسان بودن چیست و چگونه باید نهادهایی بسازیم که فناوری در خدمت خیر همگانی قرار گیرد. اگر این پرسشها را فراموش کنیم، ممکن است تواناییهایی بسازیم که استفاده خردمندانه از آنها برایمان ناممکن باشد.
بهبیان دیگر: فناوری به تنهایی کافی نیست. قرن بیست و یکم بیش از هر زمان دیگری نیازمند فلسفه و اندیشه است. اگر میخواهیم آیندهای انسانی داشته باشیم، باید پیشرفت فناورانه را با تأمل اخلاقی و فکری همراه کنیم و نهادهایی بسازیم که بتوانند این تأمل را به ساز و کارهای عملی بدل کنند. بدون اندیشه، دلیلی برای تداوم انسانیت وجود ندارد؛ و اگر میخواهیم آیندهای ببینیم، باید خرد خود را زنده و راهنما نگه داریم نه اینکه آن را با هوش مصنوعی جایگزین کنیم.
*سیدعرفان نوربخش کارشناس مسائل روسیه و اوراسیا
