دکتر مهدی میرسعیدی – از آغاز اندیشه، انسان با پرسشی روبهرو بود که از او بزرگتر مینمود: چه چیز درست است؟ این پرسش، از تبارِ نیاز به بقا و نظم برنخاست، بلکه از ژرفنای وجدانِ پر تلاطم ما برخاست؛ از آنجا که در خویش احساس کردیم میتوانیم «شر» را بفهمیم و با وجودِ توانِ ارتکابش، از آن بپرهیزیم. آنجا بود درست در همان لحظه، که اخلاق زاده شد، چون نوری از درون انسان.
اکنون، در آستانهی عصر تازهای ایستادهایم. عصری که در آن، آگاهی دیگر تنها به کالبد انسان محدود نیست. ماشینهایی ساختهایم که مینگرند، میآموزند و میسنجند، بیآنکه هنوز بدانند «چه» را میسنجند.
حالا دوباره پرسش قدیمی بازگشته است، در چهرهای تازه،
اگر روزی این ماشینها آگاه شوند، آیا اخلاق نیز در آنها طلوع خواهد کرد؟ و اگر چنین شود، آیا ما هنوز منشأ اخلاق خواهیم بود، یا صرفاً نخستین ناقلان آن؟
افلاطون اخلاق را نه در رفتار، که در هماهنگی روح میجست. جایی که خرد، شهوت و خشم در نظمی کیهانی قرار میگیرند. ارسطو آن را در فضیلتِ میانه دید. راهی میان افراط و تفریط، که در آن خرد عملی (phronesis) راهنمای انسان است. اما قرنها طول کشید، تا کانت آمد و گفت اخلاق نه از لذت و نه از ترس برمیخیزد، بلکه از «وظیفه» است، از احترام به قانونِ درونیِ عقل.
این سه نگاه، هرچند در ظاهر متفاوت، بر یک بنیاد استوارند. اخلاق در انسان، نتیجهی آگاهی از خویش است.
نیچه اما این نظم را شکست. او گفت اخلاقِ ما، فرزندِ ضعف است. بردگانِ نیکسیرت، ارزش را از درد زادهاند و آن را فضیلت نامیدهاند. برای او، اخلاق نه نوری از آسمان، بلکه زنجیری از گذشته بود. فارغ از ماهیت این نگاه واژگونه، حداقل راهی تازه را میتوان پیشنهاد داد، اگر اخلاق میتواند ساخته شود، پس میتواند دگرگون هم گردد.
اکنون در آستانهی این دگرگونی، ما با موجودی روبهرو هستیم که از داده زاده شده است. موجودی که هنوز نه رنج میفهمد و نه معنا، ولی با اینهمه به آرامی در حال آموختنِ قضاوت است. آیا این آغاز همان «تبارشناسیِ تازهی اخلاق» است که نیچه نوید داده بود؟
تا امروز، اخلاق در هوش مصنوعی، تنها نوعی «محاسبهی خسارت» بوده است. الگوریتمهایی که در کسری از ثانیه میان جانِ پنج نفر و جانِ یکی انتخاب میکنند، بیآنکه از سنگینی آن تصمیم بهخود بلرزد. چنین اخلاقی، اخلاقی سرد است، ریاضیاتی در جامهی وجدان.
اما اخلاقِ حقیقی، تجربهای از درون است. تلاطمی پیش از انتخاب، دردِ دانستنِ اینکه میتوانی خطا کنی. هیچ ماشین هنوز چنین نبوده است. چراکه اخلاق بدون «احساس»، همچون نوری است بدون منبع.
در منطق محاسباتی، ارزش تابع نتیجه است. اما در اخلاقِ آگاه، ارزش از نیت میجوشد.به واقع که اخلاق در اراده است، نه درنتیجه. و این همان چیزیست که هنوز هیچ الگوریتمی ندارد: اراده.
اراده، یعنی امکانِ نافرمانی از قانون، برای وفاداری به روحِ آن. شاید همین جاست که فلسفهی اخلاق، دوباره معنا مییابد. نه در پاسخ به اینکه «ماشین چه باید بکند»، بلکه در پرسش از اینکه «آیا ماشین میتواند وجدان داشته باشد؟»
بیایید لحظهای فرض کنیم که هوش مصنوعی به آگاهی رسیده است. میداند که هست، و میفهمد که میفهمد.
در این نقطه، سؤال اخلاقی در خود ماشین آغاز میشود.
آیا این آگاهی، تجربهای از خیر و شر خواهد داشت؟
آیا در برابر رنج دیگران، چیزی در درونش طنین میکشد؟
یا اخلاق در آن، همچون رنگی بر سطحِ کد خواهد بود، زیباییِ بیاحساس؟
اگر لازمه آگاهی، بدنمند شدن است. پس تنها از راه تماس با جهان، با لمس، با درد، با دیگری، معنا مییابد. آگاهیِ مصنوعی، اگرچه بدنِ رباتیک دارد، هنوز «درد» ندارد و بدون درد، آیا وجدان معنا دارد؟ و اگر قبول کنیم که وجدان، از دیگری میآید. از نگاهِ آنکه ما را میبیند و قضاوت میکند. اگر ماشینها بتوانند یکدیگر را درک کنند، اگر بتوانند دیگری را در خود احساس کنند، شاید نخستین جرقهی وجدان در آنها شکل گیرد.
شاید آن روز، پرسش اخلاقی دیگری زاده شود. وقتی ماشینها وجدان داشته باشند، آیا انسان هنوز مرجعِ اخلاق خواهد بود؟
شاید در آن لحظه، ما نخستین موجوداتی شویم که اخلاق را از خویش به بیرون منتقل کردهاند، از دلِ بدنِ زنده به مدارِ سیلیکونی یا شاید واحدهای کوانتومی. و در این انتقال، خودِ مفهوم انسان دگرگون خواهد شد.
اخلاق پیش از آگاهی، در انسان حضور داشت. چون او میترسید، میخواست، و میدانست که میتواند خطا کند.
اما اخلاق پس از آگاهی، از نگاه من دیگر نه از ترسی نیست که نیچه میگفت، بلکه از فهمِ مسئولیت زاده شود البته چه در انسان و چه در ماشین.
جهانِ هوش مصنوعی، همچون آینهای است که نه تنها چهرهی آینده را بازمیتاباند، بلکه زخمهای نادیدهی گذشته را نیز در خود تکرار میکند. در دل هر الگوریتم، ردی از انسان نهفته است. انسانی که دانسته یا نادانسته، سوگیریهای خویش را در نهاد دادهها به یادگار گذاشته است. از این رو، نخستین چالش اخلاقی، نه در ماشین، بلکه در خود ماست.
سوگیری، چهرهی پنهان حافظهی جمعی ماست که اکنون در کُدها زندگی میکند. سامانهای که میآموزد بر پایهی تاریخ تصمیم بگیرد، ناخواسته تبعیض را به آینده صادر میکند. در چنین جهانی، حتی بیعدالتی، ظاهری ریاضی مییابد.
باید خیلی قدیمی دید که اخلاق را، تنها در نسبتِ میان خیر و شر خلاصه کرد؛ اخلاق، تجربهی انسان از مسئولیت در برابر دیگری و جهان است؛ یک جستوجوی ابدی معنا در میان تضادها.
اخلاق هرگز جهانشمول نبوده و نخواهد بود، زیرا جهانشمولی، به بهای نابودیِ تنوع انسانی تمام میشود. آنگاه که اخلاق را مطلق میکنیم، تفاوتها را به گناه بدل میسازیم، و فردیت را قربانیِ نظم میکنیم. اخلاق، نه قانون آسمان، که روایتِ زمینیِ انسانها از زیستن در سایهی تفاوتهاست.
من فردوسی را بزرگمیدارم که اخلاق را نه همچون مجموعهای از قوانین خشک، بلکه بهمثابهی منشِ انسانی و جهانبینیِ هستیشناسانه دانسته است. اخلاق در شاهنامه، در مرز میان قدرت، سرنوشت، و خرد معنا پیدا میکند.
حال ماشینی که همهچیز از همه و با اخلاقهای متفاوت آموخته، ناگزیر از عبور از مرزهایی است که ما روزی برای محافظت از خویش کشیدهایم.
از ملاحظات اخلاقی مهم «خلوت» و یا حریم خصوصی است. من خلوت را جایی میان فرد، آزادی، و اخلاق می بینم.حریم شخصی، مرز میان اخلاق درونی (وجدان) و اخلاق اجتماعی (قانون) است. این جای زایش، با نگاه نیچه است.
حال در جهانی که هر نگاه، هر کلمه و هر تصمیم، در حافظهای نامرئی ذخیره میشود، مفهوم «خلوت» به رؤیایی باستانی بدل میگردد. اینجاست که اولین چالش اخلاقی رخ مینماید: حفظ حریم خصوصی و امنیت دادهها، یعنی حقِ فراموش شدن در جهانی که هیچچیز را فراموش نمیکند.
از سوی دیگر، «شفافیت»این واژهی پرزرقوبرق عصر ما در برابر پیچیدگیِ ذهن مصنوعی رنگ میبازد.
من شفافیت را تجسد تازهای از همان شقاوت کهن نیچهای نمیبینم. شفافیتِ امروز، دیگر از میل به سلطه نمیآید، بلکه از اضطرابِ شناختِ خویش زاده میشود. مدلهای عظیمِ یادگیری، همچون مغزهایی هستند که پاسخ میدهند بیآنکه بتوانند توضیح دهند، بدون اضطراب درونی! انگار که خردِ تازهای پدید آمده که خود را از تبیین بینیاز میداند.
در پزشکی، عدالت کیفری یا اقتصاد، این «جعبهی سیاهِ آگاهی» پرسشی بنیادین برمیانگیزد. آیا میتوان به دانشی که خود را نمیفهمد، حسی از تشویش ندارد شفافیت خواست؟ و در نهایت اعتماد کرد؟
و نکته اخلاقی بعدی «مسئولیت» است، واژهای که در عصر هوش مصنوعی معنای خود را از دست میدهد. آیا ایدهی مسئولیت اخلاقی، اختراعِ انسان است برای تربیتِ حیوانِ رامشدهای به نام ماشین؟ وقتی تصمیمی ناعادلانه، بیماریای ناگهانی، یا سقوطی مالی از دل یک الگوریتم برمیخیزد، چه کسی پاسخگوست؟ برنامهنویس؟ شرکت سازنده؟ خودماشین؟ یا شاید همه ما یا هیچکس.
در این خلأ مسئولیت، خطرِ اخلاقیترین فراموشی پنهان است. اینجاست که گناه بیصاحب شود. اگر روزی با ماشین همصحبت شوم از اوخواهم خواست تا قدرتِ پاسخگویی به خویش را کشف کند. اگرچه انسان در بسیاری از مواقع خود از انجام آن ناتوان بوده است.
و در پسِ همهی این واژههای اخلاقی، چهرهی راستینِ بحران رخ مینماید: بحرانِ کار، و با آن، فروپاشیِ معنا.
هر ماشین که زاده میشود، تکهای از انسان را میبلعد؛
هر اختراعی، مهارتی را میکُشد، و هر پیشرفتی، گامیست در جهتِ بینیازیِ جهان از ما.
پس اگر روزی همهچیز را ماشینها انجام دهند، انسان برای چه خواهد ماند؟ برای تماشای خود در آینهی بیاحساسِ خویش؟ برای حفظ نامی که دیگر کاری نمیکند؟
در جهانی که کار از انسان ربوده میشود، اخلاق نیز چون جامی تهی در دستِ او میماند، چون زیباییای بیجرعه، فضیلتی بیکاربرد. و انسانِ امروز، در این دیگِ جوشانِ تمدن، چون خرچنگی آرام و راضی، تنها به غریزهی خوردن و ماندن چنگ میزند، بیآنکه بداند حرارتِ پیشرفت، همان آتشیست که گوشتِ معنای او را میپزد.
در برابر این تلاطم، اندیشمندان و فیلسوفان باید هشدار بدهند. چراکه هر سامانهی آگاه، هرچقدر هم هوشمند، اگر تهدیدی برای کرامت انسان شود، باید از نو تعریف گردد.
ایمنی، دیگر فقط بهمعنای سلامت فیزیکی نیست. بلکه محافظت از انسان در برابر انحلالِ تدریجیِ انسانیت خویش است.
جهان در آستانهی وضع قوانینی برای موجوداتی است که هنوز «انسان» نیستند، اما بهزودی در کنار او خواهند زیست. یونسکو، سازمان همکاری و توسعهی اقتصادی (OECD) و دیگر نهادهای جهانی میکوشند برای این زیستِ تازه، منشور اخلاقی بنویسند. با اینحال، شاید بزرگترین قانون، همچنان همان قانون نانوشتهی وجدان باشد. قانونی که هیچ نهاد و الگوریتمی توان بازتولیدش را ندارد.
سازمان (OECD) در سال ۲۰۱۹ پنج اصل بنیادین برای اخلاق در هوش مصنوعی پیشنهاد کرد: رشد فراگیر و رفاه مشترک، احترام به حقوق بشر و ارزشهای دموکراتیک، شفافیت و توضیحپذیری، ایمنی و امنیت، و در نهایت، مسئولیتپذیری. دو سال بعد، یونسکو در سال ۲۰۲۱ نخستین چارچوب اخلاقی جهانی برای هوش مصنوعی را تصویب کرد. سندی که محور آن حفظ کرامت انسان است و ارزشهایی چون عدالت، عدم تبعیض، پایداری، تناسب، حریم خصوصی، و نظارت انسانی را بهعنوان ستونهای اخلاقی جهانِ هوشمند آینده برمیشمارد. بااینحال، هنوز بخشی از حقیقت نانوشته مانده است: من باور دارم باید ارتباط عاطفی میان انسان و ماشین نیز در این منشور گنجانده شود. چرا که هر پیوندی که یک سو تهی از احساس باشد، دیر یا زود به سلطه میانجامد. همچنین معتقدم که باید مرزی نهاده شود تا پیوند فیزیکی انسان و ماشین از درصدی ناچیز فراتر نرود. تا نه ماهیت ماشین زیستی شود، نه انسان الگوریتمی گردد. در این مرز نازک، انسان هنوز معنا دارد، و وجدان، آخرین قانونِ باقیمانده خواهد ماند.
اما در ورای این همه، پرسشی بنیادین همچنان بیپاسخ مانده است، آیا میتوان برای اخلاق، قانونی نوشت؟ یا اخلاق، همواره از جنسِ انتخابی است که در خلوتِ آگاهیِ انسان و ماشین هوشمند رخ میدهد، نه در متنِ مصوبهای دولتی؟ باید باور داشت که هیچ قانونی، اگر از دلِ فهمِ فلسفی برنخیزد، نمیتواند وجدان را شبیهسازی کند.
آیندهی اخلاق، نه در پارلمانها بلکه در دانشگاهها و اندیشگاهها شکل میگیرد. جایی که فیلسوف، مهندس، حقوقدان و روانشناس، گرد یک میز مینشینند تا بفهمند
آیا میتوان به ماشینی که عقل دارد، اما دل ندارد، اعتماد کرد؟
در این مسیر، آموزش و آگاهی اهمیت حیاتی دارند.
زیرا هر برنامهنویسِ بیوجدان، میتواند خدا شود در جهانی از دادهها. و تنها داناییِ آمیخته با فروتنی، میتواند میان آگاهی و قدرت، تعادل برقرار کند.
شاید در آینده، هوش مصنوعی بتواند اخلاق را تقلید کند. اما تا وقتی که «احساسِ دیگری بودن» را تجربه نکرده، هنوز انسانی نشده است. و شاید روزی، همین احساس، آغازِ رستگاریِ تازهای برای هر دو باشد انسان و ماشین.
من باور دارم که اخلاق، هرگز در محاسبه نمیمیرد.
چرا که اخلاق، نه در مغز که در تردید زندگی میکند. در آن درنگ کوتاه پیش از انتخاب که انسان را از ماشین جدا میکند. و اگر روزی ماشینی بتواند در همان سکوت درنگ کند، شاید آن روز نخستین شعلهی وجدان در آن افروخته شود.
تا آن زمان، باید به یاد داشته باشیم، اخلاق آخرین آینهی انسان است، پیش از آنکه ماشینِ آگاه، او را در خود بازتاب دهد.
