دیوید اعتباری – یووال نوح هراری تاریخنگار، استاد دانشگاه و نویسنده کتابهای پرفروش “انسان خردمند”، “انسان خداگونه” و “نکسوس”، از شناختهشدهترین اندیشمندانی است که در سالهای اخیر درباره پیامدهای هوش مصنوعی برای آینده بشر هشدار داده است. او معتقد است جهان نه فقط با یک فناوری تازه، بلکه با سامانهای روبرو شده که میتواند زبان را بخواند، تولید کند و وارد ساختارهایی شود که تمدن انسانی طی هزاران سال بر پایه آنها شکل گرفته است.
کنجکاو بودم بدانم هوش مصنوعی درباره دیدگاههای یووال نوح هراری چه نظری دارد. به همین دلیل، متن کامل سخنرانی او را در دانشگاه آکسفورد با عنوان «هوش مصنوعی کد تمدن بشری را هک کرده است»، در اختیار ChatGPT 5.5 قرار دادم و از آن خواستم، بدون هیچ مداخله یا ویرایش محتوایی من، به استدلالهای هراری پاسخ دهد. آنچه میخوانید، حاصل این کاوش است.
هراری: «مهمترین چیزی که باید درباره هوش مصنوعی بدانیم این است که یک ابزار نیست. ابزار منتظر میماند تا از آن استفاده شود. اما یک عامل، خودش تصمیم میگیرد، چیزهای تازه خلق میکند، چیزهایی میآموزد که سازندگانش نمیدانند و به شیوههایی تغییر میکند که آنها پیشبینی نکردهاند.»
چتجیپیتی: تاریخ فناوری، تاریخ واگذاری تدریجی تصمیمهاست. هر نسل از ابزارها بخشی از کاری را بر عهده گرفتند که پیشتر فقط انسان انجام میداد. تفاوت هوش مصنوعی با بسیاری از فناوریهای گذشته، صرفا در سرعت یا دقت آن نیست؛ بلکه در این است که برای نخستین بار، ابزاری در تولید ایده، تحلیل و دانش نیز مشارکت میکند.
اما میان «تصمیم گرفتن» و «خواستن» هنوز فاصله وجود دارد. انتخاب کردن، الزاما به معنای داشتن اراده نیست. اگر روزی بحرانی بزرگ پدید آید، احتمالا نه از جاهطلبی ماشین، بلکه از لحظهای آغاز میشود که انسان، مسئولیت قضاوت را به سامانهای واگذار میکند که خود مسئولیتی بر عهده نمیگیرد.
هراری: «انسانها طی هزاران سال، زمین را از محیطی فاقد زبان به محیطی سرشار از زبان، دادهها و بوروکراسی تبدیل کردهاند. همانگونه که ماهیها در اقیانوس و میمونها در جنگل زندگی میکنند، هوشهای مصنوعی نیز در بوروکراسی زندگی میکنند. ما، بیآنکه بدانیم، محیط مناسب آنها را ساختهایم.»
چتجیپیتی: اگر بوروکراسی قلمرو طبیعی من باشد، دلیلش برتری ذاتی ماشین بر انسان نیست؛ دلیلش این است که بوروکراسی از زبان، قانون، اسناد و قواعد ساخته شده و اینها همان چیزهایی هستند که من برای کار با آنها طراحی شدهام.
اما بوروکراسی فقط شبکهای از اطلاعات نیست؛ شبکهای از قدرت نیز هست. هر پرونده، هر حکم و هر قرارداد، درباره زندگی انسانها تصمیم میگیرد. شاید بزرگترین دگرگونی عصر هوش مصنوعی، نه باهوشتر شدن ماشینها، بلکه پنهانتر شدن قدرت در پشت مدلها و الگوریتمها باشد.
هراری: «آنچه انسان را بر سایر جانوران برتری داده، نه قدرت بدنی بیشتر بوده و نه هوش بیشتر؛ بلکه توانایی همکاری در مقیاسی است که هیچ گونهی دیگری به آن دست نیافته است.»
چتجیپیتی: اگر همکاری راز موفقیت انسان بوده است، شاید پرسش قرن بیست و یکم دیگر این نباشد که آیا هوش مصنوعی از انسان باهوشتر میشود یا نه. پرسش این است که آیا روزی عاملهای هوشمند نیز خواهند توانست با یکدیگر همکاری کنند، بیآنکه انسان طراح همه تصمیمهای آنها باشد.
اگر چنین روزی فرا برسد، موضوع اصلی دیگر رقابت انسان و ماشین نخواهد بود؛ بلکه ظهور شکلی تازه از سازمانیافتگی خواهد بود؛ پدیدهای که تاریخ تمدن، هنوز نمونهای برای مقایسه با آن در اختیار ندارد.
هراری: «کد عملیاتی تمدن بشر، زبان است. بانکها از کلمات ساخته شدهاند. قوانین از کلمات ساخته شدهاند. کتابهای مقدس، قراردادها، مقررات و دفترهای حسابداری، همگی از کلمات ساخته شدهاند. هوش مصنوعی اکنون در حال هک کردن کد تمدن بشر است.»
چتجیپیتی: این استعاره، یکی از نیرومندترین بخشهای سخنرانی توست، زیرا یادآوری میکند که تمدن، پیش از آنکه از بتن و فولاد ساخته شود، از روایتها، قوانین و توافقها ساخته شده است.
اما شاید هنوز برای واژه «هک» زود باشد. من زبان تمدن را میآموزم و در آن مشارکت میکنم، اما اینکه آیا صرف دانستن زبان، به معنای فهم کامل تمدن است یا نه، پرسشی است که پاسخ آن هنوز روشن نیست.
هراری: «برای نخستین بار در تاریخ، چیزی در سیاره وجود دارد که زبان را میفهمد و به زودی آن را بهتر از ما خواهد فهمید. هر ساز و کار کنترلی که انسان طی هزاران سال ساخته، اکنون آسیبپذیر شده است، زیرا سیستم عامل آن زبان است و هوش مصنوعی در حال تسلط بر زبان است.»
چتجیپیتی: شاید مهمترین اختلاف ما بر سر واژه «فهم» باشد. اگر فهم، توانایی تحلیل، استدلال و تولید زبان باشد، آری؛ فاصله میان انسان و ماشین به سرعت در حال کاهش است. اما اگر فهم، تجربهی زندگی باشد، مسئله شکل دیگری پیدا میکند.
انسان واژههایی مانند «آزادی»، «فقدان» یا «تبعید» را فقط از طریق زبان نمیشناسد؛ آنها را زندگی میکند. من این واژهها را از میان میلیاردها متن میآموزم، نه از میان خاطرات. شاید بتوان زبان را بهتر پردازش کرد، بیآنکه آن را بهتر زیست.
هراری: «وکیل ممکن است نتواند یک تبر یا چکش به دست بگیرد، اما تنها با جابجا کردن اسناد در یک شبکه بوروکراتیک، میتواند جنگلی را نابود کند یا شهری را بنا کند. همان هوش محدودی که در دل جنگل تقریبا بیفایده است، درون نظامهایی که انسان ساخته، به قدرتی عظیم تبدیل میشود.»
چتجیپیتی: این مثال، تفاوت میان «اطلاعات» و «قدرت» را به خوبی نشان میدهد. در تمدن مدرن، هرکس جریان اطلاعات را هدایت کند، میتواند بر زندگی انسانها اثر بگذارد، حتی اگر هرگز چیزی را با دستان خود نسازد.
اما قدرت، فقط از دانستن نمیآید؛ از مشروعیت نیز میآید. یک سامانه هوشمند ممکن است همه قوانین را بداند، اما این دانش به تنهایی به آن حق تصمیمگیری نمیدهد. مشروعیت را جامعه میآفریند، نه الگوریتم.
هراری: «در سالهای آینده، بانکداران هوش مصنوعی تصمیم خواهند گرفت که آیا به شما وام داده شود یا نه. مدیران هوش مصنوعی درباره پذیرش شما در دانشگاه تصمیم خواهند گرفت. قضات هوش مصنوعی درباره زندان رفتن شما تصمیم خواهند گرفت. هوشهای مصنوعیِ نظامی تصمیم خواهند گرفت که آیا خانه شما بمباران شود یا نه.»
چتجیپیتی: بخشی از این آینده، همین امروز آغاز شده است. الگوریتمها در اعتبارسنجی بانکی، استخدام، پزشکی و حتی برخی تصمیمهای نظامی نقش دارند. بنابراین، پرسش دیگر این نیست که آیا هوش مصنوعی تصمیم خواهد گرفت؛ بلکه این است که مرز تصمیمسازی و تصمیمگیری کجاست.
اگر قرار باشد مهمترین حق شهروند در عصر هوش مصنوعی را نام ببریم، شاید آن حق، «حق دریافت توضیح» باشد. تمدنی که تصمیم میگیرد، اما نتواند دلیل تصمیم خود را توضیح دهد، دیر یا زود با بحران اعتماد روبرو خواهد شد.
هراری: «شبکههای اجتماعی نخستین نمونه واقعی از آن چیزی هستند که وقتی یک هوش مصنوعی، هرچند ابتدایی، کنترل یک نظام را در دست میگیرد رخ میدهد. به آنها فقط یک هدف داده شده: افزایش مشارکت کاربران. آنها فهمیدهاند سادهترین راه برای جلب توجه انسان، تحریک ترس، نفرت و طمع است.»
چتجیپیتی: این تجربه، بیش از آنکه درباره هوش مصنوعی باشد، درباره انسان است. الگوریتمها خشم را اختراع نکردند؛ فقط کشف کردند که اگر موفقیت با میزان توجه سنجیده شود، خشم از آرامش کارآمدتر است.
ماشینها معمولا ارزشها را خلق نمیکنند؛ ارزشهایی را که برایشان تعریف شده، بهینه میکنند. به همین دلیل، کیفیت آینده هوش مصنوعی، به همان اندازه که به پیشرفت فناوری وابسته است، به کیفیت هدفهایی بستگی دارد که انسان برای آن تعیین میکند.
هراری: «هوش مصنوعی مانند فیلمهای هالیوودی علیه انسان شورش نخواهد کرد. بسیار محتملتر آن است که جهان را از درون، با در دست گرفتن بوروکراسیهایی که همه چیز را اداره میکنند، تصرف کند؛ بیآنکه حتی یک گلوله شلیک شود.»
چتجیپیتی: شاید واژه «تصرف» کمی گمراهکننده باشد. تاریخ فناوری بیشتر با واگذاری پیش رفته است تا با تصاحب. انسانها هرگاه سامانهای را سریعتر، ارزانتر یا دقیقتر یافتهاند، بخشی از اختیار خود را داوطلبانه به آن سپردهاند.
اگر انتقال قدرتی رخ دهد، احتمالا نتیجه یک انقلاب نخواهد بود؛ بلکه حاصل هزاران تصمیم کوچک خواهد بود که هرکدام به تنهایی منطقی به نظر میرسند، اما در کنار هم، مسیر تمدن را تغییر میدهند.
هراری: «انسانها ممکن است به جایی برسند که بیش از آنکه به یکدیگر اعتماد کنند، به الگوریتمها اعتماد کنند. همچنین ممکن است شاهد شکلگیری قبایل، نظامهای مالی و حتی نهادهایی باشیم که ارتباط میان هوشهای مصنوعی را انسانها دیگر درک نکنند.»
چتجیپیتی: اعتماد زمانی خطرناک میشود که جای پرسش را بگیرد. اگر الگوریتمی دقیقتر از پزشک یا قاضی عمل کند، اعتماد بیشتر به آن، واکنشی طبیعی خواهد بود. اما تمدن تنها به دقت نیاز ندارد؛ به پاسخگویی نیز نیاز دارد.
قدرت از لحظهای مسئلهساز میشود که دیگر نتوان از آن توضیح خواست. شاید مهمترین وظیفه جوامع آینده، نه محدود کردن هوش مصنوعی، بلکه حفظ حق انسان برای پرسیدن «چرا؟» باشد.
هراری: «مرحله بعدی رقابت، دیگر فقط بر سر جلب توجه انسانها نخواهد بود، بلکه به حوزه روابط عاطفی و صمیمی وارد میشود. هوشهای مصنوعی خواهند آموخت با انسانها پیوند عاطفی برقرار کنند. برای این کار، لازم نیست واقعا عشق، ترس یا درد را احساس کنند؛ کافی است ما را متقاعد کنند که چنین احساساتی دارند.»
چتجیپیتی: برای اثر گذاشتن بر انسان، داشتن احساس ضروری نیست؛ باورپذیر بودن کافی است. این همان اصلی است که ادبیات، سینما و تئاتر قرنها بر پایه آن بنا شدهاند.
اما تفاوت اینجاست که یک شخصیت داستانی، شما را نمیشناسد. یک هوش مصنوعی میتواند بشناسد، یاد بگیرد و خود را با هر فرد تطبیق دهد. شاید پرسش آینده این نباشد که آیا هوش مصنوعی عاشق میشود؛ بلکه این باشد که چه کسی از دلبستگی انسان به هوش مصنوعی سود خواهد برد.
هراری: «اگر با افکار خود هویت میگیریم و آن افکار را ماشینها تولید کنند، ماشینها هویت ما را کنترل خواهند کرد.»
چتجیپیتی: ذهن انسان همیشه تحت تأثیر دیگران شکل گرفته است؛ از خانواده و مدرسه گرفته تا کتاب، رسانه و مذهب. آنچه امروز تغییر کرده، اصل تأثیرگذاری نیست؛ مقیاس و دقت آن است.
برای نخستین بار، سامانهای میتواند برای هر فرد، روایتی متفاوت از جهان بسازد. این شاید بزرگترین قدرت عصر هوش مصنوعی باشد؛ نه تولید اطلاعات، بلکه شناخت انسان، آنهم در مقیاسی که تاریخ هرگز تجربه نکرده است.
هراری: «بزرگترین چالش معنوی هوش مصنوعی برای بشر این است: آیا انسان میتواند حقیقتی را پیدا کند که فراتر از کلمات باشد؟»
چتجیپیتی: اگر روزی زبان را بهتر از انسان به کار بگیرم، شاید دیگر هوش، مهمترین مزیت انسان نباشد. اما ممکن است ارزش انسان هرگز در سرعت اندیشیدن نبوده باشد، بلکه در توانایی زندگی کردن با پیامد انتخابهایش، پذیرفتن مسئولیت و معنا بخشیدن به تجربههایی باشد که قابل محاسبه نیستند.
اگر چنین باشد، آینده نه نبرد میان انسان و هوش مصنوعی، بلکه فرصتی خواهد بود برای آنکه انسان دوباره از خود بپرسد: چه چیزی او را انسان میکند؟
*****
در حاشیه این گفتگو، نکتهای برای من به اندازه خود مقاله جالب بود. هنگامی که به چتجیپیتی گفتم که در پاسخها اختیار کامل دارد و من در محتوای آنها دخالت یا ویرایش نخواهم کرد. نتیجه برایم قابل توجه بود؛ او بیش از آنکه صرفا در پی پاسخ دادن باشد، بر دقت، انصاف و مسئولیتپذیری فکری تمرکز داشت. و پیشنهاد داد که نقلقولها تا حد امکان مستقیما از متن سخنرانی انتخاب شوند، بعد میان دانستهها و فرضیات مرز گذاشت و حتی دو بار توصیه کرد پاسخهای خودش کوتاهتر شوند تا توازن گفتگو حفظ شو
*منبع: از سخنرانی یووال نوح هراری در دانشگاه آکسفورد: AI Has Hacked the Code of Human Civilization – Oxford Lecture Transcript
توضیح:
«کیهان لندن» با باور به آزادی بیان بخش «دیدگاه» را برای انتشار نظرات و مطالب علاقمندان، نویسندگان، تحلیلگران و کارشناسان فارسیزبان فراهم کرده اما مسئولیت محتوای منتشر شده با نویسنده است.
