خلیل نیک خصال – گسترش نفس‌گیر مراکز داده جهانی و پیشرفت بی‌وقفه هوش مصنوعی دیگر پیشرفت‌های فنی در حاشیه جامعه نیستند. آنها اکنون معماران آرام یک دنیای جدید هستند. نفوذ آنها در اقتصاد ما، رفتارهای ما، حتی ساختار افکاری ما پیدا میشود. سال‌ها ما معتقد بودیم که این سیستم‌ها صرفاً به ما کمک می‌کنند. امروز، به طور فزاینده‌ای مشخص نیست که چه کسی به چه کسی کمک می‌کند.
در افق خوش‌بینانه، چشم‌اندازی از آسایش و رهایی نهفته است. اگر هوش مصنوعی به طور مسئولانه به کار گرفته شود، می‌تواند میلیون‌ها نفر را از کار یکنواخت رهایی بخشد. مردم ممکن است ساعات کمتری کار کنند، با فشار کمتری زندگی کنند و زمان را برای سلامتی، تأمل و شادی را بازپس بگیرند. با این حال، چنین آینده‌ای نیازمند حمایت است، درآمد جهانی، امنیت اجتماعی قوی و ضمانتها که تضمین می‌کند کرامت انسانی در سایه اتوماسیون را از بین نمی‌رود. بدون این پایه‌ها، پیشرفت تکنولوژیکی به جای کاهش نابرابری، آن را تقویت می‌کند.
اما در کنار این احتمالات، چشم‌انداز تاریک‌تری وجود دارد: رام شدن تدریجی ذهن انسان است. داده‌هایی که سیستم‌های هوش مصنوعی را تغذیه می‌کنند، که دائماً جمع‌آوری، به طور ناموزون ذخیره و تحت نظارت پراکنده قرار دارند، اقیانوسی وسیع و ناآرام را تشکیل می‌دهند که هیچ مرجع واحدی به طور کامل بر آن فرمان نمی‌راند. این قطعات دیجیتال که در سراسر شبکه جهانی شناور هستند، می‌توانند با سهولت نگران‌کننده‌ای مهار یا به سلاح تبدیل شوند. در دستان نادرست، یا حتی در دستان ظالمی می‌توانند عواقبی بسیار فراتر از هدف مورد نظر خود را به بار آورند.
اختلالات اخیر، گوشه‌هایی از این آسیب‌پذیری را نشان می‌دهند. وقتی گروه CME ، بزرگترین اپراتور بورس‌های مشتقات جهان، دچار تعطیلی موقت شد، بازارهای اصلی ارز و معاملات آتی مسدود شدند. یک نقص فنی به طور خلاصه ماشین‌آلات مالی جهانی را متوقف کرد. این یک هشدار بود: دنیای ما محکم در زیرساخت‌های داده‌ای بافته شده است که نه مصون از خطا است و نه کاملاً درک میشود.
با این حال، عمیق‌ترین خطر اقتصادی نیست، بلکه تفکر انسانی است.
هر روز، همانطور که تصمیمات بیشتری را به الگوریتم‌ها واگذار می‌کنیم، چه چیزی بخریم، به چه کسی اعتماد کنیم، چگونه در شهرهای خود حرکت کنیم، حتی چگونه فکر کنیم و همچنین بخش‌های کوچکی از استقلال خود را واگذار می‌کنیم. این فرآیند آرام و تقریباً آرامش‌بخش است، اما یک پیشنهاد اینجا، یک انتخاب خودکار آنجا، یک میانبر که وعده «صرفه‌جویی در زمان» را می‌دهد، ولی این راحتی‌ها انباشته می‌شوند. آنها عادات را شکل می‌دهند، حافظه را تضعیف می‌کنند، کنجکاوی را کسل می‌کنند و وابستگی منفعلانه به سیستم‌هایی را که به ما پاسخ نمی‌دهند، تشویق می‌کنند.
یک متفکر زمانی به من گفت: «لحظه‌ای که فراموش کنی چگونه «نه بگویی»، حق فکر کردن برای خودت را از دست می‌دهی.» این یک حقیقت ساده است، اما ما در معرض خطر فراموش کردن آن هستیم. اگر نسل‌های آینده با این باور بزرگ شوند که ماشین‌ها جهان را بهتر از آنها درک می‌کنند، آنگاه تفکر مستقل، تفکر انتقادی، خلاق و سازنده ممکن است به آرامی تبخیر شود. به جای آن، یک انسان اهلی، راحت اما کوچک‌شده، زندگی در واقعیتی که توسط الگوریتم‌ها ساخته شده است، پدیدار میشود
چرا ما این را به راحتی می‌پذیریم؟ شاید به این دلیل که ما هنوز از تازگی هوش مصنوعی مست هستیم. مانند هر داروی قدرتمندی، قبل از اینکه ما را به بردگی بکشد، اغوا می‌کند. ما از تسکین فوری و پاسخ‌های سریع‌تر، انتخاب‌های آسان‌تر لذت می‌بریم بدون اینکه متوجه هزینه ظریف آن شویم.
این لحظه نه وحشت را می‌طلبد و نه خوش‌بینی کورکورانه را. این لحظه هوشیاری را می‌طلبد. بشریت باید شرایط رابطه خود با هوش مصنوعی را تعیین کند، نه برعکس این ابزارها باید پتانسیل انسان را گسترش دهند، نه آن را محدود کنند. از قضاوت کردن پشتیبانی کنیم، نه اینکه جایگزین آن شویم. اگر اکنون اقدامی نکنیم، ممکن است به جهانی بنگریم که در آن استقلال ما نه از طریق زور، بلکه از طریق تسلیم آرام و یک راحتی کوچک در هر زمان از بین رفته است.
وظیفه پیش روی ما به راحتی قابل بیان و به سختی قابل اجرا است: اینکه نویسنده خود باشیم، آرام باشیم و روی انجام بهترین کارمان تمرکز کنیم.
