کیت کرافورد دانشمند و نویسنده استرالیایی و مدیر شرکت مایکروسافت در نیویورک، در یک سخنرانی در کنفرانس «جنوب در جنوب غربی» (SXSW) با طرح این پرسش که «چقدر فاشیسم در هوش مصنوعی نهفته است؟» به شدت مورد تشویق حاضران قرار گرفت.
در شهر آستین (تگزاس) حدود چهل هزار نفر (مستقیم و از راه اینترنت) در کنفرانس «نوآوری‌های تکنولوژیک برای آینده» شرکت داشتند و در باره جنبه‌های مثبت و منفی این روند بحث و تبادل نظر پرداختند. موضوع سخنرانی کرافورد در این کنفرانس، از یک‌سو رشد بسیار سریع و نیز قدرت بالا و فزاینده‌ی ذخیره اطلاعات توسط نهادهای دولتی، و از سوی دیگر استفاده‌ی فزاینده از هوش مصنوعی) بود. از نگاه او، اولی شرایطی به وجود آورده که حکومت‌ها می‌توانند شهروندان خود را بهتر و دقیق‌تر رده‌بندی کنند، و دومی به حکومت‌ها امکان می‌دهد از اطلاعات ذخیره شده در «هوش‌های مصنوعی» استفاده کرده و بر اساس آنها، رفتار و کردار انسان‌ها را در آینده بهتر ارزیابی نموده و در نتیجه آنها را بیشتر و آسان‌تر کنترل کنند.
کیت کرافورد که عنوان سخنرانی‌اش «روزهای تیره و تار، هوش مصنوعی و ظهور فاشیسم» بود، می‌گوید: «ما در پی یک افسانه هستیم» زیرا می‌پنداریم که گویا گردآوری و ذخیره اطلاعات به طور حتم و خود‌به‌خود سبب نزدیکی بیشتر ما به حقیقت خواهد شد. او در این باره می‌گوید: «درست در همین دورانی که انسان موفق به ساختن هوشمندترین شبکه‌های اطلاعاتی و ارتباطاتی در تاریخ تکامل و رشد خود شده، بله، درست در همین دوران، دمکراسی در حال عقب‌نشینی است و ما در تمام دنیا شاهد رشد چشمگیر و تهدیدآمیز گرایش‌های تام‌گرا (توتالیتر)، اقتدارگرایی فردی و ضد دمکراتیک هستیم. حتا در دمکراسی‌های غرب نیز مرزهای بنیادین میان شهروندان و حکومت‌ها آرام آرام در حال جا‌به‌جایی هستند: مرز حراست و تضمین حقوق شهروندان در برابر حکومت‌های ابرقدرت، مرزهای حراست از امور خصوصی و خدشه‌ناپذیر بودن حقوق شهروندی، مرزهای حراست حقوق فرد و اینکه (مثلا) شتاب‌زده و زودهنگام، یعنی پیش از اثبات جرم، از فردی مظنون بدل به فردی مجرم نشوی.»
کرافورد می‌گوید، افزایش و گسترش طبقه‌بندی شهروندان همواره یکی از پدیده‌های رشد گرایش‌های تام‌گرایانه بوده است. نازیسم آلمان و دولت تک‌حزبی آلمان شرقی در امر کنترل جنون‌آمیز و افسار‌گسیخته‌ی انسان‌ها، در گردآوری و ذخیره‌ی اطلاعات در باره‌ی شهروندان خود، در رده‌بندی انسان‌ها، و سرانجام در شناسایی شهروندان ناراضی خود یک گونه عمل می‌کردند. اطلاعات مربوط به شهروندان، صافی عظیمی بود که بر اساس آنها مردمان به خوب و بد، و انسان‌های به درد بخور و انسان‌های احتمالا به درد نخور تقسیم می‌شدند. اما، در آن دوران، برخلاف امروز، ابزارهای کار محدود و پرونده‌ها کهنه و قدیمی بودند. به عقیده‌ی کیت کرافورد «مشکل فاشیست‌ها در سده‌ی بیست این بود که امکانات تکنولوژیک آنها در این رابطه هنوز بسیار اندک و ضعیف بودند.»
هر چند امروز تکنولوژی دگرگون شده، اما آن افکار پلید در برخی جاها همچنان پابرجا مانده است. ما امروز شاهدیم که جنبش‌های عوام‌پسند نوین توانسته‌اند خواست و آرزوی مرزبندی با بیگانگان و اهریمنی کردن آنها را در هم ادغام کنند. در چنین شرایطی ماشین‌های خودآموز (هوش‌های مصنوعی) نیز می‌توانند به راحتی بدل به حامیان و یاری‌رسانان مقتدر این امر شوند، زیرا ماشین‌ها را بسیار ساده و آسان می‌توان با پیش‌داوری‌های مختلف تغذیه کرد.
امروز حکومت‌ها می‌توانند بسیار سریع‌تر و بهتر از گذشته اطلاعاتی را که در اختیار دارند با هم ترکیب و با استفاده از ماشین‌های هوشمند مصنوعی نوع رفتار و کردار احتمالی هر یک از گروه‌ها را از قبل پیش‌بینی کنند. شیوه‌هایی که مدت‌هاست در رابطه با امور مالی یا بازاریابی دیجیتال مورد استفاده قرار می‌گیرند. همان‌گونه که رسانه‌ها و فروشگاه‌های ایتنرنتی در دنیای مجازی تلاش می‌کنند همواره رابطه هرچه بیشتر و نزدیکتری با کاربران و مشتریان خود ایجاد نمایند، حکومت‌ها نیز با استفاده از همان راه و روش‌های دیجیتال تلاش دارند به شهروندان خود نزدیک‌تر شوند و ویژگی‌های شخصیتی آنها را بهتر شناسایی کنند. این تلاش‌ها نه تنها از سوی هوشمندترین مغزهای صنایع اطلاعات و همچنین برخی از قدرتمندترین شرکت‌های فعال در این بخش مورد پشتیبانی قرار می‌گیرد بلکه حتا خود شهروندان نیز به حکومت‌ها کمک می‌کنند و خصوصی‌ترین اطلاعات خود را ناخواسته در اختیار آنها می‌گذارند. این شهروندان ریزترین اطلاعات مربوط به امور شخصی- خصوصی خود را، در یک اعتیاد ارضاناپذیر برای ارتباط و خودنمایی، و همچنین در یک میل سیری‌ناپذیر برای برقراری روابط بیشتر، در مقیاسی که هیچگاه تا کنون وجود نداشته است، در دسترس همگان، و در نتیجه، در اختیار حکومت‌ها قرار می‌هند.
در این رابطه یکی از بزرگ‌ترین سیستم‌های اطلاعاتی که استفاده از آن شدیدا مورد اختلاف است، سیستمی است که شرکت پالانتیر(Palantir) روی آن کار می‌کند. پالانتیر متعلق به یک آلمانی‌تبار به نام پتر تیل (Peter Thiel) است که یکی از پر حرارت‌ترین حامیان ترامپ رئیس جمهوری کنونی آمریکاست. از جمله تخصص‌های این شرکت، استفاده از «هوش مصنوعی» برای بررسی و تجزیه و تحلیل هوشمندانه و هدفمند اطلاعات ذخیره شده در بانک‌های اطلاعاتی عظیم است. شرکت پالانتیر در دوران باراک اوباما (رئیس جمهوری پیشین آمریکا) مامور شد برای یافتن نام و مشخصات مهاجران غیرقانونی مقیم آمریکا، با هدف اخراج آنها، به بررسی و کاوش در مهم‌ترین بانک‌های اطلاعاتی آمریکا بپردازد.
این سیستم که اکنون در مرحله گذراندن آخرین گام‌های تکمیلی است، می‌تواند برای اهداف بسیار بزرگ‌تر و گسترده‌تر مورد استفاده قرار گیرد. کیت کرافورد آن را «قدرتمندترین سیستم کنترل توده‌ای» می‌نامد که برای اولین بار در دنیای غرب استفاده می‌شود و گردآوری و ذخیره‌ی اطلاعات شخصی شهروندان در یک بانک اطلاعاتی با ابعادی عظیم و وحشتناک را ممکن می‌سازد. در این سیستم، بررسی و کنترل دیجیتالِ اطلاعات ذخیره شده در بانک‌های اطلاعاتی متعدد، توسط یک نرم‌افزار ویژه به نام Investigative Case Management (مدیریت امور تحقیق و تفحص) مورد بررسی، و تجزیه و تحلیل قرار می‌گیرند. از جمله اطلاعات مورد بررسی این سیستم، اطلاعات شخصی- خصوصی در باره تحصیلات، کار، ارتباطات و روابط خانوادگی افراد، جزییات مربوط به مشخصات بیومتریک، تاریخچه‌ی مهاجرت و ورود آنها به آمریکا، کارهای خلاف احتمالی، استفاده از مواد مخدر و… و بسیاری مشخصات دیگر است.
این سیستم اطلاعات بانکی، دقیق‌ترین سیستم اطلاعاتی و در برگیرنده‌ی وسیع‌ترین جزییات مربوط به زندگی شهروندان یک کشور است که تا کنون توسط یک حکومت در باره بخشی از شهروندان خودش گردآوری و ذخیره شده است. اسناد و مدارکی که اخیرا توسط سرویس خدمات اینترنتی „The Intercept“ مشاهده و مورد بررسی قرار گرفته، نشان می‌دهد که اطلاعات ذخیره شده در این‌گونه بانک‌های اطلاعاتی، همواره می‌توانند با هر «چیزی» که فرد مورد نظر در باره خودش در شبکه‌های اجتماعی نشر می‌دهد، تکمیل شوند. اینجاست که اطلاعات گردآوری شده توسط یک حکومت با اطلاعاتی که میلیون‌ها کاربر اینترنتی از خود برجای می‌گذارند تداخل یافته، همدیگر را تکمیل کرده و در نتیجه، کل اطلاعات ذخیره شده را به ابزاری عظیم و وحشتناک در دست یک دولت تبدیل می‌کنند.
کاتالوگ اطلاعاتی شرکت «پلانتیر» تازه شروع کار است و از نگاه کیت کرافورد خطر در ارزیابی و ارزش‌گذاری این اطلاعات توسط مکانیسم‌های مربوط به هوش‌های مصنوعی است. یعنی خطر در آنجایی است که با دستیابی به نرم‌افزارهای جدید، حکومت بخواهد و بتواند، مانند سیستم بازاریابی اینترنتی، از اطلاعات گردآوری شده نتیجه‌گیری کرده و درباره‌ی آینده‌ی شهروندان خود پیشگویی و پیش‌بینی کند و روند حرکت آنها در آینده را حدس بزند. در چنین حالتی، پرسش این است که اگر ارزیابی‌ها، و در پی آن نتیجه‌گیری‌های هوش‌های مصنوعی و ماشین‌های هوشمند اشتباه باشد، چه اتفاقی خواهد افتاد؟ مثلا شهر شیکاگو را در نظر بگیرید که قتل و جنایت همواره از مشکلات آن بوده است؛ اگر مسئولان این شهر بخواهند با استفاده از روش «اقدامات پلیسی پیشگیرانه» (Predictive Policing) در باره امور جنایی و بزهکاری هر یک از مناطق شهر و بزهکاران پیشگویی و پیش‌بینی کنند، در این صورت چه اتفاقی خواهد افتاد؟
کیت کرافورد نسبت به هرگونه استفاده‌ی عجولانه از چنین نرم‌افزارهایی هشدار می‌دهد و بر این نظر است که توان ارزیابی درست و قدرت تحلیلی هوش‌ّهای مصنوعی هنوز ناروشن و نادقیق هستند. در شرایط امروز، فعلا هیچ ماشین حسابی (نرم‌افزاری) نمی‌تواند با اطمینان کامل به شما بگوید که چه کسی در آینده تبهکار خواهد شد یا نخواهد شد. بلکه حتا برعکس، استفاده از این ابزار می‌تواند میزان و درصد حدس و گمان‌های نادرست را، پیش از وقوع جرم، شدیدا افزایش دهد. این مشکلی است که در آلمان هم، در رابطه با گسترش دامنه‌ی اطلاعات درباره‌ی افرادِ به اصطلاح «خطرناک» اهمیت می‌یابد. افراد «خطرناکی» که از دایره‌ی دوستان و نزدیکان بنیادگرایان اسلامی‌هستند و حدس زده می‌شود که می‌توانند بالقوه دست به اقدامات تروریستی و خرابکارانه بزنند.
این همه در حالیست که بدون توجه به این نگرانی‌ها، و با وجود نتایجی که بسیار مورد شک و تردید قرار دارند، استفاده از این نوع نرم‌افزارها وسیعا رو به گسترش است و روش‌هایی که با تجزیه و تحلیل اطلاعات ذخیره شده تلاش می‌کنند درباره رفتار انسان‌ها پیشگویی کرده و کردار آنها را در آینده پیش‌بینی کنند به شدت در حال رشد است. کیت کرافورد می‌گوید «ما شاهد رشد تاریخی مکانیسم‌های ضد دمکراتیک» هستیم. وی هشدار می‌دهد: «تاریخ همواره به ما نشان داده است که ذخیره‌ی انبوه اطلاعات، موجب تقویت اندیشه و تفکرات اقتدارگرایانه‌ی فردی می‌شود».
*منبع: روزنامه فرانکفورتر آلگماینه؛ ۱۷ مارس ۲۰۱۷
*نویسنده: Mathias Mueller von Blumencron
*ترجمه از کیهان لندن
*توضیح: این گزارش در روزنامه‌ی چاپی فرانکفورتر آلگماینه زیر عنوان «کنترل توده‌ای با اقتدار تمام» و در وبسایت این روزنامه زیر عنوان «دفتر جدید ترامپ برای ثبت انسان‌ها» منتشر شده است.
