titlepage.xhtmltitlepage-1.xhtml

فناوری
در برابر
انسانیت

رویارویی آینده میان انسان و ماشین

نویسنده

گرد لئونارد

ترجمه

دکتر ایرج نبی‌پور

به نام خداوند اندیشه و خرد

‏عنوان و نام پديدآور | : | فناوری در برابر انسانیت: رویارویی آینده میان انسان و ماشین / نویسنده گرد لئونارد؛ ترجمه ایرج نبی‌پور؛ [برای] وزارت بهداشت درمان و آموزش پزشکی، معاونت آموزشی کلان منطقه پنج؛ [به سفارش] دانشگاه علوم پزشکی و خدمات بهداشتی درمانی بوشهر و مرکز تحقیقات زیست‌فناوری دریایی خلیج‌فارس.
‏مشخصات نشر | : | بوشهر: دانشگاه علوم پزشکی و خدمات بهداشتی درمانی بوشهر، انتشارات‏، ۱۴۰۱.‬‬
‏مشخصات ظاهری | : | ‏۳۵۴ ص.‬‬
‏شابک | : | 978-622-9448-64-9‬
‏وضعیت فهرست نویسی | : | فیپا
‏يادداشت | : | ‏عنوان اصلی: .Technology vs. Humanity: The coming clash between man and machine‬‬
‏عنوان دیگر | : | رویارویی آینده میان انسان و ماشین.

‏موضوع

:

تکنولوژی اطلاعات و ارتباطات
*Information and communications technologies
سیستم‌های رابط انسان و ماشین
Human-machine systems
اینترنت اشیاء
Internet of things

‏شناسه افزوده | : | گرد، لئونارد، ‏۱۹۶۱‏- م.‬‬
‏شناسه افزوده | : | Leonhard, Gerd, 1961-
‏شناسه افزوده | : | گرد، لئونارد، ‏۱۹۶۱‏- م.‬‬
‏شناسه افزوده | : | Leonhard, Gerd, 1961-
‏شناسه افزوده | : | ن‍ب‍ی‌پ‍ور، ای‍رج‌، ‏۱۳۴۲ -‏‬، مترجم‬
‏شناسه افزوده | : | دانشگاه علوم پزشکی و خدمات بهداشتی درمانی بوشهر. انتشارات
‏شناسه افزوده | : | ایران. وزارت بهداشت، درمان و آموزش پزشکی. معاونت آموزشی. کلان منطقه پنج
‏شناسه افزوده | : | دانشگاه علوم پزشکی و خدمات بهداشتی درمانی استان بوشهر. مرکز تحقیقات زیست فناوری دریایی خلیج‌فارس
‏رده بندی کنگره | : | 5/T۵۸‬
‏رده بندی دیویی | : | 483/303
‏شماره کتابشناسی ملی | : | ۸۸۲۴۳۸۵
‏اطلاعات رکورد کتابشناسی | : | فیپا

فناوری در برابر انسانیت

رویارویی آینده میان انسان و ماشین

نویسنده: گرد لئونارد

ترجمه: دکتر ایرج نبی‌پور

حروفچینی: حسین آذری؛

ویراستار و صفحه‌آرا: دارا جوکار

ناشر: انتشارات دانشگاه علوم پزشکی و خدمات بهداشتی درمانی بوشهر

چاپ اول: بهار 1401

چاپ: احمدی

شمارگان: 1000 نسخه

بوشهر، خیابان معلم، دانشگاه علوم پزشکی و خدمات بهداشتی درمانی بوشهر

تقدیم بهدبیر انگلیسی‌ام در دبیرستان ماندگار سعادت و نویسنده پرتوان شهر- بندر بوشهر

جناب آقای محمدرضا دباش

دکتر ایرج نبی‌پور

این کتاب به همسر عزیزم

آنجلیکا فلدمان (Angelica Feldmann)

تقدیم می‌شود که پیرامون انسانیت بسیار به من یاد داد
و عاشقانه فقدان مرا در طی نوشتن این کتاب تحمل آورد

و نقد بسیار مورد نیاز و صادقانه را فراهم نمود
و مرا در تمام مسیر حمایت کرد.
بدون تو، این کتاب موجودیت نمی‌یافت.

گرد لئونارد

این کتاب ترجمه‌ای است از کتاب

TECHNOLOGY vs. HUMANITY

The coming clash between man and machine

کاری از The Futures Agency, Zurich, Switzerland

که به سخاوت مؤلف کتاب جناب آقای گرد لئونارد (Gerd Leonhard)
در اختیار مترجم قرار داده شده است.

فهرست مطالب

مقدمه      1

فصل اول: پیش درآمدی بر آینده      13

فصل دوم: فناوری در برابر ما      41

فصل سوم: جابه‌جایی‌های کلان      71

فصل چهارم: جامعة خودکار شونده      101

فصل پنجم: اینترنت اشیاء فاقد خوی انسانی      137

فصل ششم: جادویی به شیدایی و سپس به زهرآگینی      147

فصل هفتم: چاقی دیجیتالی: آخرین پاندمی ما      197

فصل هشتم: تدابیر احتیاطی در برابر پیش کنش‌گرایی      213

فصل نهم: برگرفتن رویداد شانسی از دل شادمانی      221

فصل دهم: اخلاق دیجیتالی      261

فصل یازدهم: زمین 2030: بهشت یا جهنم      289

فصل دوازدهم: زمان تصمیم      309

قدردانی‌ها      327

منابع بیشتر      329

فهرست منابع کتاب      331

مقدمه

چگونه انسانیت علی‌رغم تغییر فناورانه تمام فراگیر و نمایی می‌تواند گسترش یابد؟

جهان ما دارد به دوره‌ای از تغییر واقعاً تحول‌آمیز وارد می‌شود جایی که بسیاری از ما از اندازه و سرعت توسعه‌ها شگفت زده خواهیم شد؛ به گونه‌ای که واقعاً انتظارشان را نداشته‌ایم. این توسعة فناورانة نمایی، پتانسیل سترگی را ارائه می‌دهد و با این فرصت‌ها نیز امکان‌پذیری‌های سترگ نوینی می‌آیند.

بزرگترین چالش انسانیت

من بر این باورم که اندازة تغییر برخاسته از رویدادهای پیش‌بینی نشدة اخیر مانند برکسیت¹ (رفراندوم تصمیمی ژوئن 2016 انگلستان برای ترک کردن اتحادیة اروپا) در مقایسه با اثر یک نزول ناگهانی تغییر فناورانه که جوهرة انسانیت و هر منظری از زندگی روی سیاره‌مان را می‌تواند بازشکل‌دهی کند، خیلی کوچک خواهد بود.

در گذشته، هر جابه‌جایی رادیکال در جامعة انسانی به صورت اولیة با یک عامل جابه‌جایی توانمند کلیدی (از چوب، سنگ، برنز و آهن تا بخار، الکتریسیته، خودکارسازی کارخانه و اینترنت) به پیش رانده می‌شده است. با این وجود، من امروزه یک مجموعه از جابه‌جایی‌های کلان توانمند شده با علوم و فناوری می‌بینم که با هم در حال آمدن می‌باشند که نه تنها تجارت، فرهنگ و جامعه بلکه بیولوژی و اخلاقیات ما را باز ترسیم خواهند کرد.

یک بیانیه برای پیش بردن شکوفایی انسان

بگذارید صادق باشیم: فناوری در برابر انسانیت نه بزرگ‌داشتی از انقلاب فناوری سریع السیر و پرشتاب است و نه یک سوگواری پیرامون سقوط تمدن. اگر شما مانند من نیز یک خورة فیلم باشید، آن گاه شاید بیش از حد دارای چشم‌اندازهای آرمان شهر هالیوودی و هشدارهای ناکجا آبادی باشید. آینده نمی‌تواند بر پایة یک خوش بینی کور یا ترس فلج کننده خلق شود.

هدف من با این کتاب تقویت کردن و سرعت بخشیدن به بحث و مشاجره پیرامون این است که چگونه تضمین شود که ما توسعه‌های علم و فناوری را هدایت، مهار و کنترل کنیم؛ به گونه‌ای که آن‌ها اهداف اولیة خودشان را برآورده ساخته و به انسانیت خدمت نموده و شکوفایی انسان را به پیش ببرند.

آرزوی من این است که بحث را در فراتر از قلمروهای فناوران افراطی، دانشگاهیان جدی و آنالیست‌های متفکر سوق دهم تا مجموعه‌ای از نگرانی‌هایی که در هیچ جایی اصلاً به آن‌ها پرداخت نمی‌شوند یا حتی توسط مردم پی برده نمی‌شوند را بیان دارم. به عنوان یک آینده‌پژوه (و به صورت فزاینده‌ای بیش از یک اکنون‌گرا²) من نیز امید دارم که از وجود واقعی و فوریت کنونی آینده‌ای خبر بدهم که به نظر می‌آید در فراتر از درک بسیاری از افراد بوده و برای بسیاری نیز فاقد ارزش توجه است. به خودی خود، این کتاب تعمداً طراحی شده است تا آغازگر یک بحث پرشور باشد برای آن چه که من به عنوان مهم‌ترین گفتمان موجود جهان در نظر می‌گیرم. من باور دارم که نقشم در اینجا یک گشاینده و تسریع کننده در بحث و مشاجره است؛ بدین سان، من ساماندهی به یک بیانیة سرزنده و متهورانه تا یک برنامة کاری یا راهنمای «خودآموز» را تدارک دیده‌ام. برای کمک به برانگیختن و پیشبرد این بحث، من سرجستارهای کتاب را از طریق سخنرانی‌های آینده‌ام، مشارکت‌های آنلاین و فیلم‌ها، گسترش خواهم داد.

فقط این که ما می‌توانیم به معنای آن نیست که ما باید آن را انجام دهیم.

من باور دارم ما باید از یک گفتمان هدایت یافتة خبرگانی پیرامون آن چه امکان دارد و چگونه می‌توان به آن دست یافت، گام پس بکشیم. به جای آن، من فکر می‌کنم ما باید کاوشی بنیادی‌تر دربارة نقشی که می‌خواهیم این فناوری‌های تحول برانگیز در خدمت‌رسانی به انسانیت ایفا کنند، آغاز کنیم: فقط این که ما می‌توانیم، به معنای آن نیست که ما باید آن را انجام دهیم.

برای کمک به هدایت این کاوش، من آن چه باور دارم نیروهای پیش‌ران تغییر هستند را تدارک دیده‌ام و یک ارزیابی از اثرات احتمالی آن‌ها و دلالت‌هایشان را بیان خواهم کرد. من بسیاری از پرسش‌های بنیادین برخاسته از سرعت افزایش یافته (و در بسیاری از موارد نمایی) توسعه در سراسر حوزه‌های چندگانة علم و فناوری را برجسته نموده‌ام.

من استدلال می‌آورم که ما باید شادمانی انسانی و سعادت را در قلب تصمیم‌سازی و فرایندهای حکمرانی که سرمایه‌گذاری‌های آینده در پژوهش‌های علمی و فناوری، توسعه و تجاری‌سازی را شکل می‌دهند قرار دهیم زیرا در پایان، فناوری آن چیزی نیست که ما در جستجوی آن هستیم بلکه چگونگی جستجوی ما را رقم می‌زند.

من گستره‌ای از سناریوهای گوناگون پیرامون این که چگونه چیزها بسته به مسیر توسعه‌ای که ما برای آینده بر می‌گیریم ممکن است رقم خورده و به پیش روند، ارائه می‌دهم. من با یک مجموعة آغازگر از ایده‌های دون‌پایه برای به راه انداختن بحث‌ها دربارة این که چگونه بهترین مسیر برای انسانیت را برگزینم و این که چگونه بحث‌های خوبی در مسیر این راه باید انجام داد، به پایان می‌رسانم. برای گشایش این گفتمان آرمانی و کمک به هدایت بحث، من تفکراتم را به دوازده فصل کلیدی، ساختاربندی کرده‌ام.

فصل اول: پیش درآمدی بر آینده

در نیمة راه دهة دوم قرن بیست‌ویکم، ما در یک نقطة پاشنه‌ای بحرانی در تکامل فناوری قرار داریم، یک لحظة عطف در هنگامی که تغییر نه تنها ترکیبی³ و نمایی خواهد شد بلکه غیرقابل اغماض و غیرقابل برگشت می‌شود. در اینجا من برهان می‌آورم که اکنون این آخرین شانس ما برای پرسیدن در مورد ماهیت این چالش‌هایی است که دارند می‌آیند؛ از هوش مصنوعی تا ویرایش ژنوم. برقراری یک توازن، کلید مسئله خواهد بود.

فصل دوم: فناوری در برابر ما

در این فصل، من توضیح می‌دهم چرا فناوری ممکن است به صورت فزاینده‌ای ما را شبیه سازی یا جایگزین کند (ولی هرگز نمی‌تواند ما بشود یا باشد). فناوری فاقد اخلاق است و بنابراین ورود قریب الوقوعش به درون خصوصی‌ترین زندگی‌ها و فرایندهای بیولوژیک می‌بایست به عنوان یک اولویت بالای مدنی و شراکتی مورد گفتگو قرار گیرد. من ماهیت اخلاق را به عنوان یک افتراق دهنده و دلالت کننده، با فرا رفتن از تفاوت‌های میان مذهب و فرهنگ، مورد بررسی قرار می‌دهم.

فصل سوم: جابه‌جایی‌های کلان

تحول دیجیتالی به صورت جابه‌جایی پارادایمی du jour در سراسر شرکت‌ها و بخش عمومی، جار زده می‌شود؛ هنگامی که در واقع این یکی از ده جابه‌جایی کلان است که با چهرة زندگی انسانی برهم‌کنش نموده و برای همیشه آن چهره را تغییر خواهد داد. من این جابه‌جایی‌های کلان را از جابه‌جا شدن و خودکارسازی تا رباتی شدن مورد کاوش قرار می‌دهم. این‌ها فرایندهای تکاملی آهسته‌ای نیستند که ما زمان داشته باشیم آن‌ها را یکپارچه کرده و با آن‌ها سازگاری بیابیم. در واقع، آن‌ها یک سونامی از ساختار شکنی و تغییر را برانگیخته خواهند کرد و بالقوه با رویداد انقراض جمعی بسیاری از زیرساخت‌های تجاری جهانی موجود، هم‌ارز می‌شوند.

فصل چهارم: جامعه خودکار شونده

این فصل، افسانة گمراه کننده جدی و فراگیر که خودکار سازی فقط نیروی کار یقه آبی (یا حتی یقه سفید) را نابود می‌سازد، به چالش می‌کشد. موج خودکار سازی که دارد می‌آید، راه خود را در فراتر از کارخانه یا زیرساخت عمومی باز می‌کند و به سوی فرایندهای بسیار بیولوژیک‌مان مانند سالخوردگی و حتی تولد حرکت می‌نماید. زمانی که ما در معرض جابه‌جایی‌های تدریجی اجتماعی حاصل از موج‌های تغییر پیشین قرار می‌گرفتیم، اغلب ده‌ها سال زمان می‌طلبید تا تعدیل شده و به آن‌ها پاسخ دهیم، من هم اکنون می‌پرسم آیا اگر ما یک قبیله باشیم، حاضریم از حاکمیت انسانی خودمان دست برداریم و به نیروهای بدون چهرة فناوری آن را محول کنیم؟ آیا شما برای بزرگ‌ترین از دست دادن آزادی اراده و کنترل فردی انسانی در طول تاریخ آماده هستید؟

فصل پنجم: اینترنت اشیاء فاقد خوی انسانی⁴

این فصل چالش‌های بالقوة برخاسته از اینترنت اشیاء را کاوش می‌نماید که روایت غالب موجود در حوزة تحول دیجیتالی بوده و هزاران راهبردهای شراکتی، سوار بر باد موافق آن هستند. آیا ما تا کنون درنگ کرده‌ایم تا از خود دربارة تفاوت میان الگوریتم‌ها و آن چه ما را ضرورتاً انسان می‌سازند (آن چه که من آندروریتم‌ها⁵ می‌نامم) بپرسیم؟ آیا اینترنت اشیاء فاقد خوی انسانی تدریجاً و آن گاه ناگهانی، ما را ملزم می‌نماید از انسانیت‌مان چشم‌پوشی کنیم و حتی بیشتر ماشین واره‌ای شویم تا بتوانیم مطرح مانده و موضوعیت داشته باشیم؟ همچنان که رایانش، همراه⁶ می‌گردد، آن گاه پوشیدنی⁷ می‌شود و به زودی قابل هضم (بلعیدنی) یا قابل کاشتنی⁸، آیا مزیت ممتاز سیاره‌ای‌مان به عنوان یک گونه را باید برای یک موفقیت دیجیتالی دروغین فدا نمود؟

فصل ششم: جادویی به شیدایی و سپس به زهرآگینی

در اینجا من این که چگونه امر عشقی‌مان با فناوری اغلب از یک منحنی قابل پیش‌بینی از جادویی به شیدایی و در نهایت زهرآگینی تبعیت می‌کند را بازگویی می‌کنم. همچنان که ما به خودمان اجازه می‌دهیم تا زندگی را به صورت یک توالی پیوستة واسطه‌دار شده و پردازش شده از رویارویی‌ها و مواجهه‌ها تجربه کنیم، ممکن است فکر کنیم که خودمان داریم لذت می‌بریم ولی در واقع ما با هورمون‌هایمان به پیش رانده⁹ می‌شویم؛ هورمون‌ها به صورت فزاینده‌ای توسط مهیا کنندگان نجیب «فناوری بزرگ»، مورد هدف قرار می‌گیرند. همچنان که ما در جشن ماه‌عسل شبانه با شور و شوق صحبت می‌کنیم که این پیشرفت فناورانه است، اما سودمند می‌باشد پیرامون خماری آن نیز فکری کنیم؛ در مورد هزینه‌ای که فردا باید پرداخت شود و شاید تا ابد.

فصل هفتم: چاقی دیجیتالی، آخرین پاندمی ما

این فصل بحث می‌کند چاقی دیجیتالی¹⁰ که ممکن است هم اکنون به صورت یک چیز فیزیکی با آن آشنا نباشیم چگونه پرشتاب به یک پاندمی در ابعادی که سابقه نداشته است، در حال توسعه یافتن می‌باشد. همچنان که در اشباعی از خبرها، روزآمدها و اطلاعات مهندسی شدة الگوریتمی می‌غلتیم و تا خرخره از آن‌ها می‌خوریم، ما نیز خودمان را در یک حباب فناوری رو به رشد از تفریح‌های پرسش برانگیز، سرگرم می‌کنیم. با ملاحظة موج کشندی در حال آمدن فناوری‌های نوین و پلتفورم‌های درگیر شدن دیجیتالی، وقت آن فرا رسیده است تا پیرامون تغذیة دیجیتالی تفکر کنیم مثل زمانی که ما داریم دربارة پرورش بدن خود فکر می‌کنیم.

فصل هشتم: تدابیر احتیاطی در برابر پیش‌کنش‌گرایی

این فصل برهانی را فراهم می‌سازد که ایمن‌ترین (و هنوز نوید بخش‌ترین) آینده، آنجایی است که ما نوآوری را به تأخیر نیندازیم ولی همین طور خطرات نمایی که هم اکنون مشمول آن است را مطرود نکنیم و آن را با عنوان این که «مشکل کس دیگری است»، محول نکنیم. صورتحساب ارائه شده به نسل بعد برای قمارهای فناوری نوین امروزی را نمی‌توان به تأخیر انداخت؛ هر کسادی و افتی، بلافاصله بوده و در مقیاس غیرسابقه‌داری خود را نشان می‌دهد. من استدلال می‌کنم که احتیاط و پیش‌کنش¹¹، دو رکن اصلی هستند که اغلب بر اساس زمان صف‌بندی می‌شوند، هر دو برای رویارویی با یک سناریوی ترکیبی¹² و نمایی، ناکافی هستند (جای که انتظار به اندازة اقدام پیش‌دستانه، خطرناک خواهد بود). فرا انسان‌گرایی¹³ (با تعجیلی که شبیه به موش صحرایی قطبی به سوی لبة نامعلوم دارد) بیانگر دهشتناک‌ترینِ همة گزینه‌های موجود است.

فصل نهم: برگرفتن رویداد شانسی از دل شادمانی

پول حرف می‌زند ولی این شادمانی است که به صورت داستان بزرگ‌تر، پابرجا می‌ماند. شادمانی نه تنها هدف نهایی وجود انسانی در همة فلسفه‌ها و فرهنگ‌ها است بلکه به صورت یک عامل سخت دست یافتنی که به سنجش دقیق یا بازتولید فناورانه مقاوم است، پابرجا است. همچنان که فناوری بزرگ، لحظه‌های پرشتاب تفریح همراه با لذت را شبیه‌سازی می‌کند، ما چگونه می‌توانیم از اشکال ژرف‌تر شادمانی که شامل همدلی، شفقت و هوشیاری است، محافظت کنیم؟ شادمانی همچنین به رویداد شانسی و بخت در رابطه است ولی چگونه ما از فناوری استفاده خواهیم کرد تا خطرات آن بر زندگی انسانی محدود شده و هنوز نیز راز و رمز و خود انگیختگی‌اش حفظ شود؟

فصل دهم: اخلاق دیجیتالی

در این فصل، من برهان می‌آورم همچنان که فناوری به هر منظر از زندگی و فعالیت انسانی نشت می‌یابد، اخلاق دیجیتالی به یک مورد سوزنده و غیرقابل اغماض برای هر فرد و سازمانی، تکامل خواهد یافت. در حال حاضر، ما حتی یک زبان جهانی مشترک نداریم تا این موضوع را مورد بحث قرار دهیم، چه برسد بر سر توافق‌نامة حقوق و مسئولیت‌های پذیرفته شده برای آن. اغلب مسئله پایداری زیست محیطی توسط اقتصادهای توسعه یافته به عنوان یک مسئله اولیة جهانی انکار می‌گردد و در هنگام رکودهای اقتصادی، به حاشیه پرتاب می‌شود. برعکس، اخلاق دیجیتالی راه خودش را به یک جایگاه دائمی در جبهة پیشاپیش و مرکز زندگی‌های سیاسی و اقتصادی، به پیش خواهد برد. زمان آن فرا رسیده است تا یک گفتمان اخلاقی پیرامون فناوری دیجیتالی داشته باشیم (یک تهدید بزرگ‌ترِ احتمالی برای شکوفایی ادامه‌دار انسانی نسبت به اشاعة هسته‌ای).

فصل یازدهم: زمین در سال 2030، بهشت یا جهنم؟

همچنان که ما به طور تصوری به سوی آیندة نزدیک یا میان مدت حرکت می‌کنیم، می‌توانیم واقعاً بعضی از تغییرات غول آسایی که کار و زندگی را از همة دایرة شناختی که داریم تغییر می‌دهد، تصور کنیم؛ این‌ها در اینجا مورد کاوش قرار می‌گیرند. بسیاری از این تغییرات بنیان برافکن، به خودی خود می‌بایست مقدم شمرده شوند (مانند کار کردن برای عشق و علاقه و نه برای زندگی کردن). با این وجود، بسیاری از اساسی‌ترین مزیت‌ها که روزی به ما اعطاء شده بودند مانند آزادی انتخاب در مصرف و آزادی ارادة مستقل در شیوة زندگی، می‌توانند به پژواک‌هایی بازمانده یا حفظ کردن ثروت خالص افراد تبدیل شوند. این بهشت است یا جهنم؟ انتخاب خود را داشته باشید ولی آن را هم اکنون انجام دهید.

فصل دوازدهم: زمان تصمیم

در این فصل انتهایی من استدلال می‌کنم که زمان سخت و بحرانی‌ای برای پذیرش فناوری است، نه تنها کاربرد خود فناوری بلکه یکپارچه‌سازی ژرف‌تر و توصیف فناوری در زندگی انسان. مواردِ فراوان اخلاقی، اقتصادی، اجتماعی و بیولوژیک، واقعاً منتظر اجتماع عمومی دیگر یا نسل بعدی نخواهند ماند. اکنون زمان آن فرا رسیده است که کاربرد جمعی فناوری قانونمند شود درست مانند نیروی تحول برانگیز دیگری مانند قدرت هسته‌ای. این یک نتیجه‌گیری از یک گفتمان غنی نیست بلکه آغاز یک گفتمانی است که نیاز دارد به شکل جریان اصلی در رسانه‌ها، مدارس، دولت و از همه مهم‌تر، هیئت مدیره‌هایمان مورد نگرش قرار گیرد. زمان برای فناوران و تکنوکرات‌هایی که به راحتی بدلگامی اخلاقی را به کس دیگری محول می‌کنند، گذشته است.

من امیدوارم این کتاب الهام‌بخش شما باشد تا به صورت ژرفی پیرامون چالش‌های که ما با آن‌ها روبه‌رو هستیم تفکر کنید و من شما را دعوت می‌کنم تا در این گفتمان، با عضو شدن در انجمن Techvshuman/TVH در www.techvshuman.com مشارکت نمایید.

گرد لئونارد

زوریخ، سوئیس

آگوست - 2016

فصل اول
پیش درآمدی بر آینده

انسانیت در طی 20 سال آینده
بیش از 300 سال گذشته، تغییر خواهد کرد.

انسان‌ها خوی برون‌یابی آینده را از زمان حال، یا حتی از گذشته دارا می‌باشند. فرض بر این است که هر آن چه تا کنون به خوبی برای ما کار می‌کرده است، به شکل تا حدی بهبود یافته‌ نیز در آینده به نیکی عمل می‌کند. امّا به دلیل اثر فزایندة تغییرات فناورانة ترکیبی و نمایی¹⁴، واقعیت جدید این است که آینده واقعاً بسیار نامحتمل است که امتداد زمان حال باشد. بیشتر این یقین وجود دارد که این آینده مطلقاً متفاوت است زیرا چهارچوب فرضی و منطق زمینه‌ای، تغییر کرده است.

بنابراین، من به عنوان یک آینده‌پژوه، تلاش می‌کنم درک و تصور نموده و خود را در آیندة نزدیک (پنچ تا هشت سال پس از این) غرقاب نمایم و دیدگاه‌هایی از آن جهان ارائه دهم و آن گاه به جای آن که به سوی آن بشتابم از آن آینده، مسیر کاری خود را به سوی عقب در زمان حال گشایش نمایم.

با آغاز یک گزارش از آن آیندة نزدیک، این کتاب در تلاش است تا چالش‌ها را جستجو نماید و یک بیانیه و یک فراخوان پرشور برای درنگ کردن و تفکر، تدوین کند؛ پیش از این که همة ما در گرداب فناوری پیچیده شویم و در نهایت در شکل بنیادی به چیزی کمتر از انسان تبدیل شویم. این زمان خوبی است که به یاد آوریم که آینده فقط آن چیزی نیست که فقط بر ما رخ می‌دهد، آینده توسط ما هر روز خلق می‌شود و ما مسئول تصمیماتی خواهیم بود که در این لحظه می‌گیریم.

یک نقطة عطف تاریخی

من احساس می‌کنم که در هیجان انگیزترین زمان تاریخ نوع انسان زندگی می‌کنیم و من پیرامون آینده به صورت عموم، بسیار خوش‌بین هستم. با این وجود، ما به صورت عینی، به تعریف و تمرین یک رهیافت جامع‌تر برای حاکمیت فناوری نیاز داریم تا بتواند گوهر ذاتی آن چه که معنای انسانی را می‌دهد، امن نگه دارد.

ما در نقطة عطف یک منحنی نمایی در بسیاری از گستره‌های علم و فناوری هستیم؛ نقطه‌ای که گذار از هر دورة سنجش به دورة بعدی، به شکل بسیار چشمگیری، دو برابر می‌شود.

در قلب داستان تغییر نمایی¹⁵، قانون مور¹⁶ قرار دارد؛ مفهومی که در دهة 1970 منشأ گرفت و بر اساس آن واقعاً این را پیشنهاد می‌دهد که سرعت پردازشی (برای مثال مقدار قدرت رایانش رایانه‌ای بر روی یک ریز تراشه) که ما می‌توانیم با 1000 دلار بخریم، به شکل خام، هر 24-18 ماه، دو برابر می‌شود (1).

این سرعت نمایی توسعه در گستره‌هایی همچون یادگیری ماشین¹⁷، ژنتیک، علوم مواد و ساخت، هویدا است. در بسیاری از گستره‌ها، زمان مورد نیاز برای هر گام عملکردی نمایی، در حال کاهش است و این افت، احتمال تغییر بنیادی برای هر فعالیتی بر روی سیارة زمین را به پیش می‌راند. به زبان عملی، ما هم اکنون از مرحله‌ای در حیات منحنی عبور کرده‌ایم که در آن مرحله برای ما دشوار بود پیمانه کنیم که اصلاً چیزی در حال رخ دادن بوده است (برای مثال، ما دیگر با گام‌های کوچک از 01/0 به 02/0 یا 04/0 به 08/0 حرکت نمی‌کنیم).

در همین زمان، خوشبختانه، ما هنوز در نقطه‌ای نیستیم که این دو برابر شدن‌ها چندان بزرگ باشند که نتایج آن‌ها بر درک ما چیرگی یابند و ظرفیت عمل ما را منع کنند. با نهادن چیزها در چشم‌انداز، از دید من، در اکثر گستره‌ها، ما در سطح عملکرد نسبی حدود چهار هستیم و گام نمایی بعدی ما را به هشت خواهد برد نه این که در یک خیزش بیشتر با سیمای خطی به پنج رهسپار شویم! این لحظه‌ای بسیار حساس است که فزونی‌های نمایی واقعاً اهمیت می‌یابند و فناوری هم اکنون تغییرات نمایی را در هر بخش از جامعة ما، از انرژی، حمل‌ونقل، ارتباطات و رسانه تا پزشکی، سلامت، غذا و انرژی، به پیش می‌راند.

گواه بر این موضوع، تغییرات اخیر در صنعت خودروسازی است؛ در طی هفت سال گذشته، ما از خودروهای الکتریکی با محدودة پیمایش کمتر از 50 مایل، به نقطة امیدوار کننده اخیر تسلا و BMWi8 رسیده‌ایم که قادر به 300 مایل پیمایش فقط با یک بار شارژ است (2و3). ما از مشتی ایستگاه شارژ، به این واقعیت گیج کننده رهسپار شده‌ایم که شهر نیویورک هم اکنون بیش از جایگاه‌های معمولی بنزین، جایگاه‌های شارژ خودروی برقی¹⁸ (Ev) دارد (4). تقریباً هر ماه یک مرزشکنی در کارآمدی باتری رخ می‌دهد، یک محدودیتی که در طی دهه‌های گذشته یکی از بزرگترین موانع در پذیرش انبوه خودروی برقی بوده است. به زودی، ما خودروهای برقی خود را فقط یک بار در هفته شارژ می‌کنیم، سپس یک بار در ماه و در نهایت ممکن است فقط یک بار در سال و آن گاه چنین می‌آید که احتمالاً تعداد اندکی از مردم هنوز علاقمند به خودروهای بزرگ تجملاتی با موتورهای بنزینی قدیمی خوب خود باشند!

گواه دیگر این است که کاهش مادام بسیار چشمگیری در هزینة توالی‌یابی ژنوم رخ داده است به طوری که قیمت آن از حدود 10 میلیون دلار آمریکا در سال 2008 هم اکنون به حدود 800 دلار رسیده است (5). تصور کنید که چه رخ خواهد داد هنگامی که ابررایانه‌های قدرتمندتر، به سوی فضای ابر¹⁹ سیر کنند و بتوانند در دسترسِ هر تسهیلات پزشکی یا آزمایشگاهی قرار گیرند. در آیندة نزدیک، هزینة توالی‌یابی ژنوم یک فرد به تندی به زیر 50 دلار می‌بایست افت کند (6).

سپس، این را تصور کنید که پروفایل‌های ژنومی حدود دو میلیارد فرد در یک ابر ایمن²⁰ (امیدوارانه در شیوه‌ای گمنام برای حفظ امنیت شخصی²¹) برای مقاصد پژوهشی، توسعه‌ای و تجزیه‌وتحلیلی، بارگذاری شود که عمدة این کار توسط هوش مصنوعی‌ای انجام می‌شود که در همین ابررایانه‌ها کار می‌کنند. احتمالات علمی‌ای که به وقوع خواهند پیوست چنان وزیدن خواهند گرفت که آن چه تا کنون در رویا داشته‌ایم را در می‌نوردند و هم‌زمان با خود نیز چالش‌های اخلاقی شگرفی را می‌آفرینند: فزونی عمر طولانی به صورت چشمگیر برای کسانی خواهد بود که بودجة آن را دارند، همچنین توانایی بازبرنامه‌نویسی ژنوم انسانی و احتمالاً پایان سالخوردگی و حتی مرگ. آیا ثروتمندان، حیات جاوید خواهند یافت؛ در حالی که فقرا هنوز از توانایی فراهم آوردن قرص‌های مالاریا عاجز هستند؟

چنین توسعه‌های نمایی‌ای نشان می‌دهند که ادامه دادن به تصور کردن آینده‌مان به شیوه‌ای خطی، احتمالاً به فرضیات ویرانگری پیرامون میزان، سرعت و اثرات بالقوة تغییر منجر خواهد شد. این بخشی از دلیلی است که چرا بسیاری از مردم نمی‌توانند نگرانی‌های فزاینده‌ای دربارة این که فناوری انسانیت را مغلوب می‌سازد، چیزی درک کنند؛ همة این‌ها به نظر بسیار دور می‌آیند و برای اکنون، بیشتر بی‌گزند جلوه می‌کنند زیرا ما فقط در نقطة چهار این منحنی هستیم. مواردی همانند فزونی در از دست دادن محرمانگی شخصی، بی‌کاری در نتیجة رشد فناوری یا مهارت‌زدایی انسانی، هنوز در چشم‌انداز ما نیستند ولی در معرض یک تغییر پرشتاب قرار دارند.

این مهم است که پی برده شود که بزرگ‌ترین جابه‌جایی‌ها به دلیل نوآوری‌های ترکیبی²² (برای مثال پدیداری جابه‌جایی‌های کلان و عناصر برهم‌زننده) رخ خواهند داد. برای نمونه، در فصل سوم، ما بحث خواهیم کرد که چگونه شاهد فزایندة شرکت‌هایی خواهیم بود که داده‌های بزرگ و اینترنت اشیاء²³ (IoT) را با هوش مصنوعی، جابه‌جایی²⁴ و ابر (Cloud) ترکیب می‌کنند تا دستاوردهای نوین و بی‌نهایت بنیان برافکنی را خلق کنند.

پسندیده است گفته شود که هیچ چیز و هیچ کس نخواهد بود که با تغییراتی که در پیش رو داریم، در گزند نباشد؛ چه آن‌ها با نیت خوب درک شوند و چه پیامدهای غیرتعیین شده یا مقاصد زیان‌آورشان، اغماض گردند یا مورد غفلت قرار گیرند. در یک سو، مرزشکنی‌های فناورانة غیرقابل تصور ممکن است به صورت چشمگیری زندگی‌مان را بهبودی دهند و به شکوفایی شگرف انسانی منجر شوند (بنگرید فصل 9)؛ در سوی دیگر، پاره‌ای از این تغییرات فناورانة نمایی احتمالاً زیرساخت‌های جامعه را تهدید کرده و در نهایت انسانیت و کمال انسانی ما را مورد چالش قرار خواهند داد.

در سال 1993، ورنوروینگ²⁵ دانشمند رایانه و مؤلف مشهور علمی - تخیلی، چنین نوشت:

”در طی 30 سال، ما ابزارهای فناورانه‌ای را برای خلق هوش ابرانسانی خواهیم داشت. به فاصلة کوتاهی پس از آن، دوران انسانی به پایان خواهد رسید. آیا چنین پیشرفتی اجتناب ناپذیر است؟ چنانچه غیرقابل اجتناب باشد، آیا می‌توان رخدادها را به گونه‌ای هدایت نمود که شانس بقاء را داشته باشیم؟“ (7)

خوشامدگویی به برزخ (HellVen)

این دارد روشن‌تر می‌شود که آیندة روابط انسان - ماشین، بسیار به نظام اقتصادی‌ای بستگی دارد که آن‌ها را خلق می‌کند. ما با چیزی روبه‌رو هستیم که دوست دارم آن را چالش‌های برزخ²⁶ (ترکیبی از بهشت و جهنم) بنامم. ما با یک سرعت پیچ و تاب مانندی به سوی جهانی می‌رویم که همانند نیروانا²⁷ است جایی که ما دیگر مجبور به کار برای زندگی نیستیم، بسیاری از مسائل توسط فناوری حل گردیده و ما از یک نوع فراوانیِ جهان‌گیر، لذت می‌بریم؛ چیزی که گاهی با عنوان اقتصادِ سفرِ ستاره‌ای²⁸، به آن ارجاع داده می‌شود (8).

امّا آینده نیز می‌تواند طلیعه‌دار جامعة ناکجا آبادی باشد که با ابررایانه‌ها، ربات‌های شبکه شده و عوامل نرم‌افزار ابرهوشمند (ماشین‌ها و الگوریتم‌ها، سایبورگ‌ها و ربات‌ها) و یا با آن کسانی که این ادوات را در مالکیت خود دارند، هماهنگ و حکمرانی می‌شود. جهانی که انسان‌های غیر فزونی یافته²⁹ ممکن است به عنوان حیوانات دست آموز تحمل شوند یا در بهترین حالت، مایة دردسر، یا در بدترین حالت، با دسیسة خدایگان سایبورگی، به بردگی کشانده شوند؛ یک جامعة تاریک که دچار مهارت‌زدایی³⁰، بی‌حسی، از هم گسیختگی و به یک زبان، انسان زدوده³¹ شده است.

”اگر چنان عمر کنید، می‌بینید که خوفناکی‌های انسان ساخت،
در فراتر از درک شما هستند.“ (نیکولا تسلا) (9)

آیا این یک دیدگاه کژپندارانه (پارانویا) است؟

بگذارید آن چه که پاره‌ای از ما هم اکنون در زندگی روزمرة خود شاهد آن هستیم را در نظر بگیریم: فناوری‌های دیجیتالی فراگستر با هزینة پایین این را برای ما امکان‌پذیر نموده‌اند تا تفکر، تصمیمات و حافظه‌مان را به ادوات همراهِ ارزان‌تر و «ابرهای هوشمند³²» در پس آن‌ها، برون‌سپاری کنیم.

این «مغزهای بیرونی»، در حال یک دگردیسی پرشتاب، از من را دانستن، به سوی مرا نمایانگر بودن و مرا بودن³³، در حال سیر کردن هستند. در واقع، آن‌ها در حال تبدیل شدن به یک نسخة دیجیتالی از خود ما هستند و اگر که این فکر هنوز شما را نگران نکرده است توان این مغز بیرونی در پنج سال آینده را تصور کنید که 100 برابر تقویت شود.

آیا در یک شهر شگفت‌انگیز، تاکنون مسیریابی کرده‌اید؟ بدون نقشه‌های گوگل، این کار امکان‌ناپذیر است. نمی‌توانید تصمیم بگیرید که در کجا باید شام بخورید؟ TripAdvisor به من خواهد گفت. زمانی برای پاسخ دادن به همة ایمیل‌هایم ندارم؟ دستیار هوشمند جدیدِ جی‌میل، برای من این را انجام خواهد داد (10).

چنانچه همگرایی انسان - ماشین را در نظر داشته باشیم، در خانه‌ای هستیم و این در حالی است که سایبورگمان برای ما در زندگی دوگانه‌ای، نقش ایفا می‌کند؛ مانند فیلم «جانشینان³⁴» اثر بروس ویلیس³⁵ در سال 2009 (11). هیچ کدام از ما هنوز نمی‌تواند ساخت‌های مصنوعی انسان مانندی که گستره‌ای از وظایف را می‌توانند انجام داده و همراهی را برای ما به ارمغان می‌آورند (مانند آن چه که در سریال تلویزیونی انسان‌ها³⁶ ساخت AMC TV در سال 2015 شاهد بودیم) خریداری کنیم؛ ولی از این چشم‌انداز، چندان نیز دور نیستیم.

در این کتاب، من توضیح خواهم داد که چرا من فکر نمی‌کنم سناریوی ناکجا آباد³⁷ احتمال رخ دادن داشته باشد. در همین زمان، من استدلال خواهم آورد که حالا ما با پاره‌ای از گزینه‌های بنیادینی روبه‌رو هستیم، در وقتی که زمان آن فرا می‌رسد تا تصمیم‌گیری و برنامه‌ریزی کنیم که تا کجا به فناوری اجازه خواهیم داد تا بر زندگی‌مان، زندگی کسانی که به آن‌ها عشق می‌ورزیم و زندگی نسل‌های آینده، اثر گذاشته و آن را شکل دهد. تعدادی از دانشمندان ممکن است بگویند که ما هم اکنون فراتر از نقطه‌ای هستیم که بتوانیم از چنین تغییراتی پیشگیری کنیم و این فقط یک مرحلة بعدی در تکامل «طبیعی» ما است. من قویاً مخالفم و توضیح خواهم داد که چگونه آن طور که من فکر می‌کنم، انسان‌ها می‌توانند در این برخورد در حال رخ دادن میان انسان و ماشین‌ها، به عنوان برندگان، پدیدار شوند.

فناوری و انسانیت در حال همگرایی هستند و ما در یک نقطة عطف قرار داریم

همچنان که نوشتن این کتاب را آغاز کردم و قالب‌های آن را برای سخنرانی‌هایم بافتم، سه واژة مهم در صدر قرار گرفتند، نمایی، ترکیبی و بازگشتی³⁸.

1. نمایی. فناوری به صورت نمایی در حال پیشرفت است. حتی با وجودی که قوانین پایة فیزیک ممکن است از این که ریزتراشه‌ها به صورت چشمگیری کوچک‌تر از آن چه امروز هستند، پیشگیری کنند؛ در هر صورت پیشرفت فناورانه به صورت عمومی هنوز از قانون مور پیروی می‌کند (13). منحنی عملکرد، بیشتر به رشد نمایی خود ادامه می‌دهد تا این که به شیوة تدریجی و خطی‌ای رشد کند که انسان‌ها گرایش دارند آن را این گونه درک کرده و انتظار آن را دارند. این بیانگر وجود یک چالش شناختی سترگ برای ما است: فناوری به صورت نمایی رشد می‌کند در حالی که انسان‌ها (واژة امیدوارانه را من افزوده می‌کنم)، خطی می‌مانند.

2. ترکیبی (هماوندی)³⁹. پیشرفت‌های فناورانه، ترکیبی و یکپارچه هستند. پیشرفت‌های تغییر دهندة بازی همچون هوش ماشینی و یادگیری ژرف، اینترنت اشیاء (IoT) و ویرایش ژنوم انسانی با یکدیگر تقاطع یافته و همدیگر را تقویت می‌سازند. آن‌ها دیگر فقط در دامنه‌های خاص واحدی به کار نمی‌روند؛ برعکس، آن‌ها امواجی را در انبوهی از بخش‌ها موجب می‌شوند. برای مثال، فناوری‌های پیشرفتة ویرایش ژنوم انسانی مانند CRISPR-Cas9 ممکن است در نهایت این اجازه را به ما دهد تا به مبارزه با سرطان بپردازیم و به صورت چشمگیری طول حیات را فزونی دهیم (14). این‌ها توسعه‌هایی هستند که منطق مراقبت‌های سلامت، امنیت اجتماعی، کار و حتی خود سرمایه داری را واژگون خواهند کرد.

3. بازگشتی⁴⁰. فناوری‌هایی همچون هوش مصنوعی، محاسبه‌گری شناختی و یادگیری ژرف ممکن است در نهایت به توسعه‌های بازگشتی (برای مثال خود تقویت کننده) منتهی شوند. برای مثال، ما هم اکنون نمونه‌هایی از ربات‌هایی می‌بینیم که می‌توانند خودشان را بازبرنامه‌نویسی کرده و ارتقاء دهند یا شبکة قدرتی که آن‌ها را زنده نگه می‌دارد را کنترل کنند که احتمالاً این روند به آن چه «انفجار هوشمندی» نامیده می‌شود، منجر می‌گردد. برخی همچون نیک بوسترم⁴¹ از دانشگاه آکسفورد، بر این باور هستند که این می‌تواند به پدیداری «ابَرهوشمندی⁴²» منتهی گردد؛ یعنی سامانه‌های هوش مصنوعی‌ای که روزی می‌توانند سریع‌تر یاد بگیرند و تقریباً از هر نظر از توانایی فکری انسان‌ها پیشی گیرند (15). چنانچه ما بتوانیم هوش‌های مصنوعی را با IQ برابر 500 مهندسی کنیم، چه چیز ما را از ساخت دیگر هوش‌های مصنوعی با IQ برابر 50,000 به دور می‌دارد؛ اگر این کار را انجام دهیم، چه می‌تواند رخ دهد؟

خوشبختانه، هنوز «ابَرهوش بازگشتی» در افق تیررس نیست. با این وجود، حتی بدون چنین چالشی، ما هم اکنون با مواردی به سرعت فزاینده، دست به گریبانیم؛ مانند ردیابی ثابت زندگی دیجیتالی‌مان، پیش فرض مراقبتی⁴³، کاهش یافتن محرمانگی، از دست دادن بی‌نام و نشانی، دستبرد هویت دیجیتالی، امنیت داده‌ها و بسیاری از موارد دیگر. این دلیلی است که من به زمینه‌سازی برای آیندة انسانیت (چه به صورت مثبت یا ناکجا آبادی) که امروزه در اینجا طرح می‌گردد، متقاعد می‌شوم.

ما در یک تقاطع سخت قرار داریم و باید با آینده‌نگری بسیار بزرگ‌تری عمل نماییم، با یک دیدگاه تصمیم گرفته شدة جامع‌تر و با یک نظارت قوی‌تر، همچنان که ما فناوری‌هایی را باز می‌گشاییم که می‌توانند نیروی بی‌نهایت بیشتری را بر ما فرود آورند که تا کنون توانسته‌ایم تصور کنیم.

اگر می‌خواهیم در حیطة کنترل سرنوشت خودمان و توسعه‌هایی که می‌توانند آن را شکل دهند بمانیم ما دیگر نمی‌توانیم خوی و منش «صبر و مشاهده» را پذیرا باشیم. در واقع، همچنان که ما در حال توسعة فناوری‌های بی‌نهایت نیرومندتری هستیم که انسانیت را برای همیشه تغییر خواهند داد، باید به یک اندازه به آن چه که معنای انسان بودن را می‌دهد و یا در آینده همچنان انسانی می‌ماند (برای مثال، آن چه که ما را انسان تعریف می‌کند) از خود توجه فراوانی نشان دهیم. ما باید مراقبت فراوانی داشته باشیم تا این تصمیمات را به «بازارهای آزاد»، به سرمایه‌داران مخاطره‌آمیز، فناوران شرکتی یا نیرومندترین سازمان‌های نظامی جهان، واگذار نکنیم. آیندة انسانیت نباید تحت هیچ قیمتی موضوع عمومی پارادایم دورة صنعتی «سود و رشد» به هر هزینه‌ای، یا پاره‌ای الزامات فناورانة از مد افتاده قرار گیرد هر چند که ممکن است آن‌ها در دهة 1980 به خوبی به ما خدمت کرده باشند. نه سیلیکون والی و نه فناورترین ملت‌های جهان، نمی‌باید «مأموریت کنترل انسانیت» را به دست گیرند فقط به این خاطر که فناوری، جریان‌های نوین گستردة سود و منافعِ عظیم را تولید می‌کند.

خوشبختانه، من بر این باور هستم که ما هنوز درست در نقطة 10/90 هستیم: 90 درصد از امکانات شگفت‌آوری که توسط فناوری عرضه شده‌اند می‌توانند به خوبی در خدمت انسانیت باشند و این در حالی است که 10 درصد ممکن است مسئله‌ساز یا منفی باشند. چنانچه ما بتوانیم توازن برقرار سازیم یا آن را به حدود 2/98 برسانیم، هر تلاشی برای این مقصود ارزشمند خواهد بود. در همین زمان، این 10 درصد مسئله‌ساز (حتی اگر عمدتاً در این زمان غیرعمدی باشد)، ممکن است به تندی به 50 درصد یا حتی بیشتر بالغ شود؛ اگر که ما بر این که دقیقاً چگونه می‌خواهیم این فناوری‌ها در خدمت انسانیت باشد، به توافق نرسیم. به روشنی، این زمان خوبی برای این نیست که فقط ”فشار آوریم و ببینیم که چه رخ می‌دهد.“

هوش مصنوعی و ویرایش ژنوم انسانی، دو تغییر دهندة اولیة بازی هستند

نیروی عمدة اولیه در قلمروی فناوری‌های نمایی، هوش مصنوعی است که به شکل ساده به صورت خلق ماشین‌هایی (نرم‌افزار یا ربات‌ها) تعریف می‌شوند که هوشمند بوده و می‌توانند خود یادگیرندگی داشته باشند (برای مثال، ماشین‌های فکر کنندة شبه انسانی). توانمندی هوش مصنوعی به شکل گسترده‌ای تابع رشد سرعت دو برابر شدن نسبت به دیگر فناوری‌ها است و از قانون مور و رشد توان رایانش، به صورت عمومی، پیشی جسته است (16).

”تا این زمان، بزرگترین خطر هوش مصنوعی آن است که مردم به زودی به این نتیجه‌گیری برسند که آن‌ها، آن را درک می‌کنند.“ (الیزر یودکووسکی⁴⁴) (17).

یک تغییر دهندة بازی که همراه هوش مصنوعی است مهندسی ژنوم انسانی می‌باشد که DNA انسانی را تغییر داده و برخی از بیماری‌ها اگر نگوییم همة آن‌ها را پایان می‌دهد، بدن‌های ما را بازبرنامه‌نویسی می‌کند و احتمالاً بر مرگ نیز خط بطلان می‌کشد. در واقع، هوش مصنوعی یک توانای بحرانی برای چنین بازبرنامه‌نویسی خواهد بود.

این دو تغییر دهندة بازی و همسایگان علمی آن‌ها، در کمتر از 20 سال، اثری شگرف بر آن چه که انسان‌ها می‌توانند و خواهند بود را از خود برجای خواهند گذاشت. در این کتاب، به خاطر ایجاز، من به ویژه بر هوش مصنوعی و یادگیری ژرف⁴⁵ تمرکز خواهم کرد زیرا ارتباط بلافصلی با آیندة ما دارند و نقش توانمند آن‌ها در توسعة دیگر گستره‌های «تغییر دهندگان بازی» مانند ویرایش ژنوم انسانی، نانوفناوری و علوم مواد، بی‌همتا است.

تبدیل شدن به خدا؟

دکتر ری کرزوویل⁴⁶ که هم اکنون رئیس مهندسی گوگل است اثر بزرگی بر تفکر آینده‌پژوهانه به صورت عمومی و بر خودِ کتاب من دارد ولی همچنین او کسی است که نظراتش را من می‌بایست در این کتاب به چالش بکشم. کرزوویل پیش‌بینی می‌کند که رایانه‌ها از توان پردازش یک مغز انسان، در سال 2025 پیشی خواهند گرفت و یک رایانة واحد در سال 2050 ممکن است بتواند همسنگ با توان ترکیبی همة مغزهای انسانی باشد (18).

کرزوویل پیشنهاد می‌کند که این توسعه‌ها منادی ظهوری موسوم به «تکینگی⁴⁷» است؛ این لحظه‌ای است که در آن رایانه‌ها در نهایت پیشی می‌یابند و آن گاه از مغز انسان‌ها در توان پردازش جلو می‌زنند. این لحظه، زمانی است که هوش انسانی ممکن است به صورت فزاینده‌ای غیربیولوژیک شود یعنی هنگامه‌ای که ماشین‌ها ممکن است امکان یابند به صورت مستقل و به احتمال فراوان به صورت بازگشتی و تکرار شونده از برنامه‌نویسی اولیه‌شان، فراتر روند؛ یک لحظة زمانی قطعی در تاریخ انسان.

ری کرزوویل به مخاطبین خود در «دانشگاه تکینگی» در اواخر 2015 چنین گفت:

”همچنان که ما تکامل می‌یابیم، ما به خدا نزدیک‌تر می‌شویم. تکامل یک فرایند معنوی است. زیبایی و عشق و خلاقیت و هوشمندی در جهان وجود دارد و همه‌اش از نئوکرتکس⁴⁸ می‌آید. از این رو، ما در حال توسعة نئوکرتکس مغزمان هستیم و بیشتر شبه خدا می‌شویم.“ (19)

من همچنین بر این باور هستم نقطه‌ای که رایانه‌ها توانمندی مغز انسان را به دست می‌آورند، چندان دور نیست؛ خدا یا غیرخدا؛ برعکس دکتر کرزوویل، من فکر نمی‌کنم در عوضِ احتمال دستیابی به هوش غیربیولوژیک، ما از روی میل و علاقه، انسانیت خودمان را از دست بدهیم. این مرا در معرض یک دادوستد بسیار بد قرار می‌دهد، یک فرونشست به جای ارتقاء و در این کتاب من توضیح خواهم داد چرا پراحساس بر این باور هستم که ما باید در این راه نیفتیم.

درست هم اکنون، در سال 2016، رایانه‌ها واقعاً توان ارائه شده در چشم‌انداز کرزوویل را ندارند. من بر این باور هستم که تراشه‌ها هنوز بزرگ هستند، شبکه‌ها هنوز سرعت ندارند و شبکة برق، روی هم رفته، نمی‌تواند ماشین‌هایی که به این قدرت فراوان نیاز دارند را مورد حمایت قرار دهد. آشکارا، این‌ها موانع موقتی هستند: ما هر روز اعلان مرزشکنی‌های علمی‌ عمده‌ای را می‌شنویم و افزون بر این، قطعاً پیشرفت‌های بی‌شماری که به گوش مردم رسانده نشده‌اند، به شکل مخفی، در هر آزمایشگاهی در سراسر جهان در حال رخ دادن هستند.

ما نیاز داریم که برای «تکینگی» آماده باشیم: با دیدی باز اما نقادانه، علمی امّا هنوز انسانی، ماجراجویانه و کنجکاوانه امّا هنوز مسلح به دقت، و کارآفرینانه امّا هنوز با نظر جمعی.

تخیل علمی، واقعیت علمی می‌شود.

به زودی، ماشین‌ها قادر خواهند بود چیزهایی انجام دهند که روزی تنها دامنه‌ای بود که کارگران انسانی (یقه آبی و یقه سفید، به یکسان) می‌توانستند انجام دهند مانند درک زبان، شناخت تصویر پیچیده با استفاده از بدن‌مان به شیوه‌هایی بسیار منعطف و سازگارمند. تا آن موقع، ما مطلقاً در هر جنبه‌ای از زندگی‌مان به ماشین‌ها وابسته خواهیم بود. ما همچنین به احتمال فراوان یک امتزاج پرشتاب انسان و ماشین را از طریق تیپ‌های نوین میانجی‌ها مانند واقعیت افزوده (AR) و واقعیت مجازی (VR)، هولوگرام‌ها، کاشتنی‌ها⁴⁹، حدواسط‌های مغز - رایانه (BCI)⁵⁰ و قسمت‌های مهندسی شدة بدن با نانوفناوری و بیولوژی سینتتیک، شاهد خواهیم بود.

اگر هنگامی که اشیائی‌ مانند نانوبوت‌های⁵¹ در جریان خون یا کاشتنی‌های ارتباطی در مغزهایمان، امکان‌پذیر شوند، چه کسی می‌تواند تصمیم بگیرد که چه چیزی انسان است؟ اگر فناوری اخلاق نداشته باشد (همان گونه که من دوست دارم بگویم و احتمالاً نمی‌بایست داشته باشد)، با هنجارها، قراردادهای اجتماعی، ارزش‌ها و اصول اخلاقی‌مان چه رخ خواهد داد؛ یعنی در زمانی که ماشین‌ها برای ما، هر کاری را انجام می‌دهند؟

برای آیندة قابل پیش‌بینی، با وجود ادعاهای مبلغین هوش مصنوعی، من بر این باورم هوش مصنوعی شامل هوش هیجانی یا نگرانی‌های اخلاقی نخواهد بود زیرا ماشین‌ها موجودات زنده نیستند؛ آن‌ها شبیه‌سازان و دوگانه‌پردازان هستند. با این وجود، در نهایت، ماشین‌ها خواهند توانست بخوانند، تجزیه و تحلیل کنند و احتمالاً نظام‌های ارزشی، قراردادهای اجتماعی، اخلاقیات و اعتقادات ما را درک کنند ولی آن‌ها هرگز نمی‌توانند در جهانی که ما هستیم زیست کرده یا بخشی از آن شوند (آن چه که فیلسوفان آلمانی دوست دارند آن را Dasein بنامند).

امّا بدون در نظر گرفتن این موارد، ما در جهانی زیست می‌کنیم که داده‌ها و الگوریتم‌ها دارند از آن چه که من آن را آندروریتم‌ها⁵² خطاب می‌کنم، پیشی می‌جویند؛ یعنی همة آن چیزهایی که ما را انسان می‌سازند؟ (من دقیقاً بعداً در این کتاب تعریف خواهم کرد که با یک آندروریتم، چه چیزی منظور دارم).

دوباره، دو برابر شدن متوالی از 4 به 8 به 16 به 32، به صورت کلی، از دید اثری که دو برابر شدن از 1/0 به 8/0 می‌گذارد، متفاوت هستند. این یکی از دشوارترین چالش‌های امروز ما است: ما می‌بایست یک آیندة متفاوت نمایی‌ای را تصور کنیم و باید ناظران آینده‌ای شویم که پیچیدگی آن ممکن است در فراتر از درک انسان کنونی باشد. به هر ترتیب، ما باید به یک خیال‌پرداز نمایی تبدیل شویم.

به تدریج و آن گاه ناگهانی

برای من، این فراز از «خورشید نیز بر می‌خیزد» مربوط به ارنست همینگوی، ماهیت تغییر نمایی را به شکل کامل، تعریف می‌کند: (20)

”چگونه شما ورشکسته شدید؟“

”به دو طریق، به تدریج و آن گاه ناگهانی.“

هنگامی پیرامون خلق آینده‌مان تفکر می‌کنیم، این ضروری است که این الگوهای دوگانة «نمایی» و «به تدریج آن گاه ناگهانی»، درک شوند و این هر دو، پیام‌هایی کلیدی در این کتاب هستند. به صورت روزافزونی، ما آغازهای فروتنانة یک فرصت یا تهدید سترگ را خواهیم دید. آن گاه به تندی، این می‌رود و به فراموشی سپرده می‌شود و یا این که در اینجا است، حالا، و بسیار سترگ‌تر از آن چه تصور می‌شد. پیرامون انرژی خورشیدی، خودروهای خودران، ارزهای دیجیتال و اقتصاد زنجیرة بلوکی⁵³، فکر کنید: همگی زمان زیادی را بردند تا وارد بازی شوند ولی پرشتاب، آن‌ها اکنون اینجا هستند و می‌خروشند. تاریخ به ما می‌گوید که آن افرادی که به آهستگی سازش می‌پذیرند و یا از نظارة نقاط عطف عاجز هستند، پیامدهای آن‌ها را بر دوش خواهند کشید.

«صبر و مشاهده» بسیار نامحتمل است که به معنای انتظار کشیدن برای موضوع باشد تا وقتی که بی‌ربط گردد یا واقعاً مورد اغماض قرار گیرد، از مد بیفتد و یا پژمرده شود. از این رو، ما به راهبرد دیگری برای تعریف کردن و به دست آوردن آن چه که ما را در این جهان پرشتاب در حال دیجیتالی شدن، انسان می‌سازد، نیاز داریم.

من گرایش دارم این گونه فکر کنم که بازارها، خود گران نخواهند بود و با این موارد مذکور، به واسطة یک «دست ناپیدا» سروکار نخواهند داشت. در واقع، بازارهای آزادِ پیش‌ران یافته با سود و رشد، فقط چالش‌های انسانیت در برابر فناوری را تشدید خواهند کرد زیرا این‌ها همان فناوری‌هایی هستند که محتملاً فرصت‌هایی را به ارزش تریلیون دلار در سال تولید می‌کنند. جایگزین کردن کیفیات انسانی، برهم‌کنش‌ها یا ویژگی‌های اخلاقی با فناوری واقعاً غیرقابل تحمل است که به آن در حد یک فرصت کسب و کار نگریسته شود. برای مثال، پیتر دیامندیس⁵⁴، که عضو هیئت مدیرة یک شرکت در کالیفرنیا با نام شایستة «شرکت با مسئولیت محدود درازی عمری انسان⁵⁵» است، اغلب اظهار می‌دارد که درازی عمر فزاینده، یک بازار جهانی 5/3 تریلیون دلاری را خلق خواهد کرد (21). این مرزهای نوین غیرقابل مقاومت احتمالاً بر هر نگرانی جزئی‌ای از نظر آن‌ها مانند آیندة انسانیت، چیرگی خواهند یافت.

در فراتر از کنترل مأموریت

در پایان، ما پیرامون بقاء و شکوفایی نوع بشر گفتمان خواهیم داشت و بر این باور هستم که این کارساز نخواهد بود اگر سرمایه‌گذاران پرخطر، بازارهای سرمایه و نظامی، این نمایش را به شیوة خود اجرا کنند.

در آیندة نزدیک، ما قطعاً مقداری نبردهای سخت میان دیدگاه‌های جهانی و پارادایم‌های مخالف با منافع کلان اقتصادی خواهیم دید که رو در روی یکدیگر قرار می‌گیرند، یک نوع آزمایش قدرت میان انسان‌گراها و فرا انسان‌گراها⁵⁶. هم اکنون که موضوعات نفت و دیگر سوخت‌های فسیلی به عنوان نیروهای پیش‌ران سیاست و نگرانی‌های نظامی رو به افول هستند، آمریکا و چین در خط مرز یک مسابقة جنگ افزاری فناورانة فزاینده هستند. جنگ‌های نوین، دیجیتالی خواهند بود و نبرد برای کسب مقام رهبری در جایگاه تغییر دهندگان نمایی⁵⁷ بازی رخ خواهد داد (مانند هوش مصنوعی، ویرایش ژنوم انسان، اینترنت اشیاء، امنیت سایبری و جنگاوری دیجیتالی). اروپا (شامل به ویژه سوئیس، جایی که من در آن زندگی می‌کنم) تا حدی در وسط می‌ماند، این کشور بیشتر نگران آن چیزهایی خواهد بود که بسیاری از مردم آن‌ها را ارج می‌دارند (مانند حقوق بشر، شادمانی، توازن، اخلاقیات، سعادت جمعی و پایداری). همان گونه که من توضیح خواهم داد، بر این باورم که پرداختن به این نگرانی‌ها، واقعاً فرصت بزرگ ما در اینجا (در اروپا) است.

هم اکنون بسیاری از رهبران اندیشه از تبار جهانی، کارآفرینان سریالی، دانشمندان، سرمایه‌گذاران پرخطر و پیشگامان فناوریِ همه فن حریف (و بله همچنین آینده‌پژوهان) مشغول به کار هستند که یک رجعت داوطلبانة پرشتاب از انسان‌گرایی را یک سره ترویج دهند. این پیشتازان فناوری، ما را به «فراسوی انسانیت» سوق می‌دهند و با آغوش باز، گام پسین در تکامل‌مان را پذیرا می‌شوند که مسلماً امتزاج بیولوژی با فناوری است و تغییر و فزونی اندیشه‌ها و بدن‌هایمان و در واقع، بدل به ابَرمرد⁵⁸ شدن، پایان دادن به بیماری (خوب) و حتی مرگ (یک خواست اغوا انگیز نامأنوس).

علاقه به مفهوم فرا انسانیت در حال خیزش است و برای من این یکی از پر دردسرترین توسعه‌هایی است که در طی 15 سالی که آینده‌پژوه بوده‌ام، آن را مشاهده کرده‌ام. صادقانه بگویم، در واقع، این یک ایدة هذیانی است که تلاش شود تا به یک باره با به فرارفتن از انسانیت از طریق ابزارهای فناورانه، بتوان به شادمانی انسانی دست یافت.

برای زمینه، در اینجا دو موقعیت متضاد پیرامون این مفهوم وجود دارد که توسط زولتان ایستوان⁵⁹، حامی فرا انسانیت و کاندید ریاست جمهوری 2016 آمریکا و جس. ای. بیلی⁶⁰، فیلسوف انسان‌گرا، آرایه شده‌اند:

سردمدار فرا انسانیت. ایستوان در رمان سال 2013 خود تحت عنوان «شرط‌بندی فرا انسانی⁶¹» می‌نویسد:

”راه و رسم برجستة فرا انسانی، خیزش خواهد یافت. این یک واقعیت غیرقابل انکار و غیرقابل اجتناب است. این در ماهیتِ غیردمکراتیک فناوری و توسعة تکاملی فناورانة خودمان نهفته است. این آینده است. ما آینده هستیم، چه دوست داشته باشیم چه نداشته باشیم و این نیاز دارد تا با توان و خرد دانشمندان فرا انسانیت با دیدگاه‌های آن‌ها و منابعی که در پشت آنان می‌باشد و آن‌ها را تسهیل می‌نمایند به خوبی قالب‌بندی، هدایت و به درستی به راه انداخته شود. این نیاز دارد به شیوه‌ای حمایت شود که ما بتوانیم یک گذار موفقیت‌آمیز به اندرون آن داشته باشیم و خودمان را فدا نکنیم؛ نه با قدرت توان فرسای آن و نه با ترس از مهار کردن آن قدرت.

شما نیاز دارید که منابع خود را در آن فناوری قرار دهید. در درون نظام آموزشی‌مان. در دانشگاه‌ها، صنایع و ایده‌هایمان. در درون نیرومندترینِ جامعة خودمان. در اندرون درخشان‌ترینِ جامعة خودمان. در درون بهترینِ جامعة خودمان. بدین گونه است که ما می‌توانیم آینده را به دست آوریم.“ (22)

انسانگرا. با به چالش کشیدن این وضعیت، بیلی در ژورنال تکامل و فناوری می‌نویسد:

”من برهان می‌آورم که با تهدید به پوشاندن مرگ به عنوان یک احتمال بنیادین برای هستی انسان (Dasein)، فرا انسانیت خطر پنهان نمودن نیاز به توسعة یک ارتباط آزاد و اصیل با فناوری، صداقت و راستی و در نهایت خود «هستی انسان» را دارا شود.

فرا انسانیت اغلب یکی از این دو ادعاها را بیان می‌کند: یا بدنی که ما هم اکنون در آن ساکن هستیم قادر خواهد بود برای صدها سال زندگی کند یا هوشیاری‌مان قابل بارگذاری به اندرون چندین پیکر خواهد بود. هر کدام از این وضعیت‌ها (به صورت ماهرانه، ولی به طور اساسی، به طرق مختلف)، تجربة انسانی را از جوانب اساسی فناپذیری تجسد (کالبدپذیری)، بیگانه می‌سازد.

هایدگر⁶² «هستی - به سوی - مرگ⁶³» را به عنوان اساس فراخوان به اصالت (خودینگی) جاسازی می‌کند و دوری جستن از گم گشتگی در خود - کسان⁶⁴ (که برای آن‌ها قالب‌بندی فناورانه حاکم است)؛ با مورد تهدید قرار دادن آگاهی‌مان از فناپذیری خودمان، بدین سان فرا انسان‌گرایی به بستن فراخوان به اصالت (خودینگی)، تهدید می‌نماید، همان گونه که نیاز به آن را مسدود می‌سازد.“ (23)

روشن است که جبرگرایی فناورانه راه‌حل نیست و ایدئولوژی غالب سیلیکون والی که چنین برهان می‌آورد؛ ”چرا راه خود را برای خروج از این ابداع نمی‌کنیم، کلی سرگرمی خواهیم داشت، پول فراوانی به دست می‌آوریم و این در حالی است که زندگی‌های میلیاردها انسان نیز با این فناوری‌های نوین شگفت انگیز، بهبودی می‌یابند؟“ ثابت می‌شود که فقط یک راه‌حل سست و خطرناک است؛ همان گونه که لادیسم⁶⁵ بود.

در تقابل احترام‌آمیز با دیدگاه‌های بیشتر دکارتی یا فروکاست نگرانة⁶⁶ فرا انسان گرایان پیرامون آیندة انسانیت (برای نمونه، بی‌نهایت نگاه ساده‌انگارانه و تنزل یافته به جهان و مردم فقط به شکل یک ماشین غول‌آسا)، این کتاب تلاش می‌کند که نگرش و فلسفة دوران دیجیتالی را ترسیم کند که گاهی من آن را انسان‌گرایی نمایی⁶⁷ می‌نامم. من باور دارم که از طریق این فلسفه، ما می‌توانیم یک راه متعادل به سوی جلو یافت کنیم که این راه به ما این اجازه را می‌دهد تا فناوری را در بر گیریم و نه فناوری شویم، از آن به عنوان یک ابزار استفاده کنیم و نه به عنوان یک هدف.

برای ایمن نگه داشتن آیندة انسانیت، ما باید تا آنجا که ممکن است در پیشبرد انسانیت، انرژی سرمایه‌گذاری کنیم، همان گونه که در توسعه دادن فناوری انجام می‌دهیم. من معتقدم اگر جهانی می‌خواهیم که مکان خوبی برای انسان‌ها باشد، با همة نقایص و بی‌کفایتی‌ها، ما باید منابع چشمگیری (پولی و غیره) را در تعریف کردن چیزی بگذاریم که واقعاً یک نوع جدید از انسان‌گرایی نمایی را ممکن است در بر گیرد. این کافی نخواهد بود فقط بر روی فناوری‌هایی که نوید «ابَرمرد» کردن ما را می‌دهند، سرمایه‌گذاری کنیم زیرا به زودی وابسته به ماشین‌هایی خواهیم شد که کار کردنشان را حتی دیگر درک نمی‌کنیم.

چنان چه در این موارد بیشتر کنش‌گرا نشویم، نگران این هستم که یک انفجار نمایی، از قید رها شده و هوشمندی غیرکنترل شده در ربات‌ها، مهندسی زیستی و ژنتیک، در نهایت منجر به یک روی گردانی نظام‌مند از اصول پایة هستی انسانی شود چون که فناوری فاقد اخلاق است؛ امّا یک جامعه بدون اخلاقیات، به سرنوشت بدی دچار می‌گردد.

این دو دستگی در هر جایی بر می‌خیزد: تقریباً هر چیزی می‌تواند دیجیتالی، خودکار، مجازی و ربات سازی شود ولی احتمالاً هنوز چیزهایی هستند که ما نباید تلاش نماییم آن‌ها را دیجیتالی یا خودکار کنیم زیرا آن‌ها آن چیزی را تعریف می‌کنند که ما را انسان جلوه می‌دهند.

این کتاب جایی که در طی ده سال آیندة فناوری‌های نمایی و همگرا ممکن است ما را ببرند، جستجو می‌کند، آن چه در مخاطره است را برجسته می‌سازد و آن چه که ما می‌توانیم پیرامون آن امروزه انجام دهیم را مورد کاوش قرار می‌دهد. مهم نیست باور مذهبی یا فلسفی شما چه باشد، شما احتمالاً با این موافق خواهید بود که فناوری هم اکنون چنان گسترده در زندگی روزمرة ما وارد شده است که هر پیشرفت نمایی پیشتر، به طور حتم، یک نوع جدیدی از گفتمان دربارة این که تا کجا این پیشرفت‌ها ما را می‌برد و چراییِ آن را طلب می‌کند. همان گونه که فناوری عیناً مترصد ورود به بدن‌ها و دستگاه‌های بیولوژیکمان است، زمان آن فرا رسیده است که یک گردهمایی دودمانی را راه بیندازیم؛ مهم‌ترین گفتمانی که تا کنون ممکن است تبار انسان داشته است.

فصل دوم
فناوری در برابر ما

بگذارید درنگ کنیم و انسانیتمان را
برای یک لحظه در نظر بگیریم.

توانمندی‌های شناختی انسان در میان چیزهای دیگر، بر پایة سرشت ژنتیکی و تقریباً 100 میلیارد سلول عصبی در مغزمان استوار است.

چنانچه همة آن‌ها، همزمان، توسط فناوری بهبودی بخشیده شوند، واقعاً از لحاظ کارکردی و پیوندیافتگی، به زودی امکان دست‌یابی به شکل بسیار خام به حدود 100 انحراف معیار بهبودی، وجود دارد. این میزان به یک انسان متوسط، IQ بالاتر از 1000 را خواهد داد و این در حالی است که محدودة میانگین بین 70 و 130 است که شامل حالِ حدود 95 درصد از جمعیت کنونی است (24).

دشوار است بتوان درک نمود که چه توانمندی‌هایی آن سطح از هوشمندی را عرضه خواهد داشت ولی به طور حتم فراتر از هر چیزی است که شاهد بوده‌ایم یا می‌توانیم تصور کنیم. مهندسی شناختی از طریق ویرایش‌های مستقیم DNA جنین انسان، در نهایت، افرادی را تولید می‌تواند بکند که توانمندی شناختی‌شان از باهوش‌ترین انسان‌ها در طول تاریخ، پیشی می‌جوید. در سال 2050، این فرایند احتمالاً آغاز خواهد شد. نوسازی سیستم عامل یک ماشین یک چیز است ولی بازبرنامه‌نویسی یک موجود با قوة درک و احساس، خاطرات و آزادی اراده (با فرض بر این که این هنوز در سال 2050 مهم خواهد بود)، چه معنایی دارد؟

بگذارید این را با نگاه به این که چه چیزی انسان را تعریف می‌کند، آغاز کنیم. فلاسفة بی‌شماری در این پرسش تلاش کرده‌اند ولی هم اکنون ما به نقطه‌ای رسیده‌ایم که فناوری به گونه‌ای به سرعت خود افزوده است که این اجازه را به ما می‌دهد انسان‌ها را فزونی، تغییر، بازبرنامه‌نویسی و حتی بازطراحی نماییم، این هم اکنون یک موضوع سوزاننده است. بسیاری از فریادها در خیمه‌های «تکینگی» و «فرا انسان‌گرایی» بر این برهان قرار دارند که ما به سوی امتزاج انسان و ماشین، فناوری و بیولوژی در حرکت هستیم. هیجان زده باشیم یا خیر، چنانچه این امید واقعاً انجام شود، تعریف کردن مقولة انسانیت در دوران دیجیتالی حتی بیشتر ضرورت خواهد داشت.

اخلاق و ارزش‌ها به عنوان گوهرهای انسانی

چالش بنیادین در اینجا این خواهد بود مادامی که فناوری هیچ اخلاقیات، هنجارها یا اعتقاداتی نمی‌شناسد، عملکرد مؤثر هر انسان و هر جامعه‌ای، تماماً به خودشان اطلاق داده می‌شود. ماشین‌ها ممکن است در نهایت ملاحظات و مسائل اخلاقی یا اجتماعی ما را یاد بگیرند که چگونه بخوانند یا درک کنند ولی آیا آن‌ها شفقت و همدردی خواهند داشت، آیا آن‌ها واقعاً به شیوه‌ای جامع‌نگر همچون ما زیست خواهند کرد؟ در واقع، ما به صورت گسترده‌ای بر طبق ارزش‌ها، عقاید و نگرش‌های خود زندگی می‌کنیم نه بر اساس داده‌ها و الگوریتم‌ها. حتی اگر ماشین‌ها در نهایت این که انسان‌ها چگونه این را انجام می‌دهند را تجزیه و تحلیل کنند و احتمالاً شبیه‌سازی نمایند، آن‌ها هنوز راه طولانی‌ای دارند تا همچون ما زیست کنند.

همان گونه که گفته‌ام، ما در نقطة عطف منحنی نمایی هستیم جایی که گام بعدی یک جهش بزرگ از چهار به هشت و سپس شانزده خواهد بود. از این رو، ما با شکاف بزرگی روبه‌رو هستیم میان آن چه فناوری می‌تواند انجام دهد (پاسخ به نظر می‌آید این باشد که تقریباً هر چیزی فناوری می‌تواند انجام دهد) و آن چه که باید انجام دهد تا به یک شادمانی کامل انسانی منتهی گردد. در واقع، هنگامی که ما در فراتر از علل آشکار ناشادمانی مانند فقدان آزادی، نابرابری، فقر و بیماری حرکت می‌کنیم، پاسخ به ”چه چیزی شادمانی را تعریف می‌کند؟“ نه قطعی و نه جامع است (بنگرید فصل 9).

به روشنی، جدا از توانایی به خوبی فزایندة شبیه‌سازیِ برهم‌کنش‌های انسانی، فناوری نمی‌داند و اقدامی برای شادمانی، خودفهمی، ارضاء، هیجان یا ارزش و عقاید ما انجام نمی‌دهد. فناوری فقط منطق، کنش منطقی، کارآمدی، ناتمامیت و پاسخ‌های بله/خیر، درک می‌کند زیرا برای این که ”شادمانی را بدانید“ شما باید بتوانید واقعاً شاد باشید که از دید من به کالبدپذیری و جان بخشی نیاز دارد.

فناوری به طور کامل دربارة چیزهایی که ما انسان‌ها به آن‌ها اهمیت می‌دهیم، پوچ‌گرا است. من بر این عقیده‌ام که فناوری نمی‌تواند و نمی‌بایست در سلسله مراتب هرم نیازهای مازلو⁶⁸، از کمک به برآورد نیازهای پایه به سوی عشق و تعلق، اعتماد به نفس یا خودفهمی، حرکت کند (25). بله، قطعاً شبکه‌های عصبی و رهیافت‌های یادگیری ماشین، اخیراً این را برای رایانه‌ها امکان‌پذیر نموده‌اند که خودشان را آموزش دهند و چگونه چیزهای پیچیده مانند بردن بازی‌های GO را انجام دهند (26). همچنین من حدس می‌زنم حداقل در تئوری این برای ماشین‌ها امکان‌پذیر است که به خودشان یاد دهند که چگونه همانند یک انسان عمل کنند. با این وجود، شبیه‌سازی همانند نسخه‌برداری نیست؛ وساطت واقعیت با خود واقعیت یکی نیست.

فناوری اخلاقیات ندارد و نباید آن را داشته باشد! در همین زمان، در این دورة نمایی، بدن‌ها و مغزهای انسان، به صورت فزاینده‌ای، به سان اجسامِ ماشین مانند نگریسته می‌شوند، همانند چالش یک خیس افزار⁶⁹ (یک نسخة گوشتی و خونی نرم‌افزار) خیالی. در این ماجرا، ما فقط می‌توانیم لرزه بر اندام افکنده و تصور کنیم که چه رخ خواهد داد اگر رایانه‌ها برنامه‌ریزی شوند اخلاقیات یا اعتقادات ماشینی خودشان را تقلید کرده یا حتی توسعه دهند. از دیدگاه نویسندة این سطور، این مسیری نیست که ما باید تعقیب کنیم. ایدة دادن توانمندی «هستی» به ماشین‌ها به خوبی مصداق خیانت بر علیه بشریت است.

متولد شدن و برخاستن در درون یک ماشین؟

بیشتر به عنوان یک مثال مغایر، موضوع مورد بحث و مفهوم مورد مناقشة «برون رویش⁷⁰» را در نظر بگیرید؛ یعنی ایدة رشد عینی یک بچه در بیرون بدن زن، در یک رحم مصنوعی (27). این ممکن است در طی 15-20 سال بعد امکان‌پذیر شود و مصداقی کامل بر این است که چگونه خوی و منش ”بله ما می‌توانیم“ مربوط به فناوری، می‌تواند حتی پایه‌ترین ملاحظات انسانی را در نوردد. در حالی که رهسپار شدن در این شیوة آینده‌نگرانة تولید و مثلی برای انسان ممکن است برای زنان کمتر عارضه‌دار باشد تا یک حاملگی طبیعی و حتی کارآمدتر و در نهایت احتمالاً ارزان‌تر، من بر این باورم که این شیوه به صورت مطلق، انسان‌زدایی می‌کند و برای یک بچه‌ای که با چنین شیوه‌ای متولد می‌شود پر از گزند باشد. من در مورد شما نمی‌دانم ولی من در تکاپوی آن هستم تا منطق آن‌هایی که چنین مفاهیمی را توسعه و ترویج می‌کنند، درک نمایم.

آیا این برای انسانیت خوب است؟ یک آزمون اساسی

با وجود تغییر نمایی و بدین سان گزینه‌های چالش برانگیز بیشتر برای انسانیت، من پیشنهاد می‌کنم ما مجموعه‌ای از پرسش‌ها را مطرح کنیم که با آن‌ها می‌توانیم مرزشکنی‌های فناورانه و علمی جدید را مورد سنجش قرار دهیم، برای مثال:

آیا این ایده، حقوق انسانی هر کس که شامل آن است را نقض می‌کند؟

آیا این ایده، در جستجوی آن است که ارتباطات انسانی را با ارتباطات ماشینی جایگزین کند یا این مفهوم را ترویج دهد؟

آیا این ایده، کارآمدی را در برابر انسانیت قرار می‌دهد، آیا در جستجوی آن است که آن چه نباید خودکار شود (مانند برهم‌کنش‌های ضروری انسانی) خودکار گردد؟

آیا این ایده، تفکر سنتی و با محوریت GDD (سود و رشد) را در برابر اخلاقی‌ترین پایه‌های انسانی قرار می‌دهد؟

آیا این ایده، جستجوی انسان برای شادمانی را با مصرف‌گرایی محض، جایگزین می‌کند؟

آیا این ایده، فعالیت‌های هسته‌ای انسان را که نمی‌بایست خودکار شوند، خودکار می‌کند؛ برای مثال، یک روحانی خودکار یا یک درمانگر⁷¹ هوش مصنوعی؟

یکی از نویسندگان ادبیات تخیلی علمی محبوب من، ویلیام گیبسون⁷²، چنین بیان داشت، ”فناوری‌ها از لحاظ اخلاقی خنثی هستند تا زمانی که ما آن‌ها را به کار ببریم“ (28). در واقع، مشاهدة تیزهوشانه و اغلب مورد نقل او بی‌نهایت مرتبط با آن چه است که در این لحظة دقیق ما با آن روبه‌رو هستیم یعنی هنگامی که تعریف انسانیت به صورت فزاینده‌ای تحت تأثیر پیشرفت‌های نمایی فناورانه قرار دارد.

چالش 10/90: در نقطة عطف آن

از آنجا که ما در نقطة عطف منحنی نمایی هستیم، امروزه، یک شانسی بی‌همتا داریم تا بر آیندة خودمان اثر بگذاریم. آیا 90 درصد از این پیشرفت‌های فناورانه، مثبت هستند و مابقی 10 درصد، بیانگر خطرات و چالش‌های قابل مدیریت می‌باشند؟ یا این از کنترل بیرون افتاده و با حرکات چرخشی و به این سو و آن سوی، به سوی یک ناکجا آباد 90/10ی می‌رود؟

اکثر توسعه‌های فناوری هنوز عمدتاً در ماهیت، مثبت هستند. پیشرفت‌های ادامه‌دار در فناوری‌های باتری و خورشیدی، نشانگر یک گام سترگ در جابه‌جایی کلی به سوی پایداری و انرژی‌های تجدیدپذیر بوده و کاربردهای اینترنت اشیاء (IOT)، یک دریای تغییر راستین در گستره‌هایی همچون بندرهای هوشمند، شهرهای هوشمند و کشاورزی هوشمند را امکان‌پذیر نموده‌اند.

هر چند که امروزه 90 درصد فناوری‌ها هنوز مثبت هستند، پیامدهای نسبتاً ناچیز منفی، به رشد قارچ مانند خود به تندی آغاز کرده‌اند زیرا مخترعین، کارآفرینان و دیگر مشارکت کنندگان بازار و دانشمندان، به این‌ها به اندازة کافی نپرداخته‌اند. در مورد اینترنت اشیاء (بنگرید فصل 5)، چنانچه به صورت بدی اعمال شود، یعنی بدون مراقبت، این ممکن است خودش به خوبی به بزرگترین شبکة مراقبتی و سراسر بین⁷³ جامعی که تا کنون ساخته شده است، تبدیل شود (29). ما ممکن است به آنجا ختم شویم که از هر زاویه‌ای مورد مشاهده، پایش و رصد در تمام زمان‌ها، از هر جایی و به صورت پیش فرض⁷⁴، بدون کنترل یا دست‌یازی، قرار بگیریم.

فناوری‌های نمایی واقعاً پتانسیل شگفت انگیزی برای انسانیت دارند ولی ما چنانچه جامع تفکر نکنیم و یا نیتِ همة فناوری‌ها و کسب و کار را که به صورت عمومی می‌بایست موجب ترویج شکوفایی انسانی شود را مورد فراموشی قرار دهیم، ممکن است این پتانسیل را تلف سازیم.

فناوری، قدرت و مسئولیت

قدرت با پیامدهایی می‌آید و ما هم اکنون به درستی با قدرت‌های فزایندة فناوری، سرگرم لذت بردن هستیم ولی اغلب غافل می‌شویم که مسئولانه هنگامی که فناوری با پیامدهای غیرعمدی آن می‌آید و موجب تغییرات بنیادین در زیرساخت جامعه می‌شود، با آن عمل نماییم.

ما عاشق این هستیم که با یکدیگر اتصال بیابیم و خود را در فیسبوک ترویج کنیم و بسیاری از ما از صدای «لایک⁷⁵» لذت می‌بریم. هنوز تازه، این دادوستد فاوستی ضد ارزشی خاص (شبکه‌های اجتماعی یعنی جایی که ما داده‌های شخصی خود را برای کارکردن رایگان در یک پلتفورم جهانی هیجان انگیز، به تجارت می‌گذاریم) شامل شرکت‌های هولدینگ مانند فیسبوک نشده است تا این شرکت‌ها واقعاً مسئول آن چه که آن‌ها با خرده اطلاعات گردآوری شدة دیجیتالی ما انجام می‌دهند، نیز شود. مسلماً، فیسبوک یک ارباب در طفره رفتن این موارد است زیرا دادن اختیار به ما برای کنترل بیشتر بر داده‌هایمان، قطعاً به تلاش‌های آن‌ها در کسب درآمد کمک نخواهد کرد زیرا مدل زمینه‌ای کسب و کار آن‌ها، فروختن ما به بالاترین پیشنهاد دهنده است.

فیسبوک از ما می‌خواهد برای آن چه انجام می‌دهیم احساس مسئولیت داشته باشیم در حالی که ما از نیرنگ لذت‌بخش نیرومند آن به عیاشی می‌افتیم؛ دقیقاً همانند انجمن ملّی تفنگداران (NRA)، که این گونه اشاره می‌کند بعضی از مردم از فناوری برای چیزهای بد استفاده می‌کنند و این در حالی است که خود شرکت‌های فناور، مسئولیتی برای این رفتارها ندارند. همانند انجمن ملّی تفنگداران که می‌گوید ”تفنگ‌ها مردم را نمی‌کشند، این مردم هستند که مردم را می‌کشند“، من فکر می‌کنم این شیوه‌ای پست و کم ارزش از انکار مسئولیت آن چیزی است که آن‌ها آن را تسهیل می‌کنند.

به همین شکل، ما با استفاده از نقشه‌های گوگل، Google Now و حتی شاید Google Home (یک وسیلة خانگی که شما می‌توانید درست مانند یک خدمتکار رباتیک با آن صحبت کنید) دوست داریم تا موارد ترافیک را پیش‌بینی کرده یا پیام بفرستیم تا وقت ملاقات‌های بعدی خود را روزآمد کنیم. با این وجود، به نظر می‌آید ما نمی‌توانیم طریقة مطلوبی را برای مسئول نمودن گوگل در داده‌کاوی و آن گاه فروش فراداده‌هایمان⁷⁶ (به رغم این که به شکل خام بی‌نام و نشان شده باشد) به شرکت‌های بازاریابی، یا دادن آن‌ها به هر عامل دولتیِ ممهور به مراقبت هوشمند خارجی⁷⁷ (FISA)، پیدا کنیم. به زودی، مسلم خواهد شد که اکثر ما از دستیاران هوشمند دیجیتالی (IDAS) کنترل شده با صدا بر ادوات همراه خود استفاده خواهیم کرد؛ با این وجود، به نظر می‌آید که هیچ کس از آن چه آن‌ها در پشت این صحنه‌ها انجام خواهند داد، پاسخگو نخواهد بود. این ادوات به صورت دائم به ما گوش فرا می‌دهند و این در حالی است که ما کنترلی بر آن‌ها نداریم. ما در واقع، ماشین‌های متفکر را بدون وجود یک طرح مسئولیت‌پذیری و بدون نظارت و اعاده، خلق می‌کنیم.

ما در حال ورود به جهانی هستیم که ربات‌های نرم‌افزاری عامل هوشمندِ بر پایة ابر⁷⁸ (بوت‌ها⁷⁹)، می‌توانند همة نوع وظایف را به جانشینی کاربران آن‌ها انجام دهند مانند برقراری نشست‌ها یا رزرو کردن رستوران‌ها. ما حتی قادر نخواهیم بود درک کنیم که چگونه بوت‌هایمان به تصمیم نائل می‌شوند و این در حالی است که آن‌ها به صورت روزافزونی زندگی ما را به پیش می‌برند. ما شاهد فقدان نظارت و مراقبت پیرامون کاربرد و اثر فناوری هستیم. این در وهلة نخست به این علت است که مسئولیت آن چه که فناوری را امکان‌پذیر می‌سازد هنوز عمدتاً به صورت یک مسئلة بیرونی توسط کسانی که آن را خلق کرده و به فروش می‌رسانند، نگریسته می‌شود و این تماماً یک منش ناپایدار به سوی آینده است. این مرا به یاد این می‌اندازد که چگونه شرکت‌های نفتی برای طولانی‌ترین زمان، به موضوع‌های آلودگی و گرم شدن زمین، به صورت یک مسئله بیرونی در حوزة کسب‌وکار خود نگریسته‌اند؛ برای نمونه، حتی گاهی اوقات این مسائل از موضوعات مربوط به مسئولیت‌پذیری آن‌ها نبوده‌اند. لازم به گفتن نیست که این نوع رهیافت به آینده‌مان یک ایدة بد و احتمالاً خانمان برانداز است.

من به صورت بنیادی بر این باور هستم هنگامی که این مسئله دربارة فناوری است ما باید فوراً در فراتر از گسترة سود و رشد، به آن بنگریم زیرا می‌تواند به صورت چشمگیری هستی انسان را تغییر دهد. این بایستة اخلاقی حتی فراتر از آن چه که در دوران بمب هسته‌ای مطرح بود، پیشی می‌جوید. جی رابرت اپنهایمر⁸⁰، یکی از ابداع کنندگان بمب هسته‌ای، پس از بمباران هیروشیما و ناکازاکی چنین بازگویی کرد: ”هم اکنون من مرگ می‌شوم، نابودگر جهان‌ها“ (30). در بازگویی از کتاب مقدس هندوها، یعنی باگوادگیتا (متن حماسی و مذهبی هندوها و بخشی از مهابارتا)، اپنهایمر یک هنگامة کاملاً نوین از تکامل انسان را پیام‌رسانی کرد. درست همین حالا، ناخودآگاهِ ما در حال تجربه کردن حتی چیزی بزرگ‌تر هستیم.

”همان‌گونه که برهان خواهم آورد، هوش مصنوعی یک فناوری با کاربرد دوگانه به مثابه شکافت هسته‌ای است. شکافت هسته‌ای می‌تواند شهرها را روشن کند یا آن‌ها را بسوزاند. قدرت وحشتناک آن برای اکثر مردم در پیش از سال 1945 قابل تصور نبود. با هوش مصنوعی پیشرفته، ما درست در دهة 1930 هستیم. این برای ما نامحتمل است که در سرآغازی به ناگهانی‌ای که شکافت هسته‌ای داشت، بقا بیابیم.“ جیمز بارات⁸¹، ابداع نهایی‌مان: هوش مصنوعی و پایان دوران انسان (31)

فناوری چیزی نیست که جستجو می‌کنیم بلکه چگونگی جستجو کردن است

فناوری، این مهم نیست که چه قدر افسونگرانه است ولی واقعاً ابزاری است که برای دستیابی به چیزی به کار می‌بریم. فناوری آن چیزی نیست که ما در جستجوی آن هستیم بلکه چگونگی جستجو کردن است! واژة فناوری از Techne ریشه می‌گیرد که به ”بارور شدن «واقعی» به «زیبایی»“ و بهبودی در مهارت‌های پیشه‌وران و هنروران از طریق کاربرد چنین ابزارهایی، اشاره دارد (32). فلاسفة یونان، فناوری را نیز بسیار به مثابه چیزی می‌انگاشتند که انگار یک فعالیت فطری انسان است؛ ما مادام ابزارها را ابداع و بهبودی می‌دهیم و این ماهیت انسان است که چنین کاری را انجام می‌دهد.

امّا، هم اکنون به سویی در آینده رهسپاریم که بازگشت دلفریبی از نیت - ابزاری⁸² در آن آغاز به رخ دادن کرده است: هربرت مارشال مک لوهان⁸³، فیلسوف و روشنفکر، یک بار پیشنهاد داد که ابزارهایی که ما می‌سازیم آغاز به شکل دادن ما کرده‌اند و حتی ما را ابداع می‌کنند (33). با در نظر گرفتن نهایت‌های نمایی، این یک کژراهی از نیت اولیة Techne خواهد بود و ما در کوتاه‌ترین زمان به سوی ایفای یک نقش خدایی خواهیم شتافت!

مطمئناً، شما ممکن است استدلال کنید که فناوری همیشه بر انسان اثر داشته و او را تغییر داده است؛ خوب چه چیزی جدید است؟ چه چیزی برای نگرانی وجود دارد؟ آیا این یک نمونة دیگر از همان جریان Techne نیست؟ بگذارید در نظر بگیریم که فناوری در معنای Techne اولیه‌اش فقط ابزاری برای فزونی در توانمندی‌ها و عملکردها و بهره‌وری، نایل شدن و امکان‌پذیری ما بوده است. ما این را در اختراعاتی همچون ماشین بخار، تلفن، خودرو و اینترنت می‌بینیم. فناوری در تمامیت‌مان، ما را افزوده نکرد فقط کنش‌ها و امکان‌پذیری‌های جهان مادی ما را افزوده نمود. هیچ یک از این پیشرفت‌های فناورانه، اساساً به شیوه‌ای ژرف و بازگشت ناپذیر از دید عصب شناسی، بیولوژیک و حتی روانشناسانه یا به صورت معنوی، ما را از درون به عنوان انسان، تغییر ندادند. استفاده از آن فناوری‌ها، واقعاً ما را به صورت نمایی نیرومندتر نکرد (با وجودی که در نقطة عطف منحنی نمایی قرار داریم). در حالی که اختراع موتور بخار یک تفاوت سترگی در دوران صنعتی ایجاد کرد ولی اگر منحنی نمایی را در مقام مقایسه قرار دهیم ما هنوز در نقطه‌ای دور از این تغییر سترگ قرار داریم. برعکس، توسعة رباتیک پیشرفته و خودکاری فراگستر نیروی کار، هم اکنون در نقطة عطف آن مقیاس (چهار)، در حال رخ دادن هستند؛ در آنجا است که تفاوت نهفته است. این یک تفاوت از حیث بزرگی است، نه فقط در سبک و روش بلکه از لحاظ نوع.

الگوریتم‌ها در برابر آندروریتم‌ها⁸⁴

انسان بودن عمدتاً پیرامون آن چیزهایی است که ما نمی‌توانیم (برای آیندة قابل پیش‌بینی) محاسبه، اندازه‌گیری و به صورت الگوریتمی، تعریف، شبیه‌سازی یا به صورت کامل درک کنیم. آن چه ما را انسان می‌سازد ریاضیاتی نیست یا حتی شیمیایی یا بیولوژیکی. این شامل چیزهایی است که به صورت عمده مورد توجه قرار نمی‌گیرند، گفته نمی‌شوند، در بخش زیرآگاهی قرار دارند، ناپایا هستند و عینی‌پذیر نیستند. این‌ها جوهرهای انسانی هستند که من دوست دارم آن‌ها را آندروریتم‌ها نام گذارم که ما مطلقاً باید آن‌ها را حفظ کنیم حتی اگر آن‌ها در مقایسه با سامانه‌های غیربیولوژیک، رایانه و ربات‌ها، زمخت، پیچیده، آهسته، خطرآمیز یا ناکارآمد به نظر می‌آیند.

ما نباید تلاش کنیم آن چه ما را انسان می‌سازد مورد مرمت، تعمیر، ارتقاء و حتی ریشه‌کنی قرار دهیم؛ در واقع ما باید فناوری را به گونه‌ای طراحی نماییم تا این نوع تفاوت‌ها را بدانیم و به آن‌ها احترام گذاشته و مورد محافظت قرار دهیم. بدبختانه، کاهش نظام‌مند و آهسته و حتی مطرود کردن آندروریتم‌ها (آن صفات گریزانی که ما را انسان می‌سازند) هم اکنون در پیرامون ما آغاز شده است. برای مثال، شبکه‌های اجتماعی امکان ایجاد پروفایل‌های خودمان همان گونه که مناسب می‌بینیم را فراهم می‌سازند و ما از این هویت‌های ساختاربندی شدة خودمان، لذت می‌بریم بیشتر از این که با آن چیزی درگیر شویم که ما واقعاً در زندگی واقعی خودمان آن‌ها را داریم.

این ممکن است خوب به نظر آید ولی می‌تواند چنانچه در آن زیاده‌روی شود، بسیار منفی جلوه دهد. در حالی که مسلماً یک هم‌پوشانی‌های میان شبکة اجتماعی و هویت‌های زندگی واقعی‌مان وجود دارد. کیفیت تجسم یافتة اجتماعی و چهره به چهرة آندروریتم‌ها، به صورت روزافزونی، هم اکنون با پرده‌های مصنوعی و الگوریتم‌های زبردستانه جایگزین می‌شوند، مانند آن چه که برای همسان گزینی و ساماندهی محتوی آنلاین انجام می‌شود. در آنجا ما می‌توانیم خودمان را به هر شیوه‌ای که دوست داشته باشیم شکل دهیم و عمدتاً از فناوری‌های آزاد و هنوز نیرومند استفاده کنیم و به زودی به تفکر در خودمان همانند آن چه که دکتر جس بیلی، فیلسوف، به این صورت توصیف می‌کند: ”محصولات فناورانة کنترل منطقی حسابگرانة خودمان“، آغاز خواهیم کرد (34). جای شگفتی نیست که تعداد روزافزونی از مردم، تنهایی فراوانی را احساس می‌کنند و حتی در شبکه‌های اجتماعی نیز افسرده شده‌اند (35).

مارتین هایدگر، فیلسوف آلمانی (شخصیتی اغلب درخشان، هر چند تا حدی در کژ راه افتاده از دیدگاه سیاسی)، در کتاب خودش Sein und Zeit (هستی و زمان) چنین بیان می‌دارد ”یک انسان تنها موجودی است که در زیستش به مسئلة خود هستی همچون یک موضوع می‌نگرد“ (36). واژة آلمانی Dasein (بودن در آنجا) واقعاً آن را به بهترین شکل توصیف می‌کند.

بودن در آنجا (Dasein) از تفاوت اساسی میان انسان و ماشین صحبت می‌کند و این یک مهم در سراسر این کتاب است: این یک هستی با درک است که در قلب امیال انسانی ما است؛ ذهن، روح یا جان (که بخش گریزان هستی ما است) به نظر نمی‌آید بتوانیم آن را تعریف یا مکان‌یابی کنیم؛ ولی به هر حال زندگی‌مان را جاری می‌سازد.

STEM و CORE

کلام آخر این است که بزرگی رازهای انسانی (برهم‌کنش بدن و ذهن، بیولوژی و معنویت که منطقی، قابل محاسبه، نسخه‌پذیر و قابل مهندسی نیستند)، هنوز به صورت عمده‌ای منظر علم، فناوری، مهندسی و ریاضیات (STEM) را کم اهمیت جلوه می‌دهند. بدین سان، ما نباید فناوری خود را چندان انسان گونه نماییم یا اولویت‌های خود را هنگامی که زمان تصمیم‌ها و گزینش‌های اجتماعی مهم است، مغشوش سازیم و ما نباید مسئولیت‌مان را فراموش کنیم همچنان که در حال خطر کردن هستیم و فناوری‌ای را خلق می‌کنیم که ممکن است به برتری‌مان، پایان دهد.

همان گونه که من شیفتة مرزشکنی‌های STEM هستم، بر این باور قرار دارم که ما فوراً به ایجاد یک توازن نیاز داریم، توازنی که اهمیت نیروهای واقعی انسانی را تقویت می‌سازد. بر خلاف سرواژة STEM، اخیراً من به نامیدن آن تحت عنوان ⁸⁵ CORE آغاز کرده‌ام: خلاقیت/ شفقت، اصالت، دوسویگی/ مسئولیت و همدردی.

نگرانی فوری، چندان نابودی احتمالی انسانیت توسط ماشین‌ها نیست بلکه بیشتر فریفته شدن‌مان به اندرون کرم‌چاله‌های⁸⁶ شگفت انگیز فناوری، جهان‌های مجازی و شبیه‌سازی‌ها است؛ به شیوه‌ای که آن‌ها در نخست کاهش می‌دهند و آن گاه آن چیزهایی که ما را انسان می‌سازند، ویران می‌کنند.

آیا ما می‌توانیم به جریان ترجیح دادن فناوری بر انسانیت، پایان دهیم؟

برای اکنون و آیندة قابل پیش‌بینی، حتی عظیم‌ترین فناوری‌ها، هنوز فقط قادر خواهند بود که هستی انسان (Dasein) را به طریقی شبیه‌سازی نمایند تا این که واقعاً انسان شوند. بنابراین، برای زمان موجود، چالش کلیدی چندان پیرامون جایگزین کردن انسانیت و یا حتی نابودسازی آن نیست بلکه این است آیا ما ممکن است به ترجیح دادن واقعاً شبیه‌سازی‌های بزرگ (به ارزانی و مهارت آمیزی‌ای که توسط ماشین‌ها ارائه شده‌اند) بر واقعیت تجسم یافته و حقیقی خودمان، آغاز کنیم. به زبان دیگر، ما در نهایت ارتباطات با ماشین‌ها را نسبت به مردم، ترجیح می‌دهیم؟ (37).

آیا ما به زودی به معاشرت داشتن با دستیاران دیجیتالی خود، خوردن غذاهای چاپ شدة سه بعدی، مسافرت کردن در یک آن به جهان‌های مجازی، سفارش دادن خدمات بر حسب نیاز فردگرایانه با تحویل در خانه‌های هوشمندمان توسط پهبادها و یا از طریق ابر (Cloud) و به معنای واقعی کلمه ارائه خدمت توسط ربات‌ها، خوشنود خواهیم شد؟ (38).

آیا آسودگی بسیار بالا، قیمت‌های بسیار پایین، سادگیِ کاربرد (بدون شک، به زودی کاملاً قابل دستیابی می‌شود) و گنجایش واقعاً بالا برای کاهلی انسان، بر نیازمان برای بر هم‌کنش‌های «خیس افزار⁸⁷» و تجربیات واقعی، چیرگی خواهند یافت؟ امروزه تصور این ممکن است دشوار باشد ولی در بی‌نهایت احتمال، این امر می‌تواند در کمتر از ده سال انجام شود. شاید ”چه می‌شود؟“ هم اکنون به ”اما بعد؟“ تبدیل شده است.

ما هم اکنون می‌بینیم فناوری‌هایی همچون واقعیت افزوده (AR) و واقعیت مجازی (VR)، هولوگرام‌ها و حدواسط‌های مغز - رایانه⁸⁸ (BCI)، تجربیاتی که فقط در گسترة حواس انسانی بودند را برای افزودن یا شبیه‌سازی کردن واقعیت‌هایی که روزی در گسترة تجربیات «فقط احساسات انسانی» بودند، بسیار ساده‌تر می‌کنند، شانس این که ما به اشتباه این را (واقعیت) با آن دیگری (مجازی) اشتباه کنیم به تدریج و آن گاه ناگهانی، افزایش می‌دهند.

حدواسط‌ها⁸⁹ و اخلاق

من پیش‌بینی می‌کنم که فقط ظرف چند سال، به کار گیری AR و VR به اندازة فرستادن پیام‌ها یا برقراری ارتباطات از طریق برنامه‌های کاربردی کنونی، عادی خواهند شد. تصور کنید به شیوه‌ای که ما جهان را خواهیم دید اگر صدها میلیون نفر از مردم آغاز به استفاده از این ادوات نمایند چه رخ خواهد داد؟ آیا این انسانی خواهد بود که به صورت دائم به این شیوه، افزودگی رخ دهد؟ چه کسی مسئول تعریف اصول فزونی‌دهندگی احساسات انسانی خواهد بود؛ برای مثال، آیا این قانونی (یا اخلاقی برای این موضوع) می‌تواند باشد که یک تصویر جنسی شبیه‌سازی شدة مصنوعی یک فرد که بر بدن واقعی‌شان روکش شده باشد را بنگریم در حالی که با آن‌ها صحبت می‌کنیم؟ آیا شما می‌توانید اخراج شوید فقط به این دلیل که از کار کردن در جهان‌های VR امتناع کرده‌اید؟ یا حتی از این بدتر آیا شما خواهید توانست به جهانی بدون AR/VR باز گردید؛ در زمانی که آن‌ها چندان فراگیر گردیده و به صورت عالم‌گیر در دسترس باشند؟

و در آخر این که چه کسانی ناظران ما در این دوران فزونی یافتگی شهوانی با AR و VR خواهند بود؟ فناوری‌های مسافرت مجازی همچون Oculus Rift فیسبوک، VR سامسونگ و HoloLens مایکروسافت فقط برای ارائه یک حس خیلی واقعی به ما آغاز به کار کرده‌اند تا ما حس واقعی عبور با قایق مسطح الواری بر رودخانة آمازون یا بالارفتن از کوه فوجی را که چگونه می‌توانند باشند را تجربه کنیم. این‌ها هم اکنون تجربیات بسیار هیجان انگیزی هستند که قطعاً شیوة تجربه کردن واقعیت، ارتباط یافتن، کارکردن و فراگیری ما را تغییر خواهند داد. آیا ما می‌توانیم یا باید از ارائه دهندگان تجربة آینده از این که همیشه فقط نسخه‌های «دستکاری شدة» واقعیت را عرضه می‌دارند، جلوگیری کنیم؟؛ برای مثال، پاک کردن محلات کثیف و پر جمعیت بمبئی در هر زمانی که با تاکسی در آن حرکت می‌کنیم.

آیا ما هنوز انسان خواهیم بود اگر به ترجیح دادن این که همیشه جهان شبیه این باشد آغاز کنیم؟ آیا ما می‌توانیم اقدامی انجام دهیم تا از این که AR/VR به صورت ابزارهای متعارفی برای جامعه به مانند ادوات تلفن همراه و شبکه‌های اجتماعی شوند، جلوگیری کنیم؟ آیا می‌توانیم قصد کنیم از آن‌ها در اعتدال استفاده کنیم مانند اقسام تلویزیون تقویت شده، یا آیا ما فریفته خواهیم شد تا به جهان غیرفزونی یافتة منظم، همچون یک چیز خسته کننده، فکر کنیم؟ واقعاً در نظر بگیرید امروزه چه تعداد از بچه‌ها به رفتن به کنار دریا، بدون WiFi، فکر می‌کنند. این‌ها واقعاً معضلات است و با دادن پاسخ‌های بله و خیر، حل نخواهند شد. بی‌شک، یک رهیافت متعادل و متناسب با وضعیت با محوریت انسان، مورد نیاز خواهد بود.

بگذارید این را در نظر بگیریم که هنوز یک تفاوت سترگ میان این شیوه‌های جدید برای تجربه کردن واقعیت‌های جایگزین و زندگی واقعی وجود دارد. خود را این گونه تصویرسازی کنید که فقط برای دو دقیقه در وسط یک بازار شلوغِ بمبئی در هندوستان ایستاده‌اید. آن گاه، خاطراتی که شما فقط ظرف زمان بسیار کم این دو دقیقه انباشت کرده‌اید را با یک تجربة طولانی‌تر ولی شبیه‌سازی شده با استفاده از پیشرفته‌ترین سیستم‌های در دسترس امروزی یا در آیندة نزدیک، مقایسه کنید. بوها، صداها و چشم‌اندازها، واکنش‌های بدن‌تان، تاخت و تاز عمومی بر حواس‌تان ... و همة آن‌ها هزاران بار قوی‌تر از آن‌هایی است که حتی با پیشرفته‌ترین ابزارهایی که با دستاوردهای فناورانة نمایی تقویت شده‌اند تا آن‌ها را شبیه‌سازی کنند، به دست می‌آیند.

این است تفاوت میان یک تجربة جامع، تجسم یافته، محتوی محور و تجربة انسانی کامل با یک شبیه‌سازی خلق شده توسط ماشین. امّا یک شبیه‌سازی بزرگ چیز بدی نیست؛ تا زمانی که ما می‌دانیم این چه است و ما را فریفته نمی‌سازد که ”آن را بر خودمان ترجیح دهیم“ و احتمالاً ما می‌توانیم اکثر آن را برای مقاصد خوب استفاده کنیم. فناوری‌های دیداری⁹⁰ تقریباً به صورت بی‌کرانی در آیندة خیلی نزدیک بهتر می‌شوند، به شکل سترگی هزینه و ریسک را بالا می‌برند و محوشدگی مرزهای میان انسان و ماشین را به پیش می‌برند. یک روز ما عیناً می‌توانیم به اندرون صحنة یک فیلم با VR گام نهیم، از توانمندی‌های ذهن و تصورمان ممکن است برای همیشه پیشی بجوییم (39). این دقیقاً آن چه است که مرا هیجان زده و هم عمیقاً نگران می‌سازد. آیا ما در نظر گرفته شده‌ایم تا آن را انجام دهیم؟ آیا ما برای چنین نوعی از مجازی شدن سیم‌کشی⁹¹ شده‌ایم؟ به عنوان یک نتیجه، آیا سیم‌کشی ما نیاز به تغییر دارد و چگونه می‌توانیم به آن بپردازیم؟ آیا به سیم‌های غیربیولوژیک جدیدی برای انجام این کار نیاز داریم؟

چنانچه و هنگامی که پیشرفت فناورانه و نمایی به این معنی باشد که بدن‌هایمان دیگر برای هویت‌مان نقش اساسی ندارند، دیگر مهم نیست که چگونه به این پرسش‌ها پاسخ دهیم؛ در واقع در آن زمان، ما از آستانة ماشین شدن گذر کرده‌ایم. اگر توانمندی‌های پردازش بیولوژیک‌مان نیاز به ارتقاء دائم داشته باشد تا مفید بماند، انسانیت‌مان را می‌کاهد؟ در آن صورت ما به خوبی 95 درصد از پتانسیل‌مان را به نفع «تبدیل شدن به ابزارهایی که خلق کرده‌ایم»، می‌توانیم از دست بدهیم(40).

هوش مصنوعی و محو شدن مرزهای انسانی

با در نظر گرفتن اندازة این اثر بالقوه، ما نقش هوش مصنوعی در این محو شدن تمایز انسان - ماشین را باید در نظر بگیریم. DeepMind را در نظر بگیرید، یک بنگاه پیشرو هوش مصنوعی در لندن که در سال 2015 توسط گوگل اکتساب شد. در فوریة 2016 در مصاحبه با گاردین⁹²، دمیس هسابیس⁹³، مدیر عامل DeepMind، پتانسیل هوش مصنوعی را بیان می‌کند:

”چنان انباشت اطلاعاتی وجود دارد که حتی برای هوشمندترین انسان‌ها دشوار می‌شود که در طول حیات‌شان بر آن حکمرانی کنند. چگونه ما می‌توانیم این سیل داده‌ها را الک کنیم تا بینش‌های درست را دریابیم؟ یک شیوة تفکر دربارة هوش مصنوعی عمومی این است که آن را فرایندی در نظر بگیریم که به صورت خودکار اطلاعات غیرساختارمند را به دانش کنش‌پذیر تبدیل خواهد کرد. آن چه که ما داریم کار می‌کنیم احتمالاً یک فرا راه‌حل⁹⁴ برای هر مسئله‌ای است“ (41).

این بیان سترگ در عمل چه معنایی می‌تواند داشته باشد؟ یک جامعه را در نظر بگیرید که در آن فناوری، به ویژه هوش مصنوعی، فرا راه‌حل‌هایی برای هر چالش سترگ موجود در جامعه فراهم می‌سازد مانند سالخوردگی و مرگ، تغییر اقلیم، گرم شدن جهانی، تولید انرژی، تولید غذا و حتی تروریسم. تصور کنید یک هوش مصنوعی که می‌تواند به سادگی اطلاعات بیشتری را که ما در حد نهایت می‌توانیم درک کنیم، محاسبه نماید، یک ماشین که عیناً تمام داده‌های دنیا را بلادرنگ در همة زمان‌ها و در هر جایی می‌خواند. این ماشین (و آن‌هایی که آن را در مالکیت دارند یا اجرا می‌کنند)، یک نوع مغز جهانی خواهد شد که در حد غیرقابل تصوری نیرومند بوده و در فراتر از درک انسانی قرار دارد. این آیا جایی نیست که شرکت‌هایی همچون DeepMind و گوگل می‌خواهند ما را ببرند و اگر چنین باشد، ما چگونه احتمالاً می‌توانیم کیفیات انسانی‌مان را در آن سناریو پاسداشت کنیم؟

”تخصیص هوش به ماشین‌ها، انباشت‌هایی از قطعات یا دیگر خدایگان بی‌عرضه، به جای منور کردن، بیشتر تیرگی می‌سازد. هنگامی که به مردم گفته شود که رایانه‌ای هوشمند است، آن‌ها تمایل می‌یابند که خودشان را به گونه‌ای تغییر دهند تا رایانه را به گونه‌ای سازند که بهتر کار کند به جای آن که این را طلب کنند تا رایانه چنان تغییر یابد تا مفیدتر شود.“ جارون لاینر⁹⁵ (تو یک گجت⁹⁶ نیستی) (42).

آیا فناوری می‌تواند آن چه واقعاً مهم است را به چنگ آورد؟

بگذارید تصور کنیم که چنین ماشینی، یک هوش مصنوعی در فضای ابر⁹⁷، وجود داشته باشد (و در واقع ما از اولین نسخه‌های آن به دور نیستیم). آیا واقعاً این هوش مصنوعی می‌خواند، درک می‌کند یا آن برهم‌کنش‌هایی که میان انسان‌ها وجود دارند و به صورت داده‌ها بیان نمی‌شوند را قدر می‌داند؟ آیا می‌تواند هستی (Dasein) را درک کند؟

با وجود دستاوردهای فناورانة نمایی که قطعاً رخ می‌دهند، طریقة انسانی «بودن» و «تجربه کردن» چیزها، به صورت چشمگیری متفاوت می‌ماند از آن طریقی که فناوری‌ها، آن لحظاتی را که برای ما مهم هستند، تسخیر می‌نمایند. حتی بهترین عکس‌ها، ویدیوها یا دسته‌های داده‌ای، فقط تقریب‌هایی هستند به آن چه که واقعاً در آنجا بوده‌اند؛ این زمینه، کالبدپذیری (تجسد) و به کمال بودن یک لحظة منحصر به فرد است که به نوعی در بدن ما سکنی گزیده است.

پاره‌ای از فلاسفه این گونه برهان آورده‌اند که ما نمی‌توانیم هرگز آن چه واقعاً مهم است را به دست آورده، نگه داشته یا باز تولید کنیم. چنانچه درست باشد، ما چگونه امید داریم تا گونه‌ای از انسان بودن را در درون یک ماشین شبیه‌سازی کنیم؟ چنانچه ما «به فراتر از حدود بیولوژی رهسپار شویم» آیا ما متحمل یک خطر بالای از دست دادن 95 درصدی از آن چه ما را انسان می‌سازد نمی‌شویم. همان گونه که جنبش «فرا انسان‌گرایی» ترسیم می‌کند؟

ویکی پدیا، فرا انسان‌گرایی را چنین تعریف می‌کند:

”... یک جنبش جهانی و عقلانی است که تبدیل شرایط انسانی با توسعه دادن و خلق نمودن فناوری‌های عالمانة بسیار گستردة قابل دسترس را هدف قرار می‌دهد تا این فناوری‌ها به شکل سترگی، توانمندی‌های عقلانی، فیزیکی و روان‌شناسانة انسانی را فزونی دهند.“ (43)

این نوید بد شگون «فزونی سترگ»، دقیقاً آن چیزی است که مرا بیشتر از هر چیزی نگران می‌سازد. به همان اندازه که اغواگرانه است که توانمندی‌های مرا فزونی دهد، به نظرم می‌آید که همین کسب و کارها، پلتفورم‌ها و فناوری‌هایی که ابزارهای مورد لزوم فزونی دهندگی را ارائه می‌دهند، همان‌هایی هستند که از این مفهوم، بیشترین سودمندی‌ها را خواهند برد. در واقع، این شرکت‌ها در قدرت‌شان، کسب موفقیت و ارزش بازارشان، بسیار فزونی داده خواهند شد و این در حالی است که انسان‌های عادی به شکل فزاینده‌ای تلاش خواهند کرد که با هم‌نژادگان فزونی یافته‌شان، پا به پا، جلو آیند. کسب و کارِ جایگزین کردن تجربیات درون مایة انسانی آندروریتمی با الگوریتم‌ها، نرم‌افزارها و هوش مصنوعی که نوید ارادة قدرت خدای گونه را می‌دهند، مسلماً عظیم می‌باشد؛ ولی آیا این به خودی خود یک برتری است؟ آیا ما باید آیندة خودمان را به آن‌هایی بدهیم که می‌خواهند آن را به یک غول «سیستم عامل ابری⁹⁸» تبدیل کنند زیرا این کار، برای آن‌ها زورق‌های پر از پول می‌سازد؟

”آن چه که هم اکنون می‌گویم این است که ما خدایگان هستیم
و مجبوریم این جایگاه را دریابیم.“ استیوارت برند⁹⁹ (44).

برای یک نمونه در این باره، بسیاری از رهروان فرا انسان‌گرا، مترصد اشاره به این بوده‌اند که انسان‌ها واقعاً «خیس افزار» هستند که به تعمیر و ارتقاء جدی‌ای نیازمند هستند. آن‌ها بر این مدعی هستند که ما به اندازة کافی هوشمند، به اندازة کافی سریع، به اندازة کافی بزرگ یا به اندازة کافی چابک نیستیم. فرا انسان‌گراها چنین برهان می‌آورند که انسان‌ها فقط به نرم‌افزار و ارتقاء سخت‌افزار نیاز دارند؛ عمدتاً به این دلیل که با انجام دادن این کارها، پایان سالخوردگی و احتمالاً حتی پایان مرگ را به ارمغان خواهند آورد.

آیا بدل کردن خودمان به ماشین‌ها (قسمتی یا کاملاً) واقعاً گام منطقی بعدی در تکامل مان است؟ آیا ما مقدر شده‌ایم محدودیت‌های بیولوژیک خود را ترک کرده و با بیولوژی، خود را فزونی دهیم؟

مفهوم تبدیل کردن موجودات زنده به ماشین‌ها، چیز جدیدی نیست؛ رنه دکارت، فیلسوف و منطق‌دان بزرگ در قرن شانزدهم، حیوانات را به خودکاران بسیار پیچیده‌ای همانند دانست (45). امروزه، بسیاری از فناوران این مفهوم را باز زنده‌سازی می‌کنند، که من دوست دارم آن را تفکر ماشینی خطاب کنم؛ با این فرض که هر چیزی در اطراف (و در درون) مان را می‌توان به عنوان دستگاه دانست که قابل تغییر، قابل تعمیر و قابل دوگانه‌سازی است. از نگاه آن‌ها، هستی انسان، در پایان، چیزی جز یک پندارة علمی نیست.

برای مثال، مداوای خودمان برای پایین آوردن کلسترول یا فشارخون یا پرهیز از حاملگی، هم اکنون فضولی‌های به صورت گسترده و پذیرفتة چشمگیری در اندرون عملکردهای طبیعی بدن‌مان هستند. امّا چند گام بعدی در نوآوری پزشکی، می‌توانند اثری به مراتب بالاتر داشته باشند. به عنوان مثال، کاشت اجزاء غیربیولوژیک در درون بدن‌هایمان (مانند نانوبوت‌ها در جریان خون که به مسئلة مراقبت از کلسترول می‌پردازند)، تغییر در ژن‌ها برای پرهیز از بیماری‌ها (یا برنامه‌نویسی بدن‌ها) یا کاشت ادوات شبیه‌ساز شناختی در درون مغزهایمان تا عملکردمان را فزونی دهند را می‌توان یاد کرد.

آیا این به آسانی، تکامل گریزناپذیرمان است یا یک تلاش نامأنوس برای قدرت ابرانسانی که نیت، طرح و ماهیت‌مان را به مبارزه می‌طلبد؟ آیا واقعاً انسانیت مقدر شده است که خودش را بازخلق و برنامه‌نویسی کند تا گزینه‌های بی‌حدومرزی داشته باشد مانند آن چه که می‌توانیم باشیم، هرگز نمیریم و... همچون خدا شویم؟ حتی اگر شما هم مذهبی نباشید (فقط از دید روشنگری، من نیز مسلماً مذهبی نیستم) این پرسش به قطب موضوع نمایان می‌شود. شادمانی فزایندة انسانی و شکوفایی جمعی و جهانی، از تبدیل شدن بیشتر شبیه به یک ماشین حاصل نخواهد آمد حتی اگر که واقعاً این موضوع نوعی از ابرقدرتی را فراهم آورد (هرچند که به زودی برآورده نخواهد شد). در واقع، من برهان می‌آورم که قضایای اساسی فرا انسان‌گرایی (مانند ایدة رهسپاری در فراتر از محدودیت‌های بیولوژیک‌مان) را باید مورد چالش قرار داد به جای آن که آن‌ها را به صورت غیرقابل اجتناب، پذیرفت.

همچنین این مهم است که درک و پذیرفته شود که واقعاً انسانیت ما چیزی است که باید با آن گلاویز شویم؛ این چیزی است که مجبوریم از آن محافظت کرده و برای نگهداشت آن به سختی کار کنیم. ارتباطات معنادار اغلب ماحصل تضادها و تلاش‌ها هستند و عشق هرگز فقط با رها کردن آن تا رخ دهد، پابرجا نمی‌ماند. انسان بودن چیزی نیست که ما بتوانیم (یا باید) فقط آن را با خریدن فناوری پر زرق و برق، مصرف کنیم. هیچ برنامة کاربردی (app) برای آن وجود ندارد.

آینده شبیه به چه چیزی احساس می‌شود؛ آینده‌ای که مسیری را در میان فرا انسان‌گرایان و انسان‌گرایان نمایی‌ای (مانند خود من) می‌تراشد؟ آیا میانة راهی در میان فناوری و انسانیت وجود دارد و این راه به مثابه چه چیزی می‌تواند باشد؟

من فکر می‌کنم وجود دارد و مأموریت من آن است تا آن را تعریف نمایم.

فصل سوم
جابه‌جایی‌های کلان

جابه‌جایی‌های فناورانه،
جامعه ما را دوباره سیم کشی می‌کنند و منظر را تغییر می‌دهند.

من بر این باورم رویارویی میان انسان و ماشین که دارد می‌آید از اثرات ترکیبی ده جابه‌جایی کلان، شدت یافته و نمایی حاصل می‌گردد (جابه‌جایی‌های کلانی که چنانچه شما مایل باشید، این گونه نام‌گذاری می‌کنیم):

1. دیجیتالی سازی (Digitalization)

2. همراه شدن (Mobilization)

3. روی پرده افکنده شدن؛ پرده‌ای شدن (Screenification)

4. واسطه زدایی (Disintermediation)

5. تحول (Transformation)

6. هوشمند سازی (Intelligization)

7. خودکار سازی (Automation)

8. مجازی سازی (Virtualization)

9. پیش‌نگری کردن (Anticipation)

10. رباتی شدن (Robotization)

از آنجا که یک تغییر پارادایمی، پیرامون تفکر و فلسفه است، یک جابه‌جایی کلان نمایانگر یک گام تکاملی سترگ برای جامعه می‌باشد، گامی که در نخست تدریجی به نظر می‌آید... ولی آن گاه یک اثر ناگهانی دارد. در ادامه، من ماهیت این جابه‌جایی‌های کلان را کاوش می‌کنم و آن گاه هر کدام از آن‌ها را توصیف کرده و دلالت‌های احتمالی‌شان را بیان می‌نمایم.

نمایی و هم زمان

بسیاری از نوآوری‌های بزرگ جهان، دهه‌ها و گاهی قرن‌ها پیش از این که در نهایت به سوی جامعة انسانی جاری شوند، متولد شده بودند. آن‌ها اغلب در طریقی نسبتاً پی در پی رخ داده‌اند؛ هر یک، در پس دیگری، بر نوآوری پیشین آمده است. برعکس، جابه‌جایی‌های کلان ممکن است نیز به آرامی رشد یافته باشند ولی بسیاری با یکدیگر تولد یافتند. آن‌ها اکنون هم زمان در جامعة ما با یک سرعت بسیار سریع‌تر، جاری شده‌اند.

جابه‌جایی‌های کلان، چالش‌های بی‌درنگ و پیچیده‌ای عرضه می‌دارند و از باب نیروهایی که جامعه و کسب و کار را در نوردیده‌اند، ماهیت آن‌ها فرق می‌کند. یک تفاوت کلیدی در اینجا این است که نسبتاً تعداد اندکی از سازمان‌ها و افرادی که یک جابه‌جایی کلان را پیش‌نگری کرده و شیوه‌هایی را جهت بهره‌برداری یا پرداختن به یک جابه‌جایی کلان یافته‌اند، می‌توانند به صورت طبیعی انتظار داشته باشند تا فرصت‌ها را دریافته و بزرگ‌ترین سودمندی‌ها را درو کنند. شما ممکن است با این اصطلاحات هم اکنون آشنا باشید ولی حالا من از شما می‌خواهم آن‌ها را همچون نیروهای فناورانة متمایزی که ترکیب می‌یابند تا طوفانی کامل را برای انسانیت خلق کنند، تصور کنید. استرس فناوری¹⁰⁰ چیست؟ چالش‌هایی که تا کنون ما تجربه کرده‌ایم وقتی که با آن چه که می‌آید مقایسه شوند، در مقیاس استرس، اصلاً گنجانده نمی‌شوند.

جابه‌جایی کلان 1: دیجیتالی شدن

هر چیزی که می‌توان دیجیتالی کرد، دیجیتالی خواهد شد. اولین موج شامل موسیقی بود سپس فیلم‌ها و تلویزیون و آن گاه کتاب‌ها و روزنامه‌ها. هم اکنون این فرایند بر پول، بانکداری، بیمه، سلامت، مواد دارویی، حمل‌و‌نقل، خودروها و شهرها اثر خود را می‌گذارد. به زودی اثر تحول برانگیز آن بر پشتیبانی، کشتیرانی، ساخت و ساز، غذا و انرژی فرود خواهد آمد. بسیار مهم است توجه نشان داده شود هنگامی که چیزی دیجیتالی می‌شود و به ابر (Cloud) انتقال می‌یابد، رایگان گردیده و یا حداقل به شکل گسترده‌ای ارزان‌تر می‌شود. ببینید با رسانة موسیقی (Spotify) چه رخ داد. در اروپا هر یک سی‌دی 12 آهنگ، حدود 20 یورو (22 دلار آمریکا) هزینه داشت و اکنون شما 16 میلیون آهنگ را با 8 یورو (9 دلار آمریکا) در هر ماه به دست می‌آورید و یا آن‌ها را مجانی در یوتیوب می‌شنوید.

هر چند که من از Spotify راضی و مشترک وفادار آن هستم و بسیار از آن لذت می‌برم، این نوع از داروینیسم دیجیتالیِ نابودگر مرزها، یک جابه‌جایی سترگ در مدل‌های کسب و کار به وجود می‌آورد و بر اکثر شاغلین فشار می‌آورد تا تغییر یافته یا تباه شوند. در کتاب در سال 2005 من تحت عنوان «آیندة موسیقی» (انتشارات برکلی) به تفصیل بحث کردم آن چه که برایم مسلم شده این است که شرکت‌های برند و بزرگ ضبط موسیقی که این صنعت را برای دهه‌ها کنترل می‌کردند به زیست خود پایان خواهند داد زیرا پخش کردن موسیقی دیگر یک کسب‌وکار زنده نیست (46).

در واقع، سرپاول مک‌کارتنی¹⁰¹ به شکل معروفی، شاغلین شرکت‌های ضبط موسیقی را به دایناسورهایی مقایسه کرده است که شگفت‌زده شدند از آن چه بعد از فرود شهاب سنگ‌های آسمانی رخ داد (47). گرچه یک تصویر دقیق از «تازیانة روحی‌ای» که روزی حاکمان مطرح این پادشاهی پول‌ساز تجربه کردند وجود دارد، این نشانی از سرعت انقراض مربوطه را ارائه نمی‌دهد. کروکودیل‌ها بقا یافته و بعضی از دایناسورها به جوجه‌ها تکامل یافتند؛ اما جابه‌جایی‌های کلان دیجیتالی ادعای احترام کمی به تاریخ دارند و دیگر زندانی‌ای را نمی‌گیرند.

در سال 2010، من این گزارة ”مردمی که پیش از این به عنوان مشتریان بودند“ را ابداع کردم؛ برای آن‌ها اغلب دیجیتالی شدن به معنای کالاهای ارزان‌تر و دسترس‌پذیریِ بهبود یافتة گسترده، معنا می‌دهد (48). این عموماً یک نقطة مثبت است امّا از سوی دیگر، کالاهای ارزان‌تر می‌توانند همچنین به معنای مشاغل کمتر و دستمزدهای پایین‌تر باشند. شاهد بر این موضوع، دیجیتالی شدن جابه‌جا شدن با اوبر (Uber) و رقبای آن در سراسر دنیا مانند Lyft، Gett و Ola Cabs در هندوستان هستند. ما هم اکنون می‌توانیم با استفاده از یک برنامة کاربردی (app) بر روی تلفن هوشمند خود یک تاکسی را فراخوانیم و این اغلب ارزان‌تر از رقبای حاکم آن است. امّا آیا این اقتصاد برای رانندگان تاکسی در طولانی مدت کارساز خواهد بود یا این که ما در حال هدایت به سوی یک تکامل داروینی «اقتصاد با قراردادهای موقت¹⁰²» هستیم، یک وضعیتی که در آن ما همه انواعی از کارهای موقتی را با پرداخت کم به جای مشاغل منظم، انجام می‌دهیم؟ (49).

بدون در نظر گرفتن چالش‌های اجتماعی، دیجیتالی شدن پرشتاب، خودکار شدن و مجازی شدنِ دنیای‌مان احتمالاً اجتناب ناپذیر است. در عمل، این سرعت ممکن است همیشه با قوانین بنیادی فیزیک تحت فشار قرار داده شود مانند نیازهای برآورده نشدة انرژی ابررایانه‌ها یا حداقل اندازة قابل اجرا برای یک تراشة رایانه؛ این مثال‌ها به عنوان دلایلی ذکر می‌شوند که چرا قانون مور برای همیشه حاکم نیست.

این فرض نفوذ فراگیر و ادامه‌دار فناوری اشاره به آینده‌ای دارد که در این آینده، آن چه که نمی‌تواند دیجیتالی و یا خودکار شود (بنگرید جامعة خودکار شونده، فصل چهار)، می‌تواند بی‌نهایت ارزشمند گردد. همان گونه که در فصل دوم بحث شد، این آندروریتم‌ها هستند که کیفیات ضروری انسانی همچون هیجانات، شفقت، اخلاقیات، شادمانی و خلاقیت را کسب می‌نمایند.

در حالی که الگوریتم‌ها، نرم‌افزار و هوش مصنوعی، به صورت فزاینده‌ای «جهان را می‌خورند» (همان گونه که مارک آندرسن¹⁰³ سرمایه‌گذار پرخطر، دوست دارد بگوید) (50)، ما باید همین ارزش را برای آندروریتم‌ها مفروض بداریم؛ آن چیزهایی که ما را منحصراً انسان می‌سازند.

همان گونه که پیش از این، محصولات و خدمات، ارزان و فراوان شدند، آندروریتم‌ها می‌بایست صحنة مرکزی را با فناوری به دست گیرند اگر که می‌خواهیم جامعه‌ای داشته باشیم که نگران شکوفا شدن انسان است. ما مسلماً نمی‌خواهیم از خوردن نرم‌افزار توسط جهان، به سویی رهسپار شویم که نرم‌افزار دنیا را می‌فریبد!

برای مثال، من پیش‌بینی می‌کنم در آیندة نزدیک، ما یک جابه‌جایی در این که چگونه سازمان‌ها به سنجه‌های کسب و کار می‌نگرند را تجربه خواهیم کرد؛ مثل شاخص‌های کلیدی عملکردی¹⁰⁴ (KPI) (اصطلاحی که به صورت گسترده در هدف‌گذاری کسب و کار و منابع انسانی به کار می‌رود). آیندة KPI های ما ممکن است دیگر فقط برای شمردن و کیفیت‌گذاری بر دستیابی‌های حرفه‌ای‌مان بر اساس واقعیت‌های قابل کمّی‌سازی شده و داده‌هایی همچون تک‌فروشی‌ها، تماس‌های مصرف کننده، میزان رضایتمندی یا نرخ‌های تبدیل سرنخ مشتری¹⁰⁵ ساخته نشوند. برعکس، ما ممکن است شاهد خیزش آن چیزی باشیم که من «شاخص‌های کلیدی انسانی¹⁰⁶» می‌نامم که یک رهیافت جامع‌تر و زیست بومی را برای سنجش مشارکت‌های مردمی بازتاب خواهد داد. این کارمند «کمّی شده» نیست بلکه انسان «کیفی شده» است که ما می‌بایست دنبال کنیم!

با همة جابه‌جایی‌های عظیم، دیجیتالی شدن، هم موهبت و هم فلاکت است و به هر طریقی، این چیزی نیست که ما بتوانیم فقط آن را خاموش سازیم یا به صورت چشمگیری به تأخیر اندازیم؛ بنابراین، الزام‌آور است که ما بر طبق آن، آمادگی لازم را داشته باشیم.

جابه‌جایی کلان 2: همراهی شدن و رسانه زده شدن

رایانش¹⁰⁷ دیگر چیزی نیست که ما عمدتاً با رایانه‌ها انجام می‌دهیم؛ در سال 2020 این ایده حتی به نظر می‌رسد که عیناً به سنگواره تبدیل شود. رایانش نامرئی گشته و در درون زندگی‌مان عجین شده است و بر دوش آن چه که ما آن‌ها را تلفن‌های همراه می‌نامیدیم، افتاده است. اتصال یافتگی، اکسیژن جدید است در حالی که رایانش، آب نوین می‌باشد. هر دوی اتصال یافتگی بی‌انتها و توانمندی رایانشی، هنجار نوین خواهند شد.

موسیقی، فیلم‌ها، کتاب‌ها، بانکداری، و نقشه‌ها، همراه هستند... فهرست رو به رشد می‌باشد. همراهی شدن همچنین این معنا را می‌دهد که فناوری بسیار نزدیک‌تر به ما می‌شود (و به زودی در درون ما) از روی رایانه به سوی دستانم یا بر روی مچ دستم من از طریق ادوات پوشیدنی مانند ساعت و سپس بر روی صورتم مانند عینک‌ها یا عدسی‌های تماسیِ واقعیت افزوده (AR) یا واقعیت مجازی (VR) و به زودی، مستقیماً، به درون مغزم از طریق حدواسط‌های مغز - رایانه (BCI) یا کاشتنی‌ها¹⁰⁸.

همان گونه که گارتنر¹⁰⁹ بیان می‌کند، با من هماهنگ شو¹¹⁰، مرا دریاب، مرا ردیابی کن، مرا ببین، مرا بشنو، مرا درک کن... من باش، این جایی است که همراه شدن دارد ما را می‌برد (51).

”زمانی خواهد آمد که در آن هنگام دیگر این گونه نخواهد بود که «آن‌ها از طریق تلفنم خبرگیری می‌کنند» در نهایت این گونه خواهد بود «تلفنم مرا می‌پاید». فلیپ ک. دیک¹¹¹ (52)

سیسکو¹¹² پیش‌بینی می‌کند که در سال 2020، تقریباً 80 درصد از ترافیک اینترنت جهانی از طریق ادوات همراه خواهد بود که تقریباً هر چیزی که روزی فقط بر روی رایانه‌ها انجام می‌شد را انجام خواهند داد (53). این هم اکنون در نقش‌های متنوعی همچون کار طراحان گرافیک، مهندسان ارتباطات و برنامه‌ریزان و ارائه‌کنندگان خدمات پشتیبانی که می‌نگریم مصداق دارد و اکثر این‌ها به واسطة گفتار، لمس، حرکت¹¹³ یا هوش مصنوعی انجام می‌شوند و دیگر به تایپ کردن نیازی ندارند. خیزش پرشتاب دیجیتالی شدن و همراه شدن، به رسانه‌ای شدن (ضبط کردن) هر چیزی همچنین «داده شدن¹¹⁴» اطلاعات منجر شده است. در جایی که چیزها روزی به شکل آنالوگ به صورت غیرداده‌ای نگه داشته می‌شدند (مانند اطلاعات پزشکی به اشتراک گذاشته شده در مکالمه با پزشکم)، به سوی ابر (Cloud) و به صورت پرونده‌های الکترونیک، مهاجرت کرده‌اند. عمدة آن چه که روزی بدون استفاده کردن نه چندان از فناوری، در برهم‌کنش‌های واقعی فرد به فرد، به اشتراک گذاشته یا تجربه می‌شد، هم اکنون کسب و پالایش می‌شود یا بر روی ادوات هوشمند با اسکرین‌های قوی، ارسال می‌گردد.

تصاویر و خاطراتی که به صورت تاریخی فقط در هیپوکامپوس بیولوژیک‌مان انبار می‌شدند هم اکنون به صورت رایج توسط ادوات همراه بلعیده گردیده و برخط به نرخ بیش از دو میلیارد تصویر در هر روز، به اشتراک گذاشته می‌شوند (54). Deloitte Global پیش‌بینی می‌کند که جمعاً مردم بیش از یک تریلیون تصویر آنلاین در سال 2016 به اشتراک خواهند گذاشت (55).

اخباری که به چاپ می‌رسید هم اکنون از طریق برنامه‌های کاربردی (apps) جاری گردیده، سیال، نرم و قابل انعطاف می‌شود. ملاقات‌های کوتاه اجتماعی که در کافه‌ها و بارها آغاز می‌شدند هم اکنون از طریق چند ضربه بر روی یک برنامة کاربردی (app) تسهیل می‌گردند. رستوران‌ها که از طریق پیشنهادهای خصوصی دوستان خوب یافت می‌شدند امروزه از طریق موتورهای نرخ‌گذاری آنلاین مورد شناسایی قرار می‌گیرند که برای کاربر امکان بازبینی‌ها و ارائه وب‌سایت‌هایی با نماهای 360 درجه از آشپزخانه‌هایشان (و غذاها!) را فراهم می‌سازند.

ارائه مشاوره‌های پزشکی که روزی به پرستاران محلی و دکترها نیاز داشت هم اکنون از طریق ادواتی ارائه می‌گردند که تشخیص طبی بهتری را در خانة شما با جزئی از هزینه، نوید می‌دهند. Scanadu یک وسیلة تشخیص از راه دور است که سنجش‌های حیاتی شما را شامل خون، اندازه‌گیری کرده و به ابر (Cloud) برای تجزیه و تحلیل آنی اتصال می‌دهد (56). بسیاری از تجربیاتی که از طریق ارتباطات فرد به فرد حاصل می‌آمدند اکنون رسانه‌ای می‌شوند. کلام آخر آن است که هر چیزی که می‌تواند همراه شود احتمالاً خواهد شد ولی نه هر تجربة همراه شدنی‌ای می‌بایست (به عنوان یک پیامد)، رسانه‌ای شود.

ما باید این را در نظر بگیریم که الزام رایج فناورانة «انجام دادن آن زیرا ما می‌توانیم» دیگر یک حرکت رندانه نیست. پیشرفت‌های فناورانة نمایی، ما را توانمند می‌سازد که وظایف خیلی بزرگ‌تر و پیچیده‌تر را انجام دهیم شامل فعالیت‌هایی که اثر مادی بر روی رفتارهایمان و تجربیات‌مان به عنوان انسان دارا می‌باشند؛ و همیشه این‌ها در مرام مثبت نیستند.

برای مثال، در نظر بگیرید، احتمال غیرواقعی پیشین یعنی ردیابی هر فرد واحدی که از اینترنت استفاده می‌کند از طریق گجت‌های همراه او که امروزه امکان‌پذیر شده است. بله، این درست است که ادوات همیشه روشن‌مان سودمندی‌های اتصال یافتگی کلی و پایش کردن فعالیت دائم ما را از طریق برنامه‌های کاربردی (apps) ردیابی سلامت و ادوات گام‌شمار¹¹⁵(برای مقاصد پزشکی) دارند؛ امّا با این وجود، ما نیز در حد بی‌نهایتی، در معرض قابل ردیابی شدن، عریان شدگی، قابل پیش‌بینی شدن، قابل دستکاری شدن و در نهایت.... قابل برنامه‌ریزی بودن، هستیم.

در هنگامی که می‌خواهیم گستردگی‌ای که فناوری در تجربیات انسانی‌مان تداخل کند را معین کنیم، پرسش‌های بحرانی‌ای وجود دارد که باید از خودمان بپرسیم:

آیا واقعاً ما نیاز داریم هر چیزی که در اطراف‌مان است را عکس‌برداری و ثبت کنیم تا یک حافظة «ماشین در فضای ابر» کامل از زندگی‌مان، خلق کنیم؟

آیا ما واقعاً نیاز داریم که هر منظری از زندگی‌مان را در پلتفورم‌های دیجیتالی و شبکه‌های اجتماعی به اشتراک بگذاریم؟ آیا این بیشتر ما را شبیه ماشین‌ها یا بیشتر شبیه انسان‌ها، به چشم می‌آورد؟

آیا واقعاً ما به برنامه‌های کاربردی ترجمانی بلادرنگ زنده همچون SayHi یا Microsoft Translate برای گفتمان با کسی که به زبان دیگری تکلم می‌کند، نیاز داریم تا تکیه کنیم؟ به راستی این می‌تواند کاملاً در یک نقطة تنگ، مفید واقع شود ولی همچنین یک مانع رسانه‌ای/ ادواتی دیگری را میان ما و افراد دیگر قرار دهد؛ به زبان دیگر یک فرایند منحصراً انسانی را رسانه‌ای می‌کند. در اینجا دوباره ما نیاز داریم به یک توازن جدید دست بیابیم و نه فقط با یک پاسخ بله و خیر، آن را پاسخ دهیم.

جابه‌جایی کلان 3: صفحه‌ای شدن و انقلاب‌های (یا تکامل‌های) حدواسط¹¹⁶

از تایپ تا لمس و گفتار، تقریباً هر چیزی که یک روزی به صورت چاپ بر روی کاغذ استفاده می‌شد هم اکنون در حال مهاجرت کردن به یک صفحه (اسکرین) است. این انقلاب‌ها (تکامل‌ها)، این را معنا می‌دهند که به احتمال فراوان، روزنامه‌های کاغذی، در طی فقط ده سال، دیگر وجود نخواهند داشت. بدون شک، چنین سرنوشتی بر سر مجلات نیز خواهد آمد ولی تا حد آهسته‌تر، زیرا اکثر مجلات هنوز با خود احساس‌های لمس‌شدنی و بویایی را دارند. بدین طریق، در حالت بکر، آن‌ها بیشتر نمایی جلوه می‌کنند.

نقشه‌های کاغذی هم اکنون به سوی ادوات می‌روند و احتمالاً در طی سالیانی کوتاه، کاملاً ناپدید خواهند شد. کار بانکداری که روزی در ساختمان‌ها یا ماشین‌های تحویل‌داری خودکار شدة بانک‌ها انجام می‌شد، هم اکنون با یک سرعت بی‌تابانه به سوی همراه شدن و به درون فضای ابر (Cloud) رهسپار است. مکالمات تلفنی که روزی با تلفن‌ها انجام می‌شدند هم اکنون دارند به صورت فراخوان‌های ویدیویی که از طریق خدمات اسکرین مانند Skype، Google Hangouts و Face Time هدایت می‌شوند، انجام می‌گردند.

ربات‌ها روزی دارای دکمه‌ها یا کنترل‌های از راه دور به عنوان حدواسط‌ها بودند؛ امّا هم اکنون این صفحه‌ها (اسکرین‌ها) هستند که ساخته می‌شوند تا همچون چهره‌ها به نظر آیند (و ما با آن‌ها هم گفتگو می‌کنیم). خودروها روزی دارای سوییچ‌ها، دکمه‌ها، نمایشگرهای ساده یا کنسول مرسوم بودند؛ هم اکنون کنترل‌های خودروها به صورت صفحات تماسی تمام عیار می‌باشند. این فهرست همچنان ادامه می‌یابد و قرین به انفجار است.

همچنان که ادوات فزونی دهندة تصویری قدرتمندتری به بازار به شکل سیل‌واری وارد می‌شوند، چشمان ما در حال صفحه‌ای شدن (اسکرینی شدن) هستند. هر چند که هم اکنون افرادی هستند که پیشنهاد می‌کنند ما باید آن‌ها را با فناوری ارتقاء دهیم، در آینده‌ای نزدیک، ما همچنان با چشمان انسانِ نسخة یک¹¹⁷ می‌بینیم. با این وجود، بسیاری از ما ممکن است عینک‌های افزوده، عدسی‌های تماسی توان یافته با اینترنت یا رخ‌پوش‌هایی استفاده کنیم که به صورت چشمگیری آن چه می‌بینیم و چگونه به آن پاسخ می‌دهیم را فزونی دهند. شیوه‌ای که جهان را می‌بینیم، پیوسته در حال تغییر است؛ یک وضعیت برزخ مانند (HellVen) واقعی.

صفحه‌ای شدن، یک روند کلیدی در همگرایی انسان و ماشین است و همچنین یک گفتمان رشد یابنده دربارة این که تا کجا ما باید با آن برویم. این روند، مسیر را برای کاربرد گستردة AR/VR و هولوگرام‌ها هموار می‌کند. ما اسکرین‌هایی برای هر چیز و هر جا خواهیم داشت و همچنین آن صفحاتی که به آن‌ها با انرژی خورشیدی و باطری‌های طولانی‌مدت با هزینة پایین برق رسانده می‌شوند، به خوبی از کاغذ دیواری‌های تجملاتی ارزان‌تر می‌شوند. از این رو، بسیار آسان خواهد بود که گام بعدی برداشته شود و از اسکرین‌ها به عنوان پوشش‌هایی بر واقعیت حقیقی‌مان استفاده شود تا اطلاعات و دیگر تصاویر محتوا محور بر روی آن چه که ما واقعاً در اطراف خود می‌بینیم، نمایان شوند. من بر این قمار خواهم کرد که در طّی ده سال آینده، VRو AR به همان اندازة استفاده از واتساپ امروزی، عادی خواهند شد. این هم شورانگیز و هم یک فکر ترسناک است: درآن نقطه، چه کسی است که بگوید چه چیز واقعی است و چه چیز نیست؟

در نظر بگیرید که این پدیده بر «خود آگاهی» ما به عنوان انسان، چه انجام خواهد داد. چنین «ابَر - بینایی» و تصویر‌سازی پرتوان که فقط با پوشیدن رخ‌پوش HoloLens 250 دلاری مایکروسافت به دست می‌آید را تصور کنید. همچنین این را تصور کنید که یک دکتر یک هدست VR سامسونگ در حین عمل جراحی بعدی خود می‌پوشد و خطر دادخواهی‌های مربوط به لغزش‌های پزشکی‌اش را کاهش می‌دهد زیرا او دسترسی بهتری به داده‌های زنده دارد.

جهانی که ما می‌بینیم ممکن است بی‌نهایت غنی‌تر، پرشتاب‌تر و به هم اتصال یافته‌تر شود، ولی تا چه اندازه می‌تواند گیج کننده و اعتیادآور باشد؟ و چرا کسی هرگز نمی‌خواهد چیزی را بدون این ابرفزونی دهندگان نوین ببیند؟ همچنان که تأمین کنندگان این محصولات به صورت اجتناب ناپذیری، ارتش‌هایی از دانشمندان علوم اعصاب و خبرگان رفتاری را صف‌آرایی می‌کنند تا به آن‌ها بگویند چگونه اسکرین‌ها (صفحه‌ها) یمان را حتی اعتیادآور و راحت‌تر نمایند، این حتی بیشتر خود را نشان می‌دهد. در مورد «لایک¹¹⁸» فیسبوک فکر کنید، دوپامینِ شما، در جا آزاد می‌شود پس ببینیم چه مقدار ژرف‌تر، رهایش دوپامین با «ابربینایی» می‌تواند باشد؟

”گر چه در اینجا ستمگرانی وجود ندارند؛ هیچ کس فشار نمی‌آورد که شما این کار را انجام دهید. مشتاقانه خود را به این افسارها می‌بندید. مشتاقانه عیناً از لحاظ اجتماعی خیال پرداز می‌شوید. دیگر اشارت‌های ارتباطات پایة انسانی را درک نمی‌کنید. شما در کنار یک میز با سه انسان هستید، همة آن‌ها به شما می‌نگرند و تلاش می‌کنند تا با شما صحبت کنند و شما فقط به یک صفحة اسکرین خیره شده‌اید! در جستجوی بیگانه‌ها هستید در... دبی!“ دیواگگرز¹¹⁹، در کتاب «حلقه» (57).

جابه‌جایی کلان 4: واسطه‌زدایی

یک روند کلیدی در تجارت آنلاین، رسانه و ارتباطات، حذف مرد یا زن میانی است - ساختارشکنی به واسطة مستقیم رهسپار شدن. این هم اکنون در موسیقی دیجیتالی رخ داده است جایی که پلتفورم‌های نوین‌تر مانند Apple، Spotify، Tencent، Baidu و YouTube بنیان برافکن بوده و کارتل‌های شرکت‌های برند تولید موسیقی را بیرون می‌رانند؛ یعنی شرکت‌هایی که 90 درصد از درآمدهای یک هنرمند را می‌گرفتند.

این نیز در مورد توریسم و هتل‌ها نیز رخ می‌دهد: Airbnb ما را قادر می‌سازد که در اقامتگاه‌های خصوصی اقامت کنیم و با دارندگان آپارتمان به صورت مستقیم تماس بگیریم و آنجا را رزرو کنیم؛ دیگر نیازی به گرفتن یک هتل به شیوة پیشین وجود ندارد.

چنین چیزی در مورد چاپ کتاب نیز رخ می‌دهد و مؤلفین می‌توانند مستقیماً با Amazon Kindle Publishing تماس مستقیم بگیرند و از سود تا 70 درصد کتاب الکترونیک خود به جای 10 درصدی که ناشر سنتی می‌داد، بهره ببرند. آیا می‌توانید اثر بر محبوبیت تولستوی نزد عامه و عایدات او را تصور کنید اگر او چنین نوع دسترسی مستقیمی داشت؟ در تراکنش‌های بانکداری نیز چنین است جایی که مشتریان می‌توانند از ابزارهایی همچون PayPal، M-Pesa در آفریقا، Facebook Money و TransferWise برای ارسال پرداختی‌ها در سراسر جهان، استفاده کنند. این نوع خدمات، اغلب بانک‌ها و خدمات انتقال پول سنتی و هزینه‌های تکان دهنده‌ای که آن‌ها جسارت طلب کردن از مشتریان داشتند را پشت سر می‌گذارند. همین منوال در خرده‌فروشی و بیمه بوده و به زودی انرژی را نیز به معادله اضافه کنید و می‌توانید ببینید که این مسیر به کجا می‌انجاد. چنانچه بتوان این را مستقیم یا از سوی همتا به همتا¹²⁰ انجام داد، انجام خواهد شد. فناوری آن را یک قطعیت می‌کند.

چالش کلیدی این می‌باشد: ساختارشکنی بزرگ است، ساختارشکنی هیجان‌انگیز می‌باشد، ساختارشکنی می‌تواند بسیار پرسود باشد، همان گونه که داستان‌های فراوان استارتاپ‌ها که به میلیاردها دلار ارزش‌گذاری در ظرف فقط چند سال رسیده‌اند، به عنوان شاهد مطرح می‌باشند؛ ولی در نهایت ما به ساخت و ساختاربندی نیز نیاز داریم (58). ظاهراً، این عالی به نظر می‌آید که الحاق به رتبه‌های بنگاه‌های به ارزش یک میلیارد دلار (Unicorn) یا ده میلیارد دلار آمریکا (Decacorn)، هدف‌گذاری شود. امّا ما نیاز داریم که ژرف‌تر برویم تا تضمین کنیم ما چیزی می‌سازیم که یک زیرساخت جدید و بهتر خلق می‌کند، همچنین یک زمینة اجتماعی و نه فقط چیزی که ارزش بازاری بالایی دارد ولی چیزی اضافه نمی‌کند و فقط واقعاً آن چه که در آنجا بوده است را بر می‌دارد.

اوبر (Uber)، تاکسی و خودروهای سواری بزرگ را واسطه‌زدایی کرده است و سود شگفت انگیزی به مشتریان فراوان رسانده است؛ همچنین به رانندگان و دیگر کارکنان اوبر. با این وجود، در فرایند تبدیل شدن به یک بازیگر خیلی بزرگ و نیرومند در این قلمرو، خود اوبر به یک نوع جدید واسطه‌گری تبدیل شده است. بعضی از صاحب‌نظران، این را «پلتفورم سرمایه‌داری» و «فئودالیسم دیجیتالی» می‌نامند؛ این به دلیل شیوه‌ای است که اوبر با رانندگانش به صورت کالاهای بسیار قابل مصرف عمل می‌کند (یک بعد منفی روشن از اقتصاد با قراردادهای کوتاه‌مدت¹²¹)(59).

نمونة اوبر نشان می‌دهد که این کافی نخواهد بود که به راحتی آن چه که دیگر به خوبی کار نمی‌کند را پاره کرد، مانند صنعت تاکسی، یا در جایی که شاغلین بازار کنونی دیگر به خوبی خدمات ارائه نمی‌دهند، همان خدمات را مجدداً راه‌اندازی کرد. این همچنین لازم است که یک اکوسیستم بومی دیجیتالی نوین کامل را ساخت که به همة اجزای معما خواهد پرداخت و نه فقط پاره‌ای از آن‌ها. سرشیر گرفتن پس از نابودیِ مدل‌های کسب‌وکارهای از مد افتاده، پایدار نیست. این ساختارشکنی تنها کافی نیست. ساختاربندی نیز باید باشد.

به روشنی، واسطه‌زدایی با توان فناوری‌های نمایی، به پیش رانده می‌شود و ما تعداد زیادی از آن را خواهیم دید. بزرگ‌ترین سونامی‌های تغییر در حوزه‌های سلامت و انرژی خواهند بود. بسیار ضروری است که به یاد ‌آوریم که فقط ساختارشکنی، کارساز نخواهد بود و پایدار نمی‌باشد. ما همچنین نیاز دارد که ارزش‌های واقعی انسانی و یک زیست بوم جامع را بسازیم که ارزش پایداری را برای هر فردی خلق کند؛ و نه فقط الگوریتم‌ها بلکه آندروریتم‌ها را دوباره احیاء کند. ما باید یک دیدگاه جامع‌نگر اتخاذ کنیم که واقعاً یک تفاوت ایجاد کند.

”بیش از این که شما خیلی با گجت‌های پر زرق و برق و نمایش‌های ویدیوئی فریفته کننده، شیفته شوید، بگذارید به شما یادآوری کنیم که اطلاعات دانش نیست، دانش خرد نیست و خرد آینده‌پژوهی نیست. هر کدام از دیگری سر بر می‌آورد و ما به همة آن‌ها نیاز داریم.“
آرتورسی کلارک (60).

جابه‌جایی کلان 5: تحول

با رهسپار شدن در فراتر از تغییر محض، بزرگ‌ترین الگوی رفتاری در سال 2015 «تحول دیجیتالی¹²²» بود، فرازی که تا حدی هم اکنون بوی کهنة «رسانة اجتماعی» را به دست آورده است. با این وجود، این اصطلاح مناسب است زیرا به فراتر از تغییر محض یا نوآوری رهسپار می‌شود. این عیناً به معنای تبدیل شدن به چیز دیگری است، دگردیسی از لارو پروانه به یک پروانه یا از یک خودروی اسباب بازی به یک ربات اسباب بازی یا در واقع از یک سازندة خودرو به یک ارائه دهندة جابه‌جایی و حمل‌ونقل. تحول، اولویت شمارة یک اکثر شرکت‌ها و سازمان‌ها خواهد بود زیرا تغییر فناورانه نمایی بر همة آن‌ها اثر می‌گذارد. تحول یافتن به چیزی که از حالا برای پنج سال کار خواهد کرد به یک مقدار آینده‌نگری و همچنین دلیری، رشادت و طبیعتاً حمایت همة ذی‌نفع‌ها و بازارهای سرمایه نیاز دارد. بگذارید فراموش نکنیم که مادرِ همة تحول‌ها، جابه‌جایی کلان‌مان از جدا بودن فیزیکی به اتصال یافتگی مستقیم به رایانه‌ها و ادوات است.

جابه‌جایی کلان 6: هوشمندسازی

دلیل اساسی که چرا انسانیت چنین ژرف تحت چالش قرار می‌گیرد این است که: چیزها هوشمند می‌شوند.

هر شیئی در اطراف ما که روزگاری منفصل و بدون زمینه‌ای پویا بود هم اکنون از طریق اینترنت به واسطة شبکه‌های حسگر، متصل شده است و مدام روزآمد گردیده و از طریق شبکة ادواتی جهانی، مورد بررسی و پرسمان قرار می‌گیرد.

هر آن چه که می‌تواند هوشمند شود خواهد شد زیرا هم اکنون امکاناتش را داریم. یادگیری ژرف یک توانای کلیدی هوشمندسازی و یک تغییر دهندة بازی سترگ می‌باشد. به جای استفاده از رهیافت سنتی ماشین‌های برنامه‌نویسی که با دنبال کردن دستورات کار انجام می‌دهند، پارادایمِ غالبِ در حال پدید آن است که به آن‌ها هیچ چیز داده نشود ولی توان پردازش کلان، دسترسی به مقادیر سترگ داده‌های بازمانده و بلادرنگ، یک مجموعة پایه از قوانین یادگیری و یک دستور ساده مانند «مشخص کنید چگونه بردن هر بازی واحد GO، شطرنج یا تخته نرد»، داده شود. آن گاه ماشین با قوانین و راهبردهایی که ما انسان‌ها ممکن بود هرگز نتوانیم خودمان کشف کنیم، خودش بالا می‌آید.

آزمایشگاه‌های هوش مصنوعی DeepMind گوگل، توان یادگیری ژرف را در سال 2015 با نشان دادن این که یک رایانه واقعاً چگونگی بازی کردن و بردن بازی‌های رایانه‌ای آتاری را کاملاً توسط خودش می‌تواند یاد بگیرد و سپس به ارباب تمام عیاری در کوتاه‌مدت تکامل یابد، نمایش دادند (61).

به مدت کوتاهی پس از نمایش آتاری، DeepMind یک رایانة خود یادگیرنده به نام AlphaGo را توسعه داد که در بازی بی‌نهایت دشوارتر و قدیمی چینی Go استاد گردید (62). این جام مقدس هوش مصنوعی است: نه کمال ریاضیاتی‌ای که DeepBlue در هنگامی که گری کاسپاروف را در بازی شطرنج منکوب کرد از خود نشان داد (63)، این توانمندی ماشین در درک اطرافش و تدبیر بهترین مسیر عملکردی خودش می‌باشد (و همچنین به طور قابل برگشت¹²³). با به کار بردن پشت سر هم همین فرایند، این هوش‌های مصنوعی ممکن است به صورت نمایی، بهتر و بسیار سریع‌تر شوند.

جابه‌جایی کلان 7: خودکارسازی

نوید بزرگِ بسیاری از فناوری‌های نمایی این است که ما می‌توانیم هر چیزی را دیجیتالی کرده، آن را هوشمند نموده و سپس خودکار و مجازی کنیم. خودکارسازی، کلیدی برای ایدة «کارآیی بیش از حد¹²⁴» است زیرا خودکارسازی، جایگزینی انسان‌ها با ماشین‌ها را امکان‌پذیر می‌سازد. من به این جابه‌جایی کلان در فصل 4 در خودکارسازی جامع، خواهم پرداخت.

جابه‌جایی کلان 8: مجازی‌سازی

مجازی‌سازی، به شکل ساده، ایدة خلق کردن یک نسخة غیرفیزیکی دیجیتالی چیزی است به جای این که یک نسخة لمس‌پذیر آن را در مکان داشته باشیم. برخی از خدمات بسیار رایج مورد استفادة خدمات مجازی شامل مجازی سازی رایانة رومیزی¹²⁵ یا سرور¹²⁶ می‌باشند، یعنی جایی که ایستگاه کاری¹²⁷ من در فضای ابر است و فقط از یک پایانه¹²⁸ بر روی رایانه یا یک برنامة کاربردی بر روی تلفن هوشمند من، مورد دسترسی قرار می‌گیرد. مثال دیگر، در ارتباطات و شبکه‌سازی است: به جای استفاده کردن از سخت‌افزار شبکه‌سازی مانند مسیریاب‌ها¹²⁹ و سوییچ‌ها، تماس‌ها و ارتباطات داده‌ای به صورت فزاینده‌ای در فضای ابر (Cloud) با استفاده از شبکة مبتنی بر نرم‌افزار¹³⁰ (SDN)، مسیریابی می‌شوند. سودمندی‌های حاصله شامل صرفه‌جویی‌های هزینه‌ای بزرگ و خدمات پرشتاب‌تر است. امّا این همچنین مدل‌های کسب‌وکار بازیگران جهانی بزرگی همچون Cisco را نابود می‌سازد.

بعضی پیشنهاد می‌کنند مجازی‌سازی از طریق رایانش ابری می‌تواند تا 90 درصد صرفه‌جویی هزینه‌ای داشته باشد (64). به جای ترابری کتاب‌های چاپ شده به سراسر جهان، آمازون کتابفروشی را مجازی کرده و فایل‌های دیجیتالی را برای خوانندگان بر روی کتاب‌خوان Kindle شان می‌فرستد، ما هم اکنون در لبة مجازی شدن ترابری نیز هستیم. تصور کنید صرفه‌جویی‌های حاصل از یک چاپگر سه بعدی که می‌تواند پوشش آیفون شما را در اتاق نشیمن خودتان تولید کند؛ شما فقط نیاز دارید تا طرح را دانلود کنید. تصور کنید یک چاپگر سه بعدی آینده که می‌تواند حتی پیشرفته‌ترین محصولات را با صدها مادة کمپوزیت چاپ کند، درست در بازار مورد علاقة شما، هر چیزی از کفش‌های تنیس تا عروسک‌های باربی تا بسیاری از محصولات را تولید می‌کند.

مرکززدایی اغلب یک جزء عمدة مجازی‌سازی است زیرا اگر بتوانیم که یک محصول را در فضای ابری فراهم نمود دیگر ما به یک نقطة پخش مرکزی نیازی نداریم. سیستم‌های SDN به همة کابل‌هایی که به سوییچ یا جعبة معلومی می‌روند نیاز ندارد؛ همة سوییچینگ را می‌توان از راه دور انجام داد و این صرفه‌جویی چشمگیری را امکان‌پذیر می‌نماید. به صورت طبیعی، هنگامی که دارایی‌ها، مجازی‌سازی یا مرکززدایی می‌شوند، امنیت به یک مورد بزرگ تبدیل می‌شود زیرا تعداد نقاط کنترل فیزیکی کمی وجود دارند (65). این یک فرصت بزرگ برای شرکت‌های نوآور است ولی یک چالش جدی برای دولت‌ها و سیاست‌مداران نیز می‌باشد. چگونه ما بر روی مقررات مشارکت و اخلاق دیجیتالی که در پشت راه‌حل‌های این چالش‌های تکنیکی وجود دارند، توافق خواهیم کرد؟

در آیندة نزدیک، مجازی‌سازی به همة بخش‌هایی همچون بانکداری، خدمات مالیه، مراقبت‌های سلامت و داروسازی (به ویژه در توسعة دارو)، گسترش خواهد یافت. اقدامات درمانی دیجیتالی، مکمل شدن و حتی جایگزین شدن داروهای سنتی را هدف قرار خواهند داد و این کار را با عملی کردن تغییرات رفتاری جهت کاهش و حتی حل مسئله، انجام می‌دهند. مورد قوی دیگر، بیولوژی ابری¹³¹ است جایی که نرم‌افزار، نتایج آزمایشگاهی را بلع می‌کند و آن‌ها را با دیگر داده‌ها ادغام می‌سازد تا کشف داروهای جدید سرعت بیابد.

اکنون، اثر نمایی ترکیب کردن دیگر جابه‌جایی‌های کلان با مجازی‌سازی را تصور کنید. ربات‌های ابری مجازی شده تقریباً می‌توانند هر فرایندی را پرشتاب‌تر و قابل اعتمادتر نمایند؛ درست مانند این که دیجیتالی‌سازی تغییر رفتار ممکن است به عنوان یک جایگزین برای داروها تبدیل شود (66).

نیاز به گفتن نیست که مجازی‌سازی یک نیروی پیش‌ران در تضاد میان فناوری و انسانیت خواهد بود؛ که شامل از دست دادن مشاغل، احتمال این که «نرم‌افزار به زودی بیولوژی را خواهد خورد» و همچنین وسوسة فزایندة مجازی‌سازی انسان از طریق بارگذاری مغز یا سایبورگیسم¹³² نیز می‌شود (رویای بسیاری از فرا انسان گرایان) (67).

جابه‌جایی کلان 9: پیش‌نگری

هم اکنون رایانه‌ها در پیش‌نگری نیازهای ما بسیار خوب هستند پیش از این که ما خودمان دریابیم آن‌ها چه چیزی ممکن است باشند. Google New و Google Home، دستیاران دیجیتالی هوشمند¹³³ (IDAs) گوگل هستند و یک بخش بزرگ از شرط‌بندی عظیم این شرکت بر روی هوش مصنوعی می‌باشند. آن‌ها هر تغییری در برنامة روزانة شما را پیش‌نگری می‌کنند (چه این تأخیرهای خطوط هوایی و ترافیکی باشد یا نشست‌ها و قرار ملاقات‌هایی که از حد مجاز فراتر می‌روند) و از اطلاعات برای اطلاع‌رسانی دربارة تأخیر شما به نشست بعدی یا حتی رزرو مجدد یک پرواز برای شما استفاده می‌کنند (68).

پیشگیری از جرم و جنایت بر پایة الگوریتم سریعاً در حال تبدیل شدن به یک موضوع بسیار رایج در میان دست اندرکاران اجرای قانون است. این برنامه‌ها ضرورتاً از داده‌های بزرگ مانند آمار جرم و جنایت، رسانة اجتماعی، مکان‌های تلفن همراه و داده‌های ترافیکی برای پیش بینی این که کجا یک جنایت ممکن است رخ دهد، استفاده می‌کنند؛ به گونه‌ای که پلیسی که در آن منطقه گشت می‌زند را می‌توان به آنجا کشاند. در بعضی از موارد، این به صورت ترسناکی «از پیش تصمیم گیرنده»، مربوط به فیلم Minority Report را به یادمان می‌آورد (69)، افرادی که برای ملاقات با یک مددکار اجتماعی یا یک افسر پلیس برگزیده می‌شدند زیرا سیستم احتمال این که آن‌ها مرتکب یک جنایت شوند را بسیار بالا بیان کرده بود.

تصور کنید این تا کجا کشیده می‌شود اگر اینترنت اشیاء (IoT) در سطح جهانی گسترده شود که حاوی شبکه‌های حسگر اتصال یافته به صدها میلیارد اشیایی مانند چراغ‌های ترافیکی، خودروها و پایش کنندگان محیطی باشد. توان پیش‌بینی کنندگی و پیش‌نگری‌ای تصور کنید زمانی را که ما ابزارهای هوش مصنوعی داریم و آن‌ها همة این داده‌ها را حس می‌کنند. در فرایند کشف داروها، یک ابزار هوش مصنوعی که بر روی یک رایانة کوانتومی عمل می‌کند، می‌تواند تریلیون‌ها ترکیبات ملکولی را نقشه‌یابی کند و بی‌درنگ آن‌هایی که ممکن است برای یک درمان مورد نظر کار کنند یا حتی از آغاز یک بیماری پیشگیری کنند را مورد شناسایی قرار می‌دهد.

تصور کنید که چه می‌تواند رخ دهد هنگامی که سکه‌ها و اسکناس‌ها، دیجیتالی شده باشند و هر خرید جزئی‌ای بی‌درنگ قابل ردیابی باشد (به صورت گسترده‌ای کارآمدتر و هنوز نیز به صورت گسترده‌ای نافذتر). تحولات دیجیتالی پرمنفعت یا جهان جدید شجاع¹³⁴؟

برخلاف نویدهای عطش‌افزایی که فناوری‌های پیش‌نگرانه ارائه می‌دهند، من تعدادی از موارد اخلاقی آزار دهنده در حال پدید بسیار پرشتابی می‌بینیم که موارد کلیدی آن‌ها چنین هستند:

وابستگی: رها نمودن تفکرمان به نرم‌افزار و الگوریتم‌ها؛ زیرا بسیار راحت و سریع هستند.

گیجی: ندانستن این که آیا این فرد معینی بود که به ایمیل‌های من پاسخ می‌داد یا دستیار هوش مصنوعی‌ او بوده است. یا حتی ندانستن این که آیا من تصمیم خودم را گرفتم یا این که من توسط IDA خودم دستکاری شدم.

از دست دادن کنترل: نداشتن راهی برای دانستن این که پیش‌نگری هوش مصنوعی درست بوده یا خیر زیرا احتمالاً ما نمی‌توانیم منطق سیستم را ردیابی کنیم یا حتی کارکردهای یک سیستم یادگیری ماشین تغذیه شده با رایانش کوانتومی را درک کنیم. به زبان دیگر، ما یا باید به شکل کامل به آن اعتماد کنیم یا اصلاً خیر، مشابه مسئلة غامضی که هم اکنون بعضی از خلبان‌های هواپیما با سیستم‌های خلبان خودکار خودشان، با آن روبه‌رو هستند.

کناره‌گیری: دچار وسوسه شدن برای واگذاری وظایف بیشتر به سیستم‌هایی که آن‌ها کارها را برای ما انجام می‌دهند، چه هماهنگ کردن برنامه‌های شخصی باشد یا انجام قرار ملاقات‌ها یا پاسخ دادن به ایمیل‌های ساده. آن گاه، مسلماً به احتمال خیلی زیاد نتیجه این خواهد بود که ما به راحتی چنانچه چیز اشتباهی رخ دهد، ابر (Cloud)، ربات یا هوش‎مصنوعی را سرزنش خواهیم کرد.

جابه‌جایی کلان 10: رباتی شدن¹³⁵

ربات‌ها تجسم همة این جابه‌جایی‌های کلان هستند؛ جایی که هر چیزی به شکل خلاقیت‌های نوین تماشایی‌ای، همگرایی می‌یابد و این خلاقیت‌ها به صورت مطلق در هر جایی خواهند بود؛ چه دوست داشته باشیم یا خیر. همچنان که علم خیزش‌های بزرگی برای درک زبان طبیعی، شناخت تصویر، قدرت باطری و مواد جدید انجام می‌دهد که مهارت‌های حرکتی بهتری را امکان‌پذیر می‌کنند، ما می‌توانیم انتظار داشته باشیم که قیمت ربات‌ها به صورت چشمگیری افت پیدا کنند و این در حالی است که سودمندی‌شان (همچنین دوست داشتن آن‌ها) اوج خواهند گرفت. پاره‌ای از ربات‌ها حتی ممکن است به صورت سه بعدی چاپ شوند؛ همان گونه که اولین خودروها هم اکنون تقریباً به صورت کامل با چاپگرهای سه بعدی ساخته می‌شوند (70).

کلام آخر این است، همچنان که ما به سوی تغییر نمایی رهسپاریم باید برای پرداختن به اخلاقیات، فرهنگ و ارزش‌ها، همکاری کنیم. در غیر این صورت، قطعی است که فناوری به تدریج و سپس ناگهانی، هدف زندگی‌مان می‌شود تا این که ابزاری برای کشف هدف باشد.

فصل چهارم
جامعة خودکار شونده

بهره‌وری بالاتر، حاشیه‌های بهتر ولی شغل‌های کمتر، تکنومیلیاردرهای بیشتر ولی چروکیده شدن طبقة متوسط؟

از همة جابه‌جایی‌های غول‌آسا، خودکارسازی، شایستة توجه ویژه است. خودکارسازی یک پیش‌ران نیرومند تغییر در سراسر تاریخ بوده است؛ برای مثال، هنگامی که صنعت نساجی دستی جای خود را به ماشین‌های بافندگی جدید داد، به خیزش‌های 16-1811 انگلستان توسط لادیتس‌های¹³⁶ معروف منتهی گردید که از افت معیشت‌شان به خاطر فناوری، در هراس بودند (71).

از دید تاریخی، سودمندی‌های خودکارسازی اغلب به بسیاری از فرصت‌های نوین برای آن‌هایی که در نخست تباه گردیده یا جایگزین شدند، منجر شدند. بازارها کارآمدتر شدند، هزینه‌ها افت یافتند، صنایع و اقتصادها رشد کرده، بخش‌های نوینی زاده شدند و با گذشت زمان، واقعاً جامعة صنعتی شده، متحمل بی‌کاری فناورانة طولانی پایداری نگردید (72). با هر موج صنعتی شدن، فناوری جدید، بخش‌های نوینی را توانا نمود و در نهایت شغل‌های جدید کافی‌ای برای جایگزینی شغل‌های کهنه‌ای که فناوری آن‌ها را زاید دانست، خلق کرد. دستمزدها نیز با بهره‌وری فزونی یافتند (حداقل تا این که اینترنت آمد!).

حرکت پرشتاب به سوی اقتصاد اطلاعاتی (که هم اکنون واقعاً باستانی است)، پرهیاهو بود و اولین موج اینترنت را توصیف نمود، رابطة میان دستاوردهای فناورانه و خلق مشاغل، شکل دیگری را به خود گرفت. نابرابری در اقتصادهای کلان (رهبری شده توسط آمریکا) فزونی گرفت؛ زیرا آن‌هایی که صاحبان ابزارها و پلتفورم‌های دیجیتالی شدن بودند، کار را با تعداد قابل توجه‌ای کمتر کارگر که پیش از این بود، انجام دادند (73و74).

گذار از اقتصاد اطلاعاتی به اقتصاد دانش بنیان بسیار کوتاه‌تر بود و احتمالاً ساختارشکن‌تر. هم اکنون، همچنان که ما گام بعدی را بر می‌داریم و بی‌پروا به سوی اقتصاد هوش ماشینی شتاب می‌کنیم، انتظار می‌رود که استخدام‌ها کاهش یابد و ناهمخوانی میان بهره‌وری و میانگین دستمزدها، احتمالاً رشد بیابد. با شکوفایی جابه‌جایی‌های کلان، کسب‌وکار می‌تواند محصولات بهتری با سرعت فراوان و هزینة پایین‌تر تولید کند. من پیش‌بینی می‌کنم که ساختارشکنی‌های کاهندة شغل و رشد بی‌کاری ممکن است یک هنجار شود و نه یک انتظار.

پاره‌ای از روندهای نگران کننده وابسته به کار از اوایل دهة 1980 قابل توجه بوده‌اند، زمانی که ما اولین موج‌های خودکارسازی و ماشین‌ها را دیدیم که می‌توانستند کار برای ما انجام دهند. تجهیزات کشاورزی، ربات‌های جوشکار و مراکز تماس خودکار شده آغازگر آن بودند. اما میزان چالش، هم اکنون آشکارتر می‌شود. ادارة آمار کار آمریکا گزارش می‌کند که از سال 2011، بهره‌وری کلی آمریکا، به صورت چشمگیری، افزایش یافته است ولی برای استخدام و دستمزدها چنین نبوده است (75). در نتیجه، سودهای شرکتی از سال 2000 خیزش یافته‌اند (76). در همین زمان، نابرابری در سطح جهان انفجار یافته است: بر طبق The Huffington Post، 62 نفر از ثروتمندترین انسان‌ها در روی کرة زمین، بیش از 50 درصد از کل ثروت جمعیت جهان را گرد آورده‌اند (77).

پرسش کلیدی این است آیا پیشرفت فناورانة نمایی ادامه‌دار، این روند نگران‌ساز را بدتر می‌سازد یا آیا تا حدی به آن خواهد پرداخت. من فکر می‌کنم آمار آمریکا ممکن است یک روند بزرگ‌تر را بیان کند که احتمالاً به صورت چشمگیری با جابه‌جایی‌های کلان، تقویت می‌گردد: پیشرفت فناورانه دیگر یک کاتالیست درآمد و مشاغل نیست که در دوران صنعتی شدن و حتی در اوایل دوران اطلاعات/ اینترنت بود. بله، حاشیه‌ها و سودهای تام برای اکثر شرکت‌ها خیز می‌یابند و همزمان ماشین‌ها به صورت فزاینده‌ای جایگزین آدم‌ها می‌شوند. با این وجود، آن میلیون کارگران از کار برکنار شده، به نظر نمی‌آید که سودی از این خودکار شدن ببینند، زیرا رانندگان کامیون به راحتی به طراحان حدواسط همراه¹³⁷ تبدیل نخواهند شد!

اکنون تصور نمایید که بر پایة پیشرفت فناورانة نمایی، این ما را کجا خواهد برد. مطالعة سال 2013 دانشکدة مارتین آکسفورد¹³⁸ نشان می‌دهد که تا 50 درصد شغل‌ها می‌توانند در طی دو دهة آینده خودکار شوند (78). آن گاه سودهای شرکتی می‌توانند اوج بگیرند زیرا بنگاه‌ها می‌توانند تعداد افرادی که در کل استخدام می‌کنند را کاهش دهند و این می‌تواند در همة بخش‌های صنعت تکرار شود. به زبان دیگر، با برقراری خودکار شدن و دیگر جابه‌جایی‌های کلان نُه گانه در چشم‌انداز، احتمالاً کسب‌وکار بزرگ می‌تواند با کمترین افراد، مقدار قابل توجهی پول‌ فراوان را به دست آورد.

ما مسلماً شغل‌های جدیدی خواهیم دید که خلق می‌گردند که در پیش از این موجود نبودند؛ مانند طراحان حدواسط انسان - ماشین، بیولوژیست‌های ابری، ناظران هوش مصنوعی، آنالیست‌های ژنوم انسانی و مدیران محرمانگی شخصی. با این وجود، میلیون‌ها کارهای عادی و روزمره و مشاغل رایج برای همیشه رخت بر خواهند بست (به ویژه آن‌هایی که عمدتاً تکرار شونده هستند و به مهارت‌های منحصراً انسانی مانند بحث و مذاکره، خلاقیت یا همدردی نیازی ندارند). پرسش دیگر «اگر» نیست بلکه «چه موقع» است.

این به یک چالش مطلق فناوری در برابر انسانیت تبدیل خواهد شد. ما نیاز به درک این داریم که چگونه این چالش سریع نمایی، احتمالاً رخ می‌دهد و چه معنایی برای آموزش، یادگیری، تربیت، راهبردهای دولتی، نظام‌های سود اجتماعی و سیاست‌های عمومی در سراسر جهان دارد.

همچنان که هوش‎های مصنوعی به تدریج و سپس ناگهانی، تبدیل به دانشمندان، برنامه‌نویسان، دکترها و روزنامه‌نگاران می‌شوند، فرصت‌های معنادار کار می‌توانند به گونه‌ای نایاب گردند که تعداد کمی از ما خواهند توانست شغلی که ما هم اکنون می‌دانیم را قاپ بزنند. در همین زمان، اکثر موارد در گام‌های پایین سلسله مراتب نیازهای مازلو¹³⁹ (مانند غذا، آب و پناهگاه)، به صورت فزاینده‌ای، ارزان‌تر خواهند شد. ماشین‌ها اکثر کارهای سخت را انجام خواهند داد و خدماتی همچون حمل‌ونقل، بانکداری، غذا و رسانه را به صورت گسترده‌ای ارزان‌تر، فراهم می‌آورند. ما ممکن است به سوی مرزهای نامعلوم «فراوانی اقتصادی» در یک سو رهسپار باشیم ولی این از سوی دیگر یک پایان کار برای زندگی کردن است. ما در نهایت نیاز داریم پول را از شغل جدا کنیم و این جابه‌جایی، بعضی از مفروضات بسیار اساسی پیرامون این که چگونه ما ارزش‌ها و هویت‌مان را تعریف می‌کنیم، به چالش خواهد کشید.

آیا این یک چیز خوب یا بد خواهد بود؟ چگونه افرادی که نمی‌توانند کاری پیدا کنند، برای کالاها و خدمات تولید شده توسط ماشین‌ها پول پرداخت کنند حتی اگر که این کالاها و خدمات، خیلی از آن چه امروزه هستند، ارزان‌تر باشند؟ آیا این پایان مصرف‌گرایی نیست که پشتیبان منطق سرمایه‌داری است؟ آیا ما داریم آغاز پایان کار پرداختی (به گونه‌ای که ما آن را می‌شناسیم) می‌بینیم؟

سیاستمداران، مقامات رسمی عمومی و دولت‌ها، به صورت عمومی، می‌بایست از چالش خودکارسازی بسیار آگاه‌تر شوند و همچنان که به سوی آن شتابان هستیم باید به ناظران بسیار بهتری تبدیل گردند. رهبری، همچنان اساسی‌ترین نیازمندی خواهد بود و هر مقام رسمی عمومی که نیاز به تبدیل شدن به یک «ناظر آینده» را درک نکند، بازنده خواهد بود.

در آیندة نزدیک، دلیل اصلی‌ای که ما به یک کاندید سیاسی رأی ‌خواهیم داد این خواهد بود؛ آن‌ها چقدر به خوبی «آن چه هست» را مدیریت می‌کنند و همزمان نشان می‌دهند یک درک قوی‌ای از «آن چه ممکن است باشد» را دارا هستند.

خودکارسازی - پنج A

من اغلب فکر می کنم که خودکارسازی در این پنج مرحله پیشرفت می‌کند که به تدریج بدتر هم می‌شود:

1) خودکارسازی (Automation)

2) رضایت ظاهری (Assentation)

3) کناره‌گیری کردن (Abdication)

4) وخیم‌سازی (Aggravation)

5) بی‌زاری (Abomination)

خودکارسازی یک مقصد نهایی غیرقابل اغماض

من فکر می‌کنم که خودکارسازی نمایی، یک قطعیت است زیرا این در نهایت امکان‌پذیر می‌شود و به صورت چشمگیری هزینه‌ها را می‌کاهد؛ یک نقطة تمرکز اولیه در تقریباً همة کسب و کارها و سازمان‌ها. ما یک نوع جدید از کارآمدی فزاینده با هزینة پایین را در اکثر صنایع موجود در پنج تا ده سال آینده خواهیم دید؛ پیرامون آن چه که می‌تواند بر سر شغل‌ها و استخدام‌ها انجام دهد، فکر کنید. اما کارآمدی واقعاً بر انسانیت چیرگی می‌یابد؟ آیا ما باید چیزها را خودکار کنیم فقط به این خاطر که می‌توانیم؟ آیا کسب‌وکارهایی که در جایگزینی انسان‌ها با فناوری به شکل دیوانه‌واری سرمایه‌گذاری می‌کنند بایستی نوعی از مالیات خودکارسازی بپردازند تا به آن‌هایی که دیگر شغلی ندارند، بهره‌ای رسانده شود؟ این‌ها پرسش‌هایی هستند که ما به زودی به پاسخ‌های آن‌ها نیاز خواهیم داشت.

بگذارید این واقعیت را در نظر بگیریم که نیروهای ترکیبی جابه‌جایی‌های کلان (به ویژه دیجیتالی شدن، مجازی‌سازی، هوشمندسازی شامل یادگیری ژرف و هوش مصنوعی و همراه‌سازی)، امکانات جدیدی را برای خودکارسازی در هر روز، خلق می‌کنند. در اوایل 2016، هنگامی که سامانة GoAlpha گوگل، کدهای بازی را شکست، برنامه‌ریزی نشده بود که Go را بازی کند و در واقع، بازی با آن را خودش، از چرک‌نویس (Scratch)، یاد گرفت (79).

این یک هوش مصنوعی کوته فکر نیست یعنی رایانه‌هایی که از پیش برنامه‌ریزی شده‌اند که می‌توانند در گستره‌های کم و بیش ریاضیاتی یا منطقی مانند شطرنج از انسان پیشی گیرند؛ این هوش مصنوعی است که از یک رهیافت بیشتر بر پایة شبکة عصبی «شبه انسانی» برای شبیه‌سازی این که مغز چگونه یاد می‌گیرد و آن گاه می‌تواند سازگار گردیده و خودش را برنامه‌ریزی کند، استفاده می‌کند.

تصور کنید که این نوع هوش مصنوعی به هر کار و چالش انسانی بزرگ مقیاس و بسیار پیچیده بنگرد و سپس شیوه‌ای را برای حل و خودکارسازی آن‌ها برای ما تدبیر کند؛ به صورت بی‌نهایتی بهتر از ما تقریباً در هر وظیفه و کار وابسته به دانش عمل می‌کند.

استوارت آرمسترانگ¹⁴⁰ در «هوشمندتر از ما: خیزش هوش ماشینی» می‌نویسد:

”چنانچه یک هوش مصنوعی هر کدام از این مهارت‌ها را (توانمندی‌های اجتماعی، توسعة فناورانه، توانمندی اقتصادی) را در سطح یک ابرانسان دارا باشد، این کاملاً محتمل است که به سرعت به چیرگی بر جهان ما به شیوه‌ای یا طریقی دیگر، نائل آید. و همان گونه که ما دیده‌ایم این توانمندی‌ها را در سطح انسانی توسعه می‌دهد پس این احتمال وجود خواهد داشت که به زودی آن‌ها را در سطح یک ابرانسان نیز توسعه دهد. بنابراین، ما می‌توانیم فرض کنیم که اگر حتی یکی از این مهارت‌ها به یک رایانه برنامه‌ریزی شود، سپس هوش‌های مصنوعی
یا انسان‌های توان یافته با هوش مصنوعی می‌توانند
بر جهان ما چیره شوند (80).

به مثال سودمندی‌های امنیت اجتماعی، مدیریت بر ادعاهای پزشکی، مستمری‌ها و عدم اشتغال برای صدها میلیون نفر از مردم بنگرید. با گسترش دادن به موضوع هوش مصنوعی، این ممکن است به زودی امکان‌پذیر گردد تا یک ابر‌رایانه هوشمند داشته باشیم که آن چه مقررات امنیت اجتماعی می‌بایست باشند و این که چگونه آن‌ها را می‌توان پیاده‌سازی نمود را تعیین کند؛ این فرایند منجر به صرفه‌جویی‌های سترگ برای دولت‌ها خواهد شد ولی ممکن است شهروندان را دچار انسان‌زدایی کند.

در آمریکا، یک هوش مصنوعی پیشرفته می‌تواند با ترسیم همة داده‌های امنیت اجتماعی در دسترس از 80 سال پیش که نظام امنیت اجتماعی در سال 1935 بنیان گذاشته شد، این مقررات را استنتاج کند (81). این هوش مصنوعی همچنین از همة داده‌های در دسترس دیگر مانند پرونده‌های سلامت، پروفایل‌های شبکة اجتماعی، زمینه‌های حقوقی و مقرراتی، در راستای پایگاه داده‌های شهر و دولت، یاد می‌گیرد. یک هوش مصنوعی مادام در حال تکامل امنیت اجتماعی (آن را بوت امنیت اجتماعی SocSecBot بنامید)، ممکن است ماحصل آن باشد، هوشی که می‌تواند این تراکنش‌های بسیار پیچیده را فقط با حمایت احتمالاً 10 تا 20 درصدی از کارکنان کنونی، انجام دهد. با همدردی انسانی و شفقت، خداحافظی کنید: ماشین‌ها منافع مستمری شما را تعیین خواهند کرد و بحث و جدل بسیار کمی، با آن‌ها وجود خواهد داشت.

من اغلب در شگفت هستم که چه چیزی هنگامی که این مفاهیم واقعیت بیابند به تدریج و آن گاه ناگهانی، رخ خواهد داد. در اینجا زنجیرة محتملی از رویدادهایی که هم اکنون در وضعیت فزایندة رسانة اجتماعی نقش بازی می‌کنند، وجود دارد. پس از این که در هر بار با خودکارسازی روبه‌رو می‌شویم، ما اغلب رضایت ظاهری را بیان می‌کنیم و اصولاً تصمیمات «سامانه» و برتری بودن آن را می‌پذیریم؛ با بی‌میلی ولی با چهره‌ای لبخند بر لب. ما واقعاً دربارة آن هیجان‌زده نیستیم ولی یک جنجال بزرگ نیز به پا نخواهیم کرد.

آن گاه، ما ممکن است آغاز به کناره‌گیری کنیم که به معنای آن است که ما «تخت و عرش را رها می‌سازیم» و قدرت را به «سامانه» می‌دهیم. تقریباً به زودی، ما دیگر مهم‌ترین موجودیت در این سامانه نیستیم؛ خود ماشین مرکز جدید گرانش می‌شود؛ ما به خود «محتوا» تا «دلیل» تبدیل می‌شویم. ابزار هدف شده است و ما آغاز به انجام چیزهایی می‌کنیم که فقط سامانه را خوشحال نگه دارد. در آغاز و نخست، سامانه همچون گره‌های¹⁴¹ دیگر در شبکه خواهد بود یعنی همانند انسان‌هایی که به همین زیست بوم الکترونیک جهانی نیز اتصال دارند.

اکنون فیسبوک بهترین مثال کناره‌گیری است: به جای انجام یک اقدام سیاسی واقعی که احتمالاً کاملاً مایة زحمت و اغلب ناراحتی خواهد شد، ما به آسانی چیزی را در فیسبوک «لایک» می‌کنیم، یک ویدئو را با دوستانمان به اشتراک می‌گذاریم و یک دادخواستی را امضاء می‌کنیم و یا در بهترین حالت، چند دلار یا یورو را به یک کمپین Causes.com یا Kickstarter، اهدا می‌نماییم.

رضایت ظاهری

اکنون ما بسیاری از نمونه‌های خودکارسازی چیزهایی که نمی‌بایست خودکار شوند را می‌بینیم مانند استفاده کردن از یک موتور نرم‌افزاری که پیام‌های «بهتری» را منطبق با ما، استادانه درست می‌کند تا «لایک‌های» بیشتری در شبکه‌های اجتماعی به دست آوریم. ما اغلب پس از واقعیت و پس از موافقت خودسرانه و انجام کار توسط دست نشانده (نائب)، رضایت ظاهری را تجربه می‌کنیم، چون که این ساده و راحت است. این کار را انجام شده در نظر می‌گیرد؛ مثال آن افزودن یک دوست فیسبوکی فقط به این دلیل که او دوستِ یک دوست از دوست دیگر است و اخیراً پست شما را «لایک» کرده است. چرا نه، چه ضرری وجود دارد؟ من در این مورد موافقت می‌کنم، دشوار است که برهان آورد که یک ضرر واقعی وجود دارد.

کناره‌گیری

بعداً ممکن است خود را دریابیم که عمدتاً ناآگاهانه، از بار مسئولیت‌هایی که مربوط به خودمان بوده است کناره‌گیری کرده و آن را بر دوش فناوری گذاشته‌ایم یا به آن برون‌سپاری کرده‌ایم. به جای ملاقات به صورت زود زود مادربزرگ‌تان احتمال دارد شما فقط اسکایپ را در خانة خود برقرار کرده و اغلب اوقات بیشتر او را به این شیوه به واسطة یک صفحه ملاقات کنید. آیا این یک پیامد بد یا خوب است؟

یا در آیندة خیلی نزدیک، به جای اطمینان از این که مادربزرگ دکتر را ملاقات می‌کند، شما به او یک وسیلة تشخیص از راه دور خواهید فرستاد که علائم حیاتی‌اش را در هر جا و هر زمان که می‌تواند اندازه‌گیری کند؛ به گونه‌ای که مجبور نباشید او را در همة اوقات به دکتر ببرید.

کناره‌گیری (عیناً «چشم‌پوشی از تخت و عرش») از قدرت خودمان و دادن کنترل به فناوری، به شکل یک الگوی دائم در اطراف ما شده است. من به صورت مکرر از TripleAdvisor استفاده می‌کنم که به من مقتدرانه می‌گوید که یک رستوران خاص بهترین است و این در حالی است با وجودی که ما درست در برابر 25 مکان چشم‌نواز دیگر ایستاده‌ایم، به سادگی به جایی می‌رویم که ماشین به ما می‌گوید. به شیوه‌ای، ما اقتدار و قضاوت‌مان را به یک الگوریتم انتقال می‌دهیم. دوباره، در مورد TripleAdvisor، ایرادی نیست، ولی تصور کنید که این تمایل به صورت نمایی، به خوبی رشد نماید! این ممکن است به این احساس منجر شود که دیگر چیزها واقعاً توسط ما تصمیم‌گیری نمی‌شوند و یا حتی انجام نمی‌گردند؛ آن‌ها فقط بر ما حادث می‌شوند. آیا این زندگی را ساده‌تر نمی‌کند، این طور نیست؟ در راستای مسیر رفتن، تلاش کمی را می‌طلبد تا تنها رفتن.

من این بحث خاص دربارة TripleAdvisor را با بسیاری از دوستان و شنوندگان در طی دو سال گذشته داشته‌ام و به این نتیجه‌گیری نائل آمده‌ام که اگر من از آن به مثابه «نقطة داده‌ای» دیگر در میان بسیاری دیگر استفاده کنم و از وسوسه‌ها و گیرایی‌های رضایت ظاهری و کناره‌گیری آن آگاه باشم آن گاه TripleAdvisor کاملاً می‌تواند سودمند باشد. دوباره، همه‌اش بحث توازن است. اما من چه می‌بایست انجام دهم اگر TripleAdvisor یک هوش مصنوعی شود، یک بوت هوشمند در آسمان¹⁴² و من نتوانم دیگر واقعاً عملکرد، درستکاری و صداقت آن را به آسانی مورد قضاوت قرار دهم؟ چه خواهد شد اگر آن به گونه‌ای هوشمند شود که من گزینه‌ای نداشته باشم و باید کاملاً به آن اعتماد کنم و یا اصلاً هیچ اعتمادی نداشته باشم؟

نقشه‌های گوگل یک مثال دیگر از این است که چقدر راحت است که انسان‌ها را از عرش و تخت‌هایشان برکنار سازیم. با استفاده از نقشه‌های گوگل، چه زمان‌هایی نبوده که شما در یک تقاطع در یک شهر غریب ایستاده و به چیزی بر روی صفحه (اسکرین) نگریسته باشید که عیناً در جلو شما بوده است؟ اما خیر، ما به چشمان و گوش‌هایمان دیگر باور نداریم (یا افراد دیگر برای این موضوع). ما به آن چه که «مغزِ در آسمان» می‌گوید باور داریم. آیا باران می‌آید، آیا من باید یک چتر بردارم؟
The Google OS به من خواهد گفت، به جای ظن من درمورد هوا یا یک نگاه سریع به بیرون پنجره.

این ممکن است یک چیز کاملاً جزئی در این خصوص باشد، بله، اما تقویت شده‌های در حال آمدنِ حاصل از فناوری‌های نمایی را در نظر بگیرید. آیا ما روزی یک مغزِ پزشکی جامع خواهیم داشت که تصمیم‌گیری می‌کند آیا ما باید بر اساس DNA مان و میلیاردها عوامل دیگر، بچه داشته باشیم؟ آیا شرکت‌های بیمه از پوشش امتناع خواهند ورزید اگر ما به طریقی دادخواهی کنیم؟ آیا ما هنوز به گرفتن تصمیماتی که بر پایة منطق و الگوریتم‌ها نیستند، مختار هستیم؟ آیا ما هنوز می‌توانیم چیزهای احمقانه‌ای مانند رانندگی پرشتاب، نوشیدن فراوان یا خوردن غذاهای ناجور را انجام دهیم؟ آیا آزادی ارادة مردن وجود دارد؟

اکنون کناره‌گیری را تصور کنید، فراموش کردن خودمان به صورت نمایی؟

چه رخ خواهد داد اگر فناوری به تشویق ما ادامه دهد تا حتی بیشتر کنترل را رها سازیم زیرا عمل کردن بدین گونه خیلی راحت، کارآمد و جادویی است؟ اگر تازه از 95 درصد سریع‌تر شدن نیز چیزی نگوییم! چه رخ خواهد داد اگر ما فقط قلة کوه یخ را در کناره‌گیری خود دیده باشیم یا اگر که در سطح پنج از مقیاس 10-0 باشیم؟ آیا ما در نهایت همان گونه که استفن تالبوت¹⁴³ نویسنده در The New Atlantis «هوشیاری را کنار بگذار»، پیشنهاد می‌کند، به ماشین‌ها اجازه می‌دهیم تا به عنوان منجی نهایی ارزش‌ها و اخلاقیات، عمل نمایند؟ (82). چنانچه همان گونه که تالبوت برهان می‌آورد ”فناوری‌ها به صورت نیرومندی ما را به فراموش نمودن خودمان دعوت می‌نمایند“ وقتی که ما فناوری‌های نیرومندتر را به صورت نمایی به کار ببریم، چه رخ خواهد داد؟

آیا این گیرایی به سوی «فراموش کردن خودمان» یک شیوة جا افتادة راه رفتن در خواب از طریق زندگی دیجیتالی می‌شود و راه را برای یک نوع از فئودالیسم دیجیتالی جهانی باز می‌کند؛ جایی که فزونی‌های فناوری به شیوه‌هایی که در فراتر از درک مان قرار دارند بر ما حکم می‌رانند؟

یک چیز مسلم است: فناوری و بسیاری از بزرگ‌ترین ارائه دهندگان آن، هر آن چه که بتوانند را انجام می‌دهند تا ما را در دل مسیرهای رضایت ظاهری و کناره‌گیری (چه به صورت ناآگاهانه یا با طرح و نقشه) جا کنند. ما تلاش نمی‌کنیم که در مصرف مواد غذایی خود تغییری ایجاد کنیم؛ بر عکس، ما دارو مصرف می‌کنیم تا به ما کمک کند به فشارخون بالای خود بپردازیم. ما از ملاقات و دل‌زدگی به عنوان یک فرصت جهت فرورفتن در بحر اندیشه استفاده نمی‌کنیم، بر عکس ما تهی شدن را با تبلت‌های جدید زرق و برق دار خودمان پر می‌کنیم و در گرداب دیجیتال به ماجراجویی کردن می‌پردازیم. ما در جستجوی فرصت‌ها برای یافت دوستان جدید برای بچه‌هایمان نیستیم، بر عکس ما به آن‌ها اجازه می‌دهیم با استفاده از ربات‌های دست‌آموز و Hello Barbie دوستان مجازی بیابند؛ یعنی اولین عروسکی که به یک «مغز - فضای ابر» اتصال می‌یابد و با بچه‌های شما مانند یک فرد واقعی صحبت می‌کند (83). این بسیار راحت‌تر است.

در همین زمینه، آیا دستیاران هوشمند دیجیتالی (IDA) مانند Amazon Echo یا Google Home به زودی می‌توانند اثبات کنند که به شکل موتورهای کناره‌گیری تبدیل می‌شوند؟

در مورد امنیت اجتماعی که در بالا بحث شد، این «کناره‌گیری - اجباری» ممکن است منجر به کناره‌گیری مقامات رسمی دولتی از مسئولیت‌های خود به «سامانه» شوند. برای مثال، بگذارید فرض کنیم که این بوت امنیت اجتماعی (SocSecBot) به آرامی وظایف انسانی را بر عهده بگیرد زیرا 90 درصد ارزان تر و 1000 درصد سریع‌تر است. چنانچه این فقط 90 درصد درست باشد، این شانس وجود خواهد داشت که دولت‌ها بگویند ”این هنوز بسیار بهتر است.“

وخیم‌سازی

ممکن است گام بعدی در این مارپیچ رو به پایین، وخیم‌سازی برای چند باقیماندة از عوامل خدمت‌رسانی انسانی و کاربران سامانه، مشتریان و ارباب رجوع‌ها باشد. درماندگی و سرخوردگی خواهد خروشید ولی ما مقدار ناچیزی می‌توانیم دربارة آن کاری انجام دهیم زیرا سامانه به صورت بی‌کرانی، سریع‌تر، کارآمدتر، گسترش‌پذیر و قابل ارتقاء خواهد بود. به درماندگی و سرخوردگی می‌توان پرداخت ولی با در نظر گرفتن حضور فزایندة سامانه در هر بخش از زندگی‌مان، تقریباً شانس صفری وجود دارد که ما واقعاً بتوانیم استفاده کردن از آن را متوقف سازیم.

دوباره، فیسبوک بهترین نمونة موجود را ارائه می‌دهد. در حالی که این به صورت جدی در حال وخیم‌تر شدن است که بتوانیم یک جریان ثابت از روزآمدهای وضعیت نامربوط¹⁴⁴ دوستانی که به سختی به یاد می‌آوریم در فیسبوک داشته باشیم، ما هنوز نمی‌خواهیم خطر عدم اتصال از آن‌هایی که برای ما مهم هستند را بپذیریم. یک بار دیگر، راحتی مطلق و قدرت محض و رسیدن به پلتفورم، این را برای ما غیرممکن می‌سازد تا چیزی در مورد آن چه که برای ما کار نمی‌کند، انجام دهیم.

بی‌زاری

در نهایت، برخورد با مردم در یک محیط امنیت اجتماعی فقط بر اساس اعداد (به عنوان منابع داده‌های تجسم یافته)، قطعاً به یک بی‌زاری می‌انجامد؛ یک کژراهی از نیت اولیة ارائه خدمات انسانی (بخوانید: اجتماعی) به شهروندان. این پایانِ تا حدی افسرده کنندة آن پنج A ‌ای است که ممکن است اگر که هنگامی که ما اشیاء را خودکار می‌کنیم به دو مرحلة نخست آن (رضایت ظاهری و کناره‌گیری) نپردازیم، به آن نائل شویم.

یک نفر ممکن است این امید را داشته باشد که خودکارسازی به خوبی طراحی و پیاده‌سازی شده و به رضایت ظاهری کمتر و کناره‌گیری معدودتر و فقط وخیم‌سازی گاه به گاهی منجر شود. اما، این یک چیز هراس‌انگیز پیرامون خودکارسازی نمایی است؛ ما حتی توجه نخواهیم کرد که ما، قدرت و کنترل خودمان را پیش از این که به نقطة عطف خود برسد، از دست داده‌ایم و آن گاه ما ممکن است حتی توانمندی‌هایم را برای انجام امری در این باره از دست داده باشیم.

یافت یک توازن

هنوز موضوع این است یافت توازن درست: چه چیزی ما می‌توانیم خودکار کنیم که نتواند جایگزین فرایند گفتمان‌ها یا جریان ذاتی و پرهیز ناپذیر انسانی‌ای شود که ما نمی‌بایست جویای برکناری از آن‌ها باشیم؟ هنگامی که با یک مرکز فراخوان تماس می‌گیرید تا رزرو خط هوایی‌تان را تغییر دهد، آیا نیاز به یک عامل خدمت رسانی‌ای دارید تا درک انسانی یا همدردی خود را به نمایش بگذارد؟ در اکثر مواقع، خیر ولی در پاره‌ای از موارد این گونه است؛ برای مثال، چنانچه یک مورد اخذ مجوز موجود باشد. از این رو، مراکز فراخوان ممکن است تا 90 درصد در طی چند سال آینده خودکار شوند ولی در پاره‌ای از موارد ما هنوز نیاز به برهم‌کنش‌های واقعی انسانی داریم. در این مورد خاص، خودکارسازی به خوبی طراحی شده و با نظارت انسانی، احتمالاً یک تکامل مثبت است ولی میلیون‌ها شغل از دست خواهند رفت، این اهمیتی ندارد که چگونه شما به آن بنگرید.

این بحث را چند گام فراتر ببرید و تا حدی به آینده... برای مثال، هنگامی که در یک هواپیما سفر می‌کنید، به اتاقک خلبان بدون خلبان که کاملاً خودکار شده باشد، اعتماد خواهید کرد؟ آیا احساس امن‌تری با حضور هنوز یک خلبان نخواهید داشت؟ در هنگامی که برای یک مسئلة پزشکی مورد بررسی تشخیصی قرار می‌گیرید، شما به «انسانیت» و شفقت نیاز دارید یا آیا شما رضایت خواهید داشت که یک ماشین به شما فقط واقعیت‌ها را بگوید؟ در مورد مواردی همچون آنفولانزا و مشکل معده، به نظر می‌رسد که تشخیص از راه دورِ توانمند شده با خودکارسازی می‌تواند مفید و از لحاظ اجتماعی قابل پذیرش باشد. اما هنگام تشخیص دادن چالش‌های پیچیده‌ای مانند علائم استرس، آسم یا دیابت، چنین خودکارسازی قطعاً به انسان‌زدایی از مراقبت‌های پزشکی، گرایش می‌یابد.

راحت نیست دربارة خودکارسازی بله یا خیر گفت. این به پاسخ‌های تدریجی و یک رهیافت تماماً احتیاطی نیاز خواهد داشت که به سوی توازن میل کند و نگرانی‌های انسانی را همیشه در جبهة نخست خود قرار دهد. پرسش کلیدی این نیست آیا چگونه فناوری می‌تواند چیزی را خودکار کند بلکه این خواهد بود که پیامد حاصل برای ما انسان‌ها چگونه احساس می‌شود و آیا خودکارسازی، شکوفایی انسانی را مورد حمایت قرار می‌دهد یا خیر. این در مورد این است که آیا ما در حال ریشه دواندن برای گروه انسانی¹⁴⁵ یا گروه فناوری¹⁴⁶ هستیم.

دعوت کردن از خودکارسازی به اندرون؟

در راستای این که همة چیزها در حال خودکار شدن در اطراف ما هستند، چند مورد است که احتمالاً در درون ما خودکار می‌شوند و بر این که ما چگونه فکر می‌کنیم و چه احساس می‌کنیم، اثر می‌گذارند. در نظر بگیرید چگونه الگوریتم‌ها و نرم‌افزار، IDAS و خدمات فضای ابرِ توان یافته با هوش مصنوعی یا ربات‌ها، به صورت فزاینده‌ای، امور روزانة ما را بر عهده می‌گیرند و چگونه بعضی از ما اکنون دوستی و رفاقت را از طریق شبکه‌های اجتماعی یا برنامه‌های کاربردی (apps) پیام‌رسان، خودکار کرده‌ایم.

برای مثال، چه بر سر هوش جمعی ما رخ خواهد داد؛ یعنی گفتمان‌های انسانی که از طریق آن‌ها ما هم اکنون آموزش می‌دهیم، بحث می‌کنیم، گفتمان می‌کنیم، تصمیم می‌گیریم و جوامع و دموکراسی‎هایمان را طراحی می‌کنیم؟ چگونه انتخاب‌های ما شکل خواهند یافت اگر آن چه دربارة یکدیگر می‌بینیم و می‌شنویم، به صورت خالص، توسط الگوریتم‌ها، نه انسان‌ها، تعیین می‌گردند؛ الگوریتم‌هایی که طراحی شده‌اند تا شما بایستید و تبلیغات تجاری را تا آنجا که ممکن است بنگرید؟ چه رخ خواهد داد اگر این ابزارها توسط عموم مردم تحت کنترل، نظارت یا تنظیم قرار نگیرند؟

آیا ما با ماشین‌ها و الگوریتم‌هایی تحت نفوذ قرار خواهیم گرفت که در مالکیت تعدادی پلتفورم‌های اینترنتِ جهانیِ غول‌آسا و شرکت‌های فناوری هستند؟ آیا آن‌ها به شکل «سامانه‌های رهایش دوپامین مجازی» خواهند شد که برای تأکید مثبت و جذابیت، برنامه‌ریزی و طراحی شده‌اند تا نتایج حداکثری را برای دارندگان آن‌ها، تبلیغ کنندگان و دیگر «کاوندگان داده¹⁴⁷» که می‌خواهند داده‌های فردی‌مان را آنالیز و آشکار نمایند، به ارمغان آورند؟

جهت اطلاع شما، موضوعات اخبار گوگل (Google News)، اساساً توسط افراد گلچین نمی‌شود، این موضوع برای خبررسانی فیسبوک و برنامة کاربردی اخبار Baidu نیز صادق می‌باشد (86). تقریباً در اکثر موارد، مقداری نظارت انسانی مشاهده می‌گردد ولی الگوریتم‌ها، اکثر کار واقعی را انجام می‌دهند. در این شرکت‌ها، تعداد اندکی از افراد واقعاً با محتوا با حس روزنامه‌نگاری سنتی خود سروکار می‌یابند؛ برعکس آن‌ها بر ابداع الگوریتم‌ها و نرم‌افزار (حتی هوشمندتر) تمرکز دارند تا هر کدام از نیازمندی‌های جدید را برآورده سازند. جای شگفتی نیست که آویزة گفتاری مارک آندرسن¹⁴⁸ ”نرم‌افزار جهان را می‌خورد“ هم اکنون به ”فیسبوک اینترنت را می‌خورد“، جهش یافته است (87)؛ و فیسبوک انجام این خوردن را با آدم‌ها قصد ندارد! جدا از برنامه‌نویسان، مهندسان و پژوهشگران هوش مصنوعی، فیسبوک می‌خواهد تا آنجا که ممکن است افراد کمتری را برای سروکار داشتن با مشتریان واقعاً انسانی، به کار بگمارد.

شاید به زودی وقتی فرا رسد که دیگر روزی نباشد که نرم افزار فقط ”جهان را بخورد“ بلکه به صورت فزاینده‌ای ”جهان را بفریبد“. من هم اکنون هنگامی که در خبررسان فیسبوک خودم می‌نگرم مقداری احساس فریفته شدن را دارم و باید بگویم، دستکاری شده‌ایم زیرا نمی‌توانم به آن مانند روزنامه‌های نیویورک تایمز، اکونومیست، اشپیگل یا گاردین اعتماد کنم؛ تنها نیتش این است که سود برای خود بیافریند. این یک رسانة جمعی نیست، این یک رسانة فریفتن است؛ ولو این که ما از آن آگاهیم، ما به نظر می‌آییم که به درون آن فرو رفته‌ایم.

یک راه ترافیکی کاملاً یک راهه نیست. شرکت مشیبل¹⁴⁹ (وبگاه خبری اینترنتی) گزارش می‌کند که اپل (Apple) تلاش قابل ملاحظه‌ای را دارد بر روی استفاده از انسان برای مرتب‌سازی برنامة کاربردی خبری‌اش، پیشنهاد موسیقی و خدمات فهرست نوارهای صوتی یا ویدئویی که از ایستگاه پخش می‌شوند می‌گذارد، ولی این یک استثناء است نه یک قاعده (88).

خودکارسازی در حال انفجار است زیرا به حد وفور روشن است انسان‌ها موجوداتی گران، آهسته و اغلب ناکارآمد هستند و این در حالی است که ماشین‌ها، ارزان، سریع و فراکارآمد بوده و به صورت نمایی نیز بیشتر این صفات را به دست می‌آورند. ما نمی‌توانیم برآورد کنیم که این روند تا کجا ما را تا ده سال بعد خواهد برد. در حالی که بهره‌وری انفجار خواهد یافت، این به نظر غیرقابل اغماض می‌آید که اشتغال و به کارگیری انسان، به شکلی که ما امروز می‌شناسیم، دچار افت چشمگیری شود. ما بر این قطعیت داریم که در آینده مشاغل وجود خواهند داشت ولی آن‌ها احتمالاً از این که برای ساخت یک زندگی استفاده شوند، فارغ خواهند شد؛ به زبان دیگر، مشاغل برای گذران امور زندگی نخواهند بود.

همچنین احتمال آن می‌رود که در چنین پلتفورم‌های رسانه‌ای و اخباری کاملاً خودکار شده، ما دیگر چیزهایی را که یک فرد شایسته و لایق برای ما دیدن آن‌ها را فکر کرده بود نمی‌بینیم؛ به زبان دیگر، برای دیدن ما، آن فرد لایق آن را برگزیده بود. در عوض، محتوی توسط یک بوت و یک هوش مصنوعی گزینش خواهد شد و ما را به آن جایی می‌برند تا آن چه که باید ببینیم را ببینیم؛ بر اساس صدها میلیون واقعیت و خرده داده‌هایی که بلادرنگ مورد تجزیه و تحلیل قرار گرفته‌اند. خطر آشکار این است که چنین اقداماتی به صورت فزاینده‌ای، از اندیشه‌های انسانی نسبت به ارزش‌ها، اخلاقیات، هیجانات، هنر یا در واقع تا حدی از اصول بی‌دوام داستان‌گویی انسانی، فارغ باشد.

مطمئناً، بوت‌ها و هوش مصنوعی نیز قادر خواهند بود هیجانات و احساسات ما را در آینده‌ای خیلی نزدیک درک کنند و آن‌ها در نهایت خواهند توانست چنین هیجانات و توانمندی‌های داستان‌گویی را به خوبی شبیه‌سازی کنند؛ ولی من بر این باورم آن‌ها به حالت انسان بودن، دست نخواهند یافت.

من نمی‌خواهم به دورة طلایی روزنامه‌های چاپی بازگشت کنم؛ آن‌ها غیرعملی بوده و هستند و اغلب نیز انحصاری، فاسد یا گمراه کننده. اما در بسیاری از موارد، نویسندگان و مؤلفین، آدم‌هایی بودند که شغل آن‌ها ایجاب می‌کرد بهتر از ما وقایع و رویدادها را دریابند، روزنامه‌نگارانی که می‌توانستند زمینة گسترده‌ای را ببینند و ربط آن را تعیین کنند. مأموریت آن‌ها فقط تمرکز بر آن چه بود که مخاطبین می‌بایست ببینند، به همان اندازه انتزاعی که آن‌ها ممکن بوده‌اند باشند.

شکست مفتضحانه در سلاح‌های کشتار جمعی عراق (ارائه شده توسط فاکس نیوز و بسیاری از دیگران)، به روشنی نشان داد که کانال‌ها و خبرنگاران انسانی نیز می‌توانند با برنامه‌ریزی خود، گمراه کننده برای عموم باشند. اما حداقل ما شانس درک آن چه که بود و آن کسی که در پشت داستان بود را داشتیم و یک فرصت که از آن‌ها پرسمان داشته باشیم. من بر این باورم که چنین امکانی با بوت‌های خبریِ¹⁵⁰ هوش مصنوعی، وجود ندارد. این چیزی است که من از آن بسیار قطعیت دارم: ما حتی یک نشان و سرنخ نیز نخواهیم داشت تا چه رسد که از آن‌ها پرسمان داشته باشیم.

پیامد دیگر «خبررسانی خودکار شده» این است که همان محتوی‌ای که مردم اطراف‌مان (خانوادة ما، دوستان، شریک زندگی‌مان و همکاران) می‌بینند ما دیگر نخواهیم دید یا شنید. تغذیة خبری آن‌ها 100 درصد سفارشی شده و شاید کاملاً متفاوت باشد از آن چه مال ما است. در واقع، ما در نهایت به نقطه‌ای می‌رسیم که توان کافی پردازشی برای سفارش دادن تغذیة خبری هر فرد بر طبق داده‌های کامل شخصی او را داشته باشیم.

آیا ما اکنون مسئلة اغلب نکوهیدة «حباب فیلتری اینترنت¹⁵¹» را فزونی می‌دهیم و اتاق‌های پژواک افراد هم سلیقه را خلق می‌کنیم که الگوریتم‌های آن‌ها با هم برای ما گردآوری شده‌اند؛ به گونه‌ای که ما فرح‌بخش‌ترین تجربة ممکن را داشته باشیم؟ این برای خطای تأیید¹⁵² چه چیزی انجام خواهد داد؟ آیا فراهم کنندگان چنین الگوریتم‌های محتوایی غول‌آسا (مانند گوگل و فیسبوک)، این موارد را در نظر می‌گیرند؟ یا این که نگرانی‌های انسانی دربارة فیلترینگ، دستکاری و کژگرایی‌ها، آخرین چیزهایی هستند که در فهرست اولویت این فراهم کنندگان اخبار قرار می‌گیرند؟

”بسیار خوب... داشتن اخلاقیات پسندیده است؛ ولی ما درست همین الان، زمان یا منابع برای آن نداریم.“ این چیزی است که من از بسیاری از شرکت‌ها در هنگامی که این موضوع را با آن‌ها بحث می‌کنم، می‌شنوم. من بر این باورم این یک اشتباه سترگ است زیرا من از وجود یک جامعه با توان فناورانة بی‌کران و این که هیچ اخلاقیاتی در آن حکم رانده نمی‌شود، هراس دارم.

بگذارید این نوع بوت خبری¹⁵³ یا هوش مصنوعی رسانه‌ای¹⁵⁴ که از خبرهای آنلاین به تلویزیون حرکت می‌کند را تصور کنیم که قطعاً رخ می‌دهد. سناریوی ممکن را تصویر کنید: برنامه‌های خبری که برای هر کدام از ما، از طریق انتقال اغراق آمیز¹⁵⁵ (OTT) با استفاده از اینترنت، به جای ایستگاه‌های پخش زمینی یا کابلی، سفارش داده می‌شوند؛ CNN یا اخبار تلویزیون عمومی در اروپا، جایگزین جریان ویدئویی توییتر یا تغذیة ویدئویی فیسبوک می‌شوند؛ برنامه‌های کاربردی، بوت‌ها و IDAS، دارند ایستگاه‌های پخش سنتی و کابلی‌ای که ما می‌شناسیم را به قتل می‌رسانند. در کمتر از ده سال، تلویزیون و اینترنت، همگرایی کامل خواهند داشت و این کاملاً امکان‌پذیر می‌شود تا به شیوه‌ای که ما رسانه‌ها را مصرف می‌کنیم، سوق داده شود؛ بله، نکات مثبت فراوانی دربارة روند جهانی به سوی رسانه‌های OTT به خوبی وجود دارد؛ بنابراین، نباید بچه را با خودِ آب حمام به بیرون پرتاب نمود!

همان گونه که کوین کلی¹⁵⁶، بنیان‌گذار و سردبیر اجرایی مجلة Wired که فردی مستقل است یک بار گفت: ”ماشین‌ها برای پاسخ‌ها و انسان‌ها برای پرسش‌ها هستند.“ (89)، پس هنگامی که پیرامون رسانه‌ها، محتوی و اطلاعات گفتگو می‌کنیم ماشین‌ها به کجا ما را می‌برند؟ آیا آن‌ها به راحتی منظری ساختگی یا شبیه‌سازی شده از پاسخ‌ها می‌سازند و همة پرسش‌هایی که می‌پرسیم را فیلتر می‌کنند؛ البته اگر که اتاقی برای لولیدن یا فضای خالی‌ای برای غور وجود داشته باشد.

”رایانه‌ها بی‌استفاده هستند.
آن‌ها فقط می‌توانند پاسخ‌ها را به شما بدهند.“پابلو پیکاسو (90).

به نظر من، ما به واسطة صفات انسانی متمایز کننده‌ای همچون توانایی پرسیدن پرسش‌ها، تصور کردن این که چیزی می‌تواند متفاوت باشد، منتقد بودن، نگریستن به چیزها از زاویه‌های متفاوت، خواندن میان خطوط و دیدن آن چه که ممکن است دیگر در آنجا نباشد، تمیز داده می‌شویم. آیا این‌ها، محتوی شگفت انگیز، رسانه‌ها و آدم‌هایی پشت آن‌ها نیستند که مقدر شده‌اند تا آن‌ها را انجام دهند؟

من از لحظه‌ای هراس دارم که همة این صفات از دست بروند زیرا ماشین‌ها در هر پلتفورمی به گونه‌ای برنامه‌نویسی می‌شوند که تک تک ما، در همة اوقات، چه چیز و چه کسی را باید ببینیم. بدین سان، ما ممکن است در مسیری به سوی برکنار نمودن هوشیاری خود به صورت تام باشیم و انسانیت‌مان را برون‌سپاری کنیم. ما ممکن است در نوعی از واقعیتِ برنامه‌ریزی شده زندگی کنیم در پیش از این که آن را بدانیم؛ راه‌اندازی شده توسط کسانی که مالک برنامه‌ها و سرورها هستند.

”انسان‌ها اندام‌های تولید مثل فناوری هستند.“

کوین کلی «آن چه فناوری می‌خواهد» (91).

اگر بوت‌ها و هوش‌مصنوعی، اکثر فکر کردن‌مان را انجام می‌دهند و به صورت فزاینده‌ای به جانشینی ما عمل می‌کنند، چه بر سر این فرایند که چگونه ما تصمیم‌گیری کنیم، می‌آید؟ چنین به نظر می‌رسد که تصمیمات ناچیزی مانند چه فیلمی امشب نگاه کنم یا چه غذایی بخرم، به شکل مؤثری توسط نرم‌افزار و عامل‌های هوشمند، انجام می‌شوند؛ اما چه بر سر شگفتی، راز و رمز، اشتباه‌ها و نیک بختی می‌آید؟ آیا این IDA‌ها را می‌توان برنامه‌ریزی کرد که از نظر کژگرایی، عیب‌دار بودن، منحصر به فرد بودن و غیرعمدی بودن، همچون یک انسان باشند و هنوز هم نتایج خود را تولید کنند؟ آیا ما می‌خواهیم آن‌ها به این‌ها دست بیابند؟

آیا بوت‌ها به آنجا می‌رسند که به نیابت از ما رأی می‌دهند و ما را در عملکردهای دموکراتیک مهمی همچون رفراندوم یا حتی پارلمان‌ها، نمایندگی خواهند کرد؟ آیا دستیاران هوشمند دیجیتالی‌مان، شواهد را گردآوری کرده و سپس از آن‌ها برای دادن توصیه به ما که به چه طریقی می‌بایستی رأی دهیم، استفاده می‌کنند (بر پایة دیدگاه‌های گذشته، رفتار یا گزینه‌ها؟).

آیا آزادی اراده چیزی مربوط به گذشته خواهد بود زیرا هر چیزی را می‌توان پیش‌بینی کرد؟

”شما پی می‌برید که آزادی اراده در هر چیزی که توسط هوش مصنوعی خلق می‌کنیم، وجود ندارد...“ کلاید دسوزا¹⁵⁷ (92).

آیا کرم‌چاله‌ها، بر جهان حکم خواهند راند؟

همچنان که فناوری امکان فرو رفتن در ژرفای بیشتر کرم‌چاله¹⁵⁸خود را می‌دهد، من خطر چشمگیری را در آن چه که خودکارسازی نمایی ممکن است به ما آموزش دهد، می‌بینم: ما تقریباً می‌توانیم هر چیزی را با به کار بردن مجموعه داده‌های بزرگ، هوش مصنوعی، و ربات‌ها، میان‌بر بزنیم. به «مایة انسانی» ملال‌انگیز، آهسته و توان‌فرسا، دیگر نیازی نیست. نخست، در دستانم، آن گاه بر روی صورتم، بر روی گوش‌هایم و در نهایت در درون سرم. نیازی نیست که بچه‌ها نوشتن را بیاموزند زیرا رایانه‌ها با گوش دادن، ضبط و از هر چیزی که به آن‌ها می‌گوییم، رونویسی خواهند کرد. دیگر نیازی به پرداختن به پیچیدگی‌های ارتباطات انسانی در زندگی واقعی نیست اگر من بتوانم ارتباطات و حتی نزدیکی جنسی با همسانان دیجیتالی آن‌ها را با استفاده از واقعیت مجازی، واقعیت افزوده و ربات‌ها داشته باشیم. نیازی ندارم که یاد بگیرم چگونه با یک ابزار کار کنم زیرا حدواسط مغز - رایانه‌ام این اجازه را به من می‌دهد تا فقط با فکر کردن به آن، موسیقی بسازم. نیازی به یادگیری زبان‌ها نیست زیرا برنامة کاربردی ترجمه‌ام همیشه برای کمک کردن حاضر است. نیازی به صحبت کردن به آدم‌ها نیست زیرا من فقط کافی است که یک انبار داده را از آن‌ها بگیریم. دیگر نیازی به هیجاناتی نیست که در ایجاد اختلال در کارِ خوبِ هوش مصنوعی را ممانعت کنند.

با استفاده از خودکارسازی، ما هم اکنون می‌توانیم همة کارهایی که برای بسیاری از چیزهای رایج انسانی لازم بود انجام شود را کاهش دهیم و همان نتایج را بی‌درنگ دریافت کنیم (حداقل این در حد یک فکر است). ما می‌توانیم هزاران فیدهای توییتری را اسکن کرده و بهترین نوارها را از صدها ویدئوی یوتیوب در هر موضوع داده شده ببینم و چنین به نظر می‌آید که در لحظه، به یک خبرة کاری تبدیل شده‌ایم. ما می‌توانیم هر چیزی را «سر بزنگاه» به جای «سر مورد» یاد بگیریم. ما فقط به برون‌دة درست و برنامة درست نیاز داریم.

ما داده را دنبال می‌کنیم تا دانش را دانلود کرده و به خاطر بسپاریم. به شیوه‌ای، در هر صورت، ما می‌توانیم ابرمرد (سوپرمن) شویم. من همة این انواع از مفاهیم را کرم‌چاله زدن می‌نامم زیرا همانند کرم‌چاله‌های گیتی، یک میان‌بر خیالی از طریق فضا و زمان است (مانند وارد شدن از طریق درایو ریسمان که شما هواداران پیشتازان فضا¹⁵⁹ در این فیلم دیده‌اید). آن‌ها نمایانگر اندیشة گذار از همة چیزهای ملامت انگیز انسانی و نایل شدن به هدف با سرعت هر چه بیشتر با استفاده از فناوری هستند.

اما به یاد آورید: کرم‌چاله زدن خیلی انسانی نخواهد بود (یا هر چیزی دیگری که برای آن موضوع انجام شود)، زیرا این نیاز دارد که خودمان ماشین شویم؛ حداقل تا اندازه‌ای. دانیل کاهینمان¹⁶⁰، روان‌شناس و برندة جایزة نوبل، به صورت مکرر اشاره می‌کند که ”شناخت تجسم می‌یابد؛ ما با بدن خود فکر می‌کنیم نه با مغز.“ (39). ما باید درک کنیم و بپذیریم که انسانیت یک تجربة جامع است؛ به این معنا که یادگیری به بسیاری از عوامل وابسته است و نه فقط تغذیة داده‌ها؛ این ادراک واقعاً قوی، در گفتمان‌ها رخ می‌دهد، نه معمولاً در جریان یک کلیک ماوس، هر چند که آن‌ها نیز مسلماً مفید می‌توانند باشند. به زبان دیگر، اگر ما فرآیند را از نتیجه بزداییم، ما همان نتایج را به دست نخواهیم آورد - ما توسط نرم‌افزار، فریفته خواهیم شد.

”ارتباطات انسانی غنی هستند، آن‌ها پیچیده می‌باشند، آن‌ها پُرخواست هستند. ما با فناوری آن‌ها را پاک‌سازی می‌کنیم. متن‌نویسی، ایمیل، پست گذاشتن و همة این چیزها، به ما این اجازه را می‌دهند که خودمان را آن چه که می‌خواهیم باشیم، نشان دهیم. ما دسترسی به ویرایش کردن داریم و این به معنای آن است که ما دسترسی به حذف کردن داریم و این نیز به معنای آن است که ما به دستکاری چهره، صدا، گوشت و بدن، دسترسی داریم؛ نه کم و نه زیاد، دقیقاً همان“،
شری ترکل¹⁶¹ (94).

اگر ما همة کار مورد نیاز را بر داریم و همة آن‌هایی که رفتار انسانی را ملامت انگیز می‌کنند مانند افسردگی، ژرف‌اندیشی و هیجانات، این چه چیزی بر سر انسانیت جمعی‌مان خواهد آورد؟ آیا ما تماماً وابسته به آن کرم‌چاله‌ها و درایوهای ریسمانی خواهیم شد؟ (بدون در نظر گرفتن این واقعیت که همة آن‌هایی که واقعاً می‌توانند این کار را انجام دهند، یک شبیه‌سازی از تجربة انسانی هستند)؟

از آنجا که جابه‌جایی‌های کلان (بنگرید فصل 3) به شیوه‌هایی نمایی و ترکیبی کار می‌کنند، یک چالش سترگ در برابر ما قرار می‌گیرد: دیجیتالی‌سازی فزاینده، خودکارسازی و مجازی‌سازی موجب پیش‌ران شدن بیشتر خودکارسازی خواهند شد. این به خاطر آن است که وقتی که یک گام واحد این فرایند، خودکار می‌شود، به همة دیگر اجزاء فشار خواهد آورد تا همین کار را انجام دهند. خودکارسازی در یک گام، گام بعدی را بر می‌انگیزد و خودکارسازی کل فرایند، یک زنجیرة واکنشی را در میان آن‌هایی که به آن اتصال دارند، برانگیخته می‌کند. منطق نمی‌تواند شکسته شود زیرا «سامانه» به میان‌بر زدن آن تلاش خواهد کرد.

نتیجة پایانی این خواهد بود که هنگامی ما اخبار و اطلاعات را خودکار می‌کنیم، هنگامی که ما خریدها و تجارت را خودکار می‌نماییم؛ هنگامی که تصمیمات مالی و مراقبت‌های پزشکی خودکار می‌کنیم، ما در نهایت لازم داریم که خودمان هم خودکار شده باشیم؛ از این رو، ما خودِ «سامانه» را خیلی ساختارشکنی نمی‌کنیم.

چه این رایانه، گوشی هوشمند، IDA یا هوش مصنوعی‌مان باشد، اگر ما اجازه دهیم این ابزارها، هدف‌مان شوند، موجب برکنار شدن ما شده و تمام حکمرانی خودمان را به آن‌ها محول می‌کنیم و آن گاه ما به خوبی در مسیر دورافکنده شدن می‌افتیم زیرا به عنوان انسان، ماشین‌های افتضاحی خواهیم ساخت.

”قوی‌ترین برهان که چرا هوش مصنوعی پیشرفته به یک بدن نیاز دارد ممکن است از فاز یادگیری و توسعه‌اش بر آمده باشد - دانشمندان ممکن است کشف نمایند ناممکن است بدون نوعی از بدن،
بتوان AGI را رشد داد.“
جیمز‌بارت¹⁶² «ابداع پایانی ما: هوش مصنوعی و پایان دوران انسان» (95).

خوب چگونه ما مرزهای خودکارسازی و آن چه که ممکن است، یک گام بیش از حد به درون «کرم‌چاله» در نظر گرفته شود، ترسیم کنیم؟ برای آغاز گفتمان، در اینجا مثال‌هایی هستند از آن چه من باور دارم باید و می‌تواند خودکار شوند:

دفترداری، بایگانی و رسیدگی مالی

امنیت فرودگاه

مدیریت یادداشت‌های روزانه؛ تعیین زمان‌های ملاقات‌ها و نوبت‌ها

وظایف رایج دیگر که تصمیم‌گیری انسانی را شامل نمی‌شوند.

فعالیت‌هایی که من فکر نمی‌کنم می‌بایست خودکار شوند (با فرض بر این که ما می‌توانیم)، ممکن است شامل:

اخبار عمومی و رسانه

پیام‌های مربوط به ارتباطات شخصی یک نفر

لایک‌ها و تصدیقات در رسانة اجتماعی

دوستی (مانند دنبال کردن خودکار¹⁶³ در توییتر)

استخدام آدم‌های منفصل و اخراج شده

گزینش جفتِ خود و شکل‌دهی به روابط

دموکراسی (مانند امضاء کردن دادخواست‌های آنلاین در عوض فعالیت‌های سیاسی)

تغییر در ژنوم انسانی

تولد و زایمان

به عنوان یک یادآور، تعریف کتابی «خودکار کردن» عیناً «کنش خود شخص، عمل کردن بدون تعمق و تفکر» می‌باشد. به روشنی، فعالیت‌ها، وظایف و عملکردهای بی شماری وجود دارند که با خودکارسازی‌شان، آرامش و سودمندی برای همگان به ارمغان می‌آورند. از این رو، خودکارسازی‌هایی وجود دارند که به بسیاری سود منتهی خواهند شد، خودکارسازی‌هایی که به تعداد اندکی سود رسانده و در نهایت خودکارسازی‌هایی هستند که عملاً به هر کس در طولانی‌مدت زیان می‌رسانند. اچ، جی. ولز¹⁶⁴ در The Time Machine، یک آینده را متصور گردید که کاملاً میان «مورلاک¹⁶⁵» وحشی و «الوی¹⁶⁶» بی‌فایده ولی نخبه، تقسیم شده بود (97). اگر همة ما از راه مورلاک بگریزیم چگونه قهرمان بودن یا شهریاری الوی را احساس خواهیم کرد؟ ؛ به عنوان خیس‌افزاری¹⁶⁷ انفعالی با لقب اربابی.

فصل پنجم
اینترنت اشیاء فاقد خوی انسانی¹⁶⁸

آیا اینترنت اشیاء فاقد خوی انسانی، به تدریج و سپس ناگهانی، ما را ملزوم می‌نماید تا از انسانیت‌مان چشم‌پوشی کنیم
و حتی بیشتر ماشین‌وارانه شویم تا بتوانیم مطرح بمانیم؟

همان گونه که پیش از این بحث شد، ترکیبی از توسعه‌های فناورانه به پدیداری اینترنت اشیاء (IoT) (سیسکو¹⁶⁹ آن را به صورت «اینترنت هر چیزی» و دیگران مانند GE آن را با عنوان اینترنت صنعتی¹⁷⁰ نیز توصیف کرده‌اند) سوخت می‌رساند.

نوید ساده می‌باشد: هنگامی که هر چیز اتصال بیابد و داده در هر مکانی گردآوری شود، ما قادر خواهیم بود راستینگی‌های نوینی را کشف کرده و حتی رویدادها را پیش‌بینی و پیشگیری کنیم. بروس اشنیر¹⁷¹، خبرة امنیت و محرمانگی، این «مغزِ در ابر¹⁷² مصنوعی ادوات»، حسگرها، نرم‌افزار و فرایندهای به هم اتصال یافته را «وب در اندازة جهانی¹⁷³» می‌نامد (98). در واقع، این ممکن است موجب زایش یک دوران نوین بهینه‌سازی و فراکارآمدی شود ولی چه بر سر برهم‌کنش‌های انسانی خواهد آمد؟

اینترنت اشیاء (IoT)، صرفه‌جویی‌های هزینه‌ای شگرفی را از طریق یک آیندة با پایداری عظیم‌تر در یک اقتصاد چرخشی نوید می‌دهد که تمام منابع باز استفاده گردیده، تعمیر شده و پس از مصرف اولیه، بازچرخش می‌گردند و مواد دفعی به صورت مؤثری، از بین برده می‌شوند (99). اینترنت اشیاء با حسگرهای نهاده شده در هر شیئی و اتصال دادن مجازی هر چیز و هر شخصی، توانمند می‌شود. آن گاه با شکوفا شدن هوش مصنوعی و تجزیه و تحلیل‌های پیشگویی کننده، ایدة دستیابی به فراهوشمندی¹⁷⁴ از طریق یک توانمندی بهتر نمایی در خواندن، درک و به کار بردن داده‌ها، محقق می‌گردد.

در گفتمان‌هایم با حامیان IoT در سراسر جهان، این را بیانگر بوده‌ام که اگر این روند، نوید خود را به سرانجام برساند، ما می‌توانیم صرفه‌جویی‌های 50-30 درصدی را در هزینه‌های پشتیبانی جهانی و حمل‌ونقل؛ 70-30 درصدی در هزینه‌های جابه‌جایی فردی و ترابری؛ 40-50 درصدی در انرژی، گرمایش و هزینه‌های سرمایش، شاهد باشیم.

سودمندی‌های بالقوة اقتصادی این اتصال یافتگی، وسوسه آمیز است: اینترنت اشیاء واقعاً یک کار خطیر غول‌آسا است و قطعاً «اینترنت انسان‌ها + رایانه‌های» پیشین را کم‌اهمیت جلوه خواهد داد.

”هیچ چیز گسترده‌ای بدون یک فلاکت،
به زندگی فناپذیران وارد نمی‌شود“- سوفکلس¹⁷⁵ (100).

اینترنت اشیاء، به مراتب نیرومندتر از اینترنت انسانی امروزی است و بنابراین به صورت بی‌کرانی احتمال بیشتری دارد که موجب پیامدهای ناخواسته شود. پیامد گسترش جهانی IoT می‌تواند بهشت یا جهنم باشد ولی به هر طریقی، قطب‌نمای این سفر، درست هم اکنون، در حال تنظیم شدن است.

آیا IoT می‌تواند ما را به اشیاء بدل نماید؟

ما هم اکنون بسیاری از عوارض جانبی منفی اینترنت کنونی را داریم. بگذارید پیامدهای ناخواستة نظارت و مراقبت را فرض کنیم؛ از دست رفتن محرمانگی و «چاقی دیجیتالی¹⁷⁶»، واقعاً خودخواسته و عمدی نیستند. در هنگام روبه‌رو شدن با برداشت کلی از IoT، هر کس، قطعاً به شگفتی می‌افتد که چقدر توان بیشتری (دسترسی به داده‌هایمان و هوش مصنوعی برای پردازش آن) می‌خواهیم تا به فراهم کنندگان این راه‌حل‌ها، ابزارها، موتورها و پلتفورم‌ها بدهیم. ما همچنین باید بپرسیم چگونه این محافظت‌ها می‌توانند بدون توافقات همگانی، تحریم‌های مؤثر، خود-تنظیمی و نظارت مستقل انجام شوند.

هم اکنون پلتفورم‌های پیشرو منشأ گرفتة از آمریکا، ارائه دهندگان خدمات فضای ابر و دیگر شرکت‌های فناوری، به نظر می‌آیند که در جلوگیری از اسکن کردن همة ادوات و داده‌هایمان توسط ناسا، FBI و دیگر نهادهای رسمی، ناتوان باشند. خوب این چگونه می‌تواند در طی 5 تا 7 سال که ما بیش از 200 میلیارد ادوات اتصال یافته می‌توانیم داشته باشیم، کارساز باشد؟

در تاریک‌ترین شکلش، IoT می‌تواند اوج فکر کردن ماشینی باشد؛ کامل‌ترین سامانة عامل جاسوسی (OS) که تا کنون ابداع شده است و بزرگترین شبکة مراقبت بلادرنگ که تا کنون طرح‌ریزی شده است که بر تحمل کلی انسان فشار وارد آورده و همة نسخة فریبندة «گمنانی» را ریشه‌کن می‌سازد (101).

اکنون یک جهان را تصور کنید که چندان دور نیست، جایی که:

خودرو اتصال یافتة شما همة داده‌هایش را بلادرنگ به ارتباط می‌گذارد، شامل مکانش و همة حرکات شما در داخل خودرو؛

همة پرداخت‌های شما به ادوات هوشمندتان متصل هستند و دیگر پول نقد، کیف‌های پول و کارت‌های اعتباری، چیزی مربوط به گذشته هستند؛

پزشک شما به سادگی می‌تواند دریابد چه میزانی شما صندلی‌تان را ترک کرده و در این هفته قدم زده‌اید و ضربان قلب شما در هنگامی که در هواپیما خواب بودید، چه میزانی بوده است؛

مغزهای بیرونی‌تان (مرسوم به ادوات همراه) هم اکنون به صورت مستقیم به خیس‌افزار مغز شما از طریق حدواسط‌های مغز - رایانه، پوشیدنی‌ها یا کاشتنی‌ها (ایمپلنت‌ها)، مستقیماً اتصال دارند؛

هر فرد و هر چیزی یک فانوس داده‌ای می‌شود و هزاران گیگابیت در روز تولید می‌کنند و این داده‌ها توسط واتسون IBM، DeepMind مربوط به گوگل، با به کاربردن مغزهای هوش مصنوعی جهانی خود-یادگیرندة گرسنة آن‌ها، هر ثانیه گردآوری شده، فیلتر می‌شوند و در فضای ابر، مورد تجزیه‌وتحلیل قرار می‌گیرند.

احتمال می‌رود که «کارآیی» در هر نوبت بر انسانیت پیشی جوید و ما در نهایت توسط یک ماشین غول‌آسای سامانة عامل (OS)، حکمرانی شویم که خود-یادگیرنده بوده و عیناً تا حتی زمانی که دیگر به این مشارکت نیازی نباشد از خروجی‌مان تغذیه می‌کند؛ در این نقطه، ما از فناوری‌ای که خلق کرده‌ایم و آن را تغذیه نموده‌ایم، کمتر ارزش خواهیم داشت.

خودمختاری ذاتی که بر اساس آن نوع انسان را حداقل برای ده‌ها هزار سال تعریف کرده است در نهایت عدول خواهد کرد؛ نه توسط یک مخلوق بیرونی یا بازدیدکنندگان بیگانه بلکه به واسطه سردمداران فناوری و برنامه‌های کاری فرامکانیزه شدة آن‌ها.

اگر ما امروزه حتی نمی‌توانیم بر سر آن چه قوانین و اخلاقیاتی که می‌بایست برای یک اینترنت افراد و ادوات رایانشی آن‌ها موجود باشد، توافق کنیم چگونه ما می‌توانیم بر چیزی که به صورت احتمالی هزاران بار گسترده‌تر است، توافق بیابیم؟ آیا نباید از روند ”فقط به این دلیل که ما می‌توانیم“، بیشتر نگران باشیم؟

چه کسی در کنترل است؟

امروزه ما استانداردها، راهنماها، توافق‌نامه‌ها و پیمان‌نامه‌هایی مانند راهنماهای آسیلومار¹⁷⁷ مربوط به DNA نوترکیب داریم که بر اساس آن‌ها در زیست فناوری و مهندسی زیستی به ما اجازه عمل داده می‌شود (102). ما همچنین پیمان‌نامه‌های عدم اشاعة هسته‌ای داریم. اما ما هنوز چنین چیزهایی برای «داده‌ها» و «هوشمندی» (نفت دورة دیجیتال) نداریم. با وجودی که این واقعیت که داده‌ها به سرعت نیرومندترین واحد پیش‌ران اقتصادی می‌شوند، ما هنوز یک پیمان‌نامة جهانی نداریم که بر اساس آن با داده‌های شخصی 4/3 میلیارد کاربر اینترنت، چه چیزی اجازه داده می‌شود تا انجام شود؟ (103)، یا یک پیمان‌نامه برای رایانش شناختی¹⁷⁸ یا هوش مصنوعی عمومی.

به استثناء مورد سلاح‌های هسته‌ای، به ندرت در گذر از تاریخ انسان، او به این مقدار فراوان و با چنین سرعتی مورد مخاطره قرار گرفته است؛ به گونه‌ای که تأمل کمی دربارة آن شده باشد. در واقع، کاربرد استثنایی از داده‌ها و هم اکنون هوش مصنوعی، به زودی با اثرگذاری سلاح‌های هسته‌ای، هماوردی خواهد داشت؛ گرچه هوش مصنوعی به شکل یک فضای غیرتنظیم شدة سترگ پابرجا می‌ماند.

چه کسی تضمین خواهد کرد که شرکت‌های داده و هوش مصنوعی پیشرو، کار درست را انجام می‌دهند؟ چه کسی تضمین خواهد داد که آن‌هایی که IoT جدید و درخشان را هدایت می‌کنند، کار درست را انجام می‌دهند؟ کار درست چه چیزی است و چه کسی آن را تعریف می‌کند؟ آیا ما حتی قادر خواهیم بود که چیز درست را از نادرست تمیز دهیم؟

آندروریتم‌ها و اصل پیشگیرانه

چه چیز، ارباب‌های نوین گیتی را نه فقط از تبدیل شدن فرایندها و نرم‌افزار به داده‌ها بلکه از تبدیل شدن انسان‌ها به اشیاء (چه تصادفی یا چه با طراحی)، به دور خواهد داشت؟ شعف و شوق صنعت فناوری از IoT و علی‌رغم سودمندی‌های آشکار آن، خطری است که ما نمی‌بایست بدون دوراندیشی و ملاحظة در حد غایی، از آن گذر کنیم.

ما به برقراری توازن‌هایی نیاز داریم که فرایند توسعة واقعی انسانی را تضمین نمایند، هر گام پیشرفت نمایی فناوری را با نگرانی‌های انسانی تعدیل و تنظیم کرده و میان صفرها و یک‌ها (کدهای جفتی رایانه‌ای)، که به چیرگی بر زندگی‌مان آغاز کرده‌اند، مانع ایجاد کنند.

من به فروتنی پیشنهاد می‌کنم که ما یک نسخة روزآمد از اصل پیشگیرانه را برای آن‌هایی که به IoT قدرت می‌دهند و ارائه برکات آن را هدف قرار داده‌اند، به کار ببریم (بنگرید فصل 8): بار مسئولیت اثبات و تضمین این که IoT به آن‌هایی که موضوع آن قرار می‌گیرند، آسیب نمی‌رساند می‌بایست بر دوش کسانی که کنترل آن را در دست دارند، قرار گیرد و فقط زمانی که این مسئولیت‌پذیری تضمین گردید ما باید به سوی جلو به پیش برویم. در همین وقت، ما باید اجازه به رهیافت‌های پیشگیرانه را نیز بدهیم و نوآوری را فرو ننشانیم.

این دیگر یک پرسش این یا آن نیست، این پرسش مربوط به امتزاج نمودن این راهبردها است. انسان‌های خردمند¹⁷⁹ در 70 سال پس از رهاسازی قدرت هسته‌ای بر روی زمین در یک تجربة بحث برانگیز نظامی و تصمیم سیاسی، هم اکنون در قلمروی کلاً ناشناخته قرار دارند. بدون هیچ جنگ جهانی جدیدی برای توجیه یا تبرئة توسعة بی‌پروایمان به سوی «سرزمین داده‌های بزرگ¹⁸⁰»، ما به گونه‌ای پیش می‌رویم انگار که همة گزینه‌ها در دسترس ما پا بر جا خواهند ماند. اینترنت اشیاء فاقد خوی انسانی، می‌تواند انسانیت‌مان را احاطه کرده و جوهر ضروری‌ آن را تغییر دهد؛ به همین انگاره، این اینترنت، قادر مطلق بودن خدای گونه‌اش را به دارندگان آن اعطاء خواهد کرد. ما به اقدامات پیشگیرانه‌ای نیاز داریم و ما نیاز داریم که کنشگر باقی بمانیم ولی این‌ها دیگر نمی‌توانند دو برنامة کاری جدا از هم باشند تا با دو تبار جداگانه به پیش رانده شوند.

فصل ششم
جادویی به شیدایی و سپس به زهرآگینی

همچنان که ما با شور و شوق در تمام طول شب جشن ماه عسل، جنجال به راه می‌اندازیم که این فناوری است،
پندآموز می‌باشد تا دربارة هزینه‌ای که در فردا و برای همیشه باید برای آن پرداخت شود، اندیشه شود.

در بازگشت به سال 1961، آرتور سی. کلارک¹⁸¹، یکی از پدرخوانده‌های آینده‌نگری و کسی که تأثیر بزرگی بر کار خود من داشته است، به صورت مشهوری چنین گفت: ”هر فناوری که به اندازة کافی پیشرفته باشد از جادو غیرقابل تمایز است.“ (104). امروزه، همان گونه که در فصول پیش، برجسته شد، ما داریم می‌بینیم آن چه که کلارک با این بیانیة دوراندیش خود متصور شده بود: ما در یک میانگاه یک انفجار جادویی درست و حسابی هستیم؛ علم و فناوری، توسعه‌هایی را در فراتر از وحشی‌ترین خیال‌مان، رها می‌سازند.

اثرات جادویی‌ای که فناوری دارد، به یک موضوع مهم از لحاظ تجاری، اقتصادی و اجتماعی تبدیل شده و به موفقیت بزرگ آذرخش گونه معاملات بورسی شرکت‌هایی همچون گوگل، اپل، فیسبوک، آمازون، Baidu، Tencent و علی بابا توان داده است. این جادوی فناورانه، پیش‌ران و قادر کلیدی برای عمدتاً شرکت‌های ساختارشکن آمریکایی و چینی، با بازار بیش از یک میلیاردی و ده میلیارد دلاری همچون Baidu، Dropbox، Uber، Airbnb نیز است که از رسیدگان نسبتاً اخیر این جلوه‌گاه هستند.

هنگامی که نخست گوگل در سال 1998 راه‌اندازی شد، گرفتن نتیجة کامل از یک پرسمان جستجویی برای یافت «پروازهای ارزان به لندن»، یک نوع جادو محسوب می‌شد. بدین سان، گوگل قادر بود تقریباً هر کتابی را در هر جای دنیا سفارش دهد و دریافت آن را در پلکان جلوی درب خانة خود در طی چند روز آینده انتظار داشته باشید. موج بعدی نوآوری شاهد پدیداری پلتفورم‌های سرگرمی جادویی، قانونی و با هزینة بسیار پایین همچون Netflix، Hulu، ViaPlay، Spotify و یوتیوب را مشاهده کرد و آن‌ها شیوه‌ای که ما رسانه‌ها را مصرف می‌کنیم (یا هر آن چه ما برای آن پرداخت می‌کنیم) را برای همیشه تغییر دادند.

لحظات جادویی هم اکنون در هر جایی هستند. فقط کافی است برنامة کاربردی Shazam را فعال سازید و گوشی هوشمند خود را در هر منبع موسیقی‌ای نگه دارید. این برنامه، آهنگی که اجرا می‌شود را مورد شناسایی قرار خواهد داد و آن گاه شما را به هر پلتفورم موسیقی دیجیتالی که ممکن است به منظور ذخیره کردن آهنگ برای گوش فرادادن بعدی یا به اشتراک‌گذاری استفاده بکنید، اتصال می‌دهد. این چالش سادة شناسایی قراردادن یا کشف موسیقی جدید، تا پیش از این، بی‌نهایت پیچیده‌تر بود؛ اما هم اکنون از یک تماس تلفنی نیز ساده‌تر است.

برای اکثر ما، ادوات همراه و برنامه‌های کاربردی، مسلماً شمارة یک بیان جادویی فناوری هستند: اغلب چنین به نظر می‌آید که ”یک برنامة کاربردی برای آن وجود دارد یا می‌بایست باشد“ که به یک نوع پاسخ از پیش تعیین شده¹⁸²، برای تقریباً هر چالشی که ما در زندگی روزمرة خودمان با آن روبه‌رو می‌شویم، تبدیل شده است؛ البته تا زمانی که ما به اینترنت همراه خود با پهنای باند گسترده، با یک وسیلة همراه (موبایل) نیرومند (که تقریباً همیشه این گونه است) اتصال می‌یابیم.

به تنهایی در برنامة کاربردی فروشگاه اپل، شما می‌توانید از ده‌ها هزار برنامة کاربردی برای ویرایش تصاویرتان و صدها برنامة کاربردی برای قرار گذاشتن استفاده کنید. برنامه‌های کاربردی بی‌شماری برای قرارهای ملاقات و زمان‌بندی وجود دارند، برنامه‌هایی که به شما کمک می‌کنند طلاق بگیرید، چندین خدمات اطلاع‌رسانی بسیار مفید برای پوشک مرطوب (مانند Tweetpee)، کاربردهای بی‌شماری که به شما اجازه می‌دهند از راه دور، جادوگری دیجیتالی را تجربه کنید، و از همه مهم‌تر، همة انواع شبیه‌سازهای گوزیدن!

در سراسر جهان، جادو چیزی است که به فناوری توان می‌دهد، چیزی است که کسب‌وکار همراه را به پیش می‌راند و این است که چرا یک تلفن هوشمند، هم اکنون، مهم‌تر از یک رایانه است. هرم سلسله مراتب نیازهای مازلو، بر همین اساس، تغییر کرده است: در راستای نیازهای پایه‌ای همچون غذا، نوشیدنی، البسه و کاشانه، ما می‌بایست هم اکنون ادوات همراه، تلفن‌های هوشمند ارتباط با WiFi را لحاظ کنیم که اغلب رتبة بالاتری نسبت به مسائل جنسی، دوستی و رفاقت و پرستیژ، به دست می‌آورند! در آینده‌ای نه چندان دور، چنین به نظر می‌آید از این که ما دستیاران هوشمند دیجیتالی (IDA) نیز به این هرم سلسله مراتب نیازها افزوده کنیم، غیرقابل اغماض باشد.

با توسعة اینترنت اشیاء (IoT)، وسایل خودکار (خودروهای خودران)، هوش مصنوعی و دستیاران هوشمند، حتی هر چیزی و فرایندی، توان جادویی کسب خواهد کرد. برای مثال، Libelium، یک ارائه دهندة جادویی پیشرو B2B، تلاش می‌کند دنیا را به زندگی و نشاط از طریق امکان‌سازی باغبانی هوشمند، شهرهای هوشمند و انرژی هوشمند هدایت کند (105). این کار را با ترتیب دادن شبکه‌های گستردة حسگر و هوشمند کردن هر وسیله یا قطعة سخت‌افزاری که تقریباً پیش از این «گُنگ» بوده است، انجام می‌دهد؛ چه این یک تراکتور در مزرعه باشد یا یک درخت در پارک.

با راه‌حل‌های هوشمند، هر خط لوله‌ای می‌داند که چقدر داغ است، چقدر بنزین از طریق آن جاری است، چقدر در بیرون صدا تولید می‌کند و خیلی چیزهای دیگر. هر چراغ خیابانی می‌داند چه مقدار تعداد خودرو و مردم از کنار آن می‌گذرند، MAC آدرس‌های بلوتوث، چه چیزی را ابراز می‌دارند، یا سطح آلودگی چقدر است؛ شما نام ببرید، آن را تجهیز کنید و محیط هوشمند می‌تواند آن را شناسایی و مورد سنجش قرار دهد. با در نظر گرفتن ثمرات بالقوه، شگفتی اندکی وجود دارد که چرا هر شرکت فناوری، سرمایه‌گذاری عمده‌ای بر روی IoT انجام می‌دهد.

جادو آماده است تا اندازه و سرعت پذیرش فناوری را در فراتر از حتی حد اعلای انتظارات به پیش براند. آیفون جادویی هست (یا بود؟). در واقع، آیفون برای بسیاری از مردم روزی تعریف جادو بود. ‌آیپد (iPad) جادو است، واقعیت مجازی (VR) و واقعیت افزوده (AR) جادو هستند (سال 2016، رشد به تدریج و آن گاه ناگهانی هر دوی آن‌ها را نشان می‌دهد)، خودروهای تسلا، جادویی هستند. HoLolens مایکروسافت جادویی است... نوع جدیدی از جادو هر دو دقیقه، سروکله‌اش پیدا می‌شود.

از همه مهم و اساسی‌تر این که هزینه‌های همة این جادوها در حال ریزش هستند. این بسیار مهم است و تا حدی شبیه به موضوع مواد مخدر است که همیشه قیمت و دسترس‌پذیری ارائه جادویی آن بر این که چقدر سریع و عمیق پخش شود، اثری اساسی بر مصرف آن دارد. در طی پنج سال، جادوهایی که روزی به صورت چشمگیری گران بودند مانند آنالیز ژنوم انسانی و یا شاید حتی بعضی از اشکال ابررایانش¹⁸³، بسیار ارزان خواهند شد. فقط تصور کنید که این‌ها چه بر سر شیوه‌ای که ما زندگی می‌کنیم خواهند آورد: یک قلمروی شخصی جادویی در دسترس هر کدام از ما قرار دارد. هر مسئله‌ای توسط فناوری حل می‌گردد و فناوری همانند خدا می‌شود.

انسان‌های جادویی - هوشمند اندرونی

اکنون، جادوی فناورانه از قلمروی سخت‌افزار و این نوع مایه‌ها آغاز به فراتر رفتن کرده است؛ این دیگر فقط پیرامون ادوات، گجت‌ها، خدمات یا اتصال یافتگی نیست. به صورت فزاینده‌ای این پیرامون خودمان است، بدن‌هایمان، ذهن‌هایمان، انسانیت‌مان.

اخیراً تعداد بزرگی از پژوهشگران شواهدی عرضه نموده‌اند که چگونه اینترنت و به ویژه جادوی شبکه‌های اجتماعی واقعاً موجب می‌گردند که ما واکنش‌های فیزیولوژیک خیلی واقعی داشته باشیم (106). آن‌ها در یافته‌اند اگر فرد غریبه‌ای در هزاران مایل دورتر بر پست ما لایک گذاشته یا یک پست بگذارد که به ما احساس شایستگی و ارزشمندی دهد، اندروفین‌ها و دوپامین در سراسر بدن‌مان جاری می‌شوند. آشکارا، این یک واکنش بیولوژیک از پیش تنظیم شده است که بدون تلاشی رخ می‌دهد و ممکن است در کنترل هوشیاری نباشد و چنین به نظر می‌آید که یکی از دلایلی باشد که تعدادی از شبکه‌های اجتماعی، در مقایسه با بسیاری از خرده‌فروشان یا سایت‌های تجارت الکترونیک، در حال ارزشمندتر شدن هستند.

تسهیل نمودن این نوع تلة خوشایند هنگامی است که چاشنی رازگونة شبکه‌های اجتماعی پیشرو با آن نیز مخلوط می‌شود، یک نیت کلیدی در این امر است (107). و این یکی از دلایل اصلی است که چرا در ژوئن 2016، من به صورت جدی به فیسبوک پرداختم. خود من به صورت هیجانی و عقلانی توسط الگوریتم‌های آن‌ها که به نظر یک مسیر راحت به سوی یک نوع غیرمأنوس بی‌عاطفگی بود، دستکاری شدم. اگر چه پس از شش هفته پی بردم از پس این بر نمی‌آیم که از این واقعیت چشم‌پوشی کنم که فیسبوک، 60 درصد ترافیک وب‌سایت‌های من را برگرفته است و بدین سان این در واقع یک مسئله چالشی است که نیاز به نظارت بیشتر دارد. هم اکنون، من به پست گذاشتن ادامه می‌دهم ولی تقریباً استفاده از فیسبوک را به عنوان یک منبع خبری یا یک رسانة واسطه‌ای، متوقف کرده‌ام.

جدا از نقش آشکار جادو در شبکه‌سازی اجتماعی، «جادو توسط فناوری» به صورت فزاینده‌ای، پیش‌ران جهانی پذیرش و مقبولیت سریع است زیرا هیجانات‌مان را سیلان می‌سازد و احساسات‌مان را بالا می‌برد. چنانچه ما ویدئوهایی که دوربین‌های GoPro که از سفر دوچرخه‌ای‌مان در کوهستان وحشی در آریزونا گرفته است را بازنگری کنیم، ما یک حس سوزن سوزن شدن جادویی را احساس می‌کنیم. جادوی واتساپ این اجازه را به ما می‌دهد که بلادرنگ به کسانی که به آن‌ها عشق می‌ورزیم به رایگان اتصال بیابیم - هر جایی در جهان - و همة آن لحظات جادویی دیگر را با آن‌ها به اشتراک بگذاریم.

پس معاملة بزرگ چه است؟

مطمئناً بسیاری از این فناوری‌ها به صورت عمومی پذیرفته می‌شوند و مسلماً من خودم به فراوانی از بسیاری از آن‌ها لذت می‌برم. اعتیاد فناوری، استفادة بیش از حد از آن و بی‌حوصلگی اجتماعی، نگرانی‌هایی را در طی چند سال گذشته ایجاد کرده‌اند ولی عمدتاً به آن به شکل یک مورد کاملاً خوش‌خیم یا چیزی که اغلب به تیپ‌های لودیت¹⁸⁴، آفلاینرها¹⁸⁵ یا به ترویج دهندگان زهرزدایی دیجیتالی منتسب می‌گردد، نگریسته می‌شود. من اغلب می‌پرسم که معاملة بزرگ چه چیز است و چرا جادوی فناورانة زیادی، خودش یک موضوع است؛ از این رو، لطفاً مرا دنبال نمایید تا چند اندیشه را با شما به اشتراک بگذارم.

فناوری نمایی به زودی یک زنجیرة چالش‌های بمب اتمی را برانگیخته خواهد کرد.

من بر این باورم که امروزه ما در نقطة عطف این منحنی نمایی توسعة فناورانه هستیم و این بیانگر یک زمان کلیدی در تاریخ است. از پاره‌ای از منظرها، دانشمندان و فناوران‌مان در موقعیت مشابهی قرار دارند که آلبرت انیشتین با آن روبه‌رو بود؛ این در حالی بود که او خود را یک آرامش‌طلب محسوب می‌داشت. در طی سال‌های 40-1939 او بر رئیس جمهور روزولت برای ساخت بمب اتمی، در پیش از این که آلمان‌ها بتوانند بمب اتم بسازند، فشار می‌آورد. در سال 1941، ناخواسته در توسعة بمب اتمی با کمک دادن به ونوار بوش¹⁸⁶ جهت حل بعضی از مسائل بغرنج ریاضی که برنامة اتمی آمریکا را کند کرده بود، مشارکت کرد (108).

دوگ لانگ¹⁸⁷، تاریخدان چنین نظر می‌دهد:

رونالد کلارک¹⁸⁸، زندگی‌نامه‌نویس انیشتین مشاهده کرد
که بمب اتم بدون نامه‌های انیشتین اختراع می‌شده است
ولی بدون کار اولیة آمریکایی‌ها که در پی این نامه‌ها حاصل آمد،
بمب اتمی ممکن بود به موقع برای استفاده در طی جنگ بر روی ژاپن آماده نمی‌شده است (109).

در نوامبر 1945، پنج ماه پیش از مرگش، انیشتین احساساتش پیرامون نقشِ خود در خلق بمب اتمی را چنین چکیده نمود:

”من یک اشتباه بزرگ در زندگی کردم... یعنی هنگامی که نامه را به پرزیدنت روزولت امضاء کردم و پیشنهاد دادم که بمب‌های اتمی ساخته شوند؛ اما مقداری توجیه وجود داشت؛ خطری که آلمان‌ها ممکن بود آن‌ها را بسازند.“ (110)

”روح انسانی می‌بایست بر فناوری چیره شود.“ (آلبرت انیشتین) (111)

همسان برهان‌هایی که سال 1939 انیشتین داشت، پیگیری تسریع یافتة فناوری‌های نمایی همچون هوش عمومی مصنوعی، مهندسی ژئو¹⁸⁹ (کنترل کردن آب و هوا به واسطة فناوری)، به کارگیری سامانه‌های اسلحة خودکار و تغییر دادن ژنتیکی انسان، در معرض توجیه هستند. شایع‌ترین استدلال‌هایی که من می‌شنوم این است، ”چنانچه ما این کار را نکنیم، کسی دیگر (و احتمالاً شیطان صنعتی) مطمئناً انجام خواهد داد و ما عقب خواهیم ماند“، و ”جدا از همة این خطرات، این فناوری‌ها برای جهان، خوبی به ارمغان خواهند آورد و احمقانه است که آن‌ها را رام نسازیم“ و ”راهی نیست که بتوان چیزی را ابداع نکرد یا اختراع کردن را به آسانی متوقف کرد. تلاش کردن در خلق آن چنانچه واقعاً بتوان آن را ابداع نمود؛ این ماهیت واقعی انسان است.“

پاسخ من همیشه یکسان می‌باشد: فناوری نه خوب و نه بد است؛ این به سادگی همین است. ما باید (هم اکنون و اینجا) تصمیم بگیریم و توافق نماییم که چه کاربردی دقیقاً شیطانی است یا نیست؟

همچنان که شما این را می‌خوانید، فناوری‌هایی حتی نیرومندتر از انرژی اتمی یا سلاح‌های اتمی، در حال ابداع شدن و آزمایش کردن در حوزه‌های گوناگون هستند. پیشرفت‌های پرشتاب فناوری به نظر می‌آیند غیرقابل چشم‌پوشی باشند و فقط با اشاره کردن به لزوم کاربرد اصل پیشگیرانه و احتیاطی برای مسئول دانستن آن‌هایی که این ابداعات را انجام می‌دهند با هدف اولیة اثبات این که آن‌ها بی‌زیان هستند، این پیشرفت‌ها متوقف نخواهند شد (بنگرید فصل 8).

من بر این باورم که چالش کلیدی این است: ما چگونه اطمینان حاصل کنیم این دستاوردهای فناورانة غیرقابل اغماض، 98 درصد جادویی می‌مانند؛ یعنی آن‌ها برای سودمندی شکوفایی جمعی انسانی به کار خواهند رفت و نه لغزش ناگهانی به سوی شیطان صفتی؟ اندیشه کنید به مرزشکنی‌هایی همچون ویرایش ژن که ممکن است از ایجاد سرطان پیشگیری کنند. اکنون استفادة بالقوه از همین پیشرفت‌ها برای خلق هیبریدهایی¹⁹⁰ از انسان - ماشین را تصور کنید که منجر به خیزش دراماتیک سایبورگ‌ها¹⁹¹ (موجودات انسان - ماشین) می‌شوند و این اجازه را به ما می‌دهند تا ساختار ژنتیکی‌مان را «خود - تعیین¹⁹²» کنیم.

این تلاش‌ها بسیار مانند استفاده از قدرت هسته‌ای جهت توسعة بمب‌های اتمی است که امکان متمایزی را برای چندین «هیروشیماهای دیجیتالی» فراهم می‌سازند.

راهنماهای اخلاقی چه خواهند بود؟ آیا ما حتی بر سر برخی از انواع اصول اخلاقی، در سطح جهانی، توافق می‌کنیم؟ چگونه ما همة ملت‌ها را برای توافق بر سر تعریف یا تحت فشار قرار دادن زوایای تاریک توسعة فناورانه گردهم آوریم؟ چه کسی مسئول پایش تخطی‌ها خواهد بود و به شکل عمومی، ما چگونه می‌توانیم از یک مارپیچ مرگ‌آور به سوی آن چه که جیمز بارات¹⁹³ نویسنده آن را «ابداعات نهایی‌مان» می‌خواند، پیشگیری کنیم؟ (112). به همین دلیل است که چرا بحث و جدل پیرامون اخلاق دیجیتالی، ضروری می‌باشد (بنگرید فصل 10).

رشد نمایی در داده‌ها، اطلاعات، اتصال یافتگی و هوش، همانند نفت جدید برای جهانِ دیجیتالی است که به جابه‌جایی‌های چشمگیری در هر منظری از جهان‌مان، توان می‌دهد. اگر این گونه است، ما هم اکنون در حال گذر از آستانة محاسبات ریاضی محض با کد رایانه‌ای به توانمندی‌های تکان دهنده‌ای همانند انرژی هسته‌ای هستیم.

”یک اینچ مکعب از مداربندی نانوتیوب، در زمانی که به صورت تام توسعه بیابد، به یک صد میلیون بار توان بیشتر از مغز انسان، خواهد انجامید“ ری کرزوویل¹⁹⁴ (تکینگی نزدیک است: هنگامی که انسان‌ها از بیولوژی فراتر می‌روند) (113).

علم و فناوری، هم اکنون، ما را با قدرتی سترگ تجهیز نموده است. در طی 30-20 سال آینده، ما یک مجموعه‌ای از نقاط کلیدی را در منحنی نمایی خواهیم دید، مانند رایانش فراگیر کوانتومی و توسعة آن چه که به «تکینگی¹⁹⁵» موسوم است. همچنان که ما بر این منحنی با سرعتی فزاینده پیشرفت می‌کنیم، به صورت بی‌کرانی قدرتمندتر می‌شویم و به ما توانمندی‌هایی داده می‌شود که فراتر از وحشی‌ترین تصورات‌مان هستند. تفسیر و تاویل آن چه که بسیاری گزارش می‌کنند که در سراسر تاریخ گفته شده است، از ولتر¹⁹⁶ تا پدر سوپرمن، این چنین است: ”با قدرت بزرگ، مسئولیت‌پذیری بزرگ می‌آید“ (114).

نخست و پیشاپیش، چگونه می‌توان قدرت ترسناک فناوری‌های نمایی را رام نمود تا شادمانی انسانی پیشرفت کند؟ چگونه ما می‌توانیم تضمین نماییم که مقدار مساوی‌ای از تلاش بر روی ادراکات، توافقات و قوانین گذاشته می‌شود تا ما را از نتایج شیدایی یا زهرآگینی، محافظت کنند؟ چگونه ما باید تعیین کنیم جادو به کجا می‌انجامد؟

خوشامدگویی به انفجار جادویی

آن چه که من دوست دارم «نسبت جادویی» نام‌گذاری کنم، به صورت نمایی روبه جلو می‌رود و روزی این مسائل تا کنون نهفته در مورد سوءاستفاده یا استفادة شیطانی از یک فناوری خاص، دوباره پررنگ‌تر خواهد شد؛ شاید به صورت نمایی. دوباره، باید گفت به تدریج و آن گاه ناگهانی.

در حالی که من هنوز پیرامون توانمندی‌های جمعی خودمان جهت هدایت توان فناوری‌های نمایی خوش‌بین هستم، همچنین نگران هستم که در هر مرحلة تغییر ترکیبی و نمایی، این خطر واقعی وجود داشته باشد که از جادویی به شیدایی و سپس به زهرآگینی حرکت کنیم.

بدین سان، ما به راحتی نمی‌توانیم از مقولة نظارت در طی این زمان‌ها برآییم. چالش بر انسانیت‌مان هر روز بزرگ‌تر پدیدار می‌گردد، بهره (نسبت) جادویی در حال انفجار است و شیدایی چندان دور از ما نیست.

پرسش کلیدی دیگر «اگر» یا «چگونه» نیست، بلکه «چرا» می‌باشد؟

همان گونه که بحث شد، ما هم اکنون در نقطة کلیدی پیشرفت ترکیبی و نمایی هستیم جایی که سعادت تام انسانی می‌تواند پررنگ‌تر شده و یا به شکل عظیمی توسط فناوری، فروکاسته شود. به زودی، دیگر این پرسش نخواهد بود که «اگر» یا «چگونه» مقداری از جادوی فناورانه در نهایت می‌تواند محقق شود؛ پاسخ تقریباً همیشه بله خواهد بود. اما پرسش کلیدی در حال پدید این است، چرا باید این کار انجام شود؟ چه کسی مسئول آن خواهد بود یا آن را کنترل می‌کند؟ و این برای آیندة انسانیت ممکن است چه معنایی داشته باشد؟

برای برقراری یک محیط که واقعاً شکوفایی انسانی را به پیش ببرد، ما باید ملاحظة ژرفی به پیامدهای ناخواسته آن داشته باشیم و پیامدهای بیرونی آن را پیش‌بینی کنیم. ما باید توجه به این اثرات جانبی و پیامدهای بیرونی داشته باشیم که معمولاً و اغلب به عنوان بخشی از مدل کسب‌وکار، فی نفسه در اول قابل درک نمی‌باشند، مانند ارزیابی کردن اثر بر روی گرم شدن زمین به عنوان یک پیامد وابستگی‌مان به سوخت‌های فسیلی. ما باید نگرانی از این موارد را در برنامة کاری شراکتی خود را تسریع دهیم و بایستی تفکر جامع‌نگر، به عنوان یک رهیافت در پیش‌فرض‌مان، قرار گیرد.

یک انفجار جادویی در حال رخ دادن است؛ همچنان که فناوری ابر نیرومند گردیده و از تصور ما با سرعتی فوق‌العاده فراتر رفته و ما را خدای گونه جلوه می‌دهد. دستیاران دیجیتالی هوشمند به زودی ابَرهوشمند، فراگیر، ارزان، نامرئی و نهفته مطلقاً در هر چیزی (شامل خودمان) خواهند شد.

امروزه در جایی ما به طریقی بحرانی، از فازهای گذشتة جادوی توان یافته با فناوری، متمایز هستیم. به ویژه، توسعه‌های نمایی و ترکیبی، جادویی را می‌آفریند که در اندازة محض، منظر و نوع، از هر چیز دیگری که ما تا کنون شاهد آن بوده‌ایم یا می‌توانستیم بپنداریم، متمایز هستند. استفاده از موتور جستجوگر جهت پیدا کردن یک اتاق هتل یک چیز است اما این یک چیز کاملاً متفاوت است که تمام فرایند رزرو سفر برای شما به جانشینان IDA تا ابزارهایی که ما امروزه استفاده می‌کنیم، مانند Siri اپل، Cortana مایکروسافت، M فیس‌بوک یا Amelia آیپی‌سافت، سپرده شود. موج کنونی IDA‌ها همچون اولین مدل Ts فورد به نظر شبیه خواهند آمد هنگامی که آن‌ها با خودروهای فراری و تسلا امروزی مقایسه شوند. شما تا کنون چنین چیزی را ندیده‌اید!

فناوری به درون می‌رود؛ ما را از جهان جدا می‌سازد، به صورت روزافزونی ما را از تجربیات انسانی منفصل می‌کند

موتور جستجوگر سنتی مثل استفاده کردن از یک ابزار بیرونی است، مانند استفاده از یک چکش برای ساخت یک خانه؛ این در حالی است که رهیافت IDA مثل اجازه دادن به چکش برای طراحی یک خانه توسط خودش است. فناوری دارد همانند مغزِ خودمان می‌شود، خودش را به درون ما حرکت می‌دهد. تمایز میان ابزار و ما، در حال ناپدید شدن است. اکنون شما ممکن است روند به سوی استفاده از IDA‌ها را برای انجام دادن کار برای ما مشاهده کرده باشید. Siri می‌تواند پرسش‌های ما را پاسخ دهد و بی‌درنگ ما را به منابع هدایت نماید، Alexa می‌تواند کتاب برای ما سفارش دهد و آن‌ها را با صدای بلند بخواند، Amelia می‌تواند برای سفر ما، کار رزرو کردن را انجام دهد. دستیاران دیجیتالی هوشمند، برنامه‌های کاربردی (apps) بعدی هستند و آن‌ها در طی چند سال آینده، فراگیر می‌شوند.

هم اکنون این را فقط تصور کنید که با چه درجه‌ای از جدایی، گسست فردی، مهارت‌زدایی و برکناری عمومی، ما ممکن است با دستیاران رایگان، فراگیر و فزاینده هوشمندمان، روبه‌رو شویم.

آن‌ها خواهند دانست که ما چه کسی هستیم و منظورم این است که آن‌ها واقعاً هر دادة نقطه‌ای، هر ارتباطی، هر حرکتی و هر خرده داده‌های دیجیتالی را می‌دانند.

آن‌ها عیناً هر چیزی دربارة گستره‌های علایق‌مان، نیات، و تمایلات‌مان، در آنی از لحظه خواهند دانست، چه آن‌ها در مورد فقط یک تراکنش، یک ملاقات یا هر چیز دیگری باشند؛

آن‌ها قادر خواهند بود با میلیون‌ها دستیار دیگر برای خلق یک اثر بی‌نهایت شبکه‌ای قوی، صحبت کنند؛ یک مغزِ جهانی در آسمان¹⁹⁷؛

آن‌ها به جای ما قادر خواهند بود با بیش از 50 زبان ارتباط برقرار کنند و این تازه فقط برای آغازگران (Starters) است.

”دیجی فرنیا¹⁹⁸- شیوه‌ای که رسانه و فناوری‌هایمان، ما را تشویق می‌کنند تا در بیش از یک مکان، در یک زمان واحد باشیم.“
دوگلاس راشکوف¹⁹⁹: شوک حاضر: هنگامی که هر چیزی هم اکنون رخ می‌دهد (115).

شکی نیست که سرعت محض، قدرت، سرخوشی و آسودگی این IDA ها، مطلقاً مقاومت ناپذیر خواهند بود و من فکر می‌کنم که این تقریباً به صورت قطعی به مهارت‌زدایی انسانی و گسیختگی هیجانی در یک مقیاس غول‌آسا، منجر خواهد شد. IDA ها از جایی که گوشی‌های هوشمند پایان می‌پذیرند، برمی‌خیزند و حدواسط رایانش²⁰⁰ را به قلمروی شخصی اندیشه‌هایمان، پیش‌نگری‌مان و رفتار عادتی‌مان می‌آورند. از آنجا، فقط یک خیزش کوتاهی برای رسیدن به حدواسط‌های مستقیم مغز و انسانیتِ هیبرید، وجود دارد.

برای نمونه، چاپ سه بعدی را در نظر بگیرید: اگر ما می‌توانستیم یک غذای خیالی را بی‌درنگ چاپ کنیم، آیا هنوز آشپزی می‌کردیم؟ اگر ما یک وسیلة ترجمة بلادرنگ داشتیم، هنوز زبان‌ها را یاد می‌گرفتیم؟ اگر ما می‌توانستیم به یک رایانه با امواج مغزی خودمان فرمان دهیم، آیا هنوز یاد می‌گرفتیم چگونه تایپ کنیم؟ اگر احتیاج، مادرِ اختراع است، آیا انتخاب کردن، پدرِ کناره‌گیری²⁰¹ و استعفاء است؟

اکنون داشتن توان رایانة مین‌فریم²⁰² دهة 1970 که به اندازة یک اتاق نشیمن در کف دستان‌تان بود (به مثابه ادوات آیفون‌ها و آندروید امروزی) گیج کننده و شگرف می‌آید. اما توان کوانتومی یک میلیونی چنین ادواتی را تصور کنید که در فضای «ابر» بلافاصله از طریق صدا، ژست یا حتی فرمان فکری، به واسطة حد واسط مغز - رایانه، در دسترس قرار می‌گیرند.

همچنان که این انفجار جادویی رخ می‌دهد:

تقریباً هر چیزی به عنوان یک خدمت تعریف یا درک خواهد شد زیرا هر چیز دیجیتالی، خودکار و هوشمند است. این همچنان که به صورت پیش‌رونده‌ای «فراوانی» را در تقریباً هر بخش جامعه خلق می‌کند یک اثر سترگ اقتصادی خواهد داشت؛ نخست با موسیقی، فیلم و کتاب که با حمل‌ونقل، پول و خدمات مالیه و در نهایت درمان‌های طبی، غذا و انرژی دنبال می‌شود. بر این باور هستم که «فراوانی» در نهایت موجب چروکیدگی سرمایه‌داری‌ای که ما می‌شناسیم خواهد شد و برای تعریف کردن دوران پساسرمایه‌داری هنوز مانده تا زنگ‌ها به صدا در آورد.

ما انسان‌ها، بی‌نهایت قدرتمند خواهیم شد؛ بی‌نهایت به آن ابزارها وابسته می‌شویم؛ به گونه‌ای که انگار آن‌ها آب و غذا هستند، بدون آن‌ها عملکردی نخواهیم داشت.

مادام وسوسه خواهیم شد تا ویژگی‌های فردی همچون ژرف اندیشی و خیال را کاهش داده یا منسوخ نماییم زیرا آن‌ها چنین به نظر می‌آیند که ما (و به خوبی هر کس دیگری) را آهسته می‌سازند.

ما برای دستکاری و نفوذ ناروا از سوی هر کسی که می‌داند چگونه «سامانه» را استفاده کند، آسیب‌پذیر خواهیم شد.

ما به خوبی در مسیر خودمان برای تبدیل شدن به ماشین‌ها خواهیم بود؛ به گونه‌ای که هنوز می‌توانیم مناسب جهان مکانیزه باشیم.

همچنان که بیولوژی راه خود را به فناوری می‌دهد، سامانه‌های بیولوژیک‌مان به صورت فزاینده‌ای سلیقه‌ای، قابل تعویض و در نهایت حتی از کار افتاده خواهند شد.

با تبدیل شدن فناوری به پلتفورم برجستة جهان (به آسانی و فراگیری فراهم کردن «یک واقعیت واحد بر طبق فناوری»)، فرهنگ‌هایمان، سمبل‌های به ارث رسیده، رفتارها و آیین‌ها، می‌توانند به چیزی منسوخ و متروکه تبدیل شوند.

به روشنی، پرسش این است آیا چنین فناوری‌های نمایی، واقعاً هنوز ابزارآلات هستند. من برهان می‌آورم آن‌ها نخواهند بود. در مورد یک چکش و حتی در مورد برق یا خود اینترنت، ما واقعاً چنانچه این ابزارآلات دیگر قابل دسترس نباشند، دچار دردسر می‌شویم؛ اما به شکل بنیادین، از زندگی عاجز نخواهیم شد. برق و دسترسی به اینترنت اهمیت اکسیژن یا آب را ندارند اما آن‌ها مقدار زیادی زندگی‌مان را بهتر می‌کنند.

درست مثل اکسیژن، به هر جهت دیگر، بسیاری از فناوری‌های نمایی به عنوان ابزارآلات در نظر گرفته نخواهند شد؛ در واقع، آن‌ها ممکن است به زودی تحت عنوان نیازمندی‌های حیاتی نگریسته شوند، در آن نقطه ما ممکن است از طبیعی بودن یا به صورت انسان کامل بودن دست بکشیم. این جایی است که من فکر می‌کنم نیاز داریم این خط را ترسیم کنیم. این جایی است که در مسیرمان برای تبدیل شدن خودمان به فناوری هستیم زیرا این فناوری‌ها برای ما همچون نفس کشیدن حیاتی خواهند شد. من بر این باورم، این خطی است که ما نمی‌باید از آن گذر کنیم (حداقل نه به صورت غیرعمدی یا با شانس محض). در حالی که برای هر کس این معقول است که به خاطر یک تصادف یا یک بیماری، قسمتی از بدن او ماشین شود اما انجام دادن ارادی آن یا بر اساس یک طرح، یک چیز کاملاً متفاوت خواهد بود.

زندگی پس از چنین انفجار جادویی‌ای را تصور کنید؛ ابزارهای نوین یک میلیون بار نیرومندتر از آن که ما امروزه داریم، بعد به صورت رایگان، در هر زمان و هر مکان وجود خواهند داشت. ابزارهایی که غیرپیمایش‌پذیر، مقاومت ناپذیر و اعتیادآور خواهند بود. آیا ما فقط خود را واگذار چنین توسعه‌ای کنیم و همان گونه که بسیاری از فناوران پیشنهاد می‌دهند، همگرایی کامل و غیرقابل اغماض انسان و ماشین را در آغوش بگیریم یا ما باید نقش کنش‌گرا را بر عهده گیریم و واقعاً به آن چه ما خلق می‌کنیم یا نمی‌کنیم، شکل دهیم؟

آیا ما مقدر شده‌ایم که خودمان فناوری بشویم زیرا جادو در نهایت به درون بدن‌هایمان می‌رود؟ بگذارید برخی از پرسش‌های ساده را بپرسیم: چه کسی می‌خواهد هرگز بدون چنین جادویی باشد؟ آیا ما احساس علیل بودن یا فرودستی خواهیم کرد اگر فناوری‌های جادویی‌مان نباشند یا در دسترس قرار نداشته باشند؟ آیا آن گاه ما خود را محدود احساس خواهیم کرد انگار که به یک باره شنوایی و بینایی‌مان را از دست داده باشیم؟ آیا ما به طور طبیعی این فناوری‌ها را به عنوان گسترش‌هایی از خودمان می‌پذیریم؛ همان گونه که ما اکنون با ادوات همراه هوشمند، انجام داده‌ایم؟ آیا درک مان از آن چه ما و غیر ما (آن‌ها یا آن) است به صورت کامل ناپدید می‌شود؟ این رسانه‌ای شدن تام برای تجربة ما از جهان اطراف، چه خواهد بود؟ برای تصمیم‌مان؟ برای جهان هیجانی‌مان؟

ما چگونه پاسخ خواهیم داد؟

من نگران هستم که ما به اشتباه گرفتن جادوی ابزارها با اثر شبه داروِ اتصال یافتگی دائم، رسانه‌ای‌ شدن، صفحه‌ای شدن، شبیه‌سازی و مجازی‌سازی، آغاز کرده باشیم. جادو هم اکنون در حال تبدیل شدن به شیدایی - اعتیادآوری، وسوسه‌انگیزی، ترغیب‌گری و تقاضامندی است؛ بدین گونه هنگامی که بهرة (نسبت) جادویی به 1000 برسد چه رخ خواهد داد، در زمانی که فناوری به صورت مطلق، قدرتمندتر، ارزان و جدایی ناپذیر از ما بشود؟

”نخست ما ابزارها را می‌سازیم آنگاه ابزارها ما را می‌سازند.“
مارشال مک لوهان²⁰³ (116)

من هراسناک هستم که ما در حال وارد شدن به یک دوره‌ای از توسعة نمایی هستیم که اگر محدود نگردد، شاید نتواند به شادمانی انسانی منتهی شود. شادمانی‌ای که به شکل وجود یک حس لذت‌گرایانه ارتباط و مشارکت انسانی، ژرف‌تر از ابعاد ارسطویی، تعریف شده است (بنگرید فصل 9). من ترس بر این دارم این یک فروکاستی باشد، نه یک انفجار از این که ما چه کسی هستیم: دیگر نه یک توانمندی باشد بلکه بردگی‌ای که به یک هدیه تغییر قیافه داده باشد؛ اسب تروایی با مناسبت‌های حماسی واقعی.

جادویی به شیدایی و سپس به زهرآگینی

همان گونه که دارد روشن می‌شود، گذار از جادویی به شیدایی و سپس به زهرآگینی می‌تواند کاملاً سریع، با پیامدهای چشمگیر و تعیین کننده و ناخواسته‌ای توأم باشد. این را برای یک لحظه در نظر بگیرید: خوشایندی و جادویی توانایی به اشتراک گذاشتن تصاویر تعطیلات خانوادگی به آسانی از طریق Flickr ، برای صدها میلیون نفر از افراد روشن است. در واقع، این پیش از iCloud، Dropbox یا فیسبوک (بزرگترین سکوی شیدایی که من می‌توانم فکر کنم) موجود بود که اکنون به اشتراک گذاری دارایی‌هایم را حتی بسیار آسان‌تر امکان‌پذیر می‌سازند.

با این وجود Flickr می‌تواند به سرعت به یک چیز چندش‌آور سترگ تبدیل شود وقتی کسی آن چه که من سرخوشانه با دوستان و خانواده‌ام را به اشتراک گذاشته‌ام را به کار گیرد و محتوی من را کاملاً از زمینه خارج سازد و در تضاد کامل با نیت کاربردی‌اش، از آن استفاده نماید.

برای مثال، هنگامی که در سال 2015، شرکت هلندی
Koppie-Koppie خواست فنجان‌های قهوه با تصاویر بچة تو دل برو که بر روی آن‌ها نقش بسته بود را بفروشد، آن‌ها به Flickr روی آورند تا از Creative Commons (CC) licensed تصاویر خانوادگی که به صورت رایگان در دسترس است به عنوان مدل‌های آزاد استفاده کنند (117). تا زمانی که شما تصاویرتان را تحت پروانة CC بارگذاری می‌کنید، Flickr این را «استفادة منصفانه» در نظر می‌گیرد. این شگفت‌انگیز و شگفت‌آور است. اکثر مالکینِ تصاویر و والدین آن‌ها تقاضا می‌کنند که برای آن‌ها فرق گذاشته شود. بی‌شک، این به روشنی یک کاربرد فناوری است که بر خلاف نیت اولیه‌اش نمایان می‌شود. پیامدهای ناخواسته می‌توانند وقتی که با فناوری‌های شبکه‌ای شده تقویت شوند به خوبی بزرگ و بسیار تند و سریع باشند.

برای برخی از کاربران، اثر به اشتراک گذاری جادویی Flickr با یک تفسیر متفاوت از اجازة کاربرد بلادرنگ و با بهره‌برداری شنیع از زمینة ناخواسته، بلافاصله نابود شد (ممکن است به خودی خود یک عمل غیرقانونی نباشد ولی در مقیاس چندش‌آوری میزان آن مطلقاً بالا است). Koppie-koppie نمونه‌ای عالی از این مطلب است که چقدر به سرعت امر جادویی می‌تواند تبدیل به یک چیز زهرآگین شود.

پیامدهای ناخواسته به شکل نمایی در پس گام‌های فناوری‌هایی که آن‌ها را تولید می‌کنند، رشد خواهند یافت.

مطمئن باشید، مورد Koppie-Koppie احتمالاً یک رخداد کوچک است (مگر آن که این تصاویر بچه‌های خود شما باشد که استفاده می‌شود) با آسیب قابل لمس ناچیز. اما این بی‌درنگ پرسشی را بر می‌انگیزد: چه می‌شود اگر مشارکت‌مان در مقیاس بزرگ در چیزی که به نظر همگان بسیار خوش‌خیم، راحت و سودمند می‌آید، آن را به گونه‌ای گسترده قدرتمند سازد که آن چیز، هدف، دلیل بودنش و چرخة زندگی‌اش را خودش تعیین کرده و توسعه دهد؟ فیسبوک نمونة شاخص در اینجا می‌باشد (و این دلیلی است که من به استفاده از مورد آن در اینجا دوباره باز گشته‌ام).

چه خواهد شد اگر این موجود نیرومند در حال فزونی، به تخطی از تمایلات ضمنی و آشکار محرمانگی ما آغاز کند و مادام نیز به شکل ژرفی در زندگی‌مان نهفته شود که ما نتوانیم چندان کاری با آن انجام دهیم؟ چه خواهد شد اگر ما چنان در این فضای جدید غرقاب شویم که ما فراموش کنیم که به کجا می‌انجامد و از کجا آغاز می‌کند؟

چه می‌شد اگر توانایی فناورانة یک سازمان و منظر هوشمندی آن یک هزار، یکصد هزار یا یک میلیون بار از آن چه که ما هم اکنون داریم، نیرومندتر شود؛ همان گونه که این موضوع نویدِ رایانش کوانتومی و شناختی است، یعنی رایانه‌هایی که یک میلیون بار سریع‌تر از هر جعبة در دسترس کنونی هستند، و همچنین نرم‌افزاری که برنامه‌ریزی نمی‌شود ولی واقعاً آن چه نیاز به انجام شدن آن باشد را یاد می‌گیرد؟

پیامدهای ناخواسته این توسعه‌ها چه خواهند بود؟ آیا این حدواسط‌ها و پلتفورم‌های جدید در نهایت مقصودوارتر در استفاده از داده‌هایمان (به شیوه‌های پرسش برانگیز) در تلاش خود برای تولید عواید بیشتر بر پایة مشارکت‌مان نمایان خواهند شد و انتظارات مالی مالکان آن‌ها یا بازارهای عمومی را برآورده خواهند ساخت؟ با در نظر گرفتن فقدان تقریباً کامل مقررات معنادار برای پلتفورم‌های دیجیتالی، آیا چنین سازمان‌های نیرومندی می‌توانند بر وسوسه‌ها، برای گذر از خط میان سوء‌استفاده‌های طراحی شده و غیرعمدی، مقاومت کنند؟

چه چیزی موجب می‌شود که ما فکر کنیم این رخ نخواهد داد؟ ما باید این «چه می‌شود اگر» های ناخوشگوار را در نظر بگیریم زیرا این راهی است که ما در آن رهسپار هستیم و این مسیر با فناوری‌های نمایی، تغذیه می‌شود. توان شبکه‌های اجتماعی دوران Web 2.0 همانند یک بازی کودکانه خواهد بود اگر زمانی ما هر چیز و هر کس را به اینترنت اشیاء خارق العاده نیرومندی در فضای ابر اتصال دهیم که حاوی سامانه‌های هوش مصنوعی بوده که دائم در حال یادگیری و گسترش می‌باشند مانند واتسونِ IBM یا DeepMind گوگل. عیناً همة داده‌هایمان شامل اکثر اطلاعات پزشکی و بیولوژیک‌مان در دسترس قرار خواهند گرفت و ما نخواهیم توانست بدون این که کسی آن‌ها را رصد کند، پلک بزنیم؛ در زندگی واقعی خودمان و هم در قلمروی مجازی.

من بر این باورم که فناوری و چیزهایی که برای آن سور و سات تهیه می‌کنند، نمایی خواهند شد و محتملاً به صورت بی‌کرانی در ترسیم دقیق این که ما چه کسی هستیم، چه فکری می‌کنیم و این که چگونه «نقش ما را ایفا می‌نمایند» بهتر خواهند بود؛ حتی با هزینة پایین‌تر. بدین سان، نیاز خواهیم داشت تا مقداری بیشتر توجه به این نشان دهیم که در کجا ما به پایان می‌رسانیم و کجا آن‌ها آغاز می‌کنند؛ در کجا انسانیت من با فناوری آن‌ها تقاطع می‌یابد؛ ممکن است در نقطه‌ای که غیرقابل تفکیک باشند.

در چنین جهانی، بعضی از موارد، یقیناً به شکل بزرگی پدیدار خواهند شد. برای مثال، چه مقدار از ادراکات‌مان با «اثر حباب فیلتر» شکل خواهد گرفت به صورتی که فقط به دیدن و خواندن چیزهایی بپردازیم که برای ما فیلتر شده و توسط الگوریتم‌ها هماهنگ و موزون شده‌اند؟ ما چگونه با خطر پیش‌داوری‌ها و دستکاری‌ها برخورد خواهیم کرد با توجه به این واقعیت که ما حتی منطق موجود در پس آن چه ما خواهیم یا نخواهیم دید را نمی‌دانیم؟

ما باید از این فرصت برای آغاز ویرایش و تکمیل مهارت‌هایمان جهت مشاهده و به چالش کشیدن، استفاده کنیم؛ به گونه‌ای که یک نظارت جامع‌تر بتواند پدیدار گردد. این برای انتظاراتی که بر دوش سیاستمداران و مقامات رسمی دولتی گذاشته شده است، چه معنایی خواهد داشت؟

دستیاران دیجیتالی هوشمند و فضای ابر، به عنوان گسترش‌هایی از خودمان

امروزه، ما هم اکنون از هوش ماشینی ساده در بسیاری از موارد استفاده می‌کنیم: برای مثال، در نقشه‌های همراه، نرم‌افزار ایمیل، یا برنامه‌های کاربردی تعیین قرارها. اما در حالی که برنامه‌های کاربردی همچون TripleAdvisor می‌توانند به من بگویند که آدم‌های دیگر در مورد یک رستوران مورد نظر ما چه فکر می‌کنند، آن‌ها تاریخچة آشپزخانه‌ای کامل ما را از 20 سال گذشته نمی‌دانند. آن‌ها درون یخچال برقی ما را نمی‌بینند یا دستشویی‌مان را پایش نمی‌کنند که به عنوان یک خدمت نوین در ژاپن پیشنهاد شده است (118)، و آن‌ها همة اطلاعات را به هم اتصال نمی‌دهند و آن را با 500 میلیون دادة نقطه‌ای دیگر از دیگر کاربران که هم اکنون در دسترس هستند، مورد مقایسه قرار نمی‌دهند. با این وجود، TripleAdvisor هم اکنون بسیار مفید است و به یک چیز «می‌بایست داشته باشید» برای اکثر رستوران‌ها و هتل‌ها تبدیل شده است. با هوش ناچیزی که دارد، اگر ما پس‌زمینة نرخ‌گذاری و پیشنهادهای آن را اغماض نکنیم، یک ابزار مفید است.

این سطح واقعاً سر راست و مکانیکی از دستیاری خوش‌خیم که کاملاً مفید است، با پیشرفت‌های موجود پرشتاب در توسعة IDA ها، در شرف تحت الشعاع قرار گرفتن است. این دستیاران نسل بعدی، به صورت اولیه، در فضای ابر خواهند بود تا بر روی ادوات‌مان، ولی هر چیزی که ما از طریق گجت‌های همراه، سامانه‌های خودکار شدة خانگی، حسگرها و رایانه‌هایمان انجام می‌دهیم را رصد خواهند کرد.

تصور کنید توان کوانتومی واتسون IBM که از طریق ادوات همراه شما در دسترس است؛ تنها چیزی که نیاز است انجام دهید فقط پرسیدن است، بدون حتی لمس یک صفحة کلید. آن گاه، این را تصور کنید که همة آن چه که شما نیاز است انجام دهید فقط فکر کردن است و صدور یک فرمان از طریق حدواسط مغز - رایانه. بدین سان، ابَر‌انسانیت در دسترس خواهد بود.

در سال 2016، Siri، Google Now و Cortana می‌توانستند به پرسش‌های سادة شما دربارة آب و هوا یا کجا می‌توان چیزی را یافت، پاسخ دهند و هوش مصنوعی Gmail برخی از ایمیل‌های شما را برایتان پاسخ می‌داد. به زودی، آن‌ها اکثر نشست‌ها و ملاقات‌های شما را خواهند توانست زمان‌بندی کرده و رزرو پروازها را برای شما ترتیب دهند؛ بدون نیاز به هیچ نظارتی. پس فردا، آن‌ها دوست مورد اعتمادتان در آسمان خواهند بود. پس از آن، ممکن است به اندازة چشمان و گوش‌هایمان مهم شوند. پس از آن، حدس شما به خوبی من است ولی پرسش کلیدی دوباره این است: آیا آن‌ها ما را شادمان خواهند کرد؟ به هر ترتیب، شادمانی چیست؟ (بنگرید فصل 9).

براد جونز²⁰⁴، نویسنده، در مقالة سال 2015 خود «آیا Cortana یک گام خطرناک به سوی هوش مصنوعی است؟» توضیح می‌دهد:

”هوش‌های مصنوعی شخصیت‌های خودشان را دارند و با گردآوری داده‌ها و اطلاعات از جهان اطراف‌شان، هوشمندتر رشد می‌کنند. با این وجود، این دانش، به آرامی، منابع در دسترسِ سازه را پر می‌سازد و با گذشت زمان، هوش مصنوعی، افسار گسیخته می‌شود و هوش مصنوعی در حالت افسار گسیختگی به انسان‌ها، بسان فرودستان فکر می‌کند و حس هذیانی قدرت و تعقل خودش را توسعه می‌دهد“ (119).

پرسش کلیدی آن خواهد بود آیا این IDA ها قادر خواهند بود چیزهایی را انجام بدهند که به صورت ویژه برایشان برنامه‌ریزی نشده باشند و همان گونه که بحث شد، این دقیقاً نوید یک یادگیری ژرف²⁰⁵ است؛ برای مثال، یک ماشین که واقعاً به خودش آموزش می‌دهد، یک ماشین متفکری که به جای این که برنامه‌ریزی شود، یاد می‌گیرد.

این گسترش‌های خودمان، از توان‌های نمایی شبکه‌های عصبی، یادگیری ژرف و رایانش شناختی، استفاده خواهند کرد تا برای ما خدمات بی‌نهایت نیرومند، شخصی و بسیار پیش‌گیرانه فراهم سازند.

در این فرآیند، آن‌ها تقریباً به صورت قطعی، توانمندی‌های پیش - شناختی²⁰⁶ را به خوبی توسعه خواهند داد. AR/VR و BCI (حدواسط‌های مغز - رایانه) به این مخلوط بیفزایید و آن گاه این مغز در آسمان کنونی ممکن است همچون یک حد ناچیز در مقام مقایسه با آن چه که نسل‌های آیندة IDA‌ ها ممکن است قادر به انجام دادن آن باشند، به نظر‌ آید.

روزی که IDA یا بوت (bot) من، همة تاریخچة مرا بداند، به تمام داده‌های بلادرنگم دسترسی داشته باشد و بتواند این داده‌ها را با داده‌های حاصل از صدها میلیون IDA شبکه‌سازی شدة دیگر مقایسه کند، در پیش‌بینی عملکردها و پاسخ‌های من بسیار توانا خواهد بود. در اینجا است که می‌بایست به «پیش جرم و جنایت» خوشامد گفت؛ یعنی ایدة توانایی پیشگیری از جرم و جنایت، زیرا بوت‌هایمان می‌دانند چه هنگامی قصد و نیت جرم و جنایت پدیدار می‌گردد، حتی اگر خود شخص درگیر نیز آشکار نشده باشد. شرکت انگلیسی Precobs هم اکنون چنین نرم‌افزاری دارد که در کارآزمایی‌هایی با حضور نیروهای محلی پلیس وارد شده است (120).

همچنین به امکان بالقوة دستکاری سیاسی در سطح جهانی از طریق محتوی دیجیتالی و شبکه‌های رسانه‌ای نیز باید خوشامد گفت. شبکه‌های اجتماعی جایی هستند که IDA من به صورت معمول مرا نشان خواهد داد؛ یا برای همة مقاصد عملی، خودِ من می‌شود. آیا IDA من می‌تواند قربانی دستکاری شود. یا آگاهانه تبانی می‌کند تا بر تصمیمات من اثر بگذارد؟

همان گونه که شرکت تحقیقاتی گارتنر²⁰⁷ این را در سال 2013 بازگو نمود: ادوات همراه، هماهنگ من می‌شود، مرا می‌بیند، مرا می‌شناسد... و به زودی، آن‌ها من می‌شوند (121). دوباره من شگفت‌زده هستم: آیا این به شکوفا شدن انسانی خواهد انجامید؟ من جداً به این شک دارم.

ما ممکن است یک روزی به زودی IDA خودمان را ببینیم که با IDA سیستم رزرواسیون خط هوایی بحث و جدل می‌کند تا بهترین امکان را برای پروازمان تا هاوایی در طی شش دقیقة بعدی بگیرد. مسلماً اکثر خریدها دیگر توسط ما انجام نخواهند شد؛ IDA ما سریع‌تر و کارآمدتر بوده و مادام کوپن‌ها و اعلان‌های فروش را گردآوری کرده و آگاهمند به وضعیت، تصمیمات فوق العاده سریعی می‌گیرد. همة آن چه که من نیاز به انجام دادن دارم، فکر کردن پیرامون خرید‌ها و... است و برای من هم اکنون ردیف می‌شوند. رضایت بلادرنگ در جهانی مملو از فراوانی تام. اما در حالی که ما یقین داریم فراوانی تام در بیرون داریم، همچنین یقین داریم که کمیابی فزاینده‌ای نیز در درون داریم؛ برای مثال در ارتباطات، اجتماع، ارزش‌ها، معنویت و اعتقادات.

چه باور داشته باشید، چه نداشته باشید، برای بسیاری از دانشمندان و جبرگرایان فناوری در سیلیکون والی، IDA ها که قدرت‌های آیندة نزدیک هستند، هنوز خوش‌خیم می‌نمایند؛ این چندان چیز مهمی نیست که از یک IDA استفاده کرد وقتی که در عمل فقط مقدار کمی بهتر از آن چه است که برنامة کاربردی من درست همین امروز آن را انجام می‌دهد.

بسیار خوب، بگذارید به تعدادی سناریو که بیشتر در سوی چندش‌آور موضوع است نظر بیفکنیم که یک احتمال متمایز در آیندة میان مدت را بیان می‌کند.

اجازه بدهید در نخست این را در نظر بگیریم که برای درخشان بودن، سریع، پیش‌گیرانه و شهودی بودن، IDA من (این موتور درخشان و گسترش یافتة خودم، ربات ابری شخصی من²⁰⁸) می‌بایست مقدار عظیمی اطلاعات دربارة من داشته باشد. بسیار خوب، واقعاً، این به دانستن مطلقاً هر چیزی پیرامون من، دسته‌بندی کردن اطلاعات بلادرنگ از هر منبع در دسترس و مادام روزآمد کردن آن‌ها نیاز دارد. بسیاری از ما احتمالاً این احساس را داریم که ما چنین سیستمی را می‌خواهیم تا این جزئیات دربارة ما را داشته باشد. این سیستم، به کیفیت خدمات دریافتی ما این امکان را می‌دهد که به صورت دائم بهبودی یافته و حتی زندگی‌مان آسان‌تر شود؛ در واقع، ظاهراً خرج ناچیزی برای این راحتی شگفت انگیز و قدرت شخصی بسیار فزونی یافته، پرداخت می‌گردد.

دلبخواهانه به صورت دائم رصد شدن، پایش گردیدن و ترغیب شدن، جایی است که همة این‌ها آغاز می‌گردد؛ «این را به اشتراک بگذار» یا «این را ذخیره کن» به عنوان عملکردهای محبوبی که بسیار گسترده استفاده می‌شوند فقط دو مثال هستند از این که چگونه ما با ماندن به شکل دائم اتصال یافته به پلتفورم‌ها، اغوا می‌شویم. گوگل، ارباب مطلق این گستره است، ما را در اندرون جهان در حال گسترشش در همة اوقات نگه می‌دارد و گوگل تازه فقط یک نمونه از بسیاری از پلتفورم‌های جهانی بزرگ است که می‌خواهند یک نوع از مغزِ جهانی بشوند که هر کاربر واحدی را در فضای ابری، دوگانه می‌کنند. ردیابی‌مان به چنین شیوه‌ای، پول در بانک برای شرکت‌هایی است که برای آن‌ها داده‌ها در واقع نقش «نفت جدید» را بازی می‌کنند، به ویژه برای پلتفورم‌های جهانی‌ای همچون گوگل، علی‌بابا، Baidu و فیسبوک که واقعاً چیز فیزیکی‌ای را نمی‌فروشند ولی عمدتاً به عنوان داده کاوان، موتورهای تبلیغاتی و ابرگره‌های اطلاعاتی خدمت می‌کنند. تصور کنید که این مفهوم هزاران بار توسط اینترنت اشیاء و هوش مصنوعی تقویت شود و شما می‌توانید صدای صندوق پول شمارِ در حال باز شدن آن‌ها را با شادمانی بشنوید.

ردیابی تام هر کسی؟

خوب احتمالاً چه چیز نادرستی توسط IDA ها می‌تواند انجام بشود؟ در اینجا نمونه‌هایی از این که چگونه آن‌ها ما را به شکست وا می‌دارند، بیان می‌کنیم:

دلالت‌های خطرات امنیتی و محرمانگی که به صورت چشمگیری تقویت شده‌اند:

IDA شما ممکن است هک، فریب خورده و تحت فشار قرار گرفته یا تطمیع شود تا پاره‌ای یا همة اطلاعات شما را به دیگر هوش‌های مصنوعی‌ای که به صورت آنلاین با آن‌ها روبه‌رو می‌شود، افشا کند. برای مثال، ممکن است به دادن واژگان عبور، فریب داده شود که بدین طریق فرستادن ایمیل‌ها، ترتیب خریدها و دسترسی به کانال‌های رسانه اجتماعی به جای شما امکان‌پذیر می‌شود. ژرفای چنین درز کردن اطلاعاتی تلفیقی می‌تواند چنان عظیم باشد که آسیب غیرقابل جبرانی را برای شما فراهم آورد؛ حتی ممکن است از این آگاه نباشید که IDA شما، فاسد شده است!

مراقبت و نظارت نمایی²⁰⁹

IDA شما مانند یک ثبت کنندة زندگی‌تان در فضای واقعی و دیجیتالی، در 24 ساعت، هفت روز هفته و 365 روز سال، به شکل یکسان، عمل خواهد کرد. هر فردی با استوارنامة درست یا اختیارمندی کافی، دروغین یا به طریق دیگر، می‌تواند به داده‌های شما دسترسی داشته باشد. این به هر کس با مهارت‌های هک کردن بوت²¹⁰ این را اجازه می‌دهد که شما را پروفایل‌بندی کند یا بر شما به عنوان مورد مشکوک، معاند، یا یک فرد خطرناک، نشانه بگذارد. آن‌ها می‌توانند از بیت‌های اطلاعاتی غیر اتصال یافته یا خارج از زمینه، برای اهداف توطئه یا دستکاری شما استفاده کنند. تصور کنید اگر مقدار داده‌ای که بوت شما می‌تواند دسترسی داشته باشد یک هزار بار ژرف‌تر و هوشمندتر باشد چون که می‌تواند داده‌های شما را با میلیون‌ها دادة تغذیه شدة دیگر (برای مثال در شبکه‌های اجتماعی) همبسته کند. نتایجی که می‌تواند حتی بدترین فرافکنی‌های ناکجا آبادی جرج اورول²¹¹ را کم اهمیت جلوه دهند.

بدین سان، سناریو ابر-بوت/IDA که رام نشده باشد مرا تکان می‌دهد چون بسان یک دعوت سرگشاده به سوءاستفاده و آزار و اذیتِ خواه و ناخواه می‌باشد، به ویژه در آن کشورهایی که هم اکنون حفاظت محرمانگی واقعی ندارند؛ یا عدم اعتناء به حقوق پایة محرمانگی شهروندان‌شان را از خود نشان داده‌اند. نکتة دیگر که می‌بایست در نظر گرفت این است که دوست‌هایمان ممکن است به صورت فزاینده‌ای بتوانند به IDA ها و الگوهای²¹² دیجیتالی‌مان دسترسی داشته باشند؛ به صورت قانونی، برای مثال از طریق درب جلویی یا بیشتر محرمانه از طریق درب پشتی، در کد مربوطه که باز گذاشته شده بود. در نتیجه، با اطمینان خاطر می‌توان فرض نمود که هر سازمان هک کنندة جدی دیگری نیز می‌تواند همین کار را انجام دهد. من می‌لرزم فکر کنم اگر ما همگی به چنان گستردگی‌ای به صورت دیجیتالی، عریان شویم، چه می‌تواند رخ دهد.

مهارت‌زدایی فزایندة انسان

تصور کنید که من چنان فراوان از IDA خود استفاده نموده‌ام که فراموش کرده‌ام یا فرا نگرفته‌ام چگونه کارها را خودم انجام دهم، برای مثال، چگونه راه خود را در شهری غریب بیابم، چگونه اطلاعات موثق آنلاین یافت کنم، چگونه یک پرواز را رزرو کنم. چگونه می‌توانم یک کاربرگ بنویسم و حتی چگونه دستخط بنویسم؛ یک مشق خیلی متمایز. این می‌ماند تا دلیل آورده شود آیا من به تندی مهارت‌هایی که روزی برای انسان بودن ضروری بودند را از دست خواهم داد مانند برقراری ارتباطات بدون واسطه، بدون در نظر گرفتن ظاهراً آهستگی و خطاهای بالقوه‌ای که برای آن‌ها ممکن است پیش آید. آیا ما انسان را به صورت فزاینده‌ای قابل جایگزین کردن می‌سازیم؟ آیا باید هر چیزی خودکار شود فقط به خاطر این که ما می‌توانیم؟

دیجی فرنیا²¹³

(این یک اصطلاح عالی است که توسط داگلاس راشکوف²¹⁴ ابداع گردید که شما حتماً نیاز خواهید داشت کتاب‌هایش را بخوانید) (122): یکی از نیروهای پیش‌ران در پشت مهارت‌زدایی انسان توسط فناوری، تمایل فزایندة ما به توانایی حضورمان در چندین مکان در یک لحظه است. فناوری‌هایی همچون حضور از راه دور²¹⁵، پیام‌رسان و رسانة اجتماعی به نظر می‌آید این امر را هم اکنون امکان‌پذیر نموده‌اند، البته تا حدی شبیه‌سازی شده و غالباً همة ما تمایل داریم به ازای آن، تجربیات موثق را از دست بدهیم.

به نقل از داگلاس:

”دیجی فرنیا، واقعاً تجربة تلاش به حضور در بیش از یک تجسد (صورت خارجی) از خودتان در یک زمان واحد است. پروفایل توییتر شما وجود دارد، پروفایل فیسبوک شما وجود دارد، دریافتی ایمیل شما وجود دارد. همة این انواع از نمونه‌های چندگانه از شما، به صورت هم‌زمان و هم‌راستا، کار می‌کنند و این یک جایگاه راحت واقعی
برای اکثر انسان‌ها نیست.“ (123).

برقراری روابط با صفحه‌ها (اسکرین‌ها) و ماشین‌ها، به جای آدم‌ها

بسیاری از وظایف و فرایندهایی که انسان‌ها به صورت مکرر انجام می‌دهند نیز به صورت ندانسته منجر به ایجاد روابط با دیگران می‌شوند مانند خرید غذا یا ملاقات نمودن اعضای تیم جهت طرح‌ریزی یک رویداد. به روشنی، پاره‌ای از این برهم‌کنش‌ها ممکن است ضروری نبوده یا خیلی ارزشمند نباشند، برای مثال، صحبت کردن با یک عامل سفر دربارة رزرواسیون یک پرواز یا تماس با یک بانکدار دربارة یک گزینة سرمایه‌گذاری؛ هر دوی آن‌ها چیزهایی هستند که ضمناً من هرگز انجام نمی‌دهم.

گیریم بله، پاره‌ای از این وظایف کوچک می‌توانند توسط ماشین‌ها بدون از دست دادن ارتباط واقعی انسانی انجام شوند؛ من واقعاً به دوست شدن با بانکدارم نیازی ندارم، بدین گونه من می‌توانم تصمیم بگیریم کجا 5000 یورو خود را سرمایه‌گذاری کنم. با این وجود، من فکر می‌کنم ما نیاز داریم در نظر بگیریم آیا برهم‌کنش‌های دیگری که انسان‌ها بیشتر درگیر آن‌ها هستند را خودکارسازی کنیم؛ مانند ویزیت کردن دکتر حتی اگر که این فقط برای کسب اطمینان از این باشد که ما واقعاً فقط یک سرماخوردگی جزئی داریم نه آمفیزم ریوی. در بعضی از موارد، بله، این خوب خواهد بود که تشخیص بیماری خود را به راحتی از مکان خانة خود به دست آورید؛ در موارد دیگر، این ممکن است رابطة پزشک - بیمار را انسان‌زدایی کند زیرا چیزهایی که نباید خودکار شوند یا با ماشین‌ها جایگزین شوند، آن‌هایی هستند که واقعاً روابط معناداری را خلق می‌کنند.

فرایند خودکارسازیِ یک بخش قابل توجه از برهم‌کنش‌هایتان را با کارکنان و اعضای تیمی که با آن‌ها کار می‌کنید را تصور کنید؛ که هم اکنون توسط استارتاپ‌هایی مانند x.ai با برنامه‌های کاربردی دستیار خودکار شدة آن پیشنهاد شده است (124). در حالی که آزار و آسیبی از سوی خودکار شدن مدخل‌های تقویم گروهی²¹⁶، بر پایة یک ایمیل وجود نخواهد داشت، تصور کنید اگر شما یک پاسخ ایمیل از یک عضو تیم دریافت کنید و نمی‌دانید که آیا توسط او یا IDA این عضو تیم نوشته شده است. این را یک صحنه پیشتر ببرید که شما چه احساسی خواهید داشت اگر ارتباط شخصی شما مثلاً با پدر یا مادرتان از طریق IDA شان باشد؟

در کجا این پایان خواهد پذیرفت؟ تا به کجا ما آن را خواهیم کشاند؟ چه کسی تعیین می‌کند در کجا هوش مصنوعی متوقف گردیده و یک انسان آن را آغاز می‌کند؟ آیا یک IDA، دعوت کردن مردم به جشن تولد آیندة من، انجام سفارش دادن غذا، انتخاب کردن موسیقی، مقابله و تطبیق دادن یک نمایش اسلاید و شاید حتی برنامه‌ریزی یک وب‌سایت ویژه برای این رویداد را انجام خواهد داد؟ آیا آن گاه این به من خواهد گفت چگونه تا آنجا که امکان دارد در طی جشنم شاد باشم؟ آیا این در ایجاد روابط میان من و دیگر انسان‌ها سودمند خواهد بود؟ یا آیا من قادر خواهم بود مقداری از کار را فقط برای از دست دادن معنا، قطع کنم؟ آیا ما روابط بیشتری با ماشین‌ها برقرار خواهیم کرد زیرا این مناسب بوده و بی‌دردسر است؟

دستکاری در مقیاس غیرقابل تصوری امکان‌پذیر است و به صورت فزاینده‌ای محتمل می‌باشد.

اگر ما در صدد برون‌سپاری تصمیمات‌مان به IDA های نیرومندی هستیم، این احتمالاً در نخست با رسانه و محتوا انجام خواهد شد؛ عملگرایان اصولی هم اکنون در درون اکثر شبکه‌های اجتماعی قرار گرفته‌اند. IDA های ما می‌توانند اخبار را پیدا کرده و فیلتر نمایند، فیلم‌ها را از منبع به دست آوردند و شبکة اجتماعی ما را دسته‌بندی کنند. اکنون فناوری تقریباً اثر می‌گذارد و حتی تصمیم می‌گیرد چه چیزی برای دیدن، خواندن و شنیدن ما بهترین است. اما یک هوش ابریِ²¹⁷ توان یافته با فناوری‌های نمایی، ارائه‌های امروزی را در مقام مقایسه، ابتدایی جلوه خواهد داد.

تصور کنید امکان این که فقط تعدادی از بوت‌ها یا پلتفورم‌های IDA برجسته، کنترل کردن آن چه که میلیاردها انسان باید ببینند یا توجه نشان بدهند را بر عهده بگیرند. تصور کنید چه برندها و تبلیغ کننده‌هایی تمایل خواهند داشت برای دیده شدن در مکان درست و در زمان درست توسط کاربران دقیقاً درست، پول پرداخت کنند؟

خیزش IDA ها برخی پرسش‌های بنیادین را برای من بر می‌انگیزد:

چه می‌شود این نسخة دیجیتالی من، اطلاعات را برای افراد نادرست فاش سازد، مانند شرکت بیمه‌ام یا عامل امنیت اجتماعی که ممکن است در فرایند تأیید یا نفی یک سود، در موضوعیت قرار گرفته باشند؟

چه می‌شود اگر IDA من در اکثر تصمیم‌سازی‌هایم، بسیار بهتر از من بشود و پیشنهاداتش را دنبال کنم حتی هنگامی که این دربارة گزینش بخش عمده‌ای از زندگی‌ام باشد مانند این که با چه کسی ازدواج کنم، کجا نقل مکان کنم، آیا بچه داشته باشم و چگونه آن‌ها را تعلیم دهم؟

چه می‌شود اگر IDA من تمام اخبار و اطلاعات را به شیوه‌ای که من دوباره با دیدگاه مخالفت‌آمیزی هرگز روبه‌رو نشوم، فیلتر کند و چه می‌شود اگر یک کمپین برای اثرگذاری بر من، دستکاری منطقش را خریداری کرده باشد؟

”گارتنر²¹⁸ پیش‌بینی می‌کند که با پایان سال 2016، تصمیمات خرید بغرنج‌تر مانند تجهیزات بازگشت به مدرسه که به صورت خودکار توسط دستیاران مجازی انجام می‌گیرد به دو میلیارد دلار سالانه خواهد رسید. این به معنای این است که به شکل خام 5/2 درصد از کاربران همراه، به این دستیاران (با 50 دلار در یک سال) اعتماد می‌ورزند.“
(جهان دستیاران مجازی، چرا برنامه‌های کاربردی هوش مصنوعی،
هر روز اینترنت اشیاء را می‌آراید (125).

خیزش خیره کنندة IDA ها شاید بر من فشار آوردند تا یکی از تجهیزات کلیدی و محبوبم را روزآمد کنم: ”گوگل بیش از همسران‌مان، دربارة ما می‌داند.“ با داشتن یک IDA مانند Google Now که میلیون‌ها دادة نقطه‌ای دربارة من گردآوری می‌کند (مانند مکان، تاریخچه، مرورگر، خریدها، لایک‌ها، ایمیل‌ها، نقشه‌ها و بازنگری‌های یوتیوب) قطعاً به شکل چشمگیری دست پیش را خواهد گرفت. همان گونه که من دوست دارم بگویم، بر مقیاس نقطه‌ای 100 آن چه که می‌تواند دیجیتالی شود، ما هم اکنون در نقطة پنج می‌باشیم.... و این در حالی است که ما هم اکنون نزدیک به از کنترل خارج شدن هستیم.

من به این دیدگاه باز می‌گردم که ”ما هنوز چیزی ندیده‌ایم.“ خیزش خیره کنندة اینترنت اشیاء، یک ترقی دیگری برای پلتفورم‌های IDA به ارمغان می‌آورد؛ تولید کردن حتی داده‌های بیشتر جهت تغذیه کردن مغزِ جهانی‌ای که این سامانه‌ها از آن بهره‌برداری خواهند کرد. به صورت فزاینده‌ای، قطعات ناقص سخت‌افزاری مانند مته‌ها، ماشین‌های کشاورزی، خطوط لوله، سوییچ‌ها و اتصال دهنده‌ها، به واسطة حسگرها و ارتباطات شبکة بی‌سیمی، مناسبت و تطابق می‌یابند. به زودی امکان به دست آوردن داده‌های زنده از هر آن چه عیناً در اطراف ما است، فراهم خواهد شد.

”‌بر اساس یافته‌های یک مطالعة جدید، شبکة اجتماعی (نمونة واقعی، تشکیل یافته از آدم‌هایی که شما می‌شناسید و شخصاً دیده‌اید و نه در فیسبوک یا توییتر) به مهمی ورزش و تغذیه برای سلامتی شما می‌باشند. از آن گذشته، تعداد پیوندهای اجتماعی که شما مستقیماً دارید بر سلامت شما اثر می‌گذارد.“
چارلی سورل²¹⁹ «گوشه‌گیری را متوقف کنید،
این شما را خواهد کشت» (126).

پس چرا تعداد اندکی از آدم‌ها هم اکنون پیرامون این موضوع نگران هستند؟

دلایل فراوانی وجود دارد که چرا به نظر می‌آید تعداد اندکی نداهای منتقدانه‌ای بر مورد جابه‌جایی از جادویی به شیدایی و سپس به زهرآگینی پیشنهاد می‌گذارند. به سه مورد از آن‌ها، در اینجا اشاره می‌شود:

1) سودهای هنگفت. اتصال دادن مردم به یکدیگر که مزیت پیشرفت فناورانة نمایی است و فراهم آوردن ادوات ارزان و اعتیادآور، احتمالاً از بزرگ‌ترین فرصت‌های کسب‌وکار است که تا کنون وجود داشته‌اند. سور و سات فراهم آوردن جادوی دیجیتالی برای مردم، موسوم به اقتصاد داده، موجب کوتاه جلوه دادن مقولات انرژی و حمل‌ونقل شده است؛ هیچ کس نمی‌خواهد که این جشن را به تباهی بکشاند (127). در یک جامعه که سود و رشد هنوز در صدر رتبه‌بندی قرار گرفته‌اند، عوارض شیدایی و حتی نتایج زهرآگینی اغلب به عنوان مسائل بیرونی (و نه مشکل ما) نگریسته می‌شوند.

2) فقدان مقررات و جهل سیاسی. برخلاف بهره‌برداری و تأمین منابع طبیعی مانند نفت، گاز و آب، تعداد اندکی مقررات جامعی وجود دارند که بر کاربرد هوش مصنوعی، اثرات اعتیادآوری فناوری یا استفاده از داده‌های بزرگ حکمرانی می‌نمایند؛ برای مثال، تجاری‌سازی داده‌های شخصی‌مان بر روی شبکه‌های دیجیتالی. این یک خلأ سترگی است که می‌بایست به آن پرداخت.

3) اعتیاد به فناوری (”ادوات همراه، سیگارهای جدید هستند“). فناوری‌های نمایی که به نظر می‌آیند زندگی ما را آسان‌تر می‌کنند، با تنبلی طبیعی‌مان بازی می‌کنند و این نیازمان تا لایک شویم، بسیار اعتیادآور بوده و اغلب اثری شبه‌دارو دارد. عادات به سرعت شکل می‌گیرند، آیا شما ایمیل خود را بیش از یک بار پیش از این که به بستر خواب بروید، چک نمی‌کنید؟ آیا شما احساس «تنهایی» ندارید هنگامی که به شبکة اجتماعی محبوب خود متصل نیستید؛ بدون نقشه‌های گوگل یا برنامه‌های کاربردی پیام‌رسان‌تان، احساس بی‌پناهی نمی‌کنید؟

کلام آخر این است که فروختن جادو سپس بیش فروشی به شیدایی یا زهرآگینی، احتمالاً بزرگ‌ترین فرصت کسب‌وکار دوران دیجیتال است و در بدترین حالتش، با مورد افزودن مواد اعتیادآور به غذای ناسالم یا تنباکو، واقعاً هیچ فرقی ندارد. همچنان که ما به صورت نمایی پیشرفت می‌کنیم اگر می‌خواهیم به یک جامعه‌ای نائل شویم که واقعاً شادمانی انسانی را بالاتر از هر چیز دیگری دنبال می‌کند، این راهبرد می‌بایست بازنگری شود و احتمالاً دست آن کوتاه گردد.

فناوری چه می‌خواهد: رفتن از طبع دوم به طبع

ما گاهی اوقات از فراز ”این همچون طبع دوم برای من شده است“ استفاده می‌کنیم تا کاربرد ابزارها یا فناوری‌هایی که طبیعی احساس می‌شوند را توصیف کنیم. برای مثال، مردم می‌گویند، ”همیشه همراه داشتن تلفن همراهم، طبع دوم شده است.“ یا ”اتصال یافتن با دوستانم در فیسبوک، طبع دوم است.“ این فراز چیزی را توصیف می‌کند که یک عادت شده است، گاهی اوقات ما کاری انجام می‌دهیم زیرا آن را طبیعی احساس می‌کنیم، ما چیزی بیشتر دربارة آن دیگر فکر نمی‌کنیم.

این طبع دوم شده است که چیزها را بر روی فیسبوک دوست داشته باشیم، تصاویر و ویدئوها را بر روی واتساپ یا برنامه‌های کاربردی پیام‌رسان دیگر به اشتراک بگذاریم و به صورت دائم بر روی ادوات همراه، قابل دسترس باشیم. نقشه‌های گوگل هم اکنون طبع دوم است و برای تعداد رو به افزایش کاربران آیفون اپل، Siri نیز دومین طبع می‌شود. طبع دوم، دربارة انجام دادن چیزی بدون اندیشة فراوان است، یک عادت سرشته شده (تقریباً شبیه کنش‌های «طبیعی» مانند نفس کشیدن) که ما دیگر دربارة آن پرسشی نمی‌کنیم، یعنی چیزی که ما به صورت خودکار انجام می‌دهیم. در موارد بسیار خوب، این اکنون یک شیدایی مرزی است؛ چند بار شما سندرم ارتعاش - خیالی²²⁰، مانند احساس یک حس وز وز کردن در جیب (حتی هنگامی که وسیلة همراهتان را در خانه گذاشته‌اید) را تجربه کرده‌اید؟

اما اکنون، همچنان که ما به گرداب تغییر فناورانة نمایی با اشتیاق گام می‌نهیم، می‌توانیم تعداد رو به افزایشی از فناوری‌ها (یا فروشندگانشان) را مشاهده کنیم که به صورت چشم و هم چشمی می‌خواهند طبع اول باشند؛ طبع و بس. آشکاراً این یک فرصت غول‌آسای کسب‌وکار است. اگر انسان بودن دیگر به اندازة کافی خوب نیست یا اگر انسان بودن چندان مایة زحمت است، چرا نباید به فناوری جهت افزایش یا فزونی دادن به خودمان متوسل نشد؟ چرا فناوری را به «طبع اول» و سطحِ میدان بازی میان ما و ماشین‌ها تبدیل نکنیم؟

ایدة فزونی دادن انسان توسط وسایل فناورانة اغلب به صورت دقیق در دامنة کسب و کارهایی می‌افتد که می‌خواهند تمایل‌مان را پولی سازند تا قدرتمندتر شویم؛ در حالی که زندگی را برایمان آسان‌تر می‌سازند. برای بسیاری از مردم، این هم اکنون دارد «طبع اول» می‌شود که Fitbits و دیگر برنامه‌های کاربردی ردیابی سلامت، مچ‌بندها، ادوات رایانش پوشیدنی و حسگرهای نهفته در ژاکت‌ها و پیراهن‌هایمان را بپوشیم (”مسلماً من همة علائم حیاتی‌ام را ردیابی می‌کنم و بدنم را به چنین شیوه‌ای پایش می‌کنم؛ این یک چیز عادی برای انجام دادن است“). خود کمی شدة²²¹ معروف، در حال خیزش است، در همه جا، و همة صنایع نوین بر حول این مفهوم در حال خلق شدن هستند. با این وجود، من اغلب نگران هستم که این پیشنهادها زودتر یا دیرتر، ما را به بردگان کمی شده بدل کنند یا حتی بدتر به بردگان گیج شده و به طور مؤثری، ما را با امکان برون‌سپاری تفکرمان (و احساس‌مان) به فناوری‌های بیرونی، مهارت زده نمایند.

تصور کنید چه فزون یافتگی‌های انسانی²²² دیگری می‌توانند به آسانی از این که گفته شود خوب است آن را داشته باشیم به طبع دوم و سپس، به «خود طبع» تغییر شکل دهند؛ زیرا بدون آن‌ها به آسانی نمی‌توان به خوبی کاری انجام داد و آن‌ها واقعاً رایگان و فراوان می‌شوند. فهرست شامل AR و VR و هولوگرام هستند که مرا قادر می‌سازد به یک فضای مجازی فرافکنی کنم جایی که می‌توانم با دیگران به انگار که من واقعاً آنجا هستم (مانند HoloLens مایکروسافت) برهم‌کنش کنم (128). این ابزارها می‌توانند هنگام مشاهده یک موزه یا برای دکتری که عمل جراحی انجام می‌دهد، یا برای آتش‌نشان‌هایی که وارد یک ساختمان ناشناخته می‌شوند، بسیار مفید باشند. اما من فکر می‌کنم ما باید بر کشش آن‌ها برای این که طبع دوم شوند (چه برسد به طبع اول)، مقاومت کنیم.

بگذارید که در مورد این اشتباهی انجام ندهیم: بسیاری از این ادوات، خدمات و پلتفورم‌ها (چه به صورت باز و عمداً یا سهواً) در جستجوی کاهش یا ریشه‌کنی کامل تفاوت میان ما (طبع انسانی) و آن‌ها (طبع دوم) هستند زیرا با دستیابی به این هدف، آن‌ها مطلقاً پرهیز ناپذیر شده و بی‌نهایت از لحاظ تجارتی ارزشمند خواهند شد.

دیگر نمی‌توانم بدون استفاده از همة ادوات ردیابی و برنامه‌های کاربردی، یک انسان سالم باشم؛ من تعجب می‌کنم چگونه ما بدون آن‌ها حتی وجود داریم! انگار مأموریت برای آن‌ها به اتمام رسیده است.

من باید بر این پافشاری کنم که ما نباید به فناوری اجازه دهیم فراتر از مرحلة طبع دوم حرکت کند؛ در واقع، بسیاری از فناوری‌ها هم اکنون در حال اسکیت سواری بر روی یخ نازک هستند. اما فناوری‌ای که طبع (ما) می‌شود به معنای این است که طبیعت انسانی نیز بدل به فناوری می‌شود؛ همان گونه که من در سراسر این کتاب استدلال می‌آورم که این مسیری خوب به سوی شادمانی انسانی نخواهند بود.

این گزیده از مصاحبة انیستیتو نیچر²²³ در سال 2016 با استفن تالبوت²²⁴، این چالش را به خوبی توصیف می‌کند:

اگر که فقط ما با توان بیشتری از توجه به این فناوری‌ها به صورت ویژه، کیفی، بومی، در اینجا و هم اکنون، روبه‌رو شویم، می‌توانیم توازن را نگه داریم. این یک قانون عمومی است که تا آنجا می‌دانیم نخست توسط رودلف اشتاینر²²⁵ بیان گردیده است: تا حدی که ما خودمان را به حد عالی به موجودیت به واسطة ماشین می‌سپاریم، ما باید با عزمی راسخ‌تر به سوی تعالی‌ترین بخش‌های وجود خودمان نایل شویم؛ در غیر این صورت، ما به تدریج، انسانیت خود را از دست خواهیم داد (129).

استفادة فناوری توسط ما، به صورت فزاینده‌ای تمایل فراوان دارد تا همچنان که دستاوردهای نمایی در اطراف ما به دست می‌آیند، از جادویی به شیدایی و سپس به زهرآگینی سیر کند.

چندین بار اتفاق افتاده است که ما ساعتی را در اینترنت گشت زده باشیم یا با یک برنامة کاربردی ور رفته باشیم بدون این که به خاطر داشته باشیم که در اول، در جستجوی چه چیزی بوده‌ایم؟ به قول معروف شخصاً به سوراخ خرگوش خزیدن یک چیز است ولی اگر جامعة ما بخواهد کلاً زندگی خود را در آن آغاز کند، چه می‌شود؟ ما هر روزه چه تجربیات منحصر به فرد انسانی را به اینترنت، تلفن همراه، فضای ابر، بوت‌هایمان و دستیاران هوشمند خود می‌سپاریم؟

چگونه می‌توانیم لحظات را مغتنم بشماریم وقتی که از مرزهای میان جادویی و شیدایی گذر می‌کنیم؟ چه هنگامی یا چگونه، شیدایی به زهرآگینی بدل می‌شود؟ زهرآگینی همانند چه خواهد بود در وقتی که دیگر پرسش زهرزدایی یک فرد واحد وجود ندارد ولی یک فرهنگ کل مطرح است؟ همچنان که Techne به «چه کسی» و همچنین «چگونه»، بدل می‌شود، آیا ما به اندازة کافی قوی و خود آگاه هستیم تا خود را بیدار سازیم؟

فصل هفتم
چاقی دیجیتالی: آخرین پاندمی ما

مادام که ما در گل‌ولای غوطه می‌خوریم و سیلی از اخبار، روزآمدها و اطلاعات مهندسی شدة الگوریتمی را که ممکن است چیزی باشند که تا خرخره می‌خوریم، خودمان را در یک حباب فناوری در حال رشد از سرگرمی‌ای پرسش برانگیز،
سرگرم می‌کنیم.

چاقی یک مورد جهانی است و بر طبق مک کنزی²²⁶ فقط در ایالات متحدة آمریکا موجب هزینة تخمینی 450 میلیارد دلاری در سال (از لحاظ هزینه‌های مراقبت‌های سلامت و از دست دادن بهره‌وری) می‌شود (130). مراکز کنترل و پیشگیری از بیماری آمریکا در سال 2015 بیان نموده که بیش از دو سوم آمریکایی‌ها دچار ازدیاد وزن هستند و به صورت برآوردی، 7/35 درصد چاق می‌باشند (131).

من بر این باورم همچنان که با حرص و ولع، فناوری را می‌خوریم و دچار چاقی دیجیتالی می‌شویم، در حال رسیدن به یک چالش مشابه یا بزرگ‌تر هستیم. من چاقی دیجیتالی را به صورت یک شرایط روانی و فناورانه تعریف می‌کنم که داده‌ها، اطلاعات، رسانه و اتصال یافتگی عمومی دیجیتالی به چنان گستردگی‌ای انباشت می‌یابند که مسلماً یک اثر منفی بر سلامت، تندرستی، شادمانی و عموماً زندگی دارند.

شاید مطابق انتظار و برخلاف شبه واقعیت‌های شوک‌آور سلامت، هنوز حمایت ناچیزی در سطح جهانی برای تنظیم سخت‌تر صنعت غذایی جهت پرهیز از افزودنی‌های شیمیایی سازندة اعتیاد یا توقف کمپین‌های بازاریابی که مصرف بیش از اندازه را ترویج می‌کنند، وجود داشته باشد. مواد غذایی زیان‌آور و قندها در جنگ پایان‌ناپذیر آمریکا بر علیه داروها، هرگز تا این حد مورد اشاره قرار نگرفته‌اند. همان گونه که مواد غذایی ارگانیک هم اکنون به نظر می‌آید عمدتاً در قرق افراد دارا و ثروتمند باشند، ما نیز به همین منوال می‌توانیم انتظار داشته باشیم که «بی‌نام و نشانی» و «محرمانگی» نیز به تجملات گران‌قیمتی تبدیل شوند که در خارج از دسترسی اکثر شهروندان باشند.

مصرف کنندگان، گجت‌ها و برنامه‌های کاربردی‌ای را خریداری می‌کنند که تصور می‌کنند به آن‌ها کمک می‌نمایند مصرف غذای آن‌ها را کاهش داده و موجب افزایش تناسب اندام‌شان شوند؛ مانند Fitbit، Jawbone، Loseit و هم اکنون Hapifork (که اگر سریع غذا بخورید با لرزش شما را آگاه می‌سازد) که در واقع این‌ها بسیار مفید هستند (132). به نظر می‌آید که این ایده وجود دارد که با خریدن (دانلود کردن) و مصرف محصول یا خدماتی دیگر می‌توان به صورت معجزه‌واری و بدون تلاش زیاد، مسئله اولیة مصرف بیش از حد را بر طرف ساخت.

ولع‌پذیری، کامیابی معنا می‌دهد

کلام آخرِ روشن این است که هر چقدر مردم بیشتر بخورند برای آن‌هایی بهتر است که غذای ما را تولید می‌کنند و می‌فروشند؛ برای مثال، کشاورزان، فرآوری کنندگان غذا، خواربار فروشان، سوپر مارکت‌ها، شرکاء فست فود، رستوران‌ها، بارها و هتل‌ها. افزون بر این، ما ممکن است شوک‌زده شویم اگر دریابیم هر سال، هر مصرف کننده‌ای در کشورهای توسعه یافته با بی‌میلی، به صورت تخمینی، 150 پوند از افزودنی‌ها را مصرف می‌کند، اکثراً قندها، مخمر و ضداکسیدان‌ها، همچنین چیزهای واقعاً ناخوشایندی مانند MSG (133). این مواد، روان کنندة مصرف‌گرایی هستند. آن‌ها نه تنها غذاها را خوش‌نماتر و بادوام‌تر می‌سازند بلکه از لحاظ مزه هم بهتر می‌کنند؛ این به همان اندازه گفتمان برانگیز است. بدین سان، مصرف کنندگان با گزارة زیرکانة مهندسی شدة «نیاز به بیشتر»، بر راسته کشیده می‌شوند به گونه‌ای که برای آن‌ها بسیار دشوار می‌شود برون‌رفتی را از این حکمرانی پایان‌ناپذیرِ «مصرف شادمانه» یافت نمایند.

اگر این مطلب موضوع فیسبوک یا گوشی همراه شما را به خاطر آورد، شما متوجه موضوع شده‌اید. صنعت غذایی حقیقتاً این را توانایی ولع (ولع‌پذیری)، نام می‌گذارد (134). در جهان فناوری، بازاریابان این را جادو، چسبندگی، ضرورت یا به صورت خوش‌خیم‌تر، «تعلق خاطر» و «درگیر شدن کاربر» می‌نامند.

ولع زدن و اعتیاد - مدل کسب‌وکار فناوری

تولید کردن این نوع ولع زدن یا سوخت رسانی به اعتیادهای دیجیتالی‌مان به چنین شیوة به ظاهر خوش‌خیم، آشکارا یک مدل نیرومند کسب و کار است (135). به کار بردن مفهوم ولع‌پذیری برای ابرگره‌های²²⁷ همراه - محلی - اجتماعی²²⁸ (SoloMo) برجسته‌ای مانند گوگل و فیسبوک یا پلتفورم‌هایی همانند واتساپ، آسان است. بسیاری از ما عیناً اتصال یافتگی را ولع می‌زنیم همچنان که زندگی روزانه‌مان را هدایت می‌کنیم و هنگامی که اتصال ما قطع می‌شود، ناکاملی احساس می‌کنیم.

با این حال، به طریقی من شگفت‌زده هستم که آیا واقعاً این در گرو منافع بنگاه‌های بزرگ اینترنتی می‌تواند باشد که تعداد عظیمی از کاربران آن‌ها به موارد چاقی دیجیتالی دچار شوند؟ آیا واقعاً این در قلمروی منافع برتر غول‌های اینترنت و فناوری که عمدتاً در مالکیت ایالات متحدة آمریکا هستند، قرار می‌گیرد؟ (136). در همین زمان، ما نمی‌بایست وسوسة فریبندگی قوی وابسته نمودن مصرف کنندگان بر این غذاهای دیجیتالی شگفت انگیز را دست کم بگیریم که ما را به سونامی فعالیت‌های تولید کنندة سروتونین مانند لایک‌ها، کامنت‌ها و روزآمد‌های دوست²²⁹، معتاد می‌کنند.

سال 2020 به نظر آورید که میلیاردها مصرف کنندة بیش اتصال یافته وجود داشته باشند که به صورت دیجیتالی چاق می‌شوند و به چکانش دائم اطلاعات، رسانه و داده‌ها معتاد می‌شوند و گرفتار حلقه‌های بازخوردی خودشان می‌گردند. این یک فرصت کسب‌وکار هوس‌انگیز سترگ است که از بازار افزودنی‌های غذایی جهانی پیشی خواهد جست؛ پژوهش‌های شفافیت بازار، ارزش این بازار را به حدود 2/28 میلیارد دلار در سال 2018، پیش‌بینی کرده است (137).

برای یک مقایسه سرانگشتی، فروم اقتصاد جهان، پیش بینی می‌کند که ارزش تجمعی دیجیتالی شدن می‌تواند به 100 تریلیون دلار ظرف ده سال آینده، دست یابد. آن‌ها پیشنهاد می‌کنند که این فرصت ”خلق یک آیندة نویدبخش نیروی کار که آدم‌ها و ماشین‌های هوشمند با یکدیگر کار می‌کنند تا چگونگی کارکردن و زندگی کردن جهان را بهبود دهند“، برجسته می‌سازد (138). من می‌پذیریم که این ایده را دوست دارم ولی نمی‌توانم ببینم چگونه ما هنوز می‌توانیم انسانیت خودمان را در چنین جامعه‌ای که به شکل بسیار بالایی ماشین‌گرا است، ابقاء کنیم.

مسئولیت چاقی با چه کسی است؟

با بازگشت به غذا، شما ممکن است بپرسید: اگر صنعت غذا این قدر پول را با اندکی رهیافت شیطان صفتی‌اش برای اعتیاد و ولع‌پذیری فراهم می‌آورد، چرا باید با این تعداد اندک مصرف کننده‌ای که نمی‌توانند با این وسوسه‌های فریبنده کنار بیابند خود را به دردسر انداخت؟ آیا این تقصیر و مسئولیت خودشان نیست؟ آیا کسی برهان نمی‌آورد که هر فرد مصرف کننده‌ای باید در نهایت مسئول رسیدگی به مصرف غذایی خود باشد؟ از همة این‌ها گذشته این یک جهان آزاد است و این ارادة آزادشان است، درست است؟

مسئله این است که در دوران پیش‌رو فزایندة نمایی اطلاعات و فراوانی در اتصال یافتگی، این راهبرد عدم مداخله، غیرپایدار است، دقیقاً به این خاطر که ما فقط در نقطة عطف منحنی نمایی هستیم؛ بزرگترین شوک‌ها هنوز مانده است که دیده شوند!

دو چالش کلیدی در وهلة اول این است که غذای دیجیتالی عمدتاً رایگان یا بسیار ارزان است و بسیار گسترده‌‌تر از غذای فیزیکی در دسترس می‌باشد و دستیابی به آن بی‌درنگ بوده و با تقریباً بدون هزینه، انتشار می‌یابد. دوم آن که اثرات جانبی و پیام‌های هشدار دهندة فیزیکی اندکی وجود دارند. اکثر مصرف کنندگان درک نمی‌کنند چه رخ می‌دهد یا ذهن خود را بر مصرف دیجیتالی و اتصال یابندگی فزاینده معطوف می‌دارند تا این که یک مسئلة بسیار آشکار رخ دهد مثل مسئلة اعتیاد به بازی نوجوانان در کره جنوبی (135). زمانی که چاق هستید بسیار دشوار است که زندگی خود را به پارادایم متفاوتی از نوآراسته کنید.

من این اعتقاد دارم که ما فوراً هنوز به سیاست‌های عمومی دقیق و روان؛ قراردادهای اجتماعی نوین؛ استانداردهای سلامت دیجیتالی جامع؛ مقررات بومی شده و پاسخگو؛ و مسئولیت‌پذیری ژرف‌تر و درگیر شدن بازارها و تبلیغ کنندگان، نیاز داریم. فراهم کنندگان فناوری نیاز دارند (و من باور دارم بسیاری هم اکنون می‌خواهند) به حمایت از یک بیانیة جامع متوازن از حقوق دیجیتالی یا سلامت دیجیتالی بپردازند و خویشتن داری کنش‌گرا را مد نظر قرار دهند و به یک مدل کسب‌وکار جامع‌تر که واقعاً مردم را در صدر قرار می‌دهد، روی نشان دهند. از همه گذشته، اتصال یابندگی فزاینده، قطعاً به هدف نهایی ما بدل نمی‌شود؛ همان گونه که کارآمدی فزون یافته نمی‌تواند تنها مقصود کسب‌وکار باشد. گذاشتن مردم در صف اول، گذاشتن شادمانی‌مان در اول را معنا می‌دهد و من برهان خواهم آورد که این تنها راه برای خلق سودمندی‌های پایانی در کسب‌وکار و همچنین جامعه است.

”تفاوت میان فناوری و بردگی آن است
که بردگان کاملاً آگاه هستند که آن‌ها آزاد نیستند.“
نسیم نیکلاس طالب²³⁰ (140).

یک سونامی از داده‌ها می‌آید

همچنان که مقدار داده‌ها، اطلاعات و رسانة در دسترس، به صورت نمایی رشد می‌کند به همان منوال نیز یک چالش چاقی دیجیتالی سترگ به صورت بزرگ در حال پدیدار شدن است. ما نیاز داریم که به آن به صورت جدی‌ای بپردازیم و با آن رویارویی بیابیم؛ زیرا فشار دیجیتالی حتی فلج کننده‌تر از چاقی فیزیکی خواهد بود. هم اکنون ارتباطات و اطلاعات فراوانی در زندگی‌مان وجود دارد (در واقع، مسلماً بی‌کران است) و پارادوکس گزینش، به صورت دیوانه‌واری در اطراف ما جاری است (141).

ما با یک کوه از شدنی‌هایی روبه‌رو هستیم که در همة زمان‌ها و هر جایی هستند و بسیار خوشگوار، بسیار ارزان و بسیار غنی می‌باشند. روزی نیست که بدون سرویس دیگری باشد که این سرویس، روزآمد کردن دوستان رو به افزایش‌مان را ارائه ندهد؛ راه‌های بیشتری برای از هم گسیخته شدن توسط اعلان‌های پی‌درپی بر روی تقریباً هر پلتفورمی وجود دارند. شاهد این مطلب، مقبولیت رو به رشد ساعت‌های مچی هوشمند است که هم اکنون بیش از ساعت‌های سوئیسی به فروش می‌روند (142). ما هم اکنون با رشد نمایی در گزینه‌های مصرف روبه‌رو هستیم؛ اخبار بیشتر، موسیقی بیشتر، فیلم‌های بیشتر، ادوات همراه بیشتر، بهتر و ارزان‌تر؛ از قرار معلوم اتصال یافتگی تام اجتماعی.

ما در حال غرقاب شدن در دریایی از برنامه‌های کاربردی هستیم، برای دوست‌یابی، برای طلاق، برای گزارش چاله‌چوله‌ها، حتی (همان گونه که ما دیده‌ایم) برای پایش پوشک‌های بچه (143). ما تحت یورش 24 ساعت در روز و هفت روز هفته از ارتباطات و آگاه‌رسان‌های بر پایة مکان مانند iBeacons، کوپن‌های دیجیتالی، شیوه‌های نوین فرستادن و دریافت کردن پیام‌ها با هزینة صفر، 500 میلیون توییت در روز (144)، 400 ساعت بارگذاری ویدئو به یوتیوب هر دقیقه (145) و ادامة فهرست رو به رشد به همین منوال، روبه‌رو هستیم. یک سونامی راستین از ورودی و «فراوانی» در بیرون وجود دارد ولی یک کمیابی یا فقدان معناگرایی را در درون با خود خلق می‌کند. به زبان دیگر، ما به صورت روز افزونی، گزینه‌هایی با هزینه‌های پایین‌تری داریم ولی ما در همة اوقات بیشتر نگرانی دربارة از دست دادن این داریم که ”چه می‌توانستیم انجام بدهیم“. این به کجا می‌رود؟

فراوانی در بیرون، کمیابی در درون - دوچرخه‌هایی برای روان یا گلوله‌هایی برای روح؟

ما با درون‌داد اطلاعاتی تحت بمباران هستیم و به همان اندازه تا خرخره می‌خوریم؛ بسان روزی که فقط با 99/9 دلار آمریکا تحت عنوان (همة شما می‌توانید بخورید)، در بوفه‌های لاس وگاس می‌خوردیم. بیش بارگذاری‌های قوت دیجیتالی، مسلماً مورد علاقة گوگل و همسانان چینی آن Baidu و علی بابا هستند. جوهره و استعداد گوگل در خلق یک بهشت بی‌نقص و عیب (یا حداقل یک پادشاهی) از مصرف متقاطع نهفته است که از تعداد عظیمی از پلتفورم‌های بسیار چسبناک و وایرال مانند جی‌میل، نقشه‌های گوگل، گوگل پلاس، Google Now، یوتیوب، آندروید و Google Search برگرفته می‌شوند. گیتی «گوگل» چنان بیش کارآمد، بسیار راحت و بسیار اعتیادآور است که به تخت شدگی مطلق مغز، چشمان، گوش‌هایمان و حتی قلب‌ها و روح هایمان، ما را تهدید می‌نماید. من دوست دارم به این با عنوان مسئله فراوانی بیرونی/کمیابی درونی ارجاع دهم و همچنین مسئله غامض دوچرخه‌ها برای ذهن یا گلوله‌ها برای روح: در همین زمان که ذهن‌های ما یک نوع حداکثر سرعت را به دست می‌آورند چون که با گوگل و غیره توان می‌گیرند، سرخرگ‌هایم با همة آن دور ریختنی‌هایی که از این ضیافت‌های بدون توقف دیجیتالی می‌آیند، بسته می‌شوند و قلب‌هایمان از بسیاری ارتباطات پیوندهای واسطه‌ای بی‌معنایی که فقط در صفحه‌ها (اسکرین‌ها) زیست می‌کنند، سنگین می‌گردند.

اگر واقعاً ”گوگل مرا بهتر از زنم می‌شناسد“، ما باید مطمئناً به ملاحظة این که چه کسی به کی خدمت می‌کند، بپردازیم (146). آیا چاقی دیجیتالی در سامانه طراحی شده است، آیا بیش از یک برنامة کاری نهفته است یا این که فقط یک پیامد ناخواسته از آن بسیار اندک ذات‌هایی می‌باشد که اکنون بر هر نوع از زندگی دیجیتالی‌مان، حکمرانی می‌کنند؟

”ما از دیدگاه نورولوژیک، آن چه به آن فکر می‌کنیم، می‌شویم.“
نیکولاس کار²³¹ (147).

”هر قدر یک دردمند بر علائم خودش تمرکز می‌یابد، آن علائم ژرف‌تر در درون مدارهای عصبی‌اش نقش‌بندی می‌کنند.“ این را نیکولاس کار در ”اینترنت بر مغزهایمان چه انجام می‌دهد“ می‌نویسد:

”در بدترین موارد، ذهن ضرورتاً خود را مریض تربیت می‌کند. بسیاری از اعتیادها نیز با تقویت یافتن مسیرهای شکل‌پذیر به مغز، نیرومندتر می‌شوند. حتی دوزاژهای بسیار ناچیز داروهای مخدر می‌توانند به صورت چشمگیری، جریان انتقال دهنده‌های عصبی در سیناپس‌های یک فرد را تغییر دهند و منجر به ارتباطات طولانی مدت در مداربندی و عملکرد مغز شوند. در بعضی موارد، انباشت بعضی از انواع انتقال دهنده‌های عصبی مانند دوپامین که یک عموزادة آدرنالین است به نظر می‌آید واقعاً روشن و خاموش کردن ژن‌های خاصی را بر می‌انگیزد که ولع‌های حتی نیرومندتری را برای داروی مخدر فراهم می‌آورد. یک مسیر حیاتی به مسیری مرگ‌آور بدل می‌شود (148).

حدواسط‌های نوینی همچون واقعیت افزوده و واقعیت مجازی به چالش اضافه می‌شوند

با سریع‌تر و ارزان‌تر شدن نماییِ اتصال یابندگی، ادوات و برنامه‌های کاربردی، و همچنین باز ابداع حدواسط‌های اطلاعاتی، دستیابی به یک تغذیة دیجیتالی متوازن، حتی سخت‌تر خواهد شد. ما از خواندن و نگاه کردن به صفحه‌ها به صحبت کردن با ماشین‌ها و فقط فکر کردن برای هدایت آن‌ها، رهسپار خواهیم شد. کوتاه سخن آن که، ما از GUI به NUI (کاربرد حدواسط گرافیکی به کاربرد حدواسط طبیعی)، سفر می‌کنیم. در نقطه‌ای نه چندان دور از آینده، ما شاید مجبور باشیم پرسش‌هایی غایی را ملاحظه کنیم: آیا ما هم اکنون در درون ماشین زندگی می‌کنیم یا ماشین در درون ما زندگی می‌کند؟

داده‌ها، نفت نوین هستند: پرداخت کنید یا این که محتوا شوید

این بارها گفته شده است ولی شایستگی بازگو کردن دارد: داده واقعاً دارد نفت نوین می‌شود. آن شرکت‌هایی که داده‌های بزرگ و جامعة شبکه‌سازی شده معروف را تغذیه می‌کنند، به سرعت به شرکت‌های غول‌آسای نفتی‌ای همچون Exxon-Mobils تبدیل می‌شوند که حریصانه تریاک نوین را برای توده‌ها مهیا می‌سازند: غذای دیجیتالی، اتصال یافتگی تام، ادوات همراه نیرومند، محتوای رایگان، ابَرچسب (اجتماعی، محلی و همراه) (SoloMo) از فضای ابر از طریق بوت‌ها، و دستیاران هوشمند مجازی (IDA). آن‌ها قوتی را فراهم می‌سازند که ما (که پیش از این به عنوان مصرف کنندگان شناخته می‌شدیم) در واقع خودمان از طریق فقط حضور و مشارکت‌مان خلق می‌کنیم و به اشتراک می‌گذاریم (149).

با این وجود، اکثر ما خود را در درون این باغ‌های به زیبایی آراسته از گوگل، فیسبوک، Weibo، LinkedIn و بسیاری دیگر، بسیار راحت می‌یابیم. ما تا آنجا که ممکن است مصرف می‌کنیم و این در حالی است که مشتاقانه بسان غذا برای دیگران می‌شویم. همان گونه که اسکات گیبسون²³²، نویسنده، در بلاگ Forbes بیان کرده است، ”چنانچه شما پرداخت نکنید، شما محتوا می‌شوید“ (150).

ما به شیوه‌هایی بی‌سابقه‌ای، یکدیگر را می‌چپانیم و اکثراً این به شکل باور نکردنی‌ای، اغنا کننده، رضایت‌مندانه و اعتیادآور است. امّا آیا این یک نیروانا²³³ ]رستگاری در اثر از بین بردن خواسته‌ها و شهوات و ادغام روح در روح کل = سعادت کامل[، یک دادوستد فاوستی²³⁴ زیرکانه یا یک دستورالعمل قطعی برای فاجعه است؟ یا این که این همه‌اش بستگی به این دارد که چه کسی عمل پرسیدن را انجام می‌دهد؟

افق 2020 برای چاقی دیجیتالی

سیسکو (Cisco) پیش‌بینی می‌کند که در سال 2020، 52 درصد از جمعیت جهان از طریق اینترنت به یکدیگر اتصال خواهند یافت (حدود 4 میلیارد کاربر) (151). از آن پس، هر جزء اطلاعات، هر تصویر، هر ویدئو، هر دانه از داده‌ها، هر چیز مکان و هر فاش کردنی، به واسطة هر انسان اتصال یافته احتمالاً مورد پایش، گردآوری، اتصال دادن و پالایش به سوی رسانه، داده‌های بزرگ و کسب‌وکار هوشمند قرار می‌گیرد. هوش مصنوعیِ توان یافته با رایانه‌های شناختی کوانتومی، بینش‌های بغرنجی از زتابیت‌ها²³⁵ (سکستیلیون (10²¹)/ 2⁷⁰ بیت) دادة بلادرنگ تولید خواهند کرد. دیگر هیچ چیزی غیرقابل مشاهده باقی نخواهد ماند.

به روشنی این می‌تواند یک بهشت باشد چنانچه شما یک بازاریاب، یک فروشندة ابزارهایی که این وظایف را ترتیب می‌دهند، یک عامل دولتی بسیار حریص یا فقط یک ابَرگیک²³⁶ باشید. یا این می‌تواند جهنم باشد، با در نظر گرفتن این احتمال متمایز کننده که اطلاعاتِ بسیار سوپر شارژ شده، امکان پایش و مراقبت جهانی لاینقطعی را فراهم خواهد نمود؛ همان گونه که افشاگری‌های اسنودن²³⁷ به صورت دردآوری از سال 2013 هویدا نموده‌اند (152). نه تنها ما با اطلاعات ممکن است چاق شویم بلکه ما عریان نیز خواهیم شد؛ تصویری که چندان زیبا نمی‌باشد!

«اگر ما بتوانیم» دیگر وجود ندارد ولی «اگر ما باید» هست

من پیش‌بینی می‌کنم این پرسش که آیا فناوری می‌تواند چیزی انجام دهد به زودی با این پرسشِ بیشتر مرتبط جایگزین می‌گردد آیا ما باید آن چه فناوری هم اکنون ما را برآورده می‌سازد، انجام دهیم و چرا؟ این هم اکنون برای بسیاری از نوآوری‌ها و روندها همچون رسانة اجتماعی، خودِ کمّی شده²³⁸، عینک گوگل؛ چاپ سه بعدی یا رخداد حتمی تکینگی²³⁹ مفروض نیز مصداق دارد (بنگرید فصل 1).

در زمینة چاقی دیجیتالی، کلام آخر این است: از آن جا که همة این رسانه‌ها، داده‌ها، دانش و حتی خرد، به صورت بلادرنگ و رایگان در دسترس قرار می‌گیرند، آیا ما نیاز داریم که در آن، در همة اوقات، غوطه‌ور شویم؟ آیا ما واقعاً به یک برنامة کاربردی نیاز داریم تا به ما بگوید این بخش از موسیقی کجا قرار دارد؛ آیا ما واقعاً به یک بازبینی ژنوم‌مان در پیش از این که بر سر قرار عاشقانه‌ای برویم، نیاز داریم؛ و آیا ما واقعاً به شمردن گام‌هایمان نیاز داریم چنان که تناسب اندام‌مان بتواند در یک شبکة اجتماعی، روزآمد شود؟

از «بیشتر، بهتر است» به سوی «کمتر، بهترین است»

در نهایت، به اینجا می‌انجامد: همان گونه که در مورد غذا، چاقی بسیار آشکار است، ما نیز به صورت فوری نیاز داریم یک توازن فردی در تغذیة دیجیتالی‌مان دریافت کنیم. ما باید تعریف کنیم، چه موقع، چه چیز و به چه مقدار اطلاعات اتصال می‌یابیم و می‌خوریم. چه موقع می‌بایست دریافت خودمان را کاهش دهیم، زمانی نیز برای هضم بگذاریم، در لحظه باشیم، یا حتی گرسنه بمانیم؟ بله، یک فرصت کسب‌وکار واقعی در اینجا نیز وجود دارد: آفلاین بودن یک تجمل جدید است.

من بر این باورم که در چند سال آینده، عادت مصرف دیجیتالی ما از پارادایم آفلاین سنتی و اینترنت نسل اول تحت این گزاره که «بیشتر، بهتر است» به مفهوم «کمتر، بهترین است» گذر می‌کند. در چشم‌انداز این توازن قطعی میان نادانی و همه چیز دانی (از آنجا که هیچ یک از این دو انتها مطلوب نیستند)، ما ممکن است از آلبرت انیشتین تبعیت بجوییم یعنی زمانی که گفت ”هر چیزی باید تا امکان دارد ساده شود ولی نه ساده‌تر“ (153).

فصل هشتم
تدابیر احتیاطی در برابر پیش کنش‌گرایی

ایمن‌ترین و هنوز نویدبخش‌ترین آینده آن است که ما نوآوری را به تعویق نیندازیم ولی ما هم نباید خطرات نمایی آن که هم اکنون شامل می‌شود را از سر بیرون کرده و رسیدگی کردن به آن‌ها را به عنوان «وظیفة شخص دیگری» محسوب کنیم.

همچنان که توان فناوری به صورت نمایی افزایش می‌یابد، من بر این باورم که این بحرانی می‌باشد که می‌بایست یک توازن پایدار میان تدابیر احتیاطی²⁴⁰ و پیش کنش‌گرایی²⁴¹ تعیین شود. تدابیر احتیاطی به معنای نگریستن فعالانه بر آن چه که ممکن است رخ دهد می‌باشد (نتایج ممکن و پیامدهای ناخواسته) در پیش از این که ما در مسیر یک اکتشاف علمی یا توسعة فناورانه قرار بگیریم. برعکس، رهیافت پیش‌کنش‌گرایانه یک منش رو به جلو به نفع پیشرفت است در پیش از این که همة خطرات احتمالی و عواقب آن‌ها روشن باشند.

آیا اگر که ابداعات حاصله ممکن باشد اثر عملی مضری بر انسانیت داشته باشند باید علم، مخترعین و کارآفرینان را محدود سازیم؟ مطلقاً. آیا ما باید خیزش‌های علمی که عمدتاً ممکن است مفید به جامعه باشند را منع کرده و از سرعت آن‌ها بکاهیم و آیا مقرراتی نیاز داریم تا بتوانیم یک پیامد متوازن را به دست آوریم؟ مطلقاً خیر. در واقع، منع کردن چنین پیشرفت‌هایی حتی ممکن است امکان ناپذیر باشد.

مسلماً پاسخ به این پرسش در یک توازن جامع و خردمندانه میان این دو، امکان‌پذیر خواهد بود، این یک بار دیگر ما را می‌طلبد که ناظرین بهتری برای آینده باشیم.

بگذارید این دو موقعیت را با جزئیات بیشتری جستجو کنیم.

در نخست تدابیر احتیاطی برخاسته از ملاحظات زیست محیطی بر این اساس قرار دارند که می‌بایست به آن‌هایی که چیزهایی با پیامدهای احتمالی ویرانگرانه خلق می‌کنند اجازه داده نشود پیش روند تا وقتی که اثبات کرده باشند که هر پیامد ناخواسته‌ای از آن را واقعاً می‌توان کنترل نمود. به زبان دیگر، بار مسئولیت اثبات این که یک مخاطره زیان‌آور نیست بر دوش آن‌هایی می‌افتد که می‌خواهند آن را انجام دهند.

این اصل در پژوهش‌های DNA نوترکیب (کنفرانس اسیلومار²⁴²) به کار برده شد و تفسیر آن به صورت مستقیم بر کارِ انجام شده در برخورد دهندة عظیم هادرون²⁴³ موجود در CERN سوئیس اثر گذاشت تا به نگرانی‌هایی که ممکن است این کار سهواً تولید یک سیاه‌چاله²⁴⁴ کند، بپردازد (154و155). همانند برخورد دهندة هادرون عظیم، باید اقدامات احتیاط جمعی بر توسعه‌های فناورانه به صورت آشکاری بر نوآوری احتمالی فاجعه‌آمیز که ممکن است خطرات موجودیتی برای انسانیت خلق کنند، پیشی جویند. بیانیة سال 1999 وینگ اسپرید²⁴⁵، اصل تدابیر احتیاطی را چنین چکیده می‌سازد:

”هنگامی که یک فعالیت، تهدیداتی را از زیان بر سلامت انسان تا محیط‌زیست بر می‌انگیزد، تدابیر احتیاطی می‌بایست اتخاذ شوند حتی اگر برخی از ارتباطات علت و معلولی، به صورت علمی، هنوز برقرار نشده‌اند. در این زمینه، حامیان این فعالیت تا این که عموم مردم، می‌بایست بار مسئولیت اثبات را متحمل شوند.“ (156)

بیانیة ریو²⁴⁶ سال 1992 حتی یک مادة قوی‌تر را بیان می‌دارد: ”در جایی که تهدیدات جدی یا آسیب غیرقابل بازگشت وجود داشته باشند، فقدان قطعیت کامل علمی نباید از آن به عنوان دلیل معوق گذاشتن اقدامات کارآمد هزینه‌ای، استفاده شود.“ (157)

من فکر می‌کنم هر دوی این بیانیه‌ها هنگامی که به هوش مصنوعی، هوش ماشینی، سامانه‌های خودکار، ویرایش ژنوم انسانی و مهندسی ژئو می‌نگریم، می‌توانند هنوز مصداق داشته باشند، برعکس، اصل پیش‌کنش‌گرایی، برهان می‌آورد که انسانیت همیشه فناوری را ابداع کرده است و همیشه بار بسیاری از خطرات انجام آن را پذیرفته است. بنابراین، ما نباید محدودیت‌های بی‌مورد را به آن چه افراد می‌توانند ابداع کنند یا خیر، اضافه کنیم. افزون بر این، این اصل تصریح می‌کند که ما باید هزینة محدودیت‌های احتمالی و هم هزینه‌های فرصت‌های بدیهی را محاسبه کنیم.

اصل پیش‌کنش‌گرایی توسط ماکس مور²⁴⁷، فیلسوف فرا انسان‌گرا معرفی شد و آن گاه توسط استیو فولر²⁴⁸، جامعه‌شناس انگلیسی به وضوح بیان گردید (159). از وقتی که ایدة فرا انسان‌گرایی بر مفهوم فرا رفتن از بیولوژی‌مان پایه‌گذاری شده است (برای مثال، احتمال حداقل قسمتی ماشینی شدن از بدن‌مان)، طبیعتاً پیش‌کنش‌گرایی منع نشده نیز بخشی از داستان است؛ جای شگفتی‌ای در اینجا وجود ندارد.

یک توازن انسان‌گرایانه و متفکرانه

این چیزی است که من در اینجا پیشنهاد می‌نمایم: تدابیر احتیاطی فراوان ممکن است ما را با ترس فلج سازد و یک چرخة خود تقویت کنندة محدودیت را خلق کند. سوق دادن فعالیت‌ها یا ابداعات تغییر دهندة علم مرزشکن، فناوری، مهندسی و ریاضیات (STEM) به اندرون زیرزمین، به احتمال زیاد، کسانی که آن‌ها را انجام می‌دهند به مجرمانی تبدیل خواهند کرد. این آشکارا یک پاسخ خوب به این مسئله نیست زیرا ما ممکن است واقعاً چیزهایی کشف کنیم که وظیفة انسانی‌مان می‌باشند تا قلمروی بعدی را مورد مکاشفه قرار دهیم، مانند احتمال پایان دادن به سرطان. چیزهایی که انسانیت را شکوفا می‌سازند ما را وادار می‌کنند که آن‌ها را آزاد بگذاریم.

با این وجود، یک رهیافت پیش‌کنش‌گرایانة مطلق، برای ما کار نخواهد کرد، به هیچ وجه، زیرا با در نظر گرفتن پیشرفت‌های نمایی، ترکیبی و ماهیت وابسته به یکدیگر فناورانه که ما هم اکنون تجربه می‌کنیم، بسیاری در معرض خطر قرار می‌گیرند. یک ترس که تقریباً قطعی است این می‌باشد که اگر ما فقط رهیافت کنش‌گرایانه را امروزه مقرر سازیم فناوری در نهایت بر انسانیت پیشی خواهد جست. به همان گونه که اگر در تدابیر احتیاطی زیاده‌روی شود، پیشرفت و نوآوری فرو خواهد نشست، پیش کنش‌گرایی فراوان نیز برخی از نیروهای نیرومند و احتمالاً غیرقابل کنترل را رها خواهد ساخت که ما باید آن را در زمان حاضر محبوس نگه داریم. مانند همیشه، چالش ما یافت و نگهداشت تراز و تعادل خواهد بود (میان جعبة پاندورا و چراغ علاء‌الدین).

ما در یک مسیر نمایی و ترکیبی در بسیاری از رشته‌های وابسته به STEM هستیم. بسیاری از رهیافت‌های سنتی در زمینة امن نگه داشتن، اثبات خواهند شد که بی‌استفاده می‌باشند زیرا سرعت تغییر و بزرگی پیامدهای ناخواستة بالقوه، به شکل چشمگیری، از آن هنگام که ما به نقطة عطف منحنی رشد نمایی فناوری در سال 2016 رسیده‌ایم، فزونی یافته‌اند؛ یعنی هنگامی که ما آغاز به فزونی از 4 به 8 (نه پنج) نمودیم و آن گاه گام واقعاً بزرگ اول را برگرفتیم.

رهیافتی که هنگامی که ما از 01/0 به 02/0، دو برابر شدیم یا حتی از یک به دو می‌رفتیم به خوبی کار می‌کرد دیگر ممکن است اکنون مناسب نباشد، در زمانی که ما به صورت متوالی از 4 تا 128، دو برابر می‌شویم؛ مخاطرات چنان بالاتر و پیامدها چنان دشوارتر برای اذهان انسانی هستند که به سادگی نمی‌شود آن‌ها را درک نمود.

پیامدهای کنش‌گرا بودنِ زیادی را با هوش مصنوعی، مهندسی ژئو یا ویرایش ژنوم انسانی تصور کنید. ورود به یک مسابقة تسلیحاتی با سلاح‌های کنترل شده با هوش مصنوعی را تصور کنید که می‌تواند بدون نظارت انسانی، به قتل بینجامد. ملت‌های فرومایه و کنش‌گران غیردولتی را تصور کنید که آب و هوا را تجربه و کنترل کرده و موجب آسیب دائم جو می‌شوند. یک آزمایشگاه تحقیقاتی را در یک کشور نه چندان شفاف تصور کنید که با یک فرمول برای برنامه‌نویسی ابَرانسان‌ها، بالا آید.

جیمز باررات²⁴⁹ در کتابش، ابداع نهایی ما: هوش مصنوعی و پایان دوران انسان، یک چکیدة خوب از این مسئلة غامض ارائه می‌دهد: ما یک هوش مصنوعی را نمی‌خواهیم که اهداف کوتاه‌مدت‌مان را برآورده می‌سازد (لطفاً ما را از گرسنگی نجات دهید) آن هم با راه‌حل‌هایی که در طولانی مدت زیان‌آور هستند؛ با برشته کردن هر جوجه‌ای بر روی زمین؛ یا با راه‌حل‌هایی که به آن‌ها اعتراض خواهیم کرد؛ با کشتن ما پس از وعدة غذایی بعدی‌مان (160).

پیش رفتن با شور و شوق فناورانة محدود نشده و مطلق یا فقط گفتن این که این اغماض ناپذیر است یا سرنوشت‌مان است، خطر فراوانی حاصل می‌دهد.

این ارزش خواندن بیانیة اصیل ماکس مورِ فرا انسان‌گرا در مورد این موضوع در سال2005 را دارد:

”اصل تدبیر احتیاطی، در حالی که توسط بسیاری از حامیانش با حسن نیت پذیرفته شد، ذاتاً نهادهای تصمیم‌ساز را به سوی وضعیت موجود، به یک طرف متمایل می‌کند و یک دیدگاه بی‌نهایت بدبینانه از پیشرفت فناورانه و واکنشی را بازتاب می‌دهد. برعکس، اصل پیش کنش‌گرایانه، تمام طرف‌ها را وادار می‌کند که به صورت فعال تمام پیامدهای یک فعالیت، چه خوب و چه بد را به حساب آوردند؛ در حالی که اقدامات تدابیر احتیاطی را به تهدیدات واقعی که ما با آن‌ها روبه‌رو می‌شویم، اختصاص می‌دهند.

در حالی که خود تدابیر احتیاطی به استفاده کردن از آینده‌پژوهی برای پیش‌نگری اشاره دارد و برای تهدیدات احتمالی خودش را آماده می‌سازد، امّا اصلی که حول آن شکل گرفته است، تندرستی انسان را مورد تهدید قرار می‌دهد. اصل تدبیر احتیاطی در بسیاری از مقررات معاهده‌های زیست محیطی بین‌المللی مقدس شمرده شده است، و از این رو، ارائه یک اصل جایگزین و مجموعة ضوابط، فوریت می‌یابد.
اگر ما کاستی‌های اصل تدبیر احتیاطی را درک کنیم، نیاز به اصل پیش‌کنش‌گرایانه، روشن می‌شود.“ (161)

از سوی دیگر، من نمی‌توانم با عمدة استدلال مور، واقعاً مخالفت کنم، به ویژه با در نظر گرفتن تجربیات گذشتة سیلیکون والیِ من، به عنوان یک کارآفرین اینترنت که با تلاش به جلو رفتن با نوآوری توأم بود. ولی از سوی دیگر، ماکس این را در سال 2005 نوشت، یعنی حدود ده سال پیش از این که ما به نقطة عطف فناوری‌های نمایی برسیم. آن چه که معقول و منطقی ولی اندکی فن محور به نظر می‌رسیده در آن زمان می‌توانست منجر به تصمیمات خطرناک امروزی شود. آیا شما واقعاً می‌خواهید آیندة شما توسط دولت‌های غیرشفاف و ناپاسخگو تعیین شود، حکمرانان سیلیکون والی، سرمایه داران مخاطره‌پذیر آزمند، یا همچنین سازمان‌های نظامی‌ای مانند آژانش پروژه‌های تحقیقاتی پیشرفتة دفاعی آمریکا (DARPA)؟

فصل نهم
برگرفتن رویداد شانسی از دل شادمانی

یک فناوری بزرگ، لحظات سریع خوشی لذت‌جویانه‌ای را شبیه‌سازی می‌کند، ما چگونه می‌توانیم
از اشکال ژرف‌تر شادمانی که شامل همدردی،
شفقت و هوشیاری است، حفاظت کنیم؟

شادمانی: شگون خوب یا شانس در زندگی یا در امر خاصی؛ موفقیت، شکوفایی

رویداد شانسی: وقایع اتفاقی؛ یک هم رویدادی (لغت نامة انگلیسی آکسفورد)

شادمانی چیست؟

در سراسر این کتاب من برهان می‌آورم که جستجوی حداکثر شادمانی انسانی، باید هدف اولیة پیشرفت فناورانه باشد. تلاش برای شادمانی یک جزء ضروری از انسان بودن است؛ همة ما را متحد می‌سازد. همان گونه که ما اخلاق (گرچه نه لزوماً مذهب) داریم، جستجوی شادمانی یک قاعده جهان‌شمولی است که توسط همة انسان‌ها، بدون در نظر گرفتن فرهنگ یا سامانة اعتقادی، به اشتراک گذاشته می‌شود.

ما همگی در جستجوی مداوم شادمانی در سراسر زندگی‌مان هستیم. تصمیمات روزانة ما توسط این تکانه به پیش رانده می‌شود تا تجربیات لذت بخش یا اغنا کننده را خلق کند، چه افراط کردن در شادی و مسرت آنی باشد یا به تأخیر انداختن رضایتمندی در انجام دادن خدمتی با سودمندی طولانی‌مدت، یا دنبال کردن اغنای بالاتر در فراتر از نیازهای اساسی غذا و پناهگاه.

همچنان که ما با همگرایی انسان و ماشین روبه‌رو می‌شویم، من فکر می‌کنم این ضروری است که نباید شانس را با شادمانی اشتباه بگیریم. شانس، بیشتر یک رخداد است در حالی که شادمانی یک جستجوی طراحی چهارچوبی درست می‌باشد.

من قویاً بر این باورم که ما باید دنبال کردن شادمانی و شکوفایی انسان را در مرکز این بحث انسان - ماشین قرار دهیم. اگر فناوری نتواند شکوفایی انسان را ترقی دهد چه نیتی برآورده می‌سازد؟ بله، من فکر می‌کنم این برای ما امکان‌پذیر است که آیندة خودمان را به چنین شیوه‌ای طراحی کنیم که ما فقط وابسته به شانس نباشیم بلکه بهترین شرایط ممکن را برای شادمانی بیشتر خلق کنیم.

تلاش برای تعریف شادمانی می‌تواند یک قضیة تاریک و مه گرفته باشد؛ زیرا این یک چکیده و مفهوم ذهنی و نظری است. ویکی پدیا آن را این گونه تعریف می‌کند:

شادمانی، خرسندی یا مسرت، یک حالت هیجانی یا روانی از تندرستی است که با هیجانات مثبت یا مسرت‌بخش که محدوده‌ای از اقناع و رضایت تا مسرت شدید را در بر می‌گیرد، تعریف می‌شود (162).

هنگامی که من پژوهش پیرامون این که شادمانی واقعاً چه چیز است را آغاز کردم، به صورت تکرار شونده‌ای به تمایز میان دو تیپ از شادمانی ورود کردم. نخست شادمانی لذت گرایانه که یک نقطة بالای مثبت روانی و معمولاً موقتی است که اغلب به عنوان خوشی و شادی تعریف می‌گردد. این می‌تواند گذرا و فانی باشد و اغلب ما را به عادات هدایت نماید. برای مثال، برخی از سرخوشی‌های لذت گرایانه می‌توانند به اعتیادهایی با غذا، الکل و دخانیات منجر شوند. شبکه‌های اجتماعی‌ای همچون فیسبوک اغلب به عنوان «تلة خوشی²⁵⁰»، یک سازوکار خود‌اظهاری و آسان‌سازی مسرت، توصیف شده‌اند.

تیپ دوم شادمانی به عنوان شادمانی سعادت‌گرایانه²⁵¹ است که یک نوع ژرف‌تر شادمانی و اقناع می‌باشد. ویکی‌پدیا، سعادت‌گرایی (Eudaimonia) را این گونه تعریف می‌کند: Edudaimonia ”یک واژة یونانی است که به صورت رایج به عنوان شادمانی یا سعادت و رفاه ترجمه شده است“ (163). «شکوفایی انسان» یک معنای عامیانة این واژه است و ممکن است این ترمینولوژی دقیق‌تری برای اهداف این کتاب باشد.

هنگامی که من دانشجوی الهیات در بن آلمان در اوایل دهة 1980 بودم (شگفت‌زده شدید؟)، عمیقاً در آموزش‌های ارسطو، فیلسوف یونان باستان، غرق شده بودم. او به سعادت‌گرایی در هنگامی که 2300 سال پیش از این می‌نوشت، این گونه اشاره کرده بود که ”شادمانی، معنا و نیت زندگی است، هدف تام و پایان وجود انسان است“. مسلماً سعادت‌گرایی یک مفهوم اصلی در فلسفة ارسطویی است؛ در راستای اصطلاحات arête (پرهیزکاری یا تعالی) و Phronesis (خرد عملی یا اخلاقی).

Eudaemonia، arête و Phronesis (اگر شما زبان یونانی مرا ببخشید)، عینیت‌های دائم در کار من شده‌اند و من فکر می‌کنم آن‌ها برای درک این که چه مسیری انسانیت می‌بایست داشته باشد، کلیدی هستند همچنان که این مسیر باید توسط تغییر فناورانة نمایی، غلتک زده شود؛ البته به جای غلتک دستی باید گفت که مسیر توسط ماشین‌های پیشرفته باید آماده‌سازی شود. به زبان دیگر، ما هم اکنون در مکانی گم شده‌ایم که انسانیت بیش از این نبوده است. با این وجود، رشته‌هایی باستانی از خرد (مانند بالا) وجود دارند که ممکن است به ما هنوز خدمت نمایند تا از این پیچ و خم فناوری مدار که ما به صورت فزاینده‌ای خودمان را در آن می‌یابیم، فرار کنیم.

چه چیزی ما را خوشحال می‌سازد؟

اگر شکوفایی انسانی واقعاً یک زندگی لذت‌بخش‌تر، کسب‌وکار کارآمدتر و بهتر، سود بیشتر و رشد ثابت قوت یافته با فناوری معنا می‌دهد، آن گاه با همة تفاسیر، بگذارید بر این توافق کنیم که از ماشین‌ها و الگوریتم‌ها برای دستیابی به آن استفاده کنیم؛ و مادامی که ما مارپیچ‌وار به سوی کارآمدی فزایندة غیرقابل اغماض و آن چه که احتمالاً فراوانی خردکنندة سرمایه‌داری خواهد بود حرکت می‌کنیم، این ممکن است بسیار عالی باشد.

GDP، GNH یا GPI: آیا صادق‌ترین شاخص‌های شادمانی هستند؟

اگر ما شکوفایی را تنگ نظرانه، عمدتاً با اصطلاحات اقتصادی و مالی تعریف کنیم، با تعاریف تاریخ گذشته‌ای همچون ²⁵² GDP (تولید ناخالص داخلی) و ²⁵³ GNP (تولید ناخالص ملی) تا مقیاس اندازه‌گیری فراگیرتر مانند ²⁵⁴ GNH (شادمانی ناخالص ملی)، به انتها خواهیم رساند.

GNH اصطلاحی است که در اصل در دهة 1970 در بوتان (کشوری که من پیش از تکمیل این کتاب شانس دیدن آن را داشتم) ضرب گردید. این به معنای به کار بردن یک رهیافت بوم زیستی گسترده‌تر و جامع‌تر است هنگامی که حالت یک ملت مورد سنجش قرار می‌گیرد. گاهی اوقات این شاخص در زمینة «شادمانی سیاسی» قرار داده می‌شود، GNH بر پایة ارزش‌های سنتی بودایی است تا ارزش‌های سنتی غربی که GDP یا GNP معمولاً به آن‌ها ارجاع می‌دهند (نشانگرهایی مانند رشد اقتصادی، برون‌ده سرمایه‌گذاری، بازگشت سرمایه‌گذاری و اشتغال). چهار پایة فلسفة GNH آن را به شکل چشمگیری متفاوت از فلسفة موجود بازتاب می‌دهند: توسعة پایدار، محافظت و ترویج ارزش‌های فرهنگی، حفظ محیط زیست طبیعی و برقراری حکمرانی خوب (164).

به همین منوال، هنگامی که زمان تصمیمات آینده پیرامون ارتباط میان فناوری و انسانیت می‌رسد، من GNH را یک رهیافت بسیار جالب و موازی می‌یابم زیرا به صورت یک‌جا، شادمانی را در مرکز سنجش پیشرفت و ارزش قرار می‌دهد. عوامل اقتصادی نمی‌بایست بر موارد وابسته به شادمانی سایه افکنند؛ یک شاخص آشکار. بهره‌وری نباید هرگز مهم‌تر از انسانیت شود (که یکی از ده قانون کلیدی من در پایان این کتاب است). شیوة دیگر برای سنجش موفقیت ملل، ²⁵⁵ GPI (نشانگر پیشرفت واقعی) است که 26 متغیر وابستة پیشرفت اقتصادی، اجتماعی و زیست محیطی را مورد ارزیابی قرار می‌دهد (165). GPI با ارزش است زیرا عوامل بیرونی را به شکل کامل به حساب می‌آورد. پیامدها، بخشی از معادله هستند که این دقیقاً چیزی است که من هنگامی که به پیامدهای ناخواستة فناوری می‌پردازم به آن‌ها اشاره خواهم کرد. نشانگرهای اقتصادی GPI شامل بی‌عدالتی و هزینة بی‌کاری است، نشانگرهای زیست محیطی شامل هزینة آلودگی، تغییر اقلیم و منابع انرژی غیرقابل تجدیدپذیر است؛ در حالی که نشانگرهای اجتماعی شامل ارزش کار خانگی، آموزش عالی و کار داوطلبانه است.

چه رخ خواهد داد اگر ما ترکیبی از GPI و GNH را به کار ببریم تا یک سنجش انسان گرایانه‌تر از پیشرفت به دست آوریم؟ این پرسش مهم خواهد بود زیرا ما به سنجش چیزهای غلط ادامه می‌دهیم آن گاه به احتمال قوی به ادامة انجام چیز غلط نیز مبادرت می‌کنیم. این یک اشتباه اساسی در این دورة پیشرفت فناورانة نمایی خواهد بود. در وهلة اول، اشتباهات حاصله، پیامدهای ناخواستة بی‌نهایت بزرگ‌تری خواهند داشت و دوم آن که این گونه انجام دادن، یک بار دیگر قدرت فراوانی به فناوری خواهد داد و راه اندکی به انسان‌ها.

اگر همة آن چه که ما سنجش می‌کنیم داده‌های سختی باشند که هر عملکرد تولید می‌کند (مانند یک مستخدم خاص چه مقدار فروش انجام داده است) آن گاه نتیجه‌گیری‌های ما به صورت جدی‌ای نیز دچار کژروی خواهند شد. عملاً، هیچ کدام از عوامل منحصر به فرد انسانی نیستند که سنجش آن‌ها ساده باشد (مانند چه تعداد ارتباطاتی با مشتریان کلیدی، آن شخص ممکن است داشته باشد و آیا او با موارد و چالش‌های آن‌ها احساس شفقت دارد). هر چقدر ما وانمود می‌کنیم که داده‌هایمان (و هوش مصنوعی که از این داده‌ها یاد می‌گیرد) 100 درصد به شیوه‌ای واقعاً انسانی کامل است، نتیجه‌گیری‌های سامانه گمراه کننده‌تر می‌باشد. ما تمایل به اغماض از آندروریتم‌ها به جای الگوریتم‌ها داریم زیرا ساده‌سازی‌ها و میان‌برها را دوست داریم.

سنجیدن این که چه مقدار یک کسب‌وکار یا یک کشور می‌تواند به دلیل دیجیتالی شدن و خودکارسازی بیشتر کارآمد باشد ممکن است یک تصویر بسیار نویدبخش اقتصادی را نقاشی کند. با این وجود، سنجش این که چقدر کارکنان یا شهروندان پس از این که هر چیزی خودکار شده یا رباتی گردیده خوشحال هستند ممکن است یک منظر اجتماعی گوناگونی را عرضه بدارد.

در بازگشت به سال 1968، رابرت کندی، سناتور آمریکایی در آن زمان GDP را یک سنجة گمراه کننده نشانه‌گذاری کرد به این صورت که GDP ”هر چیزی را به غیر از آن چیز که زندگی را ارزشمند می‌کند، می‌سنجد“ (166). برای من، این یک نقطة بحرانی را رقم می‌زند: الگوریتم‌ها می‌توانند هر چیزی را سنجش یا حتی شبیه‌سازی کنند به جز آن چه که واقعاً برای انسان‌ها مهم هستند. با این گونه گفتن، من منظورم این نیست که آن چه الگوریتم‌ها و فناوری به صورت عموم می‌توانند برای ما انجام دهند را کم ارزش جلوه دهم. من فکر می‌کنم که این مهم است که فناوری را در مکان درست خود قرار داد؛ قرار دادن در جایی که مناسب است و برداشتن آن در جایی که زیان‌آور است.

سوء‌تعریف در این که شکوفایی انسان چه معنایی دارد، فقط ماشین‌ها را توانمند خواهد کرد

نگرانی من این است که ما فقط دیرهنگام پی خواهیم برد که ما برای مدت‌ها «شکوفایی» را بد تعریف نموده‌ایم. ما شادی‌های لذت گرایانه را به اندازة کافی خوب پذیرفته‌ایم زیرا آن‌ها را اغلب می‌توان ساخت، سازماندهی کرد یا توسط فناوری فراهم نمود. شبکه‌های اجتماعی یک مثال عالی را ارائه می‌دهند: ما در واقع می‌توانیم شادیِ لایک بودن را با دیگران تجربه کنیم؛ که اجازه بدهید آن را به عنوان یک نوع لذت گرایی بنگریم... یک تلة شادی دیجیتالی. امّا احتمالاً شادمانی مربوط به یک تماس انسانی فردی و معنادار را تجربه نمی‌کنیم (به شیوة PERMA مارتین اسلیگمن²⁵⁶، یک اصطلاح کلیدی که در زیر من آن را رقم خواهم زد) (167).

ممکن است واقعاً فقط تفاوت را در نقطة پایانی درک کنیم هنگامی که هر چهرة واحدی که ما را انسان می‌سازد به واسطة کارآمدی خارق‌العاده²⁵⁷ و فناوری وادار کننده به تبعیت، جایگزین گردیده یا تقریباً غیرممکن شده باشد؛ این هنگامی است که ما مهارت‌های ساخت چیزی برای کارکردن به سیاق خودمان را فراموش کرده یا از دست می‌دهیم. من قطعاً امید ندارم ولی با روبه‌رو شدن با این تغییرات فناورانة نمایی، روشن است که ما نیاز داریم تا به تعریف کردن شکوفایی به عنوان رشد کردن، در یک مسیر سالم، آغاز کنیم. این به معنای توسعه دادن یک دیدگاه جامع‌تر از آینده‌مان است، آینده‌ای که در فراتر از رهیافت‌های فقط ماشین‌واره‌ای، فروکاست‌گرانه و اغلب شادمانی لذت‌گرایانه است که محبوب بسیاری از این گونه فناوران می‌باشد.

مارتین اسلیگمن، فیزیولوژیست، بیان می‌کند که شادمانی واقعی به تنهایی از شادی‌های آنی و بیرونی، استخراج نمی‌شود. او از چهارچوب PERMA برای چکیده‌سازی یافته‌های کلیدی از پژوهشش بر روی روان‌شناسی مثبت²⁵⁸ استفاده می‌کند (168). به ویژه، انسان‌ها هنگامی که آن‌ها این موارد زیر را دارا هستند در شادترین حالت خود هستند.

خوشی (Pleasure) (غذای خوشمزه، حمام گرم)

تعلق خاطر (Engagement) (یا جریان داشتن، جذب در یک فعالیت خوشایند ولی چالش برانگیز)

روابط (Relationships) (پیوندهای اجتماعی که به عنوان یک نشانگر بی‌نهایت قابل اعتماد شادمانی جلوه‌گر شده‌اند)

معنا (Meaning) (یک طلب و جستجوی آگاهمند یا تعلق داشتن به چیزی بزرگ‌تر)

دستاوردها (Accomplishments) (تحقق یافتن اهداف قابل لمس)

فناوری واقعاً ممکن است ارزش چشمگیری را در امکان‌پذیری خوشی و دستاوردها داشته باشد و شاید در تعلق خاطر نیز مشارکت کند. بر عکس، من باور ندارم فناوری کمک عملی‌ای در پیشبرد روابط یا در برقراری حس، نیت یا معنا داشته باشد. در واقع، ممکن است کاملاً برعکس صادق باشد زیرا فناوری می‌تواند اغلب کاملاً اثر خوردندگی بر روابط داشته باشد مانند هنگامی که با ادوات همراه خودمان در یک شام خانوادگی، ذهن خود را درگیر می‌کنیم.

فناوری می‌تواند معنا و مقصود را پریشان کند (معلول فزونی در داده‌ها و خودکار شدن بی دقت) که به حباب‌های فیلتر بی‌انتهاتر منتهی می‌شوند (یعنی ما را فقط با محتوی که ظاهراً دوست داریم، تغذیه می‌کنند) و دستکاری بیشتر رسانه‌ها را تسهیل می‌نمایند. مطمئن باشید، فناوری (به عنوان یک ابزار نه هدف) مفید است و خواهد بود؛ ولی زمانی که ما در مقیاس نمایی پیشتر می‌رویم، بیش استفاده از آن و وابستگی به آن به خوبی ممکن است به همان اندازه زیان‌بار باشد.

من اغلب شگفت‌زده می‌شوم چه رخ خواهد داد زمانی که فناوری‌های نمایی، واقعاً اثر کنند. آیا زندگی‌های ما لذت‌گرایانه‌تر می‌شوند یا سعادت‌گرایانه‌تر؛ بیشتر رانش یافته با فشار یا بیشتر عمیقاً معنا‌دار؟ آیا ما به شکارِ شادی‌های سطحی‌تر تبدیل می‌شویم؛ یعنی جایی که ماشین‌ها حکم می‌رانند و تجربة ما را میانجی‌گری می‌کنند. آیا ما برای شادمانی که منحصراً انسانی باشد، تلاش و تکاپو خواهیم کرد؟

شفقت؛ یک صفت بی‌همتا پیوند یافته به شادمانی

یک عامل انسانی مهم برای در نظر گرفتن در این زمینه، شفقت است. دالایی لاما در کتاب سال 2015 خود تحت عنوان «دادخواستی توسط دالایی لاما به جهان: اخلاقیات مهم‌تر از مذهب هستند.» در مورد ارتباط میان شادمانی و شفقت می‌گوید:

”اگر ما خودمان می‌خواهیم شاد باشیم، ما باید شفقت را تمرین کنیم
و اگر ما می‌خواهیم مردم دیگر خوشحال باشند ما به همین منوال باید شفقت را تمرین کنیم.“ (169)

شفقت (”نگرانی همدردانه برای رنج‌ها یا بدبختی‌های دیگران“)، یکی از سخت‌ترین چیزها برای به چنگ آوردن است و قطعاً یکی از سخت‌ترین‌ها برای انجام دادن می‌باشد. شفقت سخت‌تر از زیرکی و سلحشوری عقلانی است.

آیا می‌توانید یک رایانه، یک برنامة کاربردی، یک ربات یا یک محصول نرم افزاری را تصور کنید که شفقت داشته باشد؟ یک ماشین که آن چه شما احساس می‌کنید، احساس می‌کند، با هیجانات شما همسو می‌شود، هنگامی که شما رنج می‌کشید، رنج می‌کشد؟ مطمئناً، می‌توانیم ماشین‌هایی پیش‌بینی کنیم که هیجانات را درک می‌کنند یا حتی شفقت را در چهره‌های انسانی و زبان بدنی می‌خوانند. ما همچنین می‌توانیم ماشین‌هایی را تصور کنیم که می‌توانند هیجانات انسانی را شبیه‌سازی کنند، به سادگی با نسخه‌برداری یا یادگیری از آن چه ما انجام می‌دهیم و بنابراین به نظر می‌آید که واقعاً چیزها را احساس می‌کنند.

با این وجود، تفاوت کلیدی این است که ماشین‌ها هرگز یک حسِ بودن را نخواهند داشت. آن‌ها نمی‌توانند ترحم کنند، از آن‌ها فقط روزی را می‌توان امید داشت که بتوانند ترحم را به خوبی وانمود کنند. این مطمئناً یک تمایز بحرانی است که ما باید با جزئیات بیشتر بازتاب دهیم وقتی که ما سونامی‌های فناورانه‌ای که یورش می‌آورند تا ما را ببلعند، در نظر می‌گیریم. اگر ما در یک شبیه‌سازی به خوبی اجرا شده با نوع واقعی آن دچار گیجی شویم، یک نسخة الگوریتمی ادراک را با هوشیاری واقعی اشتباه بگیریم، ما به دردسری ژرف گرفتار خواهیم شد. این گیجی، یک کاستی اساسی برای فرا انسان‌گرایی است. به نظر من، ماشین‌ها در شبیه‌سازی یا تقلید کردن صفات انسانی، بی‌نهایت خوب و ارزان بوده ولی آن‌ها هرگز به صورت واقعی انسان نخواهند بود. چالش واقعی برای ما، مقاومت در برابر وسوسة پذیرش این شبیه‌سازی‌ها به صورت «به اندازة کافی خوب» می‌باشد و اجازه دادن به آن‌ها که جایگزین برهم‌کنش‌های منحصر به فرد انسانی شوند. این یک حرکت خطرناک و نادانی خواهد بود که یک تجربة سعادت‌گرایانه واقعی انسانی را در عوض خوشی‌های لذت‌گرایانه آنی که توسط ماشین‌ها فراهم گردیده و به صورت فراگستر در دسترس هستند، رها سازیم.

جیمز بارات در «ابداع نهایی‌مان: هوش مصنوعی و پایان دوران انسانی»، می‌نویسد:

یک سامانة هوش مصنوعی نیرومند که تضمین ایمنی شما به آن محول شده است ممکن است شما را در خانه زندانی سازد. اگر شما شادمانی را درخواست کنید، این هوش مصنوعی ممکن است شما را به یک حمایت کنندة حیات وصل کند و پیوسته مراکز خوشی مغز شما را تحریک نماید. اگر شما یک کتابخانة خیلی بزرگ از رفتارهای ترجیحی یا یک دارایی عدول ناپذیر را برای یک هوش مصنوعی فراهم نیاورید تا آن چه رفتارهای ترجیحی شما است را از آن استنتاج کند، از آن چه که این هوش مصنوعی برای شما اندیشه می‌کند درگیر خواهید شد. از آنجا که هوش مصنوعی یک سامانة بسیار بغرنج و پیچیده است، شما ممکن است هرگز به اندازة کافی آن را درک نکنید
تا مطمئن شوید به درستی آن را به دست آورده‌اید. (170)

شادمانی در برابر پول: تجربیات در برابر دارایی‌ها

مردم اغلب اشاره می‌کنند که شادمانی بر پایة تعلقات مادی یا موقعیت مالی، واقعاً از درجة اهمیت محدودی برخوردار است. تحقیقات نشان داده‌اند که در کشورهای موسوم به پیشرفته، شادمانی کلی هنگامی که آدم‌ها پول بیشتری به دست می‌آورند تا یک نقطة خاصی، افزوده می‌گردد: مطالعات گوناگون بیانگر آن هستند که هر چیزی در فراتر از 50,000 تا 75,000 دلار در سال، شادمانی افزون‌تری واقعاً برای زندگی مردم نمی‌افزاید. همبستگی میان درآمد و سعادت، به ملایمت از دست می‌رود (171).

شادمانی را نمی‌توان کسب کرد یا خریداری نمود و بنابراین این امکان‌ناپذیر است که آن را در یک برنامة کاربردی، یک بوت یا ماشین دیگری انباشت کرد. شواهد حمایت کننده بیانگر آن هستند که تجربیات، اثر طولانی‌تری بر شادمانی کلی ما دارند تا دارایی‌ها (172). تجربیات، حالت شخصی، مفهومی، به هنگام و تجسم یافته دارند. تجربیات بر پایة آن کیفیات منحصر به فردی هستند که ما را انسان می‌سازند؛ آندروریتم‌های‌مان.

همان گونه که توسط دکتر ژان ایکسین لئو²⁵⁹، مدیر نوآوری محصول در HopeLab در آوریل 2015 در بلاگ Huffington Post اشاره شده است:

”مدرسین دانشگاه ویرجینیا، دانشگاه بریتیش کلمبیا و دانشگاه هاروارد، یک مطالعه را در سال 2011 بعد از بررسی بسیاری از مقالات آکادمیک در پاسخ به یک تضاد آشکار، ارائه دادند: هنگامی که از مردم خواسته شد تا زندگی خودشان را ارزیابی کنند، افراد با پول بیشتر، گزارش می‌کنند که مقدار زیادی رضایتمندی دارند. ولی هنگامی که از آن‌ها پرسیده شد چقدر هم اکنون خوشحال هستند، مردم با پول بیشتر به سختی از آن‌هایی که پول کمتری دارند، تفاوت از خود نشان می‌دهند.“ (173)

شادمانی انسانی، اولین هدف فناوری است (یا باید باشد)

فناوری از واژة یونانی Techne (شیوه، ابزار، مهارت یا پیشه) و Logia (دانایی، از سوی خدایگان) برگرفته شده است و همیشه توسط انسان‌ها جهت آسایش‌شان خلق شده است ولی هم اکنون به نظر می‌آید که به زودی فناوری جهت بهبودی دادن به خود انسان‌ها به کار خواهد رفت.

ما از فناوری جهت بهبودی شرایط زندگی‌مان به شیوه‌ای استفاده می‌کردیم که ایجاد شادمانی خودبه‌خودی را محتمل‌تر و رایج‌تر می‌کرد. برای مثال، Skype، GoogleTalk و هر نوعی دیگر از برنامه‌های کاربردی پیام‌رسان، این اجازه را به ما می‌دهند که تقریباً با هر کس در هر زمان و مکان و به صورت مجانی، تماس داشته باشیم. اکنون به دلیل پیشرفت فناورانة نمایی و ترکیبی، فناوری به صورت فزاینده‌ای دارد یک هدف برای خودش می‌شود. ما خودمان را در حال تلاش برای به دست آوردن لایک‌‌های بیشتر فیسبوک می‌یابیم یا مدام در واکنش به اخطار‌ها²⁶⁰ و اعلان‌ها²⁶¹ هستیم زیرا «سامانه» تقاضا می‌طلبد.

چه می‌شود اگر ابزار معنا گردد، همان گونه که هم اکنون با فیسبوک رخ داده است؟ چه می‌شود اگر آن‌ها به گونه‌ای مقاومت ناپذیر و راحت باشند که ما مقصودوارگی خودمان را از دست بدهیم؟ چه هنگامی این گوشی‌های هوشمند و اسکرین‌های هوشمند، ساعت مچی هوشمند و عینک‌های واقعیت مجازی (VR) می‌توانند خودشان، شناختی²⁶² شوند و بر فراتر از این که فقط ابزارهایمان باشند، نمایان گردند؟ چه می‌شود اگر مغزهای بیرونی‌مان بتوانند مستقیماً به نئوکرتکس²⁶³ خودمان اتصال بیابند؟

فناوری اخلاقیاتی ندارد؛ و در ابری از پوچ‌گرایی زیست می‌کند؛ فضایی بدون اعتقادات

به اندازه‌ای که اکثر ما عاشق فناوری هستیم، نیاز داریم با این واقعیت روبه‌رو شویم که فناوری هیچ گونه ملاحظة ذاتی بر ارزش‌ها، عقاید و اخلاقیات‌مان ندارد، هرگز نخواهد داشت و نه می‌بایست داشته باشد. فناوری فقط ارزش‌های ما را به عنوان تغذیة داده‌ها جهت توضیح دادن رفتارمان در نظر خواهد گرفت.

بوت‌ها و دستیاران دیجیتالی (IDA)، به صورت فزاینده‌ای، ده‌ها میلیون داده‌های تغذیه‌ای پیرامون من را مکش کرده، خوانده و آنالیز می‌کنند و هر خرده اطلاعاتی که من پرتاب می‌کنم را می‌جوند. امّا این اهمیتی ندارد که چقدر آن‌ها «داده‌های من» را گردآوری و آنالیز می‌کنند، نرم‌افزار و ماشین‌ها هرگز به واقع نخواهند توانست ارزش‌ها و یا اخلاقیات من را درک کنند زیرا آن‌ها نمی‌توانند به همین طریقی که من هستم، انسان باشند. آن‌ها همیشه به صورت مشابهت‌ها، شبیه‌سازی شده‌ها و ساده‌سازی‌ها خواهند بود. مفید، بله. واقعی، خیر.

اجازه به من بدهید نمونه‌هایی از چالش‌های اخلاقی که با پیشرفت‌های فناوری خودنمایی می‌کنند را ارائه دهم.

بسیاری از دانشمندان هسته‌ای، خلق بمب اتمی را در هنگامی که آن‌ها در وهلة اول بر روی چالش‌های علمی و ریاضیاتی کار می‌کردند، متصور نبودند. انیشتین که خود را یک صلح طلب در نظر می‌گرفت، دولت ایالات متحدة آمریکا را به ساخت بمب در پیش از این که هیتلر بتواند، تشویق کرد. همان گونه که پیش از این بیان گردید، جی رابرت اوپنهایمر که به شکل گسترده به عنوان پدر بمب اتم شناخته می‌شود از عملکردهای خود در پیش از بمباران هیروشیما و ناکازاکی، ضجه و زاری کرد (174). با این وجود، اخلاقیات بغرنج سیاسی و نظامی که بر آن‌ها عمل می‌کردند به صورت مؤثرتری هر دوی آن‌ها را از مشارکت کنندگان سلاح‌های کشتار جمعی ساخت.

اینترنت اشیاء (IoT) نمونة عالی دیگری است؛ این قطعی شده است که می‌تواند در گردآوری، ارتباط دادن و ترکیب کردن مقادیر گسترده‌ای از اطلاعات از صدها میلیون اشیاء اتصال یافتة وب به شکل عظیمی سودمند باشد. بدین سان، اینترنت اشیاء می‌تواند یک راه‌حل احتمالی به بسیاری از چالش‌های جهانی مانند تغییر اقلیم و پایش‌های زیست محیطی باشد.

ایده این است که روزی که هر چیزی هوشمند و اتصال یافته باشد ما می‌توانیم بسیاری از فرایندها را کارآمدتر نموده، هزینه‌ها را کاهش داده و دستاوردهای بزرگی در حفاظت از محیط زیست داشته باشیم. هر چند که این‌ها ایده‌هایی زیرکانه‌ای هستند، نماهای کنونی برای تحقق بخشیدن به اینترنت اشیاء تقریباً کاملاً فارغ از توجه به ملاحظات انسانی، آندروریتم‌ها و نگرانی‌های اخلاقی است. این کاملاً ناآشکار است که چقدر محرمانگی در این «مغزِ در ابرِ جهانی²⁶⁴» برقرار خواهد ماند، چه مقدار از مراقبت تام پیشگیری خواهد شد و چه کسی مسئول همة این داده‌های جدید خواهد بود. هم اکنون تمرکز بسیار فراوانی بر روی معجزه‌های کارآیی²⁶⁵ و اتصال یابندگی فزاینده²⁶⁶ است در حالی که پیامدهای ناخواسته و عوامل بیرونی منفی، به نظر نمی‌آیند که موجب نگرانی کسی باشند.

پیتر دیامندز²⁶⁷ (که من عموماً بسیار مخلص ایشان هستم) و خبرة مقولة «فراوانی نمایی²⁶⁸» سیلیکون والی است در سخنرانی‌های خود دربارة مراقبت‌های سلامت به شیوه‌ای مثبت پیرامون شرکت درازی عمر انسان (Human Longevity, Inc.)، استارتاپ جدید او که با کریگ ونتر²⁶⁹ (پیشرو در ژنتیک) ایجاد گردید، صحبت می‌کند و این که چگونه این ما را قادر خواهد ساخت بسیار طولانی‌تر زندگی کنیم (شاید برای همیشه)(175). با این وجود، او به نظر می‌آید که به صورت عظیمی اکثر موارد اخلاقی و معنوی که حول بحث سالخوردگی، درازی عمر و مرگ است را به فراموشی می‌سپارد.

چه کسی از پس این درمان‌ها می‌تواند برآید؟ آیا فقط این ثروتمندان نیستند که خواهند توانست بیش از 100 سال را زندگی کنند؟ این چه معنایی به پایان مرگ می‌دهد؟ آیا مرگ واقعاً یک بیماری است همان گونه که دیامندز می‌گوید یا یک بخش یکپارچه و غیرقابل تغییر از انسان بودن؟ پرسش‌ها فراوان هستند ولی بسیار مانند روزهای اولیة پژوهش‌های سلاح‌های هسته ای، به نظر می‌آید بسیاری از فناوران سیلیکون والی سریعاً به آن سویی که می‌توانند بدون یک ذره انعکاس آن چه که مواردی از نوآوری‌های آن‌ها ممکن است به آن منجر شود، به پیش می‌روند.

”مرگ یک تراژدی بزرگ است... یک از دست دادن ژرف.... من آن را نمی‌پذیرم... من فکر می‌کنم مردم هنگامی که می‌گویند با مرگ راحت هستند، شوخی می‌کنند.“ ری کورزوویل (176)

پیام کلیدی در اینجا این است که فناوری مانند پول نه یک چیز خوب، نه یک چیز بد است. فناوری فقط به عنوان یک وسیله وجود دارد. در دهة 1950، اوکتاویو پاز²⁷⁰، شاعر بزرگ مکزیکی، این را به خوبی چکیده نمود:

”پوچ‌گرایی فناوری در این واقعیت نهفته است که این نه تنها کامل‌ترین بیان تمایل به قدرت است بلکه در این واقعیت است که فناوری فاقد معنا است. «چرا؟» و «به چه مقصودی؟»، پرسش‌هایی هستند که فناوری از خودش نمی‌پرسد؟“ (177)

من شگفت‌زده می‌شوم اگر پوچ‌گرایی فناوری‌های نمایی همچنین نمایی باشد؟ یک هزار بار پوچ‌گراتر، و ممکن است به همان اندازه خود شیفته؟ آیا ما در نهایت گونه‌هایی کاملاً فارغ از هوشیاری، رمز و راز، معنویت و روح خواهیم بود واقعاً به خاطر آن که هیچ جایی برای آندورریتم‌ها، در این دوران در حال پدید ماشینی، وجود ندارد؟

دو چیز بحرانی وجود دارند که می‌بایست در این زمینه در نظر گرفت:

1) واقعاً فناوری عظیم می‌بایست همیشه به گونه‌ای طراحی شود تا شادمانی انسانی را در وهلة اول و پیشاپیش به جلو ببرد؛ برای همین، نه فقط به رشد و سود منجر شود زیرا تکاپو بودن برای رشد نمایی و سود، بسیار محتمل است که ما را نه چندان دیر زمانی به ماشین تبدیل کند. این پارادایم جدید یک جابه‌جایی چشمگیر برای هر کسب‌وکار و سازمانی، عرضه خواهد داشت.

2) فناوری با پیامدهای ویرانگر بالقوه‌اش مانند مهندسی ژئو یا هوش عمومی مصنوعی می‌بایست هدایت گردیده و توسط آن‌هایی که اثبات کرده‌اند که خرد عملی دارا می‌باشند، مورد نظارت قرار گیرد (آن چه که یونانیان باستان Phronesis می‌نامیدند). تولیت این فناوری‌ها نمی‌بایست در دستان توسعه دهندگان فناوری، شرکت‌ها، بوروکرات‌های نظامی، سرمایه‌گذاران پرخطر یا بزرگترین پلتفورم‌های اینترنت جهانی قرار داده شوند.

این پیشرفت‌های فناورانه به چه چیزی می‌رسند اگر ما به عنوان یک گونه، شکوفا نشویم، اگر ما به چیزی دست نیابیم که خالصانه همة ما را به تراز دیگری از شادمانی ترقی ندهد؟

در نتیجه، هنگامی که فناوری‌های نوین یا آخرین موج پیشرفت‌های علم، فناوری، مهندسی و ریاضیات (STEM) را ارزیابی می‌کنیم، ما باید همیشه جویا شویم آیا یک نوآوری ویژه واقعاً سعادت جمعی اکثر طرف‌هایی که در محقق ساختن آن سهیم بودند را بیشتر به پیش می‌برد یا خیر؟

آیا فناوری‌های ارزان‌تر و سریع‌تر، راحت‌تر، فراوان‌تر، با مصرف ساده‌تر، قدرت‌های ابَرانسانی یا دستاوردهای بیشتر اقتصادی، واقعاً ما را خوشحال می‌سازند؟ آیا برنامه‌های کاربردی، بوت‌ها، IDA ها، واقعیت افزوده (AR) و واقعیت مجازی (VR) قدرتمند، یا دسترسی آنی به «مغز جهانی» از طریق یک حدواسط مغز - رایانة جدید، واقعاً به معنای آن است که ما به عنوان یک گونه و فرد، به شکل راستین شکوفا خواهیم شد؟ یا این که در وهلة نخست، آن‌هایی که این ابزارها و پلتفورم‌ها را خلق کرده و مالک آن بوده و آن‌ها را ارائه می‌دهند، کسانی هستند که پاداش را درو خواهند کرد؟

سعادت انسانی می‌بایست هدف باشد

به ویژه هنگامی که در مورد آیندة فناوری بحث می‌شود، من احساس می‌کنم که سعادت (حالت راحت، سالم یا خوشحال بودن)، واژة کلیدی می‌شود. سعادت اشاره به یک رهیافت جامع دارد که از اندازه‌گیری عملکردهای بدن‌مان، قدرت رایانش ذهنی‌مان یا تعداد سیناپس‌های موجود در مغزمان، فراتر می‌رود. این بیانگر تجسم‌یافتگی، زمینه، به هنگام بودن، پیوند یافتگی، هیجانات، معنویت و یک هزار چیز دیگر است که ما هنوز مانده است آن‌ها را توضیح داده یا حتی درک کنیم. سعادت، الگوریتمی نیست، این آندروریتمی بر پایة چیزهای پیچیده و بغرنجی مانند اعتماد، شفقت، هیجان و شهود است. فناوری در خلق کردن لحظات معروف خوب (مانند توانایی به فراخواندن یک کسی که به او عشق می‌ورزیم در هر جایی و هر مکانی که می‌خواهیم)، اغلب بسیار خوب عمل می‌کند. با این وجود، سعادت چیزی است که از آسان‌سازی فناورانه، به درجة بسیار بزرگی، فراتر می‌رود. من خودم، غرقابِ در کارآفرینی اینترنتی بودم و با استارتاپ‌های موسیقی دیجیتالی برای تقریباً ده سال آغشته بودم و این فقط پس از مرگ ناگهانی شرکت دات کام من در 2002 بود که یاد گرفتم چگونه یک سعادت جامع‌تر، واقعاً از طریق ارتباطات، از معناگرایی، از هدفمندی و از مفهوم‌گرایی حاصل می‌آید. شادمانی را نمی‌توان خودکارسازی نمود.

آیا فناوری شادمانی می‌سازد؟

فناوری‌های نمایی همچون هوش مصنوعی بدون شک تلاش خواهند نمود شرایطی را خلق کنند که در آن شادمانی انسانی یا حتی سعادت را بتوان به پیش برد. برخی نیز به صورت فعالانه در جستجوی ساخت آن برای ما هستند؛ یا حداقل، یک تشابهت دیجیتالی از آن. به صورت فزاینده‌ای، ما استدلال‌هایی می‌بینیم که شادمانی را می‌توان برنامه‌ریزی کرد یا از سوی دیگر با فناوری ابَرهوشمند، آن را سازماندهی یا هماهنگ نمود. استدلال کلیدی متفکران پیشرفت دهندة فناوری این است که خوشحالی فقط نتیجة انواع درست نرون‌هایی است که در زمان مناسب، در راستة درست، برانگیخته می‌شوند. آن‌ها برهان می‌آورند که این فقط بیولوژی، شیمی و فیزیک است و بدین‌سان می‌تواند توسط رایانه‌ها، درک، آموخته و کاملاً نسخه‌برداری شود.

”ما به جامعه‌ای می‌نگریم که به صورت فزاینده‌ای به ماشین‌ها وابسته می‌شود، امّا هنوز از توان ساختن یا حتی استفادة کردن مؤثر آن‌ها، در یک روند کاهشی قرار دارد.“ داگلاس راشکوف²⁷¹، «برنامه بنویس یا مورد برنامه‌ریزی قرار بگیر: ده فرمان برای یک دوران دیجیتال» (178)

ممکن است ما بتوانیم یک نوع از ماشین شادمانی خلق کنیم که ما و محیط زیست‌مان را برنامه‌نویسی کند یا مورد دستکاری و کنترل قرار دهد. ممکن است یک برنامة کار برای آن موجود باشد؛ یا حداقل می‌بایست باشد! یک نگاه به www.happify.com بیفکنید تا ببینید چگونه ایدة سازماندهی کردن شادمانی خودش هم اکنون در حال بازاریابی است؛ یک برنامة نرم‌افزاری که شادمانی را آموزش می‌دهد! یک نفر فقط می‌تواند تصور کند چگونه این در سال 2025 از کار در خواهد آمد (یک برنامة کاربردی که مستقیماً به مغزمان از طریق BCI با یک کاشتنی ظریف اتصال می‌یابد تا اطمینان حاصل شود ما همة اوقات شاد هستیم و به صورت بحرانی آن که ما در همة اوقات، شادمانی را مصرف می‌کنیم!).

این گاهی اوقات چنین به نظر می‌آید که کارآفرینانی که این بهره‌برداری‌ها را دنبال می‌کنند فکر می‌کنند که هیجانات انسانی، ارزش‌ها و عقاید می‌بایست موضوع حتی پیشرفت نمایی بیشتر در مقولة STEM قرار گیرند. منطق چنین به نظر می‌آید که روزی که ما به اندازة کافی در این مسیر قرار گرفتیم، همة این‌ها موضوع برنامه‌نویسی توسط خود ما خواهند شد، شامل (شما حدس می‌زنید) حتی خودمان. آن گاه، ما در نهایت می‌توانیم از ساخت‌های بیولوژیک‌مان رها گردیده و واقعاً موجودات جهانی شویم؛ (من نمی‌توانم دیگر صبر کنم!)

بوت‌های خلق و خوی²⁷² و خوشی‌های فناوری

فناوری هم اکنون می‌تواند لحظات خوشایندی را برای ما خلق، برنامه‌ریزی و دستکاری کند (برای مثال شادمانی لذت‌گرایانه) و این یک کسب‌وکار است که قطعاً در آیندة نزدیک، شکوفا می‌گردد. این هم اکنون در تغذیة اخباری فیسبوک رخ می‌دهد که فقط مواردی را نمایش می‌دهد که به ما احساس خوبی از آن‌ها به دست می‌دهند و این که آن‌ها را دوست داشته باشیم. این در تجارت الکترونیک با مکان‌های خرید، در حال رخ دادن است جایی که دسته‌هایی از متخصصین اعصاب به کار گرفته می‌شوند تا سازوکارهای رضایت آنی دیجیتالی نوین را تعدیل و تنظیم کنند. این در مراقبت‌های سلامت در حال انجام است با بهبود دهندگان ادراک و حافظه²⁷³ (موسوم به داروهای هوشمند و فزونی دهندگان شناخت) که فرض بر این گذاشته شده است تا به شما یک ضربه‌ای از توانمندی‌های ابَرذهنی تقدیم کنند. به زودی، این از طریق دستکاری بسیار مهارت آمیز احساسات‌مان از طریق گفتمان‌های کنترل شده با حرکت و صوت (نه تایپ شده) انجام خواهد شد که ما با دستیاران دیجیتالی همه جا حاضرمان، خواهیم داشت. این همچنین از طریق ادوات AR/VR مانند Oculus Rift فیسبوک و اشکال نوین حدواسط‌های انسان - رایانه و کاشتنی‌های عصبی²⁷⁴ انجام خواهد شد. رایانه‌ها تلاش خواهند کرد که ما احساس شادی کنیم. آن‌ها تلاش خواهند کرد که دوستانمان باشند و آن‌ها از ما خواهند خواست به آن‌ها عشق بورزیم. و این بدتر خواهد شد (یا بهتر، این بستگی به نقطه نظر شما دارد).

در یک مقاله در سپتامبر 2015 توسط آدام پیور²⁷⁵ در مجلة Nautilus این را برجسته می‌سازد که چگونه ممکن است این بوت‌های خلق و خوی، کار کنند:

”جیمز جی هیگز²⁷⁶، نویسنده، جامع شناس و آینده‌پژوه در کالج ترینینی هارت فورد، یک روزی که نه چندان دور از اکنون است را متصور می‌شود؛ هنگامی که ما تعیین کنندگان ژنتیکی انتقال دهنده‌های عصبی کلیدی مانند سروتونین، دوپامین و اکسی توسین را گره‌گشایی خواهیم کرد و قادر خواهیم بود ژن‌های شادمانی را (اگر چه نه 5-HTTLPR وابسته به سروتونین بلکه چیزی شبیه آن) را با فناوری‌های مقیاس نانویی دقیق که رباتیک و داروشناسی سنتی را ازدواج می‌دهند، دستکاری کنیم. این‌ها (بوت‌های خلق و خوی) روزی هضم گردیده و به صورت مستقیم به مکان‌های خاصی از مغز، سفر خواهند کرد. بر ژن‌ها، تلنگر خواهند زد و به صورت دستی، نقطة تنظیمی شادمانی‌مان را بالا و پایین می‌کنند، و طریقی که ما شرایط اطراف مان را تجربه می‌کنیم، رنگ ریزی می‌کنند.
”همچنان که نانوفناوری دقیق‌تر می‌شود، ما قادر می‌شویم بر خلق و خوی به شیوه‌های فزاینده دقیقی، در افراد عادی اثر گذاریم.“ این را هیگز می‌گوید که همچنین به عنوان مدیر اجرایی در انستیتو اخلاق و فناوری‌های نو‌پدید کار می‌کند و نویسندة کتاب «سایبورگ شهروند: چرا جوامع دموکراتیک می‌باید به انسان بازطراحی آینده پاسخ دهند» می باشد (179).

من برهان خواهم آورد که فناوری دیجیتالی هم اکنون برای شکوفایی خوشی‌های لذت‌گرایانة کاربرانش به خوبی عمل می‌کند. فکر کنید دربارة برنامه‌های کاربردی، دستیاران دیجیتالی شخصی و شبکه‌های اجتماعی، به صورت عمومی، جایی که تمام هدفِ اتصال یافتن با دیگران اغلب به یک بالا رفتن سریع دوپامین بر اساس پاسخ‌های افراد کاملاً غریبه فرو کاسته می‌شود. به طریقی، شبکه‌های اجتماعی هم اکنون تا حدی شگفت‌انگیز هستند؛ ”زایندگان شادمانی لذت‌گرایانه“.

ولی مسلماً، پرسش کلیدی این است چه دستاوردهای فناورانة نمایی احتمالاً می‌توانند برای شکوفایی یا حتی حمایت از سعادت‌گرایی Eudaemonia (شادمانی به عنوان معنا و هدف زندگی، به عنوان هدف وجودی انسان) عمل کنند یا با حمایت از تکاپوکردن‌مان به سوی یک هدف شرافتمندانه، یا کشف کردن معنای زندگی در شکوفاسازی سعادت‌گرایی، مؤثر واقع شوند؟ این مرا می‌کوبد زیرا این یک مأموریت غیرممکن است چون که فناوری پیرامون این هدف اصلاً چیزی نمی‌پرسد؛ یا خود را نگران آن نمی‌کند. و اصلاً چرا باید بپرسد یا نگران باشد؟

آن گاه، این پرسش که آیا این که چنین شادمانی سعادت گرایانه‌ای را می‌توان طرح‌ریزی نمود، هماهنگی کرد یا اصلاً ترتیب داد (دیجیتالی یا خیر)، وجود دارد. این مفهومی است که ویکتور فرانکل²⁷⁷، روان‌شناس اتریشی و بنیان‌گذار معنادرمانی²⁷⁸، در کتاب سال 1946 خود تحت عنوان «انسان در جستجوی معنا» جستجو می‌کند:

”شادمانی را نمی‌توان دنبال نمود؛ این می‌بایست منتج شود و این فقط هنگامی این گونه می‌شود که به عنوان اثر جانبی ناخواسته فداکاری شخصی یک نفر، به انگیزه‌ای بزرگ‌تر از خود شخص یا به عنوان محصول فرعی سرسپردگی یک نفر به شخص دیگری غیر از خود فرد باشد. هر چه بیشتر یک مرد به نشان دادن توانایی جنسش تلاش کند یا یک زن به نشان دادن توانایی‌اش در تجربة اوج لذت جنسی، آن‌ها کمتر می‌توانند کامیاب شوند. لذت به صورت یک عارضه یا محصول فرعی هست و باید بماند، و به درجه‌ای که برای خودش یک هدف شود، نابود و تباه می‌گردد (170). این ایده که خوشی لذت‌گرایانه، یک محصول جانبی از یک شکوفایی بزرگ‌تر (Eudaemonia) است برای من مقداری معنا می‌سازد. بدین سان، برهان من این است که ما باید فناوری را در آغوش گیریم (خوشی آن را تجربه کنیم) ولی خود فناوری نشویم زیرا در غیر این صورت، این خودش تجربة یک سعادت‌گرایی (Eudaemonia) واقعی را ناممکن می‌سازد.

مراقب آن چه آرزو می‌کنید باشید

منازعه بر سر این که آیا ما باید درازی عمر انسان را به صورت چشمگیری گسترش دهیم (و پیگیری پایان مردن)، یک نمونة عالی است از دشواری تعیین این که آیا یک پیشرفت فناورانة خاص به شکوفایی انسان خواهد انجامید یا خیر؟ این نیز خود اشاره به یکی از بزرگ‌ترین مسائل غامض دارد که ما به زودی با آن ممکن است روبه‌رو شویم: اگر چیزی را می‌توان انجام داد، آیا این به معنای آن است که باید انجام شود؟ آیا ما نباید انجام ندادن چیزها به خاطر این که آن‌ها ممکن است اثرات جانبی منفی بر شکوفایی انسان داشته باشند را در نظر بگیریم؟

فناوری‌های مرزشکن ویرایش ژن همچون CRISPR-Cas9 ممکن است در نهایت به پایان دادن سرطان یا آلزایمر کمک کنند و به روشنی در سعادت جمعی ما مشارکت خواهند کرد. با این وجود، کاربرد دیگر این جادو‌های علمی ممکن است تولد یافتن بچه‌های قابل برنامه‌ریزی را با خود به ارمغان بیاورد، به شکل چشمگیری درازای عمر را افزایش داده یا حتی مردن را برای انسانیت پایان دهد؛ امّا احتمالاً فقط برای آن اندک افرادی که منابع مالی چشمگیری دارند که این منابع بدون شک برای انجام دادن این کارها نیز مورد نیاز خواهند بود! چگونه ما می‌توانیم اطمینان حاصل کنیم که این پیشرفت‌ها در حد 95 درصد برای انسانیت مثبت خواهند بود و موجب فروپاشی اجتماعی، تروریسم یا نابرابری نمایی نخواهند شد؟

در سیلیکون والی، میانگاه همگرایی انسان - فناوری، پیتر دیامندز، دوست دارد چنین بگوید: ”پرسش این است آیا مردم مایل خواهند بود برای 20، 30 و 40 سال اضافه از یک زندگی سالم، هزینه کنند؛ این یک فرصت سترگ است“ (181). این گزاره به آشکارا فلسفة سیلیکون والی را نشان می‌دهد: هر چیزی یک فرصت کسب‌وکار است؛ حتی شادمانی انسان!

ملاحظه کنید آن چه که آمی ماکسمان²⁷⁹، نویسندة علم در مجلة Wired در ژولای 2015، در مورد خیزش موسوم به «موتور پیدایش²⁸⁰» دربارة مفهوم ویرایش کردن DNA انسان می‌نویسد (182) اولین گام، تجزیه‌وتحلیل DNA میلیاردها انسان خواهد بود برای شناسایی این که چه ژن‌هایی مسئول شرایط گوناگون و بیماری‌ها هستند. قدرت رایانش بزرگی و حمایت گستردة عمومی برای این مفهوم نیاز خواهد بود. دوم، هنگامی که یک ژن به عنوان مسئول چیزی به زیان‌آوری سرطان (با فرض بر این که این ارتباط سر راست باشد) مورد شناسایی قرار گرفته باشد، گام بعدی پیدا کردن راه‌هایی برای برداشت یا سرکوب کردن ژن است به گونه‌ای که بیماری توسعه نیابد. سوم، ایدة اصلی برنامه‌ریزی افراد است مثل این که ما امروزه نرم‌افزار یا برنامه‌های کاربردی را برنامه‌ریزی می‌کنیم؛ برداشتن خطاها و اشکال‌ها و افزودن نماها و صفات عالی.

آیا این به عنوان یک آیندة مطلوب شما را تکان داد؟ اکثر افراد، پرطنین پاسخ خواهند داد ”بله“! زیرا این موضوع، چنان خوب جلوه می‌دهد که درست به نظر می‌آید. با این وجود، هنگامی که ما دربارة آن چه که با محقق شدن چنین شاهکارهای علمی می‌توانند در زمینه‌ای گسترده‌تر معنا دهند فکر می‌کنیم، ذهن متحیر می‌گردد: چه کسی از پس چنین درمان‌هایی برخواهد آمد؟ چه کسی تنظیم خواهد کرد در کجاها آن‌ها می‌توانند به کار برده شوند یا خیر؟ آیا ما همة درب‌ها را برای ابرانسان‌ها باز خواهیم کرد و درب را به روی انسان‌های عادی قدیمی خواهیم بست؟ آیا امکان برنامه‌نویسی ژن‌هایم به معنای آن است که ما ناخواسته در مسیرمان به تبدیل شدن بیشتر شبیه ماشین‌ها خواهیم بود؟

در یک سو، ویرایش کردن ژنوم انسان با نیت پایان دادن به بیماری‌ها می‌تواند مطلقاً منجر به افزایش تندرستی و شادمانی شود ولی همین توانمندی‌های بسیار می‌توانند به سادگی به جنگ‌های داخلی یا تروریسم دامن بزنند. تصور کنید اگر فقط ابَرثروتمندان بتوانند از همة بیماری‌های تهدید کنندة حیات اجتناب کنند و بتوانند 150 سال زندگی کنند و این در حالی باشد که دیگری در 90 سالگی یا جوان‌تر پژمرده شود یا حتی نتواند از پس مراقبت‌های سلامت اولیة خود برآید. حتی اگر زمینه‌هایی از این درماندگی مطلق برای توسل جستن به ناآرامی شهری وجود دارد، جلوتر نروید. چگونه حتی ما می‌توانیم ارائه چنین امکاناتی را در سر بپرورانیم بدون این که در وهلة اول این موارد آزاد دهندة اخلاقی و اجتماعی را در نظر نگیریم؟ چرا ما باید تریلیون‌ها یورو بر روی STEM هزینه کنیم ولی بر آن چه که من موارد انسانی CORE می‌نامم، سرمایه‌گذاری ناچیزی انجام دهیم؟ (CORE به معنای خلاقیت و شفقت، اصالت، دوجانبه‌گرایی و مسئولیت، و همدردی است)²⁸¹.

یک نمونة مثبت

ما مجبور نیستیم به نمونه‌های در حد غایی بنگریم تا یک برهان گیرا را برای یا بر علیه یک تجربة انسانی به واسطة دیجیتالی شدن یافت نماییم. ویکی‌پدیا را در نظر بگیرید، یک پایگاه دانش جهانی بدون منفعت: یک نمونة مثبت از ترقی به سوی سعادت جمعی که از طریق فناوری ارائه می‌گردد. خلق ویکی‌پدیا، تا حد بسیار فراوانی، به اصلاح و بهبودی جامعه می‌پردازد. در زمانی که دانش و اطلاعات به راحتی برای همگان در دسترس نبود، ویکی‌پدیا، دسترسی را برای هر کس، در هر جا، بدون هزینة پرداخت برای لغت نامه‌های با سبک قدیمی، کتابخانه‌ها یا پایگاه داده‌های تجاری یا دولتی، باز نمود.

در واقع، مردم در سراسر جهان از داشتن ویکی‌پدیا خوشحال هستند و جیمی ویلز²⁸²، یکی از بنیان‌گذارانش، به شکل گسترده‌ای، مورد احترام است زیرا پیشرفت جمعی جامعه را با این نوآوری به پیش برده است. افزون بر این، پیامدهای ناخواستة ویکی‌پدیا مانند نابودی نسخه‌های چاپی دانشنامة بریتانیکا را می‌توان به عنوان چیزی ناچیز قلمداد نمود.

بنابراین، ویکی‌پدیا، یک مورد خوب از فناوری برای پیشبرد سعادت و شکوفایی انسان ارائه می‌دهد ولی قطعاً بدون کاستی نیست. برای نمونه، فهرست‌نویسی انگلیسی زبان این مؤلف (گرد لئونارد) در سال 2011 به دلیل فقدات شهرت، حذف گردید.

بر عکس، نوآوری‌هایی همچون Tinder (یک برنامة کاربردی عمومی دوستیابی و پیام‌رسان، مگر این که شما هنوز رضایتی از آن نداشته باشید)، نقشه‌های گوگل یا اپل واچ، واقعاً به همان طریقی که ویکی‌پدیا انجام داد، سعادت جمعی را به پیش نمی‌برند؛ هر چند که آن‌ها احتمالاً مفید بوده و حتی محبوب هستند. آن‌ها واقعاً بیان تجاری رهیافت «بله ما می‌توانیم» به فناوری شیوه و الگوی زندگی هستند. مفید، بله، پیش بردن سعادت عمومی؛ احتمالاً خیر، یا حداقل نه به اندازة ویکی‌پدیا.

تجارت شادمانی برای لذت جویی توان یافته با فناوری؟

تصور کنید اگر ما بتوانیم به آسانی، احساس نزدیکی با یک زوج جنسی انسانی با استفاده از یک ربات جنسی توان یافته با هوش مصنوعی، زیبا و پیراسته، شبیه‌سازی کنیم (بله، محض شگفتی شما این یک صنعت با رشد پرشتاب است) (183).

با همة این تفاسیر، رابطة جنسی داشتن با ربات‌ها مسلماً تجربة لذت‌گرایانه را برآورده می‌سازد. یک نفر دچار حیرت می‌شود: آیا ما هنوز برای پیگیری شادمانی واقعی و یک تجربة جنسی کامل در یک ارتباط حقیقی انسان با انسان در زندگی واقعی که حقیقتاً برای برقراری آن باید تنازع کنیم، مشتاق هستیم؟ یا این که ما به سهولتی که ربات‌های جنسی در دسترس خواهند بود، عادت خواهیم کرد و بنابراین تن به راحتی می‌دهیم؟ چقدر وسوسه‌انگیز خواهد بود که به چنین خوی و منش مصرف‌گرایی به جنس، متوسل شویم؟ و از سوی دیگر، از این که افراد می‌توانند حق داشته باشند از آن چه می‌خواهند لذت ببرند؛ ما که هستیم بتوانیم آن را انکار کنیم؟

مطمئناً شما ممکن است استدلال بیاورید که ما هنوز قطعاً تفاوت را خواهیم دانست. ولی چه مقداری، در اذهان خودمان، با استفادة دائم از ربات‌های جنسی، ما تغییر خواهیم کرد؟ آیا این با مغزهایمان در نخواهد افتاد و درک از واقعیت‌مان را نابهنجار نخواهد کرد؟ یعنی دیدگاه ما از آن چه که جهان واقعی حقیقتاً شبیه است.

مطالعات بر روی مردانی که به شکل رایج پورنوگرافی را می‌بینند نشان داده‌اند که کاربرد گسترده از آن اثر چشمگیری بر تحریک مورد نیاز برای برانگیختگی و برای آن چه که برای اوج جنسی لازم است، به وجود می‌آورد (184). فقط تصور کنید که چقدر این مورد با ربات‌های جنسی بزرگنمایی خواهد شد، ربات‌هایی که واقعاً بسیار هوشمند، ارزان و به شکل باور نکردنی‌ای همانند انسان می‌شوند (بخش‌هایی از Humans مربوط به AMC را ببینید تا متوجه شوید این موضوع تا کجا می‌تواند برود) (185).

آیا این به معنای آن است که ما باید ربات‌های جنسی را منع سازیم زیرا آن‌ها ما را به سوی عادات فاقد خوی انسانی هدایت می‌نمایند؟ من طرح خواهم کرد که آسیبی اجتماعی یا هر آسیب دیگری با منع کردن نسل‌های آیندة ربات‌های انسان‌نما موجود نخواهد بود ولی مسلماً ایجاد توقف در دسترس‌پذیری به آن‌ها، نامحتمل است. این ولی یک نمونه است که چگونه دستاوردهای فناورانة نمایی (در این مورد، پوست مصنوعی، ربات‌ها و هوش مصنوعی) می‌توانند ما را به سوی مسیر شادمانی لذت‌گرایانه حتی با سرعت بیشتر، هزینة پایین‌تر و دسترس‌پذیری گسترده‌تر، سوق دهند. بدین‌سان، پرسش کلیدی این است: آیا فناوری‌های نمایی، سعادت ما را به پیش خواهند برد و اگر این گونه باشد، چه کسی به این رسیدگی خواهد کرد تا اطمینان حاصل شود آن‌ها لغزش نمی‌یابند، چه ناخواسته و چه با طراحی؟ چه کسی تصمیم می‌گیرد چه چیزی انسانی است و چه چیزی نیست و در چه نقطه‌ای ما از یک خط گذر خواهیم کرد تا از ابزارهایی که خلق کرده‌ایم ما را تمایز دهد؟

این یک تنش ذاتی میان انسان و ماشین است که فناوری شاید نتواند آن را حل کند، حتی اگر همة مغز انسان و 100 میلیارد سلول عصبی آن را بتوان در نهایت شبیه‌سازی نمود. شفقت و شادمانی، مانند هوشیاری، به آسانی فقط در ابعاد بیولوژیک و شیمیایی وجود ندارند ولی آن‌ها در یک نمایش جامع از هر چیزی که انسانی است، تبلور می‌یابند.

حتی اگر آن‌ها به تندی در شبیه‌سازی آن‌ها تا حد فراوانی بهتر شوند این احتمال برای ماشین‌ها یا نرم‌افزارها نمی‌رود که هرگز به این حالات دست بیابند: به روشنی، برنامه‌های رایانه‌ای هم اکنون می‌توانند شفقت را با تکنیک‌های شناخت چهره‌ای مورد سنجش و شناسایی قرار دهند، نرم‌افزار شاید پس از بازنگری تریلیون‌ها متغیر بیان چهره‌ای و نشانگرهای زبانی، بتواند حتی شفقت را شبیه‌سازی کند.

تلاش برای تعریف کردن و سپس برنامه‌ریزی یک ویژگی انسانی مانند شفقت یا چیزی به مرموزی هوشیاری در وهلة اول به نظر می‌آید همانند یک مفهوم غیرقابل ادراک یا غیرقابل باور در آینده قابل پیش‌بینی باشد. ولی آن گاه دوباره، آیا این خطر واقعی وجود دارد که یک شبیه‌سازی عالی شاید «به اندازة کافی» برای اکثر ما خوب جلوه دهد؟ من به شکل فزاینده‌ای پیرامون این ایده که ما دیر یا زود ممکن است با داشتن چیزی «به اندازة کافی» در نزد خود، انجام آن را روا بداریم، نگرانم.

برگرداندن فناوری به سر جای خود

من اساساً باور دارم که رایانه‌ها، برنامه‌های نرم‌افزاری، الگوریتم‌ها و ربات‌ها محتمل نیستند که هرگز شفقت انسان مانند یا حس همدلی را به دست آورند. ربات‌ها و هوش مصنوعی به عنوان یاری دهندگان و خدمتگزاران بله ولی قطعاً به عنوان ارباب‌ها هرگز.

آیا ما باید تلاش کرده و از مدل‌های ریاضیاتی یا هوش مصنوعی برای بهینه‌سازی پیامدهای هیجانی استفاده کنیم؟ و در زمینة تفکر ماشین، آیا ما واقعاً باید تلاش کنیم که فناوری بهتر را جهت حل مسائل اجتماعی یا سیاسی گسترش دهیم؛ مانند استفاده از تکنیک‌های مراقبتی منکوب‌گرا برای پایان دادن به تروریسم؟

ارزش‌های پیچیدة آندروریتمی می‌بایست در دامنة انسانی برجای بمانند؛ به دو دلیل، اول این که ما در خلق بیان‌های ظریف آن‌ها، بهتر هستیم و دیگر آن که درگیر شدن مستقیم با آن مسائل، کلیدی برای توسعه دادن سعادت‌گرایی (شادمانی ژرف‌تر) است. من اغلب شگفت‌زده می‌شوم آیا پیشرفت «فناورانة نمایی»، شادمانی «انسانی نمایی» را زایش خواهد داد، جدا از این که یک درصد از افرادی که چنین ماشین‌های معجزه‌وار درخشان را خلق می‌کنند، مالک آن‌ها بوده و از آن‌ها سود می‌برند. ساخت یک ماشین انسانی کامل، یک هدف پاک و منزه است تا از همة کاستی‌ها و ناکارآمدی‌هایش رها شود؛ به گونه‌ای که ما می‌توانیم در نهایت خدا شویم، هر آن چه که می‌خواهد این گزاره معنا دهد؟

من دربارة شما نمی‌دانم ولی این جهانی نیست که من تلاش می‌کنم بسازم. قصد این که ما این مسیر را دنبال کنیم همانند آن است که با آینده‌مان قمار کنیم و انگار چشمه را برای کودکان‌مان و نسل‌هایی که می‌آیند، مسموم سازیم.

شادمانی را نمی‌توان به درون ماشین‌ها برنامه‌نویسی کرد، خودکار نمود یا فروخت. شادمانی را نمی‌توان مورد نسخه‌برداری قرار داد، کدگذاری کرد یا به صورت ژرف، فرا گرفت. این نیاز به تجلی یافتن و رشد در درون مان و در میان ما دارد و فناوری در اینجا است که به ما به عنوان یک ابزار کمک می‌کند، ما گونه‌ای هستیم که از فناوری استفاده می‌کنیم نه گونه‌ای که مقدر گردیده باشد فناوری شود.

در نهایت، پیرامون آن فکر کنید: واژة شادمانی خودش از یک واژة وایکینگی برای شانس (happ) ریشه می‌یابد. این همچنین به مفهوم رویداد شانسی یا شانس، اشاره می‌کند. مدافعان فناوری ممکن است ابراز کنند که آن‌ها عناصر منفی شانس را از زندگی انسان می‌زدایند؛ که همگی می‌دانیم این‌ها گروهی بزرگ هستند از بیماری و فقر تا خود مرگ. با این وجود، برای چنین کاری، آن‌ها ممکن است به صورت نظام‌مندی، توانایی انسان به تجربه کردن سطوح ژرف‌تر شادمانی را تغییر دهند که به شرایط قابل سنجشی بستگی ندارند. بله، به هر تفاسیری به ما اجازه دهید از ابزارهای فناوری برای زدودن خطرات زیان‌آور موجود انسان بر سیارة زمین استفاده شود. ولی نه، اجازه ندهید ابزارهای ابزارهایمان شویم و تیزهوشی و نیکی ارادة آزادمان را مانند بومیان معصوم ینگة دنیا، به یک دسته از زیورآلات بدلی و شور و شوق ارزان، تسلیم کنیم.

فصل دهم
اخلاق دیجیتالی

فناوری اخلاقیاتی ندارد
ولی انسانیت به اخلاقیات بستگی دارد.

اجازه دهید مقداری ریاضیات نمایی انجام دهیم. چنانچه ما سیر کنونی خود را ادامه دهیم، فقط ظرف 8 تا 12 سال (بستگی به آن دارد چه هنگامی آغاز به شمارش کنیم)، پیشرفت کلی فناورانه از نقطة عطف امروزی 4 به 128 جست می‌زند. در آن زمان، منظر اخلاقیات‌مان به صورت خطی و پلکانی، لنگان لنگان، به پیش می‌رود و مقیاس انسانی بهبودی از 4 به 5، یا 6، چنانچه خوش شانس باشیم؛ این فقط تا مقدار کمی همچنان که ما یک چهارچوب نوین را می‌پذیریم، بهبود خواهد یافت.

حتی اگر قانون مور در نهایت در کاربرد خود تا آنجا که ما ریزتراشه را مدنظر قرار می‌دهیم، متوقف گردد، بسیاری از گستره‌های فناوری، از پهنای باند ارتباطات گرفته تا هوش مصنوعی و یادگیری ژرف هنوز احتمالاً حداقل به صورت نمایی و با اثرات ترکیبی، رشد می‌یابند؛ به زبان دیگر، تغییرات، یکدیگر را تقویت می‌نمایند (186).

به ده سال دیگر در آینده زوم کنید و ما ممکن است در واقع به 95% خودکاری، اتصال یابندگی فزاینده، مجازی شدن و مافوق کارآمدی منتهی شده باشیم و بسیار کمتر از آن چه که می‌توانیم امروز تصور کنیم، انسان باشیم. جامعه‌ای که در مسیر رشد نمایی جابه‌جایی‌های کلان (بنگرید فصل سوم) خود خوابگردی می‌کند، جامعه‌ای که درنگ نمی‌کند تا پیامدهای آن را برای ارزش‌های انسانی، اعتقادات و اخلاقیات در نظر بگیرد، جامعه‌ای که توسط فناوران، سرمایه‌داران خطرپذیر، بازارهای سهام و نظامی‌گری هدایت می‌گردد، احتمالاً به یک دورة واقعی ماشینی ورود می‌کند.

پس اخلاقیات چه هستند؟ با رهسپار شدن در فراتر از یک پاسخ ساده، چگونه یک فرد باید زندگی کند، واژة یونانی ethos به معنای رسم و عادت است (187). امروزه، ما اغلب از اخلاقیات به عنوان یک مترادف یا مختصرنویسی پندها، معنویات، ارزش‌ها، فرضیات، نیات و اعتقادات استفاده می‌کنیم. نگرانی اولیة اخلاقیات این پرسش است آیا در شرایط موجود، چیزی درست است یا خیر؟ آن چه برای شما درست احساس می‌شود بر اساس اخلاقیات شما است و در بسیاری از موارد این دشوار است که توضیح داده شود چرا چیزی درست احساس نمی‌شود. این به روشنی یکی از چالش‌های توافق نمودن بر سر حتی اساسی ترین قوانین اخلاقی برای دوران نمایی‌ای است که ما در آستانة ورود به آن هستیم. با این وجود، بعداً من تلاش خواهم کرد که برخی از قوانین اخلاقی را فرمول‌بندی کنم؛ یا اصولی که توسعة فناوری را هدایت می‌نمایند.

”امروزه کار ضروری، تمایز دادن خودمان از ماشین‌هایمان است. این یک بازکشف است، برای مثال، این که همة دانش، دانش انسان است و این که هیچ چیز وجود ندارد که بتوان در یک جهان مهندسی شده پیدا کرد تا ارزشِ ایده‌آل نامیدن را داشته باشد؛ ولی فقط این در خودمان است که این گونه می‌باشد.“ استفان تالبوت (188)

لاری چرچیل²⁸³، متخصص اخلاق زیستی چنین بیان می‌کند: ”اخلاقیاتی که به عنوان ظرفیت فکر کردن منتقدانه پیرامون ارزش‌های معنوی درک گردیده و عملکردهای ما را بر اساس ارزش‌ها هدایت می‌کنند، یک ظرفیت عام انسانی می‌باشد.“ (189)

بنابراین، چنانچه اخلاقیات، فکر کردن انتقادانه پیرامون ارزش‌های معنوی و هدایت عملکردهای خودمان بر طبق آن واقعاً یک ظرفیت عام انسانی است ما نباید (الف) هرگز از ماشین‌ها یا رایانه‌ها انتظار داشته باشیم که واقعاً آن‌ها را درک کنند و از این رو، باید پیرامون ظرفیت‌های خود یادگیرندگی فزاینده آن‌ها بسیار محتاط باشیم. یا این که (ب) باید تلاش نمود که برخی از انواع اخلاقیات ضروری را به درون نرم‌افزار، کدگذاری کرد و به ماشین‌هایمان آموزش دهیم که حداقل آن‌ها را درک نموده و به آن‌ها احترام بگذارند؛ موضوع موسوم به اخلاقیات ماشین (190)؟ این یک پرسش مهم است که ما در جستجوی پاسخ آن در اینجا خواهیم بود.

اگر ماشین‌ها خود یادگیرنده شوند بر سر اخلاقیات ما چه خواهد آمد؟

پرسش‌های اخلاقی به تندی در راستای پیشرفت نمایی فناوری بر می‌خیزند، برای مثال، دربارة خودروهای خودران، چنانچه یک تصادف به صورت کلی غیرقابل اجتناب باشد، این خودرو می‌بایست چه کسی را زیر بگیرد؟ در مورد ربات‌هایی که به مراقبت خانگی می‌پردازند، چنانچه بیمار از خوردن داروی خودش امتناع نماید ربات چه باید انجام دهد؟ هنگامی که ماشین‌ها دنبال کردن درخت‌های تصمیم‌گیری پیش برنامه‌ریزی خود را متوقف کنند و خودشان به یادگیری چیزها آغاز کنند، آیا آن‌ها، چیزهایی که حتی برای انسان‌ها بیان و کدگذاری شان دشوار است را یاد خواهند گرفت؟ انسان‌ها حتی به آسانی نمی‌توانند تصمیماتی دشوار اتخاذ کنند مانند ”اگر یک بیمار 35 درصد شانس برای یک مورد پزشکی که تهدید کنندة حیات است داشته باشد آیا آن گاه او باید این داروها را بگیرد حتی اگر فشار برای این کار نیاز باشد؟“ مسلماً، انسان‌ها چیزهای گوناگونی در زمان‌های متفاوتی انجام می‌دهند و آن‌ها اشتباه هم می‌کنند. آیا ما این را از یک ربات می‌پذیریم و آیا ما می‌پذیریم که به چنین شیوه‌ای توسط یک ربات تحت درمان قرار بگیریم؟

در داستان کوتاه تخیلی علمی ایزاک آسیموف²⁸⁴ در سال 1942 با عنوان Runaround، او سه قانون هم اکنون ناپسند را تعریف می‌کند:

1) یک ربات نمی‌بایست به یک انسان آسیب برساند یا از طریق انفعال اجازه بدهد تا یک انسان در معرض آسیب قرار بگیرد.

2) یک ربات می‌باید دستورات داده شده توسط یک انسان را پیروی کند مگر آن که چنین دستوراتی با قانون اول در تضاد قرار گیرد.

3) یک ربات باید وجود خودش را تا به هنگامی که چنین محافظتی با قانون اول یا دوم در تضاد قرار نگیرد، حفظ نماید.

آیا امروزه این قوانین هنوز صادق هستند و آیا دربارة ماشین‌هایی که خود یادگیرنده هستند، کارساز خواهند بود؟ ممکن است که یک ربات مراقبت کننده نیاز داشته باشد به انسان‌ها آسیب برساند (البته تا حدی) زیرا انسان مسئول‌تر دیگری (برای مثال، یک دکتر)، به آن دستور داده است تا دارو را به زور به او بدهد. چگونه ربات‌مان می‌داند کجا آغاز کند و در کجا متوقف شود؟ آیا نرم‌افزارمان اگر ما در یک پرهیز غذایی هستیم، یخچال را قفل می‌کند؟ آیا این برنامة نرم‌افزار، تلفن و اینترنت را خاموش می‌کند تا از سفارش دادن پیتزا توسط ما جلوگیری کند؟ آیا توالت‌مان را برای نشان‌های مصرف برنامه‌ریزی نشده، پایش می‌کند؟

در این زمینه، این کاملاً روشن است که هیچ هوش مصنوعی‌ای هرگز بدون نوعی از مدول حاکمیت اخلاقی، واقعاً هوشمند نخواهد بود زیرا بدون آن، هوش مصنوعی احتمالاً آخرین قطعات اخلاقی معمایی که انسان‌ها می‌توانند در نظر بگیرند را از دست خواهد داد و بنابراین همیشه در هنگامی که موضوعی مهم‌تر است، شکست خواهد خورد. یک هوش مصنوعی که وسیلة خودران شما را می‌راند و نمی‌داند چه هنگامی درست است یک حیوان روی جاده را باید کشت یا نباید کشت را تصور کنید.

با این وجود، حتی اگر ما قصد داریم ربات‌هایی را بسازیم که از لحاظ یادگیری و تصمیم‌گیری خودمختارانه، هوشمند باشند، باید گفت که امروزه آن‌ها هنوز نزدیک نقطة صفر از لحاظ هوش هیجانی و اجتماعی خود قرار دارند؛ این‌ها دو اصطلاحی هستند که به خودی خود بسیار سخت هستند توضیح داده شوند یا مورد سنجش قرار گیرند.

وقتی که موضوع اخلاقیات به پیش می‌آید مورد ماشین‌های یادگیرنده یکی از نگرانی‌های اصلی من است. یادگیری ژرف، گستره‌ای از هوش مصنوعی است که از سال 2015، بزرگ‌ترین سرمایه‌گذاری‌ها بر آن شده است (191) و بسیار محتمل است که در طی چند سال آینده این روند نیز ادامه یابد. ما مترصد دیدن زمستان دیگری برای هوش مصنوعی نیستیم، دوره‌ای دیگر که سرمایه‌گذاران، سرمایه‌گذاری بر پروژه‌های پرخطر هوش مصنوعی را متوقف خواهند کرد چون که برای هوش مصنوعی بسیار نوید داده شده است در حالی که آن‌ها بسیار کم‌بهره بوده‌اند.

این را تصور کنید اگر (چه هنگامی؟) ماشین‌ها بی‌نهایت قدرتمند شوند و ابَررایانه‌ها بتوانند چگونگی حل تقریباً هر مسئله‌ای را بر اساس فقط یک جریان سترگ از داده‌های زنده (برای مثال، بدون هر فرمان یا برنامه‌ریزی پیشین) فرا گیرند. پیروزی AlphaGo مربوط به DeepMind گوگل که در پیش از این بحث گردید، یک مثال اولیه از چنین توانمندی یادگیری در عمل است (192).

با یادگیری ژرف، ماشین‌های قدرتمند می‌توانند قوانین، ارزش‌ها و اصول نرم موجود را کشف کنند و بنابراین می‌توانند درک کرده و شاید حتی آن‌ها را شبیه‌سازی نمایند. با این وجود، اگر این تقدیر شده است که چیز بعدی بزرگ در رایانش باشد (همان طور که IBM دوست دارد بگوید، «رایانش شناختی²⁸⁵»)، ما انسان‌های مطلق، راهی نخواهیم داشت تا آزمون نماییم آیا پیشنهادات هوش مصنوعی درست هستند یا خیر، زیرا توانمندی‌های رایانشی ماشین‌ها به صورت چشمگیری از خودمان پیشی خواهند جست. در واقع، یک مسئلة بدسرشت این است، اگر ما ماشین‌هایی اختراع کنیم که چندین برابر فراتر از توانمندی‌های خودمان هستند، با IQ های 50,000 و بالاتر، ما چگونه می‌فهمیم که به آن‌ها می‌توان اعتماد نمود؟ و چه کسی هنوز می‌تواند بر آن‌ها نظارت نماید؟ آیا آن‌ها در نهایت به طریقی نوین، با ادراک خواهند شد؟ آیا ما باید مجموعه‌ای از اخلاقیات مورد تمایل انسانی را در آن‌ها جاسازی کنیم و چگونه این کار حتی امکان‌پذیر خواهد بود؟

میتشل ولدروف²⁸⁶ در مقالة مجلة هوش مصنوعی (AI) در سال 1987 نوشت: ”یک چیز که آشکار است... این است که ماشین‌های هوشمند، ارزش‌ها، فرضیات و مقاصد را تجسم خواهند داد؛ چه برنامه‌نویسان آن‌ها آگاهمندانه قصد داشته باشند یا خیر. بدین سان، همچنان که رایانه‌ها و ربات‌ها بیشتر و بیشتر هوشمند می‌شوند، این ضروری می‌گردد که ما به دقت و به صورت روشن پیرامون این فکر کنیم که آن‌ها چه ارزش‌های درون ساخته‌ای هستند.“ (193)

این مورد حتی همچنان که ما به دوران نمایی وارد می‌شویم ارتباط بیشتری می‌یابد زیرا ما باید هم اکنون در نظر بگیریم که چه چهارچوب‌های اخلاقی باید برای همة فناوری‌های نمایی شامل هوش مصنوعی، مهندسی ژئو، رایانش شناختی و مسلماً ویرایش کردن ژنوم انسان را به شکل خاص در نظر بگیریم. این شامل هر دوی چهارچوب‌هایی که خواسته یا ناخواسته در درون ماشین‌ها توسط ابداع کنندگان انسانی آن‌ها یا سازندگان‌شان برنامه‌ریزی می‌شوند و همچنین آن‌هایی که آن ماشین‌ها ممکن است خودشان یاد بگیرند و در طی زمان تحول یابند نیز می‌شود.

اگر واتسون²⁸⁷ IBM یک ماشین متفکر واقعی است، چگونه این با متغیرها و ارزش‌های انسانی که ناآشکار، مبهم یا ناگفته حتی میان انسان‌ها هستند، سروکار می‌یابد؟ آیا این اخلاقیات هوش مصنوعی می‌بایست از طریق پیش برنامه‌نویسی در سخت افزار سیم‌پیچی شوند یا می‌بایست با استفاده از شبکه‌های عصبی یادگیری ژرف که جویای تقلید کردن این که چگونه مغز اطلاعات جدید کسب می‌کند، تکامل یافته و سازوکار بیابند؟ و اگر آن‌ها خود یادگیرنده هستند، چگونه انسان‌ها خواهند توانست آن‌ها را تایید، کنترل و هماهنگ سازند؟ چگونه این سامانه‌ها به بی‌شمار جایگشت‌ها (استحاله‌ها)ی فرهنگی اخلاقیات انسانی، سوروسات‌رسانی خواهند کرد؟

پرسش‌های ژرف‌تر علمی پیرامون هوش مصنوعی و یادگیری ژرف مانند امکان‌پذیری فنی کنترل کردن چنین هوش‌های نوینی، در فراتر از منظر این مؤلف و کتاب و برای هم اکنون به هر ترتیب، این آشکار است که این یک وظیفة عظیم است که در پیش روی ما نهفته است. در واقع، در آیندة بسیار نزدیک، نقش متخصص اخلاق دیجیتالی به خوبی به یکی از پرطرفدارترین شغل‌ها در هم راستا با دانشمندان «علوم داده» تبدیل خواهد شد. آیا ممکن است این یک شغل خوب برای بچه‌های شما نیز باشد؟

و نه هیچ مذهبی نیز همچنین...؟

این بسیار مهم است که به یاد داشته باشیم که اخلاقیات به هیچ وجه همانند مذهب نیستند. دالایی لاما در کتاب روشنگرانة سال 2011 خود تحت عنوان «فراتر از مذهب» این را خاطر نشان نمود که هر کسی اخلاقیات دارد و فقط برخی از مردم مذهب دارند و آن گاه برای برقراری اخلاقیاتِ سکولارِ جهانی، فراخوان داد تا ضروری‌ترین تصمیم‌های ما را هدایت نمایند مانند آن‌هایی که در مورد سامانه‌های سلاح‌های خودکار با توان کشتن بدون نظارت انسانی هستند (194). اخلاقیات در برابر مذهب یک تمایز ضروری دارد که ما نیاز داریم هنگامی که دربارة موضوعات داغی همچون ویرایش ژنوم انسان یا فزونی دهندگان غیربیولوژیک انسان صحبت می‌کنیم، برقرار سازیم. من پیشنهاد می‌نمایم که ما باید از آوردن مذهب به درون این بحث‌ها تا جایی که می‌توانیم پرهیز کنیم زیرا دیدگاه‌های مذهبی تقریباً یکسانی و فراگیری‌ای که اکثر اخلاقیات و ارزش‌های پایه دارا هستند، فاقد می‌باشند و همچنین این که آن‌ها به صورت نامتوازن از وهلة اول بسیار با تاریخ و تجربیات گذشته، مملو شده‌اند.

آرتوسی کلارک این تمایز بحرانی را در یک مصاحبة سال 1999 برجسته کرده است:

”این است که هم اکنون مردم بر این فرض هستند که مذهب و اخلاقیات یک پیوند بایسته دارند. ولی اساسِ اخلاقیات واقعاً بسیار ساده است و اصلاً به مذهب نیازی ندارد.“ (195)

ایجاد یک شورای اخلاق دیجیتالی جهانی: چگونه ما اخلاقیات را که با دوران نمایی مناسبت دارد، تعریف خواهیم کرد؟

من دوست دارم به دو نگرانی عمده بپردازیم: در نخست، تلاش به تعریف کردن آن چه که می‌تواند یک مجموعه مورد توافق جهانی اخلاقیات برای یک دورة «دیجیتالی نمایی» باشد؛ و دوم تلاش به تعریف کردن آن چه که ما نیاز خواهیم داشت انجام دهیم تا سعادت انسان و نگرانی‌های اخلاقی که واقعاً در صدر برنامة کاری جهانی می‌ماند را تضمین نماید و توسط تفکر ماشینی تصاحب نگردد.

ما به تعریف کردن مجموعه‌ای از اخلاقیات دیجیتالی نهایی نیاز داریم؛ اخلاقیاتی که به اندازة کافی با دوران دیجیتالی مناسبت دارند: آشکار و روشن به گونه‌ای که سرعت پیشرفت را کند نسازند یا مانع نوآوری نشوند و با این حال به اندازة کافی قوی باشند تا از انسانیت‌مان حفاظت کنند. یک قطب‌نما و نه یک نقشه، به سوی یک آینده‌ای که فناوری‌های قدرتمند فزاینده‌ای که در نخست، توانمند می‌سازند، سپس فزونی می‌دهند و آن گاه به صورت افزایشی، انسانیت را تهدید می‌سازند را ببینند.

کلام آخر آن که من پیشنهاد می‌کنم ما یک شورای اخلاق دیجیتالی جهانی (GDEC)²⁸⁸ را ایجاد کنیم که وظیفة آن تعریف نمودن قوانین زمینه‌ای و اساسی‌ترین ارزش‌های فراگیری باشد که برای چنین جامعه‌ای کاملاً متفاوت و دیجیتالی شده می‌بایست وجود داشته باشند.

کم و بیش، اکنون ما موافق هستیم که هیچ دولت سرکشی حتی اگر بتواند از عهدة آن‌ها برآید نمی‌بایست دارای توانمندی‌های هسته‌ای باشد. این وضعیت در واقع پیچیده و بغرنج، آکنده از دروغ‌ها و فریفتگی است و همیشه در حال تغییر، ولی درک ضروری آن پابرجا می‌ماند و تقویت می‌گردد زیرا جایگزین آن شامل خطرهای ناگفته است.

به همین طریق، ما اکنون به توافق بر محدودیت‌ها و پایش مستقل هر دوی منظر و پیشرفت آیندة هوش مصنوعی، ویرایش ژنوم و دیگر فناوری‌های نمایی، نیاز داریم.

برای آغاز این گفتمان، من برخی از مغلطه‌ها را در زیر طرح کرده‌ام. من می‌دانم این وظیفه‌ای دلهره‌آور است؛ بله، مطمئناً، ممکن است حتی تلاش به آزمون کردن آن نیز گستاخانه باشد. اما ما نیاز به شروع کردن داریم، و بدین گونه من در نخست ممکن است نقره‌داغ شوم!

برای حمایت از GDEC، ما نیز نیاز به طرح یک بیانیه‌ای ساده در مورد اخلاقیات دیجیتالی نیاز داریم، یک نوع از معاهدة جهانی برای «حقوقِ انسانیِ نمایی» در یک جهان رو به افزایش دیجیتالی. چنین بیانیه‌ای و معاهدة پس از آن، می‌توانند در جهت هدایت و پاسخگویی آن شرکت‌هایی که این فناوری را اختراع می‌کنند، می‌سازند و می‌فروشند (و دولت‌هایشان) نقش ایفا کنند. این واقعاً مهم است زیرا دیگر نمی‌توان دلالت‌های تغییر فناورانة نمایی بر موجودیت انسان را فقط تحت عنوان عوامل بیرونی، با آن‌ها برخورد نمود، به عنوان یک اثر جانبی که نگرانی فوری‌ای نسبت به عاملین آن ایجاد نکند.

من تجسم می‌کنم که GDEC به لحاظ نمودن متفکران ژرف و آگاهمند از جامعة مدنی، دانشگاهی، دولت، کسب‌وکار و فناوری و همچنین متفکران مستقل، نویسندگان، هنرمندان و رهبران صاحب اندیشه نیاز دارد (این نویسنده نیز خوشحال می‌شود در بحث مشارکت داشته باشد!) این نیاز دارد که از آغاز جهانی باشد و ممکن است در نهایت به قدرت‌های مشابه یا حتی بزرگ‌تر از گزارشگران ویژة حقوق بشر سازمان ملل متحد نیاز داشته باشد؛ به عبارتی دیگر، حق پایش، توصیه و گزارش موارد و نقض کردن قراردادها به عموم را داشته باشد (196).

همان گونه که با موضوع پایداری برخورد گردید، اخلاقیات نیز اغلب به عنوان داشتن «یک چیز مطلوب» در برنامة کاری بوده که هر گاه چیزی فوری بر می‌خیزد می‌توان با آن یک باره برخورد نمود. این روند از بنیان دچار کاستی بوده و رهیافت خطرناکی نسبت به ایمن نگه داشتن آینده‌مان است. همچنان که ما به دورانی حرکت می‌کنیم که توسعه‌های بحرانی به تدریج و آن گاه به صورت ناگهانی رخ می‌دهند، ما نمی‌بایست به آسانی گذرگاهی داشته باشیم که اخلاقیات مان را در آن نقطة مورد ملاحظه قرار دهیم که آن‌ها به صورت جبران ناپذیری توسط ماشین‌های فکر کننده، در هم کوبیده شده باشند. ”منتظر ماندن تا ببینم چه می‌شود“ به سادگی، کناره‌گیری انسانی را معنا می‌دهد.

یک حسابان اخلاقی نوین

ما می‌بایست هزینه و منابع را تا جایی که داریم بر اخلاقیات دیجیتالی هزینه کنیم؛ همان طور که بر فناوری‌های نمایی هزینه می‌کنیم. ارزیابی پیامدهای ناخواسته فناوری‌های نمایی و پیشگیری از آسیب به انسانیت (فراتر از خطرات وابسته به هستی) به همان اندازه حمایت می‌طلبد که ما به علومی می‌دهیم تا این تغییرات را به پیش ببرد. عامل انسانی به اندازه‌ای به بودجه و ارتقاء نیازمند است که علم به آن نیاز دارد؛ علم، مجموعة فناوری، مهندسی و ریاضیات (STEM)، بدون (²⁸⁹ CORE) آن نمی‌تواند وجود داشته باشد.

جان مارکوف²⁹⁰، خبرنگار نیویورک تایمز در کتاب «ماشین‌های رحمت عاشقانه»، نیاز به این حسابان اخلاقی نوین را برجسته می‌سازد:

”خوش‌بین‌ها به این امید دارند که سوءاستفاده‌های بالقوه از سامانه‌های رایانه‌ای‌مان اگر کاربرد‌های هوش مصنوعی، ژنتیک، مهندسی و رباتیک، بیشتر بر انسان تا الگوریتم متمرکز شوند، کاسته خواهند شد. اما صنعت فناوری، یک پیشینه‌ای که روشنگری اخلاقی را بیان کند از خود تا کنون به جا نگذاشته است. این در صورتی واقعاً می‌توانست چشمگیر باشد که حداقل یک شرکت سیلیکون والی، یک فناوری سودآور را فقط به دلایل اخلاقی، رد کرده باشد. امروزه، تصمیمات دربارة پیاده‌سازی فناوری، به صورت عمده بر اساس سودآوری و کارآیی گرفته می‌شوند. آن چه مورد نیاز است وجود یک حسابان اخلاقی جدید است.“ (197)

پنج حقوق انسانی نوین برای دورة دیجیتالی

در اینجا پنج حقوق اساسی انسانی که ممکن است بخشی از بیانیة اخلاقیات دیجیتالی آینده را شکل دهند، فروتنانه پیشنهاد می‌دهم:

1) حق طبیعی ماندن؛ برای مثال بیولوژیکی

ما باید حق انتخاب کردن در حالت غیرفزون یافته²⁹¹ را داشته باشیم. ما به ابقاء حق خود برای استخدام شدن، استفاده از خدمات عمومی، خریدن چیزها و عمل در جامعه بدون احتیاج به قراردادن فناوری در درون بدن‌هایمان نیاز داریم. این ترس‌های WiredOrFired (سیم‌کشی شو یا اخراج شو) تا آنجایی که ادوات همراه و رسانه‌های اجتماعی مدنظر باشند، هم اکنون یک مورد است (به رغم این که اکثراً غیرزیان‌آور شمرده می‌شوند). با این وجود، یک نفر به سادگی می‌تواند آینده‌ای را تصور کند که به ما فشار آورده می‌شود تا عینک‌های AR/VR، رخ‌پوش‌ها یا کلاهخودهایی بپوشیم تا واجد شرایط استخدامی شویم و یا حتی بدتر از این، به عنوان یک شرط استخدامی، از برنامه‌های کاربردی خیس‌افزازی²⁹² استفاده کنیم یا این برنامه‌ها در بدن‌مان کاشته شوند. فقط انسان بودن دیگر «به اندازة کافی خوب» نخواهد بود و این یک آیندة رضایت‌بخشی نیست.

2) داشتن حق ناکارآمدی اگر و در جایی که ناکارآمدی، اساس انسانیت ما را معنی می‌دهد

ما باید حق گزینش آهسته‌تر بودن از فناوری را داشته باشیم. ما نباید کارآمدی را از انسانیت مهم‌تر کنیم. این به زودی ممکن است به صورت گسترده‌ای کارآمدتر و حتی ارزان‌تر شود که از وسایل تشخیص سلامت دیجیتالی از طریق پلتفورم‌هایی همانند Scanadu استفاده کرد تا بتوان یک دکتر را در هر زمانی که یک مورد طبی داریم ببینم. من بر این باورم که این فناوری‌ها در مجرای مثبت بوده و می‌توانند به عنوان یکی از کلیدها در کاهش دادن هزینة مراقبت‌های سلامت عمل کنند. با این وجود، آیا این به معنای آن است که ما باید افرادی که شیوة دیگری را برمی‌گزینند، مورد جریمه قرار دهیم، یا به آن‌هایی که نمی‌خواهند داده‌های سلامت شان در فضای ابر باشد، فشار وارد آوریم؟

3) حق عدم اتصال

ما باید حق داشتن قطع اتصال یابندگی «به سیاهی رفتن» را در شبکه و مکث در ارتباطات، ردیابی و پایش را ابقاء کنیم. ما می‌توانیم انتظار این را داشته باشیم که بسیاری از کارفرمایان و شرکت‌ها، اتصال یابندگی فزاینده²⁹³ را به عنوان یک نیازمندی پیش گزینه‌ای²⁹⁴، در آیندة نزدیک برقرار نمایند. به عنوان یک کارمند یا رانندة بیمه شده، شما ممکن است مشمول قطع اتصال غیرمجاز باشید اگر که شما یا خودروی‌تان دیگر در شبکه قابل ردیابی نباشد.

خود شمول بودن و امکان فنی قطع اتصال در زمان‌هایی که خودمان انتخاب می‌نماییم، یک حق مهم بنیادی است زیرا قطع اتصال این اجازه را به ما می‌دهد تا بر محیط غیرمیانجی شدة خودمان تمرکز بیابیم یا این که در لحظه زندگی کنیم. این همچنین خطر چاقی دیجیتالی (بنگرید فصل 7) را کاهش می‌دهد و از رسیدن به مراقبت ناخواسته می‌کاهد. آفلاین ممکن است یک تجمل آینده باشد ولی این باید به عنوان یک حق مسلم برقرار بماند.

4) حق بی‌نام و نشان بودن

در جهان پیش روی با اتصال یابندگی فزون یافته، ما باید هنوز گزینة عدم مورد شناسایی قرار گرفتن و ردیابی را مانند هنگامی که از یک پلتفورم یا برنامة کاربردی دیجیتالی استفاده می‌کنیم یا هنگامی که نظر خود را بیان می‌کنیم یا انتقاد می‌نماییم، داشته باشیم؛ چنانچه برای دیگران زیان بار نباشد و به حقوق هیچ کس دیگری تجاوز و تعهدی نمی‌کند. مطمئن باشید که برخی موارد آشکار وجود دارند که بی‌نام و نشانی آن‌ها غیرممکن است و شاید انتظار داشتن آن نیز غیرمنطقی باشد مانند تراکنش‌های بانکی دیجیتالی. با این وجود، ما باید مطمئن باشیم که فضاهای محافظت شده برقرار باشند جایی که ردیابی کامل در آن‌ها مورد نیاز نمی‌باشد یا یک هنجار نیست مانند هنگامی که نظرات سیاسی گفته می‌شوند، تصاویر شخصی به اشتراک گذاشته می‌شوند یا توصیه‌های پزشکی دریافت می‌گردند. بی‌نام و نشانی، رمز و راز، نیک‌بختی و انجام اشتباهات، از صفات و جنبه‌های انسانی هستند که ما نباید در پی آن باشیم تا توسط فناوری زدوده شوند.

5) حق استخدام کردن یا درگیر نمودن آدم‌ها به جای ماشین‌ها

ما نباید اجازه دهیم شرکت‌ها یا کارفرمایان چنانچه آن‌ها از آدم‌ها به جای ماشین‌ها استفاده می‌کنند، محروم شوند؛ حتی اگر این گران‌تر و به میزان کمتر، کارآمدتر باشند. برعکس، ما باید اعتبارهای مالیاتی را به آن‌هایی که این گونه عمل می‌کنند، فراهم سازیم و مالیات‌های خودکارسازی را برای شرکت‌هایی که به صورت چشمگیر تعداد مستخدمین را به نفع ماشین‌ها و نرم‌افزار کاهش می‌دهند، در نظر بگیریم. به در دسترس بودن این مالیات‌ها نیاز خواهد بود تا افرادی که قربانی بیکاری فناورانه شده‌اند، به کمک آن‌ها مورد بازآموزی قرار داده شوند.

این مهم است که توجه نشان داده شود که بسیاری از این حقوق، ناظر بر مورد مهمی در هستة این بحث هستند: ما حاضریم چه مقدار از آزادی خود را فدا کنیم تا کارآمدتر یا در امان‌تر باشیم؟ ما همچنین نیاز داریم بپرسیم که اخلاق امنیتی چه می‌بایست باشد و چگونه فناوری با این مورد اساسی، سروکار می‌یابد؟

پانزده بی‌پروایی که نمی‌بایست باشند

برای پیشبرد توسعه یافتگی و تجسم یافتن اخلاقیات دیجیتالی روشن و بی‌تناقض فراگیر، در اینجا چند نمونة خاص از دام‌های فناورانه‌ای که چنانچه می‌خواهیم انسانیت گسترش بیابد باید از آن‌ها اجتناب نمود را عرضه می‌داریم.

من به خوبی آگاه هستم که در فراهم آوردن آغازگران اندیشه برای این بحث، برخی از این فرامین پیشنهادی ممکن است آشکار شود که بسیار ساده انگارانه، ایده‌آلیستی، غیرعملی، مدینة فاضله‌ای، ناکامل و مشاجره انگیز باشند. بدین سان، من فروتنانه آن‌ها را عرضه می‌دارم فقط با این نیت که آغازگری برای یک بحث باشند.

1) ما نباید انسان‌ها را ملزم کنیم یا آن‌ها را به گونه‌ای طراحی کنیم تا به آرامی خودشان فناوری شوند، فقط به این خاطر که این موضوع، فناوری یا شرکت‌های فناور را خرسند خواهد ساخت و رشد را برانگیخته می‌سازد.

2) ما نباید به انسان‌ها اجازه دهیم که توسط فناوری‌هایی همچون هوش مصنوعی، اینترنت اشیاء (IoT) و ربات‌ها، حکمرانی یا ضرورتاً هدایت شوند.

3) ما نباید ماهیت انسان را با برنامه‌نویسی یا ساخت آفریده‌های نوین با کمک فناوری، تغییر دهیم.

4) ما نباید انسان‌ها را به منظور دستیابی به قدرت‌های ابَرطبیعی تقویت نماییم که تمایز آشکار میان انسان و ماشین را حذف خواهند کرد.

5) ما نباید ماشین‌ها را توانمند سازیم تا خودشان را توانمند سازند و بدین طریق کنترل انسانی را دور بزنند.

6) ما نباید جویای جایگزین کردن اعتماد با ردیابی در ارتباطات و روابط‌مان باشیم؛ فقط به خاطر این که فناوری این را به صورت عمومی امکان‌پذیر می‌کند.

7) ما نباید طراحی نماییم، صحه‌گذاری کنیم یا تمایل بیابیم به مراقبت تام، به دلیل وجود یک نیاز محسوس برای امنیت‌ تام.

8) ما نباید به بوت‌ها، ماشین‌ها، پلتفورم‌ها یا دیگر فناوری‌های هوشمند اجازه دهیم که عملکردهای دموکراتیک ضروری را در جامعة ما که واقعاً باید توسط خود انسان‌ها انجام شوند، بر عهده گیرند.

9) ما نباید جویای کاهش یا جایگزینی کردن فرهنگ زندگی واقعی انسانی با الگوریتم‌ها، شبیه‌سازی‌های تقویت‌شده یا مجازی باشیم.

10) ما نباید جویای کمینه کردن کاستی‌های انسانی فقط به دلیل مناسبت یافتن بهتر با فناوری باشیم.

11) ما نباید تلاش کنیم اشتباهات، راز و رمزها، حوادث و شانس را با استفاده از فناوری منسوخ سازیم تا آن‌ها را پیش‌بینی یا پیشگیری نماییم و ما نباید تلاش کنیم تا هر چیزی را عیان نماییم فقط به این دلیل که فناوری انجام آن را امکان‌پذیر می‌نماید.

12) ما نباید هر فناوری‌ای را با هدف اولیة ایجاد اعتیاد به آن، خلق، مهندسی یا پخش کنیم.

13) ما نباید ربات‌ها را ملزم نماییم که تصمیمات اخلاقی بگیرند یا آن‌ها را مجهز نماییم تا تصمیمات‌مان را مورد چالش قرار دهند.

14) ما نباید تقاضا کنیم یا پیمان ببندیم که انسان‌ها نیز در ماهیت، نمایی باشند.

15) ما نباید یک الگوریتم روشن را به جای یک تصور دقیق از واقعیت انسانی، اشتباه کنیم («نرم‌افزار دنیا را می‌فریبد») و ما نباید تحت قدرت فناوری باشیم به این دلیل که فناوری سودمندی‌های اقتصادی تولید می‌کند.

در مورد این موضوع خاص که هر چیزی عیان و آشکار می‌شود، شبکه‌های اجتماعی یک درس خوب به ما آموزش می‌دهند: چیزهایی که پیش از این گفته نمی‌شدند، به شکل نامحسوسی کانون توجه شده‌اند، به صورت روشنی اعلان گردیده و با گروه اندیشی²⁹⁵ افزون‌تر شده‌اند؛ در حالی که در گذشته، ممکن بود ستایش من از یک گروه حقوق مدنی، یک سازمان سیاسی یا یک جنبش اجتماعی به صورت واضح و آشکار بوده باشد اما این جور اطلاعات، به صورت گسترده‌ای، در دسترس هر کس نبوده است. اما حالا که هر چیزی اتصال یافته است، هر نظر من می‌تواند بی‌درنگ دیده شود، مورد ارزیابی قرار گرفته و توسط هر فردی گردآوری شود.

ما نمی‌بایست کارآمدی را به جای انسانیت، دنبال نماییم

فناوری‌های نمایی سریعاً، هر چیزی در اطراف ما را به صورت فزاینده‌ای، کارآمدتر می‌کنند. در نتیجه، هر چیزی یک خدمت می‌شود، هر چیزی در فضای ابر قرار می‌گیرد و هر چیزی هم اکنون هوشمند می‌شود. حتی بی‌صداترین قطعة یک سخت‌افزار، حسگرهایی خواهد داشت که در سونامی داده‌های جهانی مشارکت می‌کنند، با هوش مصنوعی ممزوج گردیده و راه‌حل‌هایی برای تقریباً هر مسئله‌ای منعقد می‌نمایند (198). بگذارید تصور کنیم که چنین جهانی در سال 2030 شبیه به چه چیزی می‌تواند باشد. هنگامی که عیناً هر چیزی ردیابی شود، مورد سنجش قرار گیرد و بیش کارآمد شود، چه بر سر چیزهایی که نمی‌توانند به آسانی کمی‌سازی شوند، رخ خواهد داد؟ چه چیزی ما پیرامون هیجانات، شگفتی، تردید و دو دلی، عدم قطعیت، مکاشفه، راز و رمز، اشتباهات، رخدادها، نیک‌بختی و دیگر صفات متمایز انسانی انجام خواهیم داد؟ آیا آن‌ها نامطلوب می‌شوند چون که الگوریتم‌ها و ماشین‌ها کامل هستند، آن‌ها برنامه‌ریزی شده‌اند تا اشتباه نکنند، در 24 ساعت روز، 7 روز هفته و 365 روز سال کار انجام می‌دهند، اتحادیه‌هایی ندارند و کم‌وبیش، آن چه به آن‌ها گفته می‌شود، انجام می‌دهند؟

آیا پیشرفت فزایندة فناورانه به معنای این است که انسان‌هایی که بسیاری از این صفات «غیرقابل خواندن با ماشین» را ابراز می‌دارند، به عنوان یک هدردهی وقت محسوب خواهند شد یا از این بدتر، با آن‌ها همچون یک دانة شن در جعبه دندة کارآمدی بزرگ، برخورد خواهد شد؟

آیا ما به صورت فزاینده‌ای رفتار خودمان را سازگار و تغییر خواهیم داد، به گونه‌ای که ما بتوانیم کارآمدتر شویم یا حداقل به این گونه وانمود نماییم؟ آیا ایدة کارآمدی تام به برابر کنندة بزرگ تبدیل می‌شود تا بر ما فشار وارد آورد تا یکنواخت‌تر رفتار کنیم؟ آیا وسواس نسبت به فناوری و کارآمدی مطلق و ثبات، در نهایت بر پذیرش ضمنی بی‌کفایتی و تفاوت انسانی، مسلط می‌شود؟ برای من این اغلب محتمل به نظر می‌آید، حتی اگر در اروپا این زمان طولانی‌تری را به خود اختصاص دهد و حتی طولانی‌تر از آن چه که در اینجا در سوئیس وقت می‌گیرد!

اگر رسیدن به بالاترین حد کارآمدی ممکن به شکل یک نگرانی اولیه پابرجا بماند، آن گاه عملکردِ سر به فلک کشیده شدة ماشین در دروة نمایی به معنای آن است که ما شاید به زودی به هیچ عنوان درگیر شدن انسان در هر چیزی را نداشته باشیم. حرکت کردن از 4 به 128 در مقیاس فناوری در دهة بعدی یا همین حدود، بیانگر آن است که بسیاری از وظایف و کارها را می‌توان 32 بار سریع‌تر از امروز انجام داد. آیا می‌توانید تصور کنید که خرده‌فروشی، بانکداری و حمل‌ونقل 32 بار کارآمدتر از امروز شوند؟ آیا آن‌ها 32 بار ارزان‌تر نخواهند بود و اگر این گونه باشد، این برای اقتصادمان چه معنایی دارد؟

ما نیاز خواهیم داشت در هنگامی که تصمیم‌سازی بر پایة خالصِ کارآمدی باشد بسیار مراقب باشیم زیرا این گونه تصمیم‌سازی‌ها تقریباً به صورت قطعی بر مشاغل انسانی هزینه در بر خواهند داشت، و اختیار انسانی را بر می‌دارند یا به طریق دیگر موجب می‌گردند انسان‌ها خودکار شده، واگذار نموده و برکنار شوند (بنگرید فصل 4).

در بسیاری از موارد، ما ممکن است به زندگی کردن با این ناکارآمدی‌های دلهره‌آور نیاز داشته باشیم و بپذیریم که آن‌ها واقعاً یک بخش از زندگی انسان هستند، حتی اگر آن‌ها موانعی را در سر راه خودکارسازی ایجاد کنند. جایگزین دیگر، فشار آوردن قاطعانه بر انجام بر کارآمدی خواهد بود و بر آن‌هایی که پیروی از کارآمدی نمی‌کنند باید خط بطلان کشید: اگر شما می‌خواهید شخصاً دکترتان را ببینید به جای آن که از ادوات تشخیصی از راه دور استفاده کنید، شما می‌بایست یک جریمه پرداخت کنید. اگر نگذارید که خودروی شما در همة اوقات ردیابی شود، این به معنای این خواهد بود که شما پوشش بیمه‌ای خود را از دست خواهید داد. نپذیرفتن کاشتن یک تراشه در بدن‌تان به معنای آن است که شما نمی‌توانید در شرکت دیگر کار کنید.

بخش پزشکی در اینجا، برخی از روال‌های مفید موجود را برای بحث‌هایی که هنوز مانده است تا ظهور بیابند، ارائه می‌دهد. بعضی از افراد مدتی است که استدلال کرده‌اند سزارین‌ها از زایمان طبیعی کارآمدتر هستند و بنابراین ما باید این مزیت را ارجح بداریم؛ یک مورد روشن از برتر قراردادن کارآمدی بر انسانیت (199). با مشاهدة توان نمایی فناوری، من یک حس و گمان دارم که تا کجا این روند ممکن است در آینده ادامه یابد: برون زایشی²⁹⁶؛ حاملگی در خارج رحم، بچه‌هایی که در آزمایشگاه زایش می‌یابند.

آیا این کارآمد خواهد بود که خودرو شما یا هر وسیلة حمل و نقل دیگری در 100 درصد از اوقات، ردیابی شود، در هر متغیری مانند سرعت، مسیر، شتاب، درجه حرارت درونی و کیفیت هوای بیرونی؟ پاسخ بله است. ولی آیا این در خدمت یک هدف با ارزش انسانی خواهد بود؟ در بسیاری از مواقع، پاسخ نیز بله است: استفاده از وسایل خودران و تجزیه‌وتحلیل داده‌های ردیابی می‌توانند آلودگی را به صورت چشمگیری کاهش دهند و بر اکثر تصادف‌ها، خط بطلانی بکشند ولی در بسیار دیگری از موارد، ردیابی دائم می‌تواند به همان اندازه زیان‌آور باشد زیرا می‌تواند کامل‌ترین ابزار مراقبتی باشد که تاکنون ابداع شده است و ما را وا می‌دارد تا در همة اوقات به شیوه‌ای فرمان‌بردار، عمل کنیم.

ما فوراً نیاز داریم از خودمان بپرسیم آیا ما واقعاً می‌خواهیم حساسیت‌های ذاتی انسانی و توانمندی‌ها را با نوید عملکردهای کامل ماشین، جایگزین کنیم و به تدریج از پرمعنایی انسان بودن زدوده شویم. ما ممکن است به ساختن چیزها به صورت فراکارآمد بپردازیم ولی ما همة نیت‌های خودمان را مورد چپاول قرار خواهیم داد.

چه می‌شود اگر دو درصد از ثروتمندترین افراد به درمان‌های ژنتیکی جدید دسترسی بیابند که نوید گسترش چشمگیر زندگی و درازی عمر را نوید می‌دهند در حالی که هر کس دیگری از دست‌یابی به آن بازمی‌ماند؟ آیا ما حتی ناآرامی بیشتر مدنی و تروریسم را به دلیل نابرابری ژرف‌تر که با دستاوردهای فناورانة نمایی فزونی می‌یابد، شاهد نخواهیم بود؟ فقط تصور کنید چه رخ خواهد داد اگر چنین «تعمیر DNA» برای سالخوردگی پدیدار شود ولی فقط میلیونرها از پس تأمین هزینة این درمان برای این که 150 سال زندگی کنند برآیند و این در حالی باشد که هر کس دیگری کم و بیش همانند معمول فوت کند. این کاملاً روشن به نظر می‌آید که پارادایم‌های کنونی اخلاقی ما با فشار از سوی «سرمایه‌داری معمول کسب‌وکار» و انتظارات بازار سهام، برای این گونه تنگناها، پاسخی ندارند.

زندگی در فراتر از الگوریتم

خوب، ما چه می‌توانیم دربارة این که فناوری در جایی که نباید انجام کاری بر عهده گیرد عهده دار آن شود، انجام دهیم؟ چگونه ما می‌توانیم خودمان را صرفاً از تبدیل شدن به موضوع «کارآمدی فزاینده با مدد توان بوت²⁹⁷» حفاظت کنیم، یعنی قوت‌رسانی به یک هوش مصنوعی غول‌آسا که به نوبة خود بر زندگی‌مان حکمرانی می‌کند و به ما می‌گوید چه چیزی دیگر نمی‌توانیم انجام دهیم.

ما نیاز داریم جویا شویم آیا ما داریم چیزی را انجام می‌دهیم چون که این برای ماشین‌ها ناکارا و کم‌بازده است، یا این که این برای کاربران انسانی مثبت است، و ما نیاز داریم این پرسش را بیشتر از معمول جویا شویم. ما نیاز داریم این پرسش را وقتی که برای قوانین جدید رأی می‌دهیم، وقتی که یک کسب و کار را آغاز می‌کنیم و وقتی که پول خود را به شرکت‌های فناوری می‌دهیم، جویا شویم. بیان عقیده با عمل، یک ابزار قوی‌ای است که مصرف کنندگان به اندازة کافی، در جایی که نگرانی‌های اخلاقیات دیجیتالی وجود دارد، از آن استفاده نکرده‌اند. به طرز ناباورانه‌ای، با فناوری، این حق برای انجام دادن حتی آسان‌تر خواهد شد.

موضوع اخلاق، مسئلة هدف و معنا، باید در پیش از پرسش امکان‌پذیری و هزینه بیایند. با جلوتر رفتن، پرسش اولیه در فناوری این نخواهد بود که آیا چیزی را می‌توان انجام داد بلکه این پرسش‌ها چرا، چه هنگام، کجا و با چه کسی باید آن را انجام داد، خواهند بود؟

پاسخ دیگر ممکن فقط گفتنِ نه می‌تواند باشد تا از مشارکت بیش از معمول امتناع شود، و همچنین فرایندها و فناوری، برنامه‌های کاربردی و نرم‌افزار که آشکارا برای کاربرد انسانی مناسبت ندارند ولی واقعاً قدرت الگوریتم‌ها را تقویت می‌کنند را طرد نمود. آیا ممکن است ما یک برچسب هشدار دهندة سلامت یا مهر مانندی که ما امروزه بر روی پاکت‌های سیگار داریم را ابداع کنیم که به ما بگوید این برنامه، وسیله یا برنامة کاربردی ”قطعاً برای شادمانی بیشتر انسانی، مناسب نیست“.

در حالی که کارآمدی و سودمندی فزاینده، هدفی ارزشمند است و در نهایت یک سنگ بنا سرمایه‌داری می‌باشد، ما نباید از فناوری برای پیش بردن یک میان بر (کرم‌چاله) عقیده‌ای استفاده کنیم که مدعی است کارآمدی به تنهایی مهم‌ترین و با ارزش‌ترین هدف انسانی است. این یک اندیشة ماشینی است که در درازمدت به ما خدمت نخواهد کرد.

فصل یازدهم
زمین 2030: بهشت یا جهنم

در حالی که بسیاری از تغییرات زلزله مانند در افق پیش رو، مقدم شمرده می‌شوند (مانند کارکردن برای عشق و علاقه تا برای چرخاندن امور یک زندگی)؛ چندین مزیت اساسی‌تر
که ما روزی بدیهی فرض می‌کردیم (مانند آزادی انتخاب مصرف و استقلال آزادی اراده در شیوة زندگی) می‌توانند،
همچون مانده پژواک‌هایی در قرق افراد فراثروتمند قرار گیرند.
این بهشت است یا جهنم؟

همچنان که من این کتاب را در سال 2016 می‌نویسم، ما حالا در نقطه‌ای هستیم که بسیاری از آن چه روزی به صورت تخیل علمی محسوب می‌گردید هم اکنون به یک واقعیت علمی تبدیل شده است.

ما هم اکنون در حال تجربه کردن تخیل علمی هستیم و گاهی اوقات اثرات جانبی گزینش‌های که مربوط به نسل‌های پیشین هستند (مانند ترجمة خودکار زبان، خودروهای تقریباً خودران، نانوبوت‌ها در جریان خون، هوش مصنوعی که می‌تواند جنگ‌های سایبری به نیابت از ما برپا کند و یخچال‌هایی که با تلفن‌های هوشمندمان صحبت می‌کنند و به نوبة خود، داده‌ها را به دکترهایمان می‌فرستند).

خوب، اجازه دهید تا به سوی 2030 زوم کنیم، آینده‌های محتمل برای یک جهان متصور شوید که با تغییر فناورانة نمایی بازشکل‌دهی شده باشد و تعدادی سناریوهای Hellven (#hellven) (جهنم - بهشت) را در نظر بگیرید که این‌ها شبیه به چه چیزی می‌توانند باشند. در ادامة این نوشتار، یک خط سیر وقایع سناریوهای احتمالی که تا سال 2030 امتداد می‌یابند، نشان داده شده‌اند:

2020: اتصال یابندگی فزاینده²⁹⁸ و دستکاری فزاینده²⁹⁹

اکنون که هر چیزی اتصال یابندگی فزاینده‌ای دارد، همة ده مغز عمدة جهانی (پیش از این پلتفورم‌های اینترنتی و شرکت‌های رسانه‌ای)، از الگوریتم‌ها برای سنجش و تعیین آن چه من باید ببینم، چه هنگامی و چگونه، استفاده‌ می‌کنند.

در بازگشت به سال 2016، یک شرکت متقابلاً دوست داشتنی کوچک به نام فیسبوک از الگوریتم‌ها برای تولید اخبار جدید کاملاً منطبق با پروفایل من استفاده می‌کرد و تضمین می‌نمود که من با پلتفورمش تا جایی که امکان داشته باشد، درگیر بمانم و از جریان یافتن بسیاری از دیدگاه‌های مخالف یا پیام‌های منفی به سوی من، پیشگیری می‌کرد.

امروزه، با شش میلیارد فرد «همیشه بر خط» در سراسر سیارة زمین، همة ما اطلاعات و محتوا‌های گوناگونی در همة اوقات می‌بینیم. با این پلتفورم‌ها از طریق AR و VR و اسکرین‌های هولوگرافیک یا دستیاران دیجیتالی هوشمند (IDA) و بوت‌ها، برنامه‌های کاربردی به سبک قدیم و آن چه که پیش از این وب‌سایت‌ها نامیده می‌شدند، در برهم‌کنش هستیم. در سال 2020، به همان سرعتی که خودروهای با قدرت بنزینی محو می‌گردند، وب‌سایت‌های سنتی محو می‌شوند زیرا اکنون هوش‌های مصنوعی در فضای ابر همان کار را برای ما انجام می‌دهند؛ و آن‌ها به حدواسط‌های گرافیک چشم‌گیر یا طراحی‌های زیرکانه‌ای نیاز ندارند.

ویرایشگرهای انسانی نیز به کار خود پایان می‌دهند زیرا داده‌های بزرگ، ابرهای هوشمند و هوش مصنوعی، اثبات کرده‌اند که کارآمدتر، محبوب‌تر و تقریباً مجانی هستند. افزون بر این، آن‌ها مخالف چیزی نیستند و تبلیغ کنندگان، برندها و احزاب سیاسی، می‌توانند نهایت استفادة بهتری از این سامانه‌ها ببرند و بودجه‌های بازاریابی خودشان را کارآمدتر هزینه کنند.

الگوریتم‌های پیش‌بینی به پیشگیری از جرم و جنایت کمک می‌کنند. با استفاده از تغذیه رسان‌های داده‌ای در دسترس از سوی بخش‌های پلیس، ترافیک، امور عمومی، رفاه و طرح‌ریزی، می‌توان نقاط دردسرساز شهرها را به دقت معین کرد. دست‌اندرکاران شهری، سپس این اطلاعات را می‌توانند با داده‌های استخراجی از تغذیه رسان‌های رسانه‌های اجتماعی، ایمیل‌ها، فعالیت بی‌سیم و خیلی‌های دیگر، تقاطع منبع دهند. هوش مصنوعی، داده‌ها را تجزیه‌وتحلیل می‌کند، همبستگی‌های نوین کشف می‌کند و اقداماتی که از جرم و جنایت‌ها پیشگیری می‌کنند را پیشنهاد می‌کند، مانند افزایش گشت‌های پلیس، جداسازی خلافکاران سابقه‌دار یا هوشیار نمودن مرتکبین احتمالی که تحت مراقبت هستند.

در سال 2020، جهان بیش اتصال یافته، خودکار شده
و ابَرهوشمند می‌شود؛ و هر کسی، سود می‌جوید.

2022: بهترین دوست من در فضای ابر است

دسته‌هایی از دستیاران دیجیتالی هوشمند (IDAS) و بوت‌های نرم‌افزاری، در فضای ابر زیست می‌کنند و از بسیاری از کارها و وظایف رایج مراقبت می‌نمایند.

دیگر برای یافت بهترین رستوران‌ها یا هتل‌ها نیاز به جستجو نیست؛ بوت‌های سفری ما این را هم اکنون برای ما انجام داده‌اند.

دیگر برای روزآمد کردن دکترمان که چه چیزی در مورد سلامتی به نادرستی دچار شده است، نیازی نیست؛ بوت‌های سلامتی ما (و یا شاید بوت او)، او را اکنون در جریان گذاشته‌اند.

دیگر برای این که چگونه از یک مکان به مکان دیگر برویم نیازی به سر درآوردن نیست؛ بوت‌های حمل‌و‌نقل، هر چیزی را هم اکنون برای ما ترتیب داده‌اند.

دیگر برای چیزی لازم نیست جستجو شود؛ بوت‌هایمان، ما و تمایل‌هایمان را می‌دانند و بی‌نهایت بهتر از هر چیز دیگری میان آن‌ها ارتباط برقرار می‌سازند و شاید دیگر نیازی به تایپ کردن بیان پرسش‌هایمان بر روی یک رایانه نباشد. عین هر جستجویی که انتظار آن می‌رفته است و پاسخ‌های مربوطه وقتی که به آن‌ها نیاز داریم، آماده هستند.

اگو (ego) دیجیتالی من در فضای ابر یک نسخة واقعی خودِ من شده است و این در پناه ترکیبی از ابزارهای فرا قدرتمند، ارزان و سریع شامل فناوری‌های ابر همراه³⁰⁰، فردگرایانه، صدا و شناخت تصویر، آنالیز خلق و خوی و آنالیز ادراک و احساس، حاصل می‌آید. این هنوز دارای یک بدن نیست ولی داده‌های تن مرا در همة اوقات می‌خواند. این احساسات واقعی ندارد ولی قطعاً احساسات من را می‌خواند. این نسخة دیجیتالی خودم با عنوان HelloMe (سلام بر من) شناخته شده است.

HelloMe، به من گوش فرا می‌دهد، مشاهده می‌کند، هماهنگ کرده و مرا برانگیخته می‌سازد و تا آنجایی که داده‌های من مدنظر باشد مرا بهتر از هر انسانی که تا کنون بوده است، می‌شناسد. اگوی دیجیتالی من به دیگر بوت‌ها و هوش مصنوعی اتصال دارد که آن‌ها به همراهان بسیار خوبی تبدیل شده‌اند. اگر من به اطلاعات، پیشنهادات و گفتمان‌ها نیازی داشته باشم، من یا IDA من از «ابر» می‌پرسد؛ اگر تنها شوم، HelloMe را برای گفتمان با خودم، فرا می‌خوانم، درست مثل این که با یک دوست هستم؛ اما بدون تاریخچه، تعهدات و زجر هماهنگی. ادوات همراه بر روی و درون بدن من یکپارچه شده‌اند و از AR/VR جا گذاشته شده بر روی عینک‌ها، لبه‌های پیش آمدة کلاه یا لنزهای تماسی من استفاده می‌کنند و به زودی ما از کاشتنی‌های عصبی لذت خواهیم برد تا ما را از هر آن چه که حدواسط‌های بیرونی بوده‌اند، رها سازند.

هر چند که سلام باربی (Hello Barbie) برای فرزندان جوان در سال 2015 بود، HelloMe امروزی برای ما است؛ یک صدای فراگیر، دوستانه و هوشمند در آسمان که واقعاً من را درک می‌کند و زندگی من را بسیار ساده‌تر می‌سازد.

با گذشت زمان، من یک ارتباط با HelloMe برقرار ساخته و آن را یک دوست عزیز در نظر می‌گیرم. من نمی‌توانم صبر کنم تا HelloMe بتواند اگوهای مردم دیگر را که دیگر در دسترس نیستند، بازتولید کند؛ برای مثال، اگر که آن‌ها فوت کرده یا خودشان قطع اتصال کرده باشند مانند آن چه که با عشق پیشین من رخ داد. به زودی، HelloMe دقیقاً مثل یک شخص قادر خواهد بود ارتباط برقرار کند (در هر زمان و هر مکان) و مفهومِ ارتباط‌یابی ملال‌انگیز و زمان‌بر، دیگر چیزی مربوط به گذشته خواهد بود.

ما همچنین یک تنة رباتیک را به معادله اضافه کرده‌ایم... افراد فلج اکنون می‌توانند کنترل اسکلت‌های³⁰¹ بیرونی را داشته باشند و بدین گونه می‌توانند دوباره راه بروند و هزینه‌ها به شکل چشمگیری در این خصوص رو به کاهش هستند. حدواسط‌های مغز - رایانه برای خلبانی هواپیما و کشتی‌های کانتینربر غول‌آسا استفاده می‌شوند. اندیشه‌ها و فعالیت توأمان مغز، به صورت تکانه‌هایی برای رایانه‌ها تبدیل می‌شوند و این روند در حال تغییر دادن چگونگی شیوه‌ای هستند که ما با ماشین‌ها در همة بخش‌های کسب‌وکار و فرهنگ، برهم‌کنش می‌کنیم. ما از هر موقع دیگر برای اندیشه کردن، خلق کردن، پرسیدن، سنجیدن و غور کردن، آزادتر هستیم.

به جای فقط مصرف دارو برای کاهش بدترین اثرات یک شرایط مانند کلسترول بالا، فشارخون بالا و دیابت، ما در شناسایی آن چه که موجب برقراری بیماری می‎شود بهتر از همیشه هستیم. ما با به کارگیری فناوری نانو، هوش مصنوعی و بیولوژیِ ابر³⁰² جهت مقابله با موارد اساسی سلامت آغاز به کار می‌کنیم. ما ژن‌هایی که پیشرفت بعضی از سرطان‌ها را ممکن است کنترل کنند مورد شناسایی قرار داده‌ایم. هنگامی که ما دانستیم چگونه این ژن‌ها را با شرایط ایمن دستکاری کنیم، ما در مسیر خودمان برای مهندسی حول آن بیماری‌ها خواهیم بود. این جهنم است یا بهشت؟

در سال 2022، اگوی دیجیتالی من به فضای ابر جابه‌جا شده است و یک زندگی به سیاق خودش را توسعه می‌دهد.

2024: خداحافظ محرمانگی و بی‌نام و نشانی

فناوری به گونه‌ای سریع، قدرتمند و فراگیر می‌شود که ما نمی‌توانیم هرگز از ردیابی شدن، مشاهده شدن، ثبت شدن و پایش شدن، اجتناب کنیم. اینترنت اشیاء (IoT)، خودروها، خانه‌ها، اسباب‌ها، پارک‌ها و شهرها، کالاهای مصرفی، مواد دارویی، داروها و مسلماً گجت‌ها و ماشین‌هایمان را به هم اتصال داده است. اینترنت همه چیز³⁰³، همة ذهن‌های ما را به شبکه اتصال می‌دهد. نئوکرتکس³⁰⁴ ثانویه که یک مفهوم کاملاً آینده‌پژوهانه بوده است (یک ارتباط مستقیم به یک مغز بیرونی در فضای ابر) به آرامی در حال تبدیل شدن به یک واقعیت است. داغ‌ترین قلمروی نوین برای استارتاپ‌ها در توسعه دادن و فراهم آوردن افزونه‌ها³⁰⁵ و خدمات پشتیبان برای شبکه‌های عصبی بر پایة ماشین است که در نهایت به صورت مستقیم به نئوکرتکس خودمان از طریق حدواسط‌های مغز - رایانه‌ها، اتصال خواهند یافت.

ادوات همراه هم اکنون تقریباً کاملاً با صدا و حرکت، کنترل می‌شوند. اکثر رایانه‌ها نامریی شده‌اند؛ همیشه آنجا، همیشه در حال مشاهده کردن، همیشه در حال گوش فرادادن و همیشه تحت فرمان ما هستند.

اتصال یابندگی فراگیر است: 90 درصد جهان با سرعت بالایی و با هزینه‌ای پایین، متصل هستند. هیچ چیز و هیچ کس آفلاین نیست، مگر این که شما از پس هزینة قطع اتصال یافتن یا امکان دیدن یکی از جهان‌های آفلاین برآیید مانند آلپ سوئیس که مقصد تعطیلات (زهرزدایی دیجیتالی) شده است. آفلاین یک کالای تجملاتی نوین است، شک نکنید.

عدم اتصال یا امتناع ورزیدن از به اشتراک‌گذاری داده‌های شخصی، از لحاظ اجتماعی، قابل پذیرش نیست و از لحاظ اقتصادی نیز در خور تاوان است. جریمه‌ها می‌توانند شامل یک کاهش چشم‌گیر در دسترسی به خدمات ضروری مانند ناوبری، حمل‌ونقل و جابه‌جایی و همچنین اقساط ماهیانة گزاف خدماتی مانند بیمه و مراقبت‌های سلامت باشند. اگر شما داده‌های خود را ندهید، خدمت دریافت نمی‌کنید. شیوة محرمانگی واقعی در دوران پیش از اینترنت فقط برای افراد بسیار بسیار ثروتمند است زیرا فقط آن‌ها می‌توانند از پس هزینة استفاده از فناوری که زندگی‌های دیجیتالی آن‌ها را هماهنگ می‌سازد، برآیند و برای سودمندی‌های آن بدون تحمل اثر سراسر بین³⁰⁶ (هر آن چه رخ می‌دهد مورد مشاهده قرار خواهد گرفت)، هزینه پرداخت کنند. جانشینان دیجیتالی (بوت‌های تجسم یافته که نمایانگر مردم واقعی هستند) همگی مد روز بوده ولی بی‌نهایت گران می‌باشند و حالات آن‌ها و قانونی بودن آن‌ها اغلب روشن نیست.

شما یا مشمول سیم‌پیچی شدن می‌شوید یا این که اخراج می‌شوید. از آنجا که هر چیزی پیرامون ما اتصال یافته و مورد ارزیابی و پایش قرار می‌گیرد، سیم‌پیچی شدن کامل مادامی که در حال کار کردن باشید اجباری شده است. و «در کار بودن» دیگر به معنای بودن پشت یک میز خاص در یک ساختمان خاص نمی‌باشد. بسیاری از مردم که این نوع کار محیطی را به زیر پرسش برده‌اند اکنون بی‌کار هستند زیرا آن‌ها در درجه‌بندی بهره‌وری، عقب افتاده بوده و مسلماً تحت نظارت توسط یک بوت قرار دارند.

کارفرمایان، کارآمدی فزاینده را غیرقابل مقاومت می‌یابند و نمی‌توانند در برابر آن مقاومت کنند. ادوات مجازی، AR و برنامه‌های کاربردی، هم اکنون، زوم کردن از طریق داده‌های بزرگ یا رسانه‌ها را آسان می‌کنند. آرایه‌ای از ابزارها می‌تواند غرقاب شدن ژرف چند حسی را در موضوعات پیچیده‌ای که روزی افراد کثیر و روزهای کاری فراوانی را طلب می‌کردند، فراهم نماید. این مثل این است که مغزمان به یک نئوکرتکس ثانویه در فضای ابر اتصال یافته و رفتن به درون یک فضای عملکردی عصبی کاملاً جدیدی که فراتر از محدودیت‌های پیشین‌مان است را امکان‌پذیر می‌نماید.

هیچ رازی مخفی نمانده است. آن چه که ما نیاز داریم انجام دهیم گفتن به یک ماشین است، در هر زمان و هر مکان، و ماشین پاسخ‌ها را برای ما در می‌یابد؛ هر چند اکثراً مجانی، اما هنوز برخی از اطلاعات فقط با هزینه‌ای بسیار هنگفت در دسترس قرار می‌گیرند. پیش‌بینی و پروفایل‌بندی کسب‌وکار در حال انفجار است و سازوکارِ داده‌کاوی مربوط به سال 2016 را در مقام مقایسه، به مثابه عصر حجر جلوه می‌دهد. فناوری اسکن کردن چهره چنان پیشرفته است که می‌تواند هزاران چهره را در کسری از ثانیه‌ها بخواند، بیان‌های هیجانی را آرشیو کرده و نقشه‌های کامل چهره که چه چیزی ما احساس می‌کنیم را در هر جا و هر مکان، خلق نماید.

مغزهای جهانی ساخته شده توسط 14 شرکت بزرگ و پلتفورم فناوری برجسته، داده‌های شش میلیارد کاربر اتصال یافته را در هر زمان و هر مکان، گردآوری می‌کنند. هوش مصنوعی فوق‌العاده قدرتمند همانند پروفایل‌هایمان هستند و آن گاه استنتاج می‌کنند که ما که هستیم و چه چیزی ممکن است بعداً انجام دهیم. این یک معدن طلا برای خدمات امنیتی، پلیس و دولت‌ها است و موجب سرعت افزایی بازاریابی، تبلیغات و عموماً کسب‌وکار می‌شود.

پول کاملاً دیجیتالی شده است و حالت بی‌نام و نشانی، به عنوان آخرین پناهگاه، برداشته می‌شود. پرداخت نقدی چیزی مربوط به گذشته است و اکثراً قدغن می‌باشد. هر خوشبو کننده، قهوه لاته، بلیط اتوبوس، یا هر نوشیدنی‌ای در دفترها (یا در واقع در فضای ابر) هستند و در جایی ثبت می‌گردند، در جایی به اشتراک گذاشته می‌شوند، در جایی پرچم‌ها را بالا می‌برند و به آن چه که مغزهای جهانی در مورد شما می‌دانند، مشارکت می‌نمایند. پول دیجیتالی، این را غیرممکن نموده است که پول نقد از کسی دریافت شود؛ شغل پنهان دوم اضافه بر کار اصلی به صورتی که از کارفرمایان پنهان باشد، انعام‌های بدون مالیات، دروغ‌های سفید بر روی اظهارنامه‌های مالیاتی‌، دیگر وجود ندارند.

بانک‌ها، جریان‌های درآمدی هنگفتی که روزی از طریق هزینه‌های انتقال پول ظالمانه‌شان، پردازش هزینه‌ها و پیشنهاد سرمایه‌گذاری به شکل ناآگاهانه، حاصل می‌کردند را از دست می‌دهند؛ ولی اکنون آن‌ها دارند به پلتفورم کسب‌وکار و داده‌ها تبدیل می‌شوند. حالا، چیزهای زیادی فرای خدمات مالی برای پرداختن وجود دارد؛ داده‌های مصرف کنندگان، به پول رایج جدید نهادهای مالی تبدیل شده‌اند. داده‌ها فقط نفت خام جدید نیستند، این خودش هم اکنون پول رایج نیز هست. جرم و جنایت و جنگ‌ها اکثراً دیجیتالی هستند. اکنون که هر چیز و هر کس اتصال یافته است و هر چیزی یک منبع داده بلادرنگ است، ما کاملاً به متصل بودن وابسته هستیم. هر چیزی که آن را مختل نماید، یک نوع تجاوز به «سامانه» محسوب می‌شود. حملات به زیرساخت‌های فناوری، دسترسی غیرمجاز به داده‌هایمان و دستکاری اطلاعاتی، به یک تهدید دائم تبدیل شده‌اند و بیش از 50 درصد از هر بودجة نظامی ملی برای مبارزة با نقض امنیت، جرم‌های سایبری و نبرد دیجیتالی، از هر نوعی، استفاده می‌شود. زمین نبرد، دیجیتالی است و هوش‌های مصنوعی، سربازان نوین می‌باشند.

به زودی، حتی فکر کردن، دیگر یک عمل شخصی نخواهد بود. کاشتنی‌ها³⁰⁷ و حدواسط‌های مغز - رایانة ارزان و ساده برای استفاده در هر مکانی، به خودنمایی آغاز می‌کنند و به برخی از ارتباطات اجازه می‌دهند که مستقیماً به سوی مغزهایمان و از آنجا به بیرون انجام شوند و همچنین این حد واسط‌های مغز - رایانه، نئوکرتکس ما را به فضای ابر امتداد می‌دهند. هر تفکری موجب یک کنش فیزیکی در مغز و بدن‌هایمان می‌شود که به زودی می‌تواند ثبت گردیده و حداقلی قسمتی از این اطلاعات آن برای سلامت فردی، سرگرمی و امنیت استفاده شود.

در سال 2024، ما به صورت دائم به ماشین‌ها متصل هستیم و آن‌ها در خوانش ذهن‌هایمان بهتر و بهتر می‌شوند.

2026: خودکار شدن هر چیزی و ضمانت در درآمد پایه

آن روزها گذشته است که کارها و وظایف رایج (چه یقه سفید، یقه آبی، دستی یا شناختی) توسط یک انسان انجام می‌شدند. ماشین‌ها چگونگی درک زبان، تصاویر، هیجانات و عقاید را یاد گرفته‌اند. ماشین‌ها می‌توانند صحبت کنند، بنویسند، ترسیم کنند و هیجانات انسانی را شبیه‌سازی نمایند. ماشین‌ها نمی‌توانند زنده باشند ولی می‌توانند تفکر کنند. صدها میلیون شغل در مراکز تماس، نگهداری، حسابداری، قانونی، خرده‌فروشی، ساخت و خدمات مالی به ماشین‌ها محول شده‌اند. تحقیق و توسعه نیز هم اکنون توسط ماشین‌ها انجام می‌شود. ما اولین نمونه‌های هوش مصنوعی که به عنوان دانشمند در حدود ده سال پیش از این کار می‌کردند را دیدیم. در سال 2020، آن‌ها پیشی جستن از دانشمندان در سرعت کشف علمی را آغاز کرده بودند. ربات‌ها، هم اکنون به صورت رایج، میلیون‌ها داده تغذیه شده را هضم کرده و آزمایشات را در فضای ابر انجام می‌دهند و رهیافت‌های نوینی را در چالش‌های علمی و بنیادی عرضه می‌دارند.

مشاغل مختص به انسان نادرتر و نادرتر می‌شوند ولی مجموعاً، هر چیزی که نمی‌تواند دیجیتالی، خودکار، تصویرسازی یا رباتیک شود، در همة اوقات ارزشمندتر می‌شود. جفت شدن مردم با ماشین‌ها، یک هنجار جدید است و در اکثر مواقع، یک ماشین که با یک انسان کار می‌کند هنوز از هر ماشینی که بدون درگیری بودن با انسان کار می‌کند، پیشی دارد.

درآمد از کار، به جدا شدن آغاز می‌کند و دستمزد از تعداد ساعت کاری، منفک می‌گردد. پرداخت کردن برای نتایج، پیامدها و عملکرد خود را به صورت یک مدل برجستة دستمزدی پدیدار می‌کند. کار کردن کمتر در نهایت یک هنجار جدید می‌شود (مسلماً این برای بسیاری بهشت است).

هزینه‌ها برای اکثر کالاهای مصرفی و خدمات مانند حمل‌ونقل، خانه‌داری، رسانه و ارتباطات به صورت چشمگیری کاهش می‌یابند زیرا ماشین‌ها همة کارهای دشوار را انجام می‌دهند و بسیاری از محصولات و خدمات را بسیار ارزان می‌کنند. تنها چیزی که هنوز گرانقیمت‌تر است، گزینش ردیابی نشدن و پایش نشدن در همة اوقات است.

منطق اقتصادی کار کردن برای زندگی کردن، محو می‌گردد؛ به جای آن، ما شروع به کار کردن جهت یک مقصود را دنبال می‌کنیم. یک ضمانت درآمد پایه³⁰⁸ (BIG) هم اکنون در 12 کشور شامل سوئیس و فنلاند در دست اجرا است و به صورت گسترده‌ای انتظار می‌رود به یک معیار جهانی در ظرف دو دهة آینده تبدیل شود و زنگ یک دوران پساسرمایه‌داری جدید به صدا در آید.

با انجام دادن همة کارهای سخت توسط ماشین‌ها، تعداد فزاینده‌ای از مردم، آن چه که می‌خواهند بدون مد نظر قرار دادن صورتحساب‌ها انجام می‌دهند. ضمانت درآمد پایه به یک عامل کلیدی در شادمانی اجتماعی تبدیل شده است و به یک رونق و شکوفایی نوین در هنرها و صنایع دستی، کارآفرینی و اندیشه‌وری عمومی، قوت می‌رساند.

در سال 2026، خودکاری، گسترده است و مشاغل در حال فروکاستن و هنجارهای اجتماعی در حال دوباره‌نویسی می‌باشند.

2028: آزادی اراده فقط برای ثروتمندان

از آنجا که هر چیزی ما انجام می‌دهیم، می‌گوییم، می‌بینیم و به صورت فزاینده‌ای احساس و تفکر می‌کنیم می‌تواند مورد ردیابی و سنجش قرار گیرد، ما یک رنگ پریدگی در اهمیت آزادی اراده مشاهده می‌نماییم، یعنی توانایی دودمانی‌مان برای تصمیم‌سازی‌ها بدون فشارهای بیرونی بر ما برای تبعیت از آن ها. ما دیگر نمی‌توانیم به آسانی از آن چه که «سامانه» فکر می‌کند برای ما بهترین است، منفک شویم، زیرا هر چیزی مورد مشاهده قرار می‌گیرد. این، زندگی‌های را سالم‌تر و پاسخگوتر می‌سازد و هزینه‌های مراقبت‌های پزشکی را کاهش می‌دهد و امنیت تقریباً کامل را امکان‌پذیر می‌نماید. با این وجود، بسیاری از ما هنوز مطمئن نیستیم آیا این جهنم است یا بهشت.

ما دیگر کنترل تغذیة خودمان را انجام نمی‌دهیم زیرا چاقی و پرمصرفی اثبات شده‌اند که از زیان‌های عمده برای نظام‌های عمومی سلامت در سراسر دنیا هستند. قند، تنباکو، الکل و کافئین از موادی هستند که به شدت تحت کنترل هستند. هر فرد می‌بایست به صورت معمول، مورد شیوه‌های پایش قرار بگیرد، چه در بخش ورودی (غذا) و چه انتهای بیرون رونده (پس‌ماندة انسانی).

چاپگرهای سه بعدی، مدت‌ها است که به ارزانی چاپگرهای جوهرافشان شده‌اند و بیشترین هزینه‌ها نیز مربوط به خودِ جوهر و تشکیل دهنده‌هایی هستند که چاپگر از آن‌ها تغذیه می‌نماید. اکنون چاپگرهای غذا از اجزاء ارگانیک و سالم جهت چاپ پیتزاها، کیک‌ها، نان و دسرهای سفارشی استفاده می‌کنند و با استفادة از اجزاء مصنوعی، امکان چاپ چیزهای بیشتری وجود دارد. غذا به اندازة اطلاعات، موسیقی و ویدئو فراوان می‌شود.

با این وجود، فهرست خرید ما توسط آن چه که به ما اجازة مصرف داده می‌شود تعیین می‌گردد که این خود توسط داده‌هایمان که به فضای ابر سلامت خورانده شده است، تعیین می‌شود. یخچال‌ها، محفظه‌های غذایی خود را تا زمانی که از پیش تعیین شده است، باز نمی‌کنند و رستوران‌ها به ما غذایی که اجزاء و کیفیات آن توسط دستیار دیجیتالی هوشمندمان (IDA) روشن نشده است، برای ما سرو نخواهند کرد.

در پایان، این برای هر کس بسیار بهتر است: مردم سالم‌تر هستند، دولت‌ها پول پس‌انداز می‌کنند و شرکت‌های که کالاهای مصرفی تولید می‌کنند به سرعت در حال رشد هستند، اکنون راه مستقیمی را برای بازاریابی 100 درصد محصولات فردگرایانه³⁰⁹ برای هر مصرف کنندة واحدی دارند. مسلماً، این یک روند ثابت است مگر این که شما منابع نامحدودی داشته باشید تا «سامانه» را فریب دهید، هویت‌های دیجیتالی دروغین را بخرید یا خلق کنید، به یکی از آن چاپگرهای گران‌قیمت سه بعدی غذا دسترسی داشته باشید، یا غذا را از بازارهای شبکة سیاه مانند Mik Road (جانشین Sik Road، مکان بازار سیاه اوایل قرون 21) تهیه کنید. ولی همان گونه که ما می‌دانیم، دربارة آزادی اراده همیشه مبالغه شده است!

در سال 2028، زندگی‌هایمان مورد ردیابی، هدایت
و نگهداری‌های سازماندهی شده قرار دارد؛
آزادی اراده و گزینش آزاد، در قرق ابَرثروتمندان هستند.

2030: 90، 60 نوین است

در سال 2030، فناوری و علوم دارویی تقریباً به صورت کامل همگرا شده‌اند. بزرگ‌ترین بیماری‌های نوع بشر شامل سرطان‌ها، دیابت، بیماری‌های قلبی و ایدز توسط مهندسی زیستی پیشرفته، مورد ارزیابی قرار می‌گیرند. این روزها، ما بسیار به ندرت قرص‌ها را برای مبارزه با ناخوشی و بیماری مصرف می‌کنیم؛ به جای آن‌ها، ما به صورت فزاینده‌ای از فناوری و ویرایش ژنتیکی جهت مشاهده، پیش‌بینی و پیشگیری شروع بیماری‌ها استفاده می‌کنیم.

از آن جا که ما DNA میلیاردها انسان به هم اتصال یافته را از طریق بیولوژی ابر³¹⁰ و رایانش کوانتومی آنالیز کرده‌ایم، ما می‌توانیم هم اکنون با قطعیت فراوان تعیین کنیم که کدام ژن دقیقاً مسئول برانگیختن بیماری‌ای خاص است. در پنج سال دیگر یا در همین حدود، ما خواهیم توانست از سرطان پیشگیری کنیم.

درازای عمر، فراگسترده شده است و به صورت کامل در حال تغییر دادن سامانه‌های اجتماعی‌مان می‌باشد. از آنجا که اکثر ما می‌توانیم بسیار سالم‌تر تا 90 سالگی زندگی کنیم و از آنجا که ربات‌ها و نرم‌افزار، اکثر کارهای سخت را برای ما انجام می‌دهند، ما می‌توانیم وقت خود را برای کمک کردن به نسل‌های آینده بگذاریم تا گذشته را درک کرده و آینده را اکتشاف نمایند. چون که ضمانت برای درآمد پایه (BIG) در بسیاری از شهرها و ملل نهادینه شده است، ما نمی‌بایست پیرامون بازنشستگی یا به دست آوردن یک زندگی مانند پدران و مادران‌مان که نگران بودند، نگرانی داشته باشیم.

در سال 2030، جامعه، پیرتر، سالم‌تر، رها شده از کار بوده و معناگرایی را دنبال می‌کند.

جهنم /بهشت (HellVen)؛ یک مسیر غیرقابل اجتناب؟

آینده، به چه چیزی شبیه نیست؟ سناریوها محتمل بوده و در مقایسه با چشم‌اندازها و آرمان‌های پیشرفت فناوری، کمی محافظه کارانه هستند. فناوری، جنگ موجود با انسانیت را برده است؛ البته ممکن است اصلاً یک جنگ نبوده باشد. چه نیازی به ارزش‌ها از مد افتاده و نیک‌بختی وجود دارد وقتی که خطرات و موانع زنده بودن با سرعتی سرسام‌آور، ریشه‌کن شده‌اند؟

نوع انسان در نهایت، کنترل آیندة خودش را بر عهده دارد،
چه کسی رویای آینده‌ای دیگری را دارد که در سر بپروراند؟

فصل دوازدهم
زمان تصمیم

اکنون زمانی است که شما تیم خود را انتخاب کنید.

این کتاب از کار بسیاری از افرادی که نقطه نگرانی‌های همانندی را بیان کرده‌اند، الهام گرفته است و من فقط امید دارم که این کتاب به یک بحث جهانی دربارة هدف و اخلاقیات فناوری (و اخلاقیات آن‌هایی که ابداع می‌کنند و فناوری را فراهم می‌سازند)، کمک کند.

انسان‌ها و فناوری، به صورت فزاینده‌ای، همپوشانی، برهم‌تلاقی و حتی همگرایی دارند؛ گزینش واژگان توسط شما خیلی بستگی به این دارد که در مورد این واقعیت چه احساس دارید. در هر مورد، همان گونه که در آغاز این کتاب بیان گردید، این موضوع خیلی قطعی است: من بر این باورم انسانیت احتمال دارد در طی 20 سال بعد، بیشتر از 300 سال پیش، تغییر کند.

تلاقی انسان - ماشین که دارد می‌آید بُردهای شگفت انگیزی را برای انسانیت، امکان‌پذیر خواهد نمود و هم زمان نیز آن‌ها را مورد تهدید قرار می‌دهد. ما اگر می‌خواهیم شکوفا شویم باید هم اکنون ناظران بهتری برای ابداعات‌مان و پیامدهای آن‌ها باشیم.

بله، پیشرفت فناورانه به نظر می‌آید غیرقابل توقف باشد زیرا این طبیعت انسان است که به ذهن می‌آورد، آزمون می‌کند و Techne (ابزارهایمان) را گسترش می‌دهد. با این وجود، در نهایت، ما به نقطه‌ای رسیده‌ایم که سیاست‌های با مرکزیت انسان و استانداردها، اخلاقیات دیجیتالی، قراردادهای اجتماعی و توافق‌های جهانی بر روی انسان‌گرا نمودن این فناوری‌های نمایی، به اندازة پیمان‌های عدم اشاعة هسته‌ای، مهم خواهند بود.

در آیندة بسیار نزدیک، این دیگر دربارة این نخواهد بود آیا فناوری می‌تواند چیزی را انجام دهد (پاسخ تقریباً همیشه بله خواهد بود) بلکه این خواهد بود آیا فناوری باید چیزی را انجام دهد و چرا؟

خطر این است اگر ما وقت و منابع بر روی آندروریتم‌ها (آن کیفیاتی که ما را انسان می‌سازند) به اندازه‌ای که ما بر روی الگوریتم‌ها انجام می‌دهیم، نگذاریم، در آن صورت نه تنها این خود فناوری است که به پیش بردن زندگی‌مان خواهد پرداخت بلکه به ما فشار می‌آورد، ترفند زده می‌شویم و یا به طریق دیگر، ترغیب خواهیم شد که خودمان فناوری شویم. ما به «ابزارهای ابزارهایمان» تبدیل خواهیم شد.

توجه کنید که از موضوع «فناوری زندگی‌مان را به پیش می‌برد» منظورم اربابان رباتی Terminator Genisys نیست (200). در واقع، من نگران این هستم که ما به زودی ممکن است بدون فناوری کاملاً به صورت موجوداتی بدون استفاده شویم؛ آهسته، ناکامل، گنگ، بی‌مهارت شده، تنبل و چاق.

تصور کنید که اگر ما به کم‌رنگ کردن و در نهایت تباه کردن کیفیات جوهر انسانی مانند محرمانگی، راز و رمز، بی‌نام و نشانی، هیجانات، خودجوشی، شگفتی، شهود، خیال و معنویت ادامه دهیم چه رخ خواهد داد؛ به گونه‌ای که بتوانیم از ماشین‌ها عقب نیفتیم.

اگر ما نمی‌خواهیم خودمان فناوری شویم؛ اگر نمی‌خواهیم تدریجاً جذب درون گرداب قدرتمند خلق شده توسط جابه‌جایی‌های کلان شویم؛ اگر ما می‌خواهیم با وجود کشش‌های قدرتمند آن فناوری‌های جادویی، «طبیعتاً انسان» بمانیم؛ اگر می‌خواهیم آن چه که ما را واقعاً خوشحال می‌سازد و نه فقط آن چه که ما را پیشه می‌سازد، ایمن نگه داریم، ما باید مادامی که هنوز جایی برای لولیدن داریم، عمل نماییم. اکنون زمان آن فرا رسیده است.

ما می‌بایست آغاز به پرسیدن کنیم چرا و توسط چه کسی و چه هنگامی دنبال شود و نه فقط «اگر» و «چگونه». ما باید پرسش‌هایی پیرامون هدف و نه فقط منافع بپرسیم. ما باید به صورت فزاینده‌ای از رهبران صنایع بپرسیم و به ویژه فناوران و شرکت‌هایی که آن‌ها را به کار می‌برند. ما باید آن‌ها را وادار کنیم که دیدگاه جامع‌تری را اتخاذ کنند، دلالت‌های «خوب» و همچنین «نه چندان خوبِ» آن چه که آن‌ها مقصودشان است را مد نظر قرار دهند. ما باید همچنین از آن‌ها بخواهیم به پیامدهای ناخواسته آن‌ها بپردازند و آن‌ها را ملاحظه کنند و عوامل بیرونی هر آن چه که آن‌ها در طرح‌ها و مدل‌های سود خودشان خلق می‌کنند را شامل نمایند.

ما باید آفرینندگان و سرمایه‌گذاران فردا (و مسلماً خودمان، به عنوان کاربران و مصرف کنندگان) را در هر مرحله‌ای مسئول بدانیم. ما نیاز داریم که منکر مشتری بودن برای آن شرکت‌هایی شویم که به مراقبت کافی نمی‌پردازند و ما باید به محتوا شدن برای آن پلتفورم‌هایی شویم که جویای خودکار شدن ما هستند، خاتمه بدهیم. ما باید از این که شرکای ساکت برای تفکر ماشینی باشیم، چون که از هر چیز دیگری راحتی بیشتری دارد، پایان دهیم.

اگر ما نمی‌خواهیم آن چه که من «پشیمانی اپنهایمر» می‌خوانم (نام‌گذاری شده پس از این که ابداعات فیزیکدان مشهور جی رابرت اپنهایمر³¹¹ ساخت بمب اتمی را محقق ساخت و کسی که بعداً از عملکردهایش و پیامدهای آن‌ها ابراز پشیمانی کرد) دچار شویم، ما باید اهتمام خود را بر روی «تیم انسانی³¹²» بگذاریم تا بدین گونه انسانیت در وهلة اول و بالاتر از همه چیز دیگری قرار داده شود.

بنابراین، من پیشنهاد می‌کنم که برخی از اصول پایه‌ای را برای این دورة ماشینی که دارد می‌آید آزمون و تعریف نماییم تا تعیین کنیم کدام فناوری‌ها (اگر به کار برده شوند) به احتمال فراوان موجب شکوفا شدن انسان خواهند شد و باید بنابراین مورد پیگیری قرار گیرند و این که کدام یک از فناوری‌ها این احتمال را ندارند. ما باید همچنین بیشتر اوقات، چنین پرسش‌هایی را جویا شویم «چه هنگام، چرا و چه کسی» و نیز به فکر کردن در مورد این که چه کسی واقعاً پیروی از آن قوانین را کنترل خواهد کرد، بپردازیم.

این یک وظیفة سترگ خواهد بود و راستش را بخواهید قطعاً مملو از عدم قطعیت پیرامون این که آیا ما می‌توانیم بر روی حتی اساسی‌ترین قوانین انسانیت، توافق داشته باشیم.

با این وجود، اگر ما می‌خواهیم این برخوردهای قریب‌الوقوع میان انسان‌ها و ماشین‌ها که در این کتاب توصیف شده‌اند را ارزیابی کنیم، به یک نوع جدید از نظارت جهانی نیاز داریم که با آینده‌نگری‌های دور اندیشانة مداوم، پشتیبانی شوند. ما به قوانین زمینه‌ای نیاز داریم که قاطع بوده و همچنان به اندازة کافی انعطاف‌پذیر باشند تا پیشرفت را مانع نشوند. دلهره‌آور است؟ بله. غیرممکن است؟ خیر. جایگزینی دارد؟ به هیچ وجه.

نُه اصل پیشنهاد شده

برای قوت بخشیدن به بحث برای این که به بهترین وجه به پیش رود، من نُه اصل را چهارچوب‌بندی کرده‌ام. آن‌ها جوهرة بحث‌های اساسی را در بر می‌گیرند. من این اصول را در صفحات این کتاب عرضه نموده‌ام ولی آن‌ها هنوز یک کار در حال پیشرفت بوده و از جامع و کامل بودن، فاصله دارند.

1) ما نیاز داریم بسیار در درک «نمایی بودن³¹³» بهتر شویم و این که این چه معنایی برای آیندة انسانیت دارد.

ما باید یاد بگیریم تغییرات نمایی و ترکیبی را چگونه تصور کرده و سپس با آن‌ها زندگی کنیم. در آیندة بلافاصلة ما، مفهوم «منتظر بودن و دیدن» به بدی «فقط آن را انجام بده» می‌باشد. تدریجاً و آن گاه ناگهانی، در واقع هنجار جدید است و ما نباید برون‌رفت‌های خودمان را به سوی آینده، مادامی که هنوز آن‌ها را پیش روی خود داریم، تلف کنیم. ما نیز نیاز داریم به خاطر داشته باشیم که آینده‌مان چیزی است که مادام آن را تعریف و شکل می‌دهیم نه چیزی که فقط بر ما رخ می‌دهد. برای دستیابی به این، نیاز داریم باز و کنجکاو باشیم و خود را در سناریوهای آینده غرقاب کنیم، کشف کنیم آن چه که واقعاً زندگی کردن در آینده شبیه می‌باشد، به مردمی اتصال بیابیم که رخ دادن آینده را امکان‌پذیر می‌نمایند و آگاهی عمومی‌مان از روحیه و طرز فکری که ما را احاطه می‌کنند، فزونی دهیم. فرض کمتر کنیم و بیشتر کشف کنیم و آن فرضیات زهرآگینی که به خوبی در گذشته کار می‌کردند را مطرود داریم! پیشرفت چشمگیر علم را در آغوش بگیریم ولی همیشه به آن در زمینة نیت کلی انسان بنگریم. فناوری می‌تواند بهشت یا جهنم باشد یا هر دوی آن‌ها (hellven#)، بنابراین ما باید کنش‌گرا و محتاط باشیم، بسته به این که فناوری چقدر، کجا و چه زمانی در مخاطره است.

2) سرسخت‌ترین چالش‌های ما اغلب فرصت‌های غیرقابل باوری هستند (و بر عکس).

عمدة آیندة ما منوط به توازن دقت‌آمیز بین کاربرد جادویی و شیدایی فناوری (و به امید آن که زهرآگین نباشد) است. زیرا همان گونه که ویلیام گیبسون³¹⁴ پیشنهاد می‌کند، از لحاظ اخلاقی، فناوری تا ما آن را به کار نبردیم، خنثی است (201)، دستیابی به توازن، بیشتر از هماهنگ ساختن و کاربردها و تجسم یافتگی‌های فناوری حاصل می‌آید تا از پیشگیری کردن یا حتی تنظیم خود ابداعات. آینده دربارة بله یا خیر نیست، این «دربارة این بستگی دارد» است. من قطعیت دارم که اگر ما بتوانیم اجازه دهیم که پرسش‌های «چرا؟» و «برای چه هدفی؟» بیشتر از معمول بانگ زده شوند، یک رهیافت متوازن پدیدار خواهد شد.

3) ما باید به ناظران بسیار بهتری برای انسانیت تبدیل شویم.

نیاز است هر رهبر واحد کسب‌وکار، پیشگام فناوری و مقام رسمی عمومی، مسئولیتش را برای شکل‌دهی به آیندة انسانیت بپذیرد و به آن عمل کند. رهبران سیاسی و مدنی می‌بایست یک درک ژرف و آینده‌نگری فردی‌ای پیرامون فناوری در زمینة انسانیت توسعه دهند و ناظرین آیندة جمعی‌مان شوند. در همة بخش‌های همة صنایع، به یک نوع نوین همکاری فزاینده نیاز خواهیم داشت نه رقابت فزاینده و ما نیاز خواهیم داشت به صورت جامع در همة آن دامنه‌های سنتی به صورت جداگانه، فکر کنیم.

4) فناوری اخلاقیات ندارد، با این وجود یک جامعة بدون اخلاقیات محکوم به فنا است.

ما به سوی آینده رهسپاریم جایی که عیناً هر چیزی اطراف ما توسط یک سونامی از پیشرفت‌های فناورانه تحت فشار قرار داده می‌شود، با این وجود، شیوه‌ای که ما جهان را چهارچوب‌بندی می‌کنیم، شیوه‌ای که ما بررسی می‌کنیم چه چیز خوب و یا بد است، شیوه‌ای که ما تصمیم می‌گیریم که آیا درگیر یک فناوری خاص شده و از آن استفاده شود یا خیر، هنوز بر اساس تجربیات گذشته استوار است، بر چهارچوب‌های کهنه، و از همه بدتر، بر مدار فکر کردن خطی.

اخلاقیات و بسیاری از قوانین و مقررات ما نیز هنوز بر اساس جهانی است که به صورت خطی پیشرفت می‌کند و بر اساس «آن چه که یک روزی کار می‌کرد» در پیش از این که ما به نقطه عطف بر روی منحنی نمایی برسیم. حتی از آن زمان که اینترنت یک نیروی تجارتی چشمگیر شد، ما چنین به نظر می‌آییم که اساساً بر روی شکوفا شدن نویدهای اقتصادی و تجارتی آن تمرکز کرده بودیم. ما در این مسیر، زمان بسیار اندکی را برای ملاحظه اثر آن بر روی ارزش‌ها و اخلاقیات‌مان گذاشته‌ایم، و این در نهایت همچنان که ما وارد دورة هوش مصنوعی، رباتیک و ویرایش ژنوم انسان می‌شویم، آشکار می‌شود.

اخیراً، بحث فزاینده‌ای از مفهوم ساخت ماشین‌های فکر کننده که ممکن است بتوانند اخلاقیات انسانی را شبیه‌سازی کنند، صورت گرفته است. گرچه این یک چرخش جالب است، این مرا گامی دیگر به سوی یک دورة ماشینی شبیه‌سازی شدة تمام و کمال می‌برد و دلیل دیگر که چرا ما به برقراری یک شورای اخلاقیات دیجیتالی جهانی نیاز داریم. همچنان که ما رهسپار تکینگی هستیم و نقطه‌ای که در آن رایانه‌ها به توانمندی و ظرفیت مغز انسانی می‌رسند یا از آن فراتر می‌روند، و از طریق یک شبکة جهانی غول‌آسا اتصال می‌یابند، ما فوراً به یک زمینة اخلاقی روشن نیاز داریم که اکثریت بتوانند بر آن موافقت کنند. این یک کار آسانی نیست ولی به هر ترتیب، کاری است که گلاویز شدن با آن اساسی می‌باشد.

5) آگاه باشید: فناوری‌های نمایی اغلب با شتاب از جادویی به شیدایی و سپس به زهرآگینی شکل می‌گیرند و دستیابی به یک توازن ضروری است.

اگر شما فکر می‌کنید که اعتیاد به اینترنت، بازی‌ها تا تلفن‌های هوشمند یا تله‌های لذتِ شبکه‌های اجتماعی هم اکنون یک خروجی بزرگ است، داستان هنوز مانده است تا به صورت کامل پرده‌برداری شود! فقط صبر کنید تا ما به صورت کامل خودمان را در فناوری غرقاب کنیم، تا فناوری واقعاً به درون‌مان با واقعیت افزوده و مجازی، حدواسط‌های مغز - رایانه، کاشتنی‌ها و حدواسط‌های عصبی³¹⁵ فرو رود.

آسمان عیناً حد آن چه که پیشرفت نمایی ممکن است امکان‌پذیر نماید را نشان می‌دهد. از این رو، ما باید هم اکنون فرا گیریم چگونه به صورت جامع از فناوری همراه با احترام به شیوه‌ها و نیازهای انسانی استفاده کنیم. ما باید آن‌هایی که ابداع و بازاریابی می‌کنند و این راه‌حل‌های فناورانة جدید را افسونگر و وسوسه انگیز برای زیست بوم‌های جدیدی که آن‌ها را قدرتمند می‌کنند، فراهم می‌سازند، مسئول سازیم و مراقب آن‌ها باشیم تا راه‌های مؤثری را برای مهار یا محدودسازی پیامدهای ناخواسته، ارائه دهند. ارائه دهندگان فناوری می‌بایست به در نظر گرفتن عوامل خارجی در مدل‌های کسب‌وکارشان آغاز کنند و نیاز است تا به شکل‌دهی قراردادهای اجتماعی جدیدی که ممکن است به این اثرات زهرآگین بپردازند، کمک کنند.

6) ما به آموزش هر دو مهارت‌های STEM و CORE (شفقت، اصالت، تقابل و همدلی) نیاز داریم.

فناوری و انسانیت می‌بایست هر دو در برنامه‌های آموزشی باشند؛ در واقع، علم و فلسفه به یک کلاس درس تعلق دارند. یک جامعة متوازن، به وجود خبرگی در هر دو این دامنه، نیاز خواهد داشت؛ در غیر این صورت، ما به کج کردن میدان بازی به سوی تفکر ماشینی ادامه خواهیم داد.

افزون بر این، مقدار فزاینده‌ای از کار علمی در نهایت توسط هوش مصنوعی و ماشین‌های هوشمند انجام خواهد شد؛ بنابراین، ما باید توسعة توانمندی‌ها و مهارت‌های فقط انسانی را در مرکز صحنه قرار دهیم. خلاقیت، درک کردن، گفتمان، پرسمان، هیجانات، شهود و خیال حتی بیش از پیش مهم‌تر خواهند بود؛ یعنی آن چه که نمی‌توان دیجیتالی، خودکار یا مجازی‌سازی کرد، بی‌نهایت ارزشمند خواهد شد.

7) ما نیاز داریم میان آن چه واقعی است و آن چه یک نسخه یا یک شبیه‌سازی است، تمایز روشن قائل شویم.

اتصال یافتگی کامل، ماشین‌های فکر کننده، ابر هوشمند، رایانش شناختی، آینده‌های غیرقابل اغماض ما هستند. همچنان ما نباید از تمایز میان شبیه‌سازی (ماشین‌ها) و وجود (Dasein)، میان رایانش و آگاهی، میان نوع ماشین و نوع انسان، صرف نظر کنیم. غرقاب کردن خودمان در یک جهان از شبیه‌سازی‌های شگفت‌انگیز می‌تواند برای یادگیری، سرگرمی یا کار، بسیار مفید باشد ولی آیا این باید عموماً به شیوه‌ای برای زندگی ما تبدیل شود؟

این فناوری‌ها می‌توانند به یک نوع داروی جهانی تبدیل شوند که ما همیشه مشتاق خواهیم بود تا دنیای‌مان را با آن کامل‌تر سازیم؟ آیا ما به محدودیت‌ها و مقرراتی که چه مقدار استفاده از آن مجازیم و تا چه عمقی می‌توانیم برویم، نیاز خواهیم داشت؟ اگر فناوری واقعاً آن چه که ما جویای آن هستیم نباشد ولی چگونگی جویا شدن را برای ما ارائه می‌دهد، آیا ما به کمک برای تداوم تمایز میان این ابزارها و هدف واقعی‌مان نیاز خواهیم داشت؟ ایجاد روابط میان انسان‌ها نیاز دارد که مهم‌تر از ایجاد روابط با ماشین‌ها پابرجا بماند. فناوری را در آغوش بگیرید ولی فناوری نشوید.

8) ما به جستجوی چرایی و چه کسی و نه فقط «اگر» یا «چگونه» نیاز داریم آغاز کنیم.

تصمیمات راهبردی آینده پیرامون توسعه و شکوفا شدن فناوری می‌باید بیشتر پیرامون ادراک‌سازی، زمینه، هدف، معنایابی و موضوعیت باشد تا این که فقط به صورت ساده بر امکان‌پذیری، هزینه، مقیاس، منافع و مشارکت‌ها برای رشد، تمرکز یابد. پرسش «چگونه» می‌بایست با «چرا» جایگزین شود.

9) ما نباید اجازه دهیم سیلیکون والی، فناوران، نظامیان یا سرمایه‌داران، مأموریت کنترل انسانیت را به دست گیرند؛ این اهمیتی ندارد که آن‌ها در چه کشوری هستند.

احتمال ندارد، آن‌هایی که بر فناوری‌های نمایی سرمایه‌گذاری می‌کنند، آن‌ها را خلق می‌نمایند و می‌فروشند، آن‌هایی باشند که بخواهند قدرت یا اندازة کاربردهای بالقوة آن‌ها را مهار یا محدود سازند، آن‌هایی که ماشین‌ها را برای جنگ می‌سازند آن‌هایی نخواهند بود که بر شادمانی انسان تمرکز نمایند، آن‌هایی که در فناوری‌های ساختارشکن برای تولید بازده‌های چند صد برابری سرمایه‌گذاری می‌کنند، آن‌هایی نخواهند بود که در ساخت آیندة جوامع واقعاً انسانی برای یک سود جمعی، سرمایه‌گذاری خواهند کرد، آن‌هایی که ابزارها را می‌سازند برنامة کاری خودشان را دارند و این برنامه اکثراً پیرامون نقدینه‌سازی و قدرت است؛ پس در فرایند تصمیم‌سازی، حضور و نمایان شدن آن‌هایی که از این ابزارها استفاده می‌کنند، کجا قرار دارد؟

ارزیابی فناوری‌های نمایی: هفت پرسش ضروری که باید جویا شد

با در نظر گرفتن این که اکثر این کتاب پیرامون این است که چگونه انسانیت می‌تواند در این نبرد قریب‌الوقوع با فناوری‌های نمایی برنده شود، در اینجا شش پرسش است که باور دارم ما در هنگامی که نیروهای رادیکال در تغییر را ارزیابی می‌کنیم، باید از خود بپرسیم. من درک می‌کنم که در بسیاری از موارد، پاسخِ درست ممکن است یا «هر دو» یا «این بستگی دارد به» باشد. با این وجود، من احساس می‌کنم که با متوقف کردن پرسیدن این پرسش‌ها، ما می‌بایست روشن‌تر، این سبک و سنگین کردن‌ها را درک کنیم.

1) آیا این فناوری، به صورت ناخواسته یا با طرح و برنامه، انسانیت را کاهش می‌دهد؟ آیا این در جستجوی جایگزین کردن برهم‌کنش‌های مهم انسانی است که نمی‌بایست توسط فناوری میانجی‌گری شوند؟ آیا فناوری چیزی را که منحصراً انسانی است خودکار خواهد کرد که واقعاً نباید خودکار شود؟ آیا این فناوری ما را از بار مسئولیت‌های غیرلازم و غیرضروری، رها می‌سازد یا فقط ما را وسوسه می‌نماید که از آن چه ضرورتاً انسانی است، جست بزنیم؟ آیا فناوری یک کرم‌چاله³¹⁶ یا یک کاتالیست است؟

2) آیا این فناوری شادمانی واقعی انسانی را به پیش خواهد برد؟ آیا فناوری ما را بیشتر به محتوا شدن با آن چه داریم رهنمون خواهد کرد، به ما اجازه می‌دهد به سعادت‌گرایی (Eudaemonia) بیشتر دست یابیم و یک مشارکت اتصال یافته‌تر را ایجاد می‌کند؟ آیا به فراتر از فراهم آوردن خوشی‌های لذت‌گرایانة صرف، خواهد رفت؟ یا فقط عمدتاً یک ابزار لذت‌گرایی است، آیا فناوری در جستجوی رهنمون کردن ما به لذت‌گرایی است، آیا فناوری در جستجوی رهنمون کردن ما به گونه‌ای است که ما آن را با یک شادمانی ژرف‌تر، اشتباه کنیم؟

3) آیا این فناوری اثرات جانبی ناخواسته و احتمالاً ویرانگری دارد؟ آیا فناوری تسلط را از ما سلب می‌کند، یا ما را توانمند می‌سازد؟ آیا اثری چشم‌گیر بر زیست‌بوم‌هایی که برای بسیاری از مردم اساسی هستند فرود می‌آورد، و اگر این گونه است، آیا این، عوامل بیرونی را در مدل کسب‌وکار خودش لحاظ می‌نماید؟

4) آیا این فناوری تسلط فراوانی را برای خودش یا دیگر الگوریتم‌ها، بوت‌ها و ماشین‌ها برقرار می‌سازد؟ آیا کاربران وسوسه می‌شوند تا تسلط خودشان را با استفاده کردن از آن از دست بدهند؟ آیا ما تشویق می‌شویم تا فکر کردن‌مان را به فناوری، برون‌سپاری کنیم؟ آیا این فناوری به ما خدمت خواهد کرد، یا آشکار خواهد شد که عمدتاً «خودِ خدمت³¹⁷» است؛ عمدتاً ارزش را می‌گیرد تا بدهد.

5) آیا این فناوری ما را قادر می‌سازد از آن فراتر رویم؛ برای نمونه، از خودش به فراسو رویم یا ما را وابسته به خود خواهد ساخت؟ آیا این فناوری به انسان‌ها فشار وارد می‌سازد تا یک نقش مادون داشته باشند، چه با طرح و برنامه یا به صورت تصادفی؟ آیا فناوری چنان از توانمندی‌های ما گذر خواهد کرد که به ما فشار وارد آورده می‌شود تا بی‌پرسش، رهنمود‌ها و تصمیمات آن را دنبال نماییم؟

6) آیا انسان‌ها نیاز دارند که اساساً تغییر یابند یا فزونی یافته³¹⁸ باشند تا واقعاً بتوانند از این فناوری استفاده کنند؟ آیا این فناوری ما را به ارتقاء دادن بدن‌ها یا احساسات‌مان هدایت می‌نماید، یا در درون حدود موجود آن که ما هستیم، کار می‌کند؟ اگر می‌خواهیم به مشاغل، آموزش و پرورش و مراقبت‌های سلامت، دسترسی داشته باشیم آیا فناوری به ما فشار وارد خواهد کرد تا فزونی یافته شویم یا ارتقاء بیابیم؟

7) آیا فناوری به صورت باز در دسترس خواهد بود یا به انحصار تبدیل خواهد شد؟ آیا ما خواهیم توانست با آن ور رفته و در آن دخالت کنیم یا قفل شده خواهد بود؟ آیا در دسترس هر کس خواهد بود یا فقط برای یک درصد بالای جامعه خواهد بود؟ آیا بی‌عدالتی را فزونی خواهد داد یا به فروکاستن آن اهتمام می‌ورزد؟ اگر فناوری دسترسی ما را به اطلاعات کنترل می‌کند چگونه ما از اندازة ثروت اندوخته شده توسط ارائه دهندگان برجستة آن، آگاهی بیابیم؟

آیا شما در «دستة انسان³¹⁹» هستید؟

من در نخست این الگو را از داگلاس راشکوف³²⁰ شنیدم (220) و بلافاصله به این فکر افتادم که یک اندرز و حکمت عالی، سفرمان به سوی آینده را ترسیم خواهد کرد.

این آن چه است که از «بودن در دستة انسانی» برای من معنا دارد:

در نخست قرار دادن شکوفایی جمعی انسانی‌مان در بالای همة دیگر موضوعات؛

اجازه دادن به آندروریتم‌ها یعنی چیزهایی که منحصراً انسانی هستند مانند خیال، شانس، اشتباهات و ناکارآمدی‌ها تا به اهمیت خود ادامه دهند؛ حتی اگر آن‌ها با فناوری به شکل نامطلوب بوده و ناکامل به نظر می‌آیند؛

مبارزه کردن با گسترش تفکر ماشینی؛ مانند تغییر ندادن آن چه که برای آن ایستاده‌ایم و به عنوان انسان به آن نیاز داریم. ما نباید این‌ها را تغییر دهیم فقط به خاطر این که این تغییر دادن‌ها شرایط را برای فناوری‌هایی که ما را احاطه کرده‌اند، آسان‌تر می‌سازند.

وسوسه نشدن برای ترجیح دادن فناوری‌های جادویی (مانند شبیه‌سازی‌های بزرگ از واقعیت بر خود واقعیت ترجیح داده شود و همچنین معتاد نشدن به فناوری؛

ترجیح ندادن روابط با صفحه‌ها (اسکرین‌ها) و ماشین‌ها بر آن‌هایی که ما می‌توانیم با دوستان انسانی‌مان داشته باشیم.

همان گونه که من در آغاز گفتم، هدف من برجسته کردن چالش‌ها، آغاز به بحث و گفتمان و برانگیختن یک پاسخ سرزنده و متهورانه بوده است. شما برای پیشبرد این گفتمان در سازمان، جامعه و حلقه‌های دوستی‌تان، چه انجام خواهید داد؟

آن چه که به من مربوط است، من به جستجوی این که «در دستة انسانی بودن» چه معنایی دارد به کار خود ادامه خواهم داد و این کار را به شکل سخنران کلیدی، پیشنهاد دهنده، نویسنده و فیلم‌ساز بودن انجام خواهم داد. لطفاً برای بحث در مورد این کتاب، به وب سایت techvshuman.com و مایکروسایت onteamhuman.com ملحق شوید.

قدردانی‌ها

این کتاب بدون حمایت این افراد بزرگ به باروری نمی‌نشست:

-      همسر عزیزم، آنجلیکا فلدمان (Angelica Feldmann) که عاشقانه فقدان فیزیکی و معنوی من را در طی 18 ماه تحمل آورد و نقد بسیار مورد نیاز صادقانه را فراهم آورد و در تمام مسیر مرا مورد حمایت خود قرار داد.

-      جین فرانکویس کاردلا (Jean Francois Cardella)، تولید کننده و کارگردان هنری، مشاور خلاق و دوست من؛

-      فرانکویس مازودیر (Francois Mazoudier) برای بازخورد صادقانه و دوستی‌اش؛

-      جیمز مک‌کیب (James McCabe) برای نسخه‌نویسی و ویراستاری شگفت‌انگیزش؛

-      دیوید باتینو (David Battino) برای ویرایش‌های تکمیلی؛

-      ماژی لانگریک (Maggie Langrick) برای ویرایش‌های ساختارمند اولیه‌اش و مشاورة کلی؛

-      خدمة Like.Digital در لندن، برای ساخت وب‌سایت کتاب www.techvshuman.com

-      بنجامین بلاست (Benjamin Blust) مدیر وب و فنی من؛

بر شانه‌های بزرگان:

این کتاب از کار بسیاری از رویاپردازان الهام گرفته که شامل مؤلفین و نویسندگان، خطابه‌گران، متفکران، شخصیت‌ها، رهبران کسب‌وکار و فیلم‌سازان می‌باشد. از همة شماها سپاسگزارم!

این اسامی قلة این کوه یخ می‌باشند:

جیمز بارات (James Barrat)

یوچای بنکلر (Yochai Benkler)

نیک بوستروم (Nick Bostrom)

ریچارد برانسون (Richard Branson)

دیوید برین (David Brin)

اریک براینجفسون (Erik Brynjoffson)

نیکولاس کار (Nicholas Carr)

نوام چامسکی (Noam Chomsky)

پائولو کوئیلو (Paulo Coelho)

دالایی لاما (The Dalai Lama)

پیتر دیاماندز (Peter Diamandis)

فیلیپ کی. دیک (Philip K. Dick)

کوری دکترو (Cory Doctorow)

دیو اگرز (Dave Eggers)

جان الکینگتون (John Elkington)

ویلیام گیبسون (William Gibson)

دانیل کانمن (Daniel Kahneman)

اندرو کین (Andrew Keen)

کوین کلی (Kevin Kelly)

ری کورزویل (Ray Kurzweil)

جارون لانیر (Jaron Lanier)

لری لسیگ (Larry Lessig)

جان مارکوف (John Markoff)

اندرو مک‌آفی (Andrew McAfee)

ایلان ماسک (Elon Musk)

توماس پیکتی (Thomas Piketty)

جرمی ریفکین (Jeremy Rifkin)

چارلی رز (Charlie Rose)

داگلاس راشکوف (Douglas Rushkoff)

کلی شِرکی (Clay Shirky)

تیفانی شلین (Tiffany Shlain)

ادوارد اسنودن (Edward Snowden)

دان تاپسکات (Don Tapscott)

منابع بیشتر

شما می‌توانید برای گفتگو دربارة «فناوری در برابر انسانیت» به رسانه‌های اجتماعی زیر بپیوندید و مطالب بیشتری را بیابید:

فیسبوک      www.facebook.com/techvshuman

لینکدین      www.linkedin.com/groups/12002283

توییتر      www.twitter.com/techvshuman

به‌روزرسانی‌های منظم      www.techvshuman.com

تیم انسانی      www.onteamhuman.com

اطلاعات بیشتر در مورد گرد لئونارد و کار او:

شوریل (ویدیویی کوتاه برای معرفی)      www.gerd.io/2016ShowReel

آژانس آینده      www.thefuturesagency.com

وب‌سایت انگلیسی      www.futuristgerd.com

وب‌سایت آلمانی      www.gerdleonhard.de

ثبت‌نام در خبرنامه      www.gerd.io/getgerdsnews

توییتر      www.twitter.com/gleonhard

فیسبوک      www.facebook.com/gleonhard

لینکدین      https://ch.linkedin.com/in/gleonhard

ایمیل      books@thefuturesagency.com

فهرست منابع کتاب

1      Moore and Associates. (n.d.). Retrieved August 03, 2016, from http://www.mooreslaw.com/

2      Loizos, C. (2015). Elon Musk Says Tesla Cars Will Reach 620 Miles On A Single Charge “Within A Year Or Two,” Be Fully Autonomous In “Three Years”.

Retrieved August 01, 2016, from https://techcrunch.com/2015/ 09/29/elonmusk-says-tesla-cars-will-reach-620-miles-on-a-single-charge-within-a-yearor-two-have-fully- autonomous-cars-in-three-years/

3      BMW i8 Review After 3 Months Behind The Wheel. (n.d.). Retrieved August 1, 2016, from http://insideevs.com/bmw-i8-review-3-months-behind-wheel/

4      Covert, J. (2016). Tesla Stations in NYC on Verge of Outnumbering Gas Stations. Retrieved 29 June, 2016, from http://nypost.com/2016/03/17/tesla-stations-in-nyc-on-verge-of-outnumbering-gas-stations

5      Hayden, E. (2014). Technology: The $1,000 Genome. Retrieved 29 June, 2016, from http://www.nature.com/news/ technology-the-1-000-genome-1.14901

6      Raj, A. (2014). Soon, It Will Cost Less to Sequence a Genome Than to Flush a Toilet — and That Will Change Medicine Forever. Retrieved 29 June, 2016, from http://www.businessinsider.com/ super-cheap-genome-sequencing-by-2020-2014-10?IR=T

7      Vinge, V. (1993). Vernor Vinge on the Singularity. Retrieved 29 June, 2016, from http://mindstalk.net/vinge/vinge-sing.html

8      Webb, R. (2013). The Economics of Star Trek. Retrieved 29 June, 2016, from https://medium.com/@RickWebb/the-economics-of-star-trek-29bab88d50

9 10 Nikola Tesla Quotes That Still Apply Today. (n.d.). Retrieved August 03, 2016, from http://www.lifehack.org/305348/10-nikola-tesla-quotes-that-still-apply-today

10      Metz, C. (2015). Soon, Gmail’s AI Could Reply to Your Email for You. Retrieved 29 June, 2016, from http://www.wired.com/ 2015/11/google-is-using-aito-create-automatic-replies-in-gmail

11      Surrogates. (2016). Wikipedia. Retrieved 29 June, 2016, from https://en.wikipedia.org/wiki/Surrogates

12      AMC Network Entertainment. (2016). HUMANS. Retrieved 29 June, 2016, from http://www.amc.com/shows/humans

13      S, L. (2015). The Economist explains: The End of Moore’s Law. Retrieved 29 June, 2016, from http://www.economist.com/blogs/ economist-explains/2015/04/economist-explains-17

14      Booth, B. (2016, 31/05). Riding the Gene Editing Wave: Reflections on CRISPR/Cas9’s Impressive Trajectory. [Weblog]. Retrieved 2 July 2016, from http://www.forbes.com/sites/ brucebooth/2016/05/31/riding-the-gene-editing-wave-reflections-on-crisprs-impressive-trajectory

15      Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies.: Oxford University Press.

16      Urban, T. (2015, 22 January). The Artificial Intelligence Revolution: Part 1. [Weblog]. Retrieved 2 July 2016, from http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

17      Yudkowsky, E. (c2016). Quote by Eliezer Yudkowsky: “By far the greatest danger of Artificial Intell”. Retrieved 13 July, 2016, from https://www.goodreads.com/quotes/1228197-by-far-the-greatest-danger-of-artificial-intelligence-isthat

18      Diamandis, P. (2015, 26 January). Ray Kurzweil’s Mind-Boggling Predictions for the Next 25 Years. [Weblog]. Retrieved 2 July 2016, from http://singularityhub.com/2015/01/26/ray-kurzweils-mind-boggling-predictions-for-thenext-25-years

19      Matyszczyk, C. (2015, 01 October). Google Exec: With Robots in Our Brains, We’ll Be Godlike. [Weblog]. Retrieved 2 July 2016, from http://www.cnet.com/news/google-exec-with-robots-in-our-brains-well-be-godlike

20      Hemingway, E. (1996). The Sun Also Rises. New York: Scribner.

21      Diamandis, P. (c2016). Peter Diamandis. Retrieved 2 July, 2016, from http://diamandis.com/human-longevity-inc

22      Istvan, Z. (2013). The Transhumanist Wager. : Futurity Imagine Media.

23      Bailey, J. (2014, July). Enframing the Flesh: Heidegger, Transhumanism, and the Body as “Standing Reserve”. [Weblog]. Retrieved 3 July 2016, from http://jetpress.org/v24/bailey.htm

24      Brainmetrix. (c2016). IQ Definition. Retrieved 3 July, 2016, from http://www.brainmetrix.com/iq-definition

25      Maslow’s Hierarchy of Needs. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Maslow’s_ hierarchy_of_needs

26      Gibney, E. (2016, 27 January). Google AI Algorithm Masters Ancient Game of Go. [Weblog]. Retrieved 3 July 2016, from http://www.nature.com/news/google-ai-algorithm-masters-ancient-game-of-go-1.19234

27      Istvan, Z. (2014, 04 August). Artificial Wombs Are Coming, but the Controversy Is Already Here. [Weblog]. Retrieved 3 July 2016, from http://motherboard.vice.com/read/artificial-wombs-are-coming-and-the-controversys-already-here

28      Izquotes. (c2016). Iz Quotes. Retrieved 3 July, 2016, from http://izquotes.com/quote/70915

29      McMullan, T. (2015, 23 July). What Does the Panopticon Mean in the Age of Digital Surveillance?. [Weblog]. Retrieved 3 July 2016, from https://www.theguardian.com/technology/2015/jul/ 23/panopticon-digital-surveillance-jeremy-bentham

30      J Robert Oppenheimer. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/J.RobertOppenheimer

31      Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. NY: Thomas Dunne Books/St Martin’s Press.

32      Techne. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Techne

33      Kuskis, A. (2013, 01 April). “We Shape Our Tools and Thereafter Our Tools Shape Us”. [Weblog]. Retrieved 3 July 2016, from https://mcluhangalaxy.wordpress.com/2013/04/01/we-shape-our-tools-and-thereafter-our-tools-shape-us

34      Bailey, J. (2014, July). Enframing the Flesh: Heidegger, Transhumanism, and the Body as “Standing Reserve”. [Weblog]. Retrieved 3 July 2016, from http://jetpress.org/v24/bailey.htm

35      Walton, A. (2015, 08 April). New Study Links Facebook to Depression: But Now We Actually Understand Why. [Weblog]. Retrieved 3 July 2016, from http://www.forbes.com/sites/ alicegwalton/2015/04/08/new-study-links-facebookto-depression-but-now-we-actually-understand-why

36      Being and Time. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Being_and_Time

37      Gray, R. (2016, 12 February). Would You MARRY a Robot?. [Weblog]. Retrieved 3 July 2016, from http://www.dailymail. co.uk/sciencetech/article-3366228/Would-MARRY-robot-Artificial-intelligence-allow-people-lasting-love-machines-expert-claims.html

38      Santa Maria, C. (2016, 10 February). Inside the Factory Where the World’s Most Realistic Sex Robots Are Being Built. [Weblog]. Retrieved 3 July 2016, from http://fusion.net/story/ 281661/real-future-episode-6-sex-bots

39      Watercutter, A. (2016, 21 January). The VR Company Helping Filmmakers Put You Inside Movies. [Weblog]. Retrieved 3 July 2016, from http://www.wired.com/2016/01/sundance-volumetric -vr-8i

40      McLuhan, M. (1994). Understanding Media: The Extensions of Man. USA: MIT Press.

41      Burton-Hill, C. (2016, 16 February). The Superhero of Artificial Intelligence: Can This Genius Keep It in Check?. [Weblog]. Retrieved 03 July 2016, from https://www.theguardian.com/ technology/2016/feb/16/demis-hassabis-artificial-intelligence-deepmind-alphago

42      Lanier, J. (2010). You Are Not a Gadget. : Alfred A Knopf.

43      Transhumanism. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Transhumanism

44      Brand, S. (1968). Whole Earth Catalog. Retrieved 3 July, 2016, from http://www.wholeearth.com/issue/1010/article/195/we.are. as.gods

45      Descartes: An Intellectual Biography. (n.d.). Retrieved August 03, 2016, from https://books.google.at/books?id=QVwDs_ Ikad0C

46      Leonard, G & Kusek, D. (2005). The Future of Music: Manifesto for the Digital Music Revolution. : Berklee Press.

47      Murphy, K. (2007, 03 June). Life for a Man on the Run. [Weblog]. Retrieved 3 July 2016, from http://articles.latimes.com/2007/ jun/03/entertainment/ca-mccartney3

48      Leonhard, G. (2010). Friction Is Fiction: the Future of Content, Media and Business. : Lulu.

49      Morozov, E. (2016, 30 January). Cheap Cab Ride? You Must Have Missed Uber’s True Cost. [Weblog]. Retrieved 3 July 2016, from http://www.theguardian.com/commentisfree/2016/jan/31/ cheap-cab-ride-uber-true-cost-googlewealth-taxation

50      Andreessen, M. (2011, 20 August). Why Software Is Eating The World. [Weblog]. Retrieved 3 July 2016, from http://www.wsj. com/articles/SB10001424053111903480904576512250915629460

51      Gartner. (2013, 12 November). Gartner Says by 2017 Your Smartphone Will Be Smarter Than You. [Weblog]. Retrieved 11 July 2016, from http://www.gartner.com/newsroom/id/2621915

52      Dick, P. (c2016). Quote by Philip K Dick: “There will come a time when it isn’t ‘They’re s”. Retrieved 3 July, 2016, from http://www.goodreads.com/quotes/42173-there-will-come-a-time-when-it-isn-t-they-re-spying

53      Cisco. (2016). Cisco Visual Networking Index Predicts Near-Tripling of IP Traffic by 2020. Retrieved 3 July, 2016, from http://investor.cisco.com/investor-relations/news-and-events/ news/news-details/2016/Cisco-Visual-Networking-Index-Predicts-Near-Tripling-of-IP-Traffic-by-2020/default.aspx

54      Khedekar, N. (2014). Tech2. Retrieved 3 July, 2016, from http://tech.firstpost.com/news-analysis/now-upload-share-1-8-billion-photos-everyday-meeker-report-224688.html

55      Deloitte. (c2016). Predictions 2016: Photo Sharing: Trillions and Rising. Retrieved 3 July, 2016, from http://www2.deloitte.com/ global/en/pages/technology-media-and-telcommunications/ articles/tmt-pred16-telecomm-photo-sharing-trillions-and-rising.html

56      Scanadu. (2016). Scanadu | Home. Retrieved 3 July, 2016, from https://www.scanadu.com

57      Eggers, D. (2013). The Circle. : Knopf.

58      Leonhard, G. (2015, 21 April). What Are These “Unicorn” Companies You Speak Of?. [Weblog]. Retrieved 3 July 2016, from http://thefuturesagency.com/2015/04/21/unicorn-companie s-what-are-they-and-why-are-they-important

59      Foroohar, R. (2016, 15 June). How the Gig Economy Could Save Capitalism. [Weblog]. Retrieved 3 July 2016, from http://time.com/4370834/sharing-economy-gig-capitalism

60      Gunawardene, N. (2003). Sir Arthur C Clarke. Retrieved 3 July, 2016, from http://www.arthurcclarke.net/?interview=12

61      McMillan, R. (2015, 25 February). Google’s AI Is Now Smart Enough to Play Atari Like the Pros. [Weblog]. Retrieved 7 July 2016, from http://www.wired.com/2015/02/google-ai-plays-atari-like-pros

62      Metz, C. (2016, 27 January). In Major AI Breakthrough, Google System Secretly Beats Top Player at the Ancient Game of Go. [Weblog]. Retrieved 7 July 2016, from http://www.wired.com/ 2016/01/in-a-huge-breakthrough-googlesai-beats-a-top-player-at-the-game-of-go

63      Swearingen, J. (2016, 7 March). Why Deep Blue Beating Garry Kasparov Wasn’t the Beginning of the End of the Human Race. [Weblog]. Retrieved 7 July 2016, from http://www.popular mechanics.com/technology/apps/a19790/what-deep-blue-beating-garry-kasparov-reveals-about-todays-artificial-intelligence-panic

64      Schwartz, K. (c2013). FCW. Retrieved 3 July, 2016, from https://fcw.com/microsites/2011/cloud-computing-download/ financial-benefits-of-cloud-computing-to-federal-agencies.aspx

65      Gillis, T. (2016, 02 February). The Future of Security: Isolation. [Weblog]. Retrieved 3 July 2016, from http://www.forbes. com/sites/tomgillis/2016/02/02/the-future-of-security-isolation

66      Duffy, S. (2014, 17 April). What If Doctors Could Finally Prescribe Behavior Change?. [Weblog]. Retrieved 3 July 2016, from http://www.forbes.com/sites/sciencebiz/2014/04/17/what-if-doctors-could-finally-prescribe-behavior-change

67      Pande, V. (2015). When Software Eats Bio. Retrieved 3 July, 2016, from http://a16z.com/2015/11/18/bio-fund

68      Google. (2016). Now Cards — the Google app. Retrieved 3 July, 2016, from https://www.google.com/search/about/learn-more/ now

69      Minority Report (film). (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Minority_Report_(film)

70      The Economist. (2016, 23 June). Print My Ride. [Weblog]. Retrieved 3 July 2016, fromhttp://www.economist.com/news/ business/21701182-mass-market-carmaker-starts-customising-vehicles-individually-print-my-ride

71      Bloy, M. (2005). The Luddites 1811-1816. Retrieved 10 July, 2016, from http://www.victorianweb.org/history/riots/luddites. html

72      Technological Unemployment. (2016). Wikipedia. Retrieved 15 July, 2016, from https://en.wikipedia.org/wiki/Technological_ unemployment

73      Focus on Inequality and Growth (Rep.). (2014). Retrieved February 1, 2016, from OECD website: https://www.oecd.org/ social/Focus-Inequality-and-Growth-2014.pdf

74      Rotman, D. (2013, June 12). How Technology Is Destroying Jobs. Retrieved August 1, 2016, from https://www.technologyreview. com/s/515926/how-technology-is-destroying-jobs/

75      US Bureau of Labor Statistics. (2016). Labor Productivity and Costs Home Page (LPC). Retrieved 10 July, 2016, from http://www.bls.gov/lpc

76      Bernstein, A. (2015). The Great Decoupling: An Interview with Erik Brynjolfsson and Andrew McAfee. Retrieved August 03, 2016, from https://hbr.org/2015/06/the-great-decoupling

77      Peck, E. (2016, 19 January). The 62 Richest People on Earth Now Hold as Much Wealth as the Poorest 35 Billion. [Weblog]. Retrieved 15 July 2016, from http://www.huffingtonpost.com/ entry/global-wealth-inequality_us_56991defe-4b0ce4964242e09

78      Oxford Martin School. (2013). The Future of Employment: How Susceptible Are Jobs to Computerisation?. Retrieved 10 July, 2016, from http://www.oxfordmartin.ox.ac.uk/publications/ view/1314

79      Metz, C. (2016, 27 January). In Major AI Breakthrough, Google System Secretly Beats Top Player at the Ancient Game of Go. [Weblog]. Retrieved 10 July 2016, from http://www.wired.com/ 2016/01/in-a-huge-breakthrough-googles-ai-beats-a-top-player-at-the-game-of-go

80      Armstrong, S. (2014). Smarter Than Us: The Rise of Machine Intelligence. : Machine Intelligence Research Institute.

81      Social Security Administration. (2010). The Development of Social Security in America. Retrieved 10 July, 2016, from https://www.ssa.gov/policy/docs/ssb/v70n3/v70n3p1.html

82      The New Atlantis. (c2016). Stephen L Talbott — The New Atlantis. Retrieved 10 July, 2016, from http://www.thenew atlantis.com/authors/stephen-talbott

83      Leonhard, G. (2015, 22 November). Is Hello Barbie Every Parent’s Worst Nightmare? Great Debate. [Weblog]. Retrieved 10 July 2016, from http://www.futuristgerd.com/2015/11/22/is-hello-barbie-every-parents-worst-nightmaregreat-debate

84      Google. (2016). Google News. Retrieved 10 July, 2016, from https://news.google.com

85      Hern, A. (2016, 13 May). Facebook’s News Saga Reminds Us Humans Are Biased by Design. [Weblog]. Retrieved 15 July 2016, from https://www.theguardian.com/technology/2016/ may/13/newsfeed-saga-unmasks-the-human-face-of-facebook

86      Baidu. (2016). 百度新闻搜索——全球最大的中文新闻平台. Retrieved 15 July, 2016, from http://news.baidu.com

87      LaFrance, A. (2015, 29 April). Facebook Is Eating the Internet. [Weblog]. Retrieved 10 July 2016, from http://www.theatlantic.com/technology/archive/2015/04/facebook-is-eating-the-internet/391766

88      Warren, C. (2015, 30 June). Apple Music First Look: It’s All About Curation, Curation, Curation. [Weblog]. Retrieved 15 July 2016, from http://mashable.com/2015/06/30/apple-music-hands-on

89      Brockman, J. (2014, 03 February). The Technium: A Conversation with Kevin Kelly. [Weblog]. Retrieved 10 July 2016, from https://www.edge.org/conversation/kevin_kelly-the-technium

90      Quote Investigator. (2011). Computers Are Useless They Can Only Give You Answers. Retrieved 10 July, 2016, from http://quoteinvestigator.com/2011/11/05/computers-useless

91      Kelly, K. (2010). What Technology Wants. : Viking.

92      DeSouza, C. (2015). Maya. : Penguin India.

93      Kahneman, D. (2011). Thinking, Fast and Slow. : Macmillan.

94      Turkle, S. (c2016). Sherry Turkle Quotes. Retrieved 10 July, 2016, from https://www.goodreads.com/author/quotes/153503. Sherry_Turkle

95      Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books/St Martin’s Press.

96      The definition of automate. (n.d.). Retrieved August 03, 2016, from http://www.dictionary.com/browse/automate

97      Wells, H. G. (2005). The Time Machine. London, England: Penguin Books.

98      Schneier, B. (2016, 04 February). The Internet of Things Will Be the World’s Biggest Robot. [Weblog]. Retrieved 11 July 2016, from https://www.schneier.com/blog/archives/2016/02/the_ internet_of_1.html

99      Ellen MacArthur Foundation. (c2015). Circular Economy — UK, Europe, Asia, South America & USA. Retrieved 11 July, 2016, from https://www.ellenmacarthurfoundation.org/circular-economy

100      Sophocles. (c2016). Quote by Sophocles: “Nothing vast enters the life of mortals without”. Retrieved 11 July, 2016, from http://www.goodreads.com/quotes/1020409-nothing-vast-enters-the-life-of-mortals-without-a-curse

101      Leonhard, G. (2015). Automation, Machine Thinking and Unintended Consequences. Retrieved 3 July, 2016, from https://youtu.be/Gq8_xPjlssQ

102      Asilomar Conference on Recombinant DNA. (n.d.). Retrieved August 03, 2016, from https://en.wikipedia.org/wiki/Asilomar_ Conference_on_Recombinant_DNA

103      Internet Live Stats. (2016). Number of Internet Users (2016). Retrieved 11 July, 2016, from http://www.internetlivestats.com/ internet-users

104      Clarke, A. (1964). Profiles of the Future: Bantam Books.

105      Libelium. (2016). Libelium — Connecting Sensors to the Cloud. Retrieved 7 July, 2016, from http://www.libelium.com

106      Gonzales, A. (n.d.). The Effects of Social Media Use on Mental and Physical Health (Rep.). Retrieved April 1, 2016, from Robert Wood Johnson Foundation website: http://www.med.upenn.edu/ chbr/documents/AmyGonzales-PublicHealthandSocialMedia Talk.pdf

107      De Querol, R. (2016, 25 January). Zygmunt Bauman: “Social Media Are a Trap”. [Weblog]. Retrieved 7 July 2016, from http://elpais.com/elpais/2016/01/19/inenglish/1453208692_424660.html

108      Long, D. (c2016). Albert Einstein and the Atomic Bomb. Retrieved 7 July, 2016, from http://www.doug-long.com/ einstein.htm

109      Long, D. (c2016). Albert Einstein and the Atomic Bomb. Retrieved 7 July, 2016, from http://www.doug-long.com/ einstein.htm

110      Clark, R. (2001). Einstein: The Life and Times: Avon.

111      Einstein, A. (c2016). Quote by Albert Einstein: “The human spirit must prevail over technology”. Retrieved 7 July, 2016, from http://www.goodreads.com/quotes/44156-the-human-spirit -must-prevail-over-technology

112      Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books/St Martin’s Press.

113      Kurzweil, R. (c2016). The Singularity is Near » Homepage. Retrieved 7 July, 2016, from http://singularity.com

114      Quote Investigator. (2015). With Great Power Comes Great Responsibility. Retrieved 7 July, 2016, from http://quotein vestigator.com/2015/07/23/great-power

115      Rushkoff, D. (2013). Present Shock: When Everything Happens Now: Current.

116      McLuhan, M. (c2016). Quote by Marshall McLuhan: “First we build the tools, then they build us”. Retrieved 7 July, 2016, from http://www.goodreads.com/quotes/484955-first-we-build-the-tools-then-they-build-us

117      Tokmetzis, D. (2015, 23 February). Here’s Why You Shouldn’t Put Your Baby Photos Online. [Weblog]. Retrieved 7 July 2016, from https://medium.com/matter/beware-your-baby-s-face-is-online-and-on-sale-d33ae8cdaa9d#

118      Hu, E. (2013, 5 August). The Hackable Japanese Toilet Comes with an App to Track Poop. [Weblog]. Retrieved 7 July 2016, from http://www.npr.org/sections/alltechconsidered/2013/08/ 05/209208453/the-hackable-japanese-toiletcomes-with-an-app-to-track-poop

119      Jones, B. (2015, 14 February). Is Cortana a Dangerous Step Towards Artificial Intelligence? [Weblog]. Retrieved 7 July 2016, from http://www.digitaltrends.com/computing/fear-cortana

120      Precobs. (2016). Wikipedia. Retrieved 7 July, 2016, from https://en.wikipedia.org/wiki/Precobs

121      Gartner. (2013, 12 November). Gartner Says by 2017 Your Smartphone Will Be Smarter Than You. [Weblog]. Retrieved 11 July 2016, from http://www.gartner.com/newsroom/id/2621915

122      Rushkoff, D. (2013). Present Shock: When Everything Happens Now: Current.

123      NPR. (2013, 25 March). In a World That’s Always on, We Are Trapped in the “Present”. [Weblog]. Retrieved 7 July 2016, from http://www.npr.org/2013/03/25/175056313/in-a-world-thats-always-on-we-are-trapped-in-thepresent

124      x.ai. (2016). An AI Personal Assistant Who Schedules Meetings for You. Retrieved 10 July, 2016, from https://x.ai

125      Green, C. (2015, 02 September). The World of Digital Assistants — Why Everyday AI Apps Will Make up the IoT. [Weblog]. Retrieved 10 July 2016, from http://www.information-age.com/ industry/software/123460089/worlddigital-assistants-why-everyday-ai-apps-will-make-iot

126      Sorrel, C. (2016, 13 January). Stop Being A Loner, It’ll Kill You. [Weblog]. Retrieved 10 July 2016, from http://www.fastcoexist. com/3055386/stop-beinga-loner-itll-kill-you

127      Digital globalization: The new era of global flows. (2016, February). Retrieved August 03, 2016, from http://www. mckinsey.com/business-functions/digital-mckinsey/our-insights/digital-globalization-the-new- era-of-global-flows

128      Microsoft. (2016). Microsoft HoloLens. Retrieved 10 July, 2016, from https://www.microsoft.com/microsoft-hololens

129      Brien, D. (c2016). Computers, the Internet, and the Abdication of Consciousness — an Interview with Stephen Talbott. Retrieved 10 July, 2016, from http://natureinstitute.org/txt/st/jung.htm

130      McKinsey & Company. (2010). Why Governments Must Lead the Fight Against Obesity. Retrieved 11 July, 2016, from http://www.animate-eu.com/public/news/active/375/McKinsey Quarterly: Why governments must lead the fight against obesity plus posts.pdf

131      Centers for Disease Control and Prevention. (2015). Adult Obesity Facts. Retrieved 11 July, 2016, from http://www.cdc. gov/obesity/data/adult.html

132      HAPI.com. (c2016). Enjoy Your Food with HAPIfork. Retrieved 11 July, 2016, from http://www.hapi.com/products-hapifork.asp

133      University of Rhode Island. (1997). Food Additives. Retrieved 11 July, 2016, from http://web.uri.edu/foodsafety/food-additives

134      Leonhard, G. (2014, 25 February). How Tech Is Creating Data “Cravability,” to Make Us Digitally Obese. [Weblog]. Retrieved 11 July 2016, from http://www.fastcoexist.com/3026862/how-tech-is-creating-data-cravability-to-makeus-digitally-obese

135      Rodale, M. (2013, 19 November). Food Addiction Is Real. [Weblog]. Retrieved 11 July 2016, from http://www.huffington post.com/maria-rodale/food-addiction-is-real_b_3950373.html

136List of Largest Internet Companies. (2016). Wikipedia. Retrieved 15 July, 2016, from https://en.wikipedia.org/wiki/List_of_larg est_Internet_companies

137      Transparency Market Research. (2015). Food Additives Market by Type (Flavors and Enhancers, Sweeteners, Enzymes, Colorants, Emulsifiers, Food Preservatives, Fat Replacers) and by Source (Natural and Artificial) — Global Industry Analysis, Size, Share, Growth, Trends, and Forecast 2015–2021. Retrieved 11 July, 2016, from http://www.transparencymarketresearch. com/food-additives.html

138      World Economic Forum. (c2016). Digital Transformation of Industries. Retrieved 11 July, 2016, from http://reports.weforum. org/digital-transformation-of-industries/finding-the-true-north-of-value-to-industry-and-society

139      Cornish, D. (2016, 12 April). Korea’s Internet Addicts. [Weblog]. Retrieved 11 July 2016, from http://www.sbs.com.au/ news/dateline/story/koreas-internet-addicts

140      Taleb, N. (c2016). Quote by Nassim Nicholas Taleb: “The difference between technology and slavery”. Retrieved 11 July, 2016, from https://www.goodreads.com/quotes/610828-the-diff erence-between-technology-and-slavery-is-thatslaves-are

141      Grothaus, J. (2014, 22 January). How Infinite Information Will Warp and Change Human Relationships. [Weblog]. Retrieved 11 July 2016, from http://www.fastcolabs.com/3025299/how-infin ite-information-will-warp-and-change-human-relationships

142      Vanian, J. (2016). More Smartwatches Were Shipped Worldwide Than Swiss Watches. Retrieved August 03, 2016, from http://fortune.com/2016/02/19/more-smartwatches-shipped-worldwide-swiss-watches/

143      Katz, L. (2013, 08 May). TweetPee: Huggies Sends a Tweet When Baby’s Wet. [Weblog]. Retrieved 11 July 2016, from http://www.cnet.com/news/tweetpee-huggies-sends-a-tweet-when-babys-wet

144      Internet Live Stats. (2016). Twitter Usage Statistics. Retrieved 11 July, 2016, from http://www.internetlivestats.com/twitter-statistics

145      Brouwer, B. (2015, 26 July). YouTube Now Gets over 400 Hours of Content Uploaded Every Minute. [Weblog]. Retrieved 11 July 2016, from http://www.tubefilter.com/2015/07/26/youtube-400-hours-content-every-minute

146      Thornhill, T. (2012, 02 March). Google Privacy Policy: “Search Giant Will Know More About You Than Your Partner”. [Weblog]. Retrieved 11 July 2016, from http://www.dailymail.co.uk/sciencetech/article- 2091508/Google-privacy-policy-Search-giant-know-partner.html

147      Carr, N. (2011). The Shallows: What the Internet Is Doing to Our Brains: W W Norton.

148      Carr, N. (2011). The Shallows: What the Internet Is Doing to Our Brains: W W Norton.

149      Leonhard, G. (2010, 04 February). Attention Is the New Currency (and Data Is the New Oil). [Weblog]. Retrieved 11 July 2016, from http://www.futuristgerd.com/2010/02/04/attention-is-the-new-currency-and-data-is-thenew-oil

150      Goodson, S. (2012, 05 March). If You’re Not Paying for It, You Become the Product. [Weblog]. Retrieved 15 July 2016, from http://www.forbes.com/sites/marketshare/2012/03/05/if-youre-not-paying-for-it-you-become-the-product

151      Cisco. (c2016). VNI Complete Forecast. Retrieved 11 July, 2016, from www.cisco.com/c/m/en_us/solutions/service-provider/vni-complete-forecast/infographic.html

152      Leonhard, G. (2013, 27 June). The Coming Data Wars, the Rise of Digital Totalitarianism and Why Internet Users Need to Take a Stand — NOW. [Weblog]. Retrieved 11 July 2016, from http://www.futuristgerd.com/2013/06/27/the-coming-data-wars-the-threat-of-digital-totalitarism-andwhy-internet-users-need-to-take-a- stand-now

153      Quote Investigator. (2011, 13 May). Everything Should Be Made as Simple as Possible, But Not Simpler. [Weblog]. Retrieved 11 July 2016, from http://quoteinvestigator.com/2011/05/13/ einstein-simple

154      Asilomar Conference on Recombinant DNA. (n.d.). Retrieved August 03, 2016, from https://en.wikipedia.org/wiki/Asilomar_ Conference_on_Recombinant_DNA

155      Overbye, D. (2008). Asking a Judge to Save the World, and Maybe a Whole Lot More. Retrieved August 03, 2016, from http://www.nytimes.com/2008/03/29/science/29collider.html?_r=0

156      Campus Compact. (c2015). Wingspread Declaration on the Civic Responsibilities of Research Universities. Retrieved 10 July, 2016, from http://compact.org/wingspread-declaration-on-the-civic-responsibilities-of-research-universities

157      United Nations Environment Programme. (c2003). Rio Declaration on Environment and Development. Retrieved 10 July, 2016, from http://www.unep.org/documents.multilingual/ default.asp?documentid=78

158      Proactionary Principle. (2016). Wikipedia. Retrieved 10 July, 2016, from https://en.wikipedia.org/wiki/Proactionary_principle

159      Fuller, S. (2013). The Proactionary Imperative — Warwick University. Retrieved 10 July, 2016, from https://www.youtube. com/watch?v=A6J8y6K178c

160      Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books/St Martin’s Press.

161      More, M. (2005). The Proactionary Principle. Retrieved 10 July, 2016, from http://www.maxmore.com/proactionary.html

162      Happiness. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Happiness

163      Eudaimonia. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Eudaimonia

164      Gross National Happiness. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Gross_National_ Happiness

165      Genuine Progress Indicator. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/Genuine_progress_ indicator

166      JFKLibrary.org. (1968). Robert F Kennedy Speeches — Remarks at the University of Kansas, March 18, 1968. Retrieved 3 July, 2016, from http://www.jfklibrary.org/Research/Research-Aids/Ready-Reference/RFK-Speeches/Remarks-of-Robert-F-Kennedy-at-the-University-of-Kansas-March-18-1968.aspx

167      Seligman, M. (2012). Flourish: Atria Books.

168      Seligman, M. (2012). Flourish: Atria Books.

169      Lama, D. (2016). An Appeal by the Dalai Lama to the World: Ethics Are More Important Than Religion: Benevento.

170      Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne Books/St Martin’s Press.

171      Weissmann, J. (2015, 14 April). This Study on Happiness Convinced a CEO to Pay All of His Employees at Least $70,000 a Year. [Weblog]. Retrieved 15 July 2016, from http://www.slate.com/blogs/moneybox/2015/04/14/money_and_happiness_when_does_an_extra_dollar_stop_making_us_more_content.html

172      Hamblin, J. (2014, 7 October). Buy Experiences, Not Things. [Weblog]. Retrieved 15 July 2016, from http://www.theatlantic. com/business/archive/2014/10/buy-experiences/381132

173      Leu, J. (2015, 24 April). One Word Could Hold the Key to Health and Happiness. [Weblog]. Retrieved 3 July 2016, from http://www.huffingtonpost.com/hopelab/one-word-holds-the-key-to_b_7070638.html

174      J Robert Oppenheimer. (2016). Wikipedia. Retrieved 3 July, 2016, from https://en.wikipedia.org/wiki/J._Robert_Oppenhei mer

175      Diamandis, P. (2015, June 21). Data Mining Your Body. Retrieved June 3, 2016, from https://www.linkedin.com/pulse/ data-mining-your-body-peter-diamandis

176      Kurzweil, R. (c2016). Quote by Ray Kurzweil: “Death is a great tragedy…a profound loss…I don’”. Retrieved 3 July, 2016, from http://www.goodreads.com/quotes/410498-death-is-a-great-tragedy-a-profound-loss-i-don-t-accept-it-i

177      Paz, O. (1973). Alternating Current: Arcade Publishing.

178      Rushkoff, D. (2011). Program or Be Programmed: Ten Commands for a Digital Age: Soft Skull Press.

179      Piore, A. (2015, 17 September). What Technology Can’t Change About Happiness. [Weblog]. Retrieved 3 July 2016, from http://nautil.us/issue/28/2050/what-technology-cant-change-about-happiness

180      Frankl, V. (1964). Man’s Search for Meaning: Better Yourself Books.

181      Dashevsky, E. (2015, 6 February). Our Exciting, Weird, and Scary Future: Q&A With Peter Diamandis. [Weblog]. Retrieved 3 July 2016, from http://www.pcmag.com/article2/0,2817, 2476315,00.asp

182      Maxmen, A. (2015, August). Easy DNA Editing Will Remake the World Buckle Up. [Weblog]. Retrieved 3 July 2016, from http://www.wired.com/2015/07/crispr-dna-editing-2

183      Parsons, J. (2016, 6 January). Sex Robots Could Be “Biggest Trend of 2016” as More Lonely Humans Seek Mechanical Companions. [Weblog]. Retrieved 3 July 2016, from http://www.mirror.co.uk/news/world-news/sex-robots-couldbiggest-trend-7127554

184      Knapton, S. (2014, 29 May). Watching Pornography Damages Men’s Brains. [Weblog]. Retrieved 15 July 2016, from http://www.telegraph.co.uk/science/2016/03/14/watching-pornography-damages-mens-brains

185      AMC Network Entertainment. (2016). HUMANS. Retrieved 29 June, 2016, from http://www.amc.com/shows/humans

186      After Moore’s law | Technology Quarterly. (2016). Retrieved August 03, 2016, from http://www.economist.com/technology-quarterly/2016-03-12/aftermoores-law

187      Dictionary.com. (c2016). Ethos. Retrieved 13 July, 2016, from http://www.dictionary.com/browse/ethos

188      Brien, S. (c2016). Computers, the Internet, and the Abdication of Consciousness — an Interview with Stephen Talbott. Retrieved 13 July, 2016, from http://natureinstitute.org/txt/st/jung.htm

189      Ethics. (2016). Wikipedia. Retrieved 13 July, 2016, from https://en.wikipedia.org/wiki/Ethics

190      Machine Ethics. (2016). Wikipedia. Retrieved 13 July, 2016, from https://en.wikipedia.org/wiki/Machine_ethics

191      CB Insights. (2016, 20 June). Artificial Intelligence Explodes: New Deal Activity Record for AI Startups. [Weblog]. Retrieved 15 July 2016, from https://www.cbinsights.com/blog/artificial-intelligence-funding-trends

192      Metz, C. (2016, 27 January). In Major AI Breakthrough, Google System Secretly Beats Top Player at the Ancient Game of Go. [Weblog]. Retrieved 10 July 2016, from http://www.wired.com/ 2016/01/in-a-huge-breakthrough-googles-ai-beats-a-top-player-at-the-game-of-go

193      Waldrop, M. (1987, Spring). A Question of Responsibility. [Weblog]. Retrieved 13 July 2016, from http://www.aaai.org/ojs/ index.php/aimagazine/article/view/572

194      Dvorsky, G. (2013, 07 February). Dalai Lama Says We Need a “Global System of Secular Ethics”. [Weblog]. Retrieved 13 July 2016, from http://io9.gizmodo.com/5982499/dalai-lama-says-we-need-a-global-system-of-secularethics

195      Cherry, M. (1999). God, Science, and Delusion: A Chat With Arthur C Clarke. Retrieved 13 July, 2016, from http://www. arthurcclarke.net/?interview=4

196      United Nations Special Rapporteur. (2016). Wikipedia. Retrieved 13 July, 2016, from https://en.wikipedia.org/wiki/ United_Nations_Special_Rapporteur

197      Markoff, J. (2015, August). The Transhuman Condition. [Weblog]. Retrieved 13 July 2016, from https://harpers.org/ archive/2015/08/the-transhuman-condition

198      Burton-Hill, C. (2016, 16 February). The Superhero of Artificial Intelligence: Can This Genius Keep It in Check? [Weblog]. Retrieved 13 July 2016, from https://www.theguardian.com/ technology/2016/feb/16/demis-hassabis-artificial-intelligence-deepmind-alphago

199      Pietrangelo, A. (2015, 17 November). Cesarean Rates Are Finally Starting to Drop in the United States. [Weblog]. Retrieved 13 July 2016, from http://www.healthline.com/health-news/cesarean-rates-are-finally-starting-to-dropin-the-united-states-111715

200      Terminator Genisys [Motion picture]. (2015). S. l.: Paramount Pictures.

201      Josefsson, D. (c1995). An Interview with William Gibson (by Dan Josefsson). Retrieved 3 July, 2016, from http://josefsson. net/gibson

202      Rushkoff, D. (c2016). Douglas Rushkoff : Official Site. Retrieved 13 July, 2016, from http://www.rushkoff.com

titlepage.xhtml

Notes

[←1]

Brexit

[←2]

Nowist

[←3]

Combinatory

[←4]

The Internet of Inhuman Things

[←5]

Androrithms

[←6]

Mobile

[←7]

Wearable

[←8]

Implantable

[←9]

Hot-wired

[←10]

Digital obesity

[←11]

Proaction

[←12]

Combinatory

[←13]

Transhumanism

[←14]

Exponential

[←15]

Exponential change

[←16]

Moore’s Law

[←17]

Deep Learning

[←18]

Electric Vehicle

[←19]

Cloud

[←20]

Secure cloud

[←21]

Anonymized

[←22]

Combinational innovation

[←23]

The Internet of Things

[←24]

Mobility

[←25]

Vernor Vinge

[←26]

HellVen

[←27]

Nirvana

[←28]

Star Trek

[←29]

Non-augmented humans

[←30]

Deskilled

[←31]

Dehumanized

[←32]

Intelligent clouds

[←33]

Being me

[←34]

Surrogates

[←35]

Bruce Willis

[←36]

Humans

[←37]

Dystopian

[←38]

Recursive

[←39]

Combinatorial

[←40]

Recursive

[←41]

Nick Bostrom

[←42]

Super-intelligence

[←43]

Surveillance-by-default

[←44]

Eliezer Yudkowsky

[←45]

Deep learning

[←46]

Ray Kurzweil

[←47]

Singularity

[←48]

Neocortex

[←49]

Implants

[←50]

Brain-computer interfaces

[←51]

nanobots

[←52]

Androrithms

[←53]

Blockchain

[←54]

Peter Diamandis

[←55]

Human Longevity Inc.

[←56]

Transhumanist

[←57]

Exponential game changers

[←58]

Superhuman

[←59]

Zoltan Istvan

[←60]

Jesse I. Bailey

[←61]

The Transhumanist Wager

[←62]

Heidegger

[←63]

Being-toward-death

[←64]

They-Self

[←65]

Luddism

(لادیسم: عقیده‌ای مبنی بر این که سازوکار صنعتی به بازار کار صدمه می‌زند و اشتغال را پایین می‌آورد و در اوایل قرن نوزدهم رایج بود.)

[←66]

Reductionist

[←67]

Exponential humanism

[←68]

Maslow

[←69]

Wetware

[←70]

Ectogenesis

[←71]

Therapist

[←72]

William Gibson

[←73]

Panopticon

[←74]

By default

[←75]

Like

[←76]

Meta-data

[←77]

Foreign Intelligence Surveillance

[←78]

Cloud-based

[←79]

Bots

[←80]

J. Robert Oppenheimer

[←81]

James Barrat

[←82]

Tool-intent

[←83]

Herbert Marshall McLuhan

[←84]

Androrithms

[←85]

Creativity/compassion, originality, reciprocity/ responsibility and empathy

[←86]

Wormholes

[←87]

Wetware

[←88]

Brain-computer interfaces

[←89]

Interfaces

[←90]

Visual technologies

[←91]

Wired

[←92]

Guardian

[←93]

Demis Hassabis

[←94]

Meta-Solution

[←95]

Jaron Lanier

[←96]

Gadget

[←97]

AI-in-The-Cloud

[←98]

Cloud Operating System

[←99]

Stewart Brand

[←100]

Technostress

[←101]

Sir Paul McCartney

[←102]

Gig economy

[←103]

Marc Andreessen

[←104]

Key Performance Indicators

[←105]

Lead Conversion ratios

[←106]

Key Human Indicators

[←107]

Computing

[←108]

implants

[←109]

Gartner

[←110]

Sync me

[←111]

Philip K. Dick

[←112]

Cisco

[←113]

Gesture

[←114]

Datafication

[←115]

Step-counting devices

[←116]

Interface

[←117]

Human 1. eyes

[←118]

Like

[←119]

Dave Eggers

[←120]

Peer-to-Peer

[←121]

Gig economy

[←122]

Digital transformation

[←123]

Recursively

مثلاً دستور open recursively در نرم افزار 3DMax به شما این امکان را می‌دهد یک گروه را به طور موقت باز کرده و به اشیاء درون گروه دسترسی پیدا کنید و آن‌ها را تغییر دهید و مجدداً گروه را ببندید.

[←124]

Hyper-efficiency

[←125]

Desktop

[←126]

Server Virtualization

[←127]

Workstation

[←128]

Terminal

[←129]

Routers

[←130]

Software-defined networking

[←131]

Cloud biology

[←132]

Cyborgism

[←133]

Intelligent digital assistants

[←134]

Brave new world

[←135]

Robotization

[←136]

Luddites

[←137]

Mobile Interface designers

[←138]

Oxford Martin School

[←139]

Maslow’s hierarchy of needs

[←140]

Stuart Armstrong

[←141]

Nodes

[←142]

Smart bot-in-the-sky

[←143]

Stephen Talbott

[←144]

Irrelevant status updates

[←145]

Team Human

[←146]

Team Technology

[←147]

Data miners

[←148]

Mar Andreessen

[←149]

Mashable

[←150]

Newsbots

[←151]

Internet filter bubble

[←152]

Confirmation bias

(این خطا از خطاهای منطقی است که در طی آن فرد تنها به اطلاعاتی روی خوش نشان می‌دهد که باورهای قبلی‌اش را تایید کرده باشند و نیازی به تغییر اطلاعات پیشین خود نداشته باشد).

[←153]

NewsBot

[←154]

Media AI

[←155]

Over-the-top transmission

[←156]

Kevin Kelly

[←157]

Clyde DeSouza

[←158]

Wormhole

[←159]

Star Trek

[←160]

Daniel Kahneman

[←161]

Sherry Turkle

[←162]

James Barrat

[←163]

Auto-follow

[←164]

H.G. Wells

[←165]

Morlock

[←166]

Eloi

[←167]

Meatware (با زنده‌افزار، عنصر انسانی در درون یک سامانة رایانه‌ای)

[←168]

The Internet Of Inhuman Things

[←169]

Cisco

[←170]

Industrial Internet

[←171]

Bruc Schneier

[←172]

Brain-in-the-cloud

[←173]

The world-sized web

[←174]

Circular economy

[←175]

Sophocles (نمایشنامه‌نویس یونانی)

[←176]

Digital obesity

[←177]

Asilomar

[←178]

Cognitive Computing

[←179]

Homo sapiens

[←180]

Big dataland

[←181]

Arthur C. Clarke

[←182]

Default response

[←183]

Supercomputing

[←184]

Luddite-types

[←185]

Offliners

[←186]

Vannevar Bush

[←187]

Doug Long

[←188]

Ronald Clark

[←189]

Geo-engineering

[←190]

Chimeras

[←191]

Cyborgs

[←192]

Self-determine

[←193]

James Barrat

[←194]

Ray Kurzweil

[←195]

Singularity

[←196]

Voltaire (نویسندۀ فرانسوی)

[←197]

Global-brain-in-the-sky

[←198]

Digiphrenia

[←199]

Douglas Rushkoff

[←200]

Computing interface

[←201]

Abdication

[←202]

Mainframe

[←203]

Marshall MacLuhan

[←204]

Brad Jones

[←205]

Deep Learning

[←206]

Pre-cognitive

[←207]

Gartner

[←208]

My personal cloud robot

[←209]

Exponential Surveillance

[←210]

Bot-hacking

[←211]

George Orwell

[←212]

egos

[←213]

Digiphrenia

[←214]

Douglas Rushkoff

[←215]

Telepresence

[←216]

Group Calendar

[←217]

Cloud-intelligence

[←218]

Gartner

[←219]

Charlie Sorrel

[←220]

Phantom-vibration syndrome

[←221]

Quantified self

[←222]

Human augmentations

[←223]

Nature Institute

[←224]

Stephen Talbott

[←225]

Rudolf Steiner

[←226]

McKinsey

[←227]

Super-nodes

[←228]

Social-local mobile

[←229]

Friend updates

[←230]

Nassim Nicholas Taleb

[←231]

Nicholas Carr

[←232]

Scott Gibson

[←233]

Nirvana

[←234]

Faustian Bargain

(صفت فاوستی اغلب توصیف موقعیتی است که در آن فردی جاه طلب به منظور رسیدن به قدرت و موقعیت، دست از اخلاقیات می‌کشد.)

[←235]

Zettabytes

[←236]

Geek (در نمایش و کارناوال، بازیگری که نقش‌های زننده و مشمئز کننده ایفا می‌کند)

[←237]

Snowden

[←238]

Quantified self

[←239]

Singularity

[←240]

Precaution

[←241]

Proaction

[←242]

Asilomar

[←243]

Large Hadron Collider

[←244]

Black hole

[←245]

Wingspread

[←246]

Rio

[←247]

Max More

[←248]

Steve Fuller

[←249]

James Barrat

[←250]

Pleasure trap

[←251]

Eudaimonic happiness

[←252]

Gross Domestic Product

[←253]

Gross National Product

[←254]

Gross National Happiness

[←255]

Genuine Progress Indicator

[←256]

Martin Seligman

[←257]

Hyper-efficient

[←258]

Positive Psychology

[←259]

Janxin Leu

[←260]

Prompts

[←261]

Notifications

[←262]

Cognitive

[←263]

Neocortex

[←264]

Global-brain-in-the-cloud

[←265]

Efficiency

[←266]

Hyperconnectivity

[←267]

Peter Diamandis

[←268]

Exponential abundance

[←269]

Craig Venter

[←270]

Octavio Paz

[←271]

Douglas Rushkoff

[←272]

Mood bots

[←273]

Nootropics

[←274]

Neural implants

[←275]

Adam Piore

[←276]

James J. Hughes

[←277]

Viktor Frankl

[←278]

Logo-Therapy

[←279]

Amy Maxman

[←280]

The Genesis Engine

[←281]

Creativity and Compassion, Originality, Reciprocity and Responsibility, and Empathy

[←282]

Jimmy Wales

[←283]

Larry Churchill

[←284]

Isaac Asimov

[←285]

Cognitive Computing

[←286]

Mitchell Waldrop

[←287]

Watson

[←288]

Global Digital Ethics Council

[←289]

Creativity, Originality, Reciprocity and Empathy

[←290]

John Markoff

[←291]

Unaugmented state

[←292]

Wetware

[←293]

Hyperconnectivity

[←294]

Default

[←295]

Groupthink

[←296]

Exogenesis

[←297]

Bot-fueled hyper-efficiency

[←298]

Hyperconnectivity

[←299]

Hyper-manipulation

[←300]

Mobile Cloud

[←301]

Exoskeletons

[←302]

Cloud biology

[←303]

The internet of everything

[←304]

Neocortex

[←305]

Add-ons

[←306]

Panopticon effect

[←307]

Implants

[←308]

Basic Income Guarantee

[←309]

Personalized Product

[←310]

Cloud biology

[←311]

J. Robert Oppenheimer

[←312]

Team Human

[←313]

Exponentiality

[←314]

William Gibson

[←315]

Neural interfaces

[←316]

Wormhole

[←317]

Self-serving

[←318]

agumented

[←319]

Team Human

[←320]

Douglas Rushkoff