هاوکینگ معترف است که روبات‌ها ودیگر ماشین‌های هوشمند فایده‌های زیادی را برای بشریت به ارمغان آورده‌اند، ولی او فراموش نمی‌کند که به ما یادآور شود که این ممکن است به آخرین اتفاق تاریخ ما هم تبدیل شود.
استیفن هاوکینگ، این نابغه‌ی فیزیک، با اشاره به فیلم "برتری" یا Transcendence با بازی جانی دپ یادآور می‌شود در حالی که ماشین‌های هوشمند بزرگ‌ترین اتفاق تاریخ بشریت هستند می‌توانند به آخرین آن هم تبدیل شوند.
نویسنده‌ی مقاله‌ی سی‌نت با اشاره به این جمله میگوید: « گوگل گرامی، شما که هوش مصنوعی را به خوبی می‌شناسید و از توانایی‌های خارق العاده‌ی آن به خوبی استفاده کرده و امیدهای شگفت انگیزی را برای آینده‌ی دنیای‌مان آفریده‌اید، آیا هرگز به این اندیشیده‌اید که چنین آینده‌ی هرگز در کار نباشد؟»
او ادامه می‌دهد: «این پرسش دیر زمانی بود که ذهنم را به خود مشغول کرده بود و حالا که استیون هاوکینگ در روزنامه‌ی ایندیپندنت مقاله‌ای منتشر کرده و از ترس خود از نسل تازه‌ی ماشین‌های هوشمند گفته، من هم تصور میکنم که باید بیشتر در مورد این موضوع بیاندیشم.» او از فیلم تازه‌ی جانی دپ برتری میگوید و ترس خود را این چنین بیان می‌کند: «هوش مصنوعی و ماشین هوشمند تنها چیزی مربوط به آینده نیست؛ این پدیده اکنون شرکت‌هایی مانند گوگل و فیسبوک را در برمی‌گیرد. در کوتاه مدت، نگرانی‌ها می‌تواند در این خلاصه شود که چه کسی ماشین‌ها را کنترل می‌کند اما ترس بزرگ در درازمدت خفته است وآن اینکه آیا آنها اساسا قابل کنترل هستند؟»
شاید برای ما که در فضای ایران بزرگ شده‌ایم و همیشه نگران کنترل دستگاه‌های مختلف امنیتی و اطلاعاتی بوده‌ایم، نگرانی اول خیلی مهم‌تر به نظر آید ولی اگر جهانی و درازمدت‌تر فکر کنیم، شاید نگرانی درازمدت نیز خالی از ارزش نباشد. ما نیز باید به آینده‌ای بیاندیشیم که ماشین‌های هوشمند دیگر به دستورات بشر توجه نکرده و احتمالا انسان را زیر سلطه‌ی خود می‌گیرند.
به نظر می‌رسد که هاوکینگ اصلا به متخصصان هوش مصنوعی اعتمادی ندارد جایی که می‌گویید: «خوب حالا که با دنیایی از محاسبات بی‌پایان تهدیدها و فرصت‌ها روبه‌رو هستیم، آیا می‌توانیم به متخصصان خود اعتماد کامل داشته و فکر کنیم که آنها هر کاری که از دست‌شان ساخته باشد خواهند کرد تا بهترین نتیجه به دست آید؟ اگر این چنین اندیشیده‌اید بهتر است که تجدید نظر کنید. در نظر بگیرید که موجودات فضایی پیامی را برای ما ارسال کنند و بگویند که ما در چند دهه‌ی آینده به زمین شما آمده و آن را تسخیر می‌کنیم؛ آیا ما فقط به این جواب بسنده خواهیم کرد که هر وقت رسیدید لطفا ما را مطلع کنید و ما چشم به راهیم؟ احتمالا نه. خوب این وضعیتی است که کم و بیش در مورد ماشین‌های هوشمند هم اتفاق خواهد افتاد.»
در واقع بیشتر اوقات واگذاری تمام مسوولیت‌ها به مهندسین ما را از نگرانی رهانیده است، اما نکته این است که نتیجه‌ی نهایی این بی‌خیالی ممکن است به بهای انسانیت تمام شود. یک مثال کوچک می‌تواند اتومبیل‌هایی باشند که به طور خودکار قادر به رانندگی کردن هستند. آیا طراحان این اتومبیل‌ها واقعا به این نکته هم دقت می‌کنند که مردم رانندگی کردن را دوست دارند؟
هاوکینگ معترف است که روبات‌ها ودیگر ماشین‌های هوشمند فایده‌های زیادی را برای بشریت به ارمغان آورده‌اند و میافزاید که این موفقیت‌ها می‌تواند افق‌های بیکرانی را درنوردیده و به بزرگ‌ترین رویداد تاریخ بشریت بیانجامد ولی او فراموش نمی‌کند که به ما یادآور شود که این ممکن است به آخرین اتفاق تاریخ ما هم تبدیل شود.
این نابغه‌ی قرن، غم‌گینانه متذکر می‌شود که تحقیقات علمی بسیار اندکی در مورد هزینه و فایده‌های ممکن هوش مصنوعی شده است و با توجه به پویایی شگفت انگیز این حوزه، این نوآوری می‌تواند به بهترین یا بدترین تحول تاریخ هستی بینجامد. درست خواندید، بله، هر دو گزینه بسیار محتمل است. این فیزیک‌دان در گذشته نیز تلاش کرده بود که ما را از سرابی که داستان‌های علمی تخیلی برای ما ساخته بودند، رهایی دهد و چشمان‌مان را بر روی این واقعیت تلخ بگشایید که انتهایی تمام نوآوری‌های علمی، خوشبختی و سعادت بشری نیست و گاهی درست نقطه مخالف این وضعیت ممکن است اتفاق بیفتد. مثال روشن آن هم بمب اتمی است.
هاوکینگ زمانی گفته بود که موجودات غیر زمینی ممکن است ما را دوست نداشته باشند و حتا از ما متنفر باشند. شاید موقعیت تا این حد نگران‌کننده نباشد ولی آیا ما براستی دوست داشتنی هستیم؟
بشریت این استعداد را دارد که گرفتار عشق به خود گردد و به ستایش هوش و توانایی اندیشیدن خود بپردازد، تا جایی که هرگز به گزینه‌های تاسف بار ممکن نیندیشد. و این همان خطر بزرگی است که هاوکینگ از آن سخن میگوید.
