حذر عالم الفيزياء البريطاني الشهير ستيفن هوكينغ الذي اشتهر بأفكاره ونظرياته في فيزياء الكم والثقوب السوداء ونظرية الانفجار الكبير من أن الأشكال البدائية للذكاء الصناعي قد أثبتت فائدتها، لكن الإفراط في تطوير هذا المجال قد يعني نهاية الجنس البشري.
ويجادل هوكينغ بأن هناك أربعة سيناريوهات يمكن بها للتكنولوجيا أن تدمر الإنسان هي:
– الذكاء الصناعي والتحسينات السريعة التي تدخل عليه، فيصير ذا قدرة كلية توقع العالم في الفوضى.
– حدوث كارثة علمية تكون لها نتائج مدمرة للعالم.
– ما يعرف في المصطلح العلمي بالهلام الرمادي، وهو سيناريو افتراضي لنهاية العالم ينطوي على تكنولوجيا النانو الجزيئية تخرج فيها الروبوتات المتكاثرة ذاتيا عن السيطرة وتستهلك كل المادة الموجودة في الأرض بينما تبني المزيد من نفسها.
– تغير المناخ بمعنى أن مادية البشر وعدم اهتمامهم بالبيئة سيستمران في التأثير على المناخ إلى نقطة لا يمكننا فيها البقاء على قيد الحياة.