اگر یک ماشین از باهوش‌ترین انسان‌های روی زمین باهوش‌تر شود، چه اتفاقی می‌افتد؟

ممکن است اولین واکنشمان این باشد:

«خب، پس یک کامپیوتر خیلی باهوش داریم. چه اشکالی دارد؟» 🤔

اما بعضی از پژوهشگران هوش مصنوعی معتقدند این اتفاق می‌تواند یکی از خطرناک‌ترین اتفاقات تاریخ بشر باشد.

کتاب If Anyone Builds It, Everyone Dies نوشته‌ی Eliezer Yudkowsky و Nate Soares دقیقاً درباره همین نگرانی است. نویسندگان کتاب استدلال می‌کنند که اگر هوش مصنوعی واقعاً به سطحی از هوش برسد که از انسان‌ها در تقریباً همه زمینه‌های مهم جلو بزند، ممکن است دیگر نتوانیم آن را کنترل کنیم؛ و اگر این اتفاق با روش‌های امروزی رخ دهد، نتیجه می‌تواند انقراض انسان باشد.

اما چرا؟