هوش مصنوعی یک سیستم کامپیوتری است که میتواند انواع فرآیندهای مرتبط با ذهن انسان را انجام دهد. بسیاری از فرآیندهای ذهنی ما میتوانند توسط هوش مصنوعی تقلید شوند. برنامههایی وجود دارند که میتوانند ماشینها را برانند، چهرهها را تشخیص دهند یا موسیقی بسازند. بسیاری از ما دستگاهی را در جیب خود نگه میداریم که میتواند به گفتار پاسخ دهد، مسائل ریاضی را حل کند و ما را در شطرنج شکست دهد. اما آیا ذهن انسان کاری میتواند انجام دهد که یک هوشمصنوعی هرگز انجام نمیدهد؟ یک احتمال این است که هوشمصنوعی اطلاعات را به روشهای پیچیدهتر پردازش کند اما هرگز آن اطلاعات را آگاهانه پردازش نخواهد کرد. از این گذشته، پردازش رنگ چراغ راهنمایی یک چیز است، اما تجربه قرمزی آن چیز دیگری است. جمع کردن صورتحساب رستوران یک چیز است اما اینکه از محاسبات خود آگاه باشید چیز دیگری است. و برنده شدن در یک بازی شطرنج یک چیز است اما احساس هیجان پیروزی کاملاً چیز دیگری است. شاید توانایی ذهن انسان برای ایجاد تجربیات ذهنی، تنها توانایی است که یک سیستم کامپیوتری هرگز نمیتواند از آن تقلید کند. هوشمصنوعی ممکن است در همه جا وجود داشته باشد، اما آگاهی مصنوعی دور از دسترس است.
از این محدودیت پیشنهادی در مورد قدرت هوشمصنوعی چه باید بکنیم؟ متفکرانی مانند ند بلاک استدلال کردهاند که آگاهی مبتنی بر زیستشناسی است و سیستمهای مصنوعی فقط نوع اشتباهی برای داشتن تجربیات ذهنی هستند. دیگران، مانند هنری شولین خود کمبریج، استدلال کردهاند که مغزهای بیولوژیکی برای آگاهی لازم نیست و ما تا پایان قرن هوشمصنوعی هوشیار را مهندسی خواهیم کرد. من استدلال میکنم که هر دو طرف اشتباه میکنند. به طور خاص، من فکر میکنم که هر دو طرف به اشتباه تصور میکنند که ما به اندازه کافی در مورد هوشیاری میدانیم تا بتوانیم در مورد چشماندازهای هوشمصنوعی آگاهانه قضاوت کنیم.
هوشمصنوعی ممکن است در همه جا وجود داشته باشد، اما آگاهی مصنوعی دور از دسترس است.
آگاهی انسان واقعاً یک چیز مرموز است. علوم اعصاب شناختی میتواند در مورد آنچه در ذهن شما در حین خواندن این مقاله میگذرد چیزهای زیادی به ما بگوید - چگونه کلمات موجود در صفحه را درک میکنید، چگونه معنی جملات را درک میکنید و چگونه ایدههای بیان شده را ارزیابی میکنید. اما چیزی که نمیتواند به ما بگوید این است که چگونه همه اینها با هم ترکیب میشوند تا تجربه آگاهانه فعلی شما را تشکیل دهند. ما به تدریج به همبستگیهای عصبی آگاهی - الگوهای عصبی که هنگام پردازش آگاهانه اطلاعات رخ میدهد – میپردازیم. اما هیچ چیز در مورد این الگوهای عصبی توضیح نمیدهد که چه چیزی آنها را آگاه میکند در حالی که سایر فرآیندهای عصبی به طور ناخودآگاه رخ میدهند. و اگر ندانیم چه چیزی ما را هوشیار میکند، نمیدانیم که آیا هوشمصنوعی ممکن است آنچه را که لازم است داشته باشد یا خیر. شاید چیزی که ما را هوشیار میکند، روشی است که مغز ما اطلاعات را برای تشکیل یک مدل غنی از جهان یکپارچه میکند. اگر چنین باشد، یک هوشمصنوعی ممکن است با ادغام اطلاعات به همان روش به آگاهی دست یابد. یا شاید ما به دلیل جزئیات نوروبیولوژی خود آگاه هستیم. اگر اینطور باشد، هیچ مقدار برنامهنویسی هوشمصنوعی را آگاه نمیکند. مسئله این است که ما نمیدانیم کدام یک از این احتمالات درست است.
هنگامی که ما محدودیتهای درک فعلی خود را تشخیص میدهیم، به نظر میرسد که باید نسبت به امکان آگاهی مصنوعی غافل باشیم. ما نمیدانیم که آیا هوشمصنوعی میتواند تجربیاتی آگاهانه داشته باشد یا خیر، و تا زمانی که مسئله آگاهی را برطرف نکنیم، هرگز نخواهیم داشت. اما بخش دشوار اینجاست: وقتی شروع به بررسی پیامدهای اخلاقی آگاهی مصنوعی میکنیم، آگنوستیک دیگر گزینه مناسبی به نظر نمیرسد. آیا هوشمصنوعی سزاوار توجه اخلاقی ما است؟ آیا ما وظیفه داریم که رفاه سیستمهای رایانهای را ارتقاء دهیم و از آنها در برابر رنج محافظت کنیم؟ آیا روباتها باید حقوقی داشته باشند؟ این سوالات با موضوع هوشیاری مصنوعی گره خورده است. اگر یک هوشمصنوعی بتواند چیزهایی را تجربه کند، به طور قابل قبولی باید در رادار اخلاقی ما باشد.
برعکس، اگر هوشمصنوعی فاقد هرگونه آگاهی ذهنی باشد، احتمالاً باید با آن مانند هر ابزار دیگری رفتار کنیم. اما اگر ندانیم هوشمصنوعی هوشیار است یا نه، چه کنیم؟