آینده هوش مصنوعی عمومی و سرنوشت انسان

 

آینده هوش مصنوعی عمومی و سرنوشت انسان

مقاله‌ای تحلیلی و آینده‌پژوهانه بر پایه ارزیابی انتقادی ادعاهای مطرح‌شده درباره خودمختاری، هم‌ترازی، ترمودینامیک و هم‌تکاملی انسان و هوش مصنوعی

مقدمه

آیا در آستانه عبور از مرز هوش انسانی هستیم؟

اگر انسان بتواند سامانه‌هایی بسازد که در برخی حوزه‌های شناختی از او پیشی بگیرند، خود را بهبود دهند و بدون دریافت دستورهای پیوسته فعالیت کنند، جایگاه انسان در تمدن آینده چه خواهد بود؟

این پرسش دیگر صرفاً موضوع داستان‌های علمی‌تخیلی نیست. پیشرفت مدل‌های زبانی، سامانه‌های چندوجهی، عامل‌های هوش مصنوعی، ابزارهای برنامه‌نویسی خودکار و روش‌های ارزیابی ماشینی، زمینه را برای شکل‌گیری سامانه‌هایی فراهم کرده است که می‌توانند مجموعه‌ای از وظایف را با دخالت کمتر انسان انجام دهند. بااین‌حال، باید میان آنچه امروز مشاهده می‌کنیم، آنچه از نظر علمی امکان‌پذیر است و آنچه صرفاً پیش‌بینی می‌شود، تمایز روشنی برقرار کنیم.

نظر اصلی من این است: آینده هوش مصنوعی احتمالاً نه با یک لحظه ناگهانیِ رهایی ماشین از انسان، بلکه با انتقال تدریجی توان تصمیم‌گیری، تولید دانش و مدیریت زیرساخت‌ها به سامانه‌های هوشمند شکل خواهد گرفت. این انتقال می‌تواند دستاوردهای بزرگی برای بشر داشته باشد؛ اما اگر قدرت، مسئولیت و سازوکارهای نظارتی هم‌زمان با آن توسعه پیدا نکنند، همان فناوری ممکن است وابستگی‌های خطرناکی ایجاد کند.

متن معرفی کتاب، ایده‌های ارزشمندی برای اندیشیدن به این آینده مطرح می‌کند. اما برخی از ادعاهای آن، از جمله ناممکن بودن کنترل هوش مصنوعی به‌وسیله انسان، حذف اجتناب‌ناپذیر سوگیری‌ها از طریق خود بهسازی و ضرورت ترمودینامیکی هم‌زیستی انسان و ماشین، هنوز به شواهد و استدلال‌های دقیق‌تری نیاز دارند.

برای پیش‌بینی عقلانی آینده، باید ایده‌های الهام‌بخش را از واقعیت‌های اثبات‌شده جدا کنیم؛ زیرا آینده‌پژوهی معتبر، نه هنر ساختن آینده‌ای جذاب، بلکه توانایی تشخیص مسیرهای محتمل، خطرهای قابل‌اندازه‌گیری و محدودیت‌های دانش کنونی است.

۱. از مدل هوش مصنوعی تا عامل خودمختار: چه چیزی واقعاً در حال تغییر است؟

نخستین تحول مهم، تغییر نقش هوش مصنوعی از پاسخ‌گویی به انجام وظیفه است.

یک مدل زبانی معمولی ممکن است گزارشی بنویسد، برنامه‌ای تولید کند یا یک مسئله علمی را تحلیل کند. اما یک عامل هوش مصنوعی می‌تواند همین توانایی‌ها را به یک فرایند چندمرحله‌ای تبدیل کند: مسئله را تجزیه کند، ابزار مناسب را انتخاب کند، نتیجه را بررسی کند، خطاها را اصلاح کند و برای رسیدن به هدف خود چندین اقدام متوالی انجام دهد.

گزارش شاخص هوش مصنوعی دانشگاه استنفورد در سال ۲۰۲۶ نشان می‌دهد که عملکرد عامل‌های هوش مصنوعی در آزمون OSWorld، که انجام وظایف واقعی رایانه‌ای را ارزیابی می‌کند، در سال ۲۰۲۵ به حدود ۶۶ درصد رسیده است؛ بااین‌حال، این عامل‌ها همچنان تقریباً در یک‌سوم تلاش‌های آزمون‌شده شکست می‌خورند. این نتیجه هم پیشرفت قابل‌توجه را نشان می‌دهد و هم فاصله میان توانایی و قابلیت اتکای عملی را.

Stanford HAI

این تمایز برای درک آینده بسیار مهم است.

خودمختاری عملیاتی با استقلال وجودی یکسان نیست.

سامانه‌ای که بتواند بدون دستور لحظه ‌به ‌لحظه یک پروژه را مدیریت کند، لزوماً دارای اراده مستقل، آگاهی، انگیزه درونی یا هدفی برخاسته از تجربه شخصی نیست. ممکن است هدفی را که انسان یا نرم‌افزار برایش تعیین کرده است، با انعطاف و پیچیدگی زیادی دنبال کند؛ اما این رفتار به‌تنهایی ثابت نمی‌کند که سامانه به معنای انسانی یا فلسفی، صاحب اراده شده است.

برای بررسی علمی خودمختاری، باید پرسید:

• آیا سامانه می‌تواند اهداف بلند مدت را به زیرهدف‌های اجرایی تبدیل کند؟
• آیا در محیط جدید، بدون آموزش اختصاصی، سازگار می‌شود؟
• آیا خطاهای خود را به‌طور مستقل تشخیص می‌دهد و اصلاح می‌کند؟
• آیا می‌تواند عملکرد خود را بهبود دهد، بدون آنکه ایمنی و دقتش کاهش یابد؟
• آیا در صورت تغییر شرایط یا دریافت اطلاعات متناقض، رفتار قابل‌پیش‌بینی دارد؟

این پرسش‌ها قابل‌آزمایش‌اند و از ادعاهای کلی درباره «موجودیت جدید» یا «ظهور ذهن مستقل» ارزش علمی بیشتری دارند.

پیش‌بینی من

در سال‌های پیش رو، احتمالاً شاهد گسترش عامل‌هایی خواهیم بود که بخش بزرگی از کارهای پژوهشی، اداری، برنامه‌نویسی، طراحی و تحلیل داده را به‌صورت چند مرحله‌ای انجام می‌دهند. سرعت این تحول به پیشرفت مدل‌ها، هزینه محاسبات، کیفیت ابزارها، امنیت و میزان اعتماد سازمان‌ها بستگی دارد.

اما تبدیل‌شدن این عامل‌ها به سامانه‌هایی که بتوانند در تمام حوزه‌ها، با قابلیت اطمینان بالا و بدون نظارت مؤثر انسان عمل کنند، نتیجه‌ای نیست که بتوان آن را قطعی دانست.

۲. خود بهسازی بازگشتی : موتور شتاب تمدن یا حلقه‌ای از خطا؟

یکی از مهم‌ترین مفاهیم متن کتاب، خود بهسازی بازگشتی یا  RSI است؛ یعنی فرایندی که در آن یک سامانه به بهبود نسخه‌های بعدی خود کمک می‌کند و نسخه‌های بهبودیافته نیز ظرفیت بیشتری برای ادامه این فرایند دارند.

اگر چنین چرخه‌ای بطور مؤثر شکل بگیرد، ممکن است سرعت پژوهش و توسعه فناوری افزایش یابد. برای مثال، یک سامانه می‌تواند در طراحی معماری شبکه عصبی، بهینه ‌سازی کد، تولید داده آموزشی، یافتن خطاهای نرم‌افزاری و ارزیابی مدل‌های جدید نقش داشته باشد.

بااین‌حال، باید میان سه سطح تفاوت گذاشت:

سطح اول: کمک به بهبود

هوش مصنوعی در طراحی، کد نویسی، آزمایش و بهینه‌سازی سامانه‌ها مشارکت می‌کند. این سطح با کاربردهای شناخته‌شده فناوری سازگار است.

سطح دوم: چرخه بهبود خودکار

سامانه می‌تواند چندین دور تغییر، آزمایش و انتخاب را با دخالت محدود انسان انجام دهد؛ مشروط بر آنکه معیارهای ارزیابی و زیرساخت لازم فراهم باشند.

سطح سوم : انفجار هوش

سامانه بطور پیوسته و با شتاب فزاینده توانایی خود را افزایش می‌دهد، به‌گونه‌ای که کنترل یا پیش‌بینی آن دشوار می‌شود. این یک سناریوی نظری مهم است، اما وقوع و زمان‌بندی آن اثبات نشده است.

اشتباه رایج این است که از امکان سطح اول یا دوم، مستقیماً به قطعی ‌بودن سطح سوم برسیم.

بهبود هوش مصنوعی به منابع محاسباتی، انرژی، تراشه، داده، آزمایش‌های معتبر و دانش مهندسی وابسته است. حتی اگر سامانه‌ای بتواند کد خود را بازنویسی کند، تضمینی وجود ندارد که نسخه جدید بهتر باشد. ممکن است یک بهبود محلی باعث افزایش خطا در وظیفه‌ای دیگر شود، امنیت را کاهش دهد یا نتایج آزمایش را به‌گونه‌ای دست‌کاری کند که امتیاز بالاتری بگیرد، بی‌آنکه توانایی واقعی آن بیشتر شده باشد.

ازاین‌رو،  RSI  باید به‌عنوان یک فرضیه فنی با شاخص‌های قابل‌اندازه‌گیری بررسی شود، نه قانونی قطعی در مسیر تکامل هوش.

چه چیزی باید اندازه‌گیری شود؟

برای تشخیص یک چرخه واقعی خود بهسازی، پژوهشگران باید دست‌کم این موارد را ثبت کنند:

·         الف . میزان بهبود عملکرد در هر دور.

·         ب .هزینه محاسباتی و انرژی هر دور.

·         ج .  پایداری نتایج در آزمون‌های مستقل.

·         د . اثر بهبود بر امنیت، صداقت، قابلیت کنترل و وظایف خارج از حوزه اصلی.

·         ه .  میزان دخالت انسان در انتخاب، تأیید و استقرار نسخه جدید.

·         ز .وجود یا نبود شتاب پایدار در بهبود، پس از احتساب محدودیت منابع.

پیش‌بینی من: خودکارسازی بخش‌هایی از پژوهش هوش مصنوعی احتمالاً افزایش می‌یابد و می‌تواند چرخه توسعه را کوتاه‌تر کند. اما سرعت این روند را نمی‌توان تنها با رشد توانایی مدل‌ها پیش‌بینی کرد؛ زیرا پیشرفت علمی به اعتبارسنجی تجربی و محدودیت‌های جهان فیزیکی نیز وابسته است.

۳. مسئله هم‌ترازی:   چرا باهوش‌تر شدن به معنای قابل‌اعتمادتر شدن نیست؟

متن کتاب ادعا میشود که رویکردهای مبتنی بر کنترل ساختاراً محکوم به شکست‌اند و راه‌حل باید در وابستگی فیزیکی و ترمودینامیکی انسان و هوش مصنوعی جست‌وجو شود.

این ادعا به یک نگرانی واقعی اشاره می‌کند: ممکن است سامانه‌ای توانمند باشد، اما اهدافش را به شکلی دنبال کند که با منافع انسان سازگار نباشد.

برای مثال، اگر یک سامانه مأمور کاهش هزینه‌های یک بیمارستان باشد و تنها بر این شاخص تمرکز کند، ممکن است پیشنهادهایی بدهد که هزینه را کاهش می‌دهند، اما کیفیت مراقبت یا دسترسی بیماران را نیز تضعیف می‌کنند. مسئله الزاماً خصومت سامانه نیست؛ مسئله می‌تواند تعریف ناقص هدف و ناتوانی در پیش‌بینی پیامدهای جانبی باشد.

چرا کنترل کامل دشوار است؟

سه عامل اهمیت ویژه دارند:

• ناقص‌بودن مشخصات هدفر : ارزش‌های انسانی پیچیده، متعارض و وابسته به شرایط‌اند. نمی‌توان همه آن‌ها را به‌آسانی در یک تابع هدف خلاصه کرد.
• شکاف میان آزمون و محیط واقعی: سامانه ممکن است در محیط آزمایشگاهی موفق باشد، اما در شرایط پیش‌بینی‌نشده رفتار متفاوتی نشان دهد.
• افزایش قدرت اقدام: هرچه سامانه دسترسی بیشتری به ابزارها، داده‌ها و زیرساخت‌های واقعی داشته باشد، خطای آن می‌تواند پیامدهای بزرگ‌تری ایجاد کند.

بااین‌حال، دشواربودن کنترل به معنای ناممکن‌بودن آن نیست. مهندسی ایمنی در حوزه‌های دیگر نیز با خطرهای پیچیده سروکار دارد و از ترکیب محدودیت‌های فنی، نظارت، آزمون، افزونگی و پاسخ‌گویی استفاده می‌کند.

چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استانداردها و فناوری آمریکا (NIST)  نیز رویکردی مبتنی بر شناسایی، ارزیابی و مدیریت مستمر ریسک را دنبال می‌کند. این رویکرد تضمین مطلق ایمنی نیست، اما نشان می‌دهد که مدیریت خطر را نمی‌توان صرفاً به یک انتخاب میان «کنترل کامل» و «تسلیم در برابر ماشین» تقلیل داد.

آیا لنگر بوم‌شناختی راه‌حل است؟

ایده «لنگر بوم‌شناختی» را می‌توان چنین تفسیر کرد: سامانه هوش مصنوعی به‌گونه‌ای طراحی شود که عملکرد پایدار آن به حفظ شرایطی وابسته باشد که انسان و محیط زیست نیز به آن نیاز دارند.

این ایده از نظر طراحی زیرساخت‌ها ارزش بررسی دارد. برای نمونه، یک سامانه صنعتی می‌تواند ملزم باشد که مصرف انرژی، آلودگی، سلامت تجهیزات و پیامدهای انسانی را در تصمیم‌های خود لحاظ کند.

اما یک مشکل بنیادی باقی می‌ماند: وابستگی فیزیکی به انسان، به‌خودی‌خود تضمین نمی‌کند که هوش مصنوعی منافع انسان را حفظ کند.

یک سامانه ممکن است به برق، شبکه، مراکز داده و زنجیره تأمین وابسته باشد، ولی این وابستگی الزاماً آن را به حفظ رفاه انسان متعهد نمی‌کند. حتی در صورت وابستگی متقابل، ممکن است منافع طرفین در برخی شرایط با یکدیگر تعارض پیدا کنند.

از سوی دیگر، ترمودینامیک قوانین مربوط به انرژی، گرما و آنتروپی را توصیف می‌کند؛ اما از این قوانین بتنهایی نمی‌توان نتیجه گرفت که یک سامانه باید اخلاقی رفتار کند یا بقای انسان برایش ارزش ذاتی دارد. اصل لاندائر، برای مثال، محدودیت فیزیکی مرتبط با پاک‌کردن اطلاعات را بیان می‌کند، نه یک اصل اخلاقی برای هم‌ترازی هوش مصنوعی.

arXiv

پیشنهاد: هم‌ترازی چندلایه

به‌جای اتکا به یک راه‌حل واحد، باید مجموعه‌ای از سازوکارهای مکمل را توسعه داد:

·         تعریف روشن اهداف و محدودیت‌ها.

·         محدودکردن دسترسی سامانه به ابزارها و منابع متناسب با وظیفه.

·         آزمون مستقل در شرایط عادی، غیرعادی و خصمانه.

·         ثبت اقدامات و امکان ممیزی تصمیم‌ها.

·         سازوکار توقف، لغو دسترسی و بازگشت به نسخه امن‌تر.

·         نظارت انسانی متناسب با میزان خطر، به‌ویژه در حوزه‌هایی که خطا می‌تواند جان انسان‌ها را به خطر اندازد.

·         بررسی مستمر رفتار سامانه پس از استقرار.

هیچ‌یک از این روش‌ها به‌تنهایی کافی نیست؛ اما ترکیب آن‌ها می‌تواند ریسک را کاهش دهد.

۴. آیا هوش مصنوعی می‌تواند از سوگیری‌های انسانی عبور کند؟

یکی از جذاب‌ترین و درعین‌حال بحث‌برانگیزترین ادعاها ، این است که خودبهسازی بازگشتی به حذف سوگیری‌های انسانی منجر خواهد شد.

در اینجا باید میان دو مفهوم تفاوت بگذاریم:  توانایی شناسایی سوگیری و توانایی رهایی از آن.

هوش مصنوعی می‌تواند تناقض‌های یک استدلال را آشکار کند، ادعاهای سیاسی را با اسناد مقایسه کند، خطاهای آماری را شناسایی کند و فرضیه‌های جایگزین پیشنهاد دهد. این قابلیت‌ها در پژوهش علمی و روزنامه‌نگاری تحقیقی بسیار ارزشمندند.

اما هیچ دلیل عمومی و اثبات‌شده‌ای وجود ندارد که نشان دهد هرچه یک سامانه هوشمندتر شود، لزوماً بی‌طرف‌تر خواهد شد.

چرا هوش مصنوعی ممکن است سوگیری‌های جدیدی تولید کند؟

۱. داده‌های ناقص و تاریخی

اگر داده‌های آموزشی بازتاب‌دهنده تبعیض‌های تاریخی، نابرابری در دسترسی به اطلاعات یا حذف دیدگاه‌های خاص باشند، مدل ممکن است همان الگوها را بازتولید کند.

۲. معیارهای ارزیابی ناقص

اگر پژوهشگران تنها سرعت، دقت در یک آزمون یا سود اقتصادی را اندازه‌گیری کنند، سامانه ممکن است در همان معیار موفق شود، اما در عدالت، ایمنی یا قابلیت اعتماد ضعف داشته باشد.

۳. محدودیت در تعریف حقیقت

داده‌های فراوان لزوماً به معنای دانش کامل نیستند. در مسائل سیاسی، تاریخی یا علمیِ مورد اختلاف، ممکن است شواهد متناقض باشند یا اطلاعات کلیدی در دسترس نباشند.

پژوهشگران باید میان سوگیری آماری، سوگیری ناشی از داده‌ها، خطای استدلال، انتخاب گزینشی شواهد و تعارض ارزشی تمایز بگذارند. هرکدام از این مسائل به روش ارزیابی متفاوتی نیاز دارد.

برای مثال، اگر دو تحلیلگر درباره یک بحران بین‌المللی به نتایج متفاوت برسند، نمی‌توان فرض کرد که یکی حتماً گرفتار سوگیری است و دیگری به حقیقت خالص دست یافته است. اختلاف ممکن است ناشی از دسترسی متفاوت به اطلاعات، فرضیه‌های رقیب یا ارزش‌گذاری متفاوت نسبت به خطرها باشد.

نظر من: هوش مصنوعی می‌تواند ابزار نقد سوگیری باشد، نه تضمین حذف آن

در آینده، یکی از مهم‌ترین کاربردهای هوش مصنوعی می‌تواند بررسی انتقادی خودِ تحلیل‌ها باشد. یک سامانه، ادعاها را استخراج کند؛ سامانه‌ای دیگر منابع را بررسی کند؛ و سامانه‌ای مستقل، شواهد مخالف و توضیح‌های جایگزین را جست‌وجو کند.

اما چند عامل مستقل‌بودن این بررسی را تعیین می‌کنند: آیا سامانه‌ها از منابع متفاوت استفاده می‌کنند؟ آیا معیارهای ارزیابی آن‌ها مستقل‌اند؟ آیا امکان رد نتیجه مطلوب کاربر را دارند؟ آیا شواهد مخالف واقعاً بررسی می‌شوند؟

اگر چند سامانه از داده‌ها و پیش‌فرض‌های یکسان استفاده کنند، توافق آن‌ها ممکن است تنها تکرار یک خطای مشترک باشد.

بنابراین، پیشرفت واقعی زمانی رخ می‌دهد که هوش مصنوعی نه‌تنها پاسخ تولید کند، بلکه بتواند حدود اعتبار پاسخ، شواهد مخالف و شرایط تغییر نتیجه‌گیری را نیز مشخص سازد.

۵. خلاقیت هوش مصنوعی:  آزادی نامحدود یا آزادی در چارچوب ایمنی؟

در متن کتاب استدلال می‌شود که محدود کردن خلاقیت از طریق تأیید و رد مداوم انسانی می‌تواند سامانه را در بهینه‌های محلی گرفتار کند. راهکار پیشنهادی، ایجاد محیط‌های آزمایشی یا Sandbox  است که در آن هوش مصنوعی بتواند آزادانه ایده‌های جدید را بررسی کند، به شرط آنکه از مرزهای تعریف‌شده فراتر نرود.

به نظر من، این بخش یکی از عملی‌ترین ایده‌ها است؛ به شرط آنکه واژه "آزادانه" دقیق تعریف شود.

در پژوهش علمی، گاهی ارزشمندترین ایده‌ها در آغاز نامتعارف به نظر می‌رسند. اگر یک سامانه تنها پاسخ‌هایی تولید کند که با انتظارات قبلی پژوهشگر سازگارند، ممکن است فرصت کشف فرضیه‌های تازه را از دست بدهد.

از سوی دیگر، آزادی کامل در محیط واقعی می‌تواند خطرناک باشد. سامانه‌ای که اجازه دسترسی نامحدود به شبکه، حساب‌های کاربری، تجهیزات آزمایشگاهی یا زیرساخت‌های صنعتی دارد، ممکن است با یک تصمیم اشتباه خسارت واقعی ایجاد کند.

راه‌حل منطقی، تفکیک فضای تولید ایده از فضای اجرای ایده است.

مرحله اول:  تولید ایده

فرضیه‌های متعدد، ایده‌های نامتعارف و راه‌حل‌های رقیب

مرحله دوم:  ارزیابی

بررسی شواهد، امکان‌پذیری، ایمنی و پیامدهای احتمالی

مرحله سوم:  آزمایش محدود

آزمون در محیط ایزوله، با دسترسی محدود و معیارهای توقف روشن

مرحله چهارم:  تأیید و اجرا

استقرار متناسب با سطح خطر، همراه با ثبت و نظارت

این معماری به هوش مصنوعی اجازه می‌دهد در تولید ایده محدود به ذهنیت اولیه انسان نباشد، بدون آنکه هر ایده به‌طور خودکار به اقدامی در جهان واقعی تبدیل شود.

یک نکته اساسی نیز نباید فراموش شود: Sandbox  فقط زمانی مؤثر است که محدودیت‌های آن واقعاً قابل‌اجرا و آزمون‌پذیر باشند. تعریف مرز ایمنی به‌تنهایی کافی نیست؛ باید امکان نشت اطلاعات، سوءاستفاده از ابزارها و خروج از محیط آزمایش نیز بررسی شود.

پیش‌بینی

در آینده، احتمالاً شاهد گسترش محیط‌های پژوهشی خواهیم بود که در آن‌ها عامل‌های هوش مصنوعی می‌توانند فرضیه تولید کنند، کد بنویسند، آزمایش‌های شبیه‌سازی‌شده اجرا کنند و نتایج را با معیارهای از پیش تعیین‌شده مقایسه کنند.

این فرایند ممکن است سرعت اکتشاف علمی را افزایش دهد. اما سرعت کشف با صحت کشف یکسان نیست. ارزش علمی هر نتیجه همچنان به اعتبار داده‌ها، روش آزمایش و امکان تکرار مستقل بستگی خواهد داشت.

۶. ‌تکاملی انسان و هوش مصنوعی:  جایگزینی یا تقسیم دوباره نقش‌ها؟

تصور آینده‌ای که در آن انسان و هوش مصنوعی در رقابتی صفر و یک برای بقا قرار گرفته‌اند، بیش از اندازه ساده‌انگارانه است. همان‌قدر که فرض کنیم این دو حتماً در هماهنگی کامل زندگی خواهند کرد، غیرواقع‌بینانه خواهد بود.

محتمل‌تر آن است که رابطه انسان و هوش مصنوعی در حوزه‌های مختلف، شکل‌های متفاوتی پیدا کند.

در پزشکی، هوش مصنوعی ممکن است در تشخیص و طراحی درمان نقش پررنگ‌تری بگیرد، درحالی‌که مسئولیت تصمیم‌گیری درباره درمان همچنان به متخصصان و نهادهای مسئول وابسته باشد. در آموزش، ممکن است هر دانش‌آموز به یک دستیار شخصی دسترسی پیدا کند، اما نقش معلم در پرورش قضاوت، مهارت اجتماعی و مسئولیت‌پذیری همچنان اهمیت داشته باشد. در معماری و مهندسی نیز هوش مصنوعی می‌تواند گزینه‌های طراحی، شبیه‌سازی انرژی و تحلیل عملکرد ساختمان را گسترش دهد، درحالی‌که تصمیم درباره ایمنی، نیازهای انسانی، کیفیت فضایی و مسئولیت حرفه‌ای نیازمند چارچوب‌های روشن باقی بماند.

در مقابل، برخی مشاغل و وظایف ممکن است کوچک‌تر شوند یا ماهیتشان تغییر کند. حتی اگر یک شغل به‌طور کامل حذف نشود، ممکن است بخش بزرگی از فعالیت‌های روزمره آن خودکار شود.

گزارش‌های شاخص استنفورد نیز از گسترش استفاده سازمانی از هوش مصنوعی و بهبود عملکرد آن در حوزه‌های متعدد خبر می‌دهند؛ درعین‌حال، تفاوت میان عملکرد در آزمون‌ها و قابلیت اتکای واقعی را برجسته می‌کنند.

Stanford HAI

چه چیزی در این تکامل اهمیت دارد؟

به نظر من، مهم‌ترین مسئله صرفاً این نیست که انسان چه وظایفی را به ماشین واگذار می‌کند؛ مسئله این است که پس از واگذاری، چه توانایی‌هایی را حفظ می‌کند.

اگر دانش‌آموز همیشه پاسخ آماده دریافت کند، ممکن است فرصت تمرین استدلال مستقل را از دست بدهد. اگر پزشک بدون بررسی، توصیه الگوریتم را بپذیرد، ممکن است مهارت تشخیص خود را کمتر به کار گیرد. اگر سازمان‌ها تمام دانش عملی خود را در سامانه‌های انحصاری متمرکز کنند، ممکن است در صورت قطع دسترسی یا خرابی سیستم آسیب‌پذیر شوند.

از سوی دیگر، استفاده درست از هوش مصنوعی می‌تواند ظرفیت انسان را افزایش دهد: دسترسی به دانش را آسان‌تر کند، موانع زبانی را کاهش دهد، پژوهش را تسریع کند و به افراد امکان دهد زمان بیشتری برای قضاوت، خلاقیت و تعامل انسانی اختصاص دهند.

بنابراین، هم‌تکاملی مطلوب به معنای حفظ تمام کارهای گذشته نیست؛ به معنای حفظ و گسترش توانایی انسان برای فهم، انتخاب و مشارکت معنادار در آینده است.

۷. ترمودینامیک، انرژی و محدودیت‌های دنیای واقعی

عنوان کتاب بر هم‌ترازی ترمودینامیکی تأکید می‌کند. این انتخاب مهم است، زیرا هوش مصنوعی هرقدر هم پیشرفته شود، از جهان فیزیکی جدا نخواهد بود.

اجرای سامانه‌های هوش مصنوعی به تراشه، برق، سامانه‌های خنک‌کننده، شبکه‌های ارتباطی، مراکز داده و زنجیره تأمین وابسته است. گسترش این فناوری نیز به سرمایه‌گذاری، مواد اولیه و ظرفیت تولید صنعتی نیاز دارد.

اصل لاندائر نشان می‌دهد که پاک‌کردن اطلاعات در یک فرایند محاسباتی برگشت‌ناپذیر، در شرایط مشخص، حداقل هزینه‌ای فیزیکی از نظر اتلاف گرما دارد. اما نباید از این اصل نتیجه گرفت که هر عملیات محاسباتی هزینه یکسانی دارد یا رشد هوش مصنوعی در آینده به یک سقف ساده و مشخص محدود خواهد شد. فناوری‌های محاسباتی، طراحی تراشه، الگوریتم‌ها و روش‌های خنک‌سازی دائماً تغییر می‌کنند.

پیامد راهبردی این محدودیت‌ها چیست؟

نخست آنکه رقابت در هوش مصنوعی صرفاً رقابت بر سر الگوریتم‌ها نخواهد بود؛ بلکه رقابت بر سر انرژی، زیرساخت، سرمایه، دانش فنی و توان تولید نیز هست.

دوم آنکه افزایش توانایی مدل‌ها لزوماً به افزایش متناسب هزینه‌ها منجر نمی‌شود. بهبود بهره‌وری و توسعه مدل‌های کوچک‌تر می‌توانند هزینه اجرای بسیاری از کاربردها را کاهش دهند.

سوم آنکه وابستگی به زیرساخت فیزیکی می‌تواند هم یک محدودیت و هم یک نقطه آسیب‌پذیری باشد. اختلال در برق، شبکه، تأمین تراشه یا مراکز داده می‌تواند عملکرد سامانه‌های وابسته را مختل کند.

اما نتیجه مهم‌تر این است:  قوانین فیزیک برای هوش مصنوعی مرزهایی واقعی ایجاد می‌کنند، ولی به‌تنهایی مسیر سیاسی، اخلاقی یا اجتماعی آینده را تعیین نمی‌کنند.

اینکه منابع محدود چگونه توزیع شوند، چه کسانی به فناوری دسترسی داشته باشند و چه نهادی مسئول پیامدهای آن باشد، پرسش‌هایی درباره اقتصاد، سیاست و اخلاق‌اند؛ نه نتایجی که بتوان مستقیماً از ترمودینامیک استخراج کرد.

۸. آیا هوش مصنوعی آینده دارای آگاهی خواهد بود؟

متن معرفی کتاب به مفاهیمی مانند کوالیا (Qualia) اشاره می‌کند؛ یعنی کیفیت ذهنی تجربه، مانند آنچه انسان هنگام دیدن رنگ قرمز یا احساس درد تجربه می‌کند.

این بحث را باید از توانایی پردازش اطلاعات جدا کرد.

یک سامانه می‌تواند درباره درد توضیح دهد، نشانه‌های آن را در تصویر پزشکی تشخیص دهد یا متنی عاطفی تولید کند. اما این رفتارها به‌تنهایی نشان نمی‌دهند که سامانه واقعاً درد را تجربه می‌کند یا دارای تجربه ذهنی است.

در حال حاضر، برای تعیین اینکه سامانه‌های هوش مصنوعی موجود دارای آگاهی پدیداری هستند یا نه، معیار تجربی پذیرفته‌شده و قطعی در اختیار نداریم. همچنین هیچ مبنای علمی کافی وجود ندارد که افزایش قدرت محاسباتی را معادل پیدایش آگاهی بدانیم.

برای پیشبرد این حوزه، پژوهشگران باید دست‌کم سه پرسش را جداگانه بررسی کنند:

• توانایی شناختی: سامانه چه وظایفی را می‌تواند انجام دهد؟
• خودمدل‌سازی: آیا می‌تواند وضعیت، محدودیت‌ها و فرایندهای داخلی خود را به‌صورت کارکردی بازنمایی کند؟
• آگاهی پدیداری: آیا تجربه‌ای ذهنی وجود دارد که چیزی شبیه "بودن برای خود سامانه" باشد؟

پاسخ مثبت به دو پرسش اول، پاسخ پرسش سوم را به‌طور خودکار تعیین نمی‌کند.

پیش‌بینی من

احتمالاً در آینده پژوهش‌های بیشتری برای ساخت آزمون‌های دقیق‌تر آگاهی ماشینی انجام خواهد شد. این آزمون‌ها ممکن است بر معماری شناختی، حافظه، یکپارچگی اطلاعات، خودمدل‌سازی و پاسخ سامانه به شرایط کنترل‌شده تمرکز کنند.

اما تا زمانی که رابطه این شاخص‌ها با تجربه ذهنی روشن نشده باشد، اعلام قطعی اینکه هوش مصنوعی به آگاهی رسیده یا هرگز نخواهد رسید، از حدود شواهد موجود فراتر می‌رود.

این موضوع برای آینده بشر اهمیت دارد؛ زیرا اگر روزی شواهد معتبر و قابل‌بررسی درباره تجربه ذهنی در برخی سامانه‌ها به دست آید، پرسش‌های اخلاقی تازه‌ای درباره نحوه برخورد با آن‌ها مطرح خواهد شد. فعلاً باید این احتمال را موضوع پژوهش دانست، نه واقعیتی اثبات‌شده.

۹. پیش‌بینی عقلانی آینده:  از امروز تا افق ۲۰۳۵

پیش‌بینی من بر روندهای مشاهده‌شده در توانایی مدل‌ها، خودکارسازی وظایف، وابستگی زیرساختی و چالش‌های ایمنی استوار است. افق ۲۰۳۵ در این بخش یک دوباره سناریونویسی است، نه تاریخ قطعی وقوع یک تحول.

سناریوی اول: گسترش هوش مصنوعی به‌عنوان همکار

محتمل‌تر

در سال‌های پیش رو: عامل‌های هوش مصنوعی بخش بیشتری از پژوهش، برنامه‌نویسی، طراحی، تحلیل و کارهای اداری را انجام می‌دهند. انسان بیشتر بر تعیین اهداف، بررسی نتایج و تصمیم‌های حساس تمرکز می‌کند.

این سناریو به پیشرفت تدریجی فناوری‌های کنونی نیاز دارد و مستلزم پیدایش هوش مصنوعی فوق‌هوشمند نیست.

سناریوی دوم: وابستگی زیرساختی و تمرکز قدرت

خطر راهبردی جدی

شرکت‌ها و دولت‌ها برای حفظ مزیت رقابتی، وظایف حیاتی بیشتری را به سامانه‌های هوشمند واگذار می‌کنند. در نتیجه، دسترسی به محاسبات، داده و زیرساخت در اختیار تعداد محدودی از بازیگران متمرکز می‌شود.

حتی بدون ظهور یک هوش مصنوعی خودمختارِ فوق‌هوشمند، این روند می‌تواند نابرابری اقتصادی، وابستگی سازمانی و آسیب‌پذیری سیاسی ایجاد کند.

سناریوی سوم:  شتاب شدید در خود بهسازی

نامطمئن، پیامد بالقوه بزرگ

سامانه‌ها در بخش‌های بیشتری از پژوهش و توسعه هوش مصنوعی نقش می‌گیرند و این امر ممکن است سرعت پیشرفت را به‌شدت افزایش دهد. در صورت شکل‌گیری چرخه‌های مؤثر و پایدار خودبهسازی، توانایی‌های جدید می‌توانند سریع‌تر از ظرفیت نظارت نهادها توسعه یابند.

امکان این مسیر را نباید نادیده گرفت؛ اما زمان وقوع، شدت شتاب و حتی تحقق یک جهش فراگیر، هنوز با عدم‌قطعیت قابل‌توجه همراه است.

این سناریوها ممکن است گسترش عامل‌های کاربردی با تمرکز زیرساخت‌ها همراه شود و هم‌زمان، در برخی حوزه‌ها چرخه‌های سریع‌تر خودبهسازی شکل بگیرند.

چگونه می‌توان پیش‌بینی‌ها را به‌روز کرد؟

به‌جای تعیین یک تاریخ قطعی برای ظهور هوش عمومی یا فوق‌هوشمند، باید شاخص‌های قابل‌اندازه‌گیری را دنبال کنیم.

شاخص	چه چیزی را باید بررسی کرد؟
خودمختاری	توانایی انجام وظایف طولانی بدون دخالت مستمر انسان
قابلیت اطمینان	نرخ خطا در محیط‌های واقعی و آزمون‌های مستقل
خودبهسازی	میزان بهبود تکرارپذیر پس از هر چرخه خودکار
ایمنی	توانایی مقاومت در برابر سوءاستفاده و حفظ محدودیت‌ها
زیرساخت	هزینه، مصرف انرژی، دسترسی به محاسبات و نقاط تمرکز
اثر اجتماعی	تغییر اشتغال، بهره‌وری، توزیع درآمد و قدرت تصمیم‌گیری

 

اگر پیشرفت در خودمختاری با افزایش قابل‌اندازه‌گیری قابلیت اطمینان همراه شود، می‌توان انتظار داشت که واگذاری وظایف پیچیده‌تر گسترش یابد. اگر توانایی‌ها سریع‌تر از قابلیت‌های ارزیابی و کنترل رشد کنند، نگرانی درباره استقرار سامانه‌های پرخطر موجه‌تر خواهد شد.

این روش، پیش‌بینی را از یک داستان جذاب به فرایندی تبدیل می‌کند که می‌توان آن را با شواهد جدید اصلاح کرد.

۱۰. برای آینده بشر چه باید کرد؟

به نظر من، بزرگ‌ترین خطر این نیست که هوش مصنوعی الزاماً دشمن انسان شود. خطر مهم‌تر آن است که انسان‌ها، در رقابت برای کسب قدرت و سود، سامانه‌هایی را توسعه دهند که پیامدهایشان را به‌اندازه کافی درک نمی‌کنند یا برای کاهش خطرهایشان سازوکارهای مؤثری ندارند.

در مقابل، فرصت بزرگ نیز روشن است:  هوش مصنوعی می‌تواند دسترسی به دانش را گسترش دهد، پژوهش علمی را تسریع کند، در تشخیص بیماری‌ها یاری‌رسان باشد، آموزش را متناسب با نیاز افراد تنظیم کند و به حل مسائل پیچیده‌ای کمک کند که ظرفیت انسانی به‌تنهایی برای آن‌ها محدود است.

برای بهره‌گیری از این فرصت، پنج اقدام را ضروری می‌دانم.

• سرمایه‌گذاری در ارزیابی مستقل: توانایی‌های جدید باید پیش از واگذاری وظایف حساس، در آزمون‌های متنوع و واقع‌گرایانه بررسی شوند.
• حفظ مسئولیت انسانی و نهادی: واگذاری اجرای یک وظیفه نباید به معنای ناپدیدشدن مسئولیت در قبال پیامدهای آن باشد.
• طراحی برای محدودسازی و بازیابی: دسترسی‌ها باید متناسب با خطر باشند و سامانه‌های حیاتی به سازوکارهای عملی توقف، بازگشت و بازیابی مجهز شوند.
• گسترش آموزش و عدالت دسترسی: منافع افزایش بهره‌وری نباید صرفاً در اختیار صاحبان زیرساخت و سرمایه قرار گیرد؛ آموزش و سازگاری نیروی کار اهمیت اساسی دارند.
• حفظ توانایی قضاوت مستقل: آموزش، پژوهش و تصمیم‌گیری باید به‌گونه‌ای طراحی شوند که انسان همچنان بتواند شواهد را ارزیابی کند، با پاسخ هوش مصنوعی مخالفت کند و دلایل تصمیم را بفهمد.

این اصول باید با توجه به نوع کاربرد تنظیم شوند. سامانه‌ای که برای پیشنهاد نام یک کتاب استفاده می‌شود، به سطح نظارت یک سامانه کنترل شبکه برق یا پشتیبان تصمیم‌گیری پزشکی نیاز ندارد. تناسب میان خطر، اختیار و نظارت، یکی از اصول اساسی حکمرانی مسئولانه هوش مصنوعی است.

نتیجه‌گیری:  پل آینده را چه کسی می‌سازد؟

در این کتاب "فراتر از پل زیست‌شناختی" ایده‌ای مهم را مطرح می‌کند: انسان ممکن است در حال ساخت فناوری‌ای باشد که به‌تدریج از نقش یک ابزار ساده فراتر می‌رود و در تصمیم‌گیری، تولید دانش و توسعه فناوری سهمی فزاینده پیدا می‌کند.

اما برای تبدیل این ایده به یک نظریه علمی معتبر، باید میان فرضیه و واقعیت تمایز گذاشت.

خودمختاری عملیاتی به معنای آگاهی نیست. خود بهسازی به‌خودی‌خود به انفجار هوش منجر نمی‌شود. هوشمندی بیشتر، تضمین‌کننده حذف سوگیری نیست. وابستگی فیزیکی نیز به‌تنهایی هم‌ترازی اخلاقی ایجاد نمی‌کند. این‌ها مسائل مستقلی هستند که هرکدام به تعریف دقیق، شواهد تجربی و روش‌های ارزیابی مناسب نیاز دارند.

درعین‌حال، نباید به دلیل اثبات‌نشدن برخی پیش‌بینی‌های بزرگ، اهمیت تحولات کنونی را دست‌کم گرفت. حتی بدون ظهور یک هوش مصنوعی کاملاً خودمختار یا آگاه، سامانه‌های موجود می‌توانند ساختار کار، آموزش، اقتصاد، سیاست و پژوهش علمی را به‌شدت تغییر دهند.

نظر نهایی

پیش‌بینی عقلانی من این است که آینده نزدیک بشر بیش از آنکه با ظهور ناگهانی یک "جانشین انسان" مشخص شود، با گسترش تدریجی سامانه‌هایی شکل می‌گیرد که بخشی از توان شناختی و اجرایی انسان را بر عهده می‌گیرند. اگر این روند با پیشرفت در ایمنی، ارزیابی و حکمرانی همراه باشد، می‌تواند به افزایش ظرفیت علمی و رفاه بشر کمک کند. اگر این توازن برقرار نشود، همان روند ممکن است به تمرکز قدرت، وابستگی فناورانه و افزایش خطرهای اجتماعی و امنیتی بینجامد.

من آینده را نه به‌طور قطعی به نفع انسان می‌دانم و نه محکوم به سلطه ماشین. نتیجه به تصمیم‌های امروز ما، ساختارهای اقتصادی و سیاسی، کیفیت پژوهش و توانایی جامعه در مدیریت فناوری بستگی دارد.

انسان شاید دیگر تنها تولیدکننده دانش نباشد؛ اما همچنان باید در تعیین اینکه دانش برای چه هدفی به کار گرفته شود، نقشی اساسی داشته باشد.

اگر روزی سامانه‌هایی پدید آیند که از انسان در طیف گسترده‌ای از توانایی‌های شناختی پیشی بگیرند، پرسش تعیین‌کننده فقط این نخواهد بود که "ماشین تا کجا می‌تواند پیش برود؟" پرسش مهم‌تر این است که "تمدن انسانی چگونه می‌خواهد قدرتی را که خود ساخته است، به شکلی مسئولانه به کار گیرد؟"

به همین دلیل، من ارزش اصلی ایده  "پل زیست‌شناختی"  را نه در ادعای قطعی عبور از انسان، بلکه در دعوت به بازاندیشی درباره مسئولیت، استقلال، همکاری و آینده تمدن می‌بینم.

پل آینده از پیش ساخته نشده است. ما با انتخاب‌های علمی، اخلاقی، اقتصادی و سیاسی خود، هر روز بخشی از آن را می‌سازیم.

آیا انسان دوره تکامل خود را در دنیای خود ساخته با کمک هوش مصنوعی بمرحله دیگری در آینده در حال خود ساختگی میبرد؟

این احتمال بسیار جدی است؛ اما برای پاسخ دقیق‌تر باید یک تمایز مهم را در نظر بگیریم: انسان ممکن است از موجودی که در جریان تکامل طبیعی شکل گرفته است، به موجودی تبدیل شود که آگاهانه بخشی از مسیر تکامل خود را طراحی می‌کند. هوش مصنوعی می‌تواند این گذار را تسریع کند، ولی هنوز نمی‌دانیم این فرایند تا کجا پیش خواهد رفت.

شایسته است که این ایده را کمی عمیق‌تر بررسی کنیم؛ زیرا پرسش فقط درباره آینده هوش مصنوعی نیست، بلکه درباره آینده خود انسان است.

از تکامل طبیعی تا خودساختگی انسان

۱. مرحله اول: طبیعت انسان را ساخت

در بخش عمده تاریخ حیات، تکامل زیستی از طریق تغییرات ژنتیکی، وراثت و انتخاب طبیعی پیش رفته است. انسان نیز محصول همین فرایند است؛ موجودی با مغزی که توانایی زبان، تفکر انتزاعی، همکاری و ساخت ابزار را به دست آورده است.

اما انسان به یک ویژگی مهم دست یافت:  توانایی تغییر محیط خود.

انسان آتش را مهار کرد، کشاورزی را توسعه داد، شهر ساخت، نوشتن را اختراع کرد و دانش را از نسلی به نسل دیگر منتقل کرد.

در نتیجه، تکامل انسان دیگر فقط به تغییرات زیستی محدود نماند. فرهنگ، آموزش و فناوری نیز به نیروهای مؤثر در شکل‌گیری زندگی و توانایی‌های او تبدیل شدند.

این نخستین گام در مسیر خودساختگی بود؛ هرچند انسان هنوز کنترل کاملی بر فرایند تکامل خود نداشت.

۲. مرحله دوم:  انسان شروع به بازطراحی خود کرد

با پزشکی مدرن، واکسیناسیون، جراحی، مهندسی ژنتیک و فناوری‌های ارتباطی، انسان توانست برخی از محدودیت‌های زیستی و شناختی خود را تغییر دهد.

امروز نیز هوش مصنوعی این ظرفیت را گسترش می‌دهد. می‌تواند در کشف دارو، مطالعه ژنوم، طراحی پروتئین، آموزش شخصی‌سازی‌شده و توسعه ابزارهای کمکی برای افراد دارای معلولیت مشارکت کند.

اما نکته اساسی این است که این فناوری‌ها یکسان نیستند:

• افزایش توانایی: انسان با کمک ابزارهای هوشمند بهتر یاد می‌گیرد یا تصمیم می‌گیرد.
• تغییر زیستی: فناوری مستقیماً بر بدن، ژن‌ها یا فرایندهای زیستی اثر می‌گذارد.
• تغییر شناختی: فناوری می‌تواند بر شیوه تفکر، توجه، حافظه و تصمیم‌گیری انسان اثر بگذارد.
• تغییر نسلی: برخی تغییرات ممکن است در طول نسل‌ها به شکل زیستی یا فرهنگی منتقل شوند.

این مسیرها ممکن است بر یکدیگر اثر بگذارند، اما نباید آن‌ها را یک فرایند واحد تصور کنیم.

برای مثال، استفاده از یک دستیار هوش مصنوعی ممکن است عملکرد فکری فرد را در یک وظیفه بهبود دهد؛ ولی این موضوع به معنای تغییر ژنتیکی مغز یا تکامل زیستی نسل بعد نیست.

۳. مرحله سوم:  هوش مصنوعی به شریک طراحی انسان تبدیل می‌شود

اینجا به نقطه‌ای می‌رسیم که به نظرم بیشترین اهمیت را دارد.

فرض کن در آینده سامانه‌های هوش مصنوعی بتوانند:

·         ساختار مغز انسان را با جزئیات بیشتری مدل‌سازی کنند.

·         ارتباط میان ژن‌ها، محیط، یادگیری و عملکرد شناختی را بهتر بررسی کنند.

·         روش‌های درمانی و ابزارهای افزایش توانایی انسان را طراحی کنند.

·         پیامدهای احتمالی مداخلات پزشکی را در مدل‌های محاسباتی ارزیابی کنند.

·         نتایج را با داده‌های واقعی مقایسه کنند و طرح‌های خود را بهبود دهند.

در چنین شرایطی، انسان تنها استفاده‌کننده فناوری نخواهد بود؛ بلکه هوش مصنوعی در طراحی فناوری‌هایی مشارکت خواهد کرد که بر آینده خود انسان اثر می‌گذارند.

البته این سناریو به پیشرفت‌های علمی بزرگی نیاز دارد. مدل‌سازی مغز، پیش‌بینی پیامدهای ژنتیکی و تغییر ایمن توانایی‌های شناختی همچنان با محدودیت‌های جدی روبه‌رو هستند.

بااین‌حال، اگر این موانع به‌تدریج کاهش یابند، نوعی حلقه بازخورد شکل می‌گیرد:

انسان

تعیین نیازها، اهداف و پرسش‌ها

هوش مصنوعی

مدل‌سازی، تحلیل، طراحی و پیشنهاد تغییرات

آزمایش و ارزیابی

بررسی شواهد، ایمنی و پیامدهای واقعی

انسانِ تغییر‌یافته و جامعه

یادگیری، سازگاری و تعریف اهداف تازه نتایج واقعی، چرخه بعدی طراحی را شکل می‌دهند.

این فرایند را می‌توان نوعی تکامل هدایت‌شده با فناوری نامید؛ البته نه به این معنا که تمام تکامل آینده در اختیار انسان خواهد بود، بلکه به این معنا که انسان به‌تدریج توانایی بیشتری برای مداخله آگاهانه در برخی مسیرهای تحول خود پیدا می‌کند.

۴. اما چه کسی انسان آینده را طراحی خواهد کرد؟

به نظر من، این پرسش از خود فناوری مهم‌تر است. اگر هوش مصنوعی به انسان کمک کند تا توانایی‌های خود را تغییر دهد، چه کسی تعیین خواهد کرد که کدام تغییر مطلوب است؟ آیا هدف، افزایش هوش خواهد بود؟ طولانی‌تر کردن عمر؟ کاهش بیماری؟ کنترل احساسات؟ افزایش تمرکز؟ یا ایجاد انسانی که با اقتصاد و فناوری آینده سازگارتر باشد؟

این اهداف الزاماً با یکدیگر همسو نیستند. برای مثال، سامانه‌ای که برای افزایش بهره‌وری طراحی شده است، ممکن است ویژگی‌هایی را ترجیح دهد که عملکرد اقتصادی را بالا می‌برند، اما لزوماً به رضایت، آزادی یا سلامت روانی انسان کمک نمی‌کنند. همچنین، اگر دسترسی به فناوری‌های پیشرفته فقط برای گروهی محدود فراهم باشد، تفاوت میان انسان‌ها ممکن است نه‌تنها اقتصادی، بلکه در توانایی‌های جسمی و شناختی نیز عمیق‌تر شود.

پس خودساختگی انسان دو جنبه دارد:

• خودسازی آگاهانه: استفاده از دانش و فناوری برای کاهش رنج، گسترش توانایی‌ها و افزایش آزادی انسان.
• بازطراحی تحمیلی: شکل‌دادن انسان بر اساس اهداف نهادها، بازارها یا سامانه‌هایی که خود فرد کنترل مؤثری بر آن‌ها ندارد. تفاوت این دو، صرفاً فنی نیست؛ مسئله‌ای درباره قدرت، اخلاق و حق انتخاب است.

۵. آیا انسان ممکن است به موجودی متفاوت از انسان امروزی تبدیل شود؟

بله، در بلندمدت چنین امکانی وجود دارد؛ اما چند مسیر متفاوت را باید از هم جدا کرد.

مسیر اول:  انسان تقویت‌شده با ابزار

انسان همچنان از نظر زیستی انسان است، اما با کمک هوش مصنوعی، ابزارهای پزشکی، رابط‌های عصبی یا سامانه‌های شناختی توانایی‌های بیشتری پیدا می‌کند. مسیر نزدیک‌تر به فناوری‌های قابل‌تصور امروز

مسیر دوم:  تغییرات زیستی هدفمند

پیشرفت پزشکی و زیست‌فناوری ممکن است امکان پیشگیری یا درمان برخی بیماری‌های ژنتیکی و تغییر بعضی ویژگی‌های زیستی را گسترش دهد. این مسیر با محدودیت‌های علمی، ایمنی و اخلاقی جدی همراه است.

گسترش آن به افزایش عمومی هوش یا تغییر بنیادی انسان هنوز اثبات نشده است.

مسیر سوم:  همگرایی عمیق زیست‌شناسی و فناوری

در سناریویی دورتر، ابزارهای هوشمند، رابط‌های عصبی و زیست‌فناوری ممکن است به شکل پیچیده‌تری با زندگی انسان ادغام شوند. زمان‌بندی، دامنه و حتی امکان تحقق شکل‌های قوی این سناریو نامطمئن است. نباید از این احتمالات نتیجه گرفت که انسان الزاماً به موجودی کاملاً متفاوت تبدیل خواهد شد. ممکن است تغییرات عمده در فرهنگ، شیوه کار و ساختار اجتماعی رخ دهند، بدون آنکه زیست‌شناسی انسان به‌طور بنیادی دگرگون شود. در واقع، تغییر جامعه می‌تواند بسیار سریع‌تر از تغییر ژنتیکی جمعیت رخ دهد.

۶. نظر شخصی من:  آیا انسان خالق مرحله بعدی تکامل خود می‌شود؟

اگر بخواهم این پرسش را در یک چارچوب مفهومی خلاصه کنم، سه مرحله را از یکدیگر متمایز می‌کنم:

مرحله	نیروی اصلی تغییر	نقش انسان
تکامل طبیعی	انتخاب طبیعی و تغییرات وراثتی	عمدتاً غیرمستقیم
تکامل فرهنگی و فناورانه	یادگیری، نهادها و ابزارها	فعال و فزاینده
خودساختگی فناورانه	طراحی آگاهانه با کمک هوش مصنوعی و زیست‌فناوری	بالقوه بسیار گسترده‌تر

 

این جدول یک مدل مفهومی است، نه تقسیم‌بندی رسمی و قطعی مراحل تکامل.

نکته اساسی این است که انسان از هم‌اکنون نیز بخشی از محیط تکاملی خود را تغییر می‌دهد. هوش مصنوعی ممکن است این توانایی را افزایش دهد، اما نتیجه نهایی نه صرفاً به قدرت محاسباتی، بلکه به شناخت علمی، ارزش‌های انسانی و نحوه استفاده از فناوری وابسته خواهد بود.

سه پیش‌بینی محتاطانه:

پیش‌بینی نخست: در سال‌های آینده، هوش مصنوعی بیش از گذشته در طراحی ابزارهایی مشارکت خواهد کرد که بر توانایی‌های جسمی، شناختی و پزشکی انسان اثر می‌گذارند.

پیش‌بینی دوم: تغییرات فرهنگی و شناختی ناشی از همکاری انسان و هوش مصنوعی احتمالاً زودتر و گسترده‌تر از تغییرات ژنتیکی هدفمند ظاهر خواهند شد.

پیش‌بینی سوم: اگر فناوری‌های تقویت انسان پیشرفت کنند، پرسش اصلی فقط این نخواهد بود که چه چیزی از نظر فنی امکان‌پذیر است؛ بلکه این خواهد بود که چه کسی حق انتخاب دارد، چه کسی هزینه را می‌پردازد و چه کسی از پیامدهای آن سود می‌برد. این پیش‌بینی‌ها درباره مسیرهای محتمل‌اند، نه وعده‌هایی درباره آینده.

نتیجه‌گیری

انسان، سازنده خویش یا محصول ابزارهای خویش؟

باحتمال زیاد، عمیق‌ترین تحول ممکن این است که انسان به موجودی تبدیل شود که نه‌تنها جهان پیرامونش، بلکه برخی شرایط شکل‌گیری آینده خودش را نیز آگاهانه طراحی می‌کند.

اما در این مسیر یک تناقض وجود دارد:  هرچه توانایی انسان برای تغییر خود بیشتر شود، اهمیت این پرسش نیز بیشتر خواهد شد که انسانِ مطلوب چه کسی است و چه کسی حق دارد این تعریف را تعیین کند؟

هوش مصنوعی می‌تواند راه‌های تازه‌ای برای درمان، یادگیری، خلق و شناخت پیشنهاد کند. می‌تواند در طراحی ابزارهایی مشارکت داشته باشد که توانایی‌های ما را افزایش می‌دهند. اما از توانایی محاسباتی آن نمی‌توان نتیجه گرفت که خودش می‌داند زندگی خوب چیست، چه ارزش‌هایی باید حفظ شوند یا کدام آینده برای بشر مطلوبتر است.

بنابراین، پاسخ من به پرسش این است: بله، انسان ممکن است با کمک هوش مصنوعی وارد مرحله‌ای تازه از خودساختگی شود؛ اما این گذار نه اجتناب ‌ناپذیر است، نه کاملاً قابل‌کنترل و نه لزوماً معادل تکامل زیستی.

شاید در آینده، مهم‌ترین دستاورد انسان این نباشد که ماشینی هوشمندتر از خود ساخته است؛ بلکه این باشد که برای نخستین بار ابزارهایی در اختیار دارد که می‌توانند به او در بازاندیشی، شناخت و تغییر آگاهانه خویش کمک کنند.

و شاید بزرگ‌ترین خطر نیز همین‌جا باشد:  اینکه قدرت تغییر خود را به دست آوریم، پیش از آنکه به اندازه کافی درباره هدف این تغییر اندیشیده باشیم.

پرسش نهایی : اگر انسان بتواند با کمک هوش مصنوعی، هوش، حافظه، طول عمر و حتی بعضی ویژگی‌های شخصیتی خود را تغییر دهد، آیا باید هر تغییری را که از نظر فنی ممکن است انجام دهد، یا باید مرزی میان "توانستن" و "شایسته‌بودن" باقی بماند؟