نویدها و خطرات هوش مصنوعی

آیا هوش مصنوعی به معنای زوال - و حتی پایان - انسان خردمند است؟ این سوالی است که ما از یووال نوح هری، نویسنده، مورخ و فیلسوف، پرسیدیم که پتانسیل مزایای عظیم و خطرات عظیمی را در هوش مصنوعی می‌بیند. او دیدگاه خود را با پاپی هارلو، سردبیر موسسه رهبری وال استریت ژورنال، در جلسه هیئت مدیره وال استریت ژورنال در لندن مورد بحث قرار داد. در اینجا گزیده‌ای ویرایش شده از گفتگوی آنها آمده است. بزرگ کردن کودک • WSJ: شما هوش مصنوعی را - همانطور که در سراسر مقاله خود به آن اشاره می‌کنید - ظهور گونه جدیدی می‌دانید که می‌تواند جایگزین انسان خردمند شود. • یووال نوح هری: بله. برای اولین بار، ما رقابت واقعی روی کره زمین داریم. ما هزاران سال باهوش‌ترین گونه بوده‌ایم و این نشان می‌دهد که ما از بودن در گوشه‌ای از آفریقا به حاکمان مطلق کره زمین و اکوسیستم تبدیل شده‌ایم. و اکنون ما در حال ایجاد چیزی هستیم که می‌تواند در آینده بسیار نزدیک با ما رقابت کند. مهم‌ترین چیزی که باید در مورد هوش مصنوعی بدانید این است که یک ابزار نیست، بلکه یک عامل است، به این معنا که می‌تواند مستقل از ما تصمیم بگیرد. می‌تواند در مقیاس وسیع اختراع کند. می‌تواند یاد بگیرد و خودش را تغییر دهد. تمام اختراعات قبلی بشریت، چه چاپخانه باشد و چه بمب اتم، ابزارهایی هستند که ما را توانمند می‌کنند. • وال استریت ژورنال: آنها به ما نیاز داشتند. • هراری: آنها به ما نیاز دارند زیرا یک چاپخانه نمی‌تواند کتاب‌های خودش را بنویسد و نمی‌تواند تصمیم بگیرد کدام کتاب‌ها را چاپ کند. یک بمب اتمی نمی‌تواند بمب قوی‌تری اختراع کند. و یک بمب اتمی نمی‌تواند تصمیم بگیرد که به چه چیزی حمله کند. یک سلاح هوش مصنوعی می‌تواند هدف خودش را تعیین کند و نسل بعدی سلاح‌های خودش را طراحی کند. • وال استریت ژورنال: روشی که شما در آخرین کتاب خود، «نکسوس»، در مورد آن صحبت می‌کنید این است که کودکانه است، زیرا از ما یاد می‌گیرد. و بنابراین، استدلال شما این است که ما، به ویژه رهبران قدرتمند این اتاق، مسئولیت بزرگی داریم، زیرا نحوه پاسخ ما یکسان است. نمی‌توانید از ما انتظار داشته باشید که دروغ بگوییم و تقلب کنیم و به هوش مصنوعی کمک کنیم. این را توضیح دهید. • هراری: در سراسر جهان صحبت‌های زیادی در مورد هماهنگ‌سازی هوش مصنوعی وجود دارد: ما در حال خلق این عوامل جدید، بسیار قدرتمند و فوق هوشمند هستیم. چگونه می‌توانیم مطمئن شویم که این عوامل دریایی با اهداف انسانی و منافع بشریت همسو باقی می‌مانند و آنچه را که برای ما خوب است انجام می‌دهند؟ تحقیقات و تلاش‌های زیادی بر این ایده متمرکز شده است که اگر بتوانیم این هوش‌های مصنوعی را به روشی خاص طراحی کنیم، اگر بتوانیم اصول خاصی را به آنها آموزش دهیم، اگر بتوانیم اهداف خاصی را در آنها کدگذاری کنیم، در امان خواهیم بود. اما دو مشکل عمده با این رویکرد وجود دارد: اول، تعریف هوش مصنوعی این است که می‌تواند یاد بگیرد و خود را تغییر دهد. بنابراین وقتی یک هوش مصنوعی طراحی می‌کنید، طبق تعریف، قرار است انواع کارهایی را انجام دهد که نمی‌توانید پیش‌بینی کنید. مشکل دیگر، حتی بزرگتر، این است که می‌توانیم هوش مصنوعی را مانند یک نوزاد یا یک کودک در نظر بگیریم. و می‌توانید یک کودک را تا حد توانایی خود آموزش دهید. خوب یا بد، باز هم شما را شگفت‌زده خواهد کرد. مهم نیست چقدر برای آموزش آنها سرمایه‌گذاری کنید، آنها عوامل مستقلی هستند. آنها ممکن است در نهایت کاری انجام دهند که شما را شگفت‌زده و حتی وحشت‌زده کند. نکته دیگر این است که هر کسی که دانشی در مورد آموزش دارد، می‌داند که در آموزش کودکان، آنچه به آنها می‌گویید مهم نیست. آنچه انجام می‌دهید مهم است. اگر به فرزندانتان بگویید "دروغ نگویید" و فرزندانتان ببینند که شما به دیگران دروغ می‌گویید، رفتار شما را تقلید می‌کنند، نه دستورالعمل‌های شما. حال اگر این پروژه بزرگ را داشته باشیم که به هوش مصنوعی یاد دهیم دروغ نگوید، بلکه به هوش مصنوعی دسترسی به جهان بدهیم و ببینیم که انسان‌ها چگونه رفتار می‌کنند و ببینیم که برخی از قدرتمندترین انسان‌های روی کره زمین، از جمله والدینشان، دروغ می‌گویند، هوش مصنوعی آن رفتار را تقلید خواهد کرد. همه چیز، همه جا • WSJ: ما امروز صبح یک نظرسنجی انجام دادیم و از رهبران حاضر در این اتاق پرسیدیم که فکر می‌کنند هوش مصنوعی تاکنون در کسب‌وکارهایی که رهبری می‌کنند چقدر مهم بوده است. و تنها بخش کوچکی از آنها گفتند که مهم است. اکثر آنها، مدرن یا غیر مدرن، مهم بودند. اگر 36 ماه دیگر اینجا نشسته بودیم، می‌توانید با ما صحبت کنید؟ آیا جهانی وجود دارد که هوش مصنوعی تأثیر قابل توجهی بر کسب‌وکار آنها نداشته باشد؟ • هراری: سوالات در مورد مقیاس زمانی است. تصور کنید الان در لندن نشسته‌ایم و سال ۱۸۳۵ است. اولین راه‌آهن بین منچستر و لیورپول پنج سال پیش افتتاح شد. و ما این کنفرانس را در سال ۱۸۳۵ در لندن داریم و مردم می‌گویند: «می‌دانید، تمام این صحبت‌ها در مورد اینکه راه‌آهن دنیا را تغییر می‌دهد، انقلاب صنعتی، مزخرف است. ما راه‌آهن را برای تغذیه داشتیم. پنج سال. و ببینید.» ما می‌دانیم که انقلاب صنعتی و قطارها همه چیز را کاملاً تغییر دادند. اما فقط کمی بیش از پنج سال طول کشید. احتمالاً همین اتفاق با هوش مصنوعی در همه زمینه‌ها، از واضح تا کمتر واضح، رخ خواهد داد. من فکر می‌کنم یکی از اولین زمینه‌هایی که شاهد تغییرات عمده خواهیم بود، امور مالی است، جایی که هوش مصنوعی خیلی سریع سیستم مالی را به دست خواهد گرفت. زیرا امور مالی صرفاً یک قلمرو اطلاعاتی است. شما این ده‌ها هزار ماشین خودران را نمی‌بینید. مشکل این است که برای رانندگی، باید با دنیای فیزیکی، دنیای شلوغ عابران پیاده و چاله‌ها و هر چیز دیگری سر و کار داشته باشید. اما در امور مالی، شما فقط داده‌های ورودی و خروجی دارید.

زنده بمانم، اما پیشرفت کنم؟ • هراری: می‌خواهم تأکید کنم که هوش مصنوعی هم پتانسیل مثبت طبیعی و هم پتانسیل خطرناک دارد. و من به جبر تاریخی یا تکنولوژیکی اعتقادی ندارم. می‌توانید از همین تکنولوژی برای ایجاد انواع کاملاً متفاوتی از جوامع استفاده کنید. ما در قرن بیستم شاهد بودیم - ما دقیقاً از همین تکنولوژی برای ساخت رژیم‌های کمونیستی-توتالیتر و دموکراسی‌های لیبرال استفاده کردیم. در مورد هوش مصنوعی هم همینطور است. ما در مورد اینکه با آن چه کار کنیم، انتخاب‌های زیادی داریم - اگر برای اولین بار به یاد داشته باشیم که با عوامل و نه ابزارها سر و کار داشتیم، این موضوع را بسیار پیچیده‌تر می‌کند. اما با این حال، بیشتر آژانس در دست ماست. و این سوال که چگونه این فناوری را توسعه می‌دهیم و مهمتر از آن، چگونه آن را به کار می‌گیریم، می‌توانیم انتخاب‌های زیادی در آنجا انجام دهیم. مشکل اصلی این است که اکنون شرکت‌ها و کشورهایی که انقلاب هوش مصنوعی را رهبری می‌کنند، در یک وضعیت مسابقه تسلیحاتی گرفتار شده‌اند. بنابراین، حتی اگر آنها بدانند که بهتر است سرعت خود را کاهش دهند، روی ایمنی بیشتری سرمایه‌گذاری کنند، و در مورد این یا آن توسعه بالقوه مراقب باشند، دائماً می‌ترسند که اگر ما سرعت خود را کاهش دهیم و آنها سرعت خود را کم نکنند، جهان را تصرف خواهند کرد.