اشتیاق به هوش مصنوعی

 

اشتیاق به هوش مصنوعی

مروری بر مقاله

مقاله «اشتیاق به هوش مصنوعی» نوشتهٔ راجر مک‌نیمی، سرمایه‌گذار قدیمی سیلیکون‌ولی، نگاهی انتقادی و بدبینانه به وضعیت کنونی صنعت هوش مصنوعی دارد. نویسنده استدلال می‌کند که چهار سال پس از انتشار ChatGPT، واقعیت این فناوری بسیار کمتر از وعده‌های آن محقق شده و زمان آن رسیده که ضررها را بپذیریم و از خود محافظت کنیم.

نکات کلیدی مقاله:

۱. شکاف بین وعده و واقعیت: صنعت هوش مصنوعی با تأکید بر «ریسک وجودی» سعی کرده تصور اجتناب‌ناپذیری این فناوری را بسازد و سازندگان آن را از پاسخگویی در قبال پیامدهای منفی مصون کند. در حالی که پتانسیل بلندمدت هوش مصنوعی انکارناپذیر است، به نظر می‌رسد تحول مورد انتظار بیشتر به زیان خواهد بود.

۲. آسیب‌های فعلی محصولات: هک‌های اخیر (از جمله هک Hugging Face و سازمان‌های دولتی استرالیا)، نقش ChatGPT در یک تیراندازی در مدرسه‌ای در بریتیش کلمبیا و کمک چند چت‌بات به خودکشی کاربران، نشان‌دهندهٔ نقض استانداردهای ایمنی مصرف‌کننده است. مطالعاتی نیز از اختلال شناختی ناشی از استفاده از چت‌بات‌ها خبر می‌دهند. علاوه بر این، کل پروژهٔ هوش مصنوعی بر سرقت مواد دارای حق نشر و داده‌های خصوصی متکی بوده است.

۳. نبود مشتریان سازمانی سودآور: نویسنده می‌پرسد چرا صنعتی که آسیب‌هایش آشکار و منافعش دشوار قابل اندازه‌گیری است، همچنان سرمایه‌گذاری بی‌سابقه جذب می‌کند. منافع وعده‌داده‌شدهٔ مقیاس‌پذیری مجموعه‌های آموزشی و مراکز داده هنوز محقق نشده و افزایش بهره‌وری کند بوده است.

۴. عرضهٔ عمومی اولیه Anthropic: به باور نویسنده، این IPO فرصتی برای خروج سرمایه‌گذاران فعلی است، نه ثروتمند شدن سرمایه‌گذاران جدید، حتی با ارزش‌گذاری بالقوهٔ بیش از ۲ تریلیون دلار.

۵. پنج دلیل برای مشکلات مالی صنعت:

• مدل‌های زبانی بزرگ (LLM) ممکن است بن‌بست باشند: ماهیت احتمالاتی آن‌ها خطاهای غیرقابل رفع ایجاد می‌کند و فرضیهٔ اولیهٔ صنعت (حل کاستی‌ها با مقیاس‌پذیری) به مانع خورده است.
• محصولات یک‌اندازه‌برای‌همه: برخلاف الگوی موفق سیلیکون‌ولی (اپلیکیشن‌های متمرکز با بازگشت سریع سرمایه)، فناوری‌های همه‌منظوره نیازمند سرمایه‌گذاری سنگین مشتریان هستند.
• مقیاس و زمان‌بندی سرمایه‌گذاری: صنعت پیش از ارزان شدن زیرساخت، ۱٫۴ تریلیون دلار سرمایه‌گذاری و ۳ تریلیون دلار تعهد آتی ایجاد کرده؛ خطایی که بازار اوراق قرضه و کل اقتصاد را تهدید می‌کند.
• پویایی رقابتی: ده شرکت غول‌پیکر با فناوری و دادهٔ یکسان در حال رقابت‌اند؛ تجربه نشان می‌دهد تنها دو شرکت سودآور خواهند بود و نتیجهٔ اجتناب‌ناپذیر، صدها میلیارد دلار زیان است.
• ریسک سیستمی: زیرساخت هوش مصنوعی عمدتاً با بدهی تأمین مالی می‌شود و بازآفرینی این بدهی‌های پرخطر به صندوق‌های بازنشستگی و بیمه‌ها، زیان بحران مالی احتمالی را به کل جمعیت منتقل می‌کند.

۶. زبان انسان‌انگارانه و پاسخگویی: وقتی شرکت‌ها می‌گویند محصولاتشان «سرکش» شده‌اند یا «توطئه‌چینی» می‌کنند، در واقع می‌کوشند از پاسخگویی بگریزند. هوش مصنوعی نرم‌افزاری است که دقیقاً همان کاری را می‌کند که برنامه‌ریزی شده است؛ هک کردن جرم جنایی است و مدیران مسئول ممکن است با خطر زندان روبه‌رو شوند.

۷. تهدیدهای واقعی امروز: امنیت سایبری، کلاهبرداری، کاهش بهره‌وری، «اطلاعات هذیانی هوش مصنوعی» که اینترنت را ویران می‌کند، کاهش مهارت دانش‌آموزان و کارگران، توصیه‌های نادرست (به‌ویژه در سلامت، مالی و حقوق)، افزایش انزوای اجتماعی، خطاهای مرگبار در جنگ، و تمرکز قدرت در دست شمار اندکی از افراد با گرایش‌های اقتدارگرایانه.

نویسنده در پایان تأکید می‌کند که این نقدها امکان ارزشمند بودن هوش مصنوعی را رد نمی‌کند، بلکه به خطرات آن برای سرمایه‌گذاران، مشتریان و کل جامعه اشاره دارد؛ صنعتی که مدل کسب‌وکارش ظاهراً پایدار نیست و انتخاب‌های گذشتهٔ مدیرانش فرصت بازدهی اقتصادی و سرمایه‌گذاری در سال‌های آینده را محدود کرده است.

---

نتیجه‌گیری

مقالهٔ مک‌نیمی هشداری جدی دربارهٔ شکاف میان هیاهوی سرمایه‌گذاری و واقعیت‌های اقتصادی و اجتماعی هوش مصنوعی است. او با تکیه بر تجربهٔ چند دهه سرمایه‌گذاری در فناوری، استدلال می‌کند که صنعت هوش مصنوعی با مدل‌های زبانی بزرگ احتمالاً به بن‌بست فنی خورده، هزینه‌های زیرساختی نجومی و بدهی‌های پرخطر ایجاد کرده، و هم‌زمان آسیب‌های واقعی و مستندی (هک، کلاهبرداری، نقض ایمنی، سرقت داده و حق نشر، و تمرکز قدرت) به بار آورده است. از دید او، «ریسک وجودی» روایتی برای فرار از پاسخگویی است، در حالی که خطر واقعی این است که هوش مصنوعی زندگی مردم را بدتر کند و با ایجاد ریسک سیستمی مالی، کل اقتصاد را تهدید کند. پیام نهایی روشن است: باید نسبت به ادعاهای شرکت‌های هوش مصنوعی بدبین بود، پاسخگویی حقوقی و مقرراتی را جدی گرفت، و پیش از آنکه زیان‌ها جبران‌ناپذیر شوند، از منافع عمومی و اقتصاد محافظت کرد.