مغز ۲۰ واتی و ماشین مگاواتی

 

مغز ۲۰ واتی و ماشین مگاواتی

مقایسه هوش بیولوژیکی با مراکز داده

مغز انسان یکی از کارآمدترین سیستم‌های محاسباتی شناخته شده است. با وزن تقریبی ۱.۴ کیلوگرم و تنها حدود ۲٪ از جرم بدن، تقریباً ۲۰٪ از انرژی در حال استراحت بدن را مصرف می‌کند، اما با بودجه توان مداوم حدود ۲۰ وات - قابل مقایسه با یک لامپ کم‌نور خانگی یا یک مانیتور کامپیوتر معمولی - کار می‌کند. این مصرف ناچیز، حدود ۸۶ میلیارد نورون متصل به تقریباً ۱۰۰ تریلیون سیناپس را پشتیبانی می‌کند و ادراک، حافظه، زبان، استدلال، خلاقیت و آگاهی را به طور همزمان ممکن می‌سازد.

از نظر محاسباتی، محققان عملکرد مغز را در محدوده صدها پتافلاپ تا حدود یک اگزافلاپ (۱۰^۱۸ عملیات در ثانیه) تخمین زده‌اند. یک تحلیل که به طور گسترده مورد استناد قرار گرفته است، خاطرنشان می‌کند که مغز تنها با ۲۰ وات به معادل یک اگزافلاپ دست می‌یابد. در مقابل، ابررایانه Frontier در آزمایشگاه ملی اوک ریج، از جمله اولین سیستم‌هایی که عملکرد پایدار در مقیاس اگزا را نشان داد، برای رسیدن به توان عملیاتی قابل مقایسه، به حدود 20 مگاوات - حدود یک میلیون برابر بیشتر - انرژی نیاز داشت.

مقیاس مراکز داده مدرن

مراکز داده، زیرساخت فیزیکی که محاسبات ابری و هوش مصنوعی را پشتیبانی می‌کند، در مقیاس‌های کاملاً متفاوتی کار می‌کنند. تأسیسات شرکت‌های کوچک ممکن است 1 تا 5 مگاوات مصرف کنند. مراکز اشتراکی متوسط ​​معمولاً بین 10 تا 20 مگاوات برق مصرف می‌کنند. تأسیسات با مقیاس بسیار بزرگ معمولاً با 50 تا 100 مگاوات بار بحرانی فناوری اطلاعات کار می‌کنند، در حالی که پردیس‌های بزرگ بهینه شده برای هوش مصنوعی می‌توانند به صدها مگاوات برسند و در برخی موارد برنامه‌ریزی شده، به یک گیگاوات نزدیک یا از آن فراتر روند. یک مرکز داده با مقیاس بسیار بزرگ 100 مگاوات تقریباً 2.4 گیگاوات ساعت برق در روز مصرف می‌کند - که برای تأمین انرژی ده‌ها هزار خانوار متوسط ​​آمریکایی کافی است. در سطح جهانی، مراکز داده در سال‌های اخیر حدود ۲۴۰ تا ۴۱۵ تراوات ساعت برق مصرف کرده‌اند (ارقام بسته به منبع و اینکه آیا شبکه‌سازی یا استخراج ارز دیجیتال را شامل می‌شود، متفاوت است)، که تقریباً ۱ تا ۱.۵ درصد از تقاضای برق در سراسر جهان را نشان می‌دهد، و پیش‌بینی می‌شود که رشد قابل توجهی ناشی از حجم کار هوش مصنوعی باشد. خوشه‌های بزرگ آموزش هوش مصنوعی یا استنتاج می‌توانند به خودی خود به ده‌ها مگاوات برق پایدار نیاز داشته باشند.

مقایسه‌های مستقیم

تضادهای عددی کاملاً مشهود است. مغز یک انسان به طور مداوم با ۲۰ وات کار می‌کند. یک پردازنده گرافیکی پیشرفته که در سیستم‌های هوش مصنوعی استفاده می‌شود ممکن است ۳۰۰ تا ۷۰۰ وات مصرف کند. یک رک از چنین شتاب‌دهنده‌هایی می‌تواند ده‌ها کیلووات مصرف کند. یک مرکز داده متوسط ​​در حال حاضر بیش از مصرف برق مداوم صدها هزار مغز انسان را دارد. یک مرکز داده بزرگ با مقیاس بزرگ بیش از میلیون‌ها نفر است. تخمین زده شده است که شبیه‌سازی یک مدل دقیق از مغز انسان بر روی سخت‌افزار دیجیتال معمولی به ۲.۷ گیگاوات نیاز دارد - مرتبه‌ای فراتر از هر مرکز داده فعلی و بسیار فراتر از بودجه بیولوژیکی مغز. مقایسه‌های هر وظیفه همچنین تفاوت‌ها در حالت عملیاتی را برجسته می‌کند. مغز یک خط پایه تقریباً ثابت حدود ۲۰ وات را حفظ می‌کند؛ هزینه انرژی حاشیه‌ای یک فکر یا تفسیر حسی اضافی اندک است. در مقابل، یک پرس‌وجوی استنتاج مدل زبان بزرگ معمولی، در تحلیل‌های اخیر تقریباً ۰.۳ وات ساعت تخمین زده شده است - مرتبه‌ای بالاتر از یک ثانیه شناخت بیولوژیکی - در حالی که استدلال پیچیده یا حجم کار چند مرحله‌ای می‌تواند چندین تا ده‌ها وات ساعت مصرف کند.

این ارقام کاملاً یکسان نیستند. "عملیات" بیولوژیکی (رویدادهای سیناپسی، اسپایک‌ها، مدولاسیون عصبی) با عملیات ممیز شناور دیجیتال متفاوت است. رقم توان مغز شامل سربار متابولیک برای نگهداری، سیگنالینگ و گرما است، در حالی که ارقام مرکز داده شامل سربار خنک‌کننده، تبدیل توان و شبکه (که در معیارهایی مانند اثربخشی استفاده از توان ثبت می‌شود) است. با این حال، شکاف کارایی همچنان بسیار زیاد است - که معمولاً بسته به معیار دقیق و برون‌یابی در محدوده ۱۰^۵ تا ۱۰^۹ ذکر می‌شود. چرا این شکاف وجود دارد

این اختلاف از تفاوت‌های اساسی معماری ناشی می‌شود. رایانه‌های دیجیتال حافظه و پردازش را از هم جدا می‌کنند و نیاز به جابجایی مداوم داده‌ها در گذرگاه‌ها و سلسله مراتب دارند؛ این هزینه ارتباطی بر مصرف انرژی غالب است. آن‌ها با محاسبات دقیق، فعال‌سازی متراکم و منطق همگام با زمان کار می‌کنند. در مقابل، مغز به طور گسترده موازی، رویدادمحور و پراکنده است. محاسبه و حافظه در سیناپس‌ها در کنار هم قرار دارند. سیگنال‌دهی آنالوگ و احتمالی است. اکثر نورون‌ها در هر لحظه غیرفعال هستند. یادگیری و استنتاج از یک بستر مشترک استفاده می‌کنند. تکامل تحت محدودیت‌های شدید متابولیکی در طول صدها میلیون سال بهینه شده است.

هوش مصنوعی مدرن شروع به پذیرش برخی از این اصول کرده است - مدل‌های پراکنده، محاسبات با دقت پایین‌تر، معماری‌های ترکیبی از متخصصان و تراشه‌های نورومورفیک تجربی (مانند Loihi اینتل یا TrueNorth آی‌بی‌ام) - اما پیاده‌سازی‌های سیلیکونی هنوز از نظر مقیاس با کارایی بیولوژیکی مطابقت ندارند. مفاهیم

این مقایسه هم دستاورد قابل توجه هوش بیولوژیکی و هم چالش پایداری پیش روی هوش مصنوعی در مقیاس بزرگ را برجسته می‌کند. مرکز داده

تقاضای برق به سرعت در حال افزایش است؛ شبکه‌های برق در بسیاری از مناطق با صف‌های اتصال طولانی مواجه هستند که سال‌ها طول می‌کشد و استفاده از آب خنک‌کننده فشار بیشتری را وارد می‌کند. از بین بردن حتی بخشی از شکاف بهره‌وری از طریق الگوریتم‌های بهتر، سخت‌افزارهای تخصصی و طراحی‌های الهام گرفته از مغز، پیامدهای اقتصادی و زیست‌محیطی عمیقی خواهد داشت.

در عین حال، مغز یک ماشین حساب همه منظوره نیست که برای ضرب‌های ماتریسی یا شبیه‌سازی عددی با دقت بالا بهینه شده باشد. سیستم‌های دیجیتال در کارهایی که مغز آنها را دشوار می‌داند - جستجوی جامع، محاسبات دقیق در مقیاس بزرگ، یادآوری کامل مجموعه داده‌های بزرگ - برتری دارند، در حالی که مغز در هوش تطبیقی ​​انعطاف‌پذیر، کم‌مصرف و دنیای واقعی بی‌نظیر است.

بنابراین، مغز 20 واتی هم به عنوان معیار و هم الهام‌بخش عمل می‌کند. این نشان می‌دهد که هوش سطح بالا نیازی به زیرساخت در مقیاس نیروگاه ندارد. اینکه آیا سیستم‌های محاسباتی آینده با تقلید دقیق‌تر از زیست‌شناسی، با اختراع معماری‌های کاملاً جدید یا با مسیری ترکیبی به آن بهره‌وری نزدیک می‌شوند، همچنان یک سوال تحقیقاتی باز و فوری است. تا آن زمان، جمجمه هر انسان همچنان میزبان یک سیستم محاسباتی است که مصرف برق و تطبیق‌پذیری آن هنوز هیچ مرکز داده‌ای با آن برابری نکرده است.