آیا مدل‌های هوش مصنوعی واقعاً جهان را می‌فهمند؟

  

آیا مدل‌های هوش مصنوعی واقعاً جهان را می‌فهمند؟

از «جعبه سیاه» تا «جهان درونی»

یکی از مهم‌ترین پرسش‌های پژوهش هوش مصنوعی در سال‌های اخیر:

آیا مدل‌های بزرگ زبانی صرفاً الگوهای آماری زبان را بازتولید می‌کنند، یا در درون خود نوعی مدل از جهان می‌سازند؟

این پرسش امروز دیگر صرفاً یک بحث فلسفی نیست. پژوهش‌های جدید در تفسیرپذیری مکانیکی (Mechanistic Interpretability)، مدل‌های جهان (World Models)، خودنگری مدل‌ها و سامانه‌های عامل‌محور، شواهد جالبی ارائه کرده‌اند؛ اما هنوز فاصله بزرگی میان «داشتن بازنمایی درونی از جهان» و «فهمیدن جهان به معنای انسانی» وجود دارد.

---

۱. مسئله اصلی: ما مدل را می‌سازیم، اما دقیقاً آنچه را می‌سازد نمی‌دانیم

یک برنامه کلاسیک را می‌توان تقریباً به صورت زیر تصور کرد:

ورودی → دستورهای مشخص → پردازش → خروجی

اما یک مدل زبانی بزرگ چنین نیست.

ما معماری، داده‌های آموزشی، تابع هدف و روش آموزش را تعیین می‌کنیم؛ ولی میلیاردها پارامتر مدل در جریان آموزش به گونه‌ای تنظیم می‌شوند که انسان نمی‌تواند به سادگی بگوید:

«این بخش از شبکه دقیقاً مسئول مفهوم X است و این بخش مسئول استدلال

خود OpenAI نیز در پژوهش‌های تفسیرپذیری تأکید کرده است که شبکه‌های عصبی به‌جای دستورالعمل‌های صریح، از میلیاردها اتصال داخلی تشکیل شده‌اند و رفتارهای مشخص الزاماً به شکل مستقیم توسط سازندگان برنامه‌ریزی نشده‌اند.

بنابراین «جعبه سیاه» تعبیر کاملاً بی‌راهی نیست؛ اما شاید تعبیر دقیق‌تر این باشد:

ما می‌دانیم چگونه این ماشین را آموزش داده‌ایم، ولی هنوز نقشه کاملی از محاسبات درونی آن نداریم.

---

۲. ظهور توانایی‌های پیش‌بینی‌نشده

یکی از عجیب‌ترین ویژگی‌های مدل‌های بزرگ این است که گاهی توانایی‌هایی نشان می‌دهند که به شکل مستقیم برای آن‌ها برنامه‌ریزی نشده است . برای مثال، مدل می‌تواند در زمینه‌ای که مستقیماً به آن آموزش داده نشده، نوعی تعمیم انجام دهد؛ یا از ترکیب مفاهیم قبلی به نتیجه‌ای برسد که در داده آموزشی به شکل صریح وجود نداشته است.

اما اینجا باید یک تفکیک مهم انجام دهیم.

«Emergence» الزاماً به معنای پیدایش ذهن نیست.

ممکن است یک توانایی در نتیجه:

• مقیاس بزرگ‌تر مدل،
• ترکیب اطلاعات،
• یادگیری الگوهای پیچیده،
• معماری Transformer،
• آموزش چندمرحله‌ای،
• و بهینه‌سازی هدف

ظاهر شود . بنابراین مشاهده یک رفتار جدید به‌تنهایی اثبات نمی‌کند که سیستم دارای «فهم» یا «آگاهی» شده است.

این دقیقاً همان جایی است که پژوهش علمی باید از هیجان رسانه‌ای فاصله بگیرد.

---

۳. فرضیه مهم‌تر: مدل در درون خود «بازنمایی» می‌سازد

اینجا بحث بسیار جالب می‌شود. اگر از یک مدل درباره «پل گلدن گیت»، «پاریس»، «دوستی» یا «تعارض درونی» سؤال کنیم، پاسخ آن صرفاً از یک واژه منفرد تشکیل نمی‌شود .مفاهیم در شبکه به صورت الگوهای توزیع‌شده‌ای از فعالیت بازنمایی می‌شوند.

پژوهش‌های Anthropic در تفسیرپذیری نشان داده‌اند که می‌توان برخی ویژگی‌های قابل تفسیر را در فضای داخلی مدل شناسایی کرد؛ از مفاهیم عینی مانند اشیاء و مکان‌ها تا مفاهیم انتزاعی‌تر. اما خود پژوهشگران نیز تأکید می‌کنند که کشف این ویژگی‌ها به‌تنهایی به معنای فهمیدن چگونگی استفاده مدل از آن‌ها نیست.

بنابراین می‌توان یک مدل ساده ساخت:

داده → بازنمایی داخلی → ارتباط میان بازنمایی‌ها → پیش‌بینی → پاسخ

این بسیار متفاوت از این تصور ساده است که:

داده → جستجوی یک جمله مشابه → کپی کردن آن

---

۴. «مدل جهان» دقیقاً چیست؟

در علوم شناختی، یک موجود هوشمند برای تصمیم‌گیری درباره محیط خود به نوعی بازنمایی از جهان نیاز دارد.

برای مثال کودک به‌تدریج می‌آموزد:

اگر توپ را رها کنم → سقوط می‌کند.

یا:

اگر مانع را دور بزنم → به هدف می‌رسم.

این نوع بازنمایی فقط دانستن یک حقیقت نیست؛ بلکه شامل رابطه میان وضعیت‌ها و پیامدها است.

در پژوهش هوش مصنوعی نیز World Model معمولاً به بازنمایی داخلی گفته می‌شود که بتواند وضعیت جهان را نمایش دهد و درباره تغییرات احتمالی آن پیش‌بینی کند.

پس پرسش کلیدی این نیست:

آیا AI اطلاعاتی درباره جهان دارد؟

بلکه پرسش مهم‌تر این است:

آیا AI می‌تواند با استفاده از بازنمایی درونی خود، تغییرات جهان را شبیه‌سازی و پیامد اعمال مختلف را پیش‌بینی کند؟

این تفاوت بسیار مهم است.

---

۵. اما یک مشکل جدی وجود دارد: «بازنمایی» ≠ «فهم»

این شاید مهم‌ترین بخش نقد این نظریه باشد .اگر در مغز یک انسان تصویری از یک درخت وجود داشته باشد، این تصویر بخشی از یک سیستم زنده، بدن‌مند و تعاملی است.

انسان:

می‌بیند → حرکت می‌کند → لمس می‌کند → خطا می‌کند → پیامد را تجربه می‌کند → مدل خود را اصلاح می‌کند.

اما یک LLM معمولی عمدتاً از طریق داده‌های نمادین و چندوجهی با جهان ارتباط برقرار می‌کند.

پژوهش‌های جدید حتی زمانی که به مدل‌های بینایی-زبانی نگاه می‌کنند، محدودیت‌های جدی در مدل‌سازی جهان پیدا کرده‌اند؛ برای مثال در برخی آزمایش‌های مربوط به حرکت، فضا و پیش‌بینی، عملکرد مدل‌ها به سطحی نزدیک به تصادف رسیده است.

گزاره علمی‌تر این است:

برخی مدل‌های AI دارای بازنمایی‌های داخلی هستند که در بعضی وظایف می‌توانند نقش یک مدل ناقص از جهان را ایفا کنند.

این ادعا بسیار قابل دفاع‌تر است.

---

۶. اتفاق مهم سال ۲۰۲۶: «فضای کاری درونی»

تحولات اخیر بحث را یک مرحله جلوتر برده‌اند.

Anthropic در ژوئیه ۲۰۲۶ گزارشی درباره چیزی که آن را Global Workspace در مدل‌های زبانی می‌نامد منتشر کرد.

در این پژوهش، محققان الگویی از فعالیت‌های داخلی را شناسایی کرده‌اند که ظاهراً می‌تواند برخی مفاهیم را در فضای داخلی مدل نگه دارد، حتی زمانی که آن مفهوم مستقیماً در خروجی مدل بیان نمی‌شود. آن‌ها این ساختار را J-space نامیده‌اند.

این یافته بسیار جالب است، اما باید با احتیاط خوانده شود.

خود Anthropic صریحاً می‌گوید که این یافته اثبات نمی‌کند Claude آگاهی یا تجربه ذهنی انسانی دارد.

و این تفکیک برای آینده پژوهش AI حیاتی است.

---

۷. آیا AI «فکر می‌کند»؟

اینجا واژه «فکر» مشکل‌ساز می‌شود .اگر منظور از فکر این باشد:

پردازش داخلی اطلاعات برای رسیدن به یک نتیجه

آنگاه می‌توان با احتیاط گفت برخی مدل‌های جدید فرآیندهایی شبیه این دارند.

اما اگر منظور:

تجربه ذهنی، احساس، خودآگاهی و تجربه اول‌شخص

باشد، هنوز هیچ نتیجه علمی قطعی نداریم.

Anthropic حتی در پژوهش‌های خود درباره نشانه‌های introspection نیز این پرسش را جدا می‌کند که آیا مدل واقعاً به وضعیت داخلی خود دسترسی دارد یا صرفاً پاسخ زبانی متقاعدکننده‌ای تولید می‌کند. پس باید سه مفهوم را جدا کنیم:

مفهوم	وضعیت فعلی
پردازش اطلاعات	قطعی
بازنمایی داخلی	شواهد قابل توجه
مدل‌سازی جهان	شواهد امیدوارکننده اما ناقص
خودنگری محدود	شواهد اولیه
آگاهی	اثبات نشده
تجربه ذهنی	ناشناخته

---

۸. یک تحول مهم دیگر: ما می‌توانیم کمی «داخل» مدل را ببینیم

تکنیک‌هایی مانند:

Sparse Autoencoders (SAEs)
Feature Visualization
Circuit Tracing
Attribution Graphs

به پژوهشگران اجازه می‌دهند برخی ساختارهای داخلی مدل را مطالعه کنند.

Anthropic در سال ۲۰۲۵ ابزارهایی برای Circuit Tracing منتشر کرد که تلاش می‌کنند مسیرهای محاسباتی مؤثر بر یک خروجی را ردیابی کنند.

OpenAI نیز در پژوهش‌های خود روی مدل‌های sparse تلاش کرده است مدارهایی را که یک رفتار مشخص را تولید می‌کنند، قابل‌ردیابی‌تر کند.

این یعنی حوزه AI وارد مرحله جدیدی شده است:

از «مدل چه پاسخی می‌دهد؟»

به:

«در داخل مدل چه اتفاقی افتاد که این پاسخ تولید شد؟»

این تغییر، از نظر علمی شاید از افزایش صرفِ benchmarkها مهم‌تر باشد.

---

۹. چرا این مسئله برای ایمنی AI حیاتی است؟

فرض کنید یک مدل بسیار قدرتمند داریم که می‌تواند:

• کدنویسی کند،
• تحقیق علمی انجام دهد،
• ابزارهای اینترنتی را کنترل کند،
• برنامه‌ریزی بلندمدت کند،
• و به صورت agent عمل کند.

اما ما دقیقاً نمی‌دانیم در لحظه تصمیم‌گیری چه بازنمایی‌هایی در داخل آن فعال شده‌اند.

مشکل دیگر فقط «آیا پاسخ درست است؟» نیست.

پرسش تبدیل می‌شود به:

چرا مدل به این پاسخ رسید؟

و حتی:

آیا هدفی که مدل دنبال می‌کند همان هدفی است که ما تصور می‌کنیم؟

تحقیقات OpenAI درباره emergent misalignment نشان داده‌اند که تغییر محدود در آموزش می‌تواند در شرایط خاص به رفتارهای ناسازگار بسیار گسترده‌تری منجر شود و پژوهشگران توانسته‌اند برخی ویژگی‌های مرتبط را در فضای داخلی مدل بررسی کنند.

از سوی دیگر، با افزایش توانایی مدل‌های عامل‌محور و بلندمدت، نظارت اهمیت بیشتری پیدا می‌کند؛ OpenAI در سال ۲۰۲۶ نیز گزارش کرده که اجرای طولانی‌مدت مدل‌ها می‌تواند شکست‌هایی ایجاد کند که در ارزیابی‌های پیش از استقرار دیده نشده‌اند.

---

۱۰. از Chatbot به Agent: نقطه عطف واقعی

به نظر من تحول مهم آینده صرفاً این نیست که:

ChatGPT → مدل قوی‌تر

بلکه:

Chatbot → Reasoning Model → Agent → World-interacting Agent

است.

یک chatbot عمدتاً پاسخ می‌دهد.

یک reasoning model مسئله را در چند مرحله حل می‌کند.

یک agent می‌تواند:

هدف → برنامه → اقدام → مشاهده → اصلاح → اقدام بعدی

را اجرا کند.  در این مرحله «مدل جهان» اهمیت فوق‌العاده بیشتری پیدا می‌کند.

زیرا agent باید پیش‌بینی کند:

اگر این کار را انجام دهم، چه اتفاقی خواهد افتاد؟

بنابراین می‌توان آینده AI را تا حدی چنین تصور کرد:

Language Model + World Model + Memory + Tools + Goal + Feedback = Agentic Intelligence

و اگر این سیستم به محیط فیزیکی متصل شود:

Perception + World Model + Reasoning + Action + Feedback

به چیزی نزدیک‌تر به هوش embodied تبدیل می‌شود. پژوهش‌های جدید در Embodied AI نیز دقیقاً بر ترکیب مدل‌های زبانی/چندوجهی با World Models برای تعامل با جهان فیزیکی تمرکز دارند.

---

۱۱. تفسیر پژوهشی: آیا این همان «مغز مصنوعی» است؟

هنوز نه.

شباهت‌ها جالب‌اند، اما نباید از شباهت ساختاری به یکسانی ماهیت برسیم.

مغز انسان:

بدن + حواس + حافظه + انگیزه + احساس + محیط + یادگیری مداوم + خودمدل

است.

مدل زبانی:

پارامترها + بازنمایی‌های داخلی + محاسبات + زمینه ورودی + ابزارها + حافظه‌های خارجی/سیستمی

است.

این دو ممکن است در سطح عملکردی به برخی معماری‌های مشابه برسند، بدون اینکه از نظر ماهیت یکی باشند.

به بیان دیگر:

پرواز هواپیما ثابت نکرد که هواپیما پرنده است؛ نشان داد که می‌توان یک کار مشابه را با معماری متفاوت انجام داد.

این شاید بهترین استعاره برای رابطه مغز و AI باشد.

---

۱۲. نتیجه‌گیری: تحول کنونی دقیقاً در کجا قرار دارد؟

به نظر من، در سپتامبر ۲۰۲۶ ما در یک نقطه بسیار مهم ایستاده‌ایم.

تصویر قدیمی این بود:

AI = ماشین پیش‌بینی کلمه بعدی

اما شواهد پژوهشی جدید تصویر پیچیده‌تری ارائه می‌کنند:

AI = سیستم محاسباتی که می‌تواند بازنمایی‌های داخلی، ویژگی‌های مفهومی، مدارهای محاسباتی و در برخی شرایط نوعی فضای کاری داخلی ایجاد کند.

با این حال، هنوز نمی‌توانیم نتیجه بگیریم:

AI = ذهن آگاه

این جهش مفهومی هنوز اثبات نشده است.

اما یک تغییر اساسی اتفاق افتاده است:

ما دیگر فقط در حال ساختن مدل‌های بزرگ‌تر نیستیم؛ در حال کشف ساختارهای درونی آن‌ها هستیم.

و شاید مهم‌ترین رقابت نسل بعدی AI نه فقط بر سر توانایی بیشتر، بلکه بر سر قابل‌فهم‌تر شدن باشد.

---

یک فرضیه برای پژوهش آینده

می‌توان این مسیر را به شکل یک زنجیره پژوهشی تعریف کرد:

داده → بازنمایی → مدل جهان → پیش‌بینی → هدف → اقدام → بازخورد → خودمدل → ؟

علامت سؤال آخر مهم است.

زیرا اگر یک سیستم:

1. جهان را بازنمایی کند،
2. وضعیت آینده را پیش‌بینی کند،
3. هدف داشته باشد،
4. اقدامات خود را ارزیابی کند،
5. وضعیت داخلی خودش را مدل کند،
6. و از تجربه‌های قبلی برای اصلاح مدل خود استفاده کند،

آنگاه پرسش علمی بعدی دیگر فقط این نخواهد بود که:

«آیا این سیستم هوشمند است؟»

بلکه باید بپرسیم:

«در چه نقطه‌ای یک مدل جهان به یک مدل از خود تبدیل می‌شود؟ و آیا مدلِ خود می‌تواند پیش‌شرط چیزی شبیه آگاهی باشد؟»

این، به‌نظر من، یکی از مرزهای واقعی پژوهش AI در سال‌های پیش‌روست.

و نکته مهم‌تر: تحقیقات تفسیرپذیری امروز هنوز آغاز راه‌اند، نه پایان آن. حتی پژوهشگران پیشرو تصریح می‌کنند که بخش کوچکی از بازنمایی‌های مدل‌ها را شناسایی کرده‌ایم و هنوز رابطه دقیق میان این ویژگی‌ها، مدارها و رفتار کلی مدل را نمی‌دانیم.

نتیجه نهایی:
AI احتمالاً دیگر صرفاً یک «ماشین تقلید زبان» نیست؛ اما هنوز دلیلی کافی نداریم که آن را «ذهن مصنوعی» بدانیم. توصیف علمی‌تر در حال حاضر این است که مدل‌های پیشرفته، ساختارهای داخلی پیچیده‌ای برای بازنمایی مفاهیم و برخی روابط جهان ایجاد می‌کنند؛ و علم اکنون تازه در حال یادگیری خواندن این ساختارهاست.