MIT Technology Review

مدل‌های زبان هوش مصنوعی انسانی نیستند، و با این حال، با استفاده از آزمون‌هایی مانند آزمون وکالت یا آزمون مجوز پزشکی ایالات متحده، آنها را به گونه‌ای ارزیابی می‌کنیم که انگار هستند.

مدل‌ها در این تست‌ها واقعاً خوب عمل می‌کنند، احتمالاً به این دلیل که نمونه‌هایی از این تست‌ها در داده‌های آموزشی مدل‌ها فراوان هستند. با این حال، همانطور که من ویل داگلاس هیون در جدیدترین مقاله خود می نویسد، «برخی از مردم از آنچه به عنوان درخشش هوشی شبیه انسان می بینند، خیره می شوند. دیگران اصلا قانع نشده اند.»

تعداد فزاینده‌ای از کارشناسان خواستار لغو این آزمایش‌ها شده‌اند و می‌گویند که این آزمایش‌ها به هیاهوی هوش مصنوعی دامن می‌زند و "این توهم را ایجاد می‌کند که [مدل‌های زبان هوش مصنوعی] توانایی‌های بیشتری نسبت به آنچه در واقع دارند، دارند." داستان کامل را اینجا بخوانید.

چیزی که در مورد داستان ویل برای من جالب بود این است که ما اطلاعات کمی در مورد نحوه عملکرد مدل‌های زبان هوش مصنوعی و اینکه چرا آنها کارهایی را که انجام می‌دهند ایجاد می‌کنند، نداریم. با این آزمایش‌ها، ما سعی می‌کنیم «هوش» آن‌ها را بر اساس خروجی‌های آن‌ها اندازه‌گیری کنیم وبدون اینکه به طور کامل درک کنیم که چگونه زیر کاپوت کار می‌کنند.

سایر نکات برجسته

ملانی میچل، محقق هوش مصنوعی در مؤسسه سانتافه در نیومکزیکو، می‌گوید: «تمایل ما به انسان‌سازی گیج‌کننده است: «از ابتدای پیدایش هوش مصنوعی، مردم به ماشین‌ها تست‌های هوش انسانی – تست‌های IQ و غیره می‌دهند. . "کل مسئله این بود که وقتی دستگاهی مانند این را آزمایش می کنید به چه معناست. این به معنای آن برای یک انسان نیست."

بچه ها در مقابل GPT-3: محققان دانشگاه کالیفرنیا، لس آنجلس، داستانی را در مورد یک جذامی جادویی که جواهرات را بین دو بطری منتقل می کند، به GPT-3 ارائه کردند و سپس از او پرسیدند که چگونه از اشیایی مانند تخته استفاده کند. پوستر لثه ها را از یک کاسه به کاسه دیگر منتقل می کند. و یک لوله مقوایی ایده ای است که داستان به راه هایی برای حل مشکل اشاره می کند. GPT-3 راه حل های پیچیده اما مکانیکی بی معنی را پیشنهاد کرد. تیلور وب، یکی از محققان می گوید: «این چیزی است که کودکان به راحتی می توانند آن را حل کنند.

مدل‌های زبان هوش مصنوعی انسانی نیستند: «با مدل‌های زبان بزرگ که متنی شبیه انسان تولید می‌کنند، وسوسه‌انگیز است که فرض کنیم تست‌های روان‌شناسی انسان برای ارزیابی آن‌ها مفید خواهد بود. اما این درست نیست: آزمون‌های روان‌شناسی انسان بر مفروضات زیادی تکیه دارند که ممکن است در مدل‌های بزرگ زبان صدق نکنند.

درس‌هایی از قلمرو حیوانات: لوسی چک، روان‌شناس دانشگاه کمبریج، بریتانیا، پیشنهاد می‌کند که محققان هوش مصنوعی می‌توانند تکنیک‌های مورد استفاده برای مطالعه حیوانات را تطبیق دهند، تکنیک‌هایی که برای اجتناب از نتیجه‌گیری سریع بر اساس تعصبات انسانی ایجاد شده‌اند.

هیچ کس نمی داند که مدل های زبان چگونه کار می کنند: تومر اولمان، دانش آموز، گفت: "من فکر می کنم مشکل اصلی این است که ما به جای اینکه چگونه در آزمون ها را قبول کنید، روی نتایج آزمون تمرکز می کنیم." ما انجام می دهیم."

یادگیری عمیق تر

Google DeepMind ابزار واترمارکینگ برای تصاویر تولید شده توسط هوش مصنوعی راه اندازی کرده است

Google DeepMind ابزار جدیدی راه اندازی کرده است که نشان می دهد آیا تصاویر توسط هوش مصنوعی تولید می شوند یا خیر. این ابزار که SynthID نام دارد در ابتدا فقط در اختیار کاربران سازنده تصویر هوش مصنوعی Google Imagen قرار خواهد گرفت. کاربران می توانند تصاویر را تولید کنند و سپس انتخاب کنند که آیا واترمارک اضافه کنند یا خیر. امید این است که بتواند به مردم کمک کند بفهمند محتوای تولید شده توسط هوش مصنوعی چه زمانی واقعی است یا از حق چاپ محافظت می شود.

مراحل کودکی: Google DeepMind اکنون اولین شرکت بزرگ فناوری است که پس از تعهد داوطلبانه با کاخ سفید برای توسعه هوش مصنوعی مسئول، چنین ابزاری را به صورت عمومی راه اندازی کرده است. واترمارکینگ – تکنیکی که در آن سیگنالی را در متن یا تصویر پنهان می‌کنید تا آن را به‌عنوان تولید شده توسط هوش مصنوعی شناسایی کنید – به یکی از محبوب‌ترین ایده‌های پیشنهادی برای مهار چنین آسیب‌هایی تبدیل شده است. این شروع خوبی است، اما واترمارک ها به تنهایی اعتماد بیشتری را به صورت آنلاین ایجاد نمی کنند. بیشتر از من در اینجا بخوانید.

بیت ها و بایت ها

جایگزین های ChatGPT چینی به تازگی برای عموم تایید شده است

بایدو، یکی از شرکت‌های برجسته هوش مصنوعی چین، اعلام کرده است که دسترسی به مدل بزرگ زبان ChatGPT خود، Ernie Bot را برای عموم باز خواهد کرد. خبرنگار ما Zeyi Yang به معنای این موضوع برای کاربران اینترنت چینی می پردازد.

ایمپلنت های مغزی به ایجاد یک آواتار دیجیتالی از صورت یک بازمانده سکته مغزی کمک کردند

اخبار باورنکردنی دو مقاله در نیچر پیشرفت های عمده ای را در تلاش برای تبدیل فعالیت مغز به گفتار نشان می دهد. محققان موفق شدند با کمک ایمپلنت های مغزی، الگوریتم های هوش مصنوعی و آواتارهای دیجیتال، به زنانی که توانایی صحبت کردن خود را از دست داده بودند کمک کنند تا دوباره ارتباط برقرار کنند. (بررسی فناوری MIT)

در بازار پورن هوش مصنوعی که در آن همه چیز و همه چیز برای فروش است

این یک تحقیق عالی بود که نشان می‌داد چگونه رونق هوش مصنوعی بازار بی‌سابقه‌ای برای پورن عمیق جعلی ایجاد کرده است. این هم قابل پیش بینی و هم ناامید کننده است که چقدر کم برای جلوگیری از آسیب های زندگی واقعی مانند پورنوگرافی عمیقاً غیر وجدان و نادرست انجام داده ایم.

ارتشی از کارگران خارج از کشور در «عرق‌فروشی‌های دیجیتال».

حاشیه نویسان برای شرکت داده Scale AI. اما همانطور که این بررسی در مورد شرایط مشکوک کار نشان می دهد، بسیاری از کارگران کمتر از حداقل دستمزد دریافت می کنند و پرداخت ها با تاخیر، کاهش یا لغو شده است.

(واشنگتن پست)

جزیره گرمسیری با نام دامنه داغ

روده بر شدن از خنده. رونق هوش مصنوعی به این معنی است که آنگویلا با نام دامنه .ai خود به جکپات رسیده است. انتظار می‌رود این کشور امسال میلیون‌ها دلار از شرکت‌هایی که خواهان نام دامنه پرهیاهو هستند درآمد کسب کند. (بلومبرگ)