خلاصه ای در مورد تعصب الگوریتمی در هوش مصنوعی 

سوگیری الگوریتمی به خطاهای سیستماتیک در سیستم های کامپیوتری اشاره دارد که منجر به نتایج غیرمنصفانه یا تبعیض آمیز می شود که به نفع گروه های خاص بر دیگران است. این می تواند از نحوه طراحی الگوریتم ها، داده های مورد استفاده برای آموزش آنها یا کاربرد آنها در زمینه های ناخواسته ناشی شود.

منابع سوگیری شامل محدودیت‌های فنی، همبستگی‌های کاذب در داده‌ها، سوگیری‌های اجتماعی که قبلاً در کد یا داده‌ها وجود دارد، مسائل اضطراری زمانی که الگوریتم‌ها در زمینه‌های جدید استفاده می‌شوند، و حلقه‌های بازخوردی که سوگیری را تقویت می‌کنند، هستند.

نمونه هایی از سوگیری الگوریتمی عبارتند از: عدالت کیفری، مراقبت های بهداشتی، اشتغال و غیره. سوگیری ها می توانند تبعیض نژادی، اجتماعیءاقتصادی و جنسیتی را تداوم بخشند.

تشخیص سوگیری الگوریتمی به دلیل ماهیت اختصاصی و پیچیده الگوریتم ها دشوار است. اغلب هیچ "الگوریتم" واحدی وجود ندارد، بلکه شبکه ای از برنامه های به هم پیوسته وجود دارد.

انواع مختلف سوگیری‌ها شامل سوگیری‌های فنی در کد، سوگیری‌های از قبل موجود در داده‌ها، سوگیری‌های اضطراری زمانی که در زمینه‌های جدید استفاده می‌شوند، سوگیری‌های ناشی از استفاده غیرمنتظره، و حلقه‌های بازخوردی که سوگیری‌ها را تقویت می‌کنند.

پرداختن به سوگیری الگوریتمی بسیار مهم است زیرا الگوریتم ها نقش خود را در سازماندهی جامعه گسترش می دهند. در غیر این صورت، آنها می توانند در عین بی طرفی، تبعیض نشان دهند. هدف تحقیق در حال انجام، درک، کاوش و کاهش سوگیری الگوریتمی است.

به طور خلاصه، سوگیری الگوریتمی با افزایش الگوریتم ها یک نگرانی رو به رشد است و تلاش های مستمر برای روشن کردن، اندازه گیری و رسیدگی به این سوگیری برای اطمینان از کاربردهای منصفانه و اخلاقی الگوریتم ها مهم است.

 خلاصه ای از چند مثال کلیدی از اثرات سوگیری الگوریتمی 

جنسیت گرایی می تواند در توصیه هایی در سایت هایی مانند لینکدین و در تبلیغات هدفمندی که وضعیت بارداری را نشان می دهد رخ دهد. الگوریتم‌های جستجو همچنین می‌توانند محتوای جنسی را برای زنان ترجیح دهند.

سوگیری های نژادی می توانند در پیش بینی خطر عدالت کیفری، الگوریتم های هزینه مراقبت های بهداشتی، تشخیص چهره و استنتاج از نام ها ظاهر شوند. سوگیری های تاریخی را می توان با الگوریتم ها تداوم بخشید.

الگوریتم های معاملاتی ممکن است به نفع برخی شرکت ها تعصب داشته باشند. بنیانگذاران گوگل هشدار دادند که رتبه بندی جستجو می تواند برای تبلیغ کنندگان مفید باشد.

نفوذ سیاسی شامل تأثیرگذاری بر رأی دهندگان بلاتکلیف از طریق رتبه بندی جستجو و رسانه های اجتماعی است. می تواند انتخابات را به صورت دیجیتالی «پر زرق و برق» کند.

در اجرای قانون، برخی از ابزارهای پرمصرف خطر تکرار جرم، مانند COMPAS، تعصب نژادی را نشان داده‌اند و به دروغ متهمان سیاه‌پوست را به‌عنوان ریسک بالاتر نشان می‌دهند.

الگوریتم‌های سخنان مشوق تنفر در رسانه‌های اجتماعی به دلیل دسته‌بندی‌های گسترده در مقابل زیرگروه‌ها، سخنرانی علیه مردان سفیدپوست را نسبت به کودکان سیاه‌پوست مسدود کرده‌اند.

نرم افزار مانیتورینگ سوگیری های جنسیتی و نژادی را بر اساس سوگیری های داده های آموزشی نشان می دهد. این به طور نامتناسبی بر جوامع بیش از حد پلیس تأثیر می گذارد.

به طور خلاصه، سوگیری الگوریتمی می تواند تبعیض جنسیتی، نژادی و سایر موارد را در زمینه هایی مانند تجارت، سیاست، اجرای قانون و موارد دیگر افزایش دهد. درک مثال های خاص، معایب و اهمیت کاهش سوگیری الگوریتمی را روشن می کند. بررسی ها و ممیزی های مستمر بسیار مهم است.