اخبار داخلی فناوری اطلاعات تلاش ام.آی.تی برای از بین بردن تبعیض نژادی هوش مصنوعی تشخیص چهره

سه شنبه 9 بهمن 1397

تلاش ام.آی.تی برای از بین بردن تبعیض نژادی هوش مصنوعی تشخیص چهره

محققان موسسه فناوری ماساچوست(MIT) یک رویکرد جدید توسعه داده‌اند که قادر است تعصب نژادی را از هوش مصنوعی بگیرد و تبعیض نژادی را در سیستم‌های تشخیص چهره از بین ببرد.

تلاش‌هایی برای جلوگیری از تعصبات نژادپرستانه در سیستم‌های تشخیص چهره از طریق داده‌های آموزشی بهتر انجام شده و سیستم "CSAIL" مؤسسه فناوری ماساچوست(MIT) به یک رویکرد بهتر رسیده است.
این مؤسسه در حال توسعه یک الگوریتم است که به طور خودکار داده‌های آموزشی را برای زدودن تبعیض نژادی هوش مصنوعی در تشخیص چهره فراهم و اطمینان حاصل می‌کند که محدوده گسترده‌ای از انسان‌ها را در بر بگیرد.
این سیستم می‌تواند مجموعه داده‌ها را اسکن، تعصب‌های مجموعه را درک و آن را به سرعت مشخص کند تا سیستم با دقت بیشتری نسبت به افراد رنگین پوست عمل کند و در نهایت بدون توجه به رنگ پوست و نژاد افراد کار کند.
این فناوری لزوماً تمام تبعیض‌ها و بی‌توجهی‌ها را از بین نمی‌برد، اما می‌تواند نتایج قابل توجهی داشته باشد.
سیستم MIT در آزمایشات، تبعیض‌های نژادی را بدون تأثیر بر دقت تا ۶۰ درصد کاهش داد. همچنین موجب صرفه‌جویی در وقت به خصوص برای جمع‌آوری داده‌های بزرگ شد که وقت‌گیر هستند.
ممکن است اجرایی شدن این رویکرد مدتی به طول بیانجامد. با این حال با توجه به وابستگی بیشتر و بیشتر اداره پلیس و شرکت‌ها بر فناوری تشخیص چهره، تحول ایجاد خواهد کرد.
یک سیستم تشخیص چهره معیوب نه تنها می‌تواند استفاده از دستگاه‌های تشخیص چهره را سخت‌تر کند، بلکه باعث ایجاد تبعیض‌های دروغین می‌شود که منجر به دستگیری افراد بی‌گناه خواهد شد.
حذف خودکار تعصب و تبعیض در فناوری تشخیص چهره می‌تواند برخی از این نگرانی‌ها را کاهش دهد.