به گزارش ایسنا و به نقل از دیلی‌میل ، نرم‌افزار جنجالی تشخیص چهره آمازون موسوم به "رکوگنیشن"(Rekognition)، با انتقاد جدیدی روبرو شد.

پژوهشگران دانشگاه "ام. آی. تی"(MIT) در بررسی جدیدی دریافتند که در نرم‌افزار رکوگنیشن، تبعیض جنسیتی به چشم می‌خورد.

در این بررسی مشخص شد که این نرم‌افزار به طور کلی در برخورد با زنانی که پوست تیره‌تری دارند، عملکرد خوبی ندارد.

هنگامی که تعدادی زیادی چهره زن به نرم‌افزار ارائه شد، ۱۹ درصد آنها را به اشتباه مرد معرفی کرد اما نتیجه در مورد زنان تیره‌پوست، بسیار بدتر بود و رکوگنیشن، ۳۱ درصد از آنها را مرد تشخیص داد. در مقابل، هیچ اشتباهی در تشخیص مردان زرد پوست مشاهده نشد.

پژوهشگران ام. آی. تی دریافتند که عملکرد نرم‌افزارهای "آی‌بی‌ام"(IBM) و "مایکروسافت"(Microsoft)، بهتر از رکوگنیشن است. به خصوص اینکه مایکروسافت فقط ۱.۵ درصد زنان تیره‌پوست را مرد معرفی کرد.

در ماه فوریه سال گذشته، "جوی بولاموینی"(Joy Buolamwini)، از پژوهشگران ام. آی. تی، بررسی مشابهی را انجام داد و دریافت که نرم‌افزار تشخیص چهره آی.بی‌.ام، مایکروسافت و شرکت چینی "مگوی"(Megvii)، به مشکلات تبعیض نژادی و جنسیتی دچار هستند.

این پژوهش، واکنش‌های بدی را نسبت به شرکت‌های مذکور در پی داشت که در نتیجه آن، مایکروسافت و آی‌.بی‌.ام متعهد شدند نرم‌افزارهای خود را اصلاح کنند تا عملکرد دقیق‌تری داشته باشند. با این حال، آمازون هیچ تمایلی به تغییر نرم‌افزار خود نشان نداد.

"مت وود"(Matt Wood)، مدیر عمومی یادگیری عمیق و هوش مصنوعی این شرکت در مصاحبه‌ای گفت: پژوهشگران ما، هنوز از آخرین نسخه رکوگنیشن استفاده نکرده‌اند. نمی‌توان به همین سادگی نتیجه گرفت که این نرم‌افزار، دقت کافی را ندارد.

بولاموینی و "دبورا راجی"(Deborah Raji)، از نویسندگان این پژوهش باور دارند که برای اصلاح مشکلات تبعیض این نرم‌افزار، باید کار بسیاری انجام شود. در مقاله این پژوهش آمده است: احتمال سوءاستفاده از فناوری‌های تحلیل چهره، تهدید حریم خصوصی و نقض حقوق مهاجران، غیرقابل انکار است. برای اطمینان از حفظ حریم شخصی جمعیت آسیب‌پذیر جامعه و صدمه ندیدن آنها، باید بررسی‌های گسترده‌تری انجام شوند.

آمازون تاکنون، تماس‌های مکرری مبنی بر توقف فروش رکوگنیشن به پلیس داشته است. ابتدا این باور وجود داشت که پلیس، فناوری تشخیص چهره را فقط برای آزمایش به کار گرفته اما به زودی مشخص شد که آمازون قصد دارد این نرم‌افزار را به سازمان‌های مجری قانون در شهرهای اورلاندو، واشنگتن و ارگون بفروشد.

در اوایل ماه جاری، سهام‌داران آمازون، نامه‌ای به "جف بزوس" (Jeff Bezos)، مدیرعامل آمازون نوشتند و از وی خواستند فروش نرم‌افزار تشخیص چهره به پلیس را متوقف کند. آنها از بزوس خواستند تا زمانی که رکوگنیشن تحت بررسی‌های مربوط به حقوق مدنی و حقوق بشر قرار نگرفته، از فروش آن دست بردارد. در پی این درخواست و اعتراض گروه‌های حامی آزادی مدنی، ۴۵۰ نفر از کارمندان آمازون نیز دست به انتقاد زدند.

متخصصان هشدار دادند که نرم‌افزار تشخیص چهره، تبعیض نژادی و جنسیتی را ادامه خواهد داد و می‌تواند به بی‌عدالتی در جامعه منجر شود.

انتهای پیام