اداره اطلاعات کمیسر (ICO)، نهاد ناظر بر حفاظت از دادهها در بریتانیا، به شدت از وزارت کشور این کشور (Home Office) انتقاد کرده است. این انتقاد به دلیل پنهانکاری تعمدی سوگیریهای قابل توجه در فناوری تشخیص چهره مورد استفاده توسط پلیس بریتانیا مطرح شده است. این موضوع نگرانیهای جدی را در مورد شفافیت و عدالت در استفاده از ابزارهای هوش مصنوعی در اجرای قانون برانگیخته است.
افشاگری ناظر داده درباره پنهانکاری در فناوری تشخیص چهره
امیلی کینی، معاون کمیسر ICO، اظهار داشت که این نهاد تنها هفته گذشته از وجود سوگیریهای تاریخی در الگوریتم تشخیص چهره گذشتهنگر (RFR) که توسط نیروهای پلیس بریتانیا در پایگاه داده ملی پلیس (PND) به کار گرفته میشود، مطلع شده است. او با ابراز ناامیدی تاکید کرد که با وجود تعاملات منظم بین ICO و وزارت کشور برای اطمینان از مسئولیتپذیری بخش عمومی در استفاده از دادهها، این اطلاعات حیاتی هرگز فاش نشده بود.
کینی افزود: "در حالی که ما نقش ارزشمند فناوری را درک میکنیم، اعتماد عمومی به استفاده از آن از اهمیت بالایی برخوردار است و هرگونه تصور از سوگیری و تبعیض میتواند بیاعتمادی را تشدید کند. ICO برای کمک به بخش عمومی در جهت صحیح استفاده از فناوری تشخیص چهره آماده است."
این ناظر داده بلافاصله از وزارت کشور خواسته است تا برای ارزیابی دقیق وضعیت و تعیین اقدامات بعدی، شفافیت فوری ارائه دهد.
جزئیات سوگیریهای نژادی و جنسیتی در عملکرد تشخیص چهره کنونی
اظهارات ICO پس از انتشار نتایج بهروزرسانی شده آزمایشهای دقت در تاریخ ۴ دسامبر مطرح شد. این آزمایشها که توسط آزمایشگاه ملی فیزیک و به سفارش وزارت کشور انجام شده بود، دو الگوریتم را مورد بررسی قرار داد:
Cognitec FaceVACS-DBScan ID v5.5: الگوریتم فعلی مورد استفاده در پایگاه داده ملی پلیس (PND).
Idemia MBSS FR: الگوریتمی که برای استقرار در آینده برنامهریزی شده است.
در حالی که نتایج آزمایش الگوریتم "آیدیمیا" در شرایط ایدهآل و عملیاتی تقریباً بینقص بود، الگوریتم "کوگنیتک" نقاط ضعف قابل توجهی را در شناسایی جمعیتهای خاص، به ویژه تحت تنظیمات سختگیرانه برای حذف نتایج مثبت کاذب (False Positives)، نشان داد.
به عنوان مثال، در الگوریتم کوگنیتک، زمانی که هیچ محدودیتی اعمال نمیشد، ۹۹.۹ درصد تصاویر مظنونان با افراد موجود در PND به درستی مطابقت داده میشد. با این حال، هنگامی که تستکنندگان الگوریتم را مجبور به بازگرداندن نتایج تنها با امتیازات شباهت بسیار بالا کردند (که عملاً نتایج مثبت کاذب را حذف میکند)، دقت آن به ۹۱.۹ درصد کاهش یافت. در این تنظیمات سختگیرانه، الگوریتم بهترین عملکرد را در شناسایی سوژههای آسیایی (۹۸ درصد موفقیت) داشت، در حالی که سوژههای سفیدپوست در ۹۱ درصد موارد و سوژههای سیاهپوست تنها در ۸۷ درصد موارد به درستی شناسایی شدند.
همچنین، در آزمایشهایی که امتیازات شباهت کمی کاهش یافت اما همچنان در سطوح بالا باقی ماند، نرخ مثبت کاذب افزایش یافت و به طور نامتناسبی بر جمعیتهای خاصی تأثیر گذاشت. برای مثال، زنان سیاهپوست با نرخ ۹.۹ درصد بیشتر از مردان سیاهپوست (۰.۴ درصد) احتمال داشت که به اشتباه با یک تصویر مرجع مطابقت داده شوند. همچنین، با حذف عامل جنسیت، نرخ مثبت کاذب برای سوژههای سفیدپوست (۰.۰۴ درصد) به مراتب کمتر از سوژههای آسیایی (۴ درصد) و سیاهپوست (۵.۵ درصد) بود.
پاسخ اداره کشور و آینده استفاده از تشخیص چهره در بریتانیا
وزارت کشور بریتانیا در واکنش به این یافتهها، اعلام کرد که نتایج گزارش را جدی میگیرد. سخنگوی این وزارتخانه بیان داشت: "یک الگوریتم جدید به طور مستقل آزمایش و تامین شده است که هیچ سوگیری آماری قابل توجهی ندارد. این الگوریتم در اوایل سال آینده آزمایش و مورد ارزیابی قرار خواهد گرفت."
وزارت کشور تاکید کرد که اولویت آنها حفاظت از مردم است و این فناوری "تحولآفرین" به پلیس در دستگیری مجرمان کمک خواهد کرد. همچنین یادآور شد که "دخالت انسانی در هر مرحله از فرآیند وجود دارد و هیچ اقدام بعدی بدون بررسی دقیق نتایج توسط افسران آموزشدیده صورت نخواهد گرفت."
لازم به ذکر است که نتایج RFR هرگز به عنوان مدرک بدون بررسی دستی استفاده نمیشود و آموزش و راهنماییهای جدید پس از این گزارش به نیروهای پلیس سراسر کشور ارائه شده است. دولت همچنین از بازرسی کل نیروی انتظامی خواسته است تا با کمک ناظر علوم قانونی، استفاده پلیس از فناوری تشخیص چهره را در پرتو این آزمایشها بازبینی کند.
این آزمایشها در حالی منتشر شدند که وزارت کشور بریتانیا مشاورهای را برای گسترش استفاده پلیس از فناوری تشخیص چهره آغاز کرده است، با وجود انتقادهای متعدد از انواع مختلف استقرار این فناوری. دولت بریتانیا سالانه دهها میلیون پوند صرف فناوری تشخیص چهره میکند و از زمان راهاندازی PND در سال ۲۰۱۱، همواره بر اثربخشی آن تاکید کرده است.
تعهدات آتی و چالشهای اعتماد عمومی به تشخیص چهره
با توجه به افشاگریها و نتایج آزمایشهای اخیر، مسیر آینده برای فناوری تشخیص چهره در بریتانیا با چالشهایی همراه است. از یک سو، مقامات بر پتانسیل این فناوری در مبارزه با جرم و جنایت و افزایش امنیت عمومی اصرار دارند. از سوی دیگر، نهادهای ناظر و مدافعان حقوق مدنی بر لزوم شفافیت، مسئولیتپذیری و جلوگیری از تبعیض تأکید میکنند.
استقرار موفقیتآمیز الگوریتم جدید "آیدیمیا" که ادعا میشود عاری از سوگیری است، میتواند گام مهمی در جهت بازگرداندن اعتماد عمومی باشد. اما این امر مستلزم نظارت دقیق و ارزیابی مستمر است تا اطمینان حاصل شود که فناوری تشخیص چهره ابزاری برای عدالت است، نه عامل تشدید نابرابریها. بحث گستردهتر در مورد تعادل بین حریم خصوصی فردی و امنیت ملی در عصر دیجیتال، همچنان در کانون توجه باقی خواهد ماند و استفاده از فناوریهای پیشرفته مانند تشخیص چهره را به موضوعی حساس و پیچیده تبدیل میکند.
مطالب مرتبط
- یوروپل با عملیات «گریم»، ۱۹۳ مظنون به «خشونت به عنوان سرویس» را در سراسر اروپا دستگیر کرد
- بدافزار بسیار خطرناک Albiriox کنترل کامل دستگاههای اندرویدی را به هکرها واگذار میکند
- حمله Whisper Leak حریم خصوصی مکالمات با هوش مصنوعی را به خطر میاندازد
- شرکت جاسوسافزار اسرائیلی اینتلکسا با وجود تحریمها همچنان تلفنها را هک میکند
