خودکارسازی نابرابری: چگونه ابزارهای پیشرفته، فقرا را شناسایی کرده، زیر نظر گرفته و مجازات میکنند
Virginia Eubanks
این کتاب بررسی عمیقی از اثرات فناوری و دادههای بزرگ بر اقشار ضعیف جامعه ارائه داده و به این موضوع میپردازد که چگونه تکنولوژی و سیستمهای خودکار میتوانند به تبعیض علیه افراد فقیر و طبقه کارگر منجر شوند. این تکنولوژیها شامل الگوریتمها و مدلهای آماری هستند که ممکن است به روشی ناعادلانه دادهها را تفسیر یا تصمیماتی اتخاذ کنند که به ضرر فقرا باشد .
نویسنده در کتاب چند نمونه واقعی از موضوع مورد بحث خود از جمله موارد زیر را بررسی میکند:
• مورد ایالت ایندیانا : این ایالت بیش از یک میلیون درخواست برای خدمات بهداشتی و اجتماعی را تنها به دلیل چند اشتباه در فرمها رد کرده است. سیستمی که برای بررسی این درخواستها به کار رفته، هر گونه اشتباه کوچک را به عنوان نشانهای از عدم همکاری تفسیر میکند.
• مورد لس آنجلس : در این شهر الگوریتمی وجود دارد که آسیبپذیری افراد بیخانمان را محاسبه میکند تا آنها را برای دریافت مسکنهای حمایتی محدودی در اولویت قرار دهد. این امر نشان میدهد که سیستمها چگونه میتوانند در انتخاب افراد برای دریافت خدمات نقش داشته باشند.
• مورد پیتسبورگ : یک سازمان رفاه کودک از مدلهای آماری برای پیشبینی اینکه چه کودکانی ممکن است قربانی سوء استفاده شوند، استفاده میکند. این نوع پیشبینی میتواند منجر به قضاوتهای نادرست شود و خانوادههای بیگناه را تحت فشار قرار دهد.
یوبانکس در این کتاب همچنین تأثیر ابزارهای پیشرفته را بر حقوق بشر مورد بررسی قرار داده و اشاره میکند تصمیمگیریهای مبتنی بر دادهها و الگوریتمها به طور خاص به نفع طبقات ثروتمند عمل میکند و در برابر فقرا تبعیض قائل میشود. او استدلال میکند این سیستمها موجب میشوند فقر و مشکلات اجتماعی از دید جامعهای که در آن زندگی میکنند، پنهان بماند و همچنین انتخابهای غیرانسانی در مورد تخصیص منابع صورت گیرد.
یوبانکس درباره عواقب اجتماعی و اخلاقی این روند میگوید چنین سیستمهایی به تضعیف دموکراسی و بدتر شدن شرایط زندگی فقرا منجر میشوند. او هشدار میدهد وقتی تصمیمات مهم با استفاده از الگوریتمها و دادههای شخصی گرفته میشود، حقوق بشر و ارزشهای اخلاقی که در جامعه به آنها اهمیت میدهیم، به خطر میافتد.
این کتاب به طور کلی نقدی اجتماعی و تکنولوژیک است که برای هر کسی که نگران نابرابریهای اجتماعی و تأثیر فناوری بر زندگی انسانها باشد، خواندنی ضروری به شمار میآید.کتاب «خودکارسازی نابرابری» به ما یادآوری میکند فناوری و الگوریتمها میتوانند دو روی سکه باشند؛ از یک سو، آنها میتوانند کارها را سریعتر و مؤثرتر انجام دهند، اما از سوی دیگر، میتوانند به تبعیض و از بین رفتن حقوق انسانی منجر شوند. این کتاب به خوانندگان این امکان را میدهد که با دیدی انتقادی به فناوریهای جدید نگاه کرده و نسبت به پیامدهای اجتماعی آنها حساس باشند.
کتاب را انتشارات St. Martin's در سال 2018 به زبان انگلیسی و در قالب 272 صفحه به بازار نشر ارائه کرده است.
نظرات کاربران