متحده' سیستم های خودکار در حال به دام انداختن شهروندان در اداری کابوس با زندگی خود را در خط

Lindsay پری 30 هفته و در bedrest زمانی که شوهرش جاستین متهم شده بود از بیکاری تقلب و جریمه $10,000 پس از از دست دادن شغل خود را به عنوان یک آشپز در سال 2014. این زن و شوهر که مورد مناقشه این اتهامات خواستار محاکمه دولت بیکاری آژانس ارسال پیام های آنلاین و حتی بارها و بارها در فرد اما هیچ چیز کار می کرد. "وجود دارد وحشت از" اوه خدای من دولت آینده پس از ما چه کار می کنیم اشتباه است؟'" می گوید لیندسی پری در حال حاضر 39.

آن را نمیگیرد طولانی برای زن و شوهر در زندگی مالی به سقوط. اظهارنامه مالیاتی خود کشف و ضبط شد به مدت سه سال در یک ردیف خود را ون بود repossessed و در سال 2017, آنها برای ورشکستگی زمینه. میشیگان معکوس اتهامات در سال 2017 و بازپرداخت زن و شوهر $6,000 اما این آسیب در حال حاضر انجام شد. که پول برای پرداخت هزینه ورشکستگی وکلا و سه سال بعد لیندسی پری می گوید که به دلیل ورشکستگی خود را نمی توانند دریافت وام مسکن, اجاره ماشین, و یا اجاره آپارتمان در خود و برای خود و سه فرزند خود را. "من تقریبا 40 سال و آنها می خواهند یک شرکت امضاء کننده" او می گوید. "این فقط باعث می شود شما احساس می کنید کمتر فرد است."

پری شوهر یکی از حدود 40 ، 000 نفر در سراسر میشیگان بودند که به اشتباه متهم از بیمه بیکاری تقلب در بین سال های 2013 و 2015 به عنوان یک نتیجه از خصوصی ساخته شده است مستعد خطا نرم افزار سیستم اداره شده توسط دولت با حداقل نظارت دولت. دولت تاکنون مشغول تمیز کردن برنامه ظروف سرباز یا مسافر با استرداد کسانی که به دروغ متهم کرده است. در عین حال برای Michiganders مانند پری, خانواده, کابوس تلاش برای بازسازی زندگی خود می رود. و به عنوان بسته های پول در ایالات و شهرستانها در سراسر کشور به نوبه خود به سیستم های مشابه به صرفه جویی در پول و ساده کردن عملیات بیشتر آمریکایی ها می تواند پیچیده شده در یک شبیه اداری کابوس.

میشیگان بیکاری سیستم شده است reined در, اما سال بعد طرفداران هنوز هم به جبران برای کسانی که برنامه های کامپیوتری به دروغ متهم شده است. "به نظر من آن را به عنوان شخصی می گوید:" تونی پاریس منجر وکیل در قند قانون مرکز دیترویت-بر اساس غیر انتفاعی است که مبارزه کرده است حدود 500 تقلب و موارد مرتبط با سیستم برنده نه در 10. در مقر این گروه قرار دارد در طبقه دوم از یک کلیسای کلیسای خود انباشت اشیاء بدست آمده با اسناد و مدارک مربوط به ده ها تن از موارد. آن را در 8 p. m. و او را از نوشیدن قهوه سیاه و سفید. "این واقعا تغییر قند قانون" او می گوید: دولت بیکاری رسوایی. "این واقعا زندگی من را تغییر داد."

داستان که افتضاح می رود دهه. حتی قبل از رکود بزرگ میشیگان بود مشکل مالی. بیکاری بود که معلق در هوا بیش از شش درصد در سال منتهی به سال 2008 در حالی که درآمد بودند راکد در مقایسه با سایر نقاط کشور. زمانی که رکود اقتصادی رخ داد درآمدهای دولت به شدت کاهش یافت و منجر دولت برای کاهش بیش از 3 میلیارد دلار در هزینه های بین سال های 2009 و 2011. این آژانس بیمه بیکاری (UIA) در خصوص بد شکل است. اواخر سال 2010 آن را بدهکار 3.8 میلیارد دلار به دولت فدرال و در سال 2011 میشیگان اداره کنترول و تفتیش در بر داشت که آژانس ممکن است موفق به اصلاح ده ها میلیون دلار در پرداخت اضافی و بهبود صدها میلیون نفر در تقلب مجازات بین سال های 2007 و 2010.

در تلاش برای نوسازی UIA میشیگان قرارداد با یک گروه خصوصی با تکنولوژی فروشندگان برای ایجاد و راه اندازی یک $47 میلیون سیستم شناخته شده در مجموع به عنوان میشیگان داده یکپارچه سیستم خودکار یا MiDAS. قصد در بهبود بهره وری MiDAS' طراحان و برنامه ریزی آن برای تعیین بیکاری واجد شرایط, پیگیری پرونده و حتی رهگیری مالیات بر درآمد بازپرداخت برای کسانی که "به طور خودکار انتخاب شده توسط سیستم" با توجه به 2013 میشیگان صدور مجوز و نظارتی وزارت امور یادداشت.

اگر MiDAS " تنها هدف جدید برای تولید موارد تقلب در آن به زیبایی کار کرده. در سال 2014 و با کمک سیستم جدید UIA باز بی سابقه 26,882 چنین مواردی بیش از پنج برابر نمونه شماره. بسیاری از کسانی که متهم به حال خود تجدید نظر و بارها رد کرده و برخی تبدیل به کمک های حقوقی گروه برای کمک به. وکیل مشغول به کار در این موارد به زودی کشف یک روند نگران کننده: دولت بود و اغلب قادر به ارائه شواهد برای حمایت از MiDAS' تقلب کرده است. از طریق اداری جلسات طرفداران به زودی به این باور است که MiDAS شد تورم از بی اساس موارد است. در عین حال دولت نگهداری سیستم در محل از طریق 2015. در طی نزدیک به دو سال MiDAS ارسال اتهامات به ده ها هزار نفر از ساکنان میشیگان و ضبط میلیون ها دلار در دستمزد و اظهارنامه مالیاتی.

میشیگان حقوق مدنی وکلا مانند پاریس را از فراتر از مبارزه با MiDAS موارد یک توسط یک. قبل از صحبت کردن به پاریس فقط در حال بازگشت از یک مرکز شهر دیترویت دادگاه که در آن او استدلال در Cahoo v. SAS تجزیه و تحلیل طرح دعوی در دادگاه فدرال بیش از MiDAS. این متهمان عبارتند از فروشندگان تکنولوژی سریع شرکت و موسسه SAS, مدیریت, مشاور, CSG راه حل های دولت و چندین میشیگان مقامات همه آنها مربوط به ساختمان و یا عامل MiDAS یا یکی از اجزای آن یا در UIA رهبری است. در میان شاکیان ادعا می کند این است که کسانی که پیمانکاران بوده است سپرده با دولت وظایف و بنابراین مسئول نقض قانون اساسی آورده MiDAS' غیر قانونی و اتهامات.

میشیگان دولت کاهش یافته است به نظر با توجه به انتظار دادخواهی. در سال 2017, دولت قوه مقننه با تصویب قانون الزام سازمان را به تقلب تعیین دستی در حالی که یک دادگاه فدرال در حل و فصل که در آن سال مورد نیاز دولت بیکاری آژانس به بررسی MiDAS تقلب تعیین شده بین ماه های اکتبر 2013 آگوست 2015. به تاریخ Michiganders تحت تاثیر MiDAS دریافت کرده اند بیش از 20 میلیون دلار در بازپرداخت هر چند برخی از طرفداران می گویند که به خوبی در زیر آنچه دولت در واقع مدیون شهروندان است.

CSG دولت راه حل نیست پاسخ به درخواست های متعدد برای نظر. SAS Institute سخنگو می گوید وجود دارد "هیچ پایه و اساسی" برای طرح دعوی در دادگاه علیه این شرکت که خود نرم افزار اجرا شده در سال 2015 شد جدا از MiDAS و تنها ارائه آگهی به جای انجام وظایف آژانس است. (پاریس مدعی SAS نرم افزار کمک به نامناسب یافته های تقلب "به سال 2016.") جیمز هریسون یک شریک در سریع شرکت می گوید با آن نرم افزار کار راه دولت در نظر گرفته شده و آن را نه یک فروشنده آن مسئولیت تفسیر قانون است. "تا به حال [سیستم] ممکن است این امر ثابت شده است حق دور می گوید:" هریسون. "من فکر می کنم که خیلی خوب است و شواهد آن را هرگز اشتباه بود زیرا به خوبی شناخته شده است چه اتفاقی می افتد و آن را هنوز هم تصمیم به نگه داشتن آن را انجام می دهند. این تنها زمانی که آن را به یک شماره به اندازه کافی در این مقالات که مردم به ما آمد و گفت: "من حدس می زنم شاید شما باید به نوبه خود آن را در حال حاضر."

برای کسانی که تحت تاثیر MiDAS برای مبارزه حقوقی جبران شده است یک سال تقلا کردن. یک مورد مربوط به در حال حاضر به دنبال کلاس اقدام وضعیت Bauserman v. آژانس بیمه بیکاریشده است ساخت راه خود را از طریق دادگاه های ایالتی میشیگان پس از 2015. زیر سال پیش از محاکمه قانونی کشمکش دولت دادگاه تجدید نظر مجاز مورد به ادامه در دسامبر 2019. اما دولت وکلای مدافع به دادگاه تجدید نظر به دادگاه عالی میشیگان در ماه ژانویه است. مشتریان "در حال نا امید و آنها دلسرد شده و آنها نمی توانند درک و چرا از این است که تا زمانی می گوید:" جنیفر خداوند, مدنی و حقوق, استخدام وکیل, کار در Bauserman. "بسیاری از اوقات این افراد فراموش احساس فراموش شده است."

سیستم های خودکار مانند MiDAS در حال مستقر در سراسر کشوربه عنوان کشورهای شهرستانها و شهرهای تحت فشار بودجه نگاه به کاهش هزینه ها — روند که به احتمال زیاد برای ادامه به شیوع کروناویروس مورد اقتصاد محلی است. در میان دیگر الزامات دولت نیاز به پیدا کردن راه هایی برای کاهش هزینه ها و منافع به تعادل بودجه ورق می گوید رشیدا ریچاردسون مدیر تحقیقات سیاست در تکنولوژی پاسخگویی غیر انتفاعی AI در حال حاضر. "کسانی که نیازهای مختلف ضرورت استفاده از این نوع فن آوری حتی اگر آنها ناقص در نرم افزار" او می گوید. این نرم افزار رایج بوده است برای سال; یکی ممکن است سخت و فشرده برای پیدا کردن یک دولت است که به صورت خودکار مقدار قابل توجهی از آن بوروکراسی. فقط در دو سال گذشته سریع شرکت های که کار می کرد در MiDAS سیستم تکمیل شده پروژه های جدید در کارولینای جنوبی, New Mexico, ایلینوی و تنسی. دیگر الگوریتمی سیستم های مستقر شده اند در سراسر طیف وسیعی از برنامه های دولت از تطبیق افراد بی خانمان با مسکن در لس آنجلس به نظم معلمان در هوستون برای نظارت بر رفاه کودکان در ایالت ایلینوی است. اما در حالی که بسیاری از جمله سیستم های تابع به عنوان در نظر گرفته شده و تعدادی در حال مملو از مشکلات دعوت از اعتراض عمومی و سال های طولانی دعاوی بیش از مسائل مانند تبعیض و نقض آزادی های مدنی و حتی به خطر انداختن زندگی مردم است.

پس از رود آیلند مستقر $364 میلیون خودکار سیستم در نظر گرفته شده برای ساده کردن فدرال و ایالتی مزایای برنامه های 2014, ساکنان وابسته به کمک های دولت گزارش خود را از مزایای رفت و گم شده است. دولت باقی مانده بود با تعداد 15000 متقاضیان فدرال دو طبقه پرونده های حقوقی اقدام و در نهایت یک عذرخواهی از Deloitte ساخته شده است که سیستم. (دولت می گوید مزایای سیستم پایدار است از اواخر سال 2018 با حوادث در حال حاضر در یک زمان تمام کم و پرداخت جلسه صنعت بهنگام استاندارد.) در آرکانزاس طرفداران واصل طرح دعوی در دادگاه در سال 2016 بیش از یک الگوریتمی ابزار است که مزایای برش برای حدود 4000 افراد مسن و یا افراد معلول دریافت خواهید کرد که در صفحه اصلی خدمات از طریق پزشکی چشم پوشی از برنامه. کت و شلوار ادعا که ساکنان نمی شد به درستی مطلع در مورد سیستم جدید و نیست قادر به مسابقه یافته های آن است. از طریق مورد آن نازل شد که فلج مغزی شرایط نادرست کدگذاری در سیستم و نرم افزار استخدام یک الگوریتم است که نمی حساب برای شرایط دیابت. (دولت آمریکا را "تنظیم شده است که از جمله تغییرات مربوط به فلج مغزی و دیابت" و پس از آن شروع به استفاده از روش های مختلف برای تعیین ساعت مراقبت در 2019.) آیداهو را شاخه ای از اتحادیه آزادی های مدنی آمریکا در زمینه کت و شلوار در سال 2012 پس از دولت نهاد یک الگوریتم جدید برای تعیین پزشکی مراقبت بودجه برای تکامل افراد معلول که پس از آن کاهش بودجه برای هزاران نفر از دریافت کنندگان. اقدامات قانونی نشان داد که دولت فرمول تکیه بر اطلاعات تایید نشده و طرفداران می گویند که وقتی انسان بررسی algorithmically-تولید بودجه آنها اغلب این ابزار تا به حال مجموعه ای از مقادیر بیش از حد کم است. در حالی که یک سال 2017 حل و فصل اجباری دولت پیاده سازی یک سیستم جدید در این سال آیداهو در ماه آوریل خواسته دادگاه برای توسعه تا سال 2024. در یک بیانیه ارائه شده به زمان مت Wimmer, بخش پزشکی, مدیر, در, آیداهو, وزارت بهداشت و رفاه گفت که این برنامه در حال کار مشترک با بزرگسالان معلول و خانواده های آنها برای توسعه منابع جدید مدل تخصیص و پیگیری توسعه تلاش در این میان است. "کسانی که تلاش های صادقانه و مداوم اما نیاز به فشرده تلاش و زمان برای ساخت یک برنامه است که نیازهای ما بهره مند معلول در بهترین راه ممکن است" Wimmer نوشت.

آیداهو موردی به طور خاص نشان می دهد که حتی وقتی اداری نرم افزار شناخته شده است به خطاب می توان آن را تقریبا غیر ممکن است برای کسانی که مبتلا به مبارزه با آن تصمیم گیری. در بخشی که به دلیل این سیستم ها اغلب یک "جعبه سیاه" محافظت شده توسط تجارت پنهان کاری قوانین معنی عمومی نمی باشد آگاه در مورد چگونه کار می کنند در وهله اول. "نه تنها خودکار تصمیم گیری ابزار یک مشکل اما پس از آن گروه بود امتناع به مردم بگویید که چگونه آن را با خود [پزشکی] بودجه می گوید:" وکیل مولی کافکا که مشغول به کار در آیداهو مورد. "چگونه می تواند شما را به چالش چیزی اگر شما نمی دانید که چگونه آن را در حال تصمیم گرفت؟"

در عین حال آمریکایی ها زندگی می کنند و می میرند خروجی از این سیستم ها. کریستی Mathwig یک زن 61 ساله شاکی در ادامه آیداهو موردی که رنج می برد از دیستروفی عضلانی و مسائل دیگر به حال او مراقبت بودجه تقریبا نصف شده توسط الگوریتم قبل از عزم خود را معکوس شد توسط یک ایالت دستور. Mathwig که نیاز به کمک در تمام جنبه های مراقبت از خودش — از جمله با استفاده از حمام و یا نورد در تخت خواب — می گوید که اگر نرم افزار کاهش داده بود به او پرداخت و او خواهد بود "کاملا مرده در حال حاضر."

برخی از فن آوری طرفداران می گویند که زمانی که اجرا مسئولانه الگوریتمی ابزار نگه داشتن پتانسیل فوق العاده ای برای کمک به دولت انجام بیشتر برای شهروندان است. "شما می خواهید به استفاده از ارزش است که فن آوری به ارمغان می آورد به جدول به بار کردن مردم می گوید:" جنیفر Pahlka بنیانگذار و مدیر اجرایی سابق از کد برای امریکا کمک می کند که سیاستگذاران درک بهتر مدنی فن آوری است. و دولت ها در سراسر جهان در حال کار برای پیدا کردن راه هایی برای نگه داشتن الگوریتم خود را بیشتر پاسخگو برای تصمیم گیری کنند. در سال 2019 و کانادا مورد نیاز است که سیستم های خودکار است که تعیین در مورد مردم بود موضوع را به یک "الگوریتم ارزیابی تاثیر." همان سال شهر نیویورک وظیفه نیروی توصیه می شود ایجاد کانال های رسمی به گزارش الگوریتمی سیستم. و در ماه ژانویه, دانشگاه پیتسبورگ تشکیل یک کارگروه برای بررسی دولت الگوریتم در Allegheny County بالقوه تعصب.

اما هنوز مشکلات طاعون اداری نرم افزار. برای یکی وجود دارد "حرکت سریع و شکستن همه چیز" ذهنیت طراحی نرم افزار است که ممکن است کار به خوبی زمانی که شما در حال ساخت یک شبکه رسانه های اجتماعی, اما می تواند منجر به فاجعه در هنگام طراحی سیستم های واگذار شده دولت قدرت. "ما شاهد نرم افزار می اندازد که مردم را در زندان می کشد و تمام پول خود را دور تا شاید آن را باید یک توسعه فرهنگ است که بیشتر از یک جا با عواقب آن می گوید:" مسیحی Sandvig, یک استاد از رسانه های دیجیتال در دانشگاه میشیگان. دولت نیز باید بیشتر به دامپزشک نرم افزار قبل از صدور قرارداد ریچاردسون می گوید. "ما فقط پیدا کردن در مورد عواقب و یا حتی مشکلات احتمالی از این فن آوری و پس از آنها در حال حاضر در حال استفاده," او می گوید. برخی تا آنجا که به استدلال می کنند که اتوماسیون می خورد دور در یک دولت مشروعیت. "دور انداختن تخصص و nimbleness ... در حمایت از نرم افزار و اتوماسیون در برخی از نقطه آن شروع به تضعیف بسیار توجیهی اداری وزارت امور خارجه می گوید:" رایان Calo, یک استاد دانشگاه واشنگتن مدرسه قانون است.

هنگامی که با مشکلات اداری نرم افزار بوجود می آیند به عنوان آنها در میشیگان مقامات تمایل به سرزنش ناشناختنی ماهیت الگوریتم های خود را به جای مسئولیت خود را برای خروجی. که باعث ایجاد چه برخی از دانشمندان حقوقی تماس بگیرید "پاسخگویی شکاف" که در آن نه طراح و نه دولت مسئولیت برای یک الگوریتم تصمیم گیری. "اگر همه چیز می شود و کامپیوتری در این راه بدون تفکر از طریق پاسخگویی و شفافیت آنچه شما را تا پایان با یک جامعه ای که در آن هیچ چیز توجیه می گوید:" Sandvig.

که به نظر می رسد اتفاق می افتد در میشیگان. حتی کسانی که زندگی می کند از خط خارج شد توسط سیستم می گویند که آنها آن را دشوار برای اتصال مقامات منتخب با سیستم آنها ظاهرا قرار بود برای نظارت بر. "به عنوان غم انگیز آن را به عنوان برای تلفن های موبایل من نمی قرار داده و خیلی از سرزنش از آنچه اتفاق افتاده است در [فرماندار] و یا دولت می گوید:" برایان راسل که اعلام ورشکستگی پس از MiDAS غلط او را متهم کرد از تقلب در 2015. "من تو را دیدم این بیشتر به عنوان یک دستگاه موضوع است."

افرادی مانند راسل و هزاران نفر از دیگر Michiganders که می گویند آنها به اشتباه متهم توسط MiDAS نمی دانم زمانی که و یا حتی اگر آنها را دریافت خواهید کرد برای جبران تلفات ادعاهای گرفته اند در زندگی خود را. دو دعاوی مربوط MiDAS در حال انجام است. محرومیت یک حل و فصل نتایج هنوز هم انتظار می رود به ماه و یا سال های دور.

برای خانواده پری وجود دارد کمی ایمان است که یک سیستم است که اجازه دهید آنها را یک بار تا به حال خواهد شد را برای آنچه آنها را از طریق رفت. "بله یک کامپیوتر و ممکن است در نهایت تصمیم اما مردم باید پرداخت شده است با توجه به آنچه که در کامپیوتر انجام شد می گوید:" جاستین. "فقط وجود دارد بسیاری از مردم که می تواند کمک کرده اند که حتی نمی زحمت به منظور بالا بردن یک انگشت."

دریافت مختصر. ثبت نام برای دریافت داستان بالا شما نیاز به دانستن در حال حاضر.

لطفا یک آدرس ایمیل معتبر.

ثبت نام در حال حاضر

بررسی جعبه اگر شما نمی خواهید برای دریافت پیشنهادات از طریق ایمیل از زمان.

شما می توانید در هر زمان لغو عضویت. با ثبت نام شما موافقت به شرایط استفاده و سیاست حفظ حریم خصوصی

با تشکر از شما!

برای امنیت خود را به ما ارسال یک ایمیل تایید به آدرس شما وارد شده است. با کلیک بر روی لینک برای تایید اشتراک خود را و شروع به دریافت خبرنامه ما. اگر شما نمی توانید تایید در عرض 10 دقیقه لطفا پوشه اسپم خود را.

نوشتن به Alejandro de la Garza در alejandro.delagarza@time.com.