アルゴリズム実験が貧困に暮らす人々にどのように害を与えるか

画像:セントマーティンズプレス

ヴァージニアユーバンクスは、ほとんどの場合と同じ過ちを犯しました。彼女は、住宅を購入するのに苦労している低所得の女性と仕事をしているときに、インターネットなどの重要なテクノロジーへのアクセスにも苦労していると思いました。しかし、このテクノロジーは単にアクセス可能であるだけでなく、貧困の人々が生き残るために必要な基本的なリソースへのアクセスに浸透しており、しばしば彼らに対して不正を働いています。彼女の新しい本、Automating Inequality:How High Tech Tools、Profile、Police and Punish the Poor  は、テクノロジーが貧困に苦しむ人々を定義するようになった方法について説明しています。

「実際、テクノロジーは本当にユビキタスでした」とEubanksは電話インタビューでGizmodoに語っています。低所得の女性のための住宅を探す彼女の仕事の中で、多くの人が「テクノロジーが女性を監視したり、罰したり、リソースへのアクセスからそらしたりしているように感じた」と彼女に言いました。これらの女性は、福祉事務所に行くか、刑事司法制度に対処するか、公営住宅に申請するかにかかわらず、貧困とそれに伴う多くの危機を乗り越えようとしたとき、自動化がますます人間のつながりと理解に取って代わっていることに気づきました。

これが、今日、不平等自動化の核心になりました公共資源の必要性が高まるにつれ、Eubanksは、福祉、フードスタンプ、住宅などの公共サービスの申請プロセスを自動化する州が増えていることを発見しました。Eubanksは2007年にインディアナ州で本を開き、知事がIBMと自動化契約を締結しました。フードスタンプとメディケイドの申請プロセス。地元のケースワーカーをオンライン申請、統計モデル、地域のコールセンターに置き換えます。

「そのシステムが行ったことは、地元のケースワーカーと彼らが奉仕した地区との間のつながりを明確に断ち切ることでした」と彼女は言います。「その結果、人々は福祉をやめ、自給自足の方法を見つけることはできませんでした。その結果、食糧や医療などの基本的人権に対する利益の否定、インディアナ州の極度の貧困の増加、さらには死さえも生じました。」

2009年、インディアナ州は、不適切な拒否、文書の欠落、待機時間の増加を主張して、IBMの契約を撤回しました。さらに、移行中、発作、心臓および肺の薬を服用している重症のレシピエントは、給付を拒否され、オンラインシステムを介して再申請する必要があると言われました。ある80歳の女性は、心不全で入院している間、再登録期間中に再登録しなかったために拒否されました。ユーバンクスは、ガンで亡くなったために給付を失った年配の女性、オメガ・ヤングの物語を語っています。2012年の控訴裁判所は、IBMがシステムの自動化に失敗したことにより、州との契約に違反したと認定しました。6年後、IBMは、失敗した自動化ギャンビットをめぐってインディアナとの戦いをまだ訴訟中です。

Automating Inequalityは、これらのケーススタディを使用して、これらの社会的変動をグラフ化します。国の貧困の増加、貧困層の支援に割り当てられるリソースの減少、自動化の意思決定の増加。ユーバンクスが説明するように、必要としている人々を評価するこれらの新しい技術支援の方法は、貧困自体と貧しい人々が貧困に値するという信念についての何十年にもわたるレトリックを軽蔑することに根ざしています。インディアナ州のメディケイド申請者とロサンゼルスの住宅申請者と話すと、ユーバンクスは、給付金を申請するデータ収集プロセスが、今ではさらに侵襲的で、非人格的で、容赦がないことに気づきました。さまざまな状況に基づいて決定を下す人間のケースワーカーがいなければ、薬物使用、教育レベル、婚姻状況、セックス中にコンドームを使用するかどうかに関するオンラインの非常に個人的なアンケートへの回答は、統計モデルの単なるデータポイントになり、 公共サービスを変革します。

「私たちは、国として、貧困は個人の失敗であり、それはごく少数の人々にのみ起こると信じています」とユーバンクスは続けます。「そしておそらく人々は病的であるか、彼らは悪い選択をしました。ですから私たちは、自己決定を支援したり、人間の能力を解き放つことに時間と労力を費やすのではなく、個人の貧困が彼ら自身のせいであるかどうかを判断しています。そのため、これらのツールはそれを実現するために進化しました。」

データ収集は貧しい人々に対して偏っているだけでなく、彼らをさらに罰します。この本の3番目のケーススタディは、児童虐待の可能性を予測することを目的としたピッツバーグのアルゴリズムモデルです。このモデルは、虐待またはネグレクトが申し立てられている世帯で労働者が訴訟を起こす必要があるかどうかを判断する際に、131の要素を考慮しています。システムの周期的な性質は、Eubanksが「貧困プロファイリング」と呼ぶものを危険にさらします。

著者ヴァージニアユーバンクス。画像:セントマーティンズプレス

このプロセスは、「公的プログラムにアクセスする人々に関する郡と州のデータのみを使用しているため、働く家族を過剰に監視します」とユーバンクス氏は言います。ケースを開く必要があるかどうかを判断する際に、アルゴリズムモデルは、ベビーシッターまたはアルコール依存症の匿名からのレポートに含まれる重要な情報を除外します。代わりに、家族の教育レベル、婚姻状況、彼らが依存している公的資源などを探します。すべての家族に同じメトリックを適用することによってこれらの決定を標準化しようとする際に、アルゴリズムモデルは、統計の背後にある条件と状況が家族ごとに異なるという事実を無視します。たとえば、家族が民間施設(公記録外)で依存症の問題を治療するためのお金を持っている場合、またはフードスタンプを申請する代わりに友人から現金を借りて収入を得る場合、彼らのスコアは膨らみます。公的扶助に依存している人々にとって、公共サービスとの各相互作用は家族に疑いを示します。「それは、貧しい労働者の家族がこれらのリソースをより多く使用し、その後より多く監視されるため、子供にとって危険であると見なされるフィードバックループを作成します。」

「私が本の中で話をした人々の一人は、娘を救急治療室に連れて行った後、娘の処方箋を買う余裕がなかったため、医学的怠慢について調査されました」とユーバンクスは説明します。この場合、ソーシャルワーカーは、家族が経済的支援を必要としているためにこれが発生したと判断することを願っています。代わりに、統計モデルは、子供に治療が提供されなかったことを示しています。「これらは大規模な社会的危機であり、人々に手頃な価格の医療がないなど、結果は個々の家族に上陸することになります。」それは、医療を手に負えないものにするシステムではなく、薬を買う余裕がない人のせいです。

家族の適応度を決定するとき、ピッツバーグ統計モデルは、すべての直接の家族だけでなく、拡大家族にもスコアを実行します。(低所得の家族は、同じ世帯に住む拡大家族を持っていることがよくあります。)Eubanksは、公共サービスとのあらゆる相互作用を判断して、家族のネットワークに偏りが広がるため、これを「ウイルス」と比較します。公的扶助によって一時的に埋められた資源のギャップを生み出す社会的危機は見えなくなります。単純にデータポイントがあります。子供を世話できるように見える家族とそうでない家族です。

「国は貧困の周りに魂を正しく向ける必要があります」とEubanksは言います。「そして、私たちは今、本当にその危機に直面していると思います。」

アルゴリズムの不正の新たな分野と、テクノロジーが貧困に与える影響への関心の高まりに言及して、ユーバンクスは希望を持っていると述べています。

「多くの家族が深く苦しんでいる深刻な希少性の時代に、私はこれらのツールが現時点で[前面に]来たのは偶然ではないと信じています。それは非常に希少性の政治への反応です」と彼女は言います。公的資源の割り当ての恒久的な自動化に向かう​​流れになっている今、手遅れになる前に、埋め込まれたバイアスに対処し、これらの問題に正面から向き合う時です。「それは、これらの不平等を非常に目に見えるようにするので、この瞬間を本当に私たちに提供し、問題の根本を実際に攻撃します。」

提案された投稿

迷宮のオンライン広告市場でフォックスニュースと戦う方法

迷宮のオンライン広告市場でフォックスニュースと戦う方法

あなたがFoxNewsのニュースの扱いにかなり腹を立てている合理的な人だとしましょう。おそらくそれは、ホストがCOVID-19の大流行の真っ只中に危険な嘘を積極的に吐き出した方法、または1月6日の暴動の物語を恥知らずに紡ぎ続ける方法です。

イカゲームのシーズン2ティーザーは古い顔と新しいゲームを約束します

イカゲームのシーズン2ティーザーは古い顔と新しいゲームを約束します

イカゲームは間違いなく2021年のNetflixの番組であり、フォローアップがあるかどうかについて繰り返し恥ずかしがった後、ストリーマーはヒットシリーズがシーズン2に戻ってくることを再確認し、 「まったく新しいラウンドがやってくる」とNetflixのツイッターをからかった。

関連記事

ゲイリー・オールドマン、グリーヴァス将軍、スター・ウォーズの最悪の予約済み前日譚バディ

ゲイリー・オールドマン、グリーヴァス将軍、スター・ウォーズの最悪の予約済み前日譚バディ

スターウォーズの楽しみの一部は、有名な俳優がその多くの映画やショーの1つに突然登場するのを見ることです。サム・ジャクソンやミン・ナ・ウェンと同じように、彼らは重要なキャラクターとしてそこにいるのかもしれません。ザックブラフやフォレストウィテカーのようなカメオ。

ジョジョの奇妙な冒険とプロメアの声優であるビリー・カメッツが35歳で亡くなりました

ジョジョの奇妙な冒険とプロメアの声優であるビリー・カメッツが35歳で亡くなりました

アニメとビデオゲームの声優であるビリー・カメッツは35歳で亡くなりました。カメッツのクレジットには、ジョジョの奇妙な冒険の英語吹き替えで東方城輔の声が含まれています。 、4月にステージ4の結腸癌と診断されました。

ノープの新しい予告編は実際に何かを台無しにしましたか?

ノープの新しい予告編は実際に何かを台無しにしましたか?

ジョーダン・ピールの映画は、彼のベルトの下にたった2本の映画があり、今ではそれ自体がイベントとなっています。不気味なビジュアル、邪悪なユーモアのセンス、またはホラー映画で黒人を見たいだけの場合でも、監督/作家は、Get OutとUsのおかげで(批判的にも経済的にも)大きな支持を集めています。

MORE COOL STUFF

ケイト・ブランシェットは3日間一緒に夫と一緒に寝て、25年経ってもまだ夫と結婚しています

ケイト・ブランシェットは3日間一緒に夫と一緒に寝て、25年経ってもまだ夫と結婚しています

ケイト・ブランシェットは、夫に会ったとき、典型的な交際のアドバイスに逆らいました。

マイケルシーンが非営利の俳優である理由

マイケルシーンが非営利の俳優である理由

マイケルシーンは非営利の俳優ですが、それは正確にはどういう意味ですか?

ホールマークスターのコリンエッグレスフィールドがRomaDramaLiveでスリル満点のファンと出会う![エクスクルーシブ]

ホールマークスターのコリンエッグレスフィールドがRomaDramaLiveでスリル満点のファンと出会う![エクスクルーシブ]

特徴的なスターのコリン・エッグレスフィールドは、RomaDrama Liveでのスリル満点のファンとの出会いについて料理しました!加えて、大会での彼のINSPIREプログラム。

「たどりつけば」をオンラインでストリーミングできない理由

「たどりつけば」をオンラインでストリーミングできない理由

ノーザンエクスポージャーが90年代の最も人気のある番組の1つになった理由を確認するには、Blu-rayまたはDVDプレーヤーをほこりで払う必要があります。

このドキュメントは、戦闘機のパイロットであることが実際に吸うことができる理由を示しています

このドキュメントは、戦闘機のパイロットであることが実際に吸うことができる理由を示しています

3週間で900ページを覚える必要があります。後続のテストの合格点は85%で、ほとんどのスコアは95%を超えています。

私がスプラトゥーンの新しいものを試してみるのを見てください、ライブ[完了!]

私がスプラトゥーンの新しいものを試してみるのを見てください、ライブ[完了!]

8月の大きなアップデートがここにあります!地獄、Splatfestは(ほぼ)ここにあります!一緒に体験してみましょう。太平洋標準時の5:35頃から、スプラトゥーンの試合をライブストリーミングで視聴できます。Twitchに参加する場合は、スプラトゥーン、他のゲーム、一般的な生活など、ほとんどすべてのことについてチャットしたいと思います。

ストローでケチャップボトルの詰まりをすばやく取り除く

ストローでケチャップボトルの詰まりをすばやく取り除く

詰まったケチャップボトルほど、フライドポテト関連の熱意を弱めるものはありません。ボトルを打ち込んで提出するのは約半分の時間ですが、実際に物事を再び流すには、少し空気を入れる必要があります。

Ballghazi Takesが復活し、これまで以上に非常識になりました

Ballghazi Takesが復活し、これまで以上に非常識になりました

昨日、ボールガジは、スーパーボウルチャンピオンのニューイングランドペイトリオッツがクォーターバックのトムブレイディと彼のチームメイトが握りやすくするために意図的にボールを規制圧力以下に収縮させたかどうかを調べることをNFLの任務に就いたテッドウェルズが驚異的なクライマックスに達しました投げる—そうです、ペイトリオッツはおそらく詐欺師をだましていることがわかりました。陰謀!隠ぺいする!NFLをカバーし、意見を述べるために支払われたコラムニストやジャーナリストの大群は、ほとんどの場合悪いです。

Zendaya Wishes Boyfriend Tom Holland Happy Birthday with Cuddly Photo: He 'Makes Me the Happiest'

Zendaya Wishes Boyfriend Tom Holland Happy Birthday with Cuddly Photo: He 'Makes Me the Happiest'

Zendaya shared a sweet photo in honor of boyfriend Tom Holland's 26th birthday Wednesday

小さな女性:脳卒中を患った後に病院から解放されたアトランタのジューシーな赤ちゃん:「まだ癒し」

小さな女性:脳卒中を患った後に病院から解放されたアトランタのジューシーな赤ちゃん:「まだ癒し」

シーレン「Ms.JuicyBaby」ピアソンは、先月脳卒中で入院した後、「もう一度たくさんのことをする方法を学ばなければならない」ため、言語療法を受けていることを明らかにしました。

エマストーンは彼女のクリフサイドマリブビーチハウスを420万ドルでリストアップしています—中を見てください!

エマストーンは彼女のクリフサイドマリブビーチハウスを420万ドルでリストアップしています—中を見てください!

オスカー受賞者の世紀半ばの家には、3つのベッドルーム、2つのバス、オーシャンフロントの景色があります。

ジーニー・メイ・ジェンキンスは、母乳育児の経験の中で、彼女は「本当に、本当に落ち込んでいる」と言います

ジーニー・メイ・ジェンキンスは、母乳育児の経験の中で、彼女は「本当に、本当に落ち込んでいる」と言います

ジーニー・メイ・ジェンキンスは、生後4か月の娘、モナコに母乳育児をしていると語った。

すべてが過大評価されています

すべてが過大評価されています

高価なレストランからの貴重な教訓の1つは、「レモンチーズケーキを食べたら、やめられない」とクライアントから言われたことです。「私が始めたら、まるでケーキ全体を終わらせなければならないかのようです」人間は自分の偏見に挑戦するのがあまり得意ではありません。

相互メンターシップについて:子供たちに良いこと、あなたは彼らを必要としています

相互メンターシップについて:子供たちに良いこと、あなたは彼らを必要としています

少し前のことですが、私が一種の嫌いな人だった時期がありました。2009年のことで、ブランドサイドでのキャリアを経て、エージェンシーに就任したばかりでした。古いアイデアを再利用し、進歩を恐れた企業が支配的なキャリアであり、停滞状態が遍在するようになりました。

プロダクトマネージャーの唯一の最も重要な責任

何年にもわたって、私は多くのフレームワーク、アプローチ、およびツールを使用しました。私は、製品開発とライフサイクルのさまざまな分野に焦点を当てて、多くのフェーズを経ました。

Tags

Categories

Top Topics

Language