Každoročně je orgánům sociálního zabezpečení hlášeno zhruba 7 milionů dětí z důvodu možného zneužití, ale jak orgány určují, zda se dětem líbí Gabriel Fernandez jsou ve vážném nebezpečí a potřebují zásah?
Mnoho úřadů pro péči o děti spoléhá na posouzení rizik provedená pracovníky vyškolenými pro obsluhu telefonních linek, kde je hlášeno podezření na zneužívání, ale někteří se domnívají, že může existovat lepší způsob.
'Existuje spousta literatury, o které jsme viděli, že lidé nejsou nijak zvlášť dobří křišťálové koule,' řekla Emily Putnam-Hornstein, ředitelka Dětská datová síť a docent na USC, uvedl v nové doku-sérii Neflix „The Trials of Gabriel Fernandez.“ 'Místo toho to, co říkáme, je trénovat algoritmus k identifikaci, které z těchto dětí se hodí do profilu, kde by riziko dlouhého oblouku naznačovalo budoucí zapojení systému.'
Fernandez byl 8letý chlapec, který byl zbit a umučen k smrti matka a ona přítel , navzdory opakovaným výzvám jeho učitele a dalších orgánů, které hlásily podezření na zneužití. Nová šestidílná série zkoumá Fernandezův život a strašlivou smrt, ale také se na ni dívá z větší části systémové problémy v systému sociálního zabezpečení dětí, který mohl hrát roli.
Putnam-Hornstein tvrdí, že jednou ze strategií pro účinnější identifikaci dětí, které jsou nejvíce ohroženy, může být použití speciálně vytvořených algoritmů, které používají administrativní záznamy a dolování dat k určení skóre rizika pro každé dítě.
'Ve skutečnosti máme přibližně 6 nebo 7 milionů dětí, které jsou údajně zneužívány nebo zanedbávány každý rok v USA, a historicky způsob, jakým jsme učinili některá z našich rozhodnutí o screeningu, je založen pouze na hodnocení vnitřnosti,' řekla. „Prediktivní modelování rizik jen říká:„ Ne, ne, ne, pojďme k tomu zaujmout systematičtější a empirickější přístup. ““
Putnam-Hornstein a Rhema Vaithianathan, spolurežisér Centrum pro analýzu sociálních dat , byli schopni tuto myšlenku uvést do praxe v Allegheny County v Pensylvánii. Dvojice použila tisíce doporučení k týrání dětí k navržení algoritmu, který by určoval skóre rizika pro každou rodinu hlášenou úřadům ochrany dětí v kraji, podle Centrum pro zdraví žurnalistiky .
'Je zkoumáno zhruba sto různých faktorů,' vysvětlil v sérii doku Marc Cherna, ředitel odboru lidských služeb v okrese Allegheny. 'Některé základní příklady jsou historie dobrých životních podmínek dětí, historie rodičů, užívání drog a závislostí, rodinné duševní nemoci, vězení a odsouzení, zvláště pokud existují útoky a podobné věci.'
Kvůli velkému objemu hovorů mají úřady pro péči o děti v celé zemi za úkol určit, zda by měla být rodina vyšetřována na základě stížnosti, nebo zda by měla být podrobena detekční kontrole.
V roce 2015 bylo 42% ze 4 milionů obvinění obdržených v celé zemi, které se týkaly 7,2 milionů dětí, prověřeno The New York Times .
Děti však i nadále umírají na týrání dětí.
Systém používaný v okrese Allegheny je navržen tak, aby přesněji předpovídal, které rodiny pravděpodobně budou mít budoucí zapojení systému prostřednictvím analýzy dat.
'To, co mají třídiče, je spousta dat,' řekl Vaithianathan pro The Times. 'Ale je docela těžké se orientovat a vědět, které faktory jsou nejdůležitější.' V rámci jediného hovoru na C.Y.F. , můžete mít dvě děti, údajného pachatele, budete mít matku, možná budete mít v domácnosti dalšího dospělého - všichni tito lidé budou mít v systému historii, kterou může vyšetřující osoba vyšetřovat. Lidský mozek však není tak obratný, aby využil a pochopil všechna data. “
Nástroj pro screening rodiny Allegheny používá statistickou techniku zvanou „dolování dat“, aby se podíval na historické vzorce a „pokusil se předpovědět, co by se mohlo stát“ v daném případě, uvedla v sérii doku.
Každému případu je přiřazeno skóre rizika v rozmezí od jednoho do dvaceti - každý případ je kategorizován jako vysoce rizikový, středně rizikový nebo nízkorizikový.
Rachel Berger, pediatrka z dětské nemocnice v Pittsburghu, pro The Times v roce 2018 řekla, že to, co dělá prediktivní analýzu cennou, je to, že eliminuje část subjektivity, která do procesu obvykle vstupuje.
'Všechny tyto děti žijí v chaosu,' řekla. 'Jak C.Y.F. vybrat, které jsou nejvíce ohroženy, když všechny mají rizikové faktory? Nemůžete uvěřit množství subjektivity, která je součástí rozhodnutí o ochraně dětí. Proto miluji prediktivní analytiku. Konečně přináší určitou objektivitu a vědu k rozhodnutím, která mohou tak neuvěřitelně změnit život. “
Existují však také kritici, kteří tvrdí, že používání prediktivní analýzy závisí na datech, která již mohou být zkreslená. Minulý výzkum ukázal, že menšiny a rodiny s nízkými příjmy jsou často nadměrně zastoupeny v údajích, které jsou shromažďovány, což podle doku-série potenciálně vytváří předpojatost vůči afroamerickým rodinám nebo jiným rodinám menšin.
'Předsudky lidí a dat.'jděte ruku v ruce“, Podle Centra pro zdraví žurnalistiky Kelly Capatosto, vedoucí výzkumný pracovník na Kirwan Institute for the Study of Race and Ethnicity on Ohio State University. 'S těmito rozhodnutími přemýšlíme o dohledu a kontaktování systému - s policií, agenturami péče o děti, jakýmikoli agenturami poskytujícími sociální péči.' Bude nadměrně zastoupen v komunitách (s nízkými příjmy a menšinami). Nemusí to nutně svědčit o tom, kde k těmto případům dochází. “
Erin Dalton, zástupkyně ředitele analytické, technologické a plánovací kanceláře okresu Allegheny, připustila, že zaujatost je možná.
'V našich systémech je jistě zkreslení.' Zneužívání dětí vnímáme my a naše data nejsou funkcí skutečného zneužívání dětí, je to funkce toho, kdo je nahlášen, “uvedla v seriálu Netflix.
Ale kraj také řekl Centru pro zdraví žurnalistiky, že zjistil, že pobírání veřejných dávek snižuje skóre rizika téměř u jeho rodin.
TKraj je na tuto obavu „velmi citlivý“ a provádí průběžnou analýzu systému, aby zjistil, zda jsou skupiny nepřiměřeně zacíleny, uvedla Cherna také v sérii doku.
Systém Allegheny County je vlastněn samotným krajem, ale došlo také k určité kritice jiných soukromých screeningových systémů.
dělají pitbulové útoky více než ostatní psi
Illinoisské ministerstvo pro děti a rodinné služby v roce 2018 oznámilo, že již nebude používat balíček prediktivní analýzy vyvinutý neziskovou organizací Eckerd Connects a jejím neziskovým partnerem MindShare Technology, zčásti proto, že společnost odmítla poskytnout podrobnosti o tom, jaké faktory byly použity v jejich vzorci, podle The Times.
Systém údajně začal označovat tisíce dětí, které potřebují naléhavou ochranu, což dává více než 4 100 dětem z Illinois 90% nebo větší pravděpodobnost úmrtí nebo zranění, Chicago Tribune hlášeno v roce 2017.
Přesto další děti, které nezískaly vysoce rizikové skóre, nakonec zemřely na týrání.
„Prediktivní analytika (ne) předpovídala žádný ze špatných případů,“ řekla ředitelka oddělení pro děti a rodinné služby Beverly „B.J.“ Walker řekl Tribune. 'Rozhodl jsem se v této smlouvě nepokračovat.'
Daniel Hatcher, autor knihy „ Chudobní průmysl: Využívání nejzranitelnějších občanů Ameriky „Přirovnal některé analytické systémy k„ černé skříňce “, když v sérii doku řekl, že to, jak rozhodují, není vždy jasné.
'Nemají způsob, jak přijít na to, jak ve skutečnosti rozhodují o úrovni péče, která má obrovský dopad na jednotlivce,' řekl.
Putnam-Hornstein uznala, že prediktivní analytické systémy nejsou schopny určit budoucí chování, ale věří, že je to cenný nástroj, který umožňuje screeningovým pracovníkům přijímat informovanější rozhodnutí o tom, které děti mohou být nejvíce ohroženy.
'Doufám, že tyto modely pomohou našemu systému věnovat větší pozornost relativně malé podskupině doporučení, kde je riziko obzvláště vysoké a my budeme moci těmto dětem a rodinám preventivně věnovat více zdrojů,' uvedla podle do Centra pro zdraví žurnalistiky. 'Nechci, aby někdo předimenzoval prediktivní modelování rizik.' Není to křišťálová koule. Nevyřeší to všechny naše problémy. Ale na okraj, pokud nám to umožní učinit o něco lepší rozhodnutí a identifikovat vysoce rizikové případy a roztřídit je od případů s nízkým rizikem a podle toho se přizpůsobit, mohlo by to být pro tuto oblast důležitý vývoj. “
