A cél az volt, hogy az algoritmus öt-hat évvel előre jelezze a tinédzserkori várandósságokat, azt viszont nem árulták el a hatóságok, hogy mi történik, ha valaki rákerül erre a listára - számolt be a Wired-ön Diego Jemio, Alexa Hagerty és Florencia Aranda. A jóslatok alapját adatok adták - a kor és az etnikum mellett olyan faktorok, mint hogy az illető milyen országból származik, fogyatékkal él-e, vagy például van-e melegvíz a fürdőszobájában. Ehhez Salta tartomány azonos nevű fővárosának kétszázezer lakosát vizsgálták, köztük tizenkétezer tíz és tizenkilenc év közötti nőt. A cikk szerzői újságírói és technikai beszámolókat szemlézve arra jutottak, hogy ügynökök kérdezték ki az alanyokat, fotózták le a házaikat és rögzítették azok GPS-koordinátáit. Az adatok vizsgálata alapján a legtöbb nő szegény, és bevándorló vagy bennszülött volt.

A Buenos Aires-i Egyetem alkalmazott mesterséges intelligenciával foglalkozó laboratóriuma szerint a megoldásnak jelentős technikai és tervezési hibái voltak. Szerintük a rendszer vélt, egy politikus szerint nyolcvanhat, a fejlesztők szerint kilencvennyolc százalékos pontossága is vitatható. Szintén komoly hiányosságként rótták fel a programnak, hogy nem veszi figyelembe a szexuális felvilágosítás megtörténtét és a fogamzásgátló szerekhez való hozzáférés lehetőségét, miközben ezek függnek össze a legszorosabban a tinédzserkori várandóssággal. Jogvédők szerint a szexuális erőszakkal, mint meghatározó tényezővel is sokkal fontosabb volna foglalkozni, mint hogy egy rendszer "megpecsételje" a nők sorsát, egyesével, társadalmi kontextus nélkül vizsgálva őket. A cikk emellett részletesen foglalkozik azzal, hogy a dél-amerikai ország története során a politikai irányzatok váltakozásával hogyan változott a hivatalos vélemény a bevándorlásról és a fogamzásgátlásról. A három szerző azt is bemutatja, hogy a tizenkilencedik századtól napjainkig hogyan igyekeztek befolyásolni ezt a gondolkodást a különböző feminista mozgalmak.

Arról, hogy a rendszer valóban olyan pontos volt-e, ahogyan ígérték, mire használták az eredményeit, illetve végül felfüggesztették-e a működését, nem tudni.

(Borítókép: Cassidy Rowell/Unsplash)

Egy évet ült ártatlanul egy amerikai nagypapa, mert az ügyészség egy megbízhatatlan algoritmusra támaszkodott A Shotspottert széles körben használják az USA-ban a lövések hangjának beazonosítására, de a rendszer közel sem annyira megbízható, ahogyan a rendőrség vagy maga a vállalat állítja.