rad
vijest

Algoritmi protiv siromašnih

Foto: AFP / Mario Tama

Birokratska bezdušnost, hirovitost i neefikasnost – sve su to atributi koji se tradicionalno pripisuju socijalističkim političko-ekonomskim sustavima. A ako ih se uoči u kapitalističkim društvima, njihov se izvor uglavnom pripisuje socijalističkim zaostacima ili mentalitetnim sklopovima. No, najnoviji oblici birokratske besramnosti teško se mogu protumačiti bilo kakvim “socijalističkim razlozima”. Naprotiv, glavnu ulogu igraju najnovija dostignuća kapitalističke tehnologije, često smatrana upravo nenadmašnim odgovorom na birokratsku sporost i neučinkovitost.

Vlade diljem svijeta nastoje “modernizirati” sustav socijalne države. A to čine tako da zaposlenike koji održavaju izravne kontakte s različitim vrstama primatelja socijalnih naknada mijenjaju različitim vrstama digitalnih sučelja. Za taj tehnološki iskorak angažiraju se najistaknutije svjetske digitalne kompanije koje izrađuju robote, programe i aplikacije za efikasnije funkcioniranje sustava socijalne skrbi. Međutim, prva iskustva transformacije zasnovane na razvoju umjetne inteligencije i algoritama pokazuju porazne učinke.

Istraživanje o tim iskustvima je proveo Philip Alston, odvjetnik i UN-ov watchdog za pitanja ekstremnog siromaštva. Sam je pomno istražio tehnološke preinake sustava socijalne skrbi u SAD-u i Velikoj Britaniji, a dostavljeni su mu i izvještaji o preinakama u još 34 svjetske države. Rezultate istraživanja predstavit će sutra u UN-u, a britanski Guardian donosi dosje inspiriran tim istraživanjem. Promjene se događaju ekstremno brzo, a ozbiljnija politička rasprava uglavnom svugdje izostaje. Dva ključna razloga doprinose tome: cijela stvar je predstavljena kao neminovna i neutralna tehnološka modernizacija, a ideologija štednje i dalje prevladava kad je riječ o trošenju javnog novca.

Prepuštenost siromašnih algoritamskim odlukama već je proizvela niz skandaloznih ishoda. Ljudi umiru jer je algoritam iz nekog razloga odlučio da više nemaju pravo na javnu prehranu. Nekima se izvlače dugovanja navodno proistekla iz prekomjernih socijalnih naknada proteklih godina, a nekima se naprosto ukine pravo na primanje socijalne pomoći. I ne postoji nitko “iza” tko bi to objasnio, makar bila riječ o lijenom i nezainteresiranom birokratu. A većina svjetske populacije koja je ovisna o socijalnim naknadama ionako nema dovoljno razvijenu digitalnu pismenost koja bi joj omogućila ophođenje s novim sučeljima.

Premda su neke greške možda ispravljive, one sa sobom nose neposredne kobne posljedice. Ako se ispostavi da je algoritam donio pogrešnu odluku i ta se odluka nekim tipom nadzora ispravi naredni mjesec, duboka šteta je već nanesena jer te socijalne naknade ljudima znače život doslovno na dnevnoj razini. A nadzor se ionako nastoji eliminirati. Također, razvoj algoritama i umjetne inteligencije ne može nikako zamijeniti analizu kompleksne dinamike socijalne, klasne, rodne i rasne diskriminacije i procjenu potreba. Čini se da se socijalna država pretvara u algoritamsku državu s krajnje neizvjesnim ishodima po one koje navodno treba štititi.

Vlade će se sigurno braniti navodno ne-političkom naravi ovih promjena. Međutim, tehnologija nikad nije neutralna, pogotovo kad o njoj ovise ljudski životi. Dok čekamo da automatizacija navodno otme radna mjesta, polako otima nezaposlene.