Ponedeljek, 11. 11. 2019, 15.21
4 leta, 5 mesecev
Ali Applovi algoritmi diskriminirajo ženske?
Enaka plačilna kartica, enako finančno stanje, a ženskam do dvajsetkrat nižji limit
Termometer prikazuje, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
Termometer prikaže, kako vroč je članek. Skupni seštevek je kombinacija števila klikov in komentarjev.
0,89
2
Applovo plačilno-kreditno kartico izdaja banka Goldman Sachs, ki zdaj mora dokazati, da njeni algoritmi ne diskriminirajo žensk.
Soustanovitelj Appla Steve Wozniak opozarja, da zakonca, ki imata enako skupno finančno stanje, ne dobita enakega limita pri Applovi plačilni kartici – ženske neredko dobijo bistveno nižjega.
V ZDA ima Apple svojo plačilno-kreditno kartico, ki jo izdaja finančna hiša Goldman Sachs. V tej državi je tudi običajno, da imata zakonca skupne finance in skupno premoženje, zaradi česar imata v takih primerih oba zakonca enako bonitetno oceno.
V takih primerih bi pričakoval, da zakonca, ki imata skupno premoženje in enako bonitetno oceno, pri naročilu enake plačilne kartice dobita na njej enake limite za plačevanje.
A ni tako: v posameznih primerih je žena dobila tudi do dvajsetkrat nižji limit od svojega moža, s katerim imata enako bonitetno oceno.
Ko zmoti tudi pomembneža
Ta praksa je toliko hitreje prišla v javnost, ker je med naraščajočo skupino tistih, ki so posumili o tovrstni nepravilnosti, tudi soustanovitelj Appla Steve Wozniak.
The same thing happened to us. I got 10x the credit limit. We have no separate bank or credit card accounts or any separate assets. Hard to get to a human for a correction though. It's big tech in 2019.
— Steve Wozniak (@stevewoz) November 10, 2019
Pristojni newyorški regulator finančnih storitev je sporočil, da so že sprožili preiskavo in da bodo, če se navedbe izkažejo za resnične, ukrepali, saj v tem primeru izdajatelj kartice hudo krši zakonodajo. Nobena oblika diskriminacije po spolu, rasi ali spolni usmerjenosti ni dovoljena, so poudarili ob tem.
Tudi Applov soustanovitelj Steve Wozniak je opozoril na diskriminatorne algoritme banke Goldman Sachs pri izdaji kartic Apple Card.
Goldman Sachs: Vse kartice so osebne
Apple je svojo plačilno-kreditno kartico predstavil letos poleti v ZDA. Izdaja jo banka Goldman-Sachs, uporabnikom pa omogoča ugodnosti, podobne klubom zvestobe, in popuste pri nakupu Applovih izdelkov.
Banka Goldman-Sachs se je na obtožbe odzvala z izjavo. Pojasnili so, da so njihove kartice osebne, zato ne morejo upoštevati skupnih finančnih stanj, a da njihovi algoritmi pri obravnavi posameznikov upoštevajo zgolj kreditno sposobnost imetnikov kartice, nikakor pa ne drugih parametrov, ki bi lahko pripeljali do diskriminacije.
We wanted to address some recent questions regarding the #AppleCard credit decision process. pic.twitter.com/TNZJTUZv36
— GS Bank Support (@gsbanksupport) November 11, 2019
Moč javnosti
David Heinemeier Hansson, čigar tvit je postal viralen, pa je medtem sporočil, da so njegovi ženi takoj po tem, ko je dvajsetkratna razlika postala "piarovsko vprašanje", brez kakršnih koli dodatnih dokumentov in dokazil močno povečali limit na kartici.
Ob tem se ironično sprašuje, kako je mogoče zaupati finančni ustanovi, ki najbrž sploh ne ve, kako delujejo njeni algoritmi.
So let’s recap here: Apple offers a credit card that bases its credit assessment on a black-box algorithm that 6 different reps across Apple and GS have no visibility into. Even several layers of management. An internal investigation. IT’S JUST THE ALGORITHM!
— DHH (@dhh) November 8, 2019
2