Nostr notes by Per Axbom

I det här fallet (SAFER) finns ännu inte tillstånd till insyn ...

2026-07-19T15:06:04Z

In reply to nevent1q…xvva
_________________________

I det här fallet (SAFER) finns ännu inte tillstånd till insyn i hur algoritmen är uppbyggd, men i liknande historiska fall (COMPAS) har man visat att det inte spelar någon direkt roll om hudfärg är med i själva bedömningen eftersom fördomarna tar sig uttryck via så kallade proxy-egenskaper. Även i fallet med Försäkringskassans system för riskbedömning av bidragssökande, som i högre utsträkning pekade ut oskyldiga kvinnor och personer med utländsk bakgrund, förklarade rapporten från Lighthouse att det inte går att dra ett rakt streck mellan en specifik egenskap i beräkningsunderlaget (som man inte heller fick tillgång till då) och vidare till den orättvisa behandlingen. Det är för mig det som gör just de här större algoritmerna så farliga - det går inte att på ett enkelt sätt se, förstå och förklara varför ojämlikheterna uppstår, man kan bara se vilka som drabbas ofördelaktigt. Det blir då rättsosäkert när man inte kan förklara resonemangen bakom beslut (och ingen människa kan ta ansvar för dem). Särskilt när besluten handlar om sådant som inte hänt.

En akademisk artikel om ”robot-domare” och COMPAS:
Bias in AI (Supported) Decision Making: Old Problems, New Technologies
https://iacajournal.org/articles/10.36745/ijca.598

Lighthouse Reports granskning tillsammans med SvD: https://www.lighthousereports.com/investigation/swedens-suspicion-machine/

Jag har en referenslista med fler case på min egen artikel om Försäkringskassan-avslöjandet:
https://axbom.se/forsakringskassan-ai-diskriminering/#referenser

In Ontario, an ”AI tool” being used to predict prisoners’ ...

2026-07-19T12:22:02Z

In Ontario, an ”AI tool” being used to predict prisoners’ behavior. Its primary feature is disproportionately placing Black prisoners in maximum security. The whole point of ”AI” is often to maintain or even strengthen prejudice, while displacing blame onto something ”other” – that the public is made to think is computationally neutral.

Prejudice is cemented by humans through the complete process of interplay with the software, from ideation to creation to usage: selection, development, implementation, interpretation and action. And there is no such thing as seeing into the future.

”The program assigns each prisoner a score from 0 to 100 that determines whether they’ll be placed in minimum, medium, or maximum security detention.”

https://breachmedia.ca/black-prisoners-are-assigned-harsher-living-conditions-in-ontario-jails-thanks-to-ai/

Developer making use of Google Fonts? Don't. You could try ...

2026-03-01T12:47:41Z

Developer making use of Google Fonts? Don't.

You could try Bunny Fonts.

"Easily integrate Bunny Fonts into your website with a Google Fonts drop-in compatible API. But without the tracking!"

https://bunny.net/fonts/