Klichéer och fördomar: Så här visar AI hamburgare på ett förvrängt sätt!

Klichéer och fördomar: Så här visar AI hamburgare på ett förvrängt sätt!

I ett spännande test undersökte nyhetsplattformen t-online hur artificiell intelligens (AI) kan beskriva typiska Hamburgare. Det visade sig att resultaten ofta inte speglar den sanna bilden av distrikten. AI:n hämtar från en pool av digital data baserad på sociala medier, nyhetsportaler och bloggar. Detta gör att representationerna ofta är förvrängda och saknar den nödvändiga representationen av vissa befolkningsgrupper. Mångfalden i Hamburgs distrikt, som Eppendorf, Wilhelmsburg och St. Pauli, visas mer i klichéer än i realistiska beskrivningar, som t-online reports.

Det som är intressant är att AI-modellerna, från ChatGPT till bildgeneratorer, inte fungerar objektivt. De analyserar mönster och sannolikheter samtidigt som de ignorerar mindre synliga grupper. Ett bra exempel är beskrivningarna av distrikten, som verkar sammanhängande vid första anblicken men är klyschiga: Eppendorf förknippas med "rakt hår och en beige dunväst", medan St. Pauli helt enkelt betyder "svarta huvtröjor och tatueringar." Sådana tillskrivningar ger lite utrymme för mångfalden av liv och identiteter som verkligen formar Hamburg.

The Bias: A Shadow in the AI ​​Field

En nyckelaspekt av dessa avvikelser är den så kallade biasen. Denna term beskriver det faktum att inte alla grupper är lika representerade i AI-representationer. Sådana snedvridningar uppstår på grund av felaktiga uppgifter och dess behandling, vilket kan missgynna särskilt minoriteter. Exempelvis visar ett exempel från det amerikanska sjukvårdssystemet att afroamerikanska patienter är mindre benägna att få den behandling de behöver när de har samma sjukdomsbörda. Detta visar hur djupt rotade fördomar påverkar de algoritmer som används för att fatta våra beslut, som anti-bias.eu förklarar.

Kritiker av AI-tekniker påpekar att AI:er ofta uppfattas som neutrala och opartiska, men de är motsatsen, eftersom de är baserade på mänskligt skapade och ibland diskriminerande data. Lorenzo Medici från a&f systems betonar att diskriminering inte bara kan drabba etniska grupper, utan även sociala klasser och kön. Uppgifterna som behandlas av AI:er återspeglar alltid de kulturella värdena för deras skapelse och kan inte lätt anses vara rättvisa. Detta gör det tydligt hur viktigt det är att ifrågasätta algoritmerna och kontrollera deras ursprung, som a&f systems anger.

En delikat utmaning för samhället

Debatten om artificiell intelligens och dess inverkan på vår uppfattning är mer aktuell än någonsin. Under de senaste åren har användningen av AI utvecklats snabbt inom många områden, inklusive tal- och ansiktsigenkänning, juridik och sjukvård. Detta blir särskilt oroande när man betänker att andelen mångfald i utvecklargemenskapen är mycket begränsad. Endast 10 % av AI-utvecklarna är kvinnor och majoriteten kommer från västerländska industriländer, vilket bara förvärrar problemet med partiskhet.

För att möta dessa utmaningar är det inte bara nödvändigt att öka medvetenheten om problemet, utan också att utveckla AI:er som är beroende av en mer mångsidig databas. Förbättringar i denna riktning är avgörande för att främja ärliga och rättvisa beslut i en alltmer digitaliserad värld. Kommer det att lyckas? Framtiden för artificiell intelligens kommer att behöva mätas med detta.