Kliseejä ja ennakkoluuloja: Näin tekoäly näyttää hampurilaisia ​​vääristyneellä tavalla!

Kliseejä ja ennakkoluuloja: Näin tekoäly näyttää hampurilaisia ​​vääristyneellä tavalla!

Uutisalusta t-online tutki jännittävässä testissä, kuinka tekoäly (AI) voi kuvata tyypillisiä Hampurin asukkaita. Todettiin, että tulokset eivät useinkaan heijasta todellista kuvaa piireistä. Tekoäly ammentaa digitaalista dataa, joka perustuu sosiaaliseen mediaan, uutisportaaleihin ja blogeihin. Tämä tarkoittaa, että edustukset ovat usein vääristyneitä, ja niistä puuttuu tiettyjen väestöryhmien tarvittava edustus. Hampurin alueiden, kuten Eppendorfin, Wilhelmsburgin ja St. Paulin monimuotoisuus näkyy enemmän kliseissä kuin realistisissa kuvauksissa, kuten t-online raportit.

Mielenkiintoista on, että AI-mallit ChatGPT:stä kuvageneraattoreihin eivät toimi objektiivisesti. He analysoivat kuvioita ja todennäköisyyksiä jättäen huomiotta vähemmän näkyvät ryhmät. Hyvä esimerkki ovat kaupunginosien kuvaukset, jotka vaikuttavat ensi silmäyksellä yhtenäisiltä, ​​mutta ovat kliseisiä: Eppendorf yhdistetään "suoraan hiukseen ja beigeen untuliiviin", kun taas St. Pauli tarkoittaa yksinkertaisesti "mustia huppareita ja tatuointeja". Tällaiset attribuutit tarjoavat vain vähän tilaa elämän monimuotoisuudelle ja identiteeteille, jotka todella muokkaavat Hampuria.

The Bias: A Shadow in the AI ​​​​Field

Keskeinen näkökohta näissä eroissa on niin kutsuttu harha. Tämä termi kuvaa sitä tosiasiaa, että kaikki ryhmät eivät ole tasavertaisesti edustettuina AI-esityksissä. Tällaiset vääristymät johtuvat virheellisistä tiedoista ja niiden käsittelystä, mikä voi vahingoittaa erityisesti vähemmistöjä. Esimerkiksi Yhdysvaltojen terveydenhuoltojärjestelmästä saatu esimerkki osoittaa, että afroamerikkalaiset potilaat eivät todennäköisesti saa tarvitsemaansa hoitoa, kun heillä on sama sairaustaakka. Tämä osoittaa, kuinka syvälle juurtuneet harhat vaikuttavat algoritmeihin, joita käytetään päätöksissämme, kuten anti-bias.eu selittää.

Tekoälyteknologian kriitikot huomauttavat, että tekoälyä pidetään usein neutraalina ja puolueettomana, mutta ne ovat päinvastaisia, koska ne perustuvat ihmisen luomaan ja joskus syrjivään dataan. Lorenzo Medici a&f-järjestelmistä korostaa, että syrjintä voi koskea etnisten ryhmien lisäksi myös yhteiskuntaluokkia ja sukupuolia. Tekoälyjen käsittelemät tiedot kuvastavat aina heidän luomansa kulttuurisia arvoja, eikä niitä voida helposti pitää oikeudenmukaisina. Tämä tekee selväksi, kuinka tärkeää on kyseenalaistaa algoritmit ja tarkistaa niiden alkuperä, kuten a&f-järjestelmät toteavat.

Herkkä haaste yhteiskunnalle

Keskustelu tekoälystä ja sen vaikutuksista havaintoihin on ajankohtaisempaa kuin koskaan. Tekoälyn käyttö on viime vuosina kehittynyt nopeasti monilla aloilla, mukaan lukien puhe- ja kasvojentunnistuksessa, laissa ja terveydenhuollossa. Tämä on erityisen huolestuttavaa, kun ottaa huomioon, että monimuotoisuuden osuus kehittäjäyhteisössä on hyvin rajallinen. Vain 10 prosenttia tekoälykehittäjistä on naisia, ja suurin osa heistä tulee läntisistä teollisuusmaista, mikä vain pahentaa ennakkoluulojen ongelmaa.

Näihin haasteisiin vastaamiseksi ei ole vain tarpeen lisätä tietoisuutta ongelmasta, vaan myös kehittää tekoälyjä, jotka perustuvat monipuolisempaan tietokantaan. Tämänsuuntaiset parannukset ovat ratkaisevan tärkeitä rehellisten ja oikeudenmukaisten päätösten edistämiseksi yhä digitaalisemmassa maailmassa. Onnistuuko se? Tekoälyn tulevaisuutta on mitattava tällä.