Etika a právo
Zaujatosť AI
po anglicky: bias
Systematické skreslenie výsledkov modelu, ktoré prevzal z tréningových dát.
Zaujatosť AI je systematické skreslenie výsledkov modelu, ktoré prevzal z tréningových dát. Nie je to náhodná chyba. Je to chyba, ktorá ide vždy tým istým smerom.
Model nemá predsudky v ľudskom zmysle, nič si o nikom nemyslí. Reprodukuje pomery, ktoré boli v dátach. Ak sa v textoch objavovali zdravotné sestry prevažne ako ženy a programátori ako muži, model tú súvislosť zachytí a bude ju ponúkať ďalej.
Odkiaľ sa berie
- Z toho, čoho bolo v dátach viac. Internet nie je vzorka ľudstva, je to vzorka toho, kto naň píše.
- Z historických nerovností. Dáta o minulosti obsahujú aj to, ako minulosť vyzerala.
- Z toho, čo v dátach chýba. O menších jazykoch a menších krajinách je napísané menej, takže odpovede o nich sú slabšie.
- Z ľudí, ktorí model doladili. Aj hodnotitelia majú svoj pohľad a ten sa do modelu prenesie.
Prečo to nie je len akademická otázka
V zahraničí sa modely použili pri triedení životopisov, pri posudzovaní žiadostí o úver aj pri rozhodovaní o podmienečnom prepustení. V niektorých prípadoch sa ukázalo, že rozhodovali v neprospech určitých skupín.
V škole z toho plynie jednoduché pravidlo: o človeku nerozhoduje nástroj. Hodnotenie žiaka je rozhodnutie učiteľa, aj keď mu AI pomohla s formuláciou.
Na hodine sa zaujatosť ukáže za dve minúty pomocou generátora obrázkov. Zadajte lekár, potom zdravotná sestra, potom vedec a nechajte žiakov opísať, kto na obrázkoch je. Rozhovor, ktorý z toho vznikne, je konkrétnejší než akákoľvek definícia.