Veštačka inteligencija može postati žrtva predrasuda?

Veštačka inteligencija može postati žrtva predrasuda?

Veštačka inteligencija može postati žrtva predrasuda? Izvor: REUTERS/Kacper Pempel

Veštačka inteligencija bi mogla da potpomogne opstanak predrasuda, uključujući i segregaciju ljudi po polu, ako se ne bude oprezno postupalo s podacima koji se koriste za nju, upozorili su danas stručnjaci na Svetskom kongresu o mobilnoj tehnologiji (MWC) u Barseloni.

"Svi smo veoma svesni da će mašine preuzeti predrasude onih koji sastavljaju programe za njih", upozorila je Ema MekGigan, direktorka tehnologije u konsultantskoj firmi "Aksenčer" (Accenture), tokom konferencije o promovisanju uloge žena u novim tehnologijama.

"Za veštačku inteligenciju (AI), potrebna je ogromna količinu podataka što zahteva veliko ljudsko učešće, te se i predrasude unose u AI", objasnila je Džuli Vuds-Mos, predsednica mobilnog operatera Indije, "Tata komunikejšns" (Tata Communications).

"Moramo biti veoma pažljivi da ne doprinosimo da i AI postane žrtva predrasuda", dodala je ona, pozivajući stručnjake da nađu način da predrasude identifikuju kao "svesne".

Džuli Vuds-Mos je kao primer navela šemu programiranja koje profesiju lekara povezuju s muškarcima, a profesiju medicinskog tehničara sa ženama.

Ona je kritikovala i to što većina kompjuterskih "ličnih asistenata" ima ženski glas. Ti programi već koriste elemente veštačke inteligencije, analizirajući razgovore svog korisnika, kako bi mogli da odgovore na pitanja ili izvrše naloge.

Jedan od programa za kompjutere i mobilne telefone, koji je razvio trgovinski gigant "Amazon", pod nazivom "Aleksa" (Alexa) nedavno se povinovao pritisku pokreta "Mi tu" (MeToo) koji na društvenim mrežama podstiče žene da prijave ako su bile žrtve seksualnog zlostavljanja.

"Pre, ako joj je neko govorio užasne seksualne uvrede, 'Aleksa' je odgovarala: 'Hvala za vaš komentar', a sada na to kaže: 'Ne odgovoram na to' ", rekla je ona.

Ipak, postoji "značajan broj inovacija" za tehničko rešenje tih problema, rekla je Vuds-Mos.

"Nažalost, više od 90 odsto stručnjaka za IT koji razvijaju tehnologiju veštačku inteligenciju su muškarci", rekla je Liza Vang, osnivačica platforme "Šivorks" (SheWorx) za finansiranje preduzetnica.

Debata u Barseloni dolazi posle niza sličnih o seksističkim ili rasnim "predrasudama" u algoritmima koji pokreću mnoge aplikacije.

Američki Savez za građanske slobode je 2017. pokrenuo inicijativu za borbu protiv predrasuda skrivenih u algoritmima i drugde u okvirima AI, pošto je otkriven kompjuterski program korišćen pri zapošljavanju koji je sistematski diskriminisao neke profile ljudi.

Po izveštaju Svetskog ekonomskog foruma iz 2016. o zapošljavanju, samo 19 odsto zaposlenih u industriji mobilne tehnologije su žene.

Komentari (5)

Komentar je uspešno poslat.

Slanje komentara nije uspelo.

Nevalidna CAPTCHA

"Tren"

ETF smjer IT su iznimno duboko u domenu i eticko humanistickih nauka. Predrasude su karakterna osobina neznalica.

Los Prevod

Bice zanimljivo AI masine nece biti ni musko ni zensko, ali pitanje je kakve predrasude ce AI da ima prema inferiornoj organskoj inteligenciji :)

BeoGrad

Zanimljiva tema, nadam se da će se ove greške ispraviti i da će u IT biti mnogo više žena! Samo muškarci

* Sva polja su obavezna

NAJČITANIJE

ČITAOCI REPORTERI

ČITAOCI REPORTERI

Vaša poruka je uspešno poslata.

Hvala.

GOTOVO

Ubacite video ili fotografiju.

Možete da ubacite do 3 fotografije ili videa.
Ne sme biti više od 25 MB.

Pročitajte još

Sci Tech

Sci Tech

Najduži pregovori o klimi završeni delimičnim kompromisom, neslaganje odloženo 15.12.2019.

15.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

Telenor okončao saradnju sa Huavejom i izabrao Erikson za razvoj 5G mreže 14.12.2019.

14.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

Veštačka inteligencija završava Betovenovu Desetu simfoniju 13.12.2019.

13.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

Holandija će koristiti više dronova u gašenju požara 12.12.2019.

12.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

Fudbal i domaće serije najpretraživaniji pojmovi na Google u Srbiji 11.12.2019.

11.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

Uhapšeni Amerikanci zbog prevare kriptovalutama od 722 miliona dolara 11.12.2019.

11.12.2019.  |  Sci Tech

Sci Tech

Sci Tech

EU odobrila pomoć od 3,2 milijarde evra za razvoj električnih baterija 09.12.2019.

09.12.2019.  |  Sci Tech

loader