OASI, injini ya kwanza ya utaftaji kupata algorithms ambayo serikali na kampuni hutumia kwa raia

• Iliundwa na Msingi wa Eticas, uchunguzi wa Algorithms na Athari za Jamii, OASI, hukusanya habari kutoka kwa algorithms kadhaa zinazotumiwa na Tawala za Umma na kampuni ulimwenguni kote ili kujifunza zaidi juu ya athari zao za kijamii.
  
• Lengo ni kutoa ufikiaji wa umma kwa habari juu ya serikali zote mbili na algorithms ya kampuni, na kujua ni nani anayetumia, nani anayekuza, ni vitisho vipi vinawakilisha na ikiwa vimekaguliwa, kati ya sifa zingine.

• Upendeleo wa algorithm na ubaguzi kawaida hufanyika kulingana na umri, jinsia, rangi au ulemavu, kati ya maadili mengine, lakini kwa sababu ya ukosefu wa uwazi, bado haiwezekani kujua matokeo yake kwa vikundi vilivyoathiriwa.

Eticas Foundation, shirika lisilo la faida ambalo linakuza matumizi ya uwajibikaji wa algorithms na mifumo ya Akili ya bandia (AI), imeunda uchunguzi wa Algorithms na Athari za Jamii (OASI). Uchunguzi huu unaleta injini ya utaftaji kujua zaidi juu ya zana ambazo hufanya maamuzi muhimu ya kiatomati kwa raia, watumiaji na watumiaji ulimwenguni kote.

Hivi sasa, kampuni zote na Tawala za Umma hutengeneza maamuzi kwa shukrani kwa algorithms. Walakini, maendeleo yake na kuwaagiza hakufuati udhibiti wa ubora wa nje, na sio wazi kama inavyopaswa kuwa, ambayo huwaacha watu bila kinga. Pamoja na injini hii ya utaftaji, mtu yeyote anaweza kujua zaidi juu ya algorithms hizi: ni nani ameziendeleza, ambaye huzitumia, upeo wa matumizi, ikiwa zimekaguliwa, malengo yao au athari zao za kijamii na vitisho vinavyowakilisha.

Kwa sasa, OASI inakusanya algorithms 57, lakini inatarajia kufikia 100 katika miezi ifuatayo. Kati yao, 24 tayari zinatumika nchini USA na kampuni za Serikali na Big Tech. Kwa mfano, ShotSpotter, zana ya algorithm iliyotumwa na Idara ya Polisi ya Oakland kupigana na kupunguza vurugu za bunduki kupitia maikrofoni ya ufuatiliaji wa sauti, na algorithm ya kutabiri unyanyasaji wa watoto na kutelekezwa inayotumiwa na Kaunti ya Allegheny, Pennsylvania. Mfano mwingine kutoka kwa ushirika ni Utambuzi, mfumo wa utambuzi wa usoni wa Amazon, ambao ulikaguliwa na MIT Media Lab mwanzoni mwa 2019, na iligundulika kuwa mbaya zaidi wakati wa kutambua jinsia ya mtu ikiwa walikuwa wa kike au wenye ngozi nyeusi.

Ubaguzi wa kawaida ni kwa sababu ya umri, jinsia, rangi au ulemavu, zinazozalishwa bila kukusudia na watengenezaji ambao hawana ujuzi wa kijamii na kiuchumi kuelewa athari za teknolojia hii. Kwa maana hii, wahandisi hawa hutengeneza algorithms kulingana na ustadi wa kiufundi tu, na kwa kuwa hakuna udhibiti wa nje na inaonekana inafanya kazi kama inavyotarajiwa, hesabu hiyo inaendelea kujifunza kutoka kwa data zilizopungukiwa.

Kwa kuzingatia ukosefu wa uwazi juu ya utendaji wa baadhi ya algorithms hizi, Eticas Foundation, mbali na uzinduzi wa OASI, inaendeleza mradi wa ukaguzi wa nje. Ya kwanza ni VioGén, hesabu inayotumiwa na Wizara ya Mambo ya Ndani ya Uhispania kuwapa hatari wanawake wanaotafuta ulinzi baada ya mateso ya unyanyasaji wa nyumbani. Eticas itafanya ukaguzi wa nje kupitia data ya uhandisi na data ya kiutawala, mahojiano, ripoti au maandishi ya muundo, kukusanya matokeo kwa kiwango. Yote haya kwa lengo la kugundua fursa za kuboreshwa kwa ulinzi wa wanawake hawa.

"Licha ya uwepo wa udhibiti wa algorithm na mbinu za ukaguzi ili kuhakikisha kuwa teknolojia inaheshimu kanuni za sasa na haki za kimsingi, Utawala na kampuni nyingi zinaendelea kukataa sikio kwa ombi la uwazi kutoka kwa raia na taasisi," alitangaza Gemma Galdon, mwanzilishi wa Eticas Foundation . "Mbali na OASI, baada ya miaka kadhaa ambayo tumeandaa ukaguzi zaidi ya dazeni kwa kampuni kama vile Alpha Telefonica, Umoja wa Mataifa, Afya ya Koa au Benki ya Maendeleo ya Amerika, pia tumechapisha Mwongozo wa Ukaguzi wa Hesabu ili kwamba mtu yeyote anaweza kuzifanya. Lengo daima ni kuongeza ufahamu, kutoa uwazi na kurudisha imani kwa teknolojia, ambayo yenyewe sio lazima iwe na madhara. ”

Kwa maana hii, algorithms ambayo imefundishwa na tecnhiques za ujifunzaji wa mashine kwa kutumia idadi kubwa ya data ya kihistoria "kuwafundisha" kuchagua kulingana na maamuzi ya zamani. Kawaida data hizi haziwakilishi hali halisi ya kijamii na kiuchumi na kitamaduni ambayo hutumiwa, lakini mara nyingi zinaonyesha hali isiyo ya haki ambayo haikusudiwi kuendelezwa. Kwa njia hii, algorithm ingekuwa ikifanya maamuzi "sahihi" kulingana na mafunzo yake, ingawa ukweli ni kwamba mapendekezo yake au utabiri ni wa upendeleo au ubaguzi.

matangazo

Kuhusu Msingi wa Eticas

Eticas Foundation inafanya kazi kutafsiri katika uainishaji wa kiufundi kanuni zinazoongoza jamii, kama fursa sawa, uwazi na ubaguzi ambao uko katika teknolojia ambazo hufanya maamuzi ya kiotomatiki juu ya maisha yetu. Inatafuta usawa kati ya kubadilisha maadili ya kijamii, uwezekano wa kiufundi wa maendeleo ya hivi karibuni na mfumo wa kisheria. Ili kufikia mwisho huu, inakagua algorithms, inathibitisha kwamba dhamana za kisheria zinatumika kwa ulimwengu wa dijiti, haswa kwa Upelelezi wa bandia, na inafanya kazi kubwa ya kuongeza uelewa na kusambaza hitaji la teknolojia inayowajibika, bora.

Shiriki nakala hii: