Kufuatia mazungumzo ya siku tatu ya 'marathon', Urais wa Baraza na wapatanishi wa Bunge la Ulaya wamefikia makubaliano ya muda juu ya pendekezo la kuoanishwa kwa sheria za ujasusi wa bandia (AI), kinachojulikana kama sheria ya kijasusi bandia. Rasimu ya kanuni inalenga kuhakikisha kuwa mifumo ya AI iliyowekwa kwenye soko la Ulaya na kutumika katika Umoja wa Ulaya ni salama na inaheshimu haki za kimsingi na maadili ya Umoja wa Ulaya. Pendekezo hili muhimu pia linalenga kuchochea uwekezaji na uvumbuzi kwenye AI barani Ulaya.
Haya ni mafanikio ya kihistoria, na hatua kubwa kuelekea siku zijazo! Makubaliano ya leo yanashughulikia kikamilifu changamoto ya kimataifa katika mazingira ya kiteknolojia yanayokua kwa kasi kwenye eneo muhimu kwa mustakabali wa jamii na uchumi wetu. Na katika jitihada hii, tulifaulu kuweka uwiano dhaifu sana: kukuza uvumbuzi na matumizi ya akili bandia kote Ulaya huku tukiheshimu kikamilifu haki za kimsingi za raia wetu.Carme Artigas, waziri wa serikali wa Uhispania anayeshughulikia uwekaji digitali na akili bandia.
Kitendo cha AI ni centralt mpango wa kisheria wenye uwezo wa kukuza maendeleo na matumizi ya AI salama na ya kuaminika katika soko moja la EU na watendaji wa kibinafsi na wa umma. Wazo kuu ni kudhibiti AI kulingana na uwezo wa mwisho wa kusababisha madhara kwa jamii kufuatia a 'msingi wa hatari' mbinu: hatari ya juu, sheria kali zaidi. Kama pendekezo la kwanza la kisheria la aina yake ulimwenguni, linaweza kuweka a kiwango cha kimataifa kwa udhibiti wa AI katika maeneo mengine, kama vile GDPR imefanya, hivyo kukuza mbinu ya Ulaya ya udhibiti wa teknolojia katika hatua ya dunia.
Mambo kuu ya makubaliano ya muda
Ikilinganishwa na pendekezo la awali la Tume, mambo makuu mapya ya makubaliano ya muda yanaweza kufupishwa kama ifuatavyo:
kanuni juu ya mifano ya AI yenye madhumuni ya jumla yenye athari kubwa ambayo inaweza kusababisha hatari ya kimfumo katika siku zijazo, na vile vile katika hatari kubwa Mifumo ya AI
mfumo uliorekebishwa wa utawala na baadhi ya mamlaka ya utekelezaji katika ngazi ya EU
upanuzi wa orodha ya makatazo lakini na uwezekano wa kutumia kitambulisho cha kibayometriki cha mbali na mamlaka za kutekeleza sheria katika maeneo ya umma, chini ya ulinzi
ulinzi bora wa haki kupitia wajibu kwa wasambazaji wa mifumo ya hatari ya AI kufanya a tathmini ya athari za haki za kimsingi kabla ya kutumia mfumo wa AI.
Kwa maneno madhubuti zaidi, makubaliano ya muda yanajumuisha vipengele vifuatavyo:
Ufafanuzi na upeo
Kuhakikisha kuwa ufafanuzi ya mfumo wa AI hutoa vigezo vilivyo wazi vya kutosha vya kutofautisha AI kutoka kwa mifumo rahisi ya programu, makubaliano ya maelewano yanapatanisha ufafanuzi na mbinu iliyopendekezwa na OECD.
Makubaliano ya muda pia yanafafanua kuwa kanuni hiyo haitumiki kwa maeneo yaliyo nje ya wigo wa sheria za Umoja wa Ulaya na haipaswi, kwa vyovyote vile, kuathiri uwezo wa nchi wanachama katika usalama wa taifa au huluki yoyote iliyokabidhiwa majukumu katika eneo hili. Zaidi ya hayo, sheria ya AI haitatumika kwa mifumo ambayo inatumika kwa ajili ya pekee kijeshi or ulinzi makusudi. Vile vile, makubaliano yanatoa kwamba udhibiti hautatumika kwa mifumo ya AI inayotumika kwa madhumuni pekee ya utafiti na uvumbuzi, au kwa watu wanaotumia AI kwa sababu zisizo za kitaalamu.
matangazo
Uainishaji wa mifumo ya AI kama mazoea ya AI hatarishi na marufuku
Mkataba wa maelewano hutoa a safu ya ulinzi ya usawa, ikiwa ni pamoja na uainishaji wa hatari kubwa, ili kuhakikisha kuwa mifumo ya AI ambayo haiwezi kusababisha ukiukwaji mkubwa wa haki za kimsingi au hatari nyingine muhimu haijakamatwa. Mifumo ya AI inayowasilisha pekee hatari ndogo itakuwa chini ya mwanga sana majukumu ya uwazi, kwa mfano kufichua kuwa maudhui yalitokana na AI ili watumiaji waweze kufanya maamuzi sahihi kuhusu matumizi zaidi.
Mbalimbali ya hatari kubwa Mifumo ya AI itaidhinishwa, lakini kulingana na seti ya mahitaji na wajibu wa kupata ufikiaji wa soko la EU. Mahitaji haya yamefafanuliwa na kurekebishwa na wabunge wenza kwa njia ambayo wao ni zaidi inawezekana kitaalam na chini ya mzigo ili washikadau watii, kwa mfano kuhusu ubora wa data, au kuhusiana na nyaraka za kiufundi ambazo zinapaswa kutengenezwa na SMEs ili kuonyesha kwamba mifumo yao ya AI yenye hatari kubwa inatii mahitaji.
Kwa kuwa mifumo ya AI inatengenezwa na kusambazwa kupitia minyororo changamano ya thamani, makubaliano ya maelewano yanajumuisha mabadiliko yanayofafanua ugawaji wa majukumu na majukumu ya waigizaji mbalimbali katika minyororo hiyo, haswa watoa huduma na watumiaji wa mifumo ya AI. Pia inafafanua uhusiano kati ya majukumu chini ya Sheria ya AI na majukumu ambayo tayari yapo chini ya sheria zingine, kama vile ulinzi wa data wa EU au sheria za kisekta.
Kwa matumizi fulani ya AI, hatari inachukuliwa Haikubaliki na, kwa hivyo, mifumo hii itapigwa marufuku kutoka kwa EU. Mkataba wa muda unapiga marufuku, kwa mfano, utambuzi kudanganywa kwa tabia, wasiolengwa kupiga picha za usoni kutoka kwa mtandao au video za CCTV, utambuzi wa hisia mahali pa kazi na taasisi za elimu, bao kijamii, uainishaji wa biometriska kukisia data nyeti, kama vile mwelekeo wa ngono au imani za kidini, na baadhi ya matukio ya uendeshaji wa utabiri kwa watu binafsi.
Vighairi vya kutekeleza sheria
Kwa kuzingatia maalum ya mamlaka za kutekeleza sheria na haja ya kuhifadhi uwezo wao wa kutumia AI katika kazi zao muhimu, mabadiliko kadhaa kwenye pendekezo la Tume yalikubaliwa kuhusiana na matumizi ya mifumo ya AI kwa madhumuni ya kutekeleza sheria. Chini ya kufaa ulinzi, mabadiliko haya yanalenga kuakisi hitaji la kuheshimu usiri wa data nyeti ya uendeshaji kuhusiana na shughuli zao. Kwa mfano, utaratibu wa dharura ulianzishwa kuruhusu vyombo vya kutekeleza sheria kupeleka zana hatarishi ya AI ambayo haijapitisha tathmini ya kufanana utaratibu katika kesi ya dharura. Hata hivyo, utaratibu maalum pia umeanzishwa ili kuhakikisha hilo haki za msingi italindwa vya kutosha dhidi ya matumizi mabaya ya mifumo ya AI.
Aidha, kuhusu matumizi ya muda halisi kitambulisho cha kibayometriki cha mbali mifumo katika maeneo yanayofikiwa na umma, makubaliano ya muda yanafafanua malengo ambapo matumizi hayo ni muhimu kabisa kwa madhumuni ya utekelezaji wa sheria na ambayo mamlaka ya utekelezaji wa sheria inapaswa kuruhusiwa kutumia mifumo hiyo. Mkataba wa maelewano hutoa ulinzi wa ziada na inaweka vizuizi hivi kwa visa vya wahasiriwa wa uhalifu fulani, kuzuia vitisho vya kweli, vya sasa au vinavyoonekana, kama vile mashambulizi ya kigaidi, na utafutaji wa watu wanaoshukiwa kwa uhalifu mbaya zaidi.
Mifumo ya AI ya madhumuni ya jumla na mifano ya msingi
Masharti mapya yameongezwa ili kuzingatia hali ambapo mifumo ya AI inaweza kutumika kwa madhumuni mengi tofauti (madhumuni ya jumla AI), na ambapo teknolojia ya AI ya madhumuni ya jumla inaunganishwa baadaye katika mfumo mwingine wa hatari kubwa. Makubaliano ya muda pia yanashughulikia kesi maalum za mifumo ya madhumuni ya jumla ya AI (GPAI).
Sheria maalum pia zimekubaliwa mifano ya msingi, mifumo mikubwa yenye uwezo wa kutekeleza majukumu mbalimbali mahususi kwa umahiri, kama vile kutoa video, maandishi, picha, mazungumzo katika lugha ya upande mwingine, kompyuta, au kuzalisha msimbo wa kompyuta. Mkataba wa muda unatoa kwamba miundo ya msingi lazima ifuate mahususi majukumu ya uwazi kabla ya kuwekwa sokoni. Utawala mkali zaidi ulianzishwa kwa 'athari kubwa' mifano ya msingi. Hizi ni miundo msingi iliyofunzwa kwa kiasi kikubwa cha data na yenye utata wa hali ya juu, uwezo, na utendaji bora zaidi ya wastani, ambayo inaweza kusambaza hatari za kimfumo pamoja na mnyororo wa thamani.
Usanifu mpya wa utawala
Kufuatia sheria mpya za miundo ya GPAI na hitaji la wazi la utekelezaji wake katika kiwango cha EU, a Ofisi ya AI ndani ya Tume imeundwa kusimamia miundo hii ya hali ya juu zaidi ya AI, kuchangia katika kukuza viwango na mazoea ya kupima, na kutekeleza sheria za kawaida katika nchi zote wanachama. A jopo la kisayansi la wataalam wa kujitegemea itashauri Ofisi ya AI kuhusu miundo ya GPAI, kwa kuchangia katika uundaji wa mbinu za kutathmini uwezo wa miundo msingi, kushauri kuhusu uteuzi na kuibuka kwa miundo ya msingi yenye athari kubwa, na kufuatilia hatari zinazowezekana za usalama wa nyenzo zinazohusiana na miundo msingi.
The Bodi ya AI, ambayo itajumuisha wawakilishi wa nchi wanachama, itasalia kama jukwaa la uratibu na chombo cha ushauri kwa Tume na itatoa jukumu muhimu kwa Nchi Wanachama juu ya utekelezaji wa udhibiti, ikiwa ni pamoja na kubuni kanuni za utendaji kwa mifano ya msingi. Hatimaye, a jukwaa la ushauri kwa washikadau, kama vile wawakilishi wa sekta, SME, wanaoanzisha, mashirika ya kiraia, na wasomi, wataanzishwa ili kutoa utaalam wa kiufundi kwa Bodi ya AI.
Adhabu
Faini za ukiukaji wa sheria ya AI ziliwekwa kama asilimia ya mauzo ya kila mwaka ya kampuni iliyokosea katika mwaka wa fedha uliopita au kiasi kilichoamuliwa mapema, chochote kilicho juu zaidi. Hii itakuwa €35 milioni au 7% kwa ukiukaji wa maombi ya AI yaliyopigwa marufuku, €15 milioni au 3% kwa ukiukaji wa majukumu ya sheria ya AI na € 7,5 milioni au 1,5% kwa usambazaji wa taarifa zisizo sahihi. Walakini, makubaliano ya muda yanaruhusu kofia sawia zaidi juu ya faini za kiutawala kwa SME na wanaoanzisha biashara ikiwa kuna ukiukwaji wa masharti ya sheria ya AI.
Mkataba wa maelewano pia unaweka wazi kwamba mtu wa asili au wa kisheria anaweza kulalamika kwa husika mamlaka ya ufuatiliaji wa soko kuhusu kutofuata sheria ya AI na anaweza kutarajia kwamba malalamiko hayo yatashughulikiwa kwa kuzingatia taratibu maalum za mamlaka hiyo.
Uwazi na ulinzi wa haki za kimsingi
Mkataba wa muda hutoa a tathmini ya athari za haki za kimsingi kabla ya mfumo wa hatari wa AI kuwekwa sokoni na wasambazaji wake. Mkataba wa muda pia hutoa ongezeko uwazi kuhusu matumizi ya mifumo ya hatari ya AI. Kwa hakika, baadhi ya vifungu vya pendekezo la Tume vimerekebishwa ili kuonyesha kwamba baadhi ya watumiaji wa mfumo hatari wa AI ambao ni mashirika ya umma pia watalazimika kujiandikisha katika Hifadhidata ya EU kwa mifumo ya hatari ya AI. Zaidi ya hayo, masharti mapya yaliyoongezwa yanatilia mkazo juu ya wajibu kwa watumiaji wa mfumo wa utambuzi wa hisia kuwafahamisha watu wa asili wakati wanawekwa wazi kwa mfumo kama huo.
Hatua za kusaidia uvumbuzi
Kwa nia ya kuunda mfumo wa kisheria ambao ni rafiki zaidi wa uvumbuzi na kukuza ujifunzaji wa udhibiti unaotegemea ushahidi, masharti yanayohusu hatua za kusaidia uvumbuzi yamefanyiwa marekebisho kwa kiasi kikubwa ikilinganishwa na pendekezo la Tume.
Kwa kweli, imefafanuliwa kuwa AI sandbox za udhibiti, ambazo zinapaswa kuweka mazingira yanayodhibitiwa kwa ajili ya ukuzaji, majaribio na uthibitishaji wa mifumo bunifu ya AI, inapaswa pia kuruhusu majaribio ya mifumo bunifu ya AI katika hali halisi ya ulimwengu. Zaidi ya hayo, vifungu vipya vimeongezwa kuruhusu kupima ya mifumo ya AI katika hali halisi ya ulimwengu, chini ya hali maalum na ulinzi. Ili kupunguza mzigo wa kiutawala kwa kampuni ndogo, makubaliano ya muda yanajumuisha orodha ya hatua za kuchukua ili kusaidia waendeshaji kama hao na hutoa udhalilishaji mdogo na uliobainishwa wazi.
Kuingia ndani ya kikosi
Mkataba wa muda unatoa kwamba kitendo cha AI kinafaa kutumika miaka miwili baada ya kuanza kutumika, isipokuwa baadhi ya masharti maalum.
Next hatua
Kufuatia makubaliano ya muda ya leo, kazi itaendelea katika ngazi ya kiufundi katika wiki zijazo ili kukamilisha maelezo ya kanuni mpya. Ofisi ya rais itawasilisha maandishi ya maelewano kwa wawakilishi wa nchi wanachama (Coreper) ili kuidhinishwa mara tu kazi hii itakapokamilika.
Maandishi yote yatahitaji kuthibitishwa na taasisi zote mbili na kufanyiwa marekebisho ya kiisimu-sheria kabla ya kupitishwa rasmi na wabunge wenza.
Taarifa za msingi
Pendekezo la Tume, lililowasilishwa Aprili 2021, ni kipengele muhimu cha sera ya EU ya kukuza maendeleo na matumizi katika soko moja la AI salama na halali ambayo inaheshimu haki za kimsingi.
Pendekezo hilo linafuata mkabala unaozingatia hatari na linaweka mfumo sare wa kisheria wa AI ambao unalenga kuhakikisha uhakika wa kisheria. Rasimu ya kanuni hiyo inalenga kukuza uwekezaji na uvumbuzi katika AI, kuimarisha utawala na utekelezaji bora wa sheria iliyopo kuhusu haki za kimsingi na usalama, na kuwezesha maendeleo ya soko moja la maombi ya AI. Inaenda sambamba na mipango mingine, ikiwa ni pamoja na mpango ulioratibiwa wa akili bandia ambao unalenga kuharakisha uwekezaji katika AI barani Ulaya. Mnamo tarehe 6 Desemba 2022, Baraza lilifikia makubaliano ya mbinu ya jumla (mamlaka ya mazungumzo) kwenye faili hii na kuingia mazungumzo ya kitaasisi na Bunge la Ulaya ('trilogues') katikati ya Juni 2023.
EU Reporter huchapisha makala kutoka vyanzo mbalimbali vya nje ambavyo vinaeleza mitazamo mbalimbali. Nafasi zilizochukuliwa katika makala haya si lazima ziwe za Mtangazaji wa Umoja wa Ulaya.
