Jinsi AI na Deepfakes wanavyotia ukungu katika Uhalisia wa Uchaguzi wa India

Uchaguzi wa India unaendelea, hata hivyo, kuongezeka kwa AI na uongo wa kina unaathiri.

Hata hivyo, hili si jambo jipya.

Mnamo Novemba 2023, Muralikrishnan Chinnadurai alikuwa akitazama mtiririko wa moja kwa moja wa tukio la lugha ya Kitamil nchini Uingereza alipogundua jambo la kushangaza.

Mwanamke aliyetambulishwa kama Duwaraka, binti wa chifu wa Tamil Tigers Velupillai Prabhakaran, alitoa hotuba.

Lakini suala lilikuwa kwamba Duwaraka alikufa mnamo 2009.

Bw Chinnadurai, mkaguzi wa ukweli katika Tamil Nadu, alitazama video hiyo kwa karibu na kuona hitilafu. Hivi karibuni aliiweka chini kuwa takwimu inayotokana na AI.

Bw Chinnadurai alisema: "Hili ni suala la hisia katika jimbo [Tamil Nadu] na uchaguzi ukikaribia, habari potofu inaweza kuenea haraka."

Maudhui ya AI yanaundwa

Uchaguzi wa India unapoendelea, haiwezekani kupuuza kiasi cha maudhui yanayozalishwa na AI yanayoundwa.

Kuanzia video za kampeni hadi jumbe za sauti zilizobinafsishwa na hata simu za kiotomatiki zinazopigwa kwa wapiga kura kwa sauti ya mgombea, kuna maudhui mbalimbali yanayoundwa.

Waundaji wa maudhui kama vile Shahid Sheikh wametumia hata zana za AI kuwaonyesha wanasiasa wa India katika avatars ambazo hazijawahi kuonekana - wakiwa wamevalia riadha, kucheza muziki na kucheza.

Lakini kadiri zana za AI zinavyozidi kuwa za kisasa zaidi, kuna wasiwasi kuhusu habari potofu.

Aliyekuwa Kamishna Mkuu wa Uchaguzi SY Qureshi alisema:

"Uvumi kila mara umekuwa sehemu ya kuandaa uchaguzi. [Lakini] katika enzi ya mitandao ya kijamii, inaweza kuenea kama moto wa nyika.

"Kwa kweli inaweza kuwasha nchi moto."

Je, Narendra Modi amesema nini kuhusu Suala hilo?

Sio tu vyama vya kisiasa vya India ambavyo vinachukua fursa ya teknolojia ya AI.

Nchini Pakistani, ilimruhusu Imran Khan aliyefungwa kuhutubia mkutano wa hadhara.

Na nchini India, Waziri Mkuu Narendra Modi pia tayari ametumia vyema teknolojia inayoibuka kufanya kampeni ipasavyo.

Kwa kutumia zana ya AI iliyoundwa na serikali Bhashini, alihutubia hadhira kwa Kihindi na ikatafsiriwa katika Kitamil kwa wakati halisi.

Lakini pia inaweza kutumika kudhibiti ujumbe.

Mnamo Aprili 2024, video za Ranveer Singh na Aamir Khan alionekana kuwaonyesha wakifanya kampeni kwa ajili ya Chama cha Congress.

Wahusika wote wawili waliwasilisha malalamishi ya polisi, wakisema ni ghushi zilizofanywa bila idhini yao.

Mnamo Aprili 29, Modi alionyesha wasiwasi juu ya AI kutumiwa kudhibiti hotuba za viongozi wakuu wa chama tawala, akiwemo yeye.

Siku iliyofuata, polisi waliwakamata watu wawili - mmoja kutoka chama cha upinzani cha Aam Aadmi Party (AAP) na mwingine kutoka chama cha Congress - wanaohusishwa na video ya udaktari ya Waziri wa Mambo ya Ndani Amit Shah.

Chama cha Modi Bharatiya Janata Party (BJP) pia kimekumbana na madai kama hayo kutoka kwa viongozi wa upinzani.

Wataalamu wanaeleza kuwa, licha ya kukamatwa kwa watu hao, bado kuna ukosefu wa udhibiti kamili wa kushughulikia suala hilo.

Kulingana na mtafiti wa data na usalama Srinivas Kodali, hii inamaanisha kwamba "ikiwa utakamatwa ukifanya kitu kibaya, basi kunaweza kuwa na kofi kwenye mkono wako bora".

Bila udhibiti, watayarishi wamesema wanapaswa kutegemea maadili ya kibinafsi ili kuamua aina ya kazi wanayochagua kufanya au kutofanya.

Masuala ya kina

Miongoni mwa maombi ya wanasiasa ni picha chafu na urekebishaji wa video na sauti za wapinzani wao ili kuharibu sifa zao.

Divyendra Singh Jadoun alifichua: "Wakati mmoja niliulizwa kutengeneza sura ya asili kama ya kina kwa sababu video ya asili, ikiwa itashirikiwa kwa upana, ingemfanya mwanasiasa huyo aonekane mbaya.

"Kwa hivyo timu yake ilinitaka nitengeneze uwongo ambao wangeweza kupita kama wa asili."

Bw Jadoun ndiye mwanzilishi wa The Indian Deepfaker (TID), ambayo iliunda zana za kusaidia watu kutumia programu huria ya AI kuunda nyenzo za kampeni kwa wanasiasa wa India.

Alisisitiza kuwa na kanusho kwenye ubunifu wake hivyo ni wazi kuwa sio kweli. Walakini, bado ni ngumu kudhibiti.

Shahid Sheikh ameona kazi yake ikishirikiwa bila idhini au mkopo na wanasiasa au kurasa za kisiasa kwenye mitandao ya kijamii.

Alisema:

"Mwanasiasa mmoja alitumia picha niliyounda ya Bw Modi bila muktadha na bila kutaja iliundwa kwa kutumia AI."

Imekuwa rahisi sana kuunda fake ambayo mtu yeyote anaweza kuifanya.

Bwana Jadoun alielezea: “Kilichokuwa kikituchukua siku saba au nane kuunda sasa kinaweza kufanywa kwa dakika tatu.

"Unahitaji tu kuwa na kompyuta."

Licha ya wasiwasi huo, India hapo awali ilisema haifikirii juu ya sheria ya AI.

Walakini, mnamo Machi 2024, serikali ilichukua hatua baada ya mabishano kuzuka juu ya jibu la Google la Gemini chatbot kwa swali lililouliza: "Je, Modi ni mfuasi?"

Rajeev Chandrasekhar, waziri mdogo wa teknolojia ya habari, alisema kuwa hii ilikiuka sheria za IT za nchi.

Kwa kujibu, serikali ya India imeamuru kwamba kampuni za teknolojia zipate ruhusa wazi kabla ya kuzindua hadharani miundo au zana za AI "zisizotegemewa" au "zisizojaribiwa" .

Zaidi ya hayo, imetahadharisha dhidi ya majibu kutoka kwa zana hizi ambayo yanaweza "kutishia uadilifu wa mchakato wa uchaguzi".

Walakini, wachunguzi wa ukweli wanasema kuwa hatua hizi hazitoshi.

Wanasisitiza kwamba kukanusha maudhui kama hayo ni kazi nzito, hasa wakati wa uchaguzi wakati habari potofu inapoongezeka.

Bw Chinnadurai alisema: “Habari husafiri kwa kasi ya kilomita 100 kwa saa.

"Habari za upotoshaji tunazosambaza zitaenda kwa kilomita 20 kwa saa."

Bw Kodali anasema kwamba bandia hizi zinaingia kwenye vyombo vya habari vya kawaida. Licha ya hayo, "tume ya uchaguzi iko kimya hadharani kuhusu AI".

Bw Kodali alisema: "Hakuna sheria kwa ujumla. Wanaruhusu tasnia ya teknolojia ijidhibiti badala ya kuja na kanuni halisi.

Wataalamu wanakubali kwamba hakuna suluhu la kipumbavu mbeleni.

Bwana Qureshi aliongeza: "Lakini [kwa sasa] ikiwa hatua itachukuliwa dhidi ya watu wanaosambaza bandia, inaweza kuwatisha wengine dhidi ya kushiriki habari ambayo haijathibitishwa."