Bollywood Deepfakes wanasisitiza Wasiwasi wa AI wa India

Mitandao ya kijamii ni maarufu sana nchini India lakini pia ina upande wa giza na kipengele kimoja maarufu ni bandia.

Deepfakes ni somo ambalo lilijitokeza tu kwenye wavuti mnamo 2017, haswa kwenye Reddit ambayo baadaye iliona tovuti ikipiga marufuku.

Mada hiyo imekuwa kona nyeusi ya mtandao, ambapo watu katika maelfu wamekusanyika kushiriki video bandia za wanawake mashuhuri wanaofanya ngono.

Kulingana na Jimbo la 2023 la Deepfakes kuripoti kutoka kwa Mashujaa wa Usalama wa Nyumbani, idadi ya bandia za mtandaoni imeongezeka kwa 550% hadi 95,820 ikilinganishwa na 2019.

India ni nchi ya sita katika mazingira magumu zaidi.

Kuna kategoria tofauti ambayo imeundwa na video za muundo na picha za waigizaji wa Bollywood.

Matukio ya ponografia yanayoangazia nyuso za Deepika Padukone na Priyanka Chopra ni ya kawaida.

Deepfakes kawaida hazikuwa za kisasa, na wengi waliweza kusema kuwa walikuwa bandia.

Satnam Narang, mtafiti tishio huko Tenable, anasema:

"Hadi sasa, maendeleo ya AI ya uzalishaji bado hayajaathiri ulimwengu wa bandia.

"Bado tunaona bandia za msingi zikitumiwa kulaghai wahasiriwa kutoka kwa pesa kama sehemu ya ulaghai wa pesa za kificho.

"Walakini, mara tu upitishaji wa AI wa uzalishaji unapotokea katika nafasi hii, itafanya iwe vigumu zaidi kwa watumiaji kutofautisha kati ya maudhui bandia na yasiyo ya kina yanayozalishwa."

Lakini pamoja na zana za uhariri wa picha na video kuwa rahisi kutumia na pamoja na AI, mchakato wa udaktari wa picha au video umekuwa rahisi na wa kisasa zaidi.

Wachezaji wa kina wa Rashmika Mandanna na Katrina Kaif hivi majuzi wamejulikana lakini ni ncha tu ya barafu.

Tatizo la msingi ni kubwa zaidi.

Kesi ya Rashmika

Video ilisambaa kwa kasi, ikimuonyesha mwanamke akiingia kwenye lifti kwenye jumba la chini la chini.

Rashmika Mandannauso ulikuwa umeinuliwa juu ya mwanamke huyo.

Mwanamke huyo alikuwa Zara Patel, mwanamke wa Uingereza na wafuasi 400,000 wa Instagram.

Rashmika alimvunja ukimya juu ya suala hilo, akisema:

"Kitu kama hiki ni cha uaminifu, cha kutisha sana sio kwangu tu, bali pia kwa kila mmoja wetu ambaye leo yuko katika hatari ya madhara kwa sababu ya jinsi teknolojia inavyotumiwa vibaya.

"Leo, kama mwanamke na kama mwigizaji, ninashukuru kwa familia yangu, marafiki na watu wanaonitakia mema ambao ni mfumo wangu wa ulinzi na msaada.

"Lakini ikiwa hii ilinitokea nilipokuwa shuleni au chuo kikuu, siwezi kufikiria jinsi ningeweza kukabiliana na hili.

"Tunahitaji kushughulikia hili kama jamii na kwa uharaka kabla ya wengi wetu kuathiriwa na wizi kama huo wa utambulisho."

Zara Patel alisema: “Habari zenu, imenijia kwamba mtu fulani aliunda video bandia kwa kutumia mwili wangu na sura ya mwigizaji maarufu wa Bollywood.

"Sikuhusika na video hiyo ya kina, na nimesikitishwa sana na kile kinachotokea.

"Nina wasiwasi kuhusu mustakabali wa wanawake na wasichana ambao sasa wanapaswa kuogopa zaidi kuhusu kujiweka kwenye mitandao ya kijamii.

"Tafadhali chukua hatua nyuma na uangalie ukweli unachokiona kwenye mtandao. Sio kila kitu kwenye mtandao ni kweli."

Kesi ya Katrina

Siku chache tu baada ya video ya uwongo ya Rashmika Mandanna kusambaa mitandaoni, Katrina Kaif pia aliangukiwa na ulaghai mkubwa.

Alikuwa ameshiriki picha ya nyuma ya pazia yake kutoka Tiger 3.

Picha hiyo ni sehemu ya mlolongo wa pambano la Katrina na Michelle Lee, ambapo wote wamevalia taulo pekee.

Deepfake alimshirikisha Katrina bila taulo. Badala yake, mwigizaji huyo alikuwa amevaa nguo nyeupe iliyofunua ya vipande viwili.

Mwili wake pia ulikuwa umehaririwa, ambayo ni pamoja na mikunjo yake kuwa ya kutosha zaidi.

Picha ya uwongo ilionyesha mikono ya Katrina imewekwa juu yao kwa pozi la kupendeza zaidi.

Tangu kesi zote mbili zitokee, Sonnalli Seygall amefichua kwamba alipata uzoefu kama huo.

Alikiri hivi: “Ndiyo, imenitokea siku za nyuma lakini si katika video, kwa njia ya picha. Na ilikuwa ya kutisha sana wakati huo.

"Kwa kweli, mama yangu alinijulisha na mama yangu ni mdanganyifu sana na angalau wakati huo wakati pia ilikuwa mpya, hakuelewa. Ilimuathiri sana.

“Amesema hizi picha zako ni zipi? Na nilikuwa kama sio mama kweli, wamebadilika."

“Kwa hiyo inasikitisha sana. Inatisha na inanikasirisha.

"Ni kinyume cha sheria kabisa na kwa sababu wao ni watu wasio na uso wanaofanya hivi haifanyi kuwa sawa kwa viwango vyovyote."

Suala Kubwa Zaidi

Ingawa majaribio ya kina ya Rashmika Mandanna na Katrina Kaif ni ya kutisha, ni sehemu ndogo tu ya suala kubwa zaidi.

Wanawake wengi wa Kihindi wamevuja mtandaoni picha zao zilizohaririwa na video za uwongo.

Ingawa Serikali ya India imesema adhabu ya kuchapisha au kusambaza maudhui kama hayo ni kifungo cha miaka mitatu jela na Sh. Faini ya Laki 1 (£980), kuna matatizo na hili.

Kwanza, kupata mtu kusajili malalamiko ni kazi. Hata kama malalamiko yamesajiliwa, kukamatwa hufanywa mara chache.

Kwa kawaida, mhusika huenda bila kuadhibiwa.

Badala yake, mamlaka za India zinatishia majukwaa ya mitandao ya kijamii kwa faini na kifungo cha jela kwa watendaji wao hadi wadhifa huo utakapoondolewa.

Hii inafanya kazi wakati mwingine lakini bora, ni suluhisho la muda.

Linapokuja suala la tovuti za mitandao ya kijamii kuruhusu machapisho kama haya, mifumo mingi haina mbinu ya kuchuja maudhui bandia baada ya kuchapishwa.

Udhibiti wa yaliyomo unatumia wakati na gharama kubwa.

Kampuni nyingi zinafanyia kazi mbinu zitakazozisaidia kuripoti maudhui kama haya. Lakini michakato hii itategemea sana AI, ambayo inaweza kughushiwa kwa urahisi.

Je, India ina Sheria dhidi ya Deepfakes?

Kujibu madai ya kina ya Rashmika Mandanna, serikali ilitoa ukumbusho kwa majukwaa ya mitandao ya kijamii kuhusu uwongo wa kina na adhabu zinazotumika.

Serikali ilitaja Kifungu cha 66D cha Sheria ya Teknolojia ya Habari, 2020, ambayo inahusiana na "adhabu kwa udanganyifu wa kibinafsi kwa kutumia rasilimali ya kompyuta".

Kifungu hicho kilisema: “Yeyote, kwa njia ya kifaa chochote cha mawasiliano au rasilimali ya kompyuta atadanganya kwa kujifanya mtu, ataadhibiwa kwa kifungo cha ama maelezo kwa muda ambao unaweza kuendelea hadi miaka mitatu na pia atatozwa faini ambayo inaweza kufikia laki moja. rupia.”

Waziri wa Muungano wa Nchi wa Elektroniki na Teknolojia ya Habari Rajeev Chandrasekhar alisema Waziri Mkuu Narendra Modi amejitolea kuhakikisha usalama na uaminifu kwa Wahindi katika nafasi ya dijiti.

Aliandika kwenye Twitter: "Chini ya sheria za IT zilizoarifiwa mnamo Aprili 2023, ni wajibu wa kisheria kwa majukwaa:

• hakikisha hakuna habari potofu iliyotumwa na mtumiaji yeyote.
• hakikisha kwamba inaporipotiwa na mtumiaji au serikali yoyote, maelezo ya uwongo yanaondolewa baada ya saa 36.
• ikiwa mifumo haizingatii hili, kanuni ya 7 itatumika na majukwaa yanaweza kupelekwa mahakamani na mtu aliyedhulumiwa chini ya masharti ya IPC.

Aliongeza:

"Deepfakes ni aina ya hivi punde na hatari zaidi na yenye uharibifu ya habari potofu na inahitaji kushughulikiwa na majukwaa."

Lakini ponografia ya kina ni wasiwasi mkubwa.

Ingawa baadhi ya sheria zilizopo nchini India zinaweza kutumika kukabiliana na uwongo, kuna hitaji kubwa la sheria mahususi kukabiliana na changamoto zinazoletwa na maudhui kama hayo.

Radhika Roy, wakili na wakili mshiriki wa wakfu wa Internet Freedom Foundation (IFF), alisema neno "deepfake" halijafafanuliwa kwa uwazi katika sheria yoyote.

Lakini kuna masharti ya kisheria ya kukabiliana nayo, kama vile Kifungu cha 67 cha Sheria ya TEHAMA, "ambayo inaweza kutumika kuchapisha nyenzo chafu katika mfumo wa kielektroniki".

Alisema: "Kuna haja ya kuwa na maelezo wazi na matokeo wazi zaidi linapokuja suala la uwongo, kwa kuzingatia asili yao ya siri na jinsi wakati mwingine haiwezekani kusema ukweli kutoka kwa uwongo."

Ni Nini Kinachohitaji Kufanywa?

Kile India inahitaji ni seti ya sheria zinazotekelezeka.

Serikali inahitaji kuangalia nchi kama Singapore na Uchina, ambapo watu wamefunguliwa mashtaka kwa kuchapisha bandia.

Utawala wa Anga ya Mtandao wa Uchina (CAC) ulianzisha sheria pana iliyobuniwa kudhibiti uenezaji wa maudhui bandia.

Hii inakataza uundaji na usambazaji wa bandia za kina zinazozalishwa bila idhini ya watu binafsi, na hivyo kulazimisha utekelezaji wa hatua mahususi za utambuzi wa maudhui yanayozalishwa kupitia akili ya bandia.

Nchini Singapore, Sheria ya Ulinzi dhidi ya Uongo na Udanganyifu Mtandaoni (POFMAN) hutumika kama mfumo wa kisheria unaokataza video bandia za kina.

Vile vile, Korea Kusini inaagiza kwamba maudhui yanayozalishwa na AI na video zilizohaririwa na picha kama vile za uwongo ziandikwe hivyo kwenye majukwaa ya mitandao ya kijamii.

Kwa kuwa sheria kama hizo bado hazijaanzishwa nchini India, sheria zilizopo ndani ya Vifungu vya 67 na 67A vya Sheria ya Teknolojia ya Habari (2000) zinaweza kutumika.

Vipengele vya sehemu hizi kuhusu uchapishaji au uwasilishaji wa nyenzo chafu katika mfumo wa kielektroniki na shughuli zinazohusiana zinaweza kutumika ili kulinda haki za waathiriwa wa kina.

Ingawa kughushi si jambo geni, matukio yanayowahusisha Rashmika Mandanna na Katrina Kaif yameweka mada hiyo katika uangalizi.

Deepfakes ni jambo la kutisha, kwa mwathirika na kwa suala la kueneza habari potofu.

Na kwa kuongezeka kwa AI, data bandia zitakuwa za kweli zaidi, hatari ya tahajia kwa wahasiriwa wanaowezekana.

Ni juu ya serikali ya India kuchukua hatua ili kukabiliana na uzalishaji na usambazaji wa bidhaa bandia.