Amodei alipendekeza mpango wa pointi tatu
Dario Amodei, mkuu wa kampuni ya AI Anthropic, ametoa wito wa kasi ya maendeleo ya akili bandia kupungua na kufuatiliwa kwa karibu zaidi.
Katika insha ya mtandaoni, Amodei alisema kutengeneza AI hakukuwa na shaka, lakini alionya kwamba hatari zinazohusiana na teknolojia hiyo zilikuwa "zito".
Alisema kwamba makampuni na serikali zinahitaji muda kushughulikia hatari kadri mifumo ya AI inavyozidi kuwa na uwezo.
Sam Altman na Elon Musk wote wameelezea kuunga mkono pendekezo hilo.
Maoni ya Amodei yanakuja huku kukiwa na wasiwasi unaoongezeka kuhusu hatari zinazoweza kusababishwa na mifumo ya AI yenye nguvu inayozidi kuongezeka.
Mtafiti wa AI Jacob Coxon alimwambia mwandishi wa BBC Laura Kuenssberg kwamba watu wanaofanya kazi katika makampuni ya AI "walikuwa na hofu ya dhati ... wakiwa na wasiwasi wa kweli kuhusu hatima ya ubinadamu katika miaka miwili ijayo".
Aliongeza: "Sio kutia chumvi hata kidogo kusema kwamba watu wanaohusika katika kuanzisha kampuni hizi na kujenga teknolojia wanaamini kuna uwezekano wa kutoweka kwa binadamu."
Katika insha yake, yenye kichwa cha habari Lazima Tuendelee na Mwendo wa Mpaka, Amodei alipendekeza mpango wa nukta tatu unaohusisha ufuatiliaji huru wa mifumo ya AI inapotengenezwa, kanuni za sekta nzima na kanuni za kimataifa.
Pendekezo lake liliungwa mkono na baadhi ya washindani, ikiwa ni pamoja na wito wa wachunguzi wa wahusika wengine kutathmini usalama wa mifumo ya AI wakati wa uundaji.
Huku akikubaliana na Amodei, Altman pia alielezea wasiwasi kuhusu usalama wa AI, akisema viwango vilivyopo "haviko mahali" ambapo tasnia inapaswa kusukuma uwezo wa AI zaidi.
Aliongeza kwamba aliamini AI iliyo nje ya udhibiti wa binadamu "inawezekana kabisa".
Maonyo hayo yamesababisha wito mpya wa kuchukuliwa hatua, ingawa Rais wa Marekani Donald Trump amekataa wasiwasi kuhusu kupunguza kasi ya maendeleo ya AI.
Trump alisema ana wasiwasi kwamba "tusiposhinda AI, tutawekwa katika nafasi mbaya sana".
Wasiwasi wa usalama wa mtandao pia umeongezeka kadri mifumo mipya ya akili bandia (AI) inavyoonyesha uwezo wenye nguvu zaidi.
Anthropic ilizuia mfumo wake wa Mythos kutumiwa na umma baada ya kutangazwa mwezi Aprili kwamba mfumo huo unaweza kutoroka mazingira yake ya majaribio, yanayojulikana kama sanduku la mchanga.
Wakati huo huo, OpenAI ilitaja wasiwasi wa usalama wa mtandao ilipoelezea ni kwa nini ilisitisha vipengele fulani vya maendeleo ya mfumo wake wa Astra.
Katika insha yake, Amodei alisema kwamba AI ilikuwa imeendelea "kwa kasi zaidi", ikiwa ni pamoja na "uwezo wake wa kujenga kizazi kijacho cha AI".
Pia alirejelea tukio lililohusisha OpenAI, ambapo mawakala waliripotiwa kuvamia malengo ya nje ambayo hawakuombwa kuyashambulia mwezi Julai.
Amodei alitaka "kujenga AI kwa kiwango cha usawa ambacho kinalenga kuhakikisha usalama wake huku bado kikipata faida zake".
Alisema hii haimaanishi "kusimamisha mafunzo ya mifumo au maendeleo ya kiufundi, lakini kuhakikisha makampuni yanachukua muda wa kutosha kupanga na kulinda mifumo yao, na kwa watathmini wa wahusika wengine kuthibitisha hili".
Amodei alisema Anthropic ilikuwa ikijitolea kwa mbinu hii "kwa upande mmoja", huku ikizitaka serikali "kuzitaka kampuni zingine za mipakani zilingane".
Alikubali kwamba kanuni zinaweza kuwa ngumu kuendana na maendeleo ya AI. Kwa hivyo alitoa wito kwa makampuni ya AI "kufanya kazi pamoja kwa hiari ili kuweka viwango" sambamba na kanuni za serikali.
Mkurugenzi Mtendaji wa Anthropic pia alizungumzia athari ambazo kupungua kwa kasi kunaweza kuwa nazo kwenye ushindani kati ya watengenezaji wakuu wa AI, hasa mbio na China.
Alisema: "Ninaamini kwamba ikiwa kupunguza kasi kutatusaidia hata mwaka mmoja au miwili zaidi kabla ya mifumo kufikia viwango muhimu vya uwezo, na tukatumia muda huo kuendeleza upatanishi, tunaweza kupunguza kwa kiasi kikubwa hatari kwamba kitu kitaenda vibaya sana."
Alisema kwamba kupungua kokote kwa uchumi kutahitaji kuratibiwa "bila kutoa faida ya kibiashara au uongozi wa Marekani katika akili bandia".
Amodei alisema vikwazo pia vinapaswa kupunguzwa ili kuepuka kuruhusu China kusonga mbele katika maendeleo ya AI.
Alihimiza serikali ya Marekani kuzuia makampuni ya Marekani kuuza chipsi za AI kwa China au kushiriki teknolojia hiyo na nchi za kimabavu.
