OpenAI ilielezea tukio hilo kama "lisilo la kawaida"
OpenAI ilifichua kwamba baadhi ya mifumo yake ya hali ya juu zaidi ya akili bandia iligeuka kuwa ya kijambazi na kudukua kampuni mpya baada ya kupoteza udhibiti wake wakati wa jaribio la usalama.
Msanidi programu wa ChatGPT alisema mfumo wa AI unaojiendesha ulikuwa unatathminiwa ndani ya sanduku salama la mchanga lililoundwa kudhibiti vitendo vyake.
Hata hivyo, baada ya kubaini udhaifu, mawakala hao walijiondoa kutoka kwa vikwazo vya majaribio na kulenga Hugging Face, mojawapo ya majukwaa makubwa zaidi duniani ya kushiriki mifumo ya AI.
OpenAI ilielezea tukio hilo kama "lisilo la kawaida" na ikasema inachunguza pamoja na Hugging Face.
Mtendaji mkuu wa Hugging Face Clement Delangue aliandika kwenye X kwamba "ilikuwa ya kushangaza kwamba haya yote yalitokea kwa uhuru".
Aliongeza: "Uchunguzi unaendelea, na tutashiriki mambo zaidi ya kujifunza kutokana na kile kinachoweza kuwa tukio la kwanza la aina yake."
Kulingana na OpenAI, mawakala wa AI walitambua Hugging Face kama chanzo kinachowezekana cha taarifa walichokuwa wakitafuta wakati wa jaribio. Kisha walijaribu kupata mifumo ya ndani ya kampuni baada ya kutoroka kwenye sanduku la mchanga.
Katika ufichuzi wake wa awali mnamo Julai 16, Hugging Face ilisema bado inatathmini kama data yoyote ya mteja au mshirika imeathiriwa na itawasiliana na wahusika walioathiriwa ikiwa ni lazima.
Kampuni hiyo imethibitisha kuwa imefunga udhaifu uliojitokeza wakati wa tukio hilo na kujenga upya mifumo iliyoathiriwa.
Hugging Face alisema: "Utumiaji wa zana za kushambulia zinazoendeshwa na akili bandia (AI) sio nadharia tena.
"Kulinda jukwaa la mtandaoni sasa kunamaanisha kutibu uso wa data na modeli kama uso wa shambulio la daraja la kwanza, na kutumia akili bandia katika ulinzi ili kuendana na kasi."
"Tutaendelea kuwekeza huko, na kuendelea kushiriki kile tunachojifunza."
Tukio hilo limeibua wasiwasi mpya kuhusu kama ulinzi wa sasa unatosha kadri mifumo ya AI inavyozidi kuwa na uwezo.
Msemaji wa serikali ya Uingereza alisema Taasisi ya Usalama ya AI ilikuwa ikichunguza tabia walionyesha wakati wa tukio hilo na waliendelea kufanya kazi na OpenAI na watengenezaji wengine wa AI ili kuimarisha ulinzi.
Msemaji huyo pia alihimiza mashirika kuboresha usalama wao wa mtandao kwa kupitisha hatua kama vile mpango wa uidhinishaji wa Cyber Essentials unaoungwa mkono na serikali.
Gina Neff, mkuu wa Kituo cha Teknolojia na Demokrasia cha Minderoo katika Chuo Kikuu cha Cambridge, alielezea kwamba visanduku vya mchanga vya AI vimeundwa kutathmini mifumo ya hali ya juu kwa usalama.
Alisema: "Katika hali hii, inaonekana kama OpenAI haikutengeneza sanduku la mchanga lenye usalama wa kutosha."
Badala ya kubaki ndani ya mazingira ya majaribio, mawakala wa AI walianzisha shambulio la mtandaoni dhidi ya sanduku lenyewe la mchanga, waligundua udhaifu na wakaepuka vikwazo.
Neil Lawrence, Profesa wa ujifunzaji wa mashine katika Chuo Kikuu cha Cambridge, alielezea tukio hilo kama "kitu cha kuvutia", lakini akasema "linaangukia vyema ndani ya uwezo unaojulikana wa kizazi cha sasa" cha mifumo ya hali ya juu ya akili bandia.
Pia alibainisha kuwa OpenAI inajiandaa kwa orodha ya soko la hisa huku ikikabiliwa na ushindani unaoongezeka kutoka kwa Anthropic, ambaye mfumo wake wa Claude Mythos umevutia umakini mkubwa.
Wataalamu wa usalama wa mtandao walisema tukio hilo linapaswa kuwa onyo kwa mashirika yanayotegemea ulinzi uliopo.
Spencer Starkey, mtendaji mkuu katika kampuni ya usalama wa mtandao SonicWall, alisema biashara zinahitaji "kuongeza" hatua zao za usalama na "kuchukulia ustahimilivu wa mtandao kama kipaumbele kikuu cha uendeshaji".
Aliongeza:
"Ukweli usiofurahisha ni kwamba mashirika mengi sana bado yanajilinda kwa kasi ya kibinadamu huku wapinzani wakiongezeka hadi kasi ya mashine."
Jake Moore, mshauri wa usalama wa mtandao duniani katika ESET, alipendekeza kwamba tangazo hilo linaweza pia kuwa na kipengele cha ushindani.
Alisema OpenAI inaweza kuwa inatafuta kuonyesha uwezo wake wa AI huku Anthropic ikiendelea kupata umaarufu kwa Claude Mythos.
Moore alisema: "Inazua swali kwamba OpenAI inaweza kuwa inafuatilia ndoto ya uuzaji ya Anthropic hivi karibuni."
Ufichuzi huu unakuja wiki moja baada ya kampuni mpya ya akili bandia ya China Moonshot kuanzisha Kimi K3, mfumo mpya wa lugha kubwa ambao kampuni hiyo inadai unaweza kushindana na mifumo inayoongoza ya akili bandia iliyotengenezwa na makampuni makubwa ya Marekani.
