Utafiti waonya kwamba viboti vya gumzo vya AI si salama kwa ushauri wa kimatibabu

Kutumia vibodi vya gumzo vya akili bandia kutafuta ushauri wa kimatibabu kunaweza kuwa hatari, kulingana na utafiti mpya kutoka Chuo Kikuu cha Oxford, na kuzua wasiwasi kuhusu usalama wa mgonjwa.

The kujifunza iligundua kuwa kutegemea AI kwa ajili ya kufanya maamuzi ya kimatibabu kunaleta hatari dhahiri, hasa kutokana na taarifa zisizo sahihi na zisizoendana zinazoshirikiwa na chatbots.

Watafiti walionya kwamba ingawa zana za akili bandia zinaonekana kuwa na uhakika, mara nyingi hushindwa kutoa mwongozo wa kuaminika watu wanapotafuta msaada kwa dalili halisi za kiafya.

Utafiti huo uliongozwa na wataalamu kutoka Taasisi ya Intaneti ya Oxford na Idara ya Sayansi ya Afya ya Huduma ya Msingi ya Nuffield katika Chuo Kikuu cha Oxford.

Dkt. Rebecca Payne, daktari wa familia na mwandishi mwenza wa utafiti huo, alisema matokeo hayo yanapinga kuongezeka kwa imani ya umma katika ushauri wa afya unaoendeshwa na akili bandia.

Alieleza kwamba, licha ya tetesi zilizoenea, akili bandia haiko tayari kuchukua nafasi ya wataalamu wa matibabu waliofunzwa katika kufanya maamuzi ya kimatibabu.

Dkt. Payne alionya kwamba wagonjwa wanaouliza mifano ya lugha kubwa kuhusu dalili hatari ya kupata utambuzi usio sahihi na kukosa dalili zinazoonyesha kwamba msaada wa haraka wa kimatibabu unahitajika.

Utafiti huo ulijaribu jinsi watu wanavyoingiliana na akili bandia wanapokabiliwa na maamuzi yanayohusiana na afya, ukionyesha pengo kati ya maarifa ya kinadharia na utunzaji wa ulimwengu halisi.

Karibu washiriki 1,300 waliulizwa kutambua hali zinazowezekana za kiafya na kuamua hatua zinazofaa katika hali tofauti za kimatibabu.

Baadhi ya washiriki walitumia vibodi vikubwa vya gumzo vya lugha ili kupata utambuzi na ushauri unaowezekana, huku wengine wakifuata njia za kitamaduni, ikiwa ni pamoja na kushauriana na daktari.

Watafiti kisha walitathmini ubora wa maamuzi yaliyofanywa, wakizingatia usahihi, usalama, na kama watumiaji walitambua wakati huduma ya dharura inahitajika.

Matokeo yalionyesha kuwa mifumo ya AI mara nyingi ilitoa mchanganyiko wa taarifa muhimu na zenye madhara, ambazo watumiaji wengi walijitahidi kuzitenganisha au kuzitilia shaka.

Hata wakati maelezo sahihi yalipojumuishwa, mapendekezo ya kupotosha yalionekana mara kwa mara pamoja nao, na kusababisha mkanganyiko badala ya uwazi kwa wagonjwa.

Watafiti walibainisha kuwa ingawa roboti za mazungumzo za AI hufanya vizuri katika majaribio sanifu ya maarifa ya kimatibabu, matumizi halisi yanaelezea hadithi tofauti.

Walionya kwamba kutumia akili bandia (AI) moja kwa moja kwa masuala ya afya ya kibinafsi kunaweza kusababisha hatari kubwa kwa watu wanaotafuta uhakikisho au mwongozo.

Utafiti huo ulisisitiza kwamba ushauri wa kimatibabu unahitaji hukumu, muktadha, na mwingiliano wa kibinadamu, maeneo ambayo akili bandia bado haipatikani.

Dkt. Payne alisema matokeo hayo yanaangazia ugumu wa kujenga mifumo ya akili bandia (AI) ambayo inaweza kuwasaidia watu katika maeneo nyeti na yenye umuhimu mkubwa kama vile huduma ya afya.

Aliongeza kuwa maamuzi ya kiafya mara chache huwa rahisi na mara nyingi hutegemea kutambua mambo madogo madogo, uharaka, na dalili za kihisia.

Mwandishi mkuu wa utafiti huo, Andrew Bean kutoka Taasisi ya Intaneti ya Oxford, alisema hata mifumo ya akili bandia inayofanya vizuri hupata shida wanapoingiliana na wanadamu.

Alieleza kwamba kuelewa jinsi watu wanavyoelezea dalili, hisia, na kutokuwa na uhakika bado ni changamoto kubwa kwa mifumo ya sasa ya akili bandia (AI).

Bean alisema utafiti huo unalenga kuhimiza uundaji wa zana salama na zenye uwajibikaji zaidi za AI.

Kwa jamii za Asia Kusini, ambapo vikwazo vya ufikiaji, tofauti za lugha, na unyanyapaa wa kitamaduni tayari zinaathiri huduma ya afya, hatari hizi zinaweza kuwa kubwa zaidi.

Wataalamu wanaonya kwamba akili bandia (AI) haipaswi kuchukua nafasi ya ushauri wa kitaalamu wa kimatibabu, hasa kwa jamii ambazo tayari zinakabiliana na ukosefu wa usawa tata wa kiafya.

Watafiti walisisitiza kwamba akili bandia (AI) bado inaweza kuchukua jukumu la usaidizi katika huduma ya afya, lakini tu pamoja na wataalamu waliofunzwa na ulinzi mkali.

Waliwasihi wagonjwa kutibu ushauri wa chatbot kwa tahadhari na kutafuta msaada kutoka kwa madaktari waliohitimu wanapopata dalili au wasiwasi wa kiafya.