Kampuni ya Anthropic, iliyoko San Francisco na inayounda mfumo wa Claude, imependekeza kusitishwa kwa maendeleo ya akili bandia (AI) duniani kote kutokana na ishara kwamba mifumo mipya zaidi inaweza kutoroka udhibiti wa binadamu. Katika ripoti yake, kampuni hiyo inasema kuwa kupunguza kasi ya maendeleo ya AI ya hali ya juu katika kiwango cha ulimwengu ni wazo zuri. Hata hivyo, inakiri kwamba ikiwa ni kampuni moja tu ndiyo itapunguza kasi, ina hatari ya kushindwa na washindani wake. Pendekezo hili linakuja wakati ambapo sekta hiyo ina kasi ya ajabu, na data za ndani za Anthropic zinaonyesha kuwa AI inachochea maendeleo yake kwa njia ya ajabu.
Kusitishwa Kwa Maendeleo ya AI: Wito wa Anthropic
Anthropic inahoji kuwa kusitishwa halisi kungehitaji makampuni makubwa ya AI katika nchi mbalimbali, hasa China na Marekani, kukubali kusimama kwa wakati mmoja, chini ya sheria zinazoweza kuthibitishwa na pande zote. Katika ripoti yake, kampuni hiyo inasema kwamba bila utaratibu wa uratibu wa kimataifa, makampuni na serikali zitalazimika kufanya maamuzi magumu kuhusu usalama huku zikikabiliwa na shinikizo za ushindani na kijiografia. Anthropic inatarajia katika miezi ijayo kukusanya pamoja maafisa wa serikali, wanasayansi, makundi ya utetezi na makampuni washindani ili kufafanua jinsi mfumo huo ungeweza kufanya kazi. Mpango huo, hata hivyo, unakabiliwa na upinzani mkubwa huko Washington na Silicon Valley.
Changamoto za Uratibu wa Kimataifa
Ili kusitishwa kwa ulimwengu kuwa kwawezekana, Anthropic inatetea kwamba makampuni makubwa ya AI kutoka mataifa mbalimbali, hasa China na Marekani, yakubali kusitisha maendeleo kwa wakati mmoja, chini ya sheria ambazo zote zinaweza kuthibitisha. Bila makubaliano hayo, kampuni hiyo inaonya kwamba shinikizo za ushindani na kijiografia zitalazimisha maamuzi hatari ya usalama. Pendekezo hilo linakuja wakati ambapo kasi ya maendeleo ya AI yenyewe inafanya mjadala kuwa wa dharura zaidi. Ripoti ya Anthropic inaweka wazi kwamba bila utaratibu wa uratibu, matokeo yanayowezekana ni mbio isiyodhibitiwa, na madhara yasiyotabirika kwa udhibiti wa binadamu juu ya mashine hizi.
Hatari ya Kujiongezea Uwezo na Kupoteza Udhibiti
Mojawapo ya mambo makuu ya onyo la Anthropic ni hali inayojulikana kama uboreshaji wa kujirudia - uwezo wa mfumo wa AI kujifundisha yenyewe kuwa na akili zaidi. Kampuni hiyo inasisitiza kwamba data za ndani zinaonyesha kuwa jukumu la binadamu linapungua katika kila hatua ya mchakato wa maendeleo ya AI, jambo ambalo linaweza kusababisha mzunguko wa maoni usiodhibitiwa. Ingawa inakanusha kuwa hali hii haiwezi kuepukika, Anthropic inasisitiza kwamba ushahidi unaonyesha kupungua kwa taratibu kwa uingiliaji wa binadamu. Wito wa uratibu unatokea katika mazingira haya ya kasi ya maendeleo ya AI yenyewe.
Upinzani kutoka Washington na Silicon Valley
Pendekezo la Anthropic linakabiliwa na vita ngumu katika mazingira rasmi na ya kibiashara ya Marekani. Maafisa wa serikali ya Marekani na watendaji wa makampuni makubwa ya teknolojia wanasema kuwa kupunguza kasi ya maendeleo ya AI kunaweza kuipa China faida kubwa ya kimkakati. Shinikizo la ushindani ni kali, na siasa za kijiografia zinaongeza safu ya ziada ya ugumu kwenye mjadala kuhusu usalama. Licha ya mashaka hayo, Rais Donald Trump amesaini wiki hii amri inayomruhusu serikali kufanya tathmini za awali za mifano ya AI yenye nguvu zaidi ya makampuni ya Marekani kabla ya kuzinduliwa.
Amri ya Trump ya Tathmini ya Awali
Amri iliyosainiwa na Trump inawakilisha hatua madhubuti ya udhibiti, ingawa bado ni ya awali, katika mwelekeo wa udhibiti mkubwa zaidi juu ya mifumo ya AI. Hatua hiyo inaipa serikali mamlaka ya kukagua mifano ya hali ya juu kabla ya kufika sokoni, jambo ambalo Anthropic linaona kuwa hatua chanya, lakini haitoshi bila uratibu wa kimataifa. Kampuni hiyo inapanga katika miezi ijayo kushirikiana na maafisa wa serikali, wanasayansi, makundi ya utetezi na washindani ili kufafanua mfumo wa uthibitishaji wa kimataifa. Ugumu, hata hivyo, upo katika kulinganisha maslahi ya nchi zenye mitazamo tofauti juu ya mustakabali wa teknolojia.