Akili bandia hufanya makosa makubwa — makosa yanayoweza kusababisha madhara halisi katika mazingira ya kitaalamu yenye hatari kubwa. Kila mwingiliano na zana kama Claude au ChatGPT huja na onyo la utulivu: “AI inaweza kufanya makosa.” Watu wengi hupita onyo hilo, lakini wataalamu wanasema onyo hilo si la kawaida. Badala yake, ni tahadhari muhimu kwa wataalamu wanaotumia AI katika nyanja ngumu, za kiufundi, na zenye matokeo ya kisheria.
Tegemeo La Kujiamini: Kwa Nini Makosa ya AI Ni Magumu Kuyaona
Moja ya sifa hatari zaidi za miundo ya lugha kubwa ya leo si tu kwamba inakosea — ni kukosea kwa ujasiri mkubwa. Tofauti na wataalamu waangalifu, mifumo ya AI haitengenezi kinga wala kusimama kukagua marejeleo. Inazalisha majibu mazuri, yenye mamlaka na yaliyopangwa vizuri, na kupachika makosa ndani ya mawasilisho yaliyong'arishwa ambayo ni rahisi kukosa. Jambo hili, linaloitwa wakati mwingine “hallucination,” si hitilafu itakayorekebishwa katika sasisho lijalo la modeli. Ni sifa asili ya jinsi mifumo hii inavyofanya kazi, ikitoa matokeo ya uwezekano kulingana na mifumo katika data ya mafunzo — na inapofika kwenye kingo za maarifa yake, inaendelea kutoa, kwa ushawishi na wakati mwingine kimakosa kabisa.
Mfano Halisi wa Makosa ya AI Katika Sheria
Katika nyanja ya utaalamu wa kisheria — hasa kufuata sheria, utetezi wa makosa ya wadhifa, na utawala wa shirika — zana za AI hufanya makosa makubwa mara kwa mara. Mtaalamu mmoja anaripoti kuona mifumo ya AI ikitaja kesi ambazo hazipo, kuelezea vibaya maamuzi ya kesi halisi, kuchanganya mifumo ya udhibiti, na kutoa uchambuzi wa kufuata sheria unaosikika kuwa mamlaka lakini unategemea makosa ya ukweli au kisheria. Kwa mtu asiye mtaalam, makosa hayo hayaonekani kabisa: matokeo yanaonekana sawa, yameandikwa kwa usahihi, na yanatumia msamiati sahihi wa kisheria. Hakuna kitu juu ya uso kinachoashiria kuwa uchambuzi chini yake una kasoro.
Hatari kwa Wasiokuwa Wataalamu: Makosa Yasiyoonekana
Hiyo ndiyo inayofanya usahihi wa AI kuwa hatari sana katika nyanja za kiufundi. Mshirika mdogo anayekosea sheria anazalisha memo ambayo mshirika mkuu atakagua na kusahihisha. Lakini mfumo wa AI unaokosea sheria unazalisha pato ambalo — likitumika bila ukaguzi wa mtaalam — linaweza kamwe kusahihishwa. Matokeo katika mazoezi ya kisheria si ya kufikirika tu: uchambuzi mbaya wa kisheria husababisha maamuzi mabaya, ambayo katika masuala ya kufuata na makosa ya wadhifa husababisha hatari zisizotambuliwa, utetezi ulioshindwa, ufichuzi wa udhibiti, na matokeo ambayo yanawadhuru wateja vibaya.
Mahitaji ya Kimuundo, Si Ukaguzi wa Hiari
Somo kutokana na uzoefu huu si kwamba AI haina faida — ni zana yenye nguvu kweli kwa utafiti, uandishi, usanisi, kubaini masuala, na kuongeza tija. Somo ni kwamba AI ni mahali pa kuanzia, si mahali pa kumalizia. Kila mtaalamu anayetumia AI katika nyanja ya kiufundi lazima ajenge uthibitishaji wa binadamu katika mtiririko wao wa kazi kama hitaji la kimuundo, si ukaguzi wa ubora wa mara kwa mara. Hii inamaanisha:
- Ukaguzi wa mtaalam wa uchambuzi wa kisheria, matibabu, kifedha, au kisayansi unaozalishwa na AI kabla ya kutegemewa.
- Uthibitishaji wa marejeleo ili kuhakikisha kwamba nukuu, kesi, kanuni, na data zipo na kusema kile AI inavyodai.
- Uamuzi wa muktadha ambao ni mtaalamu wa nyanja pekee anayeweza kutumia.
- Sera za shirika zilizo wazi zinazosimamia matumizi ya AI katika kazi ya hatari kubwa.
Kwa mashirika yanayotumia AI kwa kiwango kikubwa — katika idara za sheria, kazi za kufuata sheria, mazoezi ya matibabu, huduma za kifedha, na mazingira ya ushauri wa kitaalamu — hili si la hiari. Ni wajibu wa usimamizi wa hatari. Sekta ya AI inasherehekea uwezo, na sherehe hiyo inastahili, lakini uwezo wa ajabu hauondoi wajibu wa kuthibitisha. Katika mazoezi ya kitaalamu, kiwango cha utunzaji hakibadiliki kwa sababu zana mpya inapatikana. Wanasheria bado wanawajibika kwa usahihi wa kazi yao ya kisheria, maafisa wa kufuata kwa usahihi wa tathmini zao za hatari, na madaktari kwa ubora wa uamuzi wao wa kimatibabu. AI inaweza kusaidia kazi zote hizo, lakini haiwezi kuchukua nafasi ya mtaalamu wa binadamu anayesimama nyuma yao.