Ufahamu wa Akili ya Kawaida kwa AI ya Mazungumzo: Uchunguzi wa Hali ya Sanaa

1. Utangulizi

Karatasi hii ya uchunguzi inashughulikia changamoto muhimu ya kujumuisha ufahamu wa akili ya kawaida katika mifumo ya kisasa ya AI ya mazungumzo. Ingawa mifano mikubwa ya lugha iliyofunzwa awali (k.m., BERT, GPT, T5) imepata mafanikio makubwa katika kuelewa sintaksia na muktadha, kimsingi wanakosa maarifa ya kimwili na ya kijamii ambayo binadamu huyachukulia poa. Karatasi inasema kuwa pengo hili ndio kizuizi kikuu kinachozuia AI kushiriki katika mazungumzo ya asili, yanayofuatana, na yenye akili. Waandishi, Christopher Richardson na Larry Heck kutoka Georgia Tech, wanaweka kazi yao kama ramani muhimu ya hali ya sasa—mbinu, seti za data, na tathmini—ili kuongoza utafiti wa baadaye katika uwanja huu mpya lakini muhimu.

2. Ufahamu wa Akili ya Kawaida katika Matatizo ya AI ya Mazungumzo

Karatasi inaelezea kazi maalum za mazungumzo ambapo kushindwa kwa akili ya kawaida kunaonekana wazi zaidi.

3. Mbinu za Kujumuisha Akili ya Kawaida

Uchunguzi huu hupanga njia kuu za kiufundi zilizochunguzwa katika fasihi.

4. Viwango vya Kulinganisha na Vipimo vya Tathmini

5. Uchunguzi wa Awali kuhusu Mifano ya Hali ya Sanaa

Waandishi wanawasilisha uchambuzi muhimu, wa vitendo wa mifano ya kuongoza ya mazungumzo wazi, BlenderBot 3 na LaMDA. Uchunguzi wao ni wa kulaumiwa: licha ya ukubwa na ustadi wa mifano hii, mara nyingi wanashindwa katika kazi rahisi za akili ya kawaida. Mifano inajumuisha kutengeneza taarifa zinazokinzana ndani ya mazungumzo au kushindwa kuelewa vikwazo vya msingi vya kimwili. Ushahidi huu wa majaribio unaonyesha kwa nguvu nadharia kuu ya karatasi: utendaji wa kiwango cha kulinganisha sio sawa na akili ya kawaida thabiti, inayoweza kutumiwa katika mwingiliano wa wazi.

6. Uelewa wa Msingi na Uchambuzi

Uelewa wa Msingi: Uwanja wa AI ya mazungumzo unakumbwa na "deni kubwa la akili ya kawaida." Tumejenga majengo marefu (LLMs kubwa) juu ya misingi dhaifu, isiyo wazi. Uchunguzi huu unatambua kwa usahihi kwamba suala la msingi sio ukosefu wa mbinu, bali kutolingana kwa msingi kati ya hali ya takwimu, muundo wa kufananisha wa NLP ya kisasa na hali ya ishara, ya sababu, na ya kulinganisha ya akili ya kawaida ya binadamu. Kama ilivyoelezwa katika kazi muhimu "On the Measure of Intelligence" na Chollet (2019), akili ya kweli inahitaji upatikanaji wa ujuzi na ujumuishaji katika hali mpya—jambo lisilowezekana bila mfano tajiri wa ulimwengu.

Mtiririko wa Mantiki: Muundo wa karatasi huu ni wa kimantiki na wa kushawishi. Unahama kutoka kwa kufafanua tatizo na dalili zake (Sehemu 1-2), hadi kusajili suluhisho za uhandisi zilizojaribiwa (Sehemu 3), hadi kuchunguza jinsi tunavyopima maendeleo (Sehemu 4), na hatimaye kutoa ushahidi halisi kwamba suluhisho za sasa hazitoshi (Sehemu 5). Mtiririko huu unafanana na mbinu ya kisayansi: nadharia (akili ya kawaida haipo), majaribio (njia mbalimbali za ujumuishaji), kipimo (viwango vya kulinganisha), na hitimisho (halijatatuliwa).

Nguvu na Mapungufu: Nguvu kuu ya karatasi hii ni tathmini yake halisi, ya kukosoa ya mifano ya SOTA. Inapita zaidi ya dhana za kitaaluma kuonyesha njia halisi za kushindwa. Kosa lake kuu, la kawaida kwa uchunguzi, ni hali yake ya kuelezea badala ya kuelekeza. Inachora ramani ya eneo lakini inatoa mwongozo mdogo juu ya njia gani zina matumaini zaidi. Haionyeshi vizuri mapungufu ya muundo wa mifano safi ya transformer kwa mantiki ya sababu, jambo linalosisitizwa sana katika utafiti kutoka taasisi kama MIT's CSAIL kuhusu ujumuishaji wa neoro-ya ishara.

Uelewa Unaoweza Kutekelezwa: Kwa wataalamu na watafiti, hitimisho ni wazi: acha kuchukulia akili ya kawaida kama seti nyingine tu ya data ya kusahihisha. Uwanja unahitaji mabadiliko ya dhana. 1) Wekeza katika Miundo ya Neoro-ya Ishara: Mifano mseto inayounganisha mitandao ya neva na uwakilishi wa maarifa wazi, yanayoweza kubadilishwa (kama kazi ya Differentiable Inductive Logic Programming) ni mwelekeo muhimu. 2) Kukuza Mazingira Bora ya Kuiga: Kama Gym ya OpenAI kwa ujifunzaji wa kuimarisha, tunahitaji viiga vya mwingiliano tajiri (vilivyochochewa na majukwaa kama THOR ya AllenAI) ambapo wakala wanaweza kujifunza akili ya kawaida kupitia uzoefu wa kimwili na matokeo, sio maandishi tu. 3) Fikiria Upya Tathmini: Hamia kutoka kwa viwango vya kulinganisha vya maswali na majabu hadi tathmini ya mwingiliano, ambapo mifano lazima ionyeshe uelewa thabiti wa ulimwengu kwa muda, sawa na kanuni za changamoto ya ARC (Abstraction and Reasoning Corpus).

7. Maelezo ya Kiufundi

Njia ya utegegemezi wa grafu ya maarifa mara nyingi inajumuisha mfumo wa utengenezaji ulioimarishwa wa upatikanaji. Kimaadili, kwa kuzingatia muktadha wa mazungumzo $C$, mfano hupata seti ya tuple zinazohusiana za maarifa ya akili ya kawaida $K = \{(h_i, r_i, t_i)\}$ kutoka kwa grafu ya maarifa $\mathcal{G}$, ambapo $h$ ni kitu kikuu, $r$ uhusiano, na $t$ kitu cha mkia. Jibu la mwisho $R$ linatengenezwa kwa kuzingatia $C$ na $K$:

$P(R | C) \approx \sum_{K} P_{\text{retrieve}}(K | C) \cdot P_{\text{generate}}(R | C, K)$

Mifano kama COMET hutekeleza hii kwa kusahihisha transformer (k.m., GPT-2) kutabiri kitu cha mkia $t$ kwa kuzingatia $(h, r)$, kwa ufanisi kujifunza kupita grafu katika nafasi ya siri: $t = \text{COMET}(h, r)$.

8. Matokeo ya Majaribio & Maelezo ya Chati

Ingawa onyesho la PDF halina chati wazi, uchunguzi wa awali ulioelezwa unamaanisha pengo kubwa la utendaji. Tunaweza kufikiria chati ya kihisia ya baa inayolinganisha utendaji wa kibinadamu dhidi ya BlenderBot3 na LaMDA kwenye safu ya kazi za mazungumzo za akili ya kawaida (k.m., Uwiano, Mantiki ya Kimwili, Mantiki ya Kijamii). Mhimili wa Y ungewakilisha alama (0-100). Chati ingeonyesha:

• Utendaji wa Kibinadamu: Baa thabiti ya juu (~90-95) katika kategoria zote za kazi.
• Mifano ya SOTA (BlenderBot3/LaMDA): Baa zinazoonyesha tofauti kubwa—labda ~80 kwenye Uwiano (ambapo wanaweza kuiga muundo), lakini kushuka kwa kasi hadi ~50-60 kwenye kazi za Mantiki ya Kimwili na Kijamii zinazohitaji uelewa wa kina. Mistari ya makosa ingekuwa mikubwa, ikionyesha kutofautiana.
• Hitimisho Muhimu: Pengo la kuona, hasa katika mantiki ya kimwili na kijamii, lingeonyesha wazi madai ya karatasi ya kikwazo cha msingi, sio uboreshaji wa kidogo unaohitajika.

9. Mfano wa Mfumo wa Uchambuzi

Muktadha: Kutathmini uelewa wa wakala wa mazungumzo kuhusu simulizi rahisi.

Muktadha wa Mazungumzo: Mtumiaji: "Nimepata mtoto wa mbwa mpya! Ana nguvu sana. Nimemwacha kwenye chumba cha kupumzika na viatu vyangu vipendwa wakati nilikuwa nikijibu mlango."

Jibu la Wakala A (Lakini Akili ya Kawaida): "Vizuri. Viatu vyako vina rangi gani?"

Jibu la Wakala B (Na Akili ya Kawaida): "Lo! Unaweza kutaka kuangalia viatu hivyo! Watoto wa mbwa wanapenda kutafuna."

Uchambuzi wa Mfumo:

1. Upatikanaji wa Maarifa: Je, mfano unapata tuple kama (mtoto wa mbwa, Anaweza, kutafuna), (kiatu, KimetengenezwaKwa, ngozi/kitambaa), (kutafuna, Husababisha, uharibifu)?
2. Mantiki ya Sababu: Je, inaweza kuunganisha ukweli huu: mtoto wa mbwa mpya + mwenye nguvu + asiyeangaliwa + kitu kinachoweza kutafunwa → uwezekano mkubwa wa uharibifu.
3. Mantiki ya Kijamii/Kiutendaji: Je, inabaini wasiwasi usiotajwa wa mtumiaji (wasiwasi kuhusu viatu) na kutengeneza onyo linalohusiana, lenye huruma?

10. Matumizi ya Baadaye na Mwelekeo

Kutatua mantiki ya akili ya kawaida itafungua matumizi ya mabadiliko:

• Wasaidizi wa Kweli wa AI wa Kibinafsi: Wakala wanaoweza kusimamia kwa uangalifu kazi ngumu ("Nunua vyakula vya wiki kwa kuzingatia ratiba yangu, malengo ya lishe, na kile tayari kiko kwenye jokofu").
• Walimu wa Juu wa Elimu: Mifumo inayoweza kutambua kosa la mwanafunzi kwa kuiga hali yake ya akili na kutengeneza maelezo ya kisokrasi.
• Washirika wa Afya ya Akili: Chatbots zenye uwezo wa kuunga mkono kihemko na kugundua mgogoro kwa kuelewa kanuni za kijamii na kisaikolojia.
• Wakala Wenye Kujitegemea katika Ulimwengu wa Kivitendo: NPCs katika michezo au metaverses wanaofanya kwa nia zinazoweza kuaminika, malengo ya muda mrefu, na uelewa wa mazingira yao.
• Mwelekeo wa Utafiti: Baadaye iko katika ujifunzaji wa hali ya kimwili, wa njia nyingi (kujifunza kutoka kwa video, sauti, na mwingiliano wa kimwili), mifano ya ulimwengu ya sababu inayoruhusu mantiki ya kinyume, na grafu kubwa, zilizopangwa za maarifa ya akili ya kawaida ambazo zinasasishwa kwa nguvu na mifumo ya AI kama COMET.

11. Marejeo

1. Richardson, C., & Heck, L. (2023). Commonsense Reasoning for Conversational AI: A Survey of the State of the Art. Workshop on Knowledge Augmented Methods for NLP, AAAI 2023.
2. Bosselut, A., Rashkin, H., Sap, M., Malaviya, C., Celikyilmaz, A., & Choi, Y. (2019). COMET: Commonsense Transformers for Automatic Knowledge Graph Construction. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics.
3. Speer, R., Chin, J., & Havasi, C. (2017). ConceptNet 5.5: An Open Multilingual Graph of General Knowledge. Proceedings of the AAAI Conference on Artificial Intelligence.
4. Sap, M., Le Bras, R., Allaway, E., Bhagavatula, C., Lourie, N., Rashkin, H., ... & Choi, Y. (2019). ATOMIC: An Atlas of Machine Commonsense for If-Then Reasoning. Proceedings of the AAAI Conference on Artificial Intelligence.
5. Chollet, F. (2019). On the Measure of Intelligence. arXiv preprint arXiv:1911.01547.
6. Storks, S., Gao, Q., & Chai, J. Y. (2019). Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches. arXiv preprint arXiv:1904.01172.
7. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems.