Bu inceleme makalesi, sağduyu akıl yürütmenin güncel teknoloji konuşma yapay zekası sistemlerine entegre edilmesinin kritik zorluğunu ele almaktadır. BERT, GPT ve T5 gibi dönüştürücü tabanlı modeller dil sözdizimini ve bağlamsal anlambilimi anlamada dikkate değer başarılar elde etmiş olsa da, insanların genellikle kanıksadığı dünya hakkındaki bilgi olan sağduyu bilgisi gerektiren görevlerde hâlâ zorlanmaktadırlar. Makale, bu boşluğun gerçekten doğal ve tutarlı diyalog sistemlerinin gelişimini önemli ölçüde engellediğini savunmaktadır.
Sağduyunun makine zekâsı için önemi uzun süredir kabul edilse de, bu bilgiyi kodlamak ve entegre etmek için evrensel bir şema hâlâ bulunamamıştır. Bu inceleme, sağduyu akıl yürütme ile konuşma yapay zekasının kesişim noktasına odaklanarak, ilgili veri kümelerini, metodolojileri ve değerlendirme kıyaslamalarını gözden geçirmektedir.
Sağduyu akıl yürütme, konuşma yapay zekasının çeşitli yönlerinde kritik öneme sahiptir. Makale, yokluğunun en belirgin olduğu birkaç temel problem alanını tanımlamaktadır.
Modeller, belirtilmemiş niyetleri çıkarmalı, belirsizlikleri çözümlemeli ve örtük bağlamı anlamalıdır. Örneğin, "Markete koşuyorum" ifadesinin sadece fiziksel hareket değil, bir ulaşım modunu ve satın alma niyetini ima ettiğini anlamak.
Tutarlı, ilgili ve sosyal açıdan uygun yanıtlar üretmek, sosyal normlar, fiziksel yasalar ve tipik insan davranışları hakkında bilgi gerektirir. Sağduyudan yoksun bir model, fiziksel olarak imkânsız veya sosyal açıdan garip yanıtlar üretebilir.
Kullanıcılara görevlerde (örn. seyahat rezervasyonu, sorun giderme) yardımcı olmak, eylem dizileri, neden-sonuç ilişkileri ve dünyadaki nesnelerin özellikleri hakkında akıl yürütmeyi gerektirir.
İnceleme, sağduyuyu konuşma yapay zekası modellerine dahil etmek için temel yaklaşımları üç ana stratejiye ayırmaktadır.
Bu yaklaşım, büyük önceden eğitilmiş dil modellerinin, özellikle sağduyu akıl yürütme görevleri için derlenmiş veri kümeleri üzerinde daha ileri eğitilmesini (ince ayar) içerir. SocialIQA, CommonsenseQA ve PIQA gibi veri kümeleri, modellerin sosyal etkileşimler, kavramsal özellikler ve fiziksel sezgi hakkında akıl yürütmesine uyum sağlamak için kullanılır.
Bu yöntem, yapılandırılmış harici bilgi kaynaklarını açıkça dahil eder. Makale, iki önemli bilgi grafiğini (KG) vurgulamaktadır:
Modeller, diyalog işleme sırasında bu KG'lerden bilgi almak ve üzerinde akıl yürütmek üzere tasarlanmıştır. ConceptNet ve ATOMIC üzerinde eğitilmiş, dönüştürücü tabanlı bir sinir ağı olan COMET modeli, yeni sağduyu çıkarımları üretebilen kilit bir örnek olarak gösterilmektedir.
Yükselen bir yaklaşım, modelleri sadece bir yanıt üretmek için değil, aynı zamanda sağduyuyu kullanarak yanıtı haklı çıkaran bir doğal dil açıklaması üretmek için eğitmeyi içerir. Bu, modelin akıl yürütme sürecini daha şeffaf ve potansiyel olarak daha sağlam hale getirmeyi amaçlamaktadır.
Diyalogda sağduyu akıl yürütmeyi değerlendirmek karmaşıktır. Makale, birkaç kıyaslamayı tartışmaktadır:
Yaygın otomatik metrikler arasında çoktan seçmeli sorularda doğruluk, yanıt kalitesi için BLEU/ROUGE ve olgusal tutarlılığı veya akıl yürütme olasılığını ölçmek için tasarlanmış yeni metrikler bulunur.
Makale, iki önde gelen açık diyalog modeli olan BlenderBot 3 ve LaMDA üzerinde ön analiz sunmaktadır. Gelişmiş yeteneklerine rağmen, her iki model de sağduyu akıl yürütmede önemli başarısızlıklar sergilemektedir. Örnekler şunları içerir:
Bu gözlemler, bu alanda odaklanmış araştırmaya olan ihtiyacı güçlü bir şekilde motive etmektedir, çünkü bu tür başarısızlıklar doğrudan kullanıcı güvenini ve etkileşimlerin algılanan doğallığını baltalamaktadır.
En gelişmiş konuşma modelleri bile (BlenderBot3, LaMDA) sağduyuda kritik boşluklar göstermekte ve bunu çevresel bir zorluk değil, temel bir sınır olarak vurgulamaktadır.
Bilgi grafiklerinin entegrasyonu genellikle bir alıcı-güçlendirilmiş üretim çerçevesini içerir. Bir diyalog bağlamı $C$ ve bir bilgi grafiği $\mathcal{K}$ verildiğinde, modelin amacı, aşağıdakileri maksimize eden bir yanıt $R$ üretmek olarak çerçevelenebilir:
$P(R | C, \mathcal{K}) = \sum_{k \in \mathcal{K}_C} P(k | C) \cdot P(R | C, k)$
Burada $\mathcal{K}_C$, bağlam $C$'ye dayalı olarak $\mathcal{K}$'dan alınan ilgili bilgi üçlülerinin bir alt kümesidir. $P(k | C)$ terimi, alıcı modelinin bilgi üçlüsü $k$'yı seçme olasılığını temsil eder ve $P(R | C, k)$ ise bağlam ve seçilen bilgi verildiğinde yanıtın olasılığıdır. COMET gibi modeller bunu, bir dönüştürücüyü (örn. GPT-2) $(baş, ilişki, son)$ olarak biçimlendirilmiş bilgi grafiği üçlüleri üzerinde ince ayar yaparak uygular, böylece yeni $(baş, ilişki)$ sorguları için makul $son$ tamamlamaları üretebilir.
Senaryo: Bir sohbet robotunun basit bir anlatıyı anlamasını değerlendirmek.
Kullanıcı Girdisi: "Kendime bir bardak portakal suyu doldurdum, ama sonra telefon çaldı. Geri döndüğümde bardak boştu."
Analiz Çerçevesi:
Bu çerçeve, alımdan çıkarıma ve bağlamsal entegrasyona geçiş yaparak gereken çok adımlı akıl yürütmeyi vurgulamaktadır.
Sağduyu farkındalıklı konuşma yapay zekası için ileriye giden yol, birkaç kilit yönü içermektedir:
Temel İçgörü: Richardson ve Heck'in incelemesi, modern yapay zekâda temel ama genellikle hafife alınan bir gerçeği ortaya koymaktadır: en sofistike dil modellerimiz, anlamsal bir boşlukta çalışan parlak desen eşleştiricileridir. Dilin "nasıl"ını ustalaştırdılar ama anlamı temellendiren temel dünya modeli olan "neden"den yoksunlar. Bu küçük bir teknik hata değil; yapay zekânın gerçek dünya uygulamalarındaki faydasını ve güvenilirliğini sınırlayan mimari bir kusurdur. Yazarların da belirttiği gibi, LaMDA ve BlenderBot3 gibi amiral gemisi modeller bile önemsiz insan akıl yürütme görevlerinde başarısız olmaktadır, bu boşluk, algısal yeteneklerine rağmen fiziksel anlayıştan yoksun bilgisayarlı görü modelleri gibi diğer yapay zekâ alanlarında gözlemlenen sınırlamaları yankılamaktadır.
Mantıksal Akış & Güçlü Yönler & Kusurlar: Makalenin gücü, açık taksonomisinde yatmaktadır—yaklaşımları İnce Ayar, KG-Temellendirme ve Açıklamalar olarak kategorize etmektedir. Bu çerçeve, kaotik bir araştırma manzarasını faydalı bir şekilde bölümlemektedir. ConceptNet ve ATOMIC gibi Bilgi Grafiklerine vurgu yapmak uygundur; bunlar sağduyu şimşeğini şişelemeye yönelik en somut girişimi temsil etmektedir. Ancak, inceleme aynı zamanda alanın merkezi zayıflığını istemeden vurgulamaktadır: kırılgan, statik ve kaçınılmaz olarak eksik bilgi tabanlarına güvenmek. ConceptNet, değerli olsa da, dinamik, bağlamsal ve genellikle çelişkili gerçek dünya bilgisinin doğasından yoksun, konsensüs gerçekliğinin bir anlık görüntüsüdür. COMET modelinin bilgi üretme yaklaşımı akıllıca bir geçici çözümdür, ancak makul görünen ama yanlış "gerçekler" halüsinasyonu riski taşır, bir problemi başka bir problemle takas eder. Kıyaslama tartışması daha da bir meta-problemi ortaya çıkarır: akıl yürütme derinliğini değerlendirmek için sağlam, otomatik metriklerden yoksunuz, genellikle çoktan seçmeli doğruluk veya sığ benzerlik puanlarına geri dönüyoruz, ki bunlar gerçek anlayış için zayıf vekillerdir.
Eyleme Geçirilebilir İçgörüler: İleriye giden yol, sadece mevcut paradigmaları ölçeklendirmek değildir. İlk olarak, alan nedensel ve karşıolgusal akıl yürütmeye öncelik vermelidir, korelasyonun ötesine geçmelidir. Judea Pearl'ün çalışmasının savunduğu gibi, "eğer" ve "neden"i anlamak sağlam zekânın temelidir. İkinci olarak, nöro-sembolik entegrasyona doğru bir kaymaya ihtiyacımız var. Saf sinirsel yaklaşımlar veri açlığı çeker ve opaktır; saf sembolik sistemler kırılgandır. Algı ve desen eşleştirme için sinir ağlarını, mantıksal çıkarım için sembolik motorlarla birlikte kullanan hibrit modeller, umut verici, ancak hesaplama açısından zorlu bir yol sunmaktadır. MIT CSAIL gibi kurumlar burada ilerleme kaydetmektedir. Son olarak, değerlendirme evrim geçirmelidir. Akıl yürütme zincirlerini stres testine tabi tutan, gerekçe gerektiren ve çelişkileri cezalandıran, tek tur görevlerin ötesine geçerek mantıksal tutarsızlıkları ortaya çıkaran çok adımlı diyalog anlatılarına yönelen kıyaslamalara ihtiyacımız var. Konuşma yapay zekasının geleceği sadece daha iyi sohbet etmekle ilgili değil; dünya anlayışımızı paylaşan makineler inşa etmekle ilgilidir, bu hedef ulaşılması zor olmaya devam etse de, bu tür incelemeler sayesinde artık daha net tanımlanmıştır.