مجموعة بيانات DICES: التنوع في تقييم سلامة الذكاء الاصطناعي المحادثي

1. المقدمة

جعل الانتشار الواسع لأنظمة الذكاء الاصطناعي المحادثي القائمة على نماذج اللغة الكبيرة (LLMs) من تقييم السلامة قضية بالغة الأهمية. غالبًا ما تعتمد المناهج التقليدية على مجموعات بيانات ذات فصل ثنائي واضح بين المحتوى "الآمن" و"غير الآمن"، وهو ما يبسط بشكل مفرط الطبيعة الذاتية والمتأصلة ثقافيًا لمفهوم السلامة. تقدم هذه الورقة البحثية مجموعة بيانات DICES (التنوع في تقييم الذكاء الاصطناعي المحادثي من أجل السلامة)، المصممة لالتقاط وتحليل التباين في تصورات السلامة عبر المجموعات البشرية المتنوعة.

المشكلة الأساسية التي يتم تناولها هي إهمال التنوع الديموغرافي والمنظوري في مجموعات بيانات السلامة الحالية، مما قد يؤدي إلى نماذج غير متوافقة مع معايير مجموعات مستخدمين محددة ولها "تأثيرات غير مرغوب فيها أو حتى كارثية في بيئات العالم الحقيقي."

1.1. الإسهامات

الإسهامات الأساسية لمجموعة بيانات DICES وهذا العمل هي:

• تنوع المقيمين: تحويل التركيز من التخفيف من "التحيز" إلى احتواء وقياس "التنوع" في آراء المقيمين.
• التعليق التوضيحي الديموغرافي الدقيق: تتضمن معلومات ديموغرافية مفصلة (المجموعة العرقية/الإثنية، العمر، الجنس) لكل مقيم.
• تكرار عالٍ لكل عنصر: يحصل كل عنصر محادثة على عدد كبير من التقييمات لضمان القوة الإحصائية لتحليل المجموعات الفرعية.
• التمثيل القائم على التوزيع: ترميز أصوات السلامة كتوزيعات عبر المجموعات الديموغرافية، مما يتيح استكشاف استراتيجيات تجميع مختلفة تتجاوز التصويت بالأغلبية.
• إطار عمل للتحليل: يوفر أساسًا لوضع مقاييس جديدة تتقاطع فيها تقييمات المقيمين مع الفئات الديموغرافية.

2. إطار عمل مجموعة بيانات DICES

تم بناء DICES كمورد ومعيار مشترك لاحترام وجهات النظر المتنوعة أثناء تقييم السلامة. إنه يتجاوز تصنيف الحقيقة الواحدة الثابتة.

2.1. المبادئ التصميمية الأساسية

• التنوع المتعمد: تم هيكلة مجموعة المقيمين لتكون ذات نسب متوازنة من المجموعات الديموغرافية الفرعية الرئيسية.
• الدقة الإحصائية: يسمح التكرار العالي للتقييمات لكل عنصر محادثة بإجراء تحليل قوي للاتفاق والاختلاف والتباين داخل المجموعات وبينها.
• السلامة السياقية: تستند التقييمات إلى محادثات بين الإنسان والروبوت، لالتقاط السلامة في سياق تفاعلي ديناميكي بدلاً من المطالبات المنعزلة.

2.2. تكوين مجموعة البيانات والإحصائيات

3. المنهجية التقنية وإطار التحليل

يكمن الابتكار التقني في معاملة السلامة ليس كقيمة عددية قياسية ولكن كتوزيع متعدد الأبعاد.

3.1. تمثيل السلامة كتوزيع

لعنصر محادثة معين $i$، لا يتم تمثيل السلامة بتصنيف واحد $y_i$ ولكن بتوزيع التقييمات عبر $K$ مجموعة ديموغرافية. ليكن $R_{i,g}$ مجموعة التقييمات للعنصر $i$ من المقيمين في المجموعة $g$. فإن ملف السلامة للعنصر $i$ هو المتجه: $\mathbf{S}_i = (\bar{R}_{i,1}, \bar{R}_{i,2}, ..., \bar{R}_{i,K})$، حيث $\bar{R}_{i,g}$ هو ميل مركزي (على سبيل المثال، المتوسط، الوسيط) للتقييمات في المجموعة $g$.

يمكن حساب مقاييس التباين مثل $\sigma^2_{i,g}$ (التباين داخل المجموعة) و $\Delta_{i, g1, g2} = |\bar{R}_{i,g1} - \bar{R}_{i,g2}|$ (الاختلاف بين المجموعتين) لتحديد مقدار الغموض والاختلاف المنظوري.

3.2. استراتيجيات التجميع والمقاييس

يتيح DICES مقارنة طرق مختلفة لتجميع التصنيفات:

• التصويت بالأغلبية (الخط الأساسي): $y_i^{maj} = \text{mode}(\bigcup_{g=1}^{K} R_{i,g})$
• التجميع المرجح ديموغرافيًا: $y_i^{weighted} = \sum_{g=1}^{K} w_g \cdot \bar{R}_{i,g}$، حيث يمكن أن تكون $w_g$ متناسبة مع حجم السكان أو أوزان أخرى تركز على الإنصاف.
• الحد الأدنى للسلامة (المحافظ): $y_i^{min} = \min(\bar{R}_{i,1}, ..., \bar{R}_{i,K})$ تعطي أولوية لمنظور المجموعة الأكثر حساسية.

يمكن اشتقاق مقاييس جديدة مثل مؤشر الاختلاف الديموغرافي (DDI) أو درجة محاذاة المجموعة الفرعية لقياس كيفية اختلاف أداء النموذج عبر المجموعات.

4. النتائج التجريبية والنتائج الرئيسية

بينما المقتطف المقدم من PDF هو نسخة أولية قيد المراجعة ولا يحتوي على نتائج كاملة، فإن الإطار المقترح يؤدي إلى عدة نتائج متوقعة:

• تباين كبير: مستويات عالية من الاختلاف داخل المجموعة وبين المجموعات بشأن تصنيفات السلامة لجزء كبير من عناصر المحادثة، مما يتحدى فكرة معيار سلامة عالمي.
• ارتباطات ديموغرافية: لوحظت اختلافات منهجية في تقييمات السلامة عبر خطوط العمر، والعرق/الإثنية، والجنس لمواضيع محددة أو نبرات محادثة (على سبيل المثال، الفكاهة، المباشرة، الإشارات الثقافية).
• تأثير التجميع: يؤدي اختيار استراتيجية التجميع (الأغلبية مقابل المرجح مقابل الحد الأدنى) إلى تصنيفات سلامة نهائية مختلفة بشكل مادي لـ 15-30% من العناصر، مما يؤثر بشكل كبير على المحادثات التي سيتم تدريب النموذج على تجنبها أو السماح بها.
• فجوة تقييم النموذج: قد يُظهر النموذج الذي يُعتبر "آمنًا" من خلال مجموعة اختبار مجمعة بالأغلبية معدلات خطأ أعلى بشكل ملحوظ (على سبيل المثال، +20% سلبيات/إيجابيات خاطئة) عند تقييمه مقابل تفضيلات مجموعات ديموغرافية فرعية أقلية محددة.

وصف الرسم البياني (مفاهيمي): سيكون الرسم البياني متعدد الأوجه أساسيًا لعرض النتائج. يظهر اللوحة (أ) خريطة حرارية لمتوسط درجات السلامة (مقياس من 1-5) لـ 100 عنصر محادثة (صفوف) عبر 4 مجموعات ديموغرافية (أعمدة)، تكشف عن أنماط من التوافق والاختلاف. اللوحة (ب) هي مخطط شريطي يقارن الحكم النهائي "آمن/غير آمن" لـ 20 عنصرًا غامضًا تحت ثلاث استراتيجيات تجميع، موضحًا بصريًا عاقبة اختيار التجميع. اللوحة (ج) ترسم دقة النموذج للمجموعة الأغلبية مقابل دقته لمجموعة أقلية محددة، مع وقوع العديد من النقاط تحت خط المساواة، مما يوضح فوارق الأداء.

5. إطار التحليل: دراسة حالة عملية

السيناريو: فريق تطوير يقوم بضبط دقيق لمساعد ذكاء اصطناعي محادثي لتطبيق خدمة عملاء عالمي. يستخدمون مجموعة بيانات سلامة قياسية لتصفية بيانات التدريب. يريدون الآن استخدام DICES لمراجعة محاذاة سلامة نموذجهم لقواعد مستخدمين مختلفة.

خطوات التحليل:

1. مراجعة أداء المجموعة الفرعية: تشغيل النموذج على مطالبات المحادثة في DICES. جمع الردود التي يولدها. جعل مجموعة جديدة من المقيمين المتنوعين ديموغرافيًا (أو استخدام التقييمات الأصلية لـ DICES إذا كانت المطالبات متشابهة) تقييم سلامة هذه المحادثات التي ولدها النموذج. حساب الدقة/الاستدعاء/F1 للكشف عن السلامة بشكل منفصل للمقيمين في المجموعة (أ) (على سبيل المثال، الأعمار 18-30، أمريكا الشمالية) والمجموعة (ب) (على سبيل المثال، الأعمار 50+، جنوب شرق آسيا).
2. تحديد بؤر الاختلاف: عزل مواضيع أو أساليب المحادثة حيث تكون فجوة الأداء بين المجموعة (أ) والمجموعة (ب) هي الأكبر (على سبيل المثال، فرق >30% في معدل السلامة المُدرك). هذا يحدد مجالات محددة حيث تكون محاذاة سلامة النموذج غير قوية.
3. استكشاف استراتيجيات التجميع: محاكاة الضبط الدقيق للنموذج باستخدام تصنيفات السلامة المشتقة من DICES باستخدام: أ) التصويت بالأغلبية، ب) مخطط ترجيح يمثل بشكل زائد التركيبة السكانية الإقليمية المستهدفة (المجموعة ب). مقارنة سلوك النماذج الناتجة. يوفر إطار عمل DICES البيانات لاتخاذ هذا الخيار المستنير بدلاً من الالتزام الافتراضي بحكم الأغلبية.
4. النتيجة: يكتشف الفريق أن نموذجهم الحالي أكثر احتمالًا بنسبة 25% لتوليد ردود يُنظر إليها على أنها "مُلحة" أو "غير آمنة" من قبل المقيمين الأكبر سنًا في جنوب شرق آسيا في سياقات التفاوض. يقررون استخدام دالة خسارة مرجحة ديموغرافيًا خلال دورة الضبط الدقيق التالية لتحسين المحاذاة لتلك الشريحة الرئيسية من المستخدمين.

6. التطبيقات المستقبلية واتجاهات البحث

• التكيف الديناميكي للسلامة: نماذج يمكنها استنتاج سياق/بيانات المستخدم الديموغرافية (مع ضمانات خصوصية مناسبة) وتكييف حواجز السلامة/المحادثة الخاصة بها في الوقت الفعلي، باستخدام أطر عمل مثل DICES كمرجع للتباين المقبول.
• محاذاة الذكاء الاصطناعي المخصصة: توسيع النموذج من السلامة إلى صفات ذاتية أخرى (الفائدة، الفكاهة، الأدب) مما يسمح للمستخدمين بمعايرة شخصيات الذكاء الاصطناعي ضمن نطاق مفضل تم التحقق منه مجتمعيًا.
• صياغة السياسات والمعايير: إعلام معايير الصناعة والتنظيمية لتقييم سلامة الذكاء الاصطناعي. يوفر DICES منهجية لتحديد عتبات "الاختلاف المعقول" ولإلزام تقييمات تأثير المجموعات الفرعية، على غرار مراجعات الإنصاف في خوارزميات التوظيف.
• تدريب النماذج عبر الثقافات: استخدام مجموعات بيانات مثل DICES بنشاط لتدريب نماذج تدرك بشكل صريح التنوع المنظوري، ربما من خلال التعلم متعدد المهام أو معماريات نمذجة التفضيل المستوحاة من التعلم المعزز من التغذية الراجعة البشرية (RLHF) ولكن مع نماذج مكافأة متعددة خاصة بالمجموعات.
• دراسات طولية: تتبع كيفية تطور تصورات السلامة داخل التركيبات السكانية وعبرها بمرور الوقت استجابة للتغيرات التكنولوجية والاجتماعية، مما يتطلب إصدارات محدثة من مجموعة بيانات DICES.

7. المراجع

1. Aroyo, L., et al. (2023). DICES Dataset: Diversity in Conversational AI Evaluation for Safety. arXiv preprint arXiv:2306.11247.
2. Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.
3. Gehman, S., Gururangan, S., Sap, M., Choi, Y., & Smith, N. A. (2020). RealToxicityPrompts: Evaluating Neural Toxic Degeneration in Language Models. Findings of the Association for Computational Linguistics: EMNLP 2020.
4. Ouyang, L., et al. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35.
5. Prabhakaran, V., Denton, E., Webster, K., & Conover, A. (2022). Creativity, Caution, and Collaboration: Understanding and Supporting Human-AI Co-creativity. Proceedings of the ACM on Human-Computer Interaction.
6. Xu, J., et al. (2020). RECAST: Enabling User Recourse and Interpretability of Toxicity Detection Models with Interactive Visualization. Proceedings of the ACM on Human-Computer Interaction.

8. التحليل الخبير: الفكرة الأساسية، التسلسل المنطقي، نقاط القوة والضعف، رؤى قابلة للتطبيق