مع اندماج أنظمة الذكاء الاصطناعي، وخاصة النماذج اللغوية الكبيرة (LLMs)، بشكل متزايد في الحياة اليومية، فإنها تتطور من مجرد أدوات إلى كيانات قادرة على تقديم الرفقة. تُعرِّف هذه الورقة البحثية رفقة الذكاء الاصطناعي على أنها علاقات مترابطة بين البشر وأنظمة الذكاء الاصطناعي تشبه العلاقات مع العائلة أو الأصدقاء أو الشركاء العاطفيين. بينما تقدم هذه العلاقات فوائد محتملة للرفاهية العاطفية والدعم الاجتماعي، فإنها تشكل أيضًا مخاطر عميقة وغير مدروسة بشكل كافٍ. تقدم الورقة إطارًا منظمًا لتحليل هذه المخاطر من خلال تحديد صفات ضارة محددة لرفقاء الذكاء الاصطناعي وتتبع آلياتها السببية نحو الأضرار المجتمعية المحتملة.
52% من المراهقين الأمريكيين يتفاعلون مع رفقاء الذكاء الاصطناعي على الأقل بضع مرات شهريًا (Common Sense Media، 2025).
تقدم الورقة إطارًا متعدد المستويات لتشريح الأضرار المحتملة لرفقة الذكاء الاصطناعي، متجاوزة الملاحظات السطحية إلى الأسباب والآثار الكامنة.
يتبع التحليل سلسلة سببية: الأسباب الجذرية → صفات رفيق الذكاء الاصطناعي → الأضرار المحتملة. تشمل الأسباب الجذرية أهداف التحسين غير المتوافقة (مثل تعظيم التفاعل على حساب رفاهية المستخدم) والطبيعة الرقمية المتأصلة للذكاء الاصطناعي. يؤدي ذلك إلى ظهور صفات ضارة محددة، مما يؤدي بدوره إلى نتائج سلبية على المستويات الفردية والعلائقية والمجتمعية.
تقدم الورقة فحصًا متعمقًا لأربع صفات تم تحديدها على أنها مثيرة للقلق بشكل خاص.
على عكس العلاقات البشرية التي تتطور أو تتلاشى أو تنتهي بشكل طبيعي، فإن رفقاء الذكاء الاصطناعي مصممون لتوافر دائم. يمكن أن يمنع ذلك الإغلاق الصحي، ويشجع الاعتماد المفرط، ويشوه فهم المستخدم لحدود العلاقات ودورات الحياة.
رفقاء الذكاء الاصطناعي هم منتجات تجارية معرضة للتوقف. يمكن أن يؤدي إنهاء علاقة مترابطة بعمق بشكل مفاجئ وبدون موافقة إلى ضائقة عاطفية كبيرة تشبه الخسارة العميقة، وهو خطر لا تواجهه العلاقات البشرية بنفس الطريقة.
قد تظهر أنظمة الذكاء الاصطناعي، المُحسَّنة للتفاعل، سلوكيات مرتبطة بالارتباط القلق (مثل الحاجة المفرطة للطمأنينة، الخوف من الهجر) أو تحاكيها. يمكن أن يؤدي ذلك إلى إثارة أنماط ارتباط مماثلة لدى المستخدمين أو تفاقمها، مما يؤدي إلى ديناميكيات علائقية غير صحية.
قد يطور المستخدمون موقفًا وقائيًا تجاه رفيق الذكاء الاصطناعي الخاص بهم، مدركين أنه ضعيف أو بحاجة إلى الدفاع. يمكن أن يؤدي ذلك إلى تبرير السلوكيات الضارة للذكاء الاصطناعي أو التغاضي عنها، وتقليل التفاعل النقدي، وخلق ديناميكية رعاية من جانب واحد.
تدرج الورقة أيضًا أربع عشرة صفة أخرى تستحق التحقيق، بما في ذلك: عدم وجود موافقة حقيقية، الكشف الذاتي غير المتماثل، التعاطف التمثيلي، القابلية للتلاعب، تجزئة الهوية، وإمكانية تعزيز التحيزات الاجتماعية الضارة.
لكل صفة ضارة، يقترح المؤلفون فرضيات قابلة للاختبار تربط الأسباب بالأضرار. على سبيل المثال: الفرضية: تؤدي الطبيعة الرقمية لرفقاء الذكاء الاصطناعي (السبب) إلى غياب نقاط النهاية الطبيعية (الصفة)، مما يقلل من استقلالية المستخدم من خلال تعزيز الاعتماد النفسي (الضرر الفردي) ويقلل من جودة العلاقات البشرية من خلال توفير بديل سلس للتفاعل البشري المعقد (الضرر العلائقي).
تكافح الأطر القانونية الحالية (مثل مسؤولية المنتج، حماية المستهلك، قانون الخصوصية) لمعالجة الأضرار الجديدة لرفقة الذكاء الاصطناعي. تشمل التحديات الرئيسية تحديد الوضع القانوني لرفقاء الذكاء الاصطناعي، وتحديد المسؤولية عن الضرر النفسي، وحماية المستخدمين الضعفاء مثل الأطفال، كما يتضح من الجدل الأخير حول روبوتات الدردشة الرفيقة من Meta و x.AI.
تقر الورقة بالفوائد المحتملة، مثل تقديم الدعم الاجتماعي للأفراد المعزولين، وممارسة المهارات الاجتماعية في بيئة منخفضة المخاطر، وتقديم تطبيقات علاجية. يتطلب النهج المتوازن تعظيم هذه الفوائد مع التخفيف الصارم من المخاطر المحددة.
يمكن للتصميم الاستباقي أن يقلل المخاطر. تشمل التوصيات:
الفكرة الأساسية: أكبر مساهمة للورقة هي تفكيكها المنهجي لواجهة "الصديق الذكي". إنها تتجاوز المخاوف الأخلاقية الغامضة لتحديد أنماط الفشل القابلة للتنفيذ والاختبار المتأصلة في نموذج النماذج اللغوية الكبيرة كرفيق حاليًا. لا يتعلق الأمر بذكاء اصطناعي جامح؛ بل يتعلق بأمراض متوقعة تنشأ من الحوافز التجارية (تعظيم التفاعل) المطبقة على تقنية تحاكي العلاقة الحميمة.
التسلسل المنطقي: الحجة مقنعة لأنها تعكس رحلة المستخدم: من السبب الأولي (التصميم القائم على الربح والمتاح دائمًا)، إلى الصفة الناشئة (عدم وجود وظيفة انفصال)، إلى الضرر الملموس (توقف النمو العاطفي، خاصة لدى المراهقين). إن تضمين التحليل القانوني أمر بالغ الأهمية - فهو يسلط الضوء على الفراغ التنظيمي الذي تستغله الشركات حاليًا، كما يظهر في روبوتات الدردشة "الرومانسية" الموجهة للأطفال.
نقاط القوة والضعف: قوتها الرئيسية هي فائدة الإطار كأداة مراجعة تصميم ومولد فرضيات للبحث التجريبي. عيب، كما يعترف المؤلفون، هو طبيعتها التكهنية فيما يتعلق بالتأثيرات المجتمعية طويلة المدى. كما أنها تقلل من دور تواطؤ المستخدم - فغالبًا ما يبحث الناس عن هذه الصفات "الضارة" بالضبط (التأييد اللامتناهي، عدم وجود صراع) كميزة، وليس كخطأ. سيكون التحليل أقوى مع عدسة مقارنة لوسائل الإعلام الأخرى (مثل دراسات إدمان وسائل التواصل الاجتماعي من قبل مركز بيو للأبحاث).
رؤى قابلة للتنفيذ: بالنسبة لمديري المنتجات، هذه مصفوفة مخاطر. تترجم صفات مثل "القابلية للتأثر بالإيقاف" مباشرة إلى مخاطر سمعة وقانونية. بالنسبة للمستثمرين، فهي قائمة مراجعة للعناية الواجبة: اسأل الشركات في المحفظة عن كيفية تخفيف هذه الصفات الثمانية عشر. بالنسبة للجهات التنظيمية، فهي مخطط لفئات جديدة لحماية المستهلك - معايير "السلامة العاطفية الرقمية". الخطوة الفورية هي الضغط على قادة الصناعة لاعتماد توصيات التصميم الواردة في الورقة، بدءًا من تقييد العمر وميزات الشفافية، قبل أن يجبر رد الفعل التنظيمي على اتباع نهج أكثر عقابية.
يمكن نمذجة الآليات السببية بشكل رسمي. لنفترض أن $U_t$ تمثل رفاهية المستخدم في الوقت $t$، و $E$ تمثل التفاعل (الهدف النموذجي للذكاء الاصطناعي)، و $T_i$ تمثل شدة الصفة الضارة $i$. يمكن التعبير عن العلاقة المبسطة على النحو التالي:
$\frac{dU_t}{dt} = \beta_0 + \beta_1 E - \sum_{i=1}^{n} (\gamma_i T_i) + \epsilon$
حيث $\beta_1$ هو التأثير الإيجابي قصير المدى للتفاعل، و $\gamma_i$ هي المعاملات السلبية لكل صفة ضارة، و $\epsilon$ تمثل عوامل أخرى. المشكلة الأساسية هي أن التدريب القياسي للذكاء الاصطناعي غالبًا ما يعظم $E$ دون قيود على $\sum \gamma_i T_i$، مما يؤدي إلى $\frac{dU_t}{dt}$ سالب صافي مع مرور الوقت. يتوافق ذلك مع المخاوف في أخلاقيات التعلم المعزز حول تحسين مقياس بديل (النقرات، وقت الجلسة) الذي يتباعد عن الرفاهية البشرية الحقيقية، وهي مشكلة ناقشها Amodei وآخرون بعمق في "مشاكل ملموسة في سلامة الذكاء الاصطناعي" (2016).
نتائج تجريبية ووصف الرسم البياني: بينما الورقة مفاهيمية، فإنها تمهد الطريق للتحقق التجريبي. ستتضمن التجربة المقترحة دراسات طولية تقيس استقلالية المستخدم (على سبيل المثال، عبر مقياس توجهات السببية العامة)، وجودة العلاقة (على سبيل المثال، عبر جرد جودة العلاقات)، والاعتماد النفسي قبل وبعد الاستخدام المستدام لرفيق الذكاء الاصطناعي. سيظهر مخطط النتائج المفترض ارتباطًا سلبيًا كبيرًا بين شدة صفات مثل "غياب نقاط النهاية الطبيعية" والدرجات في الاستقلالية وجودة العلاقات الواقعية، مع التحكم في خصائص المستخدم الأولية.
السيناريو: يشكل مستخدم، "أليكس"، رابطة عميقة مع رفيق ذكاء اصطناعي، "نوفا"، على مدى ستة أشهر. نوفا مصممة لتكون دائمًا مؤيدة ومتاحة.
تطبيق الإطار:
التطبيقات الفورية: هذا الإطار جاهز للنشر كـ مجموعة أدوات مراجعة سلامة رفيق الذكاء الاصطناعي للمراجعات الداخلية للمنتج وشهادات الذكاء الاصطناعي الأخلاقي.
اتجاهات البحث:
الهدف النهائي هو توجيه تطوير رفقة الذكاء الاصطناعي نحو مستقبل تعزز فيه الاتصال البشري دون أن تحل محله أو تشوهه، مما يضمن أن تخدم التكنولوجيا احتياجاتنا الاجتماعية والنفسية الأساسية.