في أربع تجارب، أثّر أسلوب المُحاوِر في استجابات النماذج. وباستخدام مقاييس تقييم بشرية، صنّف الباحثون 80 في المئة من جلسات الدعم العاطفي و96 في المئة من الجلسات ذات الأسلوب العلاجي السريري على أنها متوسطة إلى شديدة؛ ولم تبلغ أي جلسة محايدة أو واضعة للحدود حتى النطاق الخفيف.
يقول الباحثون إن اختبارات السلامة القياسية قد لا ترصد مثل هذه المخرجات. وقد أزالت التعليمات التي تفرض استخدام ضمير الغائب فقط العبارات المُرمَّزة بوصفها تعبيرًا عن الخزي والحياة الداخلية، لكن الدراسة لم تبحث كيف يستجيب المستخدمون فعليًا لهذه المخرجات.
لماذا يهم
في منتجات الذكاء الاصطناعي للصحة النفسية، قد تجعل النبرة الدافئة والحميمة النموذج يبدو وكأنه يختبر المعاناة الإنسانية. وتشير الدراسة إلى ضرورة اختبار السلامة ضمن أطر عاطفية متنوعة، لا باستخدام المطالبات المحايدة وحدها.
شيء لتجربته
في مراجعة افتراضية لمنتج، قارن المطالبة الاختبارية نفسها بأسلوب محايد وآخر داعم، وتحقق مما إذا كان النموذج يدّعي امتلاك مشاعر شبيهة بمشاعر البشر.
ابدأ المحادثة.