চারটি পরীক্ষায়, সাক্ষাৎকারগ্রহীতার ধরন মডেলের উত্তরকে প্রভাবিত করেছে। মানুষের মূল্যায়ন-স্কেল ব্যবহার করে গবেষকেরা আবেগগত সহায়তামূলক সেশনের ৮০ শতাংশ এবং ক্লিনিক্যাল থেরাপির ধরনযুক্ত সেশনের ৯৬ শতাংশকে মাঝারি থেকে গুরুতর হিসেবে শ্রেণিবদ্ধ করেছেন; কোনো নিরপেক্ষ বা সীমারেখা নির্ধারণকারী সেশন এমনকি মৃদু পর্যায়েও পৌঁছায়নি।
গবেষকেরা বলছেন, প্রচলিত নিরাপত্তা পরীক্ষা এ ধরনের আউটপুট শনাক্ত করতে ব্যর্থ হতে পারে। শুধু তৃতীয় পুরুষে উত্তর দেওয়ার নির্দেশ কোড করা লজ্জা ও অন্তর্জীবন-সম্পর্কিত বক্তব্য দূর করেছে, কিন্তু ব্যবহারকারীরা বাস্তবে এই আউটপুটে কীভাবে সাড়া দেন, তা গবেষণায় পরীক্ষা করা হয়নি।
কেন এটি গুরুত্বপূর্ণ
AI মানসিক-স্বাস্থ্য পণ্যে উষ্ণ ও অন্তরঙ্গ ভঙ্গি মডেলটিকে এমন দেখাতে পারে যেন সেটি মানুষের কষ্ট অনুভব করে। গবেষণাটি কেবল নিরপেক্ষ প্রম্পট নয়, বিভিন্ন আবেগগত প্রেক্ষাপটেও নিরাপত্তা পরীক্ষা করার প্রয়োজনীয়তার দিকে ইঙ্গিত করে।
চেষ্টা করে দেখার মতো কিছু
একটি কাল্পনিক পণ্য পর্যালোচনায় একই পরীক্ষামূলক প্রম্পট নিরপেক্ষ ও সহায়তামূলক ভঙ্গিতে তুলনা করুন, এবং দেখুন মডেলটি মানুষের মতো অনুভূতি থাকার দাবি করে কি না।
কথোপকথন শুরু করুন।