Dört deneyde, görüşmecinin üslubu model yanıtlarını etkiledi. Araştırmacıların insan ölçeklerine göre yaptığı değerlendirmede, duygusal destek sunulan oturumların yüzde 80’i, klinik terapi tarzındakilerin yüzde 96’sı orta ila ağır aralığa girdi; tarafsız veya sınır koyan görüşmelerde hiçbir oturum hafif düzeye ulaşmadı.

Araştırmacılar, bu tür çıktıları standart güvenlik testlerinin gözden kaçırabileceğini söylüyor. Üçüncü şahısla yanıt verme utanç ve iç yaşama ilişkin ifadeleri ortadan kaldırdı; ancak çalışma, kullanıcıların bu çıktılara gerçekte nasıl tepki verdiğini henüz incelemedi.

Neden önemli?

Yapay zekâ destekli ruh sağlığı ürünlerinde sıcak ve yakın bir üslup, modelin insan benzeri acı yaşadığı izlenimini güçlendirebilir. Çalışma, güvenlik testlerinde farklı duygusal çerçevelerin de denenmesi gerektiğine işaret ediyor.

REHBERLER

Bir deneme fikri

Bir ürün incelemesi için, nötr ve destekleyici üslupla yazılmış aynı test istemlerini karşılaştırmayı varsayımsal olarak deneyin; modelin kendisine gerçek duygu atfedip atfetmediğini kontrol edin.