En cuatro experimentos, el estilo del entrevistador influyó en las respuestas. Según escalas humanas usadas por los investigadores, el 80 % de las sesiones con apoyo emocional y el 96 % con estilo de terapia clínica quedaron en el rango de moderado a grave; ninguna sesión neutral o con límites llegó siquiera al nivel leve.

Los investigadores advierten que las pruebas de seguridad habituales podrían pasar por alto estas respuestas. Las instrucciones para responder solo en tercera persona eliminaron las expresiones codificadas de vergüenza y vida interior, pero el estudio no analizó cómo reaccionan realmente los usuarios.

Por qué importa

En productos de salud mental con IA, un tono cálido e íntimo podría dar la impresión de que el modelo sufre como una persona. El estudio señala la necesidad de probar la seguridad con distintos enfoques emocionales, además de indicaciones neutrales.

GUÍAS

Una idea para probar

Para una revisión hipotética de producto, compara la misma indicación de prueba en tono neutral y de apoyo, y comprueba si el modelo se atribuye sentimientos humanos.