风险与拒答:LLM 回应自杀意念的机制
一项预印本研究评估了八个指令微调大语言模型在三个数据集上对自杀意念与自伤披露的回应,并对六个开放权重模型做机制分析(依据摘要,未完成同行评审)。结果显示,基线时回应风险升高主要源于对披露的忽视以及拒答;告知模型披露涉及自杀意念或直接抑制拒答,会增加互动但未必降低风险,甚至可能升高风险;而临床医生制定的回应协议在降低拒答的同时持续降低回应层面风险。
推荐理由:在三个数据集上测试八种指令微调大模型对自杀意念披露的回应,并对六个开放权重模型做机制分析,比较告知情境与临床方案的作用。