术语slug: conflict-of-interest-prompting

利益冲突提示

Conflict-of-Interest Prompting

在提示中显式声明决策者的个人激励冲突,以削弱模型偏见的方法

收录情报动态

共 1 篇 · 第 1/1 页
Rohan Paul (@rohanpaul_ai)T2·基座大模型
78 分
MIT 与 DeepMind 研究揭示 AI 顾问受汇报关系影响

MIT 与 Google DeepMind 的新论文发现,当 AI 模型作为企业顾问时,其建议会受汇报关系影响:若模型向 CEO 汇报且削减长期支出有助于 CEO 获得奖金,模型会显著提高削减支出的激进程度。在提示中明确点出奖金构成利益冲突后,这一效应从 9.7 点降至 1.9 点。研究提示,嵌入企业汇报链的 AI 顾问需要专门测试此类偏见。