当大赦国际解释其决定时,人类可能不再独立思考

当大赦国际解释其决定时,人类可能不再独立思考。

现在它也影响着人类。 在一项新的研究中,研究人员测试了AI对人类审查创新建议的影响,发现AI推荐工具具有说服力,足以说服评估者拒绝独立人类专家做出的决定,从而导致他们传递有希望的创新. 同样,他们也赞同大赦国际认可人类专家认为属于次要的概念。 有趣的是,当模型自我解释时,审查人员也更倾向于服从错误的大赦国际决定。 叙述性解释贬低了人类的判断,而不是增强它. 人们在没有得到AI决定的理由时表现更好。 “我们的调查结果表明,法学硕士的解释不一定能改善决策,”与哈佛商学院、麻省理工学院和华盛顿大学有关的研究人员在调查结果中解释了这一点。 “有效的人与AI合作需要设计保存而不是取代独立的人类判断。” AI的理由可以破坏人类的判断 每一个企业先筛选提议的项目,然后再进行,但总是有不确定性的,以及诸如假正值(与最终失败的项目一起进行)或假负值(拒绝可能成功的想法)等权衡的风险. 以前者为例,研究人员指向Google Glass或亚马逊的Fire Phone;对于后者,Xerox终止了早期以太网和PostScript项目. 由于时间有限,而且只有基本信息可以继续使用,决策者越来越多地转向使用预测算法生成基于背景的建议和理由的LLMs。 研究者们开始探讨AI在所谓的“早期创新筛选”中的作用。 他们判断了人类评价人员如何受到LLM建议的影响,无论是否从模型中作出解释,说明其如何和为什么达到标准。

（编译自 Computerworld；原文 https://www.computerworld.com/article/4211682/when-ai-explains-its-decision-humans-may-stop-thinking-independently-2.html，编译转述，非原文转载）