普华永道发布AI报告,却被曝存在大量AI“幻觉”
来源:香港正大期货 作者:admin
普华永道(PwC)发布的关于人工智能和电动汽车的研究报告,被发现充斥着虚假脚注、错误归因以及无法验证的信息。这成为“四大会计师事务所”之一因仓促使用AI生成内容而引发争议的最新案例。
根据研究人员GPTZero进行的、并由英国《金融时报》核实的一项调查,这些AI幻觉存在于旨在为其中东合伙人招揽咨询业务的“思想领导力” 报告中。
此次发现可能令普华永道感到尴尬,因为该公司正在向企业推广AI应用服务,包括如何负责任地使用这项技术,以及如何制定政策避免AI产生错误。
此前,GPTZero的调查已经导致普华永道的两家“四大”竞争对手——安永(EY)和毕马威(KPMG)撤回了同样疑似包含AI幻觉内容的报告。
该研究小组识别出普华永道中东在过去两年内产出的四份报告,其文本似乎严重依赖AI辅助撰写,且脚注暴露了不可靠的基础。这些报告包括一份关于企业使用“代理型”自主AI 机器人 的手册、一份关于政府如何改善公共服务的指南,以及一份关于该地区电动和自动驾驶汽车的市场预测。
GPTZero的研究人员发现,这些报告中的许多引用都存在某种问题。通常,它们链接到的网页并不包含其声称的证据,有些甚至链接到不存在的页面。一篇关于利雅得空气质量的学术论文似乎完全是由AI幻觉出来的,因为在所引用的期刊或署名的作者中均找不到该研究的任何痕迹。
还有几个脚注引用了不寻常的来源。例如,一个在Medium平台上拥有280名粉丝的青少年博主,被普华永道引为其关于摩根大通(351.79, 0.94, 0.27%)一项倡议信息的来源,并称该倡议是“代理型AI的真实成功案例”——该倡议涉及银行自动化审查商业贷款协议,节省了数十万小时的人力工作,但这一举措最早于2017年就有报道,远在ChatGPT开启生成式AI时代之前。
普华永道中东表示,其“严肃对待我们已发布研究的准确性,并正在更新所识别报告中数量有限的辅助引文”。该机构补充道:“与我们负责任的AI方法一致,我们对研究和内容开发设有质量控制流程,并要求所有员工遵守,”但并未说明这些错误是如何被纳入报告的。
过去几年,四大会计师事务所发布了数百篇关于AI的思想领导力文章以吸引客户,同时也在敦促员工自己使用该技术以加速和改进工作。
GPTZero的研究员保罗·埃索(Paul Esau)表示,普华永道中东四份报告中来源材料的混乱标注是AI生成研究的典型症状。埃索指出,一个明显的迹象是,在一份报告中,关于人为失误导致90%交通事故的说法在三个不同地方被提及,第一次带有脚注,第二次没有,第三次则带有两个脚注——而每个脚注都引用了不同的来源。
“这种说法并非虚假,但没有人类会在两页内用三个不同来源把同一事实引用三次,”他说。















