比AI幻觉更危险的事:财经新闻教育的前线观察 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

比AI幻觉更危险的事:财经新闻教育的前线观察

苏铭恒:相比之下,我更担心的不是AI产生错误事实,而是AI悄悄替人类决定了思考的方向与框架。
00:00

{"text":[[{"start":9.6,"text":"自OpenAI的ChatGPT于2022年11月向大众开放以来,生成式AI在过去三年多的时间里迅速升级迭代。作为一名大学财经新闻教育的老师,我深深体会到这一科技正迅速影响我所处的三个行业——财经金融、新闻传播以及教育界。这也经常使我思考:在AI年代,大学生要学什么?未来的职场等待他们的是什么?AI对学生的帮助及潜在风险又是什么?"}],[{"start":41.35,"text":"我一直鼓励学生在遵守大学伦理指引的前提下,尝试在新闻制作流程中使用AI。越来越多的分析都指出,学懂如何结合AI去完成不同的工作将会是未来职场的重要能力。不过,经过一年多与学生的实践,这班准职场新人使用AI的方式及现象,也值得大家留意。"}],[{"start":63.7,"text":"AI有助理解不同语言资料 易依赖忘记其他查核技巧"}],[{"start":68.79,"text":"新闻系同学很喜欢使用的一个AI功能,就是把记者会或采访的录音转换成全文字纪录(transcription)。有了这工具之后,我留意到同学对受访者内容的理解比以往准确,特别是当华语学生面对的是英语受访者时,写出来的报道有明显进步。有了文字纪录,编辑同学也能快速核查访问内容,无须反覆听回录音,节省不少时间。"}],[{"start":94.06,"text":"不过,我留意到部分同学过份依赖AI提供的文字纪录,几乎照单全收。最近的例子是同学参加在香港举行的科技大会Consensus 2026,行政长官李家超及财政司司长陈茂波都有出席及致辞。学生交来的稿件中引用了陈茂波的一句话:“This will ensure that our regulatory regime comprehensively covers the key nooks of the digital asset ecosystem”。"}],[{"start":120.42,"text":"我在编辑时想不明“key nooks”是什么意思。翻看他们用AI生成的文字纪录,也同样写成key nooks。由于政府通常会把官员演辞全文以新闻稿形式发布,我很快找到原文,发现陈茂波其实说的是key nodes(关键节点)。"}],[{"start":139.05,"text":"这个事例会让我担心,同学太轻易接受AI给予的文本,而忘记了还有很多可以用来核查事实的资料来源。"}],[{"start":148.04000000000002,"text":"平心而论,现在AI语音转文字的准确度比以往的确已进步了很多,学生提供的纪录,准确度有九成以上。但新闻工作是讲求百分百真确的工作,不容出错,而这也是新闻业界一直强调的专业价值——所有报道要由人类最终把关。"}],[{"start":167.07000000000002,"text":"生成式AI的幻觉(hallucination)问题,近年已在不同专业领域出现。例如美国有律师在法庭提交由AI编造的案例,学术界也有学者引用不存在的文献。不过很多时候这一类问题,只要人类没有偷懒,有遵守人类必须参与其中(human-in-the-loop)的原则,这类错误不难发现。"}],[{"start":187.08,"text":"更隐蔽的危险:AI悄悄框住你的思考"}],[{"start":191.17000000000002,"text":"相比之下,我更担心的不是AI产生错误事实,而是AI悄悄替人类决定了思考的方向与框架。"}],[{"start":199.8,"text":"AI很擅长整理资料,无论问题是国家大事还是生活琐事,AI都喜欢以点列、表格、或“原因一、二、三”来回答你。我发现学生用AI后,作业和简报确实比以前更有条理,框架也更完整,但AI整理出来的重点及因果关系,有时并不是最好的理解,但部分同学却会照单全收。"}],[{"start":221.97000000000003,"text":"上月陈茂波公布财政预算案,同学多年来都喜欢制作“懒人包”,以图解方式让读者一文看清预算案的重点。现在有了AI,学生自然会把预算案文本交给AI整理重点。"}],[{"start":236.39000000000001,"text":"例如预算案提到两项措施:“年内会建立数字资产平台,支持数字债券的发行和交收……我们致力发展非传统风险管理业务,已将‘保险相连证券资助先导计划’延长至二零二八年”。同学交来的懒人包把这部分概括为“数字与风险:年内会建立数字资产平台支持发债,延长保险相连证券资助”,文中划线的部分是同学觉得要用不同颜色强调的字眼。细心看,措施的重点是发行“数字债券”,而不只是支持发债;“保险相连证券”是一种产品,不能只突出证券两个字;“数字与风险”的这个小标题也有点不着边际。"}],[{"start":276.38,"text":"这正反映了AI的一个特点:很擅长于把内容变成某种表达形式,但未必真正提炼出内容的精髓。"}],[{"start":284.65,"text":"新闻学者Hilke Schellmann去年在《Columbia Journalism Review》发表的研究,也观察到AI这种“错重点”现象。研究团队把政府会议纪录交由不同的AI模型生成摘要,发现与专业人类记者写的摘要比较,AI短摘要的表现尚可,但当要求较长内容时,如500字以上,遗漏的事实便明显增加。人类记者摘要中引用的事实,只有约一半出现在AI版本之中。"}],[{"start":312.22999999999996,"text":"团队另一项测试是让AI为记者在特定领域挑选重要学术文献,出来的结果更不理想。AI选出的文献与获奖的学术文章的文献回顾(literature review)作比较,两者选取文章重叠不多,而且同一模型在不同时间给出的答案也不一致,令人质疑AI区分轻重的能力,有很大随机性。"}],[{"start":333.49999999999994,"text":"传播学研究早已指出,“懒人包”和图解新闻虽然可以提高阅读兴趣以及帮助读者理解,但也可能扭曲和过度简化议题。“懒人包”本身已是配合即食文化的产物,如今再用AI这种“懒人”方式来生成“懒人包”,可说是“懒上加懒”,我们要提防AI把人类原有的坏习惯,做得更快、更顺畅。"}],[{"start":355.94999999999993,"text":"回到文章开头的问题:AI年代的大学生要学什么?我仍没有最好的答案,但至少我希望学生愿意一起思考和探索,不要将这个问题直接丢给AI来回答。"}],[{"start":368.06999999999994,"text":"(苏铭恒系香港浸会大学传理学院新闻系专业应用副教授兼财经新闻组别统筹。本文仅代表作者观点。责任编辑邮箱:catherine.li@ftchinese.com)"}]],"url":"https://audio.ftcn.net.cn/album/a_1774339304_1072.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

软银追加300亿美元OpenAI投资,考验自身借贷上限

孙正义将巨额资金投入人工智能领域,需要面对投资者的不安情绪。

特朗普能否与伊朗达成协议?

任何结束战争的外交努力都面临重重障碍。

特朗普因新关税计划面临法律挑战

在最高法院裁定先前关税非法后,美国总统转而援引一些鲜为人知的法律。

整顿还是圈地?印尼领导人瞄准资源公司

印尼总统普拉博沃•苏比延多誓言将对违反环境法规的资源企业采取强硬措施。

伊朗战争威胁海湾资金的全球流动

海合会六个成员国数十年来已集体成长为全球金融领域最具影响力的力量之一,投资足迹遍及全球。世界对中东资本的依赖程度比许多人意识到的更深。

一周展望:投资者在押注滞胀吗?

随着全球债市抛售加剧,一种新的忧虑正在占据上风:滞胀。
设置字号×
最小
较小
默认
较大
最大
分享×