人工智能不应该是一个黑匣子

{"text":[[{"start":null,"text":"

"}],[{"start":5.78,"text":"AI的支持者和反对者普遍认为，这项技术将改变世界。"},{"start":10.780000000000001,"text":"OpenAI的萨姆•奥尔特曼等人预见到人类将会繁荣发展的未来；批评者则预言社会将面临混乱和过度的企业权力。"},{"start":20,"text":"哪种预测会成为现实，在一定程度上取决于今天所奠定的基础。"},{"start":25.009999999999998,"text":"然而，OpenAI最近的争议，包括其联合创始人和首席科学家的离职，表明关键的AI参与者已经变得对社会过于不透明，无法为其设定正确的方向。"}],[{"start":36.489999999999995,"text":"斯坦福大学(Stanford University)开发的一个指数发现，AI领军企业谷歌(Google)、亚马逊(Amazon)、Meta和OpenAI在透明度方面存在不足。"},{"start":45.08,"text":"尽管AI是通过跨平台的研究人员和专家的合作而出现的，但自从OpenAI的ChatGPT引领了商业AI的繁荣以来，这些公司就闭口不谈了。"},{"start":55.44,"text":"鉴于AI的潜在危险，这些公司需要回归到更加开放的过去。"}],[{"start":60.269999999999996,"text":"AI的透明度主要涉及两个方面：输入和模型。"},{"start":64.42,"text":"大型语言模型，如OpenAI的ChatGPT或谷歌的双子座(Gemini)，通过在互联网上搜索并分析从Reddit论坛到毕加索绘画作品等“数据集”来进行训练。"},{"start":75.4,"text":"在AI的早期阶段，研究人员通常会在科学期刊上披露他们的训练数据，以便他人通过评估输入的质量来诊断缺陷。"}],[{"start":84.30000000000001,"text":"如今，关键参与者倾向于保留其数据的细节，以防止侵犯版权的诉讼并获得竞争优势。"},{"start":91.33000000000001,"text":"这使得评估由人工智能生成的回应的真实性变得困难。"},{"start":95.42000000000002,"text":"同时，这也让作家、演员和其他创作者无法了解自己的隐私或知识产权是否被有意侵犯。"}],[{"start":103.53000000000002,"text":"这些模型本身也缺乏透明度。"},{"start":106.26000000000002,"text":"一个模型如何解释其输入并生成语言取决于其设计。"},{"start":110.75000000000001,"text":"人工智能公司往往将其模型的架构视为其“秘密武器”：OpenAI的GPT-4或Meta的Llama的巧妙之处在于其计算的质量。"},{"start":120.58000000000001,"text":"人工智能研究人员曾经发布有关其设计的论文，但是为了争夺市场份额，这种披露已经结束。"},{"start":127.36000000000001,"text":"然而，如果不了解模型的功能如何，很难评估人工智能的输出、限制和偏见。"}],[{"start":133.75,"text":"所有这些不透明性使得公众和监管机构难以评估人工智能的安全性并防范潜在的危害。"},{"start":140.44,"text":"这更加令人担忧的是，扬•雷克(Jan Leike)在本月离开公司后声称，OpenAI的领导层将“闪亮的产品”置于安全性之上，他曾协助领导OpenAI的超强人工智能工具的发展。"},{"start":152.09,"text":"公司坚称可以自行监管其产品，但其新的安全委员会将向同样的领导层汇报。"}],[{"start":158.29,"text":"去年在布莱切利公园(Bletchley Park)举行的一次会议、乔•拜登(Joe Biden)总统的人工智能行政命令以及欧盟的人工智能法案(AI Act)，为人工智能监管奠定了基础。"},{"start":167.68,"text":"尽管这些措施受到欢迎，但它们更注重设置“安全防护措施”而非全面透明。"},{"start":173.72,"text":"事实上，大多数人工智能专家都在公司内部工作，而技术的发展速度对于定期的安全测试来说过快。"},{"start":181.32,"text":"监管机构应呼吁模型和输入的透明度，并且这些公司的专家需要与监管机构合作。"}],[{"start":187.59,"text":"人工智能有潜力改变世界，甚至可能比互联网革命更具影响力和速度。"},{"start":193.18,"text":"公司可能会主张透明度要求会减缓创新并削弱他们的竞争优势，但人工智能的最近历史表明情况并非如此。"},{"start":201.82,"text":"这些技术是在合作和共享研究的基础上取得进展的。"},{"start":206.23,"text":"回归这些规范只会增加公众的信任，并允许更快速但更安全的创新。"}]],"url":"https://creatives.ftacademy.cn/album/156972-cn-1717174751.mp3"}