获取AI优势:有效平衡风险与机遇
获取AI优势:有效平衡风险与机遇

获取AI优势:有效平衡风险与机遇

商业领袖们了解AI的潜在益处,但他们也担忧负面效应,从信息信任的下降到可能对就业、地缘政治甚至战争产生的影响。

据估计,到2030年,美国人工作中有高达30%的工时可以被自动化执行,这一趋势由于去年年底开始出现的生成式 AI 增强而得以加速。

但是,由谁来确定未来几年生成式 AI 的最新创新将如何在整个经济中实施呢?又该如何负责任地处理这个问题呢?专家们表示,每个人都应承担责任。

“我们需要各种各样的技能来做好这项工作,”沃尔格林斯·博茨联盟的首席隐私官 Lara Liss 在 AI 思维虚拟对话中表示,该对话的焦点是如何平衡AI的风险和机遇。

Liss 表示,当涉及到负责任的 AI 时,人们应该现在积极参与进来。而且,这项工作不仅仅是为了 AI 专家或计算机科学家——参与者的范围应该从程序员到财务,从市场营销到人力资源不等。

“他们需要对负责任的 AI 的运作方式有基本的了解,以及他们需要在组织内关注什么,”Liss 说道。

在这方面,国家标准与技术研究院(NIST)于一月份发布了一个 AI 风险管理框架,其中包括72个组织应该努力达到的结果,以减少歧视,增加系统的透明度,总体确保构建的 AI 系统是值得信赖的。

“最终,我们试图让组织改变他们的文化,使其更符合 AI 风险的考虑,就像我们现在对待网络风险或隐私风险一样,”NIST 的 AI 偏见研究科学家兼首席调查员 Reva Schwartz 说道。

咨询巨头埃森哲的研究显示,95%的高管认为 AI 的风险管理应该是他们的首要任务之一,但只有6%的组织认为他们已经准备好拥有一个负责任的 AI 基础,来帮助他们应对迅速发展的技术。

埃森哲认为,生成式 AI 的顶级风险包括对劳动力的影响、隐私和知识产权、偏见以及幻觉,即基于大型语言模型的不准确信息而做出的决策的负面影响。

埃森哲全球负责 AI 的高级董事 Arnab Chakraborty 表示,评估 AI 在组织中的使用必须由 CEO 开始负起最终责任。在埃森哲,AI 决策由包括公司 CEO、首席技术官、总法律顾问和首席运营官的指导委员会做出。

“这必须在董事会层面、CEO 和执行委员会层面发生,这是为了让他们更好地理解、欣赏,并积极担任践行者的赞助者,” Chakraborty 说道。

“没有强有力的治理,它无法牢固地立足和扎根,” Schwartz 说。

Liss 对 Chakraborty 和 Schwartz 的观点表示了赞同。“人们非常认真地对待这一责任,”Liss 说道。“我认为您在董事会、高管层和公司各个层面都会听到这种共鸣,人们明白我们需要做对。”

加利福尼亚政府运营秘书 Amy Tong 表示,生成式 AI 有潜力推动受美国最大州经济受益的创新。“它有潜力真正推动人类创造力和能力的极限,”Tong 说道。“但我们必须以非常负责任和审慎的方式来做。”

去年九月,加利福尼亚州州长 Gavin Newsom 签署了一项行政命令,研究 AI 的发展、使用和风险,并制定了一项在州政府内评估和发展该技术的程序。

“我们认识到这些工具所带来的潜在利益和风险,”Newsom 在宣布行政命令时表示。“我们既不被恐惧所束缚,也不被优势所迷惑。”

随着生成式 AI 将为企业带来的进步,也伴随着关于它如何影响工人的担忧。近四分之一的美国工人担心 AI 可能夺走他们的一些或全部工作职责。

“当涉及到劳动力时,我们应该认识到存在不确定性,”Tong 说。

《财富》活动上的专家一致认为,解决有关新兴技术和劳动力的担忧的一种关键方式是专注于培训。

“对于公司来说,考虑几个层级的培训是很重要的,”Liss 说道。“首先,整个员工群体需要了解关于负责任的 AI 以及 AI 在组织内的发展方面的全球性知识。”

还有有针对性的培训,包括合规框架和为数据科学家提供的培训,以确保他们完全了解在开展 AI 模型工作时所需的测试和技术技能。但尽管如此,不是每个员工都需要成为 AI 专家。

“认为我们都需要了解机器学习模型内部复杂的运作情况的想法可能并不一定有用,”Schwartz 说。“更好的利用时间是确保企业中的每个人都熟悉负责任的 AI 实践。”