在过去的一年里，你可能已经参与过关于超级智能AI系统取代人类劳动者的前景的讨论。或者，AI导致的一个类似于科幻末日场景的世界的讨论。

Paula Goldman并不认同这种观点。作为Salesforce的首席伦理和人性化使用官员，她认为这样的讨论完全是“浪费时间”。

AI系统已经处于副驾驶阶段，只会随着时间的推移变得更好。“随着AI的每一次进步，我们都在不断地完善我们的保障措施，并应对新出现的风险，”她表示。

Goldman表示，AI伦理领域并不是最近才出现的，它已经发展了数十年。诸如准确性、偏见和伦理考虑等问题早已得到研究和解决。“事实上，我们目前的理解和解决方案都是建立在过去研究和发展的基础之上的。虽然预测AI未来的能力具有挑战性，但我们的重点应该放在不断提高我们的保障措施，以有效管理潜在风险，确保我们有能力处理即使是最先进的AI技术，”她补充说。

欧盟人工智能法案的坚定支持者

随着人工智能变得越来越普及，其伦理影响逐渐受到关注，促使各国政府和立法者出台严格的使用政策。

欧洲联盟（欧盟）成为世界上第一个出台人工智能法案的司法管辖区，该法案是同类法案中的第一部，旨在监管这项技术。欧盟的许多立法者认为，如果不加以监管，人工智能可能会对社会造成潜在危害。

虽然不同司法管辖区对人工智能的监管方法各不相同，包括印度在内，但Goldman实际上表示，她是欧盟人工智能法案的坚定支持者。

“虽然关于监管人工智能模型的讨论仍在持续，但真正重要的是监管人工智能的结果和相关风险，这也是欧盟人工智能法案采取的一般方法，”Goldman说。

该法案将人工智能系统分为四个风险等级——不可接受的风险、高风险、有限风险和最低或无风险。它侧重于识别和控制风险最高的结果，例如求职或贷款审批中的公平考虑，这些结果对人们的生活有着重大影响。

“此外，欧盟不仅将标准应用于创建模型的人，还应用于基于这些模型构建的应用程序、使用的数据以及利用这些产品的公司。这种全面、分层处理的方法往往被忽视，但对于有效监管至关重要。”

然而，监管也带来了阻碍创新、抑制创造力和减缓技术进步速度的担忧。

尽管如此，Goldman认为人工智能监管是迫切需要的。“这些规定应通过民主程序制定，并涉及多个利益相关者。我对这方面所做的努力感到自豪，并强调这些规定超越个别公司的重要性，”她说。

人类在掌舵

在TrailblazerDX会议上，Goldman和她的同事们（包括Salesforce首席科学家Silvio Savarese）强调了在消费者中建立对人工智能信任的重要性。

Savarese甚至表示，无法建立消费者的“信任可能会导致下一次人工智能寒冬”。Goldman和她的同事们也强调了在人工智能系统中建立透明度和问责制的迫切需求，以促进消费者信任，防止人工智能采用中潜在的挫折。

“在Salesforce，我们认为可信赖的人工智能需要有人类掌舵。与其要求每次人工智能交互都需要人类干预，我们正在设计整个系统的强大控制功能，使人类能够监督人工智能的结果，让他们集中精力处理最需要他们关注的高判断性任务，”Goldman说。

Salesforce的方法一直是赋予客户控制权，承认他们最适合理解自己的品牌调性、客户期望和政策。

“例如，通过Trust Layer，我们计划允许客户根据他们的需求调整毒性检测的阈值。同样，通过像Retrieve Augmented Generation（RAG）这样的功能，客户可以微调他们希望在人工智能生成的回复中看到的创意水平。

“此外，涉及人工智能伦理的事件强调了政府干预建立监管框架的重要性，因为这些问题可能因地区和文化而异。因此，政府的人工智能监管被认为是至关重要的，”她补充说。

保障工作是一项平衡术

此外，随着公司推出其人工智能产品，与客户合作以确保产品得到合乎道德和负责任的使用，并消除风险也变得至关重要。

“在Salesforce，我们会在我们认为产品已经准备好且负责任时发布它们，但我们也会保持谦逊，认识到技术是在不断发展的。虽然我们会从多个角度对产品进行严格的内部测试，但真正的问题和改进领域往往是在与客户的试点阶段中发现的，”她说。

据Goldman表示，这种迭代过程确保了产品在发布前达到了特定的标准，而公司也会继续与客户合作，不断学习和改进产品。

“这需要在对我们产品的信心和不断完善的开放性之间找到平衡。”