随着生成式人工智能从兴趣阶段过渡到整合阶段，UC领域的对话正转向代理人工智能或人工智能代理。

尽管仍处于早期开发阶段，但Agent AI正开始成为一种强大的工具。

2024年1月，OpenAI向ChatGPT引入了代理AI任务，允许用户安排每周新闻简报、每日天气更新或音乐会门票销售提醒等操作。

虽然仍然有限，但这标志着OpenAI迈出了进入代理AI的第一步。

如果说我们从过去的人工智能进步中学到了什么，那就是发展速度很快。

随着代理人工智能可能刚刚出现，企业可能很快就会争相将其整合，就像他们对生成式人工智能所做的那样。

然而，与其前身一样，Agent AI面临着重大的集成挑战。根据普华永道的数据，51%的技术领导者认为遵守人工智能相关法规是一个主要障碍。

“由于安全和数据隐私问题，许多组织对将Agentic AI集成到UC系统犹豫不决。”Chris Angus，8×8联络中心参与副总裁，告诉UC Today。

因此，他认为，对于希望采用Agent AI并获得竞争优势的公司来说，强有力的安全和合规战略至关重要。

代理人工智能的合规挑战

Agent AI是指能够自主决策、采取行动和持续学习的高级AI系统。

这些人工智能代理解释上下文，评估选项，并在最少的人为干预下调整其行为。

与专注于自动化重复任务的传统人工智能不同，代理人工智能具有高度的自主性，使用强化学习来随着时间的推移而改进。

Angus说：“Agent AI不仅可以提供基本的答案，还可以评估情况，提取相关数据，并在需要时升级到人工座席，而不会中断对话。”

虽然这些功能可以增强客户互动，减少联络中心员工的工作量，但也会带来合规风险。

一个主要问题是决策缺乏透明度。通常被描述为“黑匣子”，代理人工智能可以做出难以解释的选择——如果一个系统被指控歧视，这个问题就变得至关重要。

例如，如果一个人工智能代理由于其内部模式而将涉及男性的用例升级到女性面前，组织可能很难为其决定辩护。

这些系统的自主性也引发了人们对问责制和监督的担忧，这两者都是欧盟人工智能法案的关键监管要求。

该法案规定，高风险的人工智能系统（如银行或医疗保健领域的系统）必须允许有效的人工监督，这可能对高度自主的代理人工智能构成挑战。

此外，Agent AI系统处理大量敏感数据。由于这些模型不断学习，跟踪用户数据的处理方式（GDPR的核心要求）可能会变得越来越困难。

所有这些担忧都让Angus相信，人工智能的使用现在与监管有着内在的联系。

Angus强调：“选择符合GDPR和HIPAA等全球标准的人工智能解决方案，同时实施保护措施以防止错误信息或有害输出，是不可谈判的。”

控制代理AI

有了这些复杂性，集成Agent AI可能看起来很艰巨。

然而，正如Techintelligence/UC Today报告所强调的那样，48%的受访者很难将人工智能工具整合到他们的UC解决方案中，并且经常转向外部解决方案来弥合差距。

Angus建议同样的方法应该应用于代理AI。

他说：“代理人工智能对许多人来说是一个新领域，这就是为什么与8x8这样的行业专家合作以有效地指导实施至关重要。”

8×8为企业提供了以确保合规的方式集成Agent AI的灵活性。Angus解释说：“我们的方法就像自助餐——你可以选择全套套餐，也可以只选择适合你需求的元素。”

与将客户锁定在特定AI模型中的提供商不同，8x8允许企业带来自己的AI，确保符合其安全要求和行业法规。

这对金融或医疗保健等高度监管行业的公司尤其有利，因为这些行业的可解释性和监督性至关重要。

此外，由于8×8拥有自己的技术栈，它对安全和合规措施保持了更大的控制。Angus说：“通过拥有我们的技术栈，8x8提供了更安全、更可定制、更具成本效益的人工智能解决方案。”

这种方法有助于解决使用8×8交钥匙解决方案的用户的潜在合规风险。“大多数问题，如幻觉或不正确的信息，都源于向平台输入错误的数据。”Angus指出：“这就是为什么我们不依赖现成的LLM。相反，我们专门根据经过验证的客户数据或我们自己的数据训练模型。”

除了数据验证之外，8x8还实现了护栏，以防止人工智能产生有害或误导性的反应。该平台还包括内置功能，如基于角色的访问控制、数据加密和数据驻留合规性。

虽然Agent AI旨在自主运行，但8x8认识到了人类监督的重要性。持续监控功能使企业能够跟踪AI性能并及早解决问题。

Angus表示：“通过人的监督，公司可以确保人工智能与业务目标和合规要求保持一致。”

探索代理人工智能的未来

Agent AI的潜在好处是巨大的，从提高客户参与度到简化运营。

然而，其自主性要求采用新的治理和监督方法。

与生成式人工智能非常相似，合规性和安全性挑战可能被证明是希望将Agentic AI集成到CCaaS解决方案中的组织的主要障碍。

然而，Angus表示，成功采用的公司将是那些优先考虑强大的安全和合规框架的公司，无论他们是选择独自还是与合作伙伴共同应对这一局面。