人工智能承诺通过自动化联系人、提升员工和重新定义体验来重新构想联络中心。

然而，人工智能不仅仅是为服务团队提供新的、改变游戏规则的能力；它也为攻击者带来了新的工具。

认识到这一点，联络中心领导必须了解其运营和客户面临的新威胁。

因此，CX Today联系了思科首席安全架构师Santosh Kumar，以确定人工智能的六个新风险以及如何应对这些风险。

1、人工智能语音钓鱼

今年2月，一家名为“Zyphra”的初创公司推出了两种开放式文本转语音（TTS）模型，每种模型都能够用五秒钟的样本音频克隆某人的声音。

令人印象深刻的成就？当然。但这对许多企业来说是风险。

毕竟，有了这种技术，欺诈者可能会进行语音钓鱼攻击，从而令人信服地绕过语音生物识别系统。

例如，攻击者可以呼叫银行，将录音作为身份验证传递，并获得对帐户的完全访问权限。

这似乎有些牵强，但在11月，英国广播公司的一名记者成功地使用语音克隆技术绕过了英国两家著名银行的语音识别系统。

威胁是巨大的。事实上，OpenAI去年搁置了类似解决方案的发布，警告企业“逐步淘汰基于语音的身份验证”。

在评论这一威胁时，Kumar指出：“与两年前相比，人工智能驱动的语音钓鱼增加了3000%。”

“为了缓解这种情况，实施反欺骗机制、多因素身份验证和活性测试以验证呼叫者的存在至关重要。”

尚未实施类似语音生物识别保护的公司尤其容易受到这种人工智能威胁。

2、隐私风险

在联络中心越来越多地使用机器学习（ML）模型带来了新的挑战。这些超出了传统做法的范围，如加密、访问控制和GDPR合规性，当然，这些仍然是必不可少的。

然而，企业必须考虑新的做法来防止这些模式的新漏洞。

例如，有“成员推断攻击”，欺诈者通过输入特定查询来攻击机器学习模型，以确定某些个人的数据是否在他们的训练中使用。

在此过程中，攻击者可能会访问该个人的个人信息。

此外，他们还可以深入了解模型是如何训练的。这可能会让他们篡改它或创建欺诈性的副本——因为骗子做得越来越多。

为了减轻这种人工智能威胁，Kumar建议不要利用在小数据集上训练的机器学习模型，并确保该模型已经过对抗性测试。

Kumar说：“我们的每个模型在部署前都会经过对抗性测试。”

“我们还探索了差分隐私技术，以确保预测向量保持模糊，防止攻击者提取精确信息。”

记住，机器学习模型通常会记住敏感数据，所以一定要谨慎对待。

3、聊天机器人攻击

聊天机器人为攻击提供了一个共同的切入点，尤其是那些由机器学习驱动的攻击。毕竟，他们可能会成为上述对抗性攻击的目标。

然而，随着企业使用大型语言模型（LLM）为机器人提供动力，现在存在“快速注入”攻击的风险。这些要么是直接的——旨在触发特定的反应——要么是间接的——努力改变虚拟代理的行为。

通过这两种方法，用户可以诱骗机器人执行禁止的任务。

在安全研究员Johann Rehberger使用类似技术篡改Google Gemini的长期记忆后，这些攻击方法得到了广泛的宣传。

然而，还有其他聊天机器人攻击需要防范。例如，欺诈者可以操纵机器人采用一个角色。或者，他们可能会利用人工智能有限的上下文窗口，让无关的数据过载，从而阻碍其性能。

鉴于这些风险，Kumar建议采取多方面的方法来保护机器人。他建议：“缓解聊天机器人威胁涉及对抗性测试、持续模型评估、输入验证和防止即时注入攻击等策略。”

然而，企业必须首先了解这些攻击媒介，才能有效地制定这些策略，并确保人工智能仍然可靠。

4、模型中毒

并非所有威胁都来自外部欺诈者。有些攻击来自内部。

考虑模型中毒。当内部人员在模型训练期间注入恶意数据，为攻击创建后门时，就会发生这种情况。

例如，他们可能会将有毒数据引入旨在检测恶意软件的人工智能安全解决方案。因此，它可能会错过特定的威胁。

因此，Kumar建议，联络中心必须确保其供应商遵循OWASP LLM十大原则，并确保内置毒物检测方法。

“我们还利用了思科的人工智能防御产品，该产品增强了对此类攻击的防护。”他指出：“我们的AI专用管道包括持续的监控和测试，以尽早发现和减轻威胁。”

5、API薄弱环节

企业经常将其联络中心与各种点解决方案集成，用于会话分析、预测、自助服务等。

对这些APIs保持严格的身份验证和授权控制至关重要。

毕竟，虽然API面临着与软件和Web应用程序类似的威胁，但它们也有独特的漏洞，需要特别关注。

例如，API（如聊天机器人）容易受到SQL注入、远程代码执行和跨站脚本（XSS）的注入攻击。

联络中心IT团队可以确保一致的输入验证，并利用API管理平台防范此类风险。

然而，企业必须准备的不仅仅是API注入。服务可用性威胁（API被请求淹没）和用户身份风险也是值得关注的问题。

部署API网关和体积防御工具是这里的最佳实践。

6、供应链缺陷

随着人们争相采用人工智能和机器学习，许多公司转向第三方解决方案。虽然这些解决方案具有成本效益，但如果不经过适当审查，可能会带来重大风险。

例如，它们可能未打补丁，依赖于其他组件/服务，或者包含不稳定的开源组件。

因此，从供应商那里获得免受供应链攻击的保证至关重要。

例如，思科在20多年来一直实施严格的供应链安全和合规实践，无论是针对内部部署库还是现代SaaS集成。Kumar补充道：“这确保了我们生态系统的完整性和安全性。”

这家科技巨头还开发了一个负责任的人工智能框架，概述了其道德和法律人工智能开发和整合的方法。

与思科共同对抗联络中心的人工智能威胁

思科独特地提供客户体验解决方案以及深度安全产品组合。

2024年，思科重组了包括安全和协作在内的产品部门，由一位首席产品官Jeetu Patel领导。此外，思科在Jay Patel的领导下整合了其Webex呼叫中心和CPaaS（通信平台即服务）产品。这种战略一致性旨在使客户体验领导者能够主动应对新出现的风险。

思科具有独特的优势，可以提供支持人工智能的Webex呼叫中心，并将安全性和合规性作为基础。凭借思科在人工智能威胁防御方面的独特定位，它可以通过提供强大的安全和隐私态势来进一步巩固客户的整体信任。