访谈思科卜宪录：用“负责任的AI”赋能网络安全创新

  无论身处哪个时代，技术的发展往往都是一把双刃剑，AI技术的发展对于网络安全行业的影响亦是如此：

  一方面，AI通过提供先进的技术来检测和减轻网络威胁，彻底改变了以往对网络安全问题的处理方式，越来越多的企业将其作为网络安全策略的关键工具。MarketsandMarkets调查数据显示，全球网络安全中的AI市场规模预计将从2020年的88亿美元增长到2026年的382亿美元，预测期间的复合年增长率为23.3%。另一方面，恶意行为者利用AI和机器学习来增强网络攻击的能力和效率。AI技术不仅大幅度降低了企业全方位漏洞扫描的门槛，还提升了扫描精度，暴露出的安全风险防范难度加大。MIT Technology Review调查数据显示，2021年60%的采访对象已经难以应对自动化的网络攻击，96%的人已经在开始遭受AI网络攻击。

  思科大中华区副总裁、安全事业部总经理卜宪录表示：“谈到AI的时候，我们总会想到三个基本要素：数据、算法、算力。大家公认数据是最重要的，谁收集到的数据最多，并且用最先进的算法对数据进行有效的处理，谁就越有可能在AI的时代发挥更大的价值和作用。在信息安全领域，我认为还应该再多加一项：智能。对网络安全、信息安全来说，要对搜集上来的海量数据有认知，对攻击的方式和方法都有非常深入的研究才可以。 

 思科大中华区副总裁，安全事业部总经理 卜宪录

  可以说，在数智化时代，以生成式AI、大模型为代表的人工智能技术的出现，为网络安全行业带来了新的防御手段和挑战。在此背景下，如何利用该技术赋能网络安全创新，并充分应对AI为网络安全行业带来的挑战，成为值得关注的难题。在日前的媒体沟通会上，思科也带来相关思考。

  支持or担忧，生成式AI带来的挑战与机遇

  在当今数字化时代，生成式AI作为一种能够生成全新信息的、理解和创造文本或视觉内容的AI技术，已经引起了广泛的关注，企业内部亦是如此。

  “企业业务领导人、C-level领导者关注生成式AI的场景化创新，以助力其提高生产力、提升业务创新;企业负责基础架构的领导者更为关心通过自动化运营方式提升运营效率;企业网络安全负责人关注如何简化安全运维、确保数据安全合规。”卜宪录如是说。

  生成式AI在受到重视的同时，其在使用者群体中的“印象”也呈现两极分化的现象。“使用者对生成式AI的态度是既爱又恨，既支持又有诸多担心。”卜宪录如是说。思科新近发布的《2023年消费者隐私调查》对既支持又担忧的消费者现状给出了数据上的说明。

  该调查显示，虽然有48%的人相信AI可以帮助改善生活，54%的人愿意分享匿名个人数据以改善AI产品;但与此同时，还有60%以上的人，对AI的商业用途表示担忧。在这些人当中，有88%的人担心信息会因此被他人共享并用于不正当用途。

 

  使用者对于生成式AI风险的担忧并非空穴来风，其主要集中在“与他人分享的信息会被不正当使用”“AI创造的信息是错误的、有误导性的”“制造有害的信息在互联网世界传播”“AI可能取代人类工作”等。

  如何缓解使用者对生成式AI风险的担忧？卜宪录认为：“采用普及性教育，对个人进行有关隐私及其权利的知识普及;采用负责任的数据使用措施，确保负责任的生成式AI使用场景;采用必要的措施对生成式AI的使用进行控制。”

  应对AI带来的挑战，思科如何做？

  事实上，人工智能驱动的攻击可能包括更令人信服的网络钓鱼尝试、自动恶意软件创建、逃避安全措施以及个性化的社会工程攻击，这使得传统防御机制更难检测和预防它们。以钓鱼邮件为例，“生成式AI制作的钓鱼邮件，更有针对性、更能以假乱真，增加了其危险程度。”卜宪录表示。此外，“在使用生成式AI时会将企业敏感信息、知识产权、客户信息泄露，为企业带来风险。”

  在思科看来，生成式AI带来的挑战是与机遇并存的。卜宪录表示：“在早期阶段，生成式AI对攻守双方是不对等的，攻击方会先受益，防守方比较辛苦，像守门员一样，要挡住无数次射门。作为安全解决方案提供方、防守方，想要应对这些挑战，唯一的方法就是要跑得更快、更远。”

  资料显示，自年初至今思科已经并购5家公司，这些公司主要集中在AI、云安全领域，并且通过这些并购，思科正在提升其安全解决方案的应对能力。

  前不久，思科与网络安全软件公司Splunk宣布达成一项最终协议，思科拟以每股157美元的现金收购Splunk，股权价值约为280亿美元。此次收购之后，Splunk的安全能力是对思科现有产品组合的补充。卜宪录表示：“收购完成以后也将大幅度提升我们在生成式AI、大数据、云安全方面的方案完整性和能力。”

  除了通过并购完善安全解决方案之外，思科还坚持“负责任的AI”的原则，制定负责任的AI框架，围绕透明度、公平性、问责制、隐私、安全性和可靠性进行控制。卜宪录表示：“随着生成式AI的出现，我们正在改进负责任的AI框架和控制措施，以发现新的问题。”

  思科打造AI驱动的技术产品组合

  如今，思科正在加强在AI方面的创新。思科认为，在信息安全领域AI扮演着十分重要的角色，这不仅要求对收集上来的海量数据有认知，还要对攻击方式有深入的研究。“这是思科的优势所在，思科打造了由500人左右组成的威胁情报组织——思科Talos，专门为思科客户、产品和服务提供卓越的保护。”卜宪录坦言。

  作为全球领先的威胁情报智能研究分析团队，思科Talos通过分析恶意软件、漏洞、入侵行为以及最新趋势，提供业内最全面和主动的安全与威胁情报解决方案，并将其对威胁情况的洞察融入到思科所有的安全产品中。这为思科的安全研究和安全产品服务提供强大的技术支持，同时也构成思科安全生态系统的坚实基础。

  思科还透露其在AI赋能安全创新的最新进展，公布其在生成式AI领域的三个场景：简化安全性(如防火墙)、复杂的攻击预防(如SOC助手)、安全使用LLM(如DLP)。“生成式AI如何简化安全运维的复杂度，减少威胁检测事件，提升网络安全响应速度，这些都是新的场景。”卜宪录如是说。

  其中，在简化安全方面，由AI驱动的安全策略管理，可根据使用者发出的语音/文本指令，自动生成策略，同时，还可以提出简化、优化现有策略的建议。此外，策略小助手还可以与工单系统结合生成自动化工单，进而打通并简化运维流程。据悉，该策略小助手已经用在防火墙，未来还将在其他安全产品线使用。

  而在防御复杂的攻击方面，思科专门打造了AI SOC助手。它可以通过XDR平台将各方面的信息与AI算法、智能工具进行有机的分析与连接，进而生成有价值的告警，并帮助运维管理人员采取相关措施。卜宪录表示：“这是AI在检测和响应解决方案里已经落地使用的场景。”

  此外，思科还专门打造了加密流量可视化能力，使用独特的EVE/加密可视化引擎，在不解密的前提下提供对加密流量的威胁和可视化能力，不仅能够检测和阻断加密流量中的恶意文件，还可以主动触发IOC指标告警。“将EVE加密可视化引擎与解密检测方法结合，能够借助机器学习和AI的能力帮助企业提升安全控制能力。”卜宪录如是说。

  写在最后

  在数智化不断深入的时代，AI对网络安全行业的影响较为深远，它既提供新的防御手段，也带来潜在的安全风险。一方面，攻击者可以利用AI和机器学习来增强网络攻击的能力和效率，另一方面，AI带来了一系列能够革新传统网络安全方式的能力。通过自动化任务，提高准确性，降低成本，AI有可能大大加强我们对不断演变的网络威胁的防御。

  在这个挑战与机遇并存的年代，我们看到，思科正在通过AI赋能安全创新、安全领域并购等方式，持续打造强有力的技术产品组合，完善自身在AI及安全领域的硬核实力。最为可贵的是，思科还坚持“负责任的AI”的原则，围绕透明度、公平性、问责制、隐私、安全性和可靠性，确保AI技术合乎要求。

  此外，身处数智化时代的企业和个人通过加强网络安全、数据隐私保护，同时也应该采用相关安全防护措施，有效应对攻击入侵和数据泄露，确保AI技术的安全运营。