8月9日,以“安全即服务,开启人工智能时代数字安全新范式”为主题的ISC 2023第十一届互联网安全大会开幕式在北京国家会议中心盛大开幕。中国工程院院士邬江兴出席并以《动态异构冗余(DHR)构造赋能AI应用系统内生安全实验》为题发表演讲。
当前,以深度学习为核心的AI应用正迎来新一轮快速发展期,以深度学习为核心的人工智能核心技术取得突破,人工智能或生成式AI正在为各领域提供信息化、数字化、智能化的解决方案,正在引发经济结构重大变革,实现社会生产力的整体跃升。
传统网络安全防御范式,无论从思维视角、方法论还是实践规范层面,既不能有效解决AI应用系统软硬件环境中存在的内生安全共性问题,也不可能解决AI应用系统算法模型中存在的内生安全个性问题。对此,邬江兴指出,在不依赖(不排斥)先验知识的情况下,运用动态异构冗余构造(DHR)的结构编码或环境加密效应,可有效阻断或控制基于内生安全共性问题的网络攻击或破坏,使得内生安全问题难于发展成为内生安全事件。
“在AI时代,深度学习给社会进一步带来了极大的推动的时候,同时也用新型的安全,甚至给人类社会带来毁灭性的灾难。如果我们不能将有效的应对人工智能安全挑战,会成为国家安全总体战略最脆弱、最致命的环节。”邬江兴说道。