自2025年以来，人工智能技术得到了显著突破，尤其是大模型训练成本不断降低，应用方式也从之前的生成式AI向实体化AI进行快速演进，不过随着技术的不断发展，AI技术能推动各行各业发展，并引领着人们进入到AI+时代。不过AI也是一把双刃剑，目前AI滥用风险的态势日益严峻，利用AI实施网络攻击的势头也开始抬头。
11月27日，新华每日电讯发表文章《自动感知环境 不受人工干预 攻击形式多样——“AI+”时代网络安全挑战升级，如何构建有效新防线？》。从这篇文章当中也不难发现目前AI的确发展越来越快，而在AI领域当中，更多的危险也在悄然生成。
就在刚刚过去的上个月，江西南昌一场国际学术年会上，中国工程院院士，天津中医药大学名誉校长张伯礼在工作报告当中说到，“现在用我带货的AI人真的是越来越多了。”之所以张院士会说出这样的话，正是因为今年在不少网络平台上出现多个关于张伯礼带货的短视频，事实上这些都是由AI技术做成的，这些合成视频利用张院士的声音和形象基本上能够达到一个以假乱真的效果，而不少没留意的用户，可能不仔细辨别的话并不会发现，仅仅图着张院士的名声和头号就会盲目下单，这也给了很多商家以可乘之机。
新的技术在发展的同时运用网络和信息技术侵害肖像权，名誉权等人格权的现象也经常发生，在今年6月份，最高人民法院就发布了六起滥用信息技术侵犯人格权的案例，其中不乏包括未经许可AI化使用他人声音，使用他人肖像，提供换脸等案件。
不仅仅是AI侵犯肖像权，如果AI化身智能体进行自主进攻，那更是非常可怕的。在今年年初的时候，2025年哈尔滨第九届亚运会遭到境外网络攻击事件就是一个非常可怕的例子，国家计算机病毒应急处理中心等有关技术团队持续攻坚，成功查询到了美国国家安全局的三名特工和两所美国高校参与并实施了针对亚运会的网络攻击活动，而在研究当中发现，此次攻击正是利用了AI智能体进行工具方案策划，部分代码明显是由AI代写，可以在攻击当中自动生成并快速编写动态代码，实施精准攻击。
所谓智能替换AI是指具备自主决策能力的人工智能系统，AI智能体一旦被用于网络攻击，其自主性和随机性将大大提升网络安防的难度。因此，目前我国也正是在这一领域方面开始进行更+精细化的安全部署。
确实，目前关于AI领域虽然发展越来越快，带给人们的便捷程度也会越来越高，但是其中所带来的安全性与危害也是日益严重，如何科学并安全的运用好这一技术也是未来AI+时代人们所需关注的重点。在AI+时代，要通过国际合作的方式推动能力建设，风险共管和规则标准互认，同时也需要针对特定议题进行小切口合作模式，共同携手构建普惠包容的全球AI治理体系。
文章内容仅供参考，不构成投资建议，投资者据此操作风险自负。转载请注明出处：远视互动
