“AI诈骗正在全国爆发”登上热搜，网络安全引关注。

(资料图片仅供参考)

随着AI(人工智能)大规模应用，骗子的骗术越来越高明，有骗子通过AI换脸技术，实施诈骗。今日，“AI诈骗正在全国爆发”的词条登上了微博热搜榜。

据高台公安消息，近日，包头警方发布一起利用AI实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

报道称，4月20日中午，郭先生好友突然通过微信视频联系他，声称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。

“AI换脸”只需要提供一张带脸的照片，就可以把自己置换成视频、电视剧中的男(女)主角，而且拟真度非常高，毫无违和感。据常德网警巡查消息，AI技术改变诈骗，新骗局来袭后，诈骗成功率竟接近100%。

AI大时代

网络安全更受到重视

今年以来，以ChapGPT为代表的AI技术应用大爆发，各种大模型层出不穷，同时也带来了网络安全隐患。今年4月6日，Open AI在其官网发布安全方法《Ourapproachto AIsafety》，就构建安全、可靠的AI产品，尊重用户隐私，保护儿童及提高生成数据准确性等多方面制定政策。

国内方面，4月11日，国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见，对数据合规性、生成内容合法性提出进一步要求。国外方面，近日，欧洲议会内部市场委员会和公民自由委员会以压倒性多数票通过《人工智能法案》提案的谈判授权草案，向立法严格监管人工智能技术的应用迈出关键一步。

根据IDC数据，2021年中国网络安全市场总投资规模为122亿美元，预计2026年将达到319亿美元，2021年~2026年规模增速复合增长率为21.2%。

兴业证券认为，随着AI监管政策落地，数据安全、隐私保护等安全需求将进一步上升，网络安全防护范围、防护主体将进一步扩大，有望打开行业成长新空间。

广发证券认为，随着大模型在各行业应用的加速落地，新型安全问题逐渐出现，AIGC时代的安全需求正快速上升。

应对AI网络安全挑战

多家公司已行动

AI是一个矛盾体，在提高人们学习工作效率的同时，也带来了像AI诈骗等负面影响。应对AI对网络安全提出的新挑战，多家网络安全公司已采取行动。

绿盟科技在回复投资者询问“人工智能生成的内容即将泛滥成灾”的提问时表示，公司已经开展相关ChatGPT文本生成内容检测工具的研究，尤其针对中文内容的检测，避免利用ChatGPT生成内容用来钓鱼、虚假新闻或论文等滥用。

奇安信-U表示，公司目前已深入布局生成式人工智能模型安全的各个方面。公司人工智能研究院基于自身积累海量知识和大数据，在深度伪造、深度鉴伪等技术也取得了突破，已经能够准确识别多种前沿AI伪造技术生成的虚假图片视频。

美亚柏科在投资者互动平台表示，关于AI监管产品，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对生成式人工智能产生内容进行检测识别和鉴定。公司当前在AI监管方面主要以自主研发为主，也将保持与行业企业合作的开放态度。

启明星辰在互动平台表示，公司已经在威胁检测、安全大数据分析、威胁情报、UEBA等多个大类的诸多产品中广泛采用AI技术，实现在威胁检测与分析、异常发现、情报获取等多方面安全能力的提升。

安恒信息表示，在智能钓鱼邮件分析领域，公司基于AI技术，联动邮件附件智能沙箱技术、邮件正文语言分析技术和邮件收发账号UEBA技术，可以准确识别可疑邮件、及时做出钓鱼邮件预警。

证券时报·数据宝统计，A股中网络安全概念股有20余只，从年内行情来看，拓尔思和三六零受益于AI概念炒作，股价翻倍，美亚柏科涨幅也超70%，信安世纪、中孚信息和奇安信-U年内跌幅超10%。

从业绩来看，今年一季度大部分网络安全概念股表现不佳，有超过20股一季度业绩亏损，奇安信-U和深信服等亏损超过4亿元，安恒信息、三六零、绿盟科技和美亚柏科等个股亏损超过亿元。

关键词：