粉丝服务

ChatGPT爆火背后暗藏安全隐患,ScanV全面识别为安全管控奠基

ChatGPT“横空出世”

与之互动成为潮流


近日,由人工智能实验室OpenAI发布的聊天机器人模型ChatGPT横空出世,迅速在各大中外媒体平台掀起了一阵狂热之风。


ChatGPT能够回答后续问题、理解用户意图、承认错误、挑战质疑不正确的前提、以及拒绝不适当的请求,因此这也引发了网友的一系列“花式整活”。如今,在社交平台展示自己与ChatGPT的对话截图,已经成为了一种潮流。


这些高质量的回答、上瘾式的交互体验,让人们为之沉迷,圈内外纷纷惊呼,ChatGPT的功能是如此强大,以此连马斯克都认为:“我们离强大到危险的 AI 不远了”。




ChatGPT爆火背后暗藏安全隐患

各界对此表示担忧


随着ChatGPT在全球爆火,这项应用所引发的冲击波也“震撼”了多个行业,给人工智能、互联网、学术界等多个行业都带来了巨大的冲击。然而在疯狂过后,各界也冷静下来,并对这项应用背后所衍生出来的安全隐患表示担忧。


●违规、错误内容的使用,严重误导大众认知,影响舆论导向

首先,对于监管行业来说,ChatGPT的出现会使网上信息的监管工作更加难做。2月20日,中央网信办举报中心的官方微博就发出了一项话题:[如果ChatGPT生产出来的错误内容被运用了,该找谁问责?]。

由于ChatGPT会通过用户的反馈改进对话技术,一旦ChatGPT被“花式整活”的网友影响,抓取到违规内容或错误内容并加入自己的语料库中,就有可能因违规或错误内容的使用,出现误导大众认知的情况,从而影响舆论导向,甚至危害社会稳定和生命健康。


●ChatGPT运用不当,引发抄袭、作弊、机密信息泄露等隐患

其次,越来越多人非常规的使用ChatGPT,使之引发抄袭、作弊、机密信息泄露等隐患。ChatGPT具备快速查阅文献、生成答案的能力,许多大学生用它来充当“枪手”,导致多国高校被迫明确“禁用”ChatGPT。

无独有偶,很多互联网大厂码农也使用ChatGPT生成代码,用于解决工作中的问题,极易出现公司代码被竞争对手获取,公司机密信息泄露的情况。


●山寨ChatGPT泛滥,大量用户被诱导消费、泄露隐私

最后,一些与ChatGPT名称、图标、页面高度相似的小程序、APP、及网站如雨后春笋般出现,通过假借ChatGPT的名头,诱骗消费者对其进行流量变现,很多山寨小程序甚至借此违规收集个人信息,导致个人隐私及数据泄露。因此监管单位也需要加强对这些山寨版ChatGPT及其相关服务的识别,严查监管。

从以上ChatGPT背后暗藏的安全隐患以及中央网信办发出的话题来看,未来ChatGPT相关服务及其内容生产,很大可能会面临有关单位的严格监管,防止出现网络乱象。


ScanV现已支持对ChatGPT的相关服务

进行全面识别及监测,以供后续管控


针对上述ChatGPT导致的安全隐患,ScanV可进行针对性的系统化解决。目前,ScanV已能够支持专项ChatGPT服务监测,可对大规模业务系统(包括不限于网站、小程序、APP等)快速全面摸排,对提供了该服务的业务系统进行全面识别。

ScanV是基于AI+大数据的下一代网络安全监测治理平台,专为监管、政府、企事业单位网站及业务系统提供7x24h 远程漏洞监测、篡改监测、系统访问异常监测、违规内容监测、IPv6合规监测等服务,实时预警通知,并提供修复建议及加固防护方案,保障客户网站及业务系统平稳运行。

基于汇集全网千亿级情报信息的创宇智脑能力,ScanV支持对业务系统进行页面内容智能分析,全面识别业务系统是否对外提供类似ChatGPT服务,精准找出对应服务链接并提供源码取证,帮助监管单位实时掌握辖区业务系统对外提供的服务状态。



● 实践监测案例

某地市监管单位对其辖区内数千业务系统进行了摸排,以排查其是否使用了类似ChatGPT的服务,2分钟内就将辖区内所有业务系统接入ScanV进行监测,并于10分钟内使用ScanV发现近100个业务系统在对外提供类似ChatGPT的服务。

同时,ScanV可提供详细检测报告,帮助监管单位实时掌握辖区业务系统对外提供的服务状态,为后续对辖区系统安全合规监管工作提供有力支持。


三月重保在即,ScanV现已支持对ChatGPT相关服务进行全面识别及监测,免费接入通道已经开启,帮助您全面识别ChatGPT服务链接,实时监控服务状态!


扫描下方二维码,立即联系我们接入吧!



本栏目精选

热门推荐

频道导航