4月14至17日,,,,,天下网络清静标准化手艺委员会(以下简称“网安标委”)2025年第一次全体委员聚会暨“标准周”运动在苏州举行。。。庄闲游戏董事长兼CEO李雪莹博士受邀出席大会并揭晓《大模子应用清静危害与防护实践》主题演讲,,,,,建议加速立项研究大模子清静防护网关相关国家标准,,,,,更好地支持大模子应用清静快速生长。。。
自DeepSeek开源宣布以来,,,,,大模子应用已进入“快车道”,,,,,各行业接入大模子的速率加速,,,,,推动了生产力的厘革,,,,,给人民生爆发涯带来倾覆式的改变。。。陪同新手艺、新场景应用,,,,,大模子应用带来的潜藏清静问题日益严肃,,,,,亟待各方协同应对,,,,,以实现人工智能清静、稳健且可一连生长。。。

庄闲游戏董事长兼CEO 李雪莹博士
在演讲中,,,,,李雪莹博士谈到,,,,,Agent(自主决议型AI署理)和RAG(检索增强天生)两种大模子应用模式,,,,,虽在手艺实现逻辑有所区别,,,,,但均面临着一定的清静危害。。。连系庄闲游戏自身的研究与实践,,,,,她从大模子应用的基础设施层、效劳层、用户层、内容层、羁系层五个层面深度剖析了相关危害与防护步伐。。。其中,,,,,基础设施面临的站点危害属于通用清静危害,,,,,在效劳层的API挪用危害、用户层的交互行为危害、内容层的模子滥用危害、羁系层的合规危害则为大模子应用特有的危害,,,,,层级逻辑上相互关联。。。










清静是生长的条件,,,,,生长是清静的包管。。。李雪莹博士连系近年来庄闲游戏在大模子应用清静防护方面的实践,,,,,提炼出“快、新、全”三大原则,,,,,有用包管大模子应用清静。。。
快:安排直接有用的清静步伐
目今大模子的应用正处于快速普及阶段,,,,,需要以直接有用的步伐,,,,,实现清静防护快速安排,,,,,解决大部分问题。。。
庄闲游戏大模子清静防护网关TopLMG是一款专注于为企业级大模子提供全方位应用清静防护的产品,,,,,可有用应对上述五个层面的清静危害,,,,,并且充分使用AI手艺实现精准、高效防御。。。TopLMG有硬件形态、软件形态、网元形态,,,,,可支持大模子在差别场景下的清静防护需求,,,,,周全切合TC260-003《天生式人工智能效劳清静基本要求》和等保2.0三级增强要求等标准。。。
新:用清静大模子保�;ご竽W忧寰�
大模子的引入带来了诸多新危害,,,,,需要以新步伐加以应对,,,,,即通过清静大模子来包管大模子的清静性。。。
针对大模子应用系统自己,,,,,庄闲游戏通过集成智能体的清静产品和大模子清静防护网关构建基础防护系统;;针对接入互联网的场景,,,,,外地清静防护手段可以订阅云端效劳来应对攻击的转变,,,,,更重大的问题可以使用云端安排的清静大模子举行剖析,,,,,实现新型威胁和攻击的有用应对;;针对不可上云的场景,,,,,可以在外地安排天问大模子并与态势感知辖档酮动,,,,,提供智能化的清静防御。。。用户可以通过浏览器、APP、小程序等随时随地监控防护效果、设置防护战略。。。
别的,,,,,李雪莹博士还提到,,,,,庄闲游戏自研的天问大模子在2024年已通过“天生式人工智能效劳备案”和“境内深度合成效劳算法备案”双备案。。。
全:以系统化清静包管大模子应用
大模子清静危害涉及面较广,,,,,因此需要通过系统化的清静建设来包管大模子的整体应用清静。。。
互联互通是网络清静能力跃迁的必经之路,,,,,李雪莹博士提出大模子应用清静的系统化防护还需要厂商、产品之间的互联互通。。。庄闲游戏大模子应用清静防护系统框架由一其中心、三大清静能力支持和X类标准化防护组成。。。其中一其中心是指大模子清静运营中心,,,,,认真统筹协同各清静能力,,,,,支持全网大模子清静运营事情;;三大清静能力是指面向大模子应用清静的危害监测能力、清静防护能力和响应处置惩罚能力;;X类标准化防护是指提供网络、系统、应用、数据、终端层面多种标准化手艺防护手段,,,,,通过互联互通协议,,,,,买通来自多家的防护产品,,,,,相互联动智能化支持上层清静能力的有用落地,,,,,包管大模子应用清静。。。

作为天下网络清静标准委员会委员,,,,,李雪莹博士一直起劲加入网安标委相关的事情。。。在演讲最后,,,,,她连系政策、标准妄想以及工业层面的视察,,,,,建议加速立项研究大模子清静防护网关相关国家标准,,,,,更好地支持大模子应用清静快速生长。。。

“人工智能+”赋能各行各业蓬勃生长,,,,,成为推动经济高质量增添的主要实力。。。手艺生长得越快,,,,,清静包管的需求就越迫切。。。未来,,,,,庄闲游戏将以“人工智能+”为锚点,,,,,一连打造AI+清静融合生长新范式,,,,,一直推动AI手艺在各行各业更普遍、更深远地应用,,,,,筑牢数字经济高质量生长清静底座。。。
相关阅读
1、庄闲游戏李雪莹博士:互联互通是网络清静能力跃迁的必经之路!

京公网安备 11010802026257号