2024年4月,,,在中国软件评测中心(工业和信息化部软件与集成电路增进中心)联合数据清静要害手艺与工业应用评价工业和信息化部重点实验室、中国盘算机行业协会数据清静专业委员会开展的大模子清静性测评“磐石·X”榜单妄想中,,,庄闲游戏天问大模子顺遂通过了五大维度测评,,,获得A级证书,,,成为首批通过大模子清静性测评“磐石·X”榜单妄想的单位之一。。。
本次“磐石·Y”大模子清静实践优异案例分享,,,从多角度、全方位、立体式泛起大模子清静防护计划,,,为更多行业用户在大模子产品选型提供主要参考,,,护航大模子的高质量生长。。。

庄闲游戏天问大模子
天问大模子使用高质量数据举行增量预训练、微协调人工对齐等操作,,,同时连系RAG、头脑链等手艺,,,大幅降低了幻觉、偏执等大模子内容清静问题。。。接纳要害字过滤、规则匹配、模子检测等多种手艺手段,,,防护大模子输入提醒词和输出响应内容,,,确保天问大模子在网络清静、数据清静、内容清静、模子清静和提醒清静等方面抵达先进水平。。。
庄闲游戏一连推动天问大模子在研发、应用、安排、运营、治理和效劳等方面的工程化历程,,,将AI手艺与行业实践深度融合。。。在检测防护方面,,,研发的TAI系列智慧引擎,,,普遍应用于庄闲游戏多款检测和防护产品中,,,通过智慧引擎整体提升检测效果,,,既能检测种种古板攻击行为,,,也能够检测未知威胁,,,提高整体的清静检测能力,,,大幅提高清静检测的效率和准确性。。。在大数据防护方面,,,可为运维工程师建设清静剖析模子提供有力指导,,,通过自然语言输入,,,如形貌清静事务或提出建设剖析检测需求,,,大模子能快速剖析并提取要害特征和模式,,,为运维职员提供有价值的参考和启示。。。在智能交互方面,,,提供智能问答能力,,,提升产品危害剖析能力和处置惩罚效率,,,降低产品应用门槛;;;并提供面向各行业客户推出的清静问答与能力订阅效劳。。。
清静解决计划
庄闲游戏天问大模子支持云端安排,,,并以云效劳方法提供外部使用,,,为了避免模子被滥用或恶意使用,,,庄闲游戏提出了前后端联合的清静防护计划,,,整体防护架构如下:

天问大模子防护计划由大模子系统前端接入防护和大模子系统后端清静加固两部分组成。。。前端接入防护主要实现大模子清静接入和数据泄露防护。。。后端清静加固实现对大模子系统焦点软硬件威胁检测与剖析、系统操作清静审计及容灾备份功效。。。庄闲游戏API清静网关可以提供流量管控、身份认证、会见控制、API检测等功效,,,可以有用拒绝不法会见用户和流量。。。庄闲游戏数据防走漏可以提供prompt注入检测、敏感词过滤、隐私信息过滤、基于语义的内容检测等功效,,,实现大模子输入输出内容的敏感数据识别、阻挡。。。除上述清静防护步伐外,,,天问大模子系统还引入人工审查机制,,,包管大模子输入输出的内容清静性,,,降低不良信息输入和输出概率。。。
效果与效益
庄闲游戏天问大模子的恶意域名监测智慧引擎在某运营商试点项目中运用,,,监测到IPv6下DGA恶意域名5672个,,,涉及DGA家族凌驾12种,,,监测捕获到IPv6情形下僵尸网络32个,,,预计每年能带来2144万元的经济效益。。。对IPv6 DNS日志举行基于人工智能神经网络手艺的检测剖析,,,填补了维护IPv6 DNS效劳清静的空缺,,,有用地阻止了IPv6情形下网络清静危害的伸张,,,有力地提防了新互联网情形下的未知危害。。。
实践履历总结
庄闲游戏将清静性视为天问大模子的焦点需求。。。天问大模子系统在对外提供效劳时,,,全生命周期中都可能保存清静危害,,,包括:输入输出危害、外部工具危害、软件平台危害、硬件平台危害、AI模子文件危害、训练语料危害、系统治理和运营危害等。。。
为此,,,庄闲游戏将在现有清静防护基础上,,,围绕天问大模子系统,,,打造大模子全生命周期清静防护系统,,,一直优化和刷新现有大模子清静防护手艺手段,,,推动大模子清静治理相关事情,,,构建完整的清静治理系统,,,包管天问大模子系统的清静性、可靠性和大模子效劳运营合规化。。。
(泉源 :中国数据清静工业网)

京公网安备 11010802026257号