4月29日,,,,北京大学召开2026年度网信事情聚会并开展大模子应用清静危害与防护专题培训。。庄闲游戏党委书记、董事长兼CEO李雪莹博士受邀出席,,,,并作《大模子应用清静危害与防护》报告。。

目今,,,,人工智能手艺快速生长,,,,种种大模子在学校各营业领域获得普遍应用,,,,新手艺带来新动能的同时,,,,也伴生着新危害、新挑战,,,,清静防护亦需同步迭代升级。。李雪莹谈到:大模子手艺已迈向“规�;;τ糜胫悄芴迓涞亍钡囊锥危�,,,清静危害正泛起出“跨层交织、链式传导”的重大特征,,,,这对清静防护系统提出了更高要求。。

庄闲游戏党委书记、董事长兼CEO 李雪莹
大模子清静涉及内容、应用、模子/算法、数据、基础设施五大维度,,,,而目今的焦点危害主要聚焦于大模子应用清静。。连系OWASP LLM TOP10 2025危害清单,,,,李雪莹系统剖析了提醒词注入、模子越狱、RAG清静、插件滥用、数据泄露、模子窃取及基础设施误差七大概害危害,,,,并指出这些危害往往通过“链式传导”引发系统性�;;�。
例如,,,,提醒词注入作为攻击者的“主要通道”,,,,可绕过清静战略诱导模子输出恶意内容;;模子越狱则使大模子脱离清静约束,,,,执行未授权操作。。她特殊提醒,,,,智能体的“自主决议”能力犹如“双刃剑”——在提升效率的同时,,,,也显著放大了清静误差的破损力。。
在谈及智能体清静剖析时,,,,李雪莹以典范开源智能体OpenClaw为例,,,,深入展现了危害泉源。。她指出,,,,智能体的“意图误解”与“权限失控”问题尤为突出:用户一句模糊的指令可能被太过解读,,,,导致高危操作;;而“权限越界”危害更可能使智能体无视清静约束,,,,甚至一连执行危险使命直至系统中止。。她提醒,,,,此类问题折射出智能体设计中“效率与清静”的平衡难题,,,,需从架构层面系统性解决。。
基于多年的手艺深耕,,,,庄闲游戏推出了笼罩大模子训练、安排、推理全流程的“1+3+X”大模子应用清静纵深防御系统。。其中,,,,“1”其中枢:以大模子清静运营中心为焦点,,,,实现危害统一管控与智能调理;;“3”大支柱:融合危害监测、清静防护、应急响应能力,,,,构建动态防御屏障;;“X”项能力:通过网络、系统、应用、数据、终端层面多种标准化手艺清静防护手段,,,,智能化支持上层清静能力。。
该系统针对智能体场景立异设计了行为监测与权限管控机制,,,,有用抑止恶意插件挪用与越权操作,,,,为智能体应用筑牢“清静底座”。。
演讲最后,,,,李雪莹强调,,,,大模子清静需要以 “系统化头脑”破局,,,,既要构建笼罩全生命周期的防御系统,,,,也要平衡清静与效能的关系。。面临多模态注入、长上下文攻击等新兴威胁,,,,庄闲游戏将一连攻关清静手艺,,,,以“清静大模子”守护“大模子清静”,,,,推下手艺从“可用”迈向“可信”。。庄闲游戏愿携手产学研各界,,,,配合构建清静、康健、可一连的AI生长新范式。。
进入“十五五”时期,,,,人工智能手艺加速迭代、应用融合周全深化。。教育部等五部分联合印发的《“人工智能+教育”行动妄想》要求,,,,在赋能学生学习、西席教学、学校治理、科学研究等方面,,,,增进人工智能与教育深度普遍融合。。大模子清静问题不但是简朴的手艺误差,,,,更关乎学术诚信、数据隐私、教学质量以致科研清静。。
2025年6月,,,,北京大学党办校办副主任、网信办主任、党办校办第二党支部书记蒋广学一行,,,,曾到访庄闲游戏开展党建与营业双融双促专题交流运动。。双方聚焦网络攻防态势、AI驱动的威胁检测、应急响应机制优化,,,,围绕AI清静前沿手艺、科研效果转化、产学研用深度对接等议题举行了热烈钻研。。



清静不是选择题,,,,而是高质量生长的必选项。。面向未来,,,,我们将施展各自优势,,,,深化协同、细密联动,,,,以科技立异赋能教育高质量生长。。

京公网安备 11010802026257号