2024年06月19日亭湖区哪里有站小巷的,齐向东：ai大模型不是万能钥匙，落地过程警惕安全风险-尊龙凯时手机版官网app

　　北京今日2024年06月19日电 (记者 夏宾)当前，各行各业网络化、数字化、智能化转型加速，以数据为关键要素的新产业，以人工智能为关键技术的新场景，面临的安全挑战更加复杂，各类攻击威胁与日俱增。

　　5日，以“ai驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会在北京国家会议中心举行，全国工商联副主席、奇安信集团董事长齐向东在会上发表主旨演讲称，ai驱动安全是大势所趋，未来网络攻防就是得ai者得天下。

　　“谁能提前抓住ai变革的机遇，谁就能掌握网络空间安全的主动权。”齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

　　面对人工智能时代新的网络安全态势，2024年政府工作报告提到，加强重点领域安全能力建设，其中就包括“提高网络、数据等安全保障能力”。

　　据奇安信发布的《2024人工智能安全报告》，ai既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于ai的深度伪造欺诈暴增3000%，基于ai的钓鱼邮件数量增长了1000%。

　　一项对it行业领导者进行的关于chatgpt等大模型的调查显示，安全性是受访者最关心的问题，71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。

　　由此，齐向东也提醒说，ai大模型不是万能钥匙。尤其是在当前“百模大战”的状态下，只有高质量发展的大模型，才能真正带来指数级能力跃升，激发网络安全行业的新质生产力。

　　他在接受等媒体采访时提到了ai落地过程中的安全风险问题。例如，一旦对ai“倾囊相授”、对ai发问时“掏心窝子”，其具备的解决问题能力会越来越强，涉及到相关知识产权、商业机密等方面的内容可能会被竞争对手通过ai窃取，造成数据泄露的风险。

　　另一方面，无论是训练还是使用，必须把ai接入到公司内部数据中，但大部分ai又是从外部“领养”，是否存在“后门”、是否会被人“投毒”，都无从可知，这也是数据安全带来的潜在风险，若长期使用被“投毒”后的ai给出的业务决策，可能就会把业务带偏。

　　但他也直言，我们不要被ai可能引发的数据泄露所吓倒，应该要拥抱ai，要把安全的问题交给安全公司，相信专业人办专业的事。网络安全公司要全面拥抱ai，利用ai实现安全能力的跃升。

　　在齐向东看来，做好“ai驱动安全”至少需要具备三大条件，一是高质量的训练数据，二是纵深防御的内生安全体系，三是设备、体系具有统一的输入输出标准。

　　具体而言，既要有足够多的基础安全数据用于训练安全大模型，也要有足够贴近实战的一手原始语料用于大模型推理。齐向东认为，基于这种全而新的高质量数据训练出来的大模型，精确性和实用性才能远超未优化的通用模型。

　　此外，需要体系化的网络安全建设，为ai发挥效率创造平台。齐向东称，网络安全防护有赖于体系化协同。当前，通过ai赋能内生安全体系，不仅可以实现网络安全系统和客户业务系统的完美融合，更能实现网络安全响应从滞后到实时的大跃升，全时段瞬时响应成为可能，也为ai实时发挥防护功能和学习最新技术提供了真实海量场景。

　　“训练好的安全大模型，能否取得好效果取决于设备和体系是否有统一的标准。”齐向东认为，标准的统一至少包括两个方面，一方面是数据输入标准的统一，让ai能通过标准系统读懂“多国语言”，完成体系化分析。另一方面是指令输出标准的统一，让ai实现跨设备、跨系统的能力协同和全局联动。(完)

热门文章

聚焦极至

• 2021年10月16日0时23分随着倒数读秒的结束夜幕中灯光璀璨的发射塔迎来了一阵火团的爆发与蒸腾（ 极至团队现场实拍）伴随着一阵气势宏伟的轰鸣火箭直冲太空中国拥有自主知识产权的神舟十三号载人飞船发射...

• 2021年7月28日，由广州市诚信旅行社评审活动组织委员会，依据《诚信旅行社服务规范与评定》，复核评选了122家广州地区诚信旅行机构，极至旅行再次被评为年度诚信旅行社。 从2006年开始，极至旅...

• 在10月底到11月，王企鹅的幼崽还没褪毛，一颗颗圆滚滚的“猕猴桃”映入眼帘.....在10-11月极至的大南极王企鹅探索之旅中，极至团友在南乔治亚岛，福克兰群岛，南设得兰群岛收获了奇妙的大自然风光和看...

一场属于梦想的旅行

极至的旅行

怀揣一份出走的梦想
它，在哪里？
南极、北极或是世界上其他小众地土地
倘若南极代表着最纯真的初心
北极就代表最浩瀚的胸怀
极至——16年的南北极
让您的“出走的梦想”无憾

关注极至，走遍全球

咨询热线：

詹小姐 18578748783
姜小姐 18514411088