护航端侧大模型平稳健康发展,百度大模型内容安全Lite版正式发布

news/2024/7/21 11:50:31 标签: 百度, 安全

6月28日,WAVE SUMMIT深度学习开发者大会 2024 “智变应用、码动产业”平行论坛在北京召开。与会,百度大模型内容安全Lite版正式发布,可面向低算力和超低算力的终端大模型提供离线场景下的一站式安全解决方案,为各类终端大模型平稳健康发展保驾护航。
当下,“人工智能+”已成为催生新质生产力的重要引擎,大模型在加速产业升级和经济增长的同时,也为网络安全带来了全新的机遇与挑战。2023年,基于文心大模型安全实践经验,百度安全推出了以AI安全为核心的大模型安全解决方案,旨在为大模型提供全生命周期的安全保障。面对大模型训练/精调/推理、大模型部署、大模型业务运营等关键阶段所面临的安全风险与业务挑战,方案提供了包含数据安全与隐私保护、模型保护、AIGC内容合规、业务运营风控的安全产品与服务,同时结合以攻促防守的思路建立AIGC 内容安全蓝军评测能力,对大模型实现例行化的安全评估,迄今已在金融、科技、电商、教育、零售等多个领域落地,助力客户和生态合作伙伴实现了大模型的安全升级。
进入2024年,伴随多模态大模型能力的不断升级和端侧算力的日趋增强,越来越多的大模型能力开始向终端设备转移,手机、个人电脑、可穿戴设备、网联汽车、机器人等智能终端迎来新一轮技术革新和应用创新,海内外诸多知名厂商纷纷入局。据摩根士丹利最新研报中指出,2024年AI PC渗透率将达2%,到2028年有望升至65%。相较于云端大模型的功能强大和泛化能力,端侧大模型因部署在本地,具有较小算力成本、低延时响应、保障用户数据隐私安全等显著特点,同时也因受限于运行环境、内存、存储空间等因素面临挑战。
从大模型内容安全防护角度,无论是云端大模型还是端侧大模型,均需保障自身生成式内容的合规、安全、可控、可靠,降低常态化运营风险,进而为用户提供稳定可信赖的服务。 在此背景下,为满足端侧大模型的安全需求,作为一款专为低算力和超低算力终端大模型定制的安全解决方案,百度大模型内容安全Lite版应运而生。
百度安全副总经理冯景辉表示,大模型终端的安全必须通过以端内安全围栏为主,以云端安全检查为辅的方式进行,否则用户隐私和数据的安全无法保障,终端企业大模型成本也会居高不下难以推广。

在这里插入图片描述百度安全副总经理 冯景辉

在会上,百度安全副总经理冯景辉正式发布百度大模型内容安全Lite版。据他介绍,目前,百度大模型内容安全Lite版可面向包括AI PC、手机终端、平板Pad、边缘计算的各类终端场景,提供离线场景下的内容安全审核与内容干预服务。平台一大特点是“深度智能”,即在超低算力需求的同时,仍然保持对标云端大模型安全内容检测效果的“技术高配置”,在全面守护端侧内容安全的同时,进一步释放终端潜能。
具体而言,百度大模型内容安全Lite具备五大特点:

超低算力需求,释放终端潜能:百度大模型内容安全Lite可在纯CPU环境下的高效运行,仅需最低180 Mhz主频CPU及不超过1024MB内存的支持,这一特性可为终端大模型释放出更加宝贵的GPU算力资源。
全离线运行,守护隐私安全百度大模型内容安全Lite采用全离线运行模式,在生成内容安全检查时无需联网,实现了超低响应时间。同时,这一特性可大幅降低传统云端上报隐私泄露的风险,令用户的个人隐私数据得到进一步的保障。
多平台兼容,覆盖广泛场景:目前,大模型内容安全Lite版本已全面支持X86、ARM架构,并原生兼容Linux、Android平台,更实现了国产化适配,确保在各种操作系统和硬件环境下都能稳定运行。
纯语义理解,规避泄露风险:在大模型输入输出内容检查方面,大模型内容安全Lite版采用了纯语义理解的方案,终端无需加载任何敏感词库,从根本上降低了因终端产品破解或敏感词泄漏而引发的安全风险。
可回复干预,灵活应对风险:为了进一步提升风险应对能力,大模型内容安全Lite版构建了超灵活的回复干预手段及干预平台,结合OTA通道可实现轻量级快捷的风险干预处置,在面对复杂多变的网络安全风险和黑产高级攻击时,进一步降低常态化运营风险。

在这里插入图片描述
百度大模型内容安全Lite版

在此次发布的百度大模型内容安全Lite版之外,百度安全也在持续为大模型产业各界生态合作伙伴提供完善灵活的安全能力支持。与会,百度大模型内容安全Turbo版迎来全新升级。该方案面向云端全功能大模型构建了一套功能完备、服务全面、开箱即用的大模型内容安全产品矩阵,助力客户和生态合作伙伴全方位应对包括大模型生成内容合规、大模型上线备案、大模型内生安全和常态化运营的风险与挑战。
作为人工智能领军企业,百度高度重视大模型安全风险防范的能力建设和生态建设。面对当下“大模型+安全”所面临的新形势、新机遇、新挑战,百度将不断拓展人工智能技术在网络安全领域的技术革新与应用,与各界保持合作,共筑大模型安全防线,并以实践经验推动相关标准的建设,助力构建完善的人工智能安全保障体系,探索更安全的大模型落地千行百业的无限可能。更多大模型安全相关的内容可以通过百度搜索“百度大模型安全”进入官网了解详情。


http://www.niftyadmin.cn/n/5545169.html

相关文章

从RL的专业角度解惑 instruct GPT的目标函数

作为早期chatGPT背后的核心技术,instruct GPT一直被业界奉为里程碑式的著作。但是这篇论文关于RL的部分确写的非常模糊,几乎一笔带过。当我们去仔细审查它的目标函数的时候,心中不免有诸多困惑。特别是作者提到用PPO来做强化学习,…

uniapp版即时通讯软件 IM社交交友聊天系统 语音视频通话双端APP 聊天交友APP源码 (含搭建教程)

修复音视频(官方团队插件,无二次费用),文件发送,公告,签到,发现页,朋友圈删除,轮询客服,马甲等 可内嵌第三方网页连接,后台添加,带完…

初识Java(二)

乐观学习,乐观生活,才能不断前进啊!!! 我的主页:optimistic_chen 我的专栏:c语言 创作不易,大佬们点赞鼓励下吧~ 前言 Java语法有部分是和C语言中是相似的,所以两者可以…

01day C++初入学习

这里写目录标题 1.C区别于C的输入输出2.什么是命名空间3. namespace的定义namespace的使用(1)namespace嵌套使用(2)多⽂件中可以定义同名namespace(3) 4.命名空间的使用5.C输⼊&输出6.缺省参数7.函数重载8.引用8.1引用的特性8.3引用的使用 1.C区别于C的输入输出 #include&…

Nginx 高效加速策略:动静分离与缓存详解

在现代Web开发中,网站性能是衡量用户体验的关键指标之一。Nginx,以其出色的性能和灵活性,成为众多网站架构中不可或缺的一部分。本文将深度解析如何利用Nginx实现动静分离与缓存,从而大幅提升网站加载速度和响应效率。 理解动静分…

vue3 学习 之 vue3使用

为什么要学习vue3呢? vue2.0也是现在比较稳定的一个版本,社区还有周边都比较完善,如果不是非必要其实我们不需要着急直接升级到vue3.0; 那为什么还要学习,主要是还是为了了解一下vue3.0相较于2.0的优势和特性,方便之后…

android webview 远程调试

打开远程调试选项 MainActivity super.onCreate(savedInstanceState);// enable Cordova apps to be started in the backgroundBundle extras getIntent().getExtras();if (extras ! null && extras.getBoolean("cdvStartInBackground", false)) {moveT…

基于全志Orangepi Zero 2 的语音刷抖音项目

目录 一、硬件连接 二、项目实现功能 三、SU-03T语音模块的配置和烧录 3.1 创建产品: 3.2 设置PIN引脚为串口模式: 3.3 设置唤醒词: 3.4 设置指令语句: 3.5 设置控制详情: 3.6 发音人配置: 3.7 其…