​360周鸿祎：AI要产业化，也要解决安全问题

360周鸿祎：AI要产业化，也要解决安全问题

图片来源：视觉中国

2024 年全国两会之际，全国政协委员、360 集团创始人兼董事长周鸿祎将携三份提案上会，分别关注数字安全公共服务基础设施建设，大模型垂直化、产业化发展及通用大模型安全问题三大方向。

其中，周鸿祎围绕鼓励兼具 " 安全和 AI" 能力的企业提出相关建议，以此推动解决通用大模型安全问题，并提出应支持中国的大模型向垂直化、产业化方向发展。

周鸿祎称，全球新一轮产业技术变革加速来临，通用大模型作为人工智能发展的核心引擎，正引发一场全新的工业革命。

自 2022 年 11 月美国人工智能创业公司 OpenAI 发布 ChatGPT 以来，生成式 AI 理解人类世界、与人类对话甚至创造一个虚拟世界的能力惊艳了全世界，也已渗入人类的生产链条：ChatGPT 及尾随其后的一众大模型支持的聊天机器人能与人类对话，文生图模型如 Midjourney 等制作的图片已经进入游戏业、影视业、绘画界，OpenAI 于今年年初发布的文生视频模型 Sora 仅凭提示词就生成的长达一分钟多角度运镜视频，让网友怀疑 " 现实已经不存在了 "。

但伴随人工智能的影响日益扩大，安全问题也愈发凸显。 周鸿祎指出了解决通用大模型安全问题的必要性和紧迫性：一方面，AGI（通用人工智能）的进步速度超乎想象，OpenAI 系列模型工具发布后，AGI 加速实现，将引发更加复 杂的安全风险，主要包括技术安全、内容安全和人类安全三个方面。技术安全主要涉及大模型技术本身引发的安全问题， 如网络、数据和生成内容的安全；内容安全则是对大模型的 控制、滥用、误用和恶意应用等问题；而人类安全问题则是 大模型强大后带来的安全可控问题。 另一方面，美国国防部加速与 OpenAI 在 " 网络安全 " 等领域展开合作，OpenAI 为此删除了 " 禁止用于军事用途 " 条款，使得生成式 AI 军事化的趋势愈发显著。通用大模型的发展，已不是单纯的科技之争，更是国运之争，影响深远。中国应尽早未雨绸缪，高度重视大模型安全，以避免在未来 的国际竞争中受到限制。

对此，周鸿祎提出了相关建议：

第一，建议国家更加重视通用大模型安全问题，给予兼具 " 安全和 AI" 能力的企业专项扶持政策，更好发挥其解决通 用大模型安全问题的重要作用。通用大模型深刻影响经济社会的方方面面，安全问题至关重要，而目前国内的大模型安 全问题不容乐观。一方面，国内大模型企业不熟悉内容安全、 数据安全、科技伦理、网络安全等人工智能带来的安全挑战； 另一方面，大部分安全公司又很少真正有能力深入大模型研究，上述两方面原因导致国内大模型安全领域成为整个产业 链的薄弱环节。为此建议国家有关部门采用揭榜挂帅等方式， 鼓励并扶持兼具 " 安全和 AI" 能力的企业，给予专项扶持政策，支持企业担起大模型安全重担，聚焦攻坚，为解决通用 大模型安全问题提供坚实保障。

第二，建议国家研究制定保障通用大模型安全的标准体系， 推动通用大模型开展安全评测、接入安全服务，降低通用大 模型安全风险。现阶段，将安全模块作为大模型外挂的做法 已不可行，安全需要贯穿通用大模型的整个构建过程，确保 安全措施在系统的整个生命周期中得到充分考虑和实施。建 议国家在内容安全、数据安全、科技伦理、网络安全等细分 领域，牵头研究制定安全检测标准，在规范的安全标准体系 下，推动通用大模型的安全评测工作，通过接入安全服务来 保障大模型的安全。

第三，鼓励政府、央国企与兼具 " 安全和 AI" 能力的企业在大模型安全领域展开深入合作。政府、央国企对通用大模型的应用，具有更高的安全标准，不仅关涉商业安全，更关 涉国家安全。建议政府和央国企加强与兼具 " 安全和 AI" 能 力企业的合作，尤其针对被美制裁的企业，放宽与此类企业 的市场准入条件，在政策和招投标条件上，给予更多合作机 会，发挥此类企业在人工智能安全领域的优势作用，为国家安全贡献力量。

蓝鲸财经记者注意到，目前在国内的生成式人工智能治理方面，在《网络安全法》《个人信息保护法》等法律法规基础上，我国陆续出台《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》等监管文件。随着生成式 AI 的快速发展，我国迅速出台相关监管规定，如国家互联网信息办公室等部门出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等。2023 年 6 月，国务院办公厅发布的《2023 年度立法工作计划》已将人工智能法草案纳入其中，关于人工智能的整体立法工作也已启动。

另外，在中国的大模型产业的发展方向上，周鸿祎也在提案中表示，" 中美在人工智能领域的竞争，一方面是对抗 Open AI 的通用大模型基础战；另一方面是差异化、特色化的大模型应用战。当前，中国在通用大模型核心技术上赶超美国还需要时间，但在大模型应用方面，2024 年是大模型应用场景元年，中国完全可以走出一条具有中国特色的大模型发展之路。在许多垂直领域，其实不需要千亿规模的大模型，百亿大模型足够赋能百行千业，中国发展大模型的一个重要方向应该是借助产业和场景的优势，将大模型与业务流程、产品功能相结合，寻求多场景应用、垂直化和产业化的落地，助力加快形成新质生产力。"

对于大模型的垂直化方向发展，周鸿祎提出几条建议：1、场景很重要，大模型在垂直领域大有可为，建议政府、央国企率先提供更多应用场景，聚焦 " 小切口，大纵深 "，推动大模型垂直化、产业化落地；2、知识很重要，基于 " 暗知识 " 的垂直大模型能更好解决企业问题。建议鼓励企业在定制 AI 前，做好知识管理，将企业大数据平台升级为企业知识平台。大模型的数据、知识只是人类知识的冰山一角，企业还有大量的 " 暗知识 "，如战略规划、产品设计图等企业具有的独特知识，只存在于特定企业中，在互联上难以找到。建议鼓励企业构建知识平台，将 " 暗知识 " 汇总起来，打造企业专属知识库，做好管理，在此基础上，通过垂直训练，深入企业级场景，满足企业需求；3、业务融合很重要，建议鼓励和引导企业将大模型与数字化业务系统深度结合，同业务流程相结合，充分发挥大模型价值。

" 暗知识 " 指行业企业的私有数据。今年 1 月，在猎豹移动发布企业私有大模型猎户星空之后的对谈圆桌上，亚马逊云科技大中华区解决方案架构部总经理代闻表示，从企业私有化大模型来讲，安全是第一位。对于企业而言，如果因信息泄漏导致企业出现问题，企业宁愿选择不做。比如，因为企业很多的财务数据、法务数据都非常敏感，规则不好、工具不行就有问题。所以，企业在私有安全方面看得很重，这也是企业私有化大模型在产业落地的必要性所在。