国内智能体安全生态迎新进展IIFAA可信互连工作组正式成立
近日，国内首个聚焦于智能体安全生态的协作组织——“IIFAA智能体可信互连工作组”正式成立。该工作组汇聚了中国信通院、荣耀、OPPO、小米、华为、智谱AI、字节跳动、阿里巴巴、蚂蚁集团、京东、中国移动以及高通等二十余家科技领域的领军企业。
随着AI技术的迅猛发展，AI智能体已成为大模型产业中的热门赛道。苹果、荣耀、vivo等手机终端厂商，以及智谱AI推出的AutoGLM、蚂蚁集团的AI生活管家“支小宝”等产品纷纷涌现，使用户能够通过自然语言与设备或应用进行交互，便捷地完成订票、点餐、打车等日常操作。
然而，多智能体系统在协作过程中也面临着诸多挑战。IIFAA互联网可信认证联盟秘书长郑亮指出，智能体之间的服务互联旨在完成用户指令，这涉及意图数据的共享传递和复杂任务的拆解，若缺乏规范约束，将容易引发混乱。因此，IIFAA智能体可信互连工作组将致力于制定跨智能体交互的相关标准，涵盖智能体可信认证、服务可信调用、数据可信流转以及用户隐私与权益保护等方面，为智能体行业的健康发展提供有力保障。
据信通院泰尔终端实验室信息安全部副主任傅山介绍，AIGC构建的全新应用生态已经深刻改变了交互方式、产品形态和产业生态。在交互方式上，从人被动适应App开发逻辑转变为机器主动适应人；在产品形态上，AI智能体凭借其强大的智能感知能力，催生了AI手机、AI可穿戴设备等新产品；在产业生态层面，则涌现出超级应用、原生AIGC应用以及终端+AIGC等新型形态。
针对这些风险，信通院构建了生成式AI产品和服务用户权益保护标准体系，并通过匿名化技术等手段提升个人信息数据的可用性。匿名化技术可以应用于端侧处理、大模型训练以及公开报告中，确保数据仅在端到端场景交互，并对统计报告中的公开数据进行匿名化处理后再公开发布。
智谱AI此前发布的GLM-PC是多智能体协作的典型案例。GLM-PC是一个电脑智能体，用户只需在文本框中输入任务内容并按下回车，它就能自行启动所需应用，并根据指令执行长链条跨应用操作，最后将执行结果返回给用户。在安全性方面，GLM-PC对即时通讯消息、文件发送、支付转账等敏感操作要求用户进行二次确认；同时，智能体的虚拟屏幕不影响用户正常使用物理屏幕，用户能够查看智能体的工作情况；智谱AI还在探索本地端侧模型的合作，对用户个人隐私数据进行预处理。
随着AI智能体能力的不断增强，业界正逐步将文本、图像、语音等多种模态数据相结合，使智能体能够更全面地感知和理解环境，从而做出更准确、更贴近人类认知方式的决策和响应。然而，用户的数据隐私与安全、智能体与不同系统和设备间的交互协同等挑战依然严峻。在此背景下，IIFAA智能体可信互连工作组的成立，无疑为有效避免由于缺乏统一标准而可能引发的智能体恶意攻击等风险提供了一条可行的解决路径。