致力于AI安全，谷歌、微软等14家科技公司成立“安全人工智能联盟”

转载：https://ai.zol.com.cn/885/8852160.html

2024-07-19 09:38:18·[??中关村在线原创??]·作者：肖医

在7月18日举办的阿斯彭安全论坛（Aspen Security Forum）中，谷歌等14家AI领域企业宣布成立安全人工智能联盟（CoSAI）。

创始成员还包括微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ、GenLab。

资料显示，CoSAI由OASIS全球标准机构主办，是一项开源计划，旨在为所有AI从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。

图源：网络

CoSAI 将建立一个合作生态系统，共享开源方法、标准化框架和工具等等。CoSAI 首先将致力于实现三个目标：开发人工智能安全的最佳实践、应对人工智能领域的挑战、确保人工智能应用的安全。

CoSAI的工作范围包括安全地构建、集成、部署和运行人工智能系统，重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI是一个开源社区，由项目理事会和技术指导委员会领导，前者负责推进和管理其总体技术议程，后者由学术界和产业界的人工智能专家组成，负责监督其工作流。