构筑AI安全防线，谷歌、微软、英伟达等14家公司组建安全AI联盟

转载：https://ai.zol.com.cn/885/8852259.html

2024-07-19 10:03:49·[??中关村在线 原创??]·作者：海是天的倒影

7月19日，在阿斯彭安全论坛（Aspen Security Forum）会议上，来自AI领域的14家大公司（包括谷歌、微软、英伟达等）联合组建了安全人工智能联盟（Coalition for Secure AI，CoSAI）。该联盟由OASIS全球标准机构主办，旨在为所有AI从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。

CoSAI将建立一个合作生态系统，共享开源方法、标准化框架和工具等等。创始赞助商包括谷歌、IBM、英特尔、微软、英伟达和PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

在最初阶段，CoSAI将致力于实现三个目标：开发人工智能安全的最佳实践；应对人工智能领域的挑战；确保人工智能应用的安全。它的工作范围涵盖了安全地构建、集成、部署和运行人工智能系统，并重点关注降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI是一个开源社区，由项目理事会和技术指导委员会领导。项目理事会负责推进和管理其总体技术议程，而技术指导委员会则由学术界和产业界的人工智能专家组成，监督其工作流。

谷歌安全副总裁希瑟·阿德金斯（Heather Adkins）在声明中表示：“多年以来，AI的发展带来了持续的潜力，同时也意识到它为对手带来的机会。因此，CoSAI将帮助大大小小的组织安全地整合人工智能，并利用其优势而不增加风险。”