谷歌联手微软等公司成立 AI 共享安全联盟

转载：https://ai.zol.com.cn/885/8852474.html

2024-07-19 10:42:53·[??中关村在线原创??]·作者：林有三

7月19日消息，据相关报道，全球科技领先企业谷歌与微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ及GenLab等共同组成的安全人工智能联盟（CoSAI）在阿斯彭安全论坛上正式宣布成立。这一开放源代码计划得到OASIS全球标准机构的支持，旨在构建一个面向全体AI从业者及开发者的资源共享平台。

该联盟的三大核心目标是深入挖掘并推广人工智能安全的最佳实践，积极应对新挑战并确保技术发展稳定前行，并全面保障人工智能应用的安全性以造福用户和社会。其工作范围涵盖了从构建安全的人工智能系统到部署和运行的全过程。

更重要的是，联盟将重点聚焦于降低一系列潜在风险，包括但不限于模型盗窃、数据中毒、提示注入、规模滥用以及推理攻击等威胁。这些威胁不仅会危害AI系统的稳定与安全性，还可能对社会经济造成巨大损失。

这项合作对于推动行业知识和技术共享具有重要意义，有助于构建更安全可靠的AI生态系统。随着联盟成员越来越多，我们可以期待更多创新和突破性的解决方案出现，从而进一步提升人工智能的安全水平。