CoSAI 由 OASIS 环球标准机构主理,是一项开源操持,旨在为所有 AI 从业职员和开拓职员供应创建设计安全人工智能系统所需的辅导和工具。
CoSAI 将建立一个互助生态系统,共享开源方法、标准化框架和工具等等。

建筑AI安然谷歌、微软、英伟达等14家公司组建安然AI联盟_人工智能_开源 智能写作

CoSAI 的创始资助商包括谷歌、IBM、英特尔、微软、英伟达和 PayPal。
其他创始资助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

CoSAI 首先将致力于实现三个目标:

开拓人工智能安全的最佳实践

应对人工智能领域的寻衅

确保人工智能运用的安全

CoSAI 的事情范围包括安全地构建、集成、支配和运行人工智能系统,重点是降落模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI 是一个开源社区,由项目理事会和技能辅导委员会领导,前者卖力推进和管理其总体技能议程,后者由学术界和家当界的人工智能专家组成,卖力监督其事情流。

IT之家附上谷歌安全副总裁希瑟・阿德金斯(Heather Adkins)在声明中的部分内容如下:

AI 发展多年,为防御者带来的持续潜力,同时也认识到它为对手带来的机遇。

CoSAI 将帮助大大小小的组织安全、负任务地整合人工智能,帮助他们利用人工智能的上风,同时降落风险。