美 英等国发布AI系统开发指引

2023-11-30 07:50:48 字數 764 閱讀 5667

美国网络安全暨基础架构安全管理局(cisa)及英国国家网络安全中心(ncsc)发布《安全ai系统开发指引》(guidelines for secure ai system development),号称首份全球ai安全标准,从设计阶段强化系统安全性,以防范可能的安全风险。

这份指引是由包括美、英、德、法、日、韩、新加坡在内18国,以及微软、google、openai、anthropic、scale ai共23个网络安全组织参与制订。该指引提供ai系统开发的必要建议,并彰显开发ai系统,应遵循安全设计(secure by design)的原则。cisa指出,这份指引强调把客户安全、极度透明及权责、以及创建安全设计的组织架构列为优先要项。

这份指引适用于所有类型的ai系统,而不只是尖端模型,也涵盖其他像是使用外部托管模型或api开发的系统。指引包含4个主要部分:安全设计、安全开发、安全部署及安全运维(operation and maintenance)。每部分都提出安全风险可能,以及避免方法,以协助数据科学家、开发人员、经理、决策者及负责人员进行决策,从开发过程中降低网络安全风险。

最新指引是美国拜登**倡议强化ai系统安全及可控制性,以保障美国安全与利益的一环。白宫7月间取得7大ai公司自主管理ai风险的承诺,10月拜登签署首份ai行政命令,责成国土安全部制定ai安全标准,并推动全球组织采用。cisa也在同月发布10大安全错误配置,以协助企业组织及软件企业强化安全措施、降低攻击风险。

英伟达发布 AI 系统 Eureka,可应用于机器人编程,IT有救了

eureka系统,作为一款以gpt 为支持的ai系统,正式发布,引发了广泛关注。这一系统的亮点在于,它能够使机器人实现多达三十多种复杂的动作。在一次内部评估中,nvidia使用eureka系统成功地教导了个虚拟机器人执行种不同的动作。通常情况下,工程师在构建实际机器人之前,会创建虚拟机器人的模拟版本...

AI矩阵管理系统开发

ai矩阵管理系统是一种基于人工智能技术的管理系统,旨在帮助企业或组织高效地管理和协调各项工作和任务。开发ai矩阵管理系统需要进行以下步骤 .需求分析 与客户充分沟通,了解他们的具体需求和期望,包括管理的范围 功能要求 数据处理等方面。.架构设计 根据需求分析的结果,设计系统的整体架构和模块划分。考虑...

中国发布2023世界开放指数,引领全球开放合作新篇章

中国在近日发布了一份重要的报告,名为 世界开放指数 这份报告旨在评估全球各国的开放程度,为国际社会提供有价值的参考。报告显示,中国的开放程度在全球范围内领先,成为全球最大的开放经济体之一。本文将详细介绍这份报告的内容和意义,以及中国在全球经济中的重要地位和影响。正文 一 中国发布 世界开放指数 报告...