美国和英国网络安全机构 cisa 和 ncsc 为利用人工智能的系统开发人员发布了以安全为重点的指南。
该文件名为《安全人工智能系统开发指南》，促进实施安全设计原则以及透明度和问责制，并优先考虑客户对安全结果的所有权。
两家机构指出，这些指南适用于所有类型的人工智能/机器学习系统，无论是从头开始构建还是在第三方资源之上构建，以解决与人工智能、网络安全和关键基础设施相关的问题。
该文件与20多个国内外网络安全组织合作制定，分为四个部分，涵盖人工智能系统开发生命周期的不同阶段，即设计、开发、部署和运维
cisa 和 ncsc 表示，这些建议旨在与网络安全、事件响应和风险管理最佳实践结合应用，要求对功能、机制和工具进行投资，以在整个系统生命周期的各个层面保护客户数据。
两家机构指出：“提供商应尽可能在其模型、管道和/或系统中实施安全控制和缓解措施，并且在使用设置的情况下，默认实施最安全的选项。”
cisa 和 ncsc 还表示，提供商有责任告知用户无法缓解的风险，并建议他们如何安全地使用系统，并且应将所有网络安全风险视为至关重要。
建议提供商评估其系统面临的威胁，在设计阶段关注安全性、功能和性能，以确保其**链、资产、基础设施的安全并持续保护其模型，实施事件响应，监控系统的行为和输入，并实施安全设计的更新方法。
两家机构表示，这些指南主要针对人工智能系统的提供商，这些系统要么由组织托管，要么通过外部 api 访问。然而，鼓励所有利益相关者，“包括数据科学家、开发人员、管理者、决策者和风险负责人”阅读该文件，“就其人工智能系统的设计、开发、部署和运营做出明智的决策”。两个机构注意到。
AI网络安全 网安领军者发布安全大模型
今天分享的是ai网络安全研究报告 绿盟科技 网安领军者发布安全大模型，新安全业务打开成长天花板 报告出品方 东北 研究报告内容摘要如下ai 安全 乘风起，公司发布风云卫大模型 公司发布 风云卫 安全大模型，核心聚焦实战态势指挥调度 红蓝对抗辅助决策 以及安全运营效能提升。今年 月 日，绿盟风云卫大模...
发布 2023年“全国智慧广电网络新服务”40个推选案例公布
导 读 月日，广电总局发布了 关于公布年 全国智慧广电网络新服务 推选结果的通知 以下简称 通知 根据 通知 今年月以来，广电总局开展了年 全国智慧广电网络新服务 征集推选工作，经过推选和公示，确定最终入选的视听消费新体验 智慧家庭新场景 数字文化新应用和政务商务新服务个类别案例各个，合计个案例。以...
2023年人工智能安全发展十大预测
本周三，包括英国 美国和中国在内的近个国家 以及欧盟 在人工智能安全峰会上达成首个全球性人工智能安全协议，并发布了 人工智能安全宣言 这标志着人工智能正式进入安全发展的强监管时代。峰会期间，人工智能意见领袖们就人工智能安全风险的严重性判断产生重大分歧，双方阵营展开激烈辩论。人工智能教父级人物geof...