國家網際網路資訊辦公室
中華人民共和國國家發展和改革委員會
中華人民共和國教育部
中華人民共和國科學技術部
中華人民共和國工業和資訊化部
中華人民共和國公安部
國家廣播電視總局
令
第15號。《生成式人工智慧服務管理暫行辦法》已經2023年5月23日國家網際網路資訊辦公室2023年第12次室務會會議審議通過，並經國家發展和改革委員會、教育部、科學技術部、工業和資訊化部、公安部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。
國家網際網路資訊辦公室主任 莊榮文。
國家發展和改革委員會主任 鄭柵潔。
教育部部長 懷進鵬。
科學技術部部長 王志剛。
工業和資訊化部部長 金壯龍。
公安部部長 王小洪。
國家廣播電視總局局長 曹淑敏。
2023年7月10日。
生成式人工智慧服務管理暫行辦法
第一章 總 則
第一條為了促進生成式人工智慧健康發展和規範應用，維護***和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網路安全法》、《中華人民共和國資料安全法》、《中華人民共和國個人資訊保**》中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。
第二條利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文字、**音訊、**等內容的服務（以下稱生成式人工智慧服務），適用本辦法。
國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。
行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用本辦法的規定。
第三條國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管。
第四條提供和使用生成式人工智慧服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：
一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害***和利益、損害國家形象，煽動**國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、**色情，以及虛假有害資訊等法律、行政法規禁止的內容；
二）在演算法設計、訓練資料選擇、模型生成和優化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
三）尊重智財權、商業道德，保守商業秘密，不得利用演算法、資料、平台等優勢，實施壟斷和不正當競爭行為；
四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人資訊權益；
五）基於服務型別特點，採取有效措施，提公升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。
第二章 技術發展與治理
第五條鼓勵生成式人工智慧技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。
支援行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、資料資源建設、轉化應用、風險防範等方面開展協作。
第六條鼓勵生成式人工智慧演算法、框架、晶元及配套軟體平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。
推動生成式人工智慧基礎設施和公共訓練資料資源平台建設。促進算力資源協同共享，提公升算力資源利用效能。推動公共資料分類分級有序開放，擴充套件高質量的公共訓練資料資源。鼓勵採用安全可信的晶元、軟體、工具、算力和資料資源。
第七條生成式人工智慧服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練資料處理活動，遵守以下規定：
一）使用具有合法**的資料和基礎模型；
二）涉及智財權的，不得侵害他人依法享有的智財權；
三）涉及個人資訊的，應當取得個人同意或者符合法律、行政法規規定的其他情形；
四）採取有效措施提高訓練資料質量，增強訓練資料的真實性、準確性、客觀性、多樣性；
五）《中華人民共和國網路安全法》、《中華人民共和國資料安全法》、《中華人民共和國個人資訊保**》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。
第八條在生成式人工智慧技術研發過程中進行資料標註的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標註規則；開展資料標註質量評估，抽樣核驗標註內容的準確性；對標註人員進行必要培訓，提公升尊法守法意識，監督指導標註人員規範開展標註工作。
第三章 服務規範
第九條提供者應當依法承擔網路資訊內容生產者責任，履行網路資訊保安義務。涉及個人資訊的，依法承擔個人資訊處理者責任，履行個人資訊保護義務。
提供者應當與註冊其服務的生成式人工智慧服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。
第十條提供者應當明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智慧技術，採取有效措施防範未成年人使用者過度依賴或者沉迷生成式人工智慧服務。
第十一條提供者對使用者的輸入資訊和使用記錄應當依法履行保護義務，不得收集非必要個人資訊，不得非法留存能夠識別使用者身份的輸入資訊和使用記錄，不得非法向他人提供使用者的輸入資訊和使用記錄。
提供者應當依法及時受理和處理個人關於查閱、複製、更正、補充、刪除其個人資訊等的請求。
第十二條提供者應當按照《網際網路資訊服務深度合成管理規定》對**、等生成內容進行標識。
第十三條提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障使用者正常使用。
第十四條提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施，採取模型優化訓練等措施進行整改，並向有關主管部門報告。
提供者發現使用者利用生成式人工智慧服務從事違法活動的，應當依法依約採取警示、限制功能、暫停或者終止向其提供服務等處置措施，儲存有關記錄，並向有關主管部門報告。
第十五條提供者應當建立健全投訴、舉報機制，設定便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。
第四章 監督檢查和法律責任
第十六條網信、發展改革、教育、科技、工業和資訊化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智慧服務的管理。
國家有關主管部門針對生成式人工智慧技術特點及其在有關行業和領域的服務應用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。
第十七條提供具有**屬性或者社會動員能力的生成式人工智慧服務的，應當按照國家有關規定開展安全評估，並按照《網際網路資訊服務演算法推薦管理規定》履行演算法備案和變更、登出備案手續。
第十八條使用者發現生成式人工智慧服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。
第十九條有關主管部門依據職責對生成式人工智慧服務開展監督檢查，提供者應當依法予以配合，按要求對訓練資料**、規模、型別、標註規則、演算法機制機理等予以說明，並提供必要的技術、資料等支援和協助。
參與生成式人工智慧服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人資訊應當依法予以保密，不得洩露或者非法向他人提供。
第二十條對**於中華人民共和國境外向境內提供生成式人工智慧服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構採取技術措施和其他必要措施予以處置。
第二十一條提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網路安全法》、《中華人民共和國資料安全法》、《中華人民共和國個人資訊保**》中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。
構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第五章 附 則
第二十二條本辦法下列用語的含義是：
一）生成式人工智慧技術，是指具有文字、**音訊、**等內容生成能力的模型及相關技術。
二）生成式人工智慧服務提供者，是指利用生成式人工智慧技術提供生成式人工智慧服務（包括通過提供可程式設計介面等方式提供生成式人工智慧服務）的組織、個人。
三）生成式人工智慧服務使用者，是指使用生成式人工智慧服務生成內容的組織、個人。
第二十三條法律、行政法規規定提供生成式人工智慧服務應當取得相關行政許可的，提供者應當依法取得許可。
外商投資生成式人工智慧服務，應當符合外商投資相關法律、行政法規的規定。
第二十四條本辦法自2023年8月15日起施行。
《生成式人工智慧服務管理暫行辦法》答記者問
問 請簡要介紹 辦法 出台的背景？答 制定 辦法 主要基於以下幾個方面的考慮 一是深入貫徹落實 總書記重要指示精神和 決策部署的重要舉措。總書記在主持召開中共 政治局會議時指出 要重視通用人工智慧發展，營造創新生態，重視防範風險。二是促進生成式人工智慧健康發展的迫切需求。隨著生成式人工智慧技術的快速...
Meta 副總裁 生成式人工智慧目前還很傻，無需擔心風險
it之家 7 月 19 日訊息，meta 公司副總裁兼全球事務主席 前英國副首相尼克 克萊格 nick clegg 近日在接受 bbc 採訪時，對生成式人工智慧 generative ai 的風險進行了淡化，稱其目前還很傻 quite stupid 他認為，目前的炒作 有些超前於技術 it之家注意到...
百度的AI之路 從搜尋引擎到生成式人工智慧
無疑是中國最大的搜尋引擎，也是一家致力於人工智慧 ai 發展的科技巨頭。近日，公布了第二季度的財報，顯示其收入超過了預期，主要得益於廣告業務的復甦和ai產品的創新。聯合創始人兼首席執行官李彥巨集表示，正在經歷 典範轉移 並強調了其在生成式人工智慧方面的優勢和前景。什麼是生成式人工智慧？生成式人工智慧...