《生成式人工智慧服務管理暫行辦法》答記者問

2023-07-20 20:51:28 字數 2697 閱讀 1130

問:請簡要介紹《辦法》出台的背景?

答:制定《辦法》主要基於以下幾個方面的考慮:一是深入貫徹落實***總書記重要指示精神和***決策部署的重要舉措。**總書記在主持召開中共**政治局會議時指出:「要重視通用人工智慧發展,營造創新生態,重視防範風險。」二是促進生成式人工智慧健康發展的迫切需求。隨著生成式人工智慧技術的快速發展,為經濟社會發展帶來新機遇的同時,也產生了傳播虛假資訊、侵害個人資訊權益、資料安全和偏見歧視等問題。《辦法》堅持目標導向和問題導向,明確了促進生成式人工智慧技術發展的具體措施,規定生成式人工智慧服務的基本規範。三是推進實施法律規定的內在要求。制定《辦法》,是落實《網路安全法》、《資料安全法》、《個人資訊保**》科學技術進步法》有關規定的重要要求,進一步規範資料處理等活動,維護***和社會公共利益,保護公民、法人和其他組織的合法權益。

問:《辦法》的適用範圍是什麼?

答:《辦法》規定,利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文字、**音訊、**等內容的服務,適用本辦法。國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的,從其規定。行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智慧技術,未向境內公眾提供生成式人工智慧服務的,不適用本辦法的規定。

問:《辦法》堅持的主要原則是什麼?

答:《辦法》提出國家堅持發展和安全並重、促進創新和依法治理相結合的原則,採取有效措施鼓勵生成式人工智慧創新發展,對生成式人工智慧服務實行包容審慎和分類分級監管。

問:《辦法》中所稱生成式人工智慧技術和生成式人工智慧服務提供者是指什麼?

答:《辦法》中所稱生成式人工智慧技術,是指具有文字、**音訊、**等內容生成能力的模型及相關技術;生成式人工智慧服務提供者,是指利用生成式人工智慧技術提供生成式人工智慧服務(包括通過提供可程式設計介面等方式提供生成式人工智慧服務)的組織、個人。

問:《辦法》對促進生成式人工智慧健康發展有哪些考慮?

答:《辦法》在治理物件上,針對生成式人工智慧服務。在監管方式上,提出對生成式人工智慧服務實行包容審慎和分類分級監管,要求國家有關主管部門針對生成式人工智慧技術特點及其在有關行業和領域的服務應用,完善與創新發展相適應的科學監管方式,制定相應的分類分級監管規則或者指引。在促進發展具體措施上,一是明確鼓勵生成式人工智慧技術在各行業、各領域的創新應用,生成積極健康、向上向善的優質內容,探索優化應用場景,構建應用生態體系。二是支援行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、資料資源建設、轉化應用、風險防範等方面開展協作。三是鼓勵生成式人工智慧演算法、框架、晶元及配套軟體平台等基礎技術的自主創新,平等互利開展國際交流與合作,參與生成式人工智慧相關國際規則制定。四是提出推動生成式人工智慧基礎設施和公共訓練資料資源平台建設。促進算力資源協同共享,提公升算力資源利用效能。推動公共資料分類分級有序開放,擴充套件高質量的公共訓練資料資源。鼓勵採用安全可信的晶元、軟體、工具、算力和資料資源。

問:《辦法》明確提供和使用生成式人工智慧服務應當遵守哪些規定?

答:《辦法》明確提供和使用生成式人工智慧服務應當堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害***和利益、損害國家形象,煽動**國家、破壞國家統一和社會穩定,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、**色情,以及虛假有害資訊等法律、行政法規禁止的內容;在演算法設計、訓練資料選擇、模型生成和優化、提供服務等過程中,採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視;尊重智財權、商業道德,保守商業秘密,不得利用演算法、資料、平台等優勢,實施壟斷和不正當競爭行為;尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人資訊權益;基於服務型別特點,採取有效措施,提公升生成式人工智慧服務的透明度,提高生成內容的準確性和可靠性。

問:《辦法》規定的治理制度主要有哪些?

答:《辦法》明確生成式人工智慧服務提供者應當依法開展預訓練、優化訓練等訓練資料處理活動,使用具有合法**的資料和基礎模型;涉及智財權的,不得侵害他人依法享有的智財權;涉及個人資訊的,應當取得個人同意或者符合法律、行政法規規定的其他情形;採取有效措施提高訓練資料質量,增強訓練資料的真實性、準確性、客觀性、多樣性。此外,明確了資料標註的相關要求。

問:《辦法》主要明確了哪些生成式人工智慧服務規範?

答:《辦法》要求採取有效措施防範未成年人使用者過度依賴或者沉迷生成式人工智慧服務。規定提供者應當按照《網際網路資訊服務深度合成管理規定》對**、等生成內容進行標識。規定提供者發現違法內容的,應當及時採取停止生成、停止傳輸、消除等處置措施並採取模型優化訓練等措施進行整改。明確提供者發現使用者利用生成式人工智慧服務從事違法活動的,應當依法依約採取有關處置措施,儲存有關記錄,並向有關主管部門報告。

問:《辦法》對投訴、舉報作了哪些規定?

答:《辦法》規定提供者應當建立健全投訴、舉報機制,設定便捷的投訴、舉報入口,公布處理流程和反饋時限,及時受理、處理公眾投訴舉報並反饋處理結果。明確使用者發現生成式人工智慧服務不符合法律、行政法規和本辦法規定的,有權向有關主管部門投訴、舉報。

生成式人工智慧服務管理暫行辦法

國家網際網路資訊辦公室 中華人民共和國國家發展和改革委員會 中華人民共和國教育部 中華人民共和國科學技術部 中華人民共和國工業和資訊化部 中華人民共和國公安部 國家廣播電視總局 令 第15號。生成式人工智慧服務管理暫行辦法 已經2023年5月23日國家網際網路資訊辦公室2023年第12次室務會會議審...

Meta 副總裁 生成式人工智慧目前還很傻,無需擔心風險

it之家 7 月 19 日訊息,meta 公司副總裁兼全球事務主席 前英國副首相尼克 克萊格 nick clegg 近日在接受 bbc 採訪時,對生成式人工智慧 generative ai 的風險進行了淡化,稱其目前還很傻 quite stupid 他認為,目前的炒作 有些超前於技術 it之家注意到...

百度的AI之路 從搜尋引擎到生成式人工智慧

無疑是中國最大的搜尋引擎,也是一家致力於人工智慧 ai 發展的科技巨頭。近日,公布了第二季度的財報,顯示其收入超過了預期,主要得益於廣告業務的復甦和ai產品的創新。聯合創始人兼首席執行官李彥巨集表示,正在經歷 典範轉移 並強調了其在生成式人工智慧方面的優勢和前景。什麼是生成式人工智慧?生成式人工智慧...