首頁 > 財經 > 內容
七部門發(fā)文規(guī)范生成式AI服務 實行包容審慎和分類分級監(jiān)管
2023-07-14 08:20:52來源:上海證券報
分享到:

國家網信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局近日發(fā)布《生成式人工智能服務管理暫行辦法》(下稱《辦法》),對生成式人工智能服務進行了框架性規(guī)范?!掇k法》自2023年8月15日起施行。

包容審慎、分類分級監(jiān)管

生成式人工智能,是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術。

《辦法》明確,對生成式人工智能服務實行包容審慎和分類分級監(jiān)管,要求國家有關主管部門針對生成式人工智能技術特點及其在有關行業(yè)和領域的服務應用,完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式,制定相應的分類分級監(jiān)管規(guī)則或者指引。

在促進發(fā)展具體措施上,《辦法》明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用,生成積極健康、向上向善的優(yōu)質內容,探索優(yōu)化應用場景,構建應用生態(tài)體系;支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉化應用、風險防范等方面開展協(xié)作。

《辦法》還鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新,平等互利開展國際交流與合作,參與生成式人工智能相關國際規(guī)則制定;推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。

“生成式人工智能技術將帶來最重要的一次生產力革命。從這個角度來講,中國亟須加快發(fā)展?!掇k法》強調保護、鼓勵創(chuàng)新,這樣的管理思路很有必要?!敝袊娮由虝钪鎸N瘯崩硎麻L刑杰對上海證券報記者說。

使用具有合法來源的數(shù)據(jù)

雖然生成式人工智能技術正在或即將引發(fā)生產力變革,但其產生的風險和挑戰(zhàn)不容忽視。

《辦法》要求,生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動,使用具有合法來源的數(shù)據(jù)和基礎模型;涉及知識產權的,不得侵害他人依法享有的知識產權;涉及個人信息的,應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形;采取有效措施提高訓練數(shù)據(jù)質量,增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。

《辦法》還提出,提供和使用生成式人工智能服務應當堅持社會主義核心價值觀;在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中,采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視。

同時,《辦法》要求提供和使用生成式人工智能服務要尊重知識產權、商業(yè)道德,保守商業(yè)秘密;尊重他人合法權益;基于服務類型特點,采取有效措施,提升生成式人工智能服務的透明度,提高生成內容的準確性和可靠性。

科技企業(yè)須守好“安全底線”

防止生成式人工智能濫用,在充分發(fā)揮政府監(jiān)管職能的同時,也需科技企業(yè)提前布局,發(fā)揮技術能力守住“安全底線”。

《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

《辦法》規(guī)定提供者應當按照《互聯(lián)網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識。提供者發(fā)現(xiàn)違法內容的,應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓練等措施進行整改。明確提供者發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的,應當依法依約采取有關處置措施,保存有關記錄,并向有關主管部門報告。

“比如信息檢測技術,國外已經布局,我們的安全技術專家、安全技術企業(yè)也應盡快提出相應的技術方案。”中國科學技術大學網絡空間安全學院副院長張衛(wèi)明認為,要實施更全面的人工監(jiān)管,時刻關注技術的安全性,確保其不會被濫用,才能充分發(fā)揮人工智能的潛力。

中方信富公眾號
更多資訊關注
中方信富公眾號