互聯(lián)網(wǎng)信息服務(wù)算法備案與生成式人工智能服務(wù)

　　互聯(lián)網(wǎng)信息服務(wù)算法備案，是本文核心內(nèi)容。今天我們看下近期公布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》下面簡稱《辦法》，關(guān)于算法的相關(guān)要求。等辦法正式出臺的時候，相關(guān)企業(yè)也要參與到互聯(lián)網(wǎng)信息服務(wù)算法備案。具體細節(jié)可以看看下文的介紹。

　　《生成式人工智能服務(wù)管理辦法(征求意見稿)》觀點摘要

　　01《辦法》雖然還是征求意見階段，但是預(yù)計未來正式出臺后，將進一步防范生成式人工智能產(chǎn)品存在的相關(guān)風(fēng)險，促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，保障國家和社會的安全秩序、企業(yè)和個人的合法權(quán)益。

　　02生成式人工智能不局限于算法技術(shù)，但其中涉及算法的部分與深度合成技術(shù)較為類似，均屬于算法推薦技術(shù)范疇內(nèi)。

　　03在適用范圍上，只要是向中國境內(nèi)公眾提供生成式人工智能產(chǎn)品服務(wù)，無論該產(chǎn)品是否在中國境內(nèi)研發(fā)和使用，都需要符合《辦法》的相關(guān)要求。

　　04基于生成式人工智能產(chǎn)品的復(fù)雜性，其合規(guī)要求也更多元。《辦法》從算法設(shè)計、內(nèi)容合規(guī)、數(shù)據(jù)來源合法性審查、用戶信息留存及畫像建立、訓(xùn)練數(shù)據(jù)治理、算法備案、知識產(chǎn)權(quán)合規(guī)、商業(yè)秘密保護、虛假信息防范、人格權(quán)保護等方面，對生成式人工智能產(chǎn)品提出了全方位的合規(guī)要求。

　　05值得特別關(guān)注的三個重點：第一，《辦法》第六條要求的生成式人工智能產(chǎn)品上線前的安全評估;第二，《辦法》第十一條提出的用戶輸入信息的保護要求(即“三個不得”);第三，《辦法》第十五條規(guī)定的出現(xiàn)生成內(nèi)容違規(guī)時優(yōu)化模型的期限要求(即“3個月”期限)。為此，利用生成式人工智能產(chǎn)品提供服務(wù)的組織和個人，應(yīng)當(dāng)加強生成式人工智能產(chǎn)品治理體系的科學(xué)性、合法性、完整性、及時性以及敏感性，不斷提升技術(shù)治理標(biāo)準(zhǔn)、法律治理標(biāo)準(zhǔn)，以滿足《辦法》規(guī)定的全面細致合規(guī)要求。

　　六問六答

　　問題一：《辦法》適用于哪些主體?問題二：生成式人工智能的定義及其與深度合成技術(shù)、算法推薦技術(shù)有什么關(guān)系?問題三：利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前需履行哪些義務(wù)?問題四：如何理解生成式人工智能產(chǎn)品數(shù)據(jù)來源的合法性要求?問題五：生成式人工智能產(chǎn)品如何進行信息留存、共享和用戶畫像?

　　問題六：如何切斷用戶輸入內(nèi)容傳導(dǎo)的法律風(fēng)險?

　　一、出臺背景

　　根據(jù)《通知》，制定《辦法》是為了促進生成式人工智能健康發(fā)展和規(guī)范其應(yīng)用。目前，ChatGPT已風(fēng)靡全球，我國互聯(lián)網(wǎng)行業(yè)的頭部企業(yè)也競相發(fā)布類似的生成式人工智能產(chǎn)品，并開展內(nèi)測或公測。公眾紛紛體驗，各行各業(yè)亦拉開了使用生成式人工智能產(chǎn)品作為生產(chǎn)力工具的帷幕。在給社會帶來科技便利的同時，亦需注意到，生成式人工智能產(chǎn)品可能帶來社會輿論、價值觀、道德負面引導(dǎo)的社會風(fēng)險、技術(shù)倫理風(fēng)險、企業(yè)商業(yè)秘密和個人信息泄露風(fēng)險、虛假信息風(fēng)險、知識產(chǎn)權(quán)侵權(quán)風(fēng)險及其他潛在的風(fēng)險。例如，ChatGPT已出現(xiàn)用戶輸入信息和支付信息泄露的情況，意大利亦明確表示禁用ChatGPT，一些企業(yè)、高校也要求相關(guān)人員不允許使用ChatGPT?！掇k法》未來正式出臺后，將進一步防范生成式人工智能產(chǎn)品存在的相關(guān)風(fēng)險，保障國家和社會的安全秩序、企業(yè)和個人的合法權(quán)益。

　　二、《辦法》六問六答

　　問題一：《辦法》適用于哪些主體?

　　《辦法》第二條規(guī)定“研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務(wù)的，適用本辦法”。據(jù)此，我們認為，只要是向中國境內(nèi)公眾提供生成式人工智能產(chǎn)品服務(wù)，無論該產(chǎn)品是否在中國境內(nèi)研發(fā)和使用，都需要符合《辦法》的相關(guān)要求。

　　在實踐中，判斷某主體是否受《辦法》約束，需結(jié)合具體的商業(yè)模式進行判斷。根據(jù)我們的實踐經(jīng)驗，通常情況下，生成式人工智能產(chǎn)品的商業(yè)模式可能有三種，即自研自用、利用他人研發(fā)的生成式人工智能產(chǎn)品提供服務(wù)、利用自研生成式人工智能產(chǎn)品為他人提供技術(shù)支持。對應(yīng)場景的適用主體初步分析如下：

　　1. 第一種：自研自用。例如，A公司自行研發(fā)生成式人工智能產(chǎn)品，并向中國境內(nèi)公眾提供服務(wù)，則無論A公司是否為中國境內(nèi)公司，均屬于《辦法》的適用范圍。

　　2. 第二種和第三種：利用他人研發(fā)的生成式人工智能產(chǎn)品提供服務(wù)或利用自研生成式人工智能產(chǎn)品為他人提供技術(shù)支持。例如，A公司作為生成式人工智能產(chǎn)品的研發(fā)者，為B公司提供技術(shù)支持(例如提供可編程接口)，B公司面向中國境內(nèi)公眾提供服務(wù)，則無論B公司是否屬于中國境內(nèi)公司，均屬于《辦法》的適用范圍;A公司作為技術(shù)支持者，雖然沒有直接向公眾提供服務(wù)，但是《辦法》第五條提到，通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等的主體需承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任，可見技術(shù)支持者也應(yīng)當(dāng)屬于《辦法》規(guī)制的主體范圍，但目前技術(shù)支持者、生成內(nèi)容生產(chǎn)者的具體責(zé)任仍有待進一步明確。

　　問題二：生成式人工智能的定義及其與深度合成技術(shù)、算法推薦技術(shù)有什么關(guān)系?

　　《辦法》第二條規(guī)定“生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)”。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》將“深度合成技術(shù)”定義為“利用深度、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)”。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中規(guī)定“算法推薦技術(shù)是指利用生成合成類、個性化推薦類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息”。

　　從文字描述上看，生成式人工智能不局限于算法技術(shù)，但其中涉及算法的部分與深度合成技術(shù)較為類似，均屬于算法推薦技術(shù)范疇內(nèi)。

　　問題三：利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前需履行哪些義務(wù)?

　　1. 申請安全評估前的產(chǎn)品性質(zhì)判斷。《辦法》第六條中規(guī)定，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前應(yīng)當(dāng)按照《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》(以下簡稱“《安全評估規(guī)定》”)的規(guī)定向國家網(wǎng)信部門申報安全評估。對此，我們認為，生成式人工智能產(chǎn)品無需特別去判定其是否“具輿論屬性或者社會動員能力的深度合成服務(wù)”，只需從性質(zhì)上去判定該產(chǎn)品是否屬于生成式人工智能產(chǎn)品。

　　2. 前置算法備案義務(wù)?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)定算法推薦服務(wù)提供者應(yīng)在提供服務(wù)之日起10日內(nèi)履行算法備案等手續(xù)，但《辦法》則將算法備案作為生成式人工智能產(chǎn)品上線的前置條件，可見《辦法》對生成式人工智能產(chǎn)品的算法備案提出了更為嚴(yán)格的要求。

　　3. 其他相關(guān)資質(zhì)要求。對于利用生成式人工智能產(chǎn)品提供相關(guān)互聯(lián)網(wǎng)信息服務(wù)的企業(yè)來說，結(jié)合具體商業(yè)模式和產(chǎn)品界面情況，可能還需要進行ICP備案、公安機關(guān)聯(lián)網(wǎng)備案，以及取得ICP許可、辦理等保備案及其他互聯(lián)網(wǎng)信息服務(wù)相關(guān)許可等手續(xù)。

　　問題四：如何理解生成式人工智能產(chǎn)品數(shù)據(jù)來源的合法性要求?

　　《辦法》第七條提出，提供者應(yīng)確保預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)符合數(shù)據(jù)安全、個人信息保護的相關(guān)要求，確保不含有侵犯知識產(chǎn)權(quán)的內(nèi)容、確保數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性、多樣性。

　　實踐中存在的困難。第一，數(shù)據(jù)來源復(fù)雜、追溯難，數(shù)據(jù)的準(zhǔn)確性很難100%保證。對于大多數(shù)提供生成式人工智能產(chǎn)品服務(wù)的企業(yè)來說，訓(xùn)練數(shù)據(jù)可能來源于開源數(shù)據(jù)庫或通過第三方采購，理論上確實應(yīng)當(dāng)保證個人信息的安全性、不侵犯他人知識產(chǎn)權(quán)、確保訓(xùn)練數(shù)據(jù)授權(quán)鏈條的合法合規(guī)性。但在實踐中，由于部分訓(xùn)練數(shù)據(jù)的開源性及體量巨大，難以從源頭追溯，企業(yè)可能難以100%確保數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性。第二，利用涉及個人信息的數(shù)據(jù)訓(xùn)練模型，取得個人信息主體同意也比較困難。對于利用涉及個人信息的訓(xùn)練數(shù)據(jù)，如果要求提供者對此類數(shù)據(jù)的處理必需以獲得個人信息主體同意為合法性基礎(chǔ)，由于涉及到的個人信息范圍較廣、難以觸達每一位個人信息主體，在落地上可能存在較大困難。

　　為了平衡安全性高、效率高和規(guī)模巨大的關(guān)系，我們建議，一方面相關(guān)企業(yè)可盡可能在使用訓(xùn)練數(shù)據(jù)前，通過審查知識產(chǎn)權(quán)相關(guān)協(xié)議、要求第三方提供數(shù)據(jù)合法性來源證明等方式盡到合理的注意義務(wù)，并通過設(shè)置過濾機制、數(shù)據(jù)安全及個人信息保護制度等方式建立事前、事中、事后的防控措施;另一方面，我國司法判例和行政處罰案例也應(yīng)把握好自由裁量的度，實現(xiàn)政治效果、社會效果和法律效果的統(tǒng)一。

　　問題五：生成式人工智能產(chǎn)品如何進行信息留存、共享和用戶畫像?

　　《辦法》第十一條指出，提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

　　我們理解，該條仍為生成式人工智能產(chǎn)品合法留存相關(guān)信息保留了空間。提供者在進行生成式人工智能產(chǎn)品迭代、優(yōu)化訓(xùn)練過程中，產(chǎn)品歷史服務(wù)過程信息是重要的訓(xùn)練數(shù)據(jù)源。但“能夠推斷出用戶身份的輸入信息”可能涉及到個人信息的處理，提供者在取得用戶同意或具有其他合法性基礎(chǔ)時，仍可以進行留存并根據(jù)規(guī)定進行生成式人工智能產(chǎn)品訓(xùn)練等使用。此外，提供者基于履行法定義務(wù)亦需留存用戶輸入信息，例如，輸入信息可能屬于日志信息的一部分，提供者需根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的要求進行留存。

　　對于共享用戶輸入信息和建立用戶畫像，《辦法》均采用了“不得”的限制性字眼，在該條款語境下，結(jié)合“法律法規(guī)另有規(guī)定”的立法技術(shù)，我們理解，除非法律法規(guī)明確允許外，否則提供者可能難以基于用戶同意進行共享用戶輸入信息、建立用戶畫像。

　　問題六：如何切斷用戶輸入內(nèi)容傳導(dǎo)的法律風(fēng)險?

　　《辦法》第五條明確，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的提供者，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。這是否意味著用戶通過輸入信息(prompt)引導(dǎo)生成式人工智能產(chǎn)品生成違規(guī)/侵權(quán)內(nèi)容時，企業(yè)作為提供者需要承擔(dān)相應(yīng)的法律責(zé)任?雖然實踐中提供者對此承擔(dān)責(zé)任難以實現(xiàn)，但結(jié)合此前的法院相關(guān)判例，對于人工智能類的產(chǎn)品和服務(wù)，通常會苛以較高的注意義務(wù)[1]，可能難以使用“技術(shù)中立”作為抗辯理由。

　　綜上所述，關(guān)于互聯(lián)網(wǎng)信息服務(wù)算法備案與生成式人工智能服務(wù)的文章，如果您需要辦理互聯(lián)網(wǎng)信息服務(wù)算法備案或者想更多咨詢問題，請聯(lián)系大通天成在線客服。也可以撥打我們的電話13391522356。