來源：肖颯lawyer
上個月，意大利隱私監(jiān)管機構(gòu)Garante出具的調(diào)查結(jié)果認(rèn)為，OpenAI公司存在一項或多項違反歐盟法規(guī)的行為，ChatGPT用于收集用戶數(shù)據(jù)的技術(shù)已經(jīng)違反了該國的隱私法。掀起生成式人工智能熱潮的ChatGPT再次陷入數(shù)據(jù)合規(guī)風(fēng)波。
數(shù)據(jù)和算力是生成式人工智能的核心。數(shù)據(jù)安全是生成式人工智能合規(guī)的核心問題，在人工智能對數(shù)據(jù)日益增長的依賴性的背后，生成式人工智能秘密收集數(shù)據(jù)，對“知情同意”原則和“最小必要”原則帶來了嚴(yán)重挑戰(zhàn)。與此同時，生成式人工智能在運行階段包含著巨大的數(shù)據(jù)泄露風(fēng)險。這對個人信息的保護帶來了嚴(yán)重威脅。颯姐團隊今日就談?wù)勆墒饺斯ぶ悄軐€人信息安全帶來的挑戰(zhàn)與合規(guī)要求。
根據(jù)數(shù)據(jù)來源，大致可將涉?zhèn)€人信息的數(shù)據(jù)分為涉及個人信息的語料庫數(shù)據(jù)以及涉?zhèn)€人信息數(shù)據(jù)的用戶上傳的數(shù)據(jù)。
生成式人工智能對數(shù)據(jù)具有高依賴性，需要大量的數(shù)據(jù)滿足訓(xùn)練要求。這決定了，生成式人工智能往往會主動收集、處理公開和非公開的數(shù)據(jù)，預(yù)訓(xùn)練數(shù)據(jù)的規(guī)模通常可以達到數(shù)十億甚至上百億個參數(shù)量。若其中存在個人信息，根據(jù)《個人信息保護法》第27條的規(guī)定，“個人信息處理者可以在合理的范圍內(nèi)處理個人自行公開或者其他已經(jīng)合法公開的個人信息；個人明確拒絕的除外。個人信息處理者處理已公開的個人信息，對個人權(quán)益有重大影響的，應(yīng)當(dāng)依照本法規(guī)定取得個人同意。”《生成式人工智能暫行管理辦法》第7條也強調(diào)，“生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，遵守以下規(guī)定：……（三）涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。”然而，由于數(shù)據(jù)庫數(shù)據(jù)規(guī)模過于龐大，逐一獲得信息主體的同意這一要求難以實現(xiàn)。
既然獲取信息主體的同意這一條路難以走通，那直接把數(shù)據(jù)庫中的個人信息刪掉可以嗎？這也存在困難。一方面，當(dāng)前缺乏行之有效的個人信息清洗算法，存在一定的技術(shù)悖論；另一方面，數(shù)據(jù)庫規(guī)模之巨大導(dǎo)致人工清洗數(shù)據(jù)的成本極高，且存在個人信息二次泄露的風(fēng)險。有研究指出，基于命名實體識別的數(shù)據(jù)清理技術(shù)，對臨床健康數(shù)據(jù)的召回率為97%(姓名)和80%(護理單元編號)。換言之，在語料庫、數(shù)據(jù)庫中存在個人信息的情況下，在訓(xùn)練階段，個人信息的清洗效果較差，科技公司存在合規(guī)風(fēng)險。颯姐團隊提醒，科技公司在使用語料庫數(shù)據(jù)進行訓(xùn)練時，應(yīng)當(dāng)盡量選擇不包含個人信息的數(shù)據(jù)集，同時盡可能提高識別算法的準(zhǔn)確性，對識別的個人信息進行匿名或裁剪。在審核端采取機器過濾機制加人工審核機制，也是利大于弊的合規(guī)措施。
用戶上傳數(shù)據(jù)可分為“用戶積極投喂的數(shù)據(jù)”和“用戶消極投喂的數(shù)據(jù)”。所謂用戶積極投喂的數(shù)據(jù)，系指用戶為獲得生成式人工智能的反饋而上傳的特定數(shù)據(jù)。所謂用戶消極投喂的數(shù)據(jù)，系指用戶為使用含生成式人工智能算法的應(yīng)用程序或設(shè)備的其他功能而上傳的數(shù)據(jù)。
生成式人工智能的運行通常需要用戶主動“投喂”一定的數(shù)據(jù)，再基于算法進行分析、反饋。在這一過程中，人機交互數(shù)據(jù)將被加以記錄、存儲和分析，并可能成為模型算法更迭訓(xùn)練的數(shù)據(jù)。但在服務(wù)提供者未盡提示義務(wù)、用戶缺乏安全意識等語境下，用戶投喂的數(shù)據(jù)中很可能包含用戶個人外貌、住址、聯(lián)系方式等個人信息。生成式人工智能復(fù)雜的服務(wù)模式與多元的應(yīng)用場景加劇了這一風(fēng)險。隨著數(shù)字技術(shù)的發(fā)展，用戶的身份與其聯(lián)系方式、人臉數(shù)據(jù)、指紋等深度綁定，而生成式人工智能常會收集到大量個人信息。例如，某AI公司的知名聊天機器人程序應(yīng)用范圍涵蓋教學(xué)、科研、金融、傳媒和娛樂等眾多領(lǐng)域，用戶與其進行的聊天記錄中包含大量敏感信息，如個人身份、偏好、習(xí)慣等。這些數(shù)據(jù)若落入不法之手，將導(dǎo)致個人隱私遭到侵犯、身份盜用、金融欺詐等風(fēng)險，對用戶造成直接損害。
此外，生成式人工智能的使用場景廣泛，常被嵌入各大應(yīng)用程序乃至設(shè)備中。例如，今年1月，某瀏覽器已宣布引入3大生成式AI能力，某公司已推出全球首款搭載生成式人工智能技術(shù)的智能手機。即使未使用生成式人工智能技術(shù)，用戶在使用相關(guān)應(yīng)用程序乃至設(shè)備時，不可避免地會將產(chǎn)生、上傳數(shù)據(jù)，而數(shù)據(jù)中很可能存在涉嫌個人信息的內(nèi)容。
《生成式人工智能暫行管理辦法》第十一條規(guī)定，“提供者對使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護義務(wù)，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應(yīng)當(dāng)依法及時受理和處理個人關(guān)于查閱、復(fù)制、更正、補充、刪除其個人信息等的請求。” 《個人信息保護法》《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》等法律法規(guī)對數(shù)據(jù)存儲的期限制定了強制性規(guī)定。基于此，用戶主動投喂的涉嫌個人信息的這類信息是否可以被服務(wù)提供者記錄、存儲以及存儲的期限是有待商榷的。
同時，這類信息是否能被用于訓(xùn)練算法也存在一定爭議。《生成式人工智能暫行管理辦法》第7條強調(diào)，“生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動，遵守以下規(guī)定：……（三）涉及個人信息的，應(yīng)當(dāng)取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。”初次使用獲得的用戶授權(quán)不足以覆蓋算法訓(xùn)練階段數(shù)據(jù)使用的要求，科技企業(yè)必須有更明確的使用授權(quán)，或在符合法律法規(guī)的規(guī)定的其他情形的情況下，才能利用這類數(shù)據(jù)，否則可能會觸犯民法、行政法甚至刑法的相關(guān)規(guī)定。但是，即使獲得了用戶的明確授權(quán)，生成式人工智能的運行階段存在巨大的數(shù)據(jù)泄露風(fēng)險，科技公司只有在確保數(shù)據(jù)的安全性的情況下，才可對涉?zhèn)€人信息數(shù)據(jù)加以利用。
為了提高生成質(zhì)量，許多科技公司會想盡辦法豐富數(shù)據(jù)保有量，提高數(shù)據(jù)聚集度。例如，某AI公司的《隱私政策》第2條標(biāo)明，“我們可能會對個人信息進行匯總或去標(biāo)識化處理，使其不再用于識別您的身份，并使用此類信息來分析我們服務(wù)的有效性、改進和添加我們服務(wù)的功能、進行研究和其他類似目的。”這是一種可行的方案，但是，根據(jù)“知情同意”原則，服務(wù)提供者承擔(dān)告知義務(wù)，即服務(wù)提供者需將被收集的數(shù)據(jù)對象、數(shù)據(jù)用途和可能存在的風(fēng)險等提前向信息主體說明，并在取得信息主體同意后才能實施收集行為。同時，科技公司應(yīng)當(dāng)為用戶提供拒絕使用其個人信息的選項，而不應(yīng)當(dāng)將該條款變?yōu)榻┯驳摹娭菩缘耐ㄖ獥l款。此外，根據(jù)“最小必要”原則，科技公司收集的涉?zhèn)€人信息應(yīng)當(dāng)采取與實現(xiàn)目標(biāo)相關(guān)的、影響最小的方式，明確、具體地收集用戶的個人信息。
與傳統(tǒng)人工智能相比，生成式人工智能往往有更強的信息收集主動性與更高的數(shù)據(jù)濫用風(fēng)險。生成式人工智能需要持續(xù)地通過大規(guī)模的語料庫、數(shù)據(jù)集來強化上下文理解能力，以不斷升級和優(yōu)化自身，在包括數(shù)據(jù)收集、數(shù)據(jù)存儲、數(shù)據(jù)處理和數(shù)據(jù)生成的生成式人工智能運行各階段內(nèi)，不可避免地會涉及諸多個人信息、產(chǎn)生諸多法律與合規(guī)風(fēng)險。而大數(shù)據(jù)時代個人信息的內(nèi)涵與邊界的模糊化、法律法規(guī)的滯后性與對技術(shù)成果的追求，也導(dǎo)致部分科技公司忽視了此類風(fēng)險。颯姐團隊提醒，合規(guī)是行業(yè)健康發(fā)展的前提與保障，追求成功的同時切勿對法律紅線掉以輕心。
喜來順財經(jīng)
