普林斯頓大學學者稱蘋果CSAM篩查系統(tǒng)存隱患 因為他們做過類似項目

近期普林斯頓大學的兩位學者表示，他們認為蘋果公司兒童性虐待照片（簡稱CSAM）篩查系統(tǒng)具有一定危險性，因為他們曾構(gòu)建過一個類似的系統(tǒng)。

此前，蘋果公司出于保護兒童免受色情內(nèi)容侵襲，宣布推出三項保護政策。包括：機器篩查Messages信息，當孩子收到色情圖片時，圖片會變得模糊，并且Messages應(yīng)用程序會顯示一條警告；兒童性虐待內(nèi)容（簡稱CSAM）檢測，該功能讓蘋果檢測存儲在iCloud云端照片中的這類圖像特征信息，如果確定有此類圖像，蘋果會向執(zhí)法部門報告；Siri和搜索功能改進，人們可詢問Siri如何報告兒童性虐待內(nèi)容或性剝削，Siri將告訴用戶在哪可以匯報給有關(guān)部門。

普林斯頓大學這兩位學者說，他們曾經(jīng)的一個項目工作原理與Apple的方法完全相同，但他們很快發(fā)現(xiàn)了明顯的問題。

助理教授Jonathan Mayer和研究生研究員Anunay Kulshrestha在《華盛頓郵報》的報道中提到，他們與蘋果有著同樣的善意目標：

“我們的研究項目始于兩年前，作為一個實驗系統(tǒng)，用于識別端到端加密在線服務(wù)中的CSAM。作為安全研究人員，我們知道端到端加密的意義，它可以保護數(shù)據(jù)免受第三方訪問。但我們也對 CSAM在加密平臺上激增感到震驚。而且我們擔心，在線服務(wù)不愿意在沒有額外工具來對抗 CSAM的情況下加密。

我們試圖探索一種可能的中間立場，即在線服務(wù)可以識別有害內(nèi)容，同時保留端到端加密。這個概念很簡單：如果有人分享了與已知有害內(nèi)容數(shù)據(jù)庫相匹配的內(nèi)容，該服務(wù)就會收到警報。如果一個人分享了無關(guān)的內(nèi)容，該系統(tǒng)就不會篩查到。人們無法閱讀數(shù)據(jù)庫或了解內(nèi)容是否匹配，因為這些信息可以揭示執(zhí)法方法并幫助犯罪分子逃避檢測?！?/p>

在停止項目之前，他們已經(jīng)做出一個工作原型：

經(jīng)過多次錯誤的啟動，我們構(gòu)建了一個工作原型。但是我們遇到了一個明顯的問題。

我們的系統(tǒng)可以很容易地重新用于監(jiān)視和審查。篩查設(shè)計不限于特定類別的內(nèi)容。例如，外國政府可以強制要求提供服務(wù)，將那些分享不受歡迎的政治言論的人找出來。

兩人表示，他們對蘋果公司決定推出這項服務(wù)感到困惑，因為目前未能妥善解決他們提出的風險：和我們一樣，Apple的動機是保護兒童。它的系統(tǒng)在技術(shù)上比我們的更高效、更有能力。但是我們很發(fā)現(xiàn)，對于我們提出的難題，Apple幾乎沒有答案。

這也是蘋果這些動作引發(fā)爭議的原因：雖然他們表示不會允許這種濫用，但政府可以依法強制公司這樣做。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。