2024北京網(wǎng)絡(luò)安全大會(huì)正如火如荼地展開(kāi)，颯姐團(tuán)隊(duì)注意到其中這樣一項(xiàng)會(huì)議議程：電子取證論壇。毫無(wú)疑問(wèn)，在數(shù)字經(jīng)濟(jì)迅猛發(fā)展和網(wǎng)絡(luò)技術(shù)快速進(jìn)步的今天，網(wǎng)絡(luò)犯罪手段不斷升級(jí)，而電子取證技術(shù)也在人工智能的加持下不斷邁出新的突破。
面對(duì)這一形勢(shì)，已有不少網(wǎng)安企業(yè)為有效偵測(cè)和打擊新型網(wǎng)絡(luò)犯罪、保障網(wǎng)絡(luò)的空間安全性和可靠性作出了建設(shè)性的貢獻(xiàn)。然而，盡管人工智能應(yīng)用于網(wǎng)絡(luò)犯罪偵查的潛力巨大，但其中不可避免地會(huì)因?yàn)槿斯ぶ悄艿奶匦远婕暗礁鞣絾?wèn)題，進(jìn)而影響到偵查工作的合法性、透明度和倫理性，甚至可能會(huì)對(duì)人工智能偵查技術(shù)造成反噬。乃至于在網(wǎng)安企業(yè)運(yùn)用人工智能技術(shù)提供服務(wù)的過(guò)程中，也可能會(huì)陷入犯罪的漩渦。
今天，颯姐團(tuán)隊(duì)就想基于此與大家共同探討人工智能技術(shù)在網(wǎng)絡(luò)犯罪的案件偵查中，可能會(huì)涉及何種法律問(wèn)題和挑戰(zhàn)。
(一)數(shù)據(jù)采集可能侵犯他人隱私權(quán)?
人工智能在應(yīng)用過(guò)程中必然會(huì)訪問(wèn)、收集海量的數(shù)據(jù)，并基于此生成海量數(shù)據(jù)，這就對(duì)人工智能技術(shù)對(duì)于海量數(shù)據(jù)的管理和使用提出了重大挑戰(zhàn)，而挑戰(zhàn)背后則帶來(lái)的是相應(yīng)的法律風(fēng)險(xiǎn)。
一一方面，在人工智能偵查技術(shù)的開(kāi)發(fā)和提供過(guò)程中，網(wǎng)安企業(yè)所面臨的一個(gè)主要問(wèn)題就是職責(zé)和權(quán)限的不明確。這種模糊性在數(shù)據(jù)收集和處理環(huán)節(jié)尤為突出，這在一定程度上給網(wǎng)安企業(yè)帶來(lái)了相當(dāng)?shù)姆娠L(fēng)險(xiǎn)。首先，人工智能偵查技術(shù)通常涉及大量的數(shù)據(jù)收集，包括但不限于個(gè)人行為數(shù)據(jù)、通信記錄、社交媒體活動(dòng)等。這些數(shù)據(jù)的收集可能觸及到隱私權(quán)、數(shù)據(jù)保護(hù)和信息安全等問(wèn)題。然而，由于缺乏明確的法律規(guī)定，網(wǎng)安企業(yè)在收集這些數(shù)據(jù)時(shí)可能會(huì)面臨合法性質(zhì)疑。其次，收集到的數(shù)據(jù)需要進(jìn)行處理和分析，以便用于偵查目的。這一過(guò)程可能涉及到數(shù)據(jù)的存儲(chǔ)、傳輸和共享。在這個(gè)環(huán)節(jié)，不同網(wǎng)安企業(yè)在數(shù)據(jù)管理方面可能會(huì)采取不同的標(biāo)準(zhǔn)和措施，這就導(dǎo)致數(shù)據(jù)保護(hù)水平的不一致。此外，人工智能偵查技術(shù)的應(yīng)用還涉及到數(shù)據(jù)的使用。網(wǎng)安企業(yè)需要確保其技術(shù)的應(yīng)用不會(huì)侵犯?jìng)€(gè)人權(quán)利，同時(shí)也要保證技術(shù)的有效性和公正性。然而，由于職責(zé)和權(quán)限的不明確，網(wǎng)安企業(yè)在決定如何使用這些數(shù)據(jù)時(shí)可能會(huì)面臨道德和法律的雙重困境。
另一方面，數(shù)據(jù)在收集以后的使用、管理環(huán)節(jié)，也面臨著諸多風(fēng)險(xiǎn)，其中包括數(shù)據(jù)泄露、濫用風(fēng)險(xiǎn)以及來(lái)自第三方的攻擊。當(dāng)發(fā)生上述情況時(shí)，網(wǎng)安企業(yè)需要合理規(guī)避風(fēng)險(xiǎn)，提升自身的抗風(fēng)險(xiǎn)能力以及風(fēng)險(xiǎn)應(yīng)對(duì)能力。
為了解決這些問(wèn)題，颯姐團(tuán)隊(duì)認(rèn)為，我們不僅需要從法律層面對(duì)人工智能偵查技術(shù)的開(kāi)發(fā)和應(yīng)用進(jìn)行規(guī)范，更需要企業(yè)加強(qiáng)自律，建立相應(yīng)的數(shù)據(jù)管理合規(guī)機(jī)制，確保技術(shù)的應(yīng)用既符合法律法規(guī)，也符合社會(huì)道德標(biāo)準(zhǔn)。
(二)權(quán)責(zé)問(wèn)題
當(dāng)人工智能系統(tǒng)做出錯(cuò)誤的決策或犯下錯(cuò)誤時(shí)，隨之而來(lái)的權(quán)責(zé)問(wèn)題變得尤為突出。這不僅是網(wǎng)安企業(yè)在開(kāi)發(fā)人工智能產(chǎn)品時(shí)需要首先考慮的問(wèn)題，而且是一個(gè)涉及道德和法律的復(fù)雜議題。這一問(wèn)題不僅關(guān)系到技術(shù)本身，更與法律規(guī)范和社會(huì)進(jìn)步緊密相連。
在技術(shù)層面，人工智能系統(tǒng)的開(kāi)/發(fā)/者、維護(hù)者或算法工程師是否需要對(duì)系統(tǒng)中的錯(cuò)誤或偏見(jiàn)負(fù)責(zé)，是一個(gè)需要深入探討的問(wèn)題。隨著人工智能技術(shù)的不斷發(fā)展，這些技術(shù)決策者的責(zé)任范圍和責(zé)任程度需要被明確界定。他們需要確保系統(tǒng)的設(shè)計(jì)和實(shí)施能夠最/大/程/度地減少錯(cuò)誤和偏見(jiàn)，同時(shí)也需要對(duì)可能出現(xiàn)的問(wèn)題負(fù)責(zé)。
在法律層面，隨著人工智能技術(shù)的廣泛應(yīng)用，司法體系也需要適應(yīng)這些新技術(shù)的發(fā)展。例如，通過(guò)人工智能生成的證據(jù)或其他相關(guān)數(shù)據(jù)是否能在法庭上被采納使用，需要有明確的法律規(guī)定。此外，司法系統(tǒng)還需要考慮如何評(píng)估人工智能系統(tǒng)的決策過(guò)程，以及如何確保這些決策過(guò)程的公正性和透明度。
同時(shí)，即使人工智能系統(tǒng)做出的決策在技術(shù)上是合法的，它們?nèi)匀豢赡芤l(fā)/倫理問(wèn)題。這些問(wèn)題可能包括但不限于數(shù)據(jù)隱私、算法透明度、決策公平性等。這些倫理道德風(fēng)險(xiǎn)需要被認(rèn)真對(duì)待，并且需要有明確的主體對(duì)其負(fù)責(zé)。這可能涉及到技術(shù)開(kāi)發(fā)者、企業(yè)、監(jiān)管機(jī)構(gòu)甚至整個(gè)社會(huì)。
為了應(yīng)對(duì)這些挑戰(zhàn)，網(wǎng)安企業(yè)、法律界和社會(huì)需要共同努力，建立一個(gè)全面的框架來(lái)指導(dǎo)人工智能系統(tǒng)的責(zé)任歸屬、倫理規(guī)范和法律應(yīng)用。這包括制定明確的技術(shù)標(biāo)準(zhǔn)、法律責(zé)任和倫理準(zhǔn)則，以及建立相應(yīng)的監(jiān)督和評(píng)估機(jī)制。通過(guò)這些措施，我們可以確保人工智能技術(shù)的發(fā)展既符合技術(shù)進(jìn)步的要求，也符合法律規(guī)范和社會(huì)道德的期望。
(三)不可忽視的“幫信罪”
對(duì)于網(wǎng)安企業(yè)而言，技術(shù)是立身之本，人工智能技術(shù)的加入無(wú)疑極/大程度推進(jìn)和豐富了網(wǎng)安企業(yè)的技術(shù)手段，但技術(shù)服務(wù)的同時(shí)也應(yīng)警惕幫信罪的風(fēng)險(xiǎn)。
幫信罪，即幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，是指我國(guó)刑法第287條之二規(guī)定的“明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪，為其提供互聯(lián)網(wǎng)接入、服/務(wù)/器/托/管、網(wǎng)絡(luò)存儲(chǔ)、通訊傳輸?shù)燃夹g(shù)支持，或者提供廣/告/推/廣、支付結(jié)算等幫助，情節(jié)嚴(yán)重的行為。”近年來(lái)隨著AI、大數(shù)據(jù)等技術(shù)的突破性進(jìn)展，各類(lèi)犯罪活動(dòng)逐漸在網(wǎng)絡(luò)/空間中泛濫。其直接后果便是使得幫信罪的數(shù)量急速上升，已經(jīng)位列“3甲”。
在幫信罪的大背景下，“技術(shù)中立”的語(yǔ)言不復(fù)存在，網(wǎng)安企業(yè)在提供技術(shù)服務(wù)的過(guò)程中稍有不慎便會(huì)落入幫信罪的泥沼。究其根本，在于“幫信罪”的成立僅要求“明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪”。
對(duì)此，盡管《關(guān)于辦理非法利用信息網(wǎng)絡(luò)、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)等刑事案件適用法律若干問(wèn)題的解釋》第十一條規(guī)定，“為他人實(shí)施犯罪提供技術(shù)支持或幫助，具有下列情形之一的，可以認(rèn)定為明知他人利用信息網(wǎng)絡(luò)實(shí)施犯罪，但是有相反證據(jù)的除外：(一)經(jīng)監(jiān)管部門(mén)告知后仍然實(shí)施有關(guān)行為的;(二)接到舉報(bào)后不履行法定管理職責(zé)的;(三)交易價(jià)格或者方式明顯異常的;(四)提供專(zhuān)門(mén)用于違法犯罪的程序、工具或者其他技術(shù)支持、幫助的;(五)頻繁采用隱蔽上網(wǎng)、加密通信、銷(xiāo)毀數(shù)據(jù)等措施或者使用虛假身份，逃避監(jiān)管或者規(guī)避調(diào)查的;(六)為他人逃避監(jiān)管或者規(guī)避調(diào)查提供技術(shù)支持、幫助的;(七)其他足以認(rèn)定行為人明知的情形”，因此并非所有客觀上幫助他人實(shí)施犯罪的行為均涉及犯罪，但是司法實(shí)踐中，對(duì)于明知的認(rèn)定卻有泛化和擴(kuò)大的傾向，并因此導(dǎo)致不少技術(shù)企業(yè)高管鋃鐺入獄。
由此，對(duì)于網(wǎng)安企業(yè)而言，融合AI技術(shù)提供網(wǎng)安服務(wù)固然重要，但也需要仔細(xì)甄別所服務(wù)的甲方是否有犯罪嫌疑——事前的主動(dòng)合規(guī)遠(yuǎn)比事后的被動(dòng)彌補(bǔ)更為有效。
寫(xiě)在后面
科技的發(fā)展為網(wǎng)絡(luò)安全提供了更多的機(jī)會(huì)，也提出了更多的挑戰(zhàn)。在未來(lái)，颯姐團(tuán)隊(duì)會(huì)持續(xù)關(guān)注網(wǎng)安行業(yè)內(nèi)的新動(dòng)態(tài)、技術(shù)革新和實(shí)踐策略，為網(wǎng)安企業(yè)把好法律的關(guān)卡! 文/肖颯律師團(tuán)|
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
