如何讓人工智能變得可解釋？

RegTech 公司Hawk: AI的首席技術(shù)官沃爾夫?qū)げ{(Wolfgang Berner)的表示，如果你真的可解釋性對于許多應(yīng)用尤為關(guān)鍵。

伯納表示:“在反洗錢等嚴(yán)格監(jiān)管的領(lǐng)域，考慮人工智能的使用透明度和可解釋性是完全合適的。當(dāng)AI的決策與原始數(shù)據(jù)過于脫節(jié)，以及算法的工作方式缺乏透明度時(shí)，人們就會(huì)對這種典型的“黑匣子AI”產(chǎn)生擔(dān)憂。”

Hawk AI認(rèn)為，合規(guī)行業(yè)、信任和接受的關(guān)鍵在于高度的透明度。因此，對于該公司來說，對人工智能可解釋性的需求遠(yuǎn)遠(yuǎn)超出了純粹的監(jiān)管要求。

借助可理解的人工智能，金融機(jī)構(gòu)甚至可以對神經(jīng)網(wǎng)絡(luò)等復(fù)雜模型進(jìn)行概覽和控制。對于 Hawk AI，可解釋性由兩個(gè)方面組成——人工智能驅(qū)動(dòng)的個(gè)人決策的理由是什么？有助于人工智能的算法是如何開發(fā)的？

Hawk AI 表示：“對于 Hawk AI 來說，這很清楚——只有技術(shù)上可以解釋的，最終才會(huì)被接受。決策的確切標(biāo)準(zhǔn)或某些風(fēng)險(xiǎn)的統(tǒng)計(jì)概率以及算法的組成與 AI 決策過程的完整文檔一樣重要。同樣重要的是，所有這些都以清晰易懂的語言而不是純粹的技術(shù)術(shù)語來表達(dá)?！?/p>

該公司認(rèn)為，每個(gè)細(xì)節(jié)和每個(gè)數(shù)據(jù)源都必須是可驗(yàn)證的——例如，與特定同行組相比，某些值是顯著高還是低。為什么人工智能假設(shè)某些預(yù)期值以及這些值如何相互關(guān)聯(lián)，必須是透明的。數(shù)據(jù)情況必須非常清楚，以至于合規(guī)官會(huì)使用相同的數(shù)據(jù)做出相同的決定。

此外，一致的反饋和驗(yàn)證流程有助于不斷改進(jìn)決策——因此，人工智能直接從合規(guī)團(tuán)隊(duì)的決策中學(xué)習(xí)，并可以在未來更好地支持他們。

Hawk 提到，AI 不僅在其應(yīng)用之初必須是透明的——因?yàn)樗ㄟ^接觸新數(shù)據(jù)來獨(dú)立改進(jìn)，還需要能夠理解這樣的優(yōu)化。為此，該公司聲稱 AI 的每一個(gè)變更過程也都記錄在軟件中，并且需要明確的批準(zhǔn)。因此，如果沒有合規(guī)團(tuán)隊(duì)能夠理解和控制它，人工智能就永遠(yuǎn)不會(huì)進(jìn)化。

Hawk AI 總結(jié)道：“AI 反洗錢已經(jīng)準(zhǔn)備就緒——有了 Hawk AI，它是透明且安全的。由于這些原因，Hawk AI 談到了與人工智能相關(guān)的“白盒 AI”，與“黑盒 AI”相比，其技術(shù)對于合規(guī)團(tuán)隊(duì)來說是完全可以理解的。因此，我們的軟件提供了完全的控制和安全性。人工智能在金融領(lǐng)域的應(yīng)用正在徹底改變打擊金融犯罪的斗爭。

“技術(shù)驅(qū)動(dòng)的反洗錢不僅在效率和有效性方面明顯超越了傳統(tǒng)系統(tǒng)，而且由于它能夠從犯罪行為模式中學(xué)習(xí)，因此特別具有前瞻性。因此，從長遠(yuǎn)來看，使用人工智能打擊金融犯罪將成為行業(yè)標(biāo)準(zhǔn)。多年來，該技術(shù)已在實(shí)踐中得到驗(yàn)證。即使在非常大的金融機(jī)構(gòu)中，它今天已經(jīng)在使用，或者至少在第一批試點(diǎn)中已經(jīng)建立?！?/p>

Hawk AI已與推動(dòng)金融和零售互聯(lián)商務(wù)的領(lǐng)導(dǎo)者 Diebold Nixdorf 合作，以擴(kuò)大前者的 AML 解決方案的覆蓋范圍。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。