奇安信齊向東:生成式AI大模型的安全問題有四個

7月7日消息,全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東在出席BCS2023北京網絡安全大會期間接受媒體采訪時談到當前火熱的生成式AI大模型的安全問題,他認為主要涉及到四個方面。

針對這四個安全問題,齊向東表示:安全問題一,是AI在意識形態(tài)領域、在文化和價值觀方面是否合規(guī),屬于內容安全領域,這塊網信辦在統(tǒng)籌協(xié)調相關的部門和單位來負責。

安全問題二,是“關于企業(yè)內部員工向公共AI平臺投喂數據這件事引發(fā)的安全問題”,這屬于數據泄露問題,奇安信能管理。

有數據統(tǒng)計,有2.3%的員工通過向ChatGPT投喂數據導致公司的,或者單位的數據泄露,因為這屬于數據泄露問題。奇安信有一整套解決方案,能夠解決內部員工向ChatGPT投喂數據導致的數據泄露問題。

安全問題三,是“企業(yè)部署的大模型系統(tǒng)的安全問題”,如果企業(yè)內部有自己本地部署的大模型的系統(tǒng),奇安信有一套解決方案保證這個大模型系統(tǒng)的安全。

安全問題四,“企業(yè)希望采用ChatGPT等AI大模型產品為自身的網絡安全作出貢獻”,這屬于網絡安全人才培養(yǎng)問題。奇安信也可以讓企業(yè)的通用大模型成為高級的網絡安全人才。

齊向東強調:”AI再厲害也是IT,它也是由軟件組成的,它也是由硬件組成的。我們安全公司管的就是軟件漏洞,管的就是軟件后門,管的就是軟件作惡。作為安全公司,在未來AI的時代我們應該有更強的使命感,更高的責任感,要倍加努力?!?/p>

(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )

贊助商
2023-07-07
奇安信齊向東:生成式AI大模型的安全問題有四個
7月7日消息,全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東在出席BCS2023北京網絡安全大會期間接受媒體采訪時談到當前火熱的生成式AI大模型的安全問

長按掃碼 閱讀全文