AI(人工智能)無(wú)疑是 2023 年最熱的話題之一,尤其是以ChatGPT為代表的生成式AI。對(duì)于AI的態(tài)度,1000個(gè)人眼中就有1000個(gè)哈姆雷特。有人認(rèn)為AI會(huì)導(dǎo)致人類(lèi)滅絕,會(huì)威脅國(guó)家安全,甚至呼吁停止所有超過(guò)一定能力的AI訓(xùn)練。針對(duì)這個(gè)話題的討論不會(huì)短期內(nèi)結(jié)束,但不可否認(rèn)的是,生成式AI已經(jīng)走入尋常百姓家,越來(lái)越多的人在嘗試使用ChatGPT、文心一言等工具。那么,對(duì)于企業(yè)來(lái)說(shuō),在企業(yè)環(huán)境中采用生成式AI工具應(yīng)該注意些什么,如何才能發(fā)揮這一顛覆性技術(shù)的潛在力量呢?
生成式AI領(lǐng)域目前尚處于起步階段,但這標(biāo)志著人工智能和計(jì)算領(lǐng)域正在經(jīng)歷一個(gè)新的拐點(diǎn)。在生成式AI領(lǐng)域大放異彩的大多數(shù)大型語(yǔ)言模型都擅長(zhǎng)自然語(yǔ)言處理(NLP)。在眾多行業(yè)中,這些生成式AI 模型可用于基于 NLP 的應(yīng)用,如提供交互式幫助。用戶可以通過(guò)基于生成式AI 的交互式聊天機(jī)器人分享知識(shí)庫(kù)/用戶手冊(cè)和文檔等,幫助用戶查找信息。
生成式AI還可以提供基于NLP的全企業(yè)范圍內(nèi)業(yè)務(wù)數(shù)據(jù)搜索能力,這實(shí)現(xiàn)起來(lái)有一定難度。目前這個(gè)領(lǐng)域還在不斷發(fā)展,一些企業(yè)軟件企業(yè)已經(jīng)在加大力度研究如何讓生成式AI 模型對(duì)現(xiàn)有 NLP 解決方案和人工智能產(chǎn)品進(jìn)行補(bǔ)充,如通過(guò)增強(qiáng)上下文語(yǔ)義理解、通過(guò)AI平臺(tái)將語(yǔ)音聊天功能與數(shù)字助理或機(jī)器學(xué)習(xí)(ML)模型集成在一起、將企業(yè)搜索擴(kuò)展至圖像識(shí)別功能等等。
此外,由于 生成式AI 模型使用戶能夠利用各種數(shù)據(jù)源生成文本和代碼、進(jìn)行預(yù)測(cè)和總結(jié)、翻譯、分析圖像等,因此可用于各種企業(yè)場(chǎng)景,例生成電子郵件、報(bào)告、產(chǎn)品文檔和網(wǎng)頁(yè)內(nèi)容;創(chuàng)建職位描述和需求;進(jìn)行產(chǎn)品和供應(yīng)商比較;為營(yíng)銷(xiāo)活動(dòng)制作圖片、音樂(lè)和視頻等。企業(yè)還可以利用生成式AI 模型的 NLP 來(lái)寫(xiě)書(shū)評(píng)、審閱和校對(duì)內(nèi)容,為新的項(xiàng)目提供想法等。
生成“生成式AI”
如果內(nèi)部有IT 或軟件工程團(tuán)隊(duì),企業(yè)還可以利用微軟的 Copilot 或 AWS CodeWhisperer 等工具進(jìn)行代碼生成。當(dāng)企業(yè)需要建立自己特定行業(yè)的語(yǔ)言模型、對(duì)一般性信息進(jìn)行驗(yàn)證、通過(guò)網(wǎng)絡(luò)獲取評(píng)論和建議,或者需要將企業(yè)私有數(shù)據(jù)與公共信息進(jìn)行整合時(shí),這些工具可以與Open AI 的 ChatGPT 或 AWS Bedrock 等生成式AI 工具和平臺(tái)集成在一起。
可信性、隱私保護(hù)、偏見(jiàn)消除
生成式AI 技術(shù)發(fā)展很快,沒(méi)有及時(shí)采取行動(dòng)的企業(yè)可能會(huì)坐失良機(jī)。在條件允許的情況下,企業(yè)應(yīng)該積極擁抱而不是拒絕這個(gè)強(qiáng)大的技術(shù)。但這并不意味著在采用生成式AI 模型時(shí)要"一刀切",在廣泛采用生成式AI 模型之前,企業(yè)需要充分考慮需要面對(duì)的挑戰(zhàn)。
首先是可信。雖然大型語(yǔ)言模型生成的內(nèi)容看起來(lái)是原創(chuàng)的,但它實(shí)際上是在模仿基于其所接觸的類(lèi)似訓(xùn)練數(shù)據(jù)集的模式。很多時(shí)候,生成的信息都是假的,同樣的問(wèn)題會(huì)產(chǎn)生不同的答案。
其次是隱私。模型的訓(xùn)練用的是用戶共享的數(shù)據(jù)和輸入的條件,而這不是完全可控的,一些受保護(hù)的商業(yè)機(jī)密或數(shù)據(jù)可能被共享,導(dǎo)致無(wú)意識(shí)的違反合規(guī)問(wèn)題。此外,生成和分享一些特定業(yè)務(wù)的內(nèi)容需要遵守嚴(yán)格的法律和數(shù)據(jù)隱私保護(hù)政策,例如,當(dāng)公司進(jìn)行數(shù)據(jù)保護(hù)影響評(píng)估(DPIA)時(shí),必須確保符合《通用數(shù)據(jù)保護(hù)條例》(GDPR)。大多數(shù)生成式AI平臺(tái)供應(yīng)商會(huì)確保企業(yè)數(shù)據(jù)的獨(dú)有性,不會(huì)用于一般性培訓(xùn)目的,但企業(yè)仍然不能掉以輕心。
還有偏見(jiàn)。人工智能生成的內(nèi)容是根據(jù)用戶輸入的提示定制的,這也意味著用戶可以只使用有利而非全面的數(shù)據(jù)來(lái)訓(xùn)練模型,生成符合自己意愿的內(nèi)容。生成的內(nèi)容實(shí)際代表的是主觀性觀點(diǎn),但表面上看起來(lái)很權(quán)威,因此很容易讓用戶相信并影響他們的觀點(diǎn)。此外,生成假新聞、假視頻和音頻片段的風(fēng)險(xiǎn)也會(huì)越來(lái)越高。
審核與過(guò)濾不可少
上述問(wèn)題并非無(wú)法克服。方法之一是在終端用戶界面上應(yīng)用適當(dāng)?shù)膶徍诉^(guò)濾器,一般用戶可通過(guò)該界面使用生成式AI工具。而在企業(yè)層面就必須采取人為干預(yù),即所有生成的內(nèi)容在正式提供去使用時(shí)必須經(jīng)過(guò)真人審核。現(xiàn)階段通過(guò)人工控制和調(diào)節(jié)對(duì)于提高生成內(nèi)容的準(zhǔn)確性和一致性、減少偏見(jiàn),確保企業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)等非常重要。
因此,企業(yè)需要就生成式AI 如何適用于自身有自己的立場(chǎng)。與此同時(shí),遵循生成式AI 供應(yīng)商的最佳實(shí)踐也至關(guān)重要,例如使用 Open AI 的審核過(guò)濾器。另外,目前很多國(guó)家都在爭(zhēng)相制定各自的人工智能政策,這也是企業(yè)需要考慮的問(wèn)題,需要確保本國(guó)和他國(guó)的相關(guān)政策和協(xié)議。
未來(lái)可期
毫無(wú)疑問(wèn),生成式AI在未來(lái)五到十年將迎來(lái)的蓬勃發(fā)展,對(duì)于該技術(shù)的投資將大幅增加,不論是模型還是硬件,更快更強(qiáng)大的芯片和對(duì)更大網(wǎng)絡(luò)帶寬的需求都將增加。這一趨勢(shì)為人類(lèi)社會(huì)帶來(lái)的影響不容小覷。未來(lái)幾年,我們接觸到的所有信息都將受到生成式AI 的影響;我們所熟知的互聯(lián)網(wǎng)搜索將更加趨向于量身定制的對(duì)話式體驗(yàn);由AI生成的內(nèi)容檢測(cè)工具將更加智能,監(jiān)管和合規(guī)也將更加嚴(yán)格。
生成式AI 模型代表著顛覆性的解決方案,已經(jīng)在幫助個(gè)人消費(fèi)者的搜索、自動(dòng)創(chuàng)建內(nèi)容、提高個(gè)人效率等方面發(fā)揮作用。企業(yè)應(yīng)該立即行動(dòng)起來(lái),積極采用這項(xiàng)強(qiáng)大的技術(shù),但同時(shí)也應(yīng)該充分意識(shí)到潛在風(fēng)險(xiǎn)、其中的不確定性和隱私問(wèn)題。當(dāng)然,生成式AI 領(lǐng)域的成熟和解決這些問(wèn)題只是時(shí)間問(wèn)題。在人類(lèi)的努力下,生成式AI 模型將有可能徹底改變企業(yè)環(huán)境。
( 作者: Infor 大中華區(qū)商業(yè)咨詢高級(jí)總監(jiān) 鹿崇 )
關(guān)于作者:
鹿崇先生現(xiàn)任Infor大中華區(qū)商業(yè)咨詢高級(jí)總監(jiān),在企業(yè)應(yīng)用軟件領(lǐng)域有超過(guò)20年的實(shí)戰(zhàn)經(jīng)驗(yàn)。鹿崇先生自2003年1月加入Infor至今。加入Infor之前,鹿崇先生曾在KPWOOD公司任系統(tǒng)工程師、SSA上海公司任職商業(yè)顧問(wèn),還曾在迅達(dá)電梯擔(dān)任過(guò)項(xiàng)目負(fù)責(zé)人。鹿崇先生畢業(yè)于清華大學(xué)管理信息系統(tǒng)專業(yè)。
關(guān)于 Infor:
Infor 是為特定行業(yè)提供商業(yè)云軟件的全球領(lǐng)先供應(yīng)商。我們?yōu)橹攸c(diǎn)行業(yè)提供完整的解決方案。Infor 的任務(wù)關(guān)鍵型企業(yè)級(jí)應(yīng)用和服務(wù)旨在提供高安全性的可持續(xù)運(yùn)營(yíng)優(yōu)勢(shì),幫助企業(yè)更快實(shí)現(xiàn)價(jià)值。Infor 旗下 17,000 名員工為超過(guò) 175 個(gè)國(guó)家和地區(qū)的 60,000 家客戶提供服務(wù),幫助客戶達(dá)成業(yè)務(wù)目標(biāo)。作為科氏工業(yè)集團(tuán)的一員,Infor 的財(cái)務(wù)實(shí)力、股權(quán)結(jié)構(gòu)和長(zhǎng)期承諾將助力 Infor 與客戶建立持久、共贏的關(guān)系。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
