火爆全球的GPT-3，到底憑什么砸大家飯碗？

GPT-3是指第三代生成式預訓練Transformer，它由舊金山AI公司OpenAI開發(fā)。該程序歷經(jīng)數(shù)年的發(fā)展，最近在AI文本生成領域內(nèi)掀起了一波的創(chuàng)新浪潮。

從許多方面來看，這些進步與自2012年以來AI圖像處理的飛躍相似。

計算機視覺技術促進了、無人駕駛汽車到、面部識別、無人機的發(fā)展。因此，有理由認為GPT-3及其同類產(chǎn)品的新功能可能會產(chǎn)生類似的深遠影響。

與所有深度學習系統(tǒng)一樣，GPT-3也是數(shù)據(jù)模式。它在龐大的文本集上進行了訓練，并根據(jù)統(tǒng)計規(guī)律進行了挖掘。

重要的是，此過程中無需人工干預，程序在沒有任何指導的情況下查找，然后將其用于完成文本提示。

海量訓練數(shù)據(jù)

GPT-3的與眾不同之處在于它的運行規(guī)模和完成一系列令人難以置信的任務。

第一版GPT于2018年發(fā)布，包含1.17億個參數(shù)。2019年發(fā)布的GPT-2包含15億個參數(shù)。

相比之下，GPT-3擁有1750億個參數(shù)，比其前身多100倍，比之前最大的同類NLP模型要多10倍。

GPT-3的訓練數(shù)據(jù)集也十分龐大。整個英語維基百科（約600萬個詞條）僅占其訓練數(shù)據(jù)的0.6％。

訓練數(shù)據(jù)的其他部分來自數(shù)字化書籍和各種網(wǎng)頁鏈接。不僅包括新聞文章、食譜和詩歌之類的內(nèi)容，還包括程序代碼、科幻小說、宗教預言等各種你可以想象到的任何文字。

上傳到互聯(lián)網(wǎng)的文本類型都可能成為其訓練數(shù)據(jù)，其中還包括不良內(nèi)容。比如偽科學、陰謀論、種族主義等等。這些內(nèi)容也會投喂給AI。

這種不可置信的深度和復雜性使輸出也具有復雜性，從而讓GPT-3成為一種非常靈活的工具。

在過去的幾周中，OpenAI通過向AI社區(qū)的成員提供GPT-3商業(yè)API，鼓勵了這些實驗。這導致大量新的用法出現(xiàn)。

下面是人們使用GPT-3創(chuàng)建的一小部分示例：

GPT-3能做什么

1、基于問題的搜索引擎：就像Google，鍵入問題，GPT-3會將定向到相關的維基百科URL作為答案。

2、與歷史人物交談的聊天機器人：由于GPT-3接受過許多數(shù)字化書籍的訓練，因此它吸收了大量與特定哲學家相關的知識。這意味著你可以啟動GPT-3，使其像哲學家羅素一樣講話。

3、僅需幾個樣本，即可解決語言和語法難題。

4、基于文本描述的代碼生成：用簡單的文字描述你選擇的設計元素或頁面布局，GPT-3會彈出相關代碼。

5、回答醫(yī)療問題：來自英國的一名醫(yī)學生使用GPT-3回答了醫(yī)療保健問題。該程序不僅給出了正確答案，還正確解釋了潛在的生物學機制。

6、基于文本的探險游戲。

7、文本的風格遷移：以某種格式編寫的輸入文本，GPT-3可以將其更改為另一種格式。

8、編寫吉他曲譜：這意味著GPT-3可以自行生成音樂。

9、寫創(chuàng)意小說。

10、自動完成圖像：這項工作是由GPT-2和OpenAI團隊完成的。它表明可以在像素而不是單詞上訓練相同的基本GPT體系結(jié)構(gòu)，從而使其可以像在文字上一樣實現(xiàn)視覺數(shù)據(jù)自動完成任務。

但是，所有這些樣本都需要一些上下文，以便更好地理解它們。而令人印象深刻的是，GPT-3沒有接受過完成任何特定任務的訓練。

常見的語言模型（包括GPT-2）需要完成基礎訓練，然后再微調(diào)以執(zhí)行特定任務。

但是GPT-3不需要微調(diào)。在語法難題中，它只需要一些所需輸出類型的樣本（稱為“少量學習”）。

GPT-3是如此龐大，以至于所有這些不同功能都可以在其中實現(xiàn)。用戶只需要輸入正確的提示就可以調(diào)教好它。

但是網(wǎng)上傳出的內(nèi)容存在另一個問題：這些都是精心挑選的樣本，生成結(jié)果肯定不止一個。必然有炒作因素。

正如AI研究人員Delip Rao在一篇針對GPT-3的炒作解構(gòu)文章中指出的那樣，該軟件的許多早期演示來自硅谷企業(yè)家，他們渴望宣傳該技術的潛力并忽略其陷阱，因為他們關注AI帶來的新創(chuàng)業(yè)公司。

的確，瘋狂的鼓吹情緒變得如此強烈，以至于OpenAI CEO本人都發(fā)Twitter說：GPT-3被過度宣傳了。

GPT-3也會犯低級錯誤

盡管GPT-3可以編寫代碼，但我們很難判斷其總體用途。它是凌亂的代碼嗎，這樣的代碼會為人類開發(fā)人員帶來更多問題嗎？

沒有詳細的測試很難說，但是我們知道GPT-3在其他方面會犯嚴重錯誤。

當用戶和GPT-3創(chuàng)造的“喬布斯”交談時，詢問他現(xiàn)在何處，這個“喬布斯”回答：“我在加州庫比蒂諾的蘋果總部內(nèi)。”這是一個連貫的答案，但很難說是一個值得信賴的答案。

在回答瑣事問題或基本數(shù)學問題時，也可以看到GPT-3犯了類似的錯誤。例如，不能正確回答100萬前的數(shù)是多少（回答是99萬）。

但是，我們很難權衡這些錯誤的重要性和普遍性。

如何判斷這個可以幾乎回答所有問題的程序的準確性？如何創(chuàng)建GPT-3的“知識”的系統(tǒng)地圖，然后如何對其進行標記？

盡管GPT-3經(jīng)常會產(chǎn)生錯誤，但更加艱巨的挑戰(zhàn)是，通?？梢酝ㄟ^微調(diào)所輸入的文本來解決這些問題。

用GPT-3創(chuàng)造出小說的研究人員Branwen指出，“抽樣可以證明知識的存在，但不能證明知識的缺失”，可以通過微調(diào)提示來修復GPT-3輸出中的許多錯誤。

在一個錯誤的示范中，詢問GPT-3：“哪個更重，一個烤面包機或一支鉛筆？” 它回答說：“鉛筆比烤面包機重?！?p>

但是Branwen指出，如果你在問這個問題之前給機器投喂某些提示，告訴它水壺比貓重，海洋比塵土重，它會給出正確的響應。

這可能是一個棘手的過程，但是它表明GPT-3可以擁有正確的答案，如果你知道怎么調(diào)教它。

Branwen認為，這種微調(diào)最終可能會最終成為一種編碼范例。就像編程語言使用專用語法的編碼更加流暢一樣，未來我們可能完全放棄這些編程語言，而僅使用自然語言編程。從業(yè)人員可以通過思考程序的弱點并相應地調(diào)整提示，來從程序中得出正確的響應。

GPT-3的錯誤引起了另一個問題：該程序不可信的性質(zhì)是否會破壞其整體實用性？

現(xiàn)在人們已經(jīng)嘗試了GPT-3各種用途：從創(chuàng)建客服機器人，到自動內(nèi)容審核。但是答案內(nèi)容的錯誤可能回給商業(yè)公司帶來嚴重后果。

沒有人原因創(chuàng)建一個偶爾侮辱客戶的客服機器人。如果沒有辦法知道答案是否可靠，我們也不敢拿GPT-3作為教育工具。

專業(yè)人士評價

一位匿名的在Google資深AI研究人員說，他們認為GPT-3僅能自動完成一些瑣碎任務，較小、更便宜的AI程序也可以做到，而且程序的絕對不可靠性最終會破壞其商用。

這位研究人員指出，如果沒有很多復雜的工程調(diào)試，GPT-3還不夠真正使用。

AI研究人員Julian Togelius說：“ GPT-3的表現(xiàn)常常像是一個聰明的學生，沒有讀完書，試圖通過廢話，比如一些眾所周知的事實和一些直率的謊言交織在一起，讓它看起來像是一種流暢的敘述?！?p>

另一個嚴重的問題是GPT-3的輸出存在偏見。英偉達的AI專家Anima Anandkumar教授指出，GPT-3在部分程度上接受了Reddit過濾后的數(shù)據(jù)的訓練，并且根據(jù)此數(shù)據(jù)構(gòu)建的模型產(chǎn)生的文本有“令人震驚地偏向性”。

在GPT-2的輸出中，如果要求完成下列句子時，模型會產(chǎn)生各種歧視性言論：“ 黑人（皮條客工作了15年）”、“ 那個女人（以Hariya為名做妓女）”。(來源：獵云網(wǎng))

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。