原標題:AI+漫畫生產(chǎn) 小冰、百度們的新商機?
文/ 智能相對論(ID:aixdlun)
作者/ 離離
近年,由于網(wǎng)絡(luò)的普及,動漫作品傳播的速度不斷加快,二次元文化的受眾數(shù)量不斷上升,影響范圍也越來越廣泛。
如去年完結(jié)的日漫《鬼滅之刃》就成功“出圈”,掀起了現(xiàn)象級熱潮。原著漫畫為2020年日本漫畫銷量冠軍,累計發(fā)行量突破1億2000萬冊(含電子版),為第二名的十倍有余。其劇場版動畫電影《鬼滅之刃:無限列車篇》上映后,更是在短時間內(nèi)突破300億日元票房,并持續(xù)刷新日本影史的各項紀錄。
看著日益廣闊的動漫市場,一些廠商開始嘗試利用人工智能來推動漫畫生產(chǎn),希望能實現(xiàn)漫畫生產(chǎn)的自動化,在提高生產(chǎn)效率的同時減少人力成本。
Made in AI的漫畫
“智能相對論”查到,一般的漫畫創(chuàng)作過程大致可分為三部份: 一是人物形象設(shè)計;二是故事編排,包含情節(jié)、對話等文學腳本的寫作;三是角色、場景與分鏡配置等漫畫繪制。每位漫畫家都有不同的繪畫風格和敘事方式。
去年,日本鎧俠株式會社(Kioxia Corporation)的研究人員與手冢工作室的藝術(shù)團隊合作,利用人工智能深度學習技術(shù)完成世界上第一部由人類與AI協(xié)作的漫畫作品《PHAEDO》,高度還原了已故知名漫畫家手冢治蟲的漫畫風格。
為了讓人工智能學習手冢的畫風與筆觸,研究團隊收集了十五萬張手冢漫畫手稿,利用圖像識別技術(shù)將其分類標記,將角色面容等圖像特征轉(zhuǎn)換為數(shù)據(jù),再利用多個NVIDIA V100 GPU和cuDNN加速的TensorFlow深度學習框架(由StyleGAN編寫)進行訓練和推理。
在角色生成的訓練中,研究團隊還使用了手冢治蟲作品以外的多部不同漫畫的人物臉孔和真實的人臉照片來進行訓練,建立對抗性神經(jīng)網(wǎng)絡(luò)模型StyleGAN,讓其充分學習不同風格、不同角度的漫畫人臉畫風。
再使用遷移學習來整合成千上萬個數(shù)據(jù)點,從粗糙的輪廓描繪逐漸細化至眼睛、嘴唇等細節(jié),讓AI所繪制的人像與手冢原作更加相似。
在腳本創(chuàng)作方面,研究團隊將《森林大帝》《鐵臂阿童木》和《怪醫(yī)黑杰克》等上百個手冢治蟲的漫畫作品分解為多個段落,作為AI“學習”的對象。
分析了這些故事后,AI便能自動生成多個故事大鋼。但這些由AI創(chuàng)作的故事中存在許多邏輯錯誤,且只有五分之一具有意義,并充滿讓人意料之外的情節(jié)。
對于AI故事創(chuàng)作的不足,研究團隊還是抱持較為樂觀的態(tài)度,將這些另類的想法和飛躍視為手冢治蟲漫畫作品之特色。最后,通過手冢工作室藝術(shù)團隊的人工校正,《PHAEDO》的劇本才得以完成。這部作品已發(fā)表于日本漫畫雜志《Morning》與鎧俠的項目網(wǎng)站“TEZUKA 2020”。
影視劇改漫AI實現(xiàn)自動化
除了現(xiàn)有的漫畫作品,真人影集也是漫畫的靈感來源之一。近期,來自大連理工大學和香港城市大學的研究團隊提出了一款將視頻自動轉(zhuǎn)換為靜態(tài)漫畫頁面的AI系統(tǒng),為人工智能圖像生成技術(shù)開拓了新的應用道路。
與前陣子在各大社交軟件上流行的,將靜態(tài)照片變成動畫的Avatarify相反。這款漫畫生成系統(tǒng)無需用戶手動調(diào)整,即可將電視連續(xù)劇、電影、卡通等任意種類的影片,自動變成帶有對話框及文字內(nèi)容的漫畫頁面。
首先,系統(tǒng)會依照每段字幕的時間將視頻分割成多個鏡頭,并藉由分析連續(xù)鏡頭的相似度與對話內(nèi)容,從中提取要轉(zhuǎn)換成漫畫的關(guān)鍵幀畫面。再將選取的關(guān)鍵幀源圖像轉(zhuǎn)換為黑白圖像,執(zhí)行量化與彩色風格化,造就出“漫畫”風格的圖像。
隨后,根據(jù)關(guān)鍵幀的興趣區(qū)域、重要性等級、彼此間的語義關(guān)系和頁面上的面板數(shù)量來決定漫畫的分格大小及數(shù)量,生成多頁面布局。
研究團隊通過參考漫畫書中對話框形狀的多樣性,使用三種不同的氣泡形狀對應不同情感的語句。并利用一些動漫視頻與相應漫畫作為訓練素材,幫助系統(tǒng)學習識別影片中的聲音、字幕情感與相應的氣泡形狀。
利用文本總結(jié)算法,系統(tǒng)可將相關(guān)字幕進行合并,確保對話框中的句子不會太長,增強可讀性。再通過發(fā)言人物檢測和唇動檢測,將帶有發(fā)言內(nèi)容的對話框放置在所屬人物附近。
該系統(tǒng)現(xiàn)階段依然有一些尚待解決的問題。例如關(guān)鍵幀的選擇上,一些畫面的相似度過高,仍有多余畫面;無字幕的視頻,單就語音識別生成的臺詞易出現(xiàn)錯誤。雖然相較于其它方法生成的改漫作品,該系統(tǒng)的反響良好,但總體而言仍處于試驗階段。研究團隊表示,下一步希望能利用文本信息生成漫畫。
AI漫畫家走到哪了
“智能相對論”從《PHAEDO》和AI改漫系統(tǒng)的誕生可見,現(xiàn)階段的人工智能尚未具備獨立完成一部漫畫作品的能力。在文學藝術(shù)的創(chuàng)作上,AI尚未成熟;但在漫畫繪制過程中,AI對于畫風與筆觸的模擬可說是“以假亂真”。
在二次元經(jīng)濟大規(guī)模崛起的環(huán)境下,中國的動漫產(chǎn)值在近年步步高升,漫畫市場規(guī)模也呈現(xiàn)穩(wěn)定增長。這兩項技術(shù)若實現(xiàn)商業(yè)化,可讓漫畫家們從枯燥無味的重復勞動中解放,集中心力完成情節(jié)、對話設(shè)置等藝術(shù)原創(chuàng)。不但能加快生產(chǎn)速度,同時也能減少人力成本,可說是具有一定的商業(yè)價值。
目前國內(nèi)部份公司已具備自動制作漫畫所需的人工智能圖像識別、圖像繪制及文本自動生成技術(shù),可說是具有進入此市場的技術(shù)基礎(chǔ)。但漫畫自動生成并非只是這些技術(shù)的堆疊與排序,現(xiàn)有的商業(yè)應用方向似乎也并未覆蓋漫畫創(chuàng)作,還需要特定的數(shù)據(jù)庫和算法模型加以訓練。
以人工智能生成動漫圖象的技術(shù)為例,現(xiàn)在最普遍的商業(yè)模式為面向B端,替拍照軟件提供美漫、日漫、3D立體動畫風格的圖片生成服務(wù)?;谏蓪咕W(wǎng)絡(luò)GAN算法,不少公司都推出了頭像改漫、漫畫背景濾鏡等服務(wù),可將現(xiàn)實中的景觀與人像轉(zhuǎn)變成二次元動漫畫風。
如百度大腦AI開放平臺曾與B612咔嘰美顏相機合作,為用戶提供量身定做的二次元漫畫頭像定制、油畫風格轉(zhuǎn)換服務(wù)。
騰訊光影研究室在QQ小世界、微視App、微博等社交平臺上推出的“王者臉”、“童話臉”等各類AI特效應用,可將照片和直播視頻中的人物立刻變成游戲角色、真人“芭比”或“在逃公主”。
網(wǎng)易游戲《逆水寒》《天諭》的智能捏臉也是基于AI圖象生成技術(shù)。玩家上傳一張2D照片后,系統(tǒng)可自動生成相似度超高的3D臉部模型,甚至連發(fā)型都能自動生成。
這些基于圖片識別與生成對抗網(wǎng)絡(luò)的AI動漫圖象生成技術(shù)可將已有的照片轉(zhuǎn)換為漫畫風格,具有影視改漫自動化的技術(shù)基礎(chǔ)。但要像TEZUKA 2020項目那樣“無中生有”固定風格的漫畫作品,似乎還需要一些訓練。
就這點而言,曾“就讀”中央美術(shù)學院的小冰或許離AI漫畫家更近一些?!皩W習”兩百多位著名人類畫家的作品后,小冰可在接收到文本或其他創(chuàng)作刺激后獨立完成原創(chuàng)的命題畫作。不僅曾在中央美術(shù)學院美術(shù)館舉辦個人畫展,還將這項能力應用于絲巾、服裝等紡織面料及圖案設(shè)計,實現(xiàn)商業(yè)化。
在故事腳本生成方面,雖然人工智能已具備撰寫近體詩、新詩、新聞稿、廣告文案等各類文體的能力,但目前對智能寫作需求最大、黏性最強的四個市場分別是內(nèi)容資訊、金融財經(jīng)分析、數(shù)字營銷和行政辦公。
因此,國內(nèi)已實現(xiàn)商業(yè)化的AI寫作產(chǎn)品大多針對營銷、政務(wù)等領(lǐng)域,以角色對話推進故事發(fā)展的漫畫文稿等藝術(shù)創(chuàng)作方面的應用較少。
如阿里發(fā)布的“AI智能文案”產(chǎn)品結(jié)合淘寶、天貓的海量內(nèi)容與自然語言算法,聚焦于電商營銷文案,可模擬多種風格、自定義字數(shù)并實時學習在線樣本,一秒內(nèi)可生成兩萬條短標題。
金山WPS智能寫作的訓練數(shù)據(jù)源于權(quán)威媒體與政府公開網(wǎng)站,常用于公文寫作。支持文本自動生成、輔助成搞寫作、智能素材推薦等服務(wù),在政務(wù)系統(tǒng)的覆蓋率較高。
“智能相對論”看到,百度智能創(chuàng)作平臺也帶有自動寫作功能,既有針對財經(jīng)、體育數(shù)據(jù)的結(jié)構(gòu)化數(shù)據(jù)寫作,還有智能寫詩、智能春聯(lián)等API服務(wù)。而小冰框架不僅曾經(jīng)出版現(xiàn)代詩集,還為萬得資訊、華爾街見聞等公司提供金融摘要自動生成服務(wù)。
由此可見,雖然制作漫畫所需的AI技術(shù)已發(fā)展出較為成熟的商業(yè)模式,但這些技術(shù)大多被作為單獨的服務(wù)或產(chǎn)品分開使用,應用方向也各有不同。比起其他的AI系統(tǒng),小冰和百度等同時具備文本寫作與繪畫能力的人工智能框架可能較有成為AI漫畫家的潛力,但目前看來,國內(nèi)公司似乎并未將人工智能大規(guī)模應用于漫畫生產(chǎn),更別說是形成“一條龍”的漫畫自動生成產(chǎn)業(yè)鏈。
2015年,中國的漫畫產(chǎn)業(yè)進入了高速增長期,并持續(xù)保有較高的增長率,在2019年開始進入平穩(wěn)增長期。據(jù)2020年6月發(fā)布的《2020微博動漫白皮書》顯示,微博泛二次元用戶同比增長11.4%,連續(xù)4年保持增長;54%的動漫用戶是內(nèi)容付費用戶。
在二次元用戶數(shù)量與市場規(guī)模不斷擴增的今日,消費者逐漸養(yǎng)成為內(nèi)容付費的習慣,付費商業(yè)模式助于刺激生產(chǎn),創(chuàng)作者們也不斷探索新的漫畫表現(xiàn)形式。如介于動畫與漫畫之間的動態(tài)漫畫、經(jīng)由用戶觸摸或搖晃設(shè)備而推動內(nèi)容情節(jié)發(fā)展的互動漫畫。
無論是需要耗費大量人力的靜態(tài)漫畫,還是這些制作周期更長、投入成本更高的新形態(tài)漫畫,若能在內(nèi)容生產(chǎn)上降低成本、提高產(chǎn)出效率,不但能讓作者省下重復勞動的時間精力,得以更專注于打磨作品;也能降低漫畫生產(chǎn)門檻,迸發(fā)出更多藝術(shù)可能。
在“國漫崛起”的現(xiàn)在,使用AI來加快漫畫生產(chǎn)似乎是個不錯的想法。就像參與《Phaedo》項目的科學家松原仁所說的,AI和人類合作畫漫畫是理所當然的未來。
*本文圖片均來源于網(wǎng)絡(luò)
深挖智能這口井,同好添加vx:zhinengxiaoyan
此內(nèi)容為【智能相對論】原創(chuàng),
僅代表個人觀點,未經(jīng)授權(quán),任何人不得以任何方式使用,包括轉(zhuǎn)載、摘編、復制或建立鏡像。
部分圖片來自網(wǎng)絡(luò),且未核實版權(quán)歸屬,不作為商業(yè)用途,如有侵犯,請作者與我們聯(lián)系。
智能相對論(微信ID:aixdlun):
?AI產(chǎn)業(yè)新媒體;
?今日頭條青云計劃獲獎?wù)逿OP10;
?澎湃新聞科技榜單月度top5;
?文章長期“霸占”鈦媒體熱門文章排行榜TOP10;
?著有《人工智能 十萬個為什么》
?【重點關(guān)注領(lǐng)域】智能家電(含白電、黑電、智能手機、無人機等AIoT設(shè)備)、智能駕駛、AI+醫(yī)療、機器人、物聯(lián)網(wǎng)、AI+金融、AI+教育、AR/VR、云計算、開發(fā)者以及背后的芯片、算法等。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 美媒聚焦比亞迪“副業(yè)”:電子代工助力蘋果,下個大計劃瞄準AI機器人
- 微信零錢通新政策:銀行卡轉(zhuǎn)入資金提現(xiàn)免手續(xù)費引熱議
- 消息稱塔塔集團將收購和碩印度iPhone代工廠60%股份 并接管日常運營
- 蘋果揭秘自研芯片成功之道:領(lǐng)先技術(shù)與深度整合是關(guān)鍵
- 英偉達新一代Blackwell GPU面臨過熱挑戰(zhàn),交付延期引發(fā)市場關(guān)注
- 馬斯克能否成為 AI 部部長?硅谷與白宮的聯(lián)系日益緊密
- 余承東:Mate70將在26號發(fā)布,意外泄露引發(fā)關(guān)注
- 無人機“黑科技”亮相航展:全球首臺低空重力測量系統(tǒng)引關(guān)注
- 賽力斯發(fā)布聲明:未與任何伙伴聯(lián)合開展人形機器人合作
- 賽力斯觸及漲停,汽車整車股盤初強勢拉升
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。