艾媒咨詢數(shù)據(jù)顯示，2020年復(fù)工期間，中國有超過1800萬家企業(yè)采用了線上遠程辦公模式，共計超過3億用戶使用遠程辦公應(yīng)用。同時，還有約2億的學生采用線上網(wǎng)課的方式進行遠程教學。而無論是遠程辦公、視頻會議還是線上教育系統(tǒng)，都離不開底層技術(shù)實時音視頻的支持。
實時音視頻技術(shù)包括實時語音、實時視頻和連麥互動，此前“直播”可能是大家最熟悉的實時音視頻應(yīng)用場景。受疫情影響，音視頻技術(shù)帶來的其他行業(yè)和場景的遠程無接觸服務(wù)，獲得了高速增長。
“X+音視頻”aPaaS全行業(yè)接入，即構(gòu)日均通話時長突破20億
針對疫情期間爆發(fā)的多行業(yè)遠程服務(wù)需求，音視頻云服務(wù)商即構(gòu)科技快速上線了TalkLine視頻會議、小藝幫線上藝考兩大SaaS平臺以及多個遠程aPaaS方案，通過即下即用和快速開發(fā)的優(yōu)勢，將音視頻技術(shù)的應(yīng)用范圍從直播社交泛娛樂，迅速延伸到教育、辦公會議、藝考、政務(wù)、醫(yī)療、金融等多個行業(yè)，覆蓋政務(wù)民生各個領(lǐng)域。
合作的線上遠程服務(wù)應(yīng)用呈爆發(fā)式增長，即構(gòu)科技作為底層技術(shù)服務(wù)商，平臺數(shù)據(jù)也不斷攀升。據(jù)了解，2020年初，即構(gòu)平臺整體流量增長近4倍，日均音視頻互動時長增長至20億分鐘。
即構(gòu)科技的合作客戶，覆蓋了泛娛樂和在線教育行業(yè)的大量頭部平臺，比如映客、喜馬拉雅、酷狗、荔枝、好未來、作業(yè)幫、一起作業(yè)網(wǎng)、掌門一對一等，而這兩個行業(yè)，恰好是2020年初流量增長最大的行業(yè)之二。不少平臺的使用量是以倍數(shù)增長的，某個國內(nèi)TOP級在線教育平臺，更是實現(xiàn)了百倍的用量增長。
流量暴漲為平臺帶來了大量用戶，但同時對平臺穩(wěn)定性會有更大壓力，可能會導(dǎo)致平臺崩潰，服務(wù)不可用。在 “家里蹲”的日子里，大家經(jīng)歷了多個APP的宕機。那么，日均20億分鐘互動，高達數(shù)千萬的并發(fā)，即構(gòu)科技是如何在流量暴增的情況下保障穩(wěn)定服務(wù)的?
千萬高并發(fā)架構(gòu)+后臺服務(wù)機制，保障平穩(wěn)服務(wù)
要扛住千萬級的高并發(fā)，首先要有一個支持千萬級并發(fā)的底層架構(gòu)。即構(gòu)的核心創(chuàng)始團隊來自騰訊，團隊成員多數(shù)參與了QQ產(chǎn)品實現(xiàn)用戶量從百萬級到上億級的跨越式發(fā)展，因此對于平臺底層架構(gòu)的高并發(fā)設(shè)計具有先瞻性預(yù)見。通過以往海量用戶運營的經(jīng)驗積累和近二十年的音視頻技術(shù)沉淀，在5年前即構(gòu)創(chuàng)立之初進行底層架構(gòu)設(shè)計時，對并發(fā)數(shù)的要求就達到了千萬級別。
隨后的幾年里，即構(gòu)科技通過不斷打磨技術(shù)，不斷優(yōu)化服務(wù)器的單點負載能力、集群系統(tǒng)的智能調(diào)度算法和多云多網(wǎng)融合的虛擬網(wǎng)建設(shè)，已實現(xiàn)彈性伸縮，讓用戶無損無感知的無縫平滑擴縮容。在2019年中，即構(gòu)后臺統(tǒng)計到的日均音視頻互動時長就已突破6億分鐘。
有了千萬級并發(fā)的基礎(chǔ)架構(gòu)，要實現(xiàn)在一波又一波流量高峰來臨后依然平滑穩(wěn)定服務(wù)，還離不開預(yù)警、限流、緊急擴容等后臺服務(wù)機制的保障。
即構(gòu)科技后臺媒體服務(wù)組負責人Jack，向我們介紹了即構(gòu)一系列后臺服務(wù)機制是如何運行的：
首先，針對每一位企業(yè)客戶，即構(gòu)會提供流量實時監(jiān)測預(yù)警服務(wù)。后臺服務(wù)的技術(shù)人員會監(jiān)控目前的容量水位，當該客戶的服務(wù)器負載超過一定閥值時會自動觸發(fā)預(yù)警，提醒相關(guān)人員進行擴容;
其次，當遇到短時突發(fā)性暴漲，即構(gòu)后臺服務(wù)會通過限流機制來保障客戶服務(wù)的可用性。即構(gòu)的限流機制，是以不影響已有用戶體驗為基礎(chǔ)的。以前段時間即構(gòu)所服務(wù)的某教育平臺為例，在客戶也未預(yù)期的情況下，客戶平臺用量突然暴漲了幾倍，觸發(fā)了即構(gòu)的限流機制。限流開啟后，該平臺上已開課上課的老師學生，服務(wù)不受影響;而后來涌入的用戶，即構(gòu)會通過降低推拉流碼率、分辨率的方式，犧牲部分用戶體驗以保障服務(wù)可用。隨后，即構(gòu)立即啟動緊急擴容機制，10分鐘后，擴容完成，后進入的老師學生碼率分辨率恢復(fù)。
第三，即構(gòu)的緊急擴容機制，可實現(xiàn)10分鐘內(nèi)完成數(shù)百臺服務(wù)器的擴容。這些服務(wù)器資源，可支持一個在線教育平臺新增10W級別的老師開課，或者接近100萬級別的學生聽課。
當架構(gòu)和后臺服務(wù)機制都ready的情況下，即構(gòu)還提供一對一技術(shù)支持，幫助客戶提前規(guī)避和及時解決流量上漲可能帶來的問題。
服務(wù)前置+一對一支持，即構(gòu)讓所有用戶獲得最佳體驗
“技術(shù)支持是一項非常細致的工作，平臺使用量暴漲時，對技術(shù)支持的工作提出了不小的挑戰(zhàn)，我們都是24小時待命，全程支持客戶上量、擴容。”這是即構(gòu)技術(shù)支持負責人Tina的原話。
與大家印象中技術(shù)支持“遇到問題才解決問題”不同的是，即構(gòu)倡導(dǎo)以客戶成功為導(dǎo)向，映射到技術(shù)支持工作中，即構(gòu)會進行服務(wù)前置，即幫助客戶提前規(guī)避可能的風險。
2月初，教育部發(fā)出“停課不停學”的倡議。預(yù)料到隨后在線教育平臺使用量可能將快速攀升，即構(gòu)技術(shù)支持人員對每一家教育平臺進行了回訪。詢問客戶對自身平臺使用量的一個預(yù)估，判斷用戶目前的服務(wù)器資源是否足夠支撐。并細致到具體的應(yīng)用場景，是大班課、一對一小班、一對多小班或是AI課堂、跨國教育等，針對每個平臺制定一對一服務(wù)方案。
方案制定后，技術(shù)支持人員會立即與后臺服務(wù)人員對接，確認服務(wù)器資源，提前部署。即構(gòu)會在客戶提供的預(yù)估量之上，提供一定量的冗余資源來保障客戶穩(wěn)定性。
從客戶上量到最高使用峰值再到用量回落的整個過程，即構(gòu)技術(shù)人員需全程支持。而不同的行業(yè)，使用峰值時段并不同。比如，在線教育平臺，使用量從上午開始攀升，到下午或者晚上才達到高峰;而跨國教育或出海平臺，使用高峰在后半夜之后;而即構(gòu)服務(wù)的某Top級金融平臺，通過即構(gòu)SDK實現(xiàn)了3萬銷售人員的遠程企業(yè)內(nèi)訓(xùn)，其使用量在早上7點就開始上漲，整個上午時段的用量最大。這意味著，技術(shù)支持人員需要24小時無休全天輪值。
除了針對客戶使用量上漲所做的保障工作，技術(shù)支持還需對客戶的常規(guī)問題進行排查，以保障客戶使用的最佳體驗。“我們經(jīng)常幫助客戶排查問題到凌晨1-2點，但這些努力都是有回報的，我們最開心的是一天結(jié)束后，客戶在對接群里說的一句：今天平臺運行良好，感謝大家的支持，辛苦了”Tina分享道。
單日互動時長突破20億分鐘的背后，是無數(shù)客戶對即構(gòu)技術(shù)和服務(wù)的肯定。即構(gòu)也遇到過棘手的難題。線上用戶增速最快的那段時間，全網(wǎng)服務(wù)器資源緊張。一方面是用戶急需擴容保障服務(wù)，一方面是供應(yīng)商資源的短缺。即構(gòu)科技拿完了已有供應(yīng)商所有可提供的資源后，陸續(xù)向其他的云商采購。
“我們本來就是支持多云商的架構(gòu)，不同廠商的物理機、云主機我們都做了兼容和支持，因此服務(wù)器資源不受單一供應(yīng)商限制，可以在短時間內(nèi)調(diào)用更多的資源，所以服務(wù)器資源緊張的問題并沒有困擾我們太久”，即構(gòu)后臺媒體服務(wù)組負責人Jack說到。
即構(gòu)強調(diào)利他共生的價值觀，最大程度的支持客戶成功，與客戶共同成長。堅持 “將技術(shù)做極致，不浪費客戶的每一分錢”的原則，通過持續(xù)不斷優(yōu)化服務(wù)器負載能力，從根源上優(yōu)化客戶的云服務(wù)成本。
同時，針對不同時期不同客戶，即構(gòu)會推出不同的讓利舉措，在疫情期間用戶對遠程辦公協(xié)同有大量需求，即構(gòu)自研的視頻會議平臺TalkLine，針對每個新注冊用戶贈送5000分鐘使用時長，目前已累計贈送了約10億分鐘。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
