音視頻同步的原理及實現(xiàn)方案

音視頻同步是我們觀看視頻的一個基本體驗，尤其對于視頻畫面中能看到聲源動作(如：嘴型)的場景，音視頻同步問題非常影響體驗。

在短視頻與直播APP中，采集端作為音視頻的生產(chǎn)者，如果采集端產(chǎn)生的音視頻源本身就無法保證同步，那么后面不管經(jīng)過什么處理，都很難再讓用戶看到音視頻同步的畫面了，因此，在采集端保證音視頻同步上尤其重要。

那么如何保證app在各種正常/非正常狀況下盡量保證輸出同步的音視頻?本文就是講述我們是如何解決上述問題的。

音視頻同步的原理

音視頻采集的數(shù)據(jù)分別來自于麥克風(fēng)與攝像頭，而攝像頭與麥克風(fēng)其實是兩個獨立的硬件，而音視頻同步的原理是相信攝像頭與麥克風(fēng)采集數(shù)據(jù)是實時的，并在采集到數(shù)據(jù)時給他們一個時間戳來標(biāo)明數(shù)據(jù)所屬的時間，而編碼封裝模塊只要不改動音視頻時間的相對關(guān)系就能保證音頻與視頻在時間上的對應(yīng)。如此封裝好數(shù)據(jù)之后，播放端就能夠根據(jù)音視頻的時間戳來播放對應(yīng)的音視頻，從實現(xiàn)音視頻同步的效果。

時間戳參考標(biāo)準(zhǔn)

取格林威治時間做為對比標(biāo)準(zhǔn)，即音視頻時間戳都為采集時間點相對于格林威治標(biāo)準(zhǔn)時間的時間差;

取系統(tǒng)開機時間做為對比標(biāo)準(zhǔn)，即音視頻時間戳都是采集時間點相對于手機開機時間的時間差。目前iOS上AVCaptureSession這套API就是參考這個時間標(biāo)準(zhǔn)給的時間戳。

其它時間戳標(biāo)準(zhǔn)

基于“開源項目1”的音視頻同步探討

原生某開源框架

如圖：

簡介

音/視頻被采集到之后會先經(jīng)過音/視頻處理模塊，音/視頻在被處理之后才進(jìn)入計算時間戳的模塊。

在第一幀到達(dá)時記一個計時起點，然后根據(jù)采集的幀間隔對接下來每一幀的時間戳進(jìn)行計算：frameTimeStamp = lastFrameTimeStamp + frameDuration。

優(yōu)點

能輸出frame duration穩(wěn)定的音視頻時間戳。

風(fēng)險

無論是音頻還是視頻，在手機過熱、性能不足等極端情況下有可能出現(xiàn)采集不穩(wěn)定的情況，比如說預(yù)計1s采集30幀，實際只采集到28幀，而音視頻的時間戳是通過累加來計算的，這樣就有會出現(xiàn)音視頻不同步的情況。

Video Process(人臉檢測、濾鏡、3D貼紙)有可能無法在一幀時間內(nèi)處理完當(dāng)前幀，這樣就會出現(xiàn)幀數(shù)比預(yù)期低的情況，從而出現(xiàn)音視頻不同步。

幀間隔涉及到無限小數(shù)時，因為計算機的精度有限會引發(fā)的時間戳偏移，此偏移會隨著幀數(shù)的增加而逐漸被放大。

基于開源項目1的改進(jìn)方案1

如圖：

時間戳的獲取方法非常直接——每一幀都在改幀進(jìn)入時間戳計算模塊時獲取當(dāng)前系統(tǒng)時間作為時間戳。

優(yōu)點

APP性能正常的情況下肯定不會出現(xiàn)音視頻不同步;

能夠?qū)崟r糾正時間戳，只要APP正常運轉(zhuǎn)，就能立即恢復(fù)正確的時間戳。

風(fēng)險

依賴Video Process與Audio Process模塊處理時長相近，而實際工程中因為人臉檢測、貼紙等原因，Video Process可能會出現(xiàn)阻塞的情況，從而導(dǎo)致臨時性的音視頻不同步

在Audio Process與Video Process模塊處理幀耗時不均勻的情況下會出現(xiàn)音視頻時間戳不均勻的問題，能否正常播放依賴于終端

基于開源項目1的一個改進(jìn)方案2

如圖：

簡介

音/視頻被采集到之后，先獲取采集模塊提供的音視頻時間戳，然后在音/視頻處理模塊透傳采集模塊獲取到的音/視頻時間戳，在時間戳計算模塊繼續(xù)透傳采集模塊給的時間戳。

優(yōu)點

除非采集模塊給出錯誤數(shù)據(jù)，否則音視頻都一定是同步的。

風(fēng)險

可能會出現(xiàn)音視頻時間戳不均勻的情況，尤其是在手機過熱、性能不足等極端情況下。

直播方向更進(jìn)一步的優(yōu)化探討

大致流程如圖：

簡介

音/視頻被采集到之后，先獲取采集模塊提供的音視頻時間戳，然后在音/視頻處理模塊透傳采集模塊獲取到的音/視頻時間戳。

在時間戳計算模塊透傳視頻時間戳，并根據(jù)下文中提到的方法計算音頻時間戳。

音頻時間戳計算方法

實時計算時間戳：當(dāng)前時間戳=起始時間戳+幀數(shù)*幀采樣數(shù)/采樣率;

如果時間戳偏移量超出閾值，糾正時間戳;

糾正頻率達(dá)到超出閾值，直接透傳采集時間戳。

優(yōu)點

能夠提供一個穩(wěn)定的音頻時間戳，可以兼容幀間隔小幅抖動造成的音頻時間戳不均勻;

兼容性能不足時導(dǎo)致實際采集幀數(shù)低于幀率。

風(fēng)險

糾正時間戳?xí)r可能會造成聲音卡頓的感覺。

總結(jié)

具體方案最好是針對實際應(yīng)用場景有選擇性的做優(yōu)化，比如說，在可以控制播放器策略的情況，可以考慮根據(jù)自研播放器特性做時間戳處理。而如果播放器不可控，則盡量通過策略保障幀間隔穩(wěn)定。