總變差去噪


總變差去噪英語:Total Variation Denoising)是訊號處理中一種常見的降噪方法,於1992年由L. I. Rudin、S. Osher英語Stanley Osher和E. Fatemi提出,因此亦稱為ROF模型[1]。一個含有雜訊的訊號相較於其未受雜訊影響的訊號,會有較大的總變差值,即其梯度絕對值的總和較大。因此若能找到一個與原始訊號相似且總變差較小的訊號,即可作為原始訊號的降噪結果。此算法可以在去除雜訊的同時保留邊緣,即使在低訊號雜訊比的情況下,依然能有效的去噪和保留邊緣。

總變差

總變差為一函數其數值變化的總和。可表示為其微分後取絕對值再積分的結果。

一維連續函數

若一函數 為一維連續可微函數,其在區間 之總變差定義為

 ,

其中  的一次微分。

 不可微分時,其總變差由一般性的定義給出:

 ,

其中 為區間 中所有可能的分割,即 

一維離散函數

若一函數 為一維離散函數,則其總變差定義為

 .

差分後取絕對值再加總的結果。

一維訊號去噪

設輸入的觀察訊號為 ,對 去噪得到的訊號為 。我們可以透過解最佳化問題來從 得到 。當以總變差去噪法對訊號進行去噪時,最佳化問題應滿足以下兩個條件:

  •   相似,以保留訊號整體的結構性
  •  的總變差不大,以降低雜訊

在數學上,兩個訊號的相似度可以以兩者差的 -範數表示,即

 ,

其中 即為 -範數,而 為訊號的取樣點。

藉由上述數學表達式,總變差去噪法的最佳化問題可以寫成

 .

即利用最小平方法,並以總方差作為正規化的正規項,以求得去噪結果。其中 為正規化參數,用於調整正規項的重要程度。

由於  皆為凸函數,因此一維總變差去噪的最佳化為一凸優化問題[2],有許多凸優化演算法可以求解,且其解必為全局最佳值。

影像去噪

影像為二維離散訊號,在ROF模型中定義的總變差為

 ,

其中 梯度運算子。

然而該定義不可微分,做為最佳化問題的正規項時不易求解。因此也有 -範數形式的二維總變差

 .

最佳化問題的形式與解一維訊號形式相同

 .

然而二維訊號的最佳化問題不一定為凸優化問題,因此無法以常見凸優化演算法求解。目前發展能求解的演算法有原始-對偶演算法英語Wikipedia:primal-dual method[3]交替方向乘子法(ADMM)[4]布雷格曼方法英語Wikipedia:Bregman method[5]等等。

其他變形

高階微分

總變差的概念為先微分取絕對值後再積分。因此在一些文獻中[6]有使用到二階微分以上的例子。 當處理訊號為離散訊號時,二階差分的形式如下

 

因此使用二階差分的總變差可定義為

 

而最佳化問題的形式為

 

雙邊總變差去噪

雙邊總變差(bilateral total variation)是2004年由S.Farisu和D.Robinson提出的最佳化正規項[7]。該正規項基於總變差,結合雙邊濾波器的概念而成。主要應用於影像復原

雙邊總變差的形式如下

 ,

其中 為處理圖片,  為兩個運算子,分別代表將圖片水平移動 個像素與垂直移動 個像素。 為權重,隨着平移距離遞減。

  時,圖片的每一個像素與相鄰之下一個像素相減,此時的雙邊總變差與總變差相同。當 為其它值時,可以當成是計算斜線方向以及將圖片降採樣後的總變差值。如此達到更好的正規化效果。

根據S.Farisu的實驗結果[7],雙邊總變差相對於總變差,邊界模糊的情況較少,能夠更好的保留原圖片邊界。

參見

參考文獻

  1. ^ Rudin, L. I.; Osher, S.; Fatemi, E. Nonlinear total variation based noise removal algorithms. Physica D. 1992, 60 (1–4): 259–268. Bibcode:1992PhyD...60..259R. CiteSeerX 10.1.1.117.1675 . doi:10.1016/0167-2789(92)90242-f. 
  2. ^ Little, M. A.; Jones, Nick S. Sparse Bayesian Step-Filtering for High-Throughput Analysis of Molecular Machine Dynamics (PDF). ICASSP 2010 Proceedings. 2010 IEEE International Conference on Acoustics, Speech and Signal Processing. 2010 [2020-06-13]. (原始內容 (PDF)存檔於2018-07-28). 
  3. ^ Chambolle, A. An algorithm for total variation minimization and applications. Journal of Mathematical Imaging and Vision. 2004, 20: 89–97. CiteSeerX 10.1.1.160.5226 . doi:10.1023/B:JMIV.0000011325.36760.1e. 
  4. ^ Wahlberg, B.; Boyd, S.; Annergren, M.; Wang, Y. An ADMM algorithm for a class of total variation regularized estimation problems. 2012. arXiv:1203.1828  [stat.ML]. 
  5. ^ Bregman L. "A Relaxation Method of Finding a Common Point of Convex Sets and its Application to Problems of Optimization". Dokl. Akad. Nauk SSSR, v. 171, No. 5, 1966, p.p. 1019-1022. (English translation: Soviet Math. Dokl., v. 7, 1966, p.p. 1578-1581)
  6. ^ Heide, F. High-quality computational imaging through simple lenses. ACM Transactions on Graphics (TOG). 2013, 32: 1––14. doi:10.1145/2516971.2516974. 
  7. ^ 7.0 7.1 Farisu, S. Fast and robust multiframe super resolution. IEEE transactions on image processing. 2004, 13: 1327––1344. doi:10.1109/TIP.2004.834669.