音風景ブログ

目隠しテストによるエンコーダの音質評価などを行うブログです。

Opusエンコーダの音質比較

概要

Opusエンコーダの音質比較。2013年からある安定版の Opus 1.1 と、Opus 1.1.1の音質向上を狙ったテスト版「exp_lbr_tune」(2016年2月時点)を比較。
テスト版「exp_lbr_tune」は、2016年7月現在も活発に改良が続けられており、さらに改良を重ねた上で将来 Opus 1.2 としてリリースされる予定である。

結果

テスト版の方が低レートで高い評価となった。64kbps以上では、有意差が無かった。

評価

形式 Opus Opus Opus Opus Opus Opus Opus Opus
エンコーダ 1.1 1.1 1.1 1.1 1.1.1 1.1.1 1.1.1 1.1.1
バージョン main main main main lbr_tune lbr_tune lbr_tune lbr_tune
リリース年 2013 2013 2013 2013 2016 2016 2016 2016
レート制御 VBR VBR VBR VBR VBR VBR VBR VBR
指定レート 32k 48k 64k 80k 32k 48k 64k 80k
10 41_30sec Perc. 1.7 3.1 3.5 4.0 1.8 2.8 3.7 4.0
11 finalfantasy Strings 2.6 3.7 4.1 4.4 2.0 3.2 4.2 4.4
12 ATrain Jazz 2.3 3.4 4.0 4.3 1.6 3.1 3.9 4.2
13 BigYellow Pops 1.7 2.9 3.8 4.1 1.7 2.8 3.9 4.0
14 FloorEssence Techno 3.1 3.7 4.2 4.3 2.0 3.4 4.1 4.3
15 macabre Classic 1.8 2.3 3.5 3.7 1.5 2.4 3.6 3.6
16 mybloodrusts Guitar 2.7 3.3 4.2 4.3 2.0 3.2 4.2 4.3
17 Quizas Latin 2.1 3.5 3.9 4.2 1.8 3.2 4.0 4.2
18 VelvetRealm Techno 2.4 3.1 3.5 3.7 1.9 2.8 3.5 3.7
19 雨降花 Pops 1.7 2.5 3.8 4.3 1.7 2.3 3.8 4.3
20 Trust Gospel 2.2 3.2 3.8 4.3 1.8 3.1 4.0 4.3
21 Waiting Rock 2.2 3.3 4.1 4.1 1.7 3.1 4.0 4.2
22 Experiencia Latin 2.7 3.5 4.1 4.4 1.9 3.6 4.0 4.4
23 Heart To Heart Pops 2.0 3.5 4.0 4.2 1.7 3.2 4.0 4.2
24 Tom's Diner Vocal 2.8 3.6 3.9 4.2 2.5 3.6 3.8 4.2
平均スコア 2.24 3.23 3.87 4.14 1.82 3.05 3.90 4.13
実レート 34k 50k 66k 83k 32k 49k 66k 83k
エンコーダ 1.1 1.1 1.1 1.1 1.1.1 1.1.1 1.1.1 1.1.1
形式 Opus Opus Opus Opus Opus Opus Opus Opus


テストに利用した音源を試聴したい方、ダウンロードしたい方、ログを見たい方はこちらへ。
http://zak.s206.xrea.com/bitratetest/main.htm

方法

銘柄に対する先入観が影響しないように、PSP ABC/HR v2.4とRP-HT560(1回目)、RP-HJE150(2回目)を利用して、8個のエンコードされた圧縮音源をランダムに並び替えて、銘柄を伏せて採点した。採点基準は、「音質劣化が非常に気になる」が1点 「気になる」が2点 「わずかに気になる」が3点 「原音からの音質変化が分かるが、気にならない」が4点 「音質変化がわからない、区別できない」が5点。4.9点以下の評点をつける場合は、ABXYテストを15回行い、12回以上(これ以上の成績をまぐれで出す確率は約2%)正解して、違いを聞き取れることを確認してからそうした。このテストでの採点は、15(音源)×2(エンコーダ)×4(ビットレート種類)×2(回)=240(回)。

使用したオプション

安定版 Opus 1.1 with opus-tools-0.1.9

opusenc --bitrate 32 in.wav out.opus
opusenc --bitrate 48 in.wav out.opus
opusenc --bitrate 64 in.wav out.opus
opusenc --bitrate 80 in.wav out.opus

テスト版 Opus 1.1.1-rc-49-g5db9e14 branch exp_lbr_tune, with opus-tools 0.1.9.

opusenc --bitrate 32 in.wav out.opus
opusenc --bitrate 48 in.wav out.opus
opusenc --bitrate 64 in.wav out.opus
opusenc --bitrate 80 in.wav out.opus

詳細な優劣の分析

FRIEDMAN version 1.24 (Jan 17, 2002) http://ff123.net/
Blocked ANOVA analysis

Number of listeners: 15
Critical significance:  0.05
Significance of data: 1.11E-016 (highly significant)
---------------------------------------------------------------
ANOVA Table for Randomized Block Designs Using Ratings

Source of         Degrees     Sum of    Mean
variation         of Freedom  squares   Square    F      p

Total              119          92.40
Testers (blocks)    14           6.66
Codecs eval'd        7          81.87   11.70   296.65  1.11E-016
Error               98           3.86    0.04
---------------------------------------------------------------
Fisher's protected LSD for ANOVA:   0.144

Means:

exp80k   org80k   org64k   exp64k   exp48k   org48k   exp32k   org32k   
  4.14     4.13     3.90     3.87     3.23     3.05     2.24     1.82   

---------------------------- p-value Matrix ---------------------------

         org80k   org64k   exp64k   exp48k   org48k   exp32k   org32k   
exp80k   0.854    0.001*   0.000*   0.000*   0.000*   0.000*   0.000*   
org80k            0.002*   0.001*   0.000*   0.000*   0.000*   0.000*   
org64k                     0.714    0.000*   0.000*   0.000*   0.000*   
exp64k                              0.000*   0.000*   0.000*   0.000*   
exp48k                                       0.015*   0.000*   0.000*   
org48k                                                0.000*   0.000*   
exp32k                                                         0.000*   
-----------------------------------------------------------------------

exp80k is better than org64k, exp64k, exp48k, org48k, exp32k, org32k
org80k is better than org64k, exp64k, exp48k, org48k, exp32k, org32k
org64k is better than exp48k, org48k, exp32k, org32k
exp64k is better than exp48k, org48k, exp32k, org32k
exp48k is better than org48k, exp32k, org32k
org48k is better than exp32k, org32k
exp32k is better than org32k

整形済みデータ

org32k	org48k	org64k	org80k	exp32k	exp48k	exp64k	exp80k
%feature	10	オリジナル版 Opus1.1	オリジナル版 Opus1.1	オリジナル版 Opus1.1	オリジナル版 Opus1.1	テスト版exp_lbr_tune	テスト版exp_lbr_tune	テスト版exp_lbr_tune	テスト版exp_lbr_tune
%feature	11	--bitrate 32	--bitrate 48	--bitrate 64	--bitrate 80	--bitrate 32	--bitrate 48	--bitrate 64	--bitrate 80
%feature	12	32 kbps	49 kbps	66 kbps	83 kbps	34 kbps	50 kbps	66 kbps	83 kbps
1.650	3.100	3.500	3.950	1.800	2.800	3.650	4.000	
2.600	3.650	4.100	4.350	1.950	3.200	4.150	4.350	
2.350	3.400	4.000	4.250	1.550	3.100	3.900	4.200	
1.700	2.900	3.750	4.050	1.700	2.850	3.950	4.000	
3.050	3.700	4.200	4.300	2.000	3.400	4.100	4.250	
1.750	2.350	3.450	3.700	1.500	2.400	3.550	3.550	
2.650	3.250	4.150	4.250	2.000	3.200	4.150	4.250	
2.100	3.450	3.900	4.200	1.750	3.150	3.950	4.200	
2.350	3.100	3.450	3.700	1.900	2.850	3.500	3.700	
1.650	2.450	3.800	4.250	1.700	2.300	3.750	4.250	
2.200	3.200	3.850	4.300	1.800	3.050	3.950	4.300	
2.150	3.350	4.050	4.100	1.650	3.050	4.000	4.150	
2.650	3.500	4.050	4.400	1.900	3.600	4.000	4.400	
1.950	3.450	3.950	4.150	1.650	3.200	4.000	4.150	
2.750	3.600	3.850	4.150	2.450	3.600	3.850	4.150	
%samples	41_30sec	Perc.
%samples	finalfantasy	Strings
%samples	ATrain	Jazz
%samples	BigYellow	Pops
%samples	FloorEssence	Techno
%samples	macabre	Classic
%samples	mybloodrusts	Guitar
%samples	Quizas	Latin
%samples	VelvetRealm	Techno
%samples	Amefuribana	Pops
%samples	Trust	Gospel
%samples	Waiting	Rock
%samples	Experiencia	Latin
%samples	HearttoHeart	Pops
%samples	Tom'sDiner	Acappella

注:公開試聴試験での多人数の平均評点と管理人の評点が似たような傾向になることは確認しているので言えるが、ある個人がある再生環境で、ある価値観のもとに聞いたときの評価が、ここに書いた管理人の評価に似るかどうかまでは何とも言えない。また、今回利用した音源とは傾向の異なる音を多くエンコードした場合、結果や順位が異なる可能性があります。
注:2016/07/12 画像中のビットレートが誤っていたため訂正しました。