サポートベクターマシンによる多種類の化学物質の発ガン性の予測

田辺 和俊, 鈴木 孝弘, 貝原 巳樹雄, 小野寺 夏生

1 緒 言

2 方 法

2. 1 SVMによる解析

1. SVCでは発ガン陽性・陰性の2群のどちらに分類されたかという結果しか出力されないのに対し、SVRでは、前報のANNと同じように発ガン性の予測値が連続変数として出力されるので、設定値と予測値との残差RMSE（Root Mean Squared Error）を指標に用いてモデルの最適化を行うことが可能である。
   
2. SVCでは予測結果について定量的な解析が困難であるが、SVRでは発ガン性予測の出力値を基に各記述子の寄与度や予測誤差の原因などの定量的解析を行うことが可能である。
   
3. 発ガン性予測システムを開発する場合、被検物質の予測結果として、SVCのように発ガン性の有無だけを出力するよりも、発ガン陽性と陰性の中間値を数字で出力する方が、発ガン性の確からしさ（境界値）の判定に有用である。
   

Table 1. Parameters to be adjusted in LIBSVM

		Meaning	Default
d	degree	set degree in kernel function	3
g	gamma	set gamma in kernel function	1/k
r	coef0	set coef0 in kernel function	0
c	cost	set the parameter C of C-SVC,	1
n	nu	set the parameter nu of nSVC, one-class SVM, and nSVR	0.5
p	epsilon	set the epsilon in loss function of eSVR	0.1

The k in the g option means the number of attributes in the input data.

このようにSVMではANNと異なり、解は一義的に決まるが、カーネルの選択の余地があり、問題によって最適のカーネルを選択する必要がある。カーネルとは上記のように非線形変換を行う関数であり、ANNにおけるニューロンのシグモイド関数に相当する。LIBSVMではLinear、Polynomial、Radial basis function（RBF）及びSigmoidの4種類のカーネルがあり、SVRのタイプもeSVRとnSVRの2種類が用意されているので、これらの組み合わせの中から最適のカーネルとSVRのタイプを探索する必要がある。
また、ANNと同様、SVMでも過学習の問題があり、幾つかのパラメータの最適設定が必要である。LIBSVMでは、Table 1に示すように、SVRのタイプ及びカーネルの種類によって調節すべきパラメータが異なり、それらパラメータを不適切な数値に設定すると過学習状態に陥る。そこで、SVRのタイプ及びカーネルの種類ごとに、これらのパラメータの数値を変えて予測誤差が最小になる最適条件を探索した。

2. 2 発ガン性データ及び記述子データ

Table 2. Numbers of compounds

Data Set	Positive	Negative	Total
Model construction	107	180	287
Model evaluation	45	122	167
Total	152	302	454

Table 3. Descriptors used

tReymers	SLOGP, LOGD_2, LOGD_7, LOGD_10, SMR, ROTBOND, FLEX, VOLUME, SURF_A, TPSA, HBD, HBA, DIPOLE, LUMO, HOMO
Helma	logP, molecular weight, /POLARIZA, largest interatomic distance, total_access, non_polar_access, polar_access, perc_nonpolar, dipole, point-chg. dipole, hybrid dipole, total energy, /DELTAHF, heat of formation, electronic energy, homo, lumo, homo-lumo, electronegativity, ionization potential, /STABIL, /STRAIN

2. 3 予測結果の評価法

3 結果と考察

3. 1 過学習の例

Table 4. Results showing the overtraining condition

g	c	RMSE(A)a	RMSE(B)b
0.001	1	0.5565	0.5534
0.01	1	0.5555	0.5526
0.1	1	0.5402	0.5425
1	1	0.3857	0.4797
10	1	0.1530	0.4684
100	1	0.1000	0.4732
1000	1	0.1000	0.4762
10000	1	0.1000	0.4768
100000	1	0.1000	0.4768
0.027	0.001	0.5568	0.5536
0.027	0.01	0.5568	0.5536
0.027	0.1	0.5563	0.5533
0.027	1	0.5532	0.5511
0.027	10	0.5225	0.5302
0.027	100	0.4271	0.4926
0.027	1000	0.3541	0.5931
0.027	10000	0.2470	0.6362
0.027	100000	0.1520	1.1863

a：RMSE of predicting for dataset A after training for dataset A, b：RMSE of predicting for dataset B after training for dataset A, and bold figures indicate minimum errors.

そこで、モデルの最適化の際には、セットAで学習し、セットBで検証した場合のRMSE(B)と、セットBで学習し、セットAで検証した場合のRMSE(A)との平均値が最小になる条件を探索した。その1例として、eSVR、RBFカーネルの場合にパラメータgとcの最適条件を探索した結果をTable 5に示す。

Table 5. Results of searching the best condition of parameters g and c in case of εSVR and RBF kernel

g	c	RMSE(A)a	RMSE(B)b	RMSEc
0.1	1	0.5425	0.5164	0.5296
1	1	0.4797	0.4893	0.4845
5	1	0.4696	0.4648	0.4672
8	1	0.4675	0.4627	0.4651
9	1	0.4679	0.4621	0.4650
10	1	0.4684	0.4620	0.4652
15	1	0.4700	0.4650	0.4675
50	1	0.4743	0.4746	0.4745
9	0.01	0.5502	0.5536	0.5519
9	0.1	0.5221	0.5268	0.5245
9	0.5	0.4640	0.4624	0.4632
9	0.6	0.4645	0.4615	0.4630
9	0.7	0.4655	0.4620	0.4637
9	1	0.4679	0.4621	0.4650
9	5	0.4690	0.4655	0.4673
5	0.6	0.4656	0.4642	0.4649
8	0.6	0.4650	0.4617	0.4634
9	0.6	0.4645	0.4615	0.4630
10	0.6	0.4645	0.4618	0.4632
13	0.6	0.4659	0.4635	0.4647

a：RMSE of predicting for dataset A after training for dataset B, b：RMSE of predicting for dataset B after training for dataset A, c：average of RMSE(A) and RMSE(B), and bold figures indicate minimum errors.

3. 2 モデルの最適化と予測結果

Table 6. Optimized parameters in each case

Type	Kernel	d	g	r	c	p
eSVR	Linear				1	3
	Polynomial	2	0.03		110	0.3
	RBF		9		0.6	0.1
	Sigmoid		0.08	-0.5	10	0.3
Type	Kernel	d	g	r	c	n
nSVR	Linear				1	0.7
	Polynomial	3	0.025		350	0.7
	RBF		4		1	0.5
	Sigmoid		0.2	-0.3	2	0.7

このようにしてモデルの最適化を行った後、テストセットの記述子データを入力して発ガン性の予測値を求めた。予測値と設定値との平均誤差（RMSE）と的中率（CCR）をTable 7に示す。SVRのタイプとカーネルの組み合わせの中では、eSVRのRBFにおいて的中率が最高になった。LIBSVMのマニュアル [22] ではRBFカーネルを推奨しているが、本研究の場合もRBFカーネルが最善の結果となった。

Table 7. RMSE and correct classification rate (CCR)

Type	Kernel	RMSE	CCR (%)
eSVR	Linear	0.4666	71.3
	Polynomial	0.4928	62.9
	RBF	0.4624	74.9
	Sigmoid	0.4616	72.5
nSVR	Linear	0.4853	64.7
	Polynomial	0.4896	63.5
	RBF	0.4837	64.7
	Sigmoid	0.4830	73.1

Bold figures indicate the best conditions.

SVMによるこの74.9 % という的中率は、前報のANNの73.7 %、及びPTC参加者中の最高値であるKWA1の71.1 % [25] より高く、既存の手法の中では最も高い。この比較はROCでも確認できる。ROCはFigure 1に示すように、横軸にFalse Positive、縦軸にTrue Positiveの的中率をとり、各手法をプロットするもので、左上隅（x=0.0, y=1.0）に近い手法ほど高性能であると評価する方法である。前報のANNは、False Positiveがきわめて少なく、発ガン陰性の的中率はきわめて高いが、True Positiveの成績は非常に悪い。本報のSVMでは、陰性の的中率はANNと同程度であるが、陽性の的中率が少し向上している。PTCの諸手法でも陽性と陰性をバランスよく的中できたものは皆無である。SVMとKWA1を比較すると、我々のSVMの方が僅かながら左上隅に近く、高成績であることが確認できる。PTC参加者の中にもSVMを用いた例もあるが、その的中率は60 % 以下であるので、直接、比較できない。ただし、前報に記したように、我々はテスト化合物についての発ガン性の有無のデータを知っている条件下で最善のモデルを探索したので、そのデータを知らないPTCの参加者の結果との比較は公平ではなく、PTC参加者もそのデータを知った上で最善モデルを探索すれば、我々の的中率74.9 % を越える可能性はある。本研究において、male rat以外をSVMで解析しPTC参加者の成績と比較しなかった理由はここにある。

Figure 1. ROC of the three models for male rat (SVM: this study, ANN: our previous study, KWA1: the best model in the PTC)

3. 3 SVMとANNの性能比較

Table 8. Cross tabulation for SVR (εSVR-RBF kernel) and ANN (in parentheses)

		Predicted
		Positive	Negative
Experiment	Positive	8 (2)	37 ( 43)
	Negative	5 (1)	117 (121)

ANNもSVMも非線形解析手法であるが、ANNの方が中間層のユニット数などの調節可能パラメータの数が多いので、一般に複雑な分類・回帰問題ではANNの方が高い予測精度を示す。本研究の非同族体の発ガン性予測もきわめて複雑な分類問題であるため、ANNの方が高い予測精度を示すと予想された。
しかし、本研究の結果ではSVMの方がわずかながら予測精度が高くなり、非線形性の関係とは逆転している。この原因は現時点では未解明であるが、前報のANNでは局所解問題のために、73.7 % という的中率が最適解でない可能性が考えられる。ANNによる解析では、局所解問題の解決のために、ネットワークの重みやニューロンの閾値の初期値を3万回変えて学習を行い、最適解を探索したので、7台のPCを用いて6ヶ月以上の計算時間が必要であった。しかし、それでも初期値によってすべて異なる解が得られたので、最適解が得られていなかった可能性がある。
これに対して、SVMは非線形性の点ではANNに劣るものの、局所解問題がなく、処理がきわめて迅速であり、ANNで数ヶ月かかった学習が瞬時に処理できるのはSVMの大きな利点である。この迅速処理により、ANNでは実行不可能と思われる100万レコードを超える大規模データの解析も行われている [22]。
SVMやANNだけでなく、各種の予測手法の性能比較については様々な分野の様々な問題で行われているが [13 - 15, 24, 26 - 41]、SVMの優位性を示した報告もあり、最適の解析手法は問題によって異なると考えられる。発ガン性予測についてはこれまで多彩な手法による予測結果が報告されているが、その中では最大規模であるPTCデータについて、今回我々が用いたSVMはきわめて迅速な処理が可能でありながら、最高の予測性能を示したことから、少なくとも大規模の非同族化合物の発ガン性予測には現状ではSVMが最も適していると結論できる。

3. 4 今後の課題

Figure 2. Histogram of output values of in case of eSVR-RBF kernel (the bold bar denotes the boundary line between positive and negative groups)

このような的中率が低い原因としては、PTCの発ガン性データに問題があることが考えられる。第1は、Table 2に示す陽性と陰性化合物のアンバランスであり、圧倒的に多い陰性化合物に偏って学習が行われた可能性がある。第2は、学習用化合物（NTPによる試験結果）と、テスト用化合物（FDAの試験結果）との化学構造特性の違いであり、前者は構造の簡単な低分子化合物が多いのに対し、後者は薬物等の複雑な構造の化合物が多いと指摘されている [25]。化学物質の発ガンには生体内での代謝も重要であり、それには化学物質の構造の複雑度も関係する点を考えると、PTCの学習用とテスト用化合物の構造特性の違いが的中率低下の原因になっている可能性は十分考えられる。したがって、PTCのデータよりもっと信頼性の高い発ガン性のデータを用いてSVMによる解析を行う必要がある。
前記のように、発ガン性未知の化学物質の構造は多種多様であり、このような非同族体の発ガン性を構造から統一的に予測することはきわめて困難な問題である。しかし、不特定の化学物質の発ガン性予測手法の開発は喫緊の課題であり、そのためには信頼性の高い発ガン性データベースの開発が不可欠である。上記のようにPTCの発ガン性データには幾つかの問題があり、また既存の発ガン性データベースにも様々な問題点がある [3]。
そこで、我々のグループでは、これまでにIARCやNTP等、幾つかの試験機関で行われた発ガン性データの信頼性を総合的に評価し、独自に格付けした発ガン性データベースの開発を進めている。今後、本研究で発ガン性予測への有効性が実証されたSVMを用いて、この大規模な発ガン性データを解析することにより、化学物質の構造から発ガン性を高精度で予測するシステムを開発し公開したいと考えている。

4 結 論

参考文献