    \documentclass[japanese]{jnlp_1.4}
\usepackage{jnlpbbl_1.3}
\usepackage[dvipdfm]{graphicx}
\usepackage{amsmath,amssymb}
\usepackage{algorithmic}


\Volume{24}
\Number{4}
\Month{September}
\Year{2017}

\received{2016}{9}{5}
\revised{2016}{12}{6}
\rerevised{2017}{4}{22}
\accepted{2017}{6}{14}

\setcounter{page}{523}

\jtitle{対話行為に固有の特徴を考慮した自由対話システムにおける\\
	対話行為推定}
\jauthor{福岡　知隆\affiref{jaist}\affiref{nextremer} \and 白井　清昭\affiref{jaist}}
\jabstract{
対話行為の自動推定は自由対話システムにおける重要な要素技術のひとつである．機械学習を用いた既存の対話行為の推定手法では，機械学習に用いる特徴のセットを1つ設定するが，この際に個々の対話行為の特質は十分に考慮されていなかった．機械学習の特徴の中にはある特定の対話行為の分類にしか有効に働かないものもあり，そのような特徴は他の対話行為の分類精度を低下させる要因になりうる．これに対し，本論文では対話行為毎に適切な特徴のセットを設定する．まず，28個の初期の特徴を提案する．次に，対話行為毎に初期特徴セットから有効でない特徴を削除することで最適な特徴セットを獲得する．これを基に，入力発話が対話行為に該当するかを判定する分類器を対話行為毎に学習する．最後に，個々の分類器の判定結果ならびに判定の信頼度から，適切な対話行為をひとつ選択する．評価実験の結果，提案手法は唯一の特徴セットを用いるベースラインと比べてF値が有意に向上したことを確認した．
}
\jkeywords{自由対話，対話システム，対話行為，機械学習，特徴選択}

\etitle{Dialog Act Classification Using Features Intrinsic to Dialog Acts in an Open-Domain Conversation}

\eauthor{Tomotaka Fukuoka\affiref{jaist}\affiref{nextremer} \and Kiyoaki Shirai\affiref{jaist}} 
\eabstract{
The classification of dialog acts of user's utterance is one of the important fundamental techniques in open-domain conversational systems. Most previous studies on the classification of dialog acts were based on supervised machine learning; however, the characteristics of individual dialog acts were not considered. Some features for machine learning may increase the accuracy of classification for a particular dialog act, whereas decrease the accuracy for other dialog acts. In this study, an appropriate feature set is defined for each dialog act to improve the performance of the classification of the dialog acts. First, 28 features are proposed as an initial set. Second, for each dialog act, an optimal set of the features is identified by removing ineffective features from the initial set. Third, binary classifiers that judge whether a dialog act is suitable for a given utterance are trained using the optimized feature set. Finally, one dialog act is chosen based on the results provided by the binary classifiers.
The reliability of the judgment of the binary classifiers is also considered. Results of experiments showed that our proposed method significantly outperformed a baseline that was trained using a single feature set.
}
\ekeywords{Open Domain Conversation, Dialog System, Dialog Act, Machine Learning, Feature Selection}

\headauthor{福岡，白井}
\headtitle{対話行為に固有の特徴を考慮した自由対話システムにおける対話行為推定}

\affilabel{jaist}{北陸先端科学技術大学院大学 先端科学技術研究科}{School of Advanced Science and Technology, Japan Advanced Institute of Science and Technology}
\affilabel{nextremer}{現在，株式会社Nextremer}{Presently with Nextremer Co., Ltd.}



\begin{document}
\maketitle


\section{はじめに}

近年，対話の内容を特定のタスクに限定しない自由対話システムの研究が盛んに行われている\cite{Libin:04:a,Higashinaka:14:a}．
対話システムの重要な要素技術の1つにユーザの発話の対話行為の自動推定がある．
対話行為の推定は自由対話システムにおいて重要な役割を果たす．
例えば，対話行為が「質問」の発話に対しては知識ベースから質問の回答を探して答えたり，映画の感想を述べているような「詳述」の発話に対しては意見を述べたり単にあいづちを返すなど，対話システムは相手の発話の対話行為に応じて適切な応答を返す必要がある．

対話行為の推定手法として機械学習を用いた手法が既に提案されている\cite{milajevs:14:a,isomura:09:a,sekino:10:a,kim:10:a,Meguro:13:a}．
しかし，機械学習に用いる特徴\footnote{本稿では，機械学習による識別のために用いる情報の種類（タイプ）のことを「特徴」，その具体的な情報のことを「特徴量」と呼ぶ．例えば，「単語3-gram」は特徴，「思い+ます+か」はその特徴量である．}を設定する際，個々の対話行為の特質が十分に考慮されていないという問題点がある．
既存研究の多くは，対話行為の自動推定を多値分類問題と捉え，対話行為の分類に有効と思われる特徴のセットを1つ設定する．
しかし，機械学習の特徴の中には，ある特定の対話行為の分類にしか有効に働かないものもある．
例えば，ユーザの発話の対話行為が（質問に対する）「応答」であるかを判定するためには，発話者が交替したかという特徴は重要だが，対話行為が「質問」であるかを判定するためには，相手の発話の後に質問することもあれば自身の発話に続けて質問することもあるので，話者交替は重要な特徴とは考え難い．

本論文では，上記の問題に対し，対話行為毎に適切な特徴のセットを設定することで個々の対話行為の推定精度を改善し，それによって全体の対話行為推定の正解率を向上させる手法を提案する．


\section{関連研究}

対話を形成する上で，話者の対話行為は対話の展開に強い影響を与えるだけでなく，対人印象や対人関係にも影響を及ぼしている\cite{nishida:92:a}．自由対話においては，対話を継続するか否かの判断はユーザに委ねられており，対話の内容のみならず，対話システムの不自然な応答や不快な発話は対話の破綻に繋がる．自由対話を継続するには，ユーザと対話システムが良好な関係を築く必要があり，そのためには，話者の対話行為を正確に推測し，それに応じて適切な応答を返さなければならない．


\subsection{対話行為の利用}

対話システムにおける対話行為情報の利用目的として，ユーザ意図の理解，システムの応答文生成における条件，システムの対話制御などが挙げられる\cite{Higashinaka:14:a,inui:01:a,Maeda:11:a,Sugiyama:13:a}．例えば，ユーザの発話を分析し，対話行為にクラス分けすることは，ユーザの意図理解の1つとみなせる．ユーザが挨拶をしているか，何かを質問しているのかなどをシステムが理解することで，その後の対話の展開を決定する．
南らは行動予測確率に基づく報酬を設定する部分観測マルコフ決定過程(POMDP)を用いた対話制御手法において，対話行為列のtri-gramによる行動予測確率を導入した手法を提案し，その有効性を確認した\cite{Minami:12:a}．

また，発話からの情報抽出のためのフィルタリング条件としても対話行為の情報は用いられる．平野らは，ユーザの発話からユーザ情報を抽出する手法を提案し，その手法では発話がユーザ情報を含むか否かを対話行為に基づき判断している\cite{Hirano:16:a}．


\subsection{対話行為推定}

教師あり機械学習に基づく対話行為の自動推定では，機械学習に用いる基本的な特徴として単語n-gramが利用されることが多い．これに加えて独自の特徴も提案されている．

単語uni-gramは語順を考慮していないため，Milajevsらは単語bi-gramを特徴として用い，単語uni-gramのみよりもbi-gramを併用したときの方が高い精度が得られることを示した\cite{milajevs:14:a}．また，対話の流れを考慮するために前の発話の対話行為を特徴として利用し，その効果を評価した．
磯村らは，頻度2以上の単語uni-gramと単語bi-gram，及び1つ前の発話の対話行為を特徴として，Conditinal Random Field (CRF)を用いて対話行為を推定し，75.77\%の推定精度を得たと報告している\cite{isomura:09:a}．機械学習アルゴリズムとしてSupport Vector Machine (SVM)とNaive Bayesを用いた実験も行ったが，これらでは1つ前の発話の対話行為を特徴として利用しておらず，推定精度はそれぞれ66.95\%と60.14\%となり，CRFより劣る．
関野らは，特徴として発話文字数，内容語数，発話順番を提案し，磯村の手法\cite{isomura:09:a}の特徴にこれらを1つ以上追加したモデルを評価した\cite{sekino:10:a}．全ての組み合わせにおいてその有効性が確認され，内容語数と発話順番を追加した場合が最も高い精度となった．
Kimらは，bag-of-wordsに加え，対話中の話者の役割などの構造的な情報と，直前の発話や同一話者によるこれまでの対話行為などといった対話の依存関係を機械学習の特徴として提案した\cite{kim:10:a}．ドメインが限られた対話を評価の対象としているが，96.86\%という高い推定精度が得られている．

目黒らは，多種多様な話題や語彙を含み，また非文法的な文が多いマイクロブログ中の発話に対する対話行為自動付与のため，シソーラスを用いて抽象化した単語n-gramと文字n-gramを特徴とする手法を提案した\cite{Meguro:13:a}．評価実験の結果，Bag-of-Ngramsを特徴として用いたベースライン手法よりも高い精度を得た．

これらの先行研究では，
機械学習のために用いる特徴のセットは1つであり，それで全ての対話行為を推定している．
しかし，どの特徴がどの対話行為の推定に有効に働くかなど，特徴と対話行為の関係については議論されていない．本研究では，発話がある対話行為を持つか否かを推定する機械学習において，対話行為それぞれに対して有効な特徴を自動的に選択する．


\section{提案手法}

本節では，自由対話における発話を入力とし，その対話行為を推定する手法について述べる．
対話行為の分類クラスをあらかじめ定義し，その中から適切な対話行為のクラスを1つ選択する．
従来手法の多くは教師あり機械学習に基づくが，学習のための特徴のセットはあらかじめ一律に定められている．
しかし，全ての特徴が全ての対話行為の分類に必要というわけではなく，ある特徴が特定の対話行為の分類に貢献しないことがある．
そのような特徴は正解率を低下させる要因となりうる．
この問題を解決するために，提案手法では，対話行為の分類クラス毎に異なる特徴のセットを設定する．

提案手法の処理の流れを図\ref{fig:proposed_method}に示す．
対話行為毎に，入力発話がその対話行為に該当するか否かを判定する二値分類器を学習する．
その際，対話行為毎に最適な特徴のセットを実験的に決める．
また，分類と同時に判定の信頼度も算出する．
次に，二値分類器による判定の結果，ならびに判定の信頼度を基に，入力発話の対話行為をひとつ選択する．本論文では，対話行為を選択するアルゴリズムとして，\ref{sec:対話行為の選択}項で述べる4つの手法を提案する．

本論文では，各対話行為の二値分類器をL2正則化ロジスティック回帰によって学習し，学習ツールとしてLIBLINEAR\cite{fan:08:a}を用いた．LIBLINEARの学習パラメタはデフォルト値を用いた．
判定の信頼度はLIBLINEARが出力する確率を用いた．

\begin{figure}[t]
\begin{center}
\includegraphics{24-4ia1f1.eps}
\caption{提案手法の流れ}
\label{fig:proposed_method}
\end{center}
\end{figure}


\subsection{対話行為の定義}

対話行為の定義としてはSWBD-DAMSL\cite{jurafsky:97:a}が著名だが，かなり詳細な対話行為が定義されており，また自由対話を対象としたものではない．
自由対話を想定した対話行為のセット\cite{Meguro:14:a}も提案されてはいるが，本研究では，今後構築を目指す自由対話システムの仕様を考慮して独自に定義した9つの対話行為のセットを用いる．
その一覧を表\ref{tab:dialog_tag}に示す．

\begin{table}[t]
\caption{対話行為の定義}
\label{tab:dialog_tag}
\input{01table01.txt}
\end{table}


\subsection{機械学習に用いる特徴}

人間同士の自由対話を人手で分析し，対話行為の言語的特徴を考慮して，対話行為の推定に有効と思われる28個の特徴を設定した．
その一覧を表\ref{tab:feature_type_list}に示す．
これらは大きく4つのグループに分けられる．

\begin{table}[t]
\caption{対話行為推定のための特徴}
\label{tab:feature_type_list}
\input{01table02.txt}
\end{table}

\noindent
\textbf{グループ1}\quad
$f_1$〜$f_{10}$は，発話の内容を表わし，全ての対話行為の分類に有効と考えられる特徴である．
現在の発話（対話行為を推定するべき入力発話）ならびにその直前の発話に含まれる単語n-gram，自立語，文末に出現する単語n-gramならびに付属語の列を特徴とする．
$f_9$, $f_{10}$は，それぞれ現在の発話と前発話の単語n-gram，付属語列の組を表わす．
単語n-gramを用いた特徴($f_1$, $f_2$, $f_5$, $f_6$, $f_9$)では$n=1,2,3$とした．

\noindent
\textbf{グループ2}\quad
$f_{11}$〜$f_{17}$は，発話の内容を表わし，特定の対話行為の推定に有効に働くと考えられる特徴である．
$f_{11}$〜$f_{15}$ はそれぞれの対話行為の発話で頻出すると思われるキーワードである．これらのキーワードは訓練データを参照して人手で選定した．
$f_{16}$は要求の発話の文末によく見られる表現であり，文末が命令形の動詞，動詞基本形+「な」の否定の命令形，動詞連用形+「て」，動詞連用形+「や」，これらの表現+「よ」or「ね」，のいずれかに当てはまることを表わす．
$f_{17}$は，あいづちを示唆する文末表現「ね」が出現するかを表わす．

\noindent
\textbf{グループ3}\quad
$f_{18}$〜$f_{21}$は，発話の内容以外の情報を表わし，全ての対話行為の分類に有効と考えられる特徴である．
$f_{18}$，$f_{19}$は，それぞれ相手もしくは話者自身の直近のいくつかの発話の対話行為の列である．対話行為列の長さは実験的に定める．詳細は\ref{sec:対話行為列の長さの最適化}で述べる．
$f_{20}$は発話文中の文字数に基づく発話の長さである．
発話長を機械学習の特徴として用いる場合，長さを適当な間隔（$1 \sim 5$，$6 \sim 10$，11以上，など）に切って発話長を分類するのが一般的であるが，その適切な間隔を決めるのは難しい．
本論文では，「発話長が $l \pm 2$である」($3 \le l \le 19$)，「発話長が20以上である」といった特徴量で発話長を表現する．
例えば，発話長が10の発話に対しては，$l = 8,9,10,11,12$の特徴量の重みを1とする．
$f_{21}$は現在と直前の発話の話者が同じかどうかを表わす．
実験に用いた自由対話コーパスでは，同じ話者が2つ以上の発話を連続して発言することがあるため，この特徴を導入した．

\noindent
\textbf{グループ4}\quad
$f_{22}$〜$f_{28}$は，発話の内容以外の情報を表わし，特定の対話行為の推定に有効に働くと考えられる特徴である．
$f_{22}$の「自立語の有無」は自立語を含まなくても生成できる「応答 (YesNo)」，「あいづち」，「フィラー」とその他の対話行為の区別に有効であると考えられる．
$f_{23}$〜$f_{25}$ における「自立語繰り返し」とは，相手の前発話の自立語が現在の発話で繰り返し用いられるかを表わす．単語を繰り返して聞き返す「確認」や，反復による「あいづち」の特徴を捉えられる．
$f_{23}$は単純に自立語が繰り返されるか否かを考慮するが，より厳密に「確認」，「あいづち」を示唆する自立語の繰り返しを区別するため，繰り返される自立語が相手の前発話の文末に出現する場合を$f_{24}$，発話で繰り返される自立語が現在の発話における唯一の自立語である場合を$f_{25}$とする．
$f_{26}$, $f_{27}$ はそれぞれ発話が自立語1語，非自立語1語で構成されているかを表わす．
自立語1語で表現されることの多い対話行為としては「応答（平叙）」や「あいづち」がある．
$f_{28}$は同じ単語が発話の中で複数回使われているかを表わす．
応答表現や「あいづち」によく見られる繰り返しによる強調表現に対応するために導入した．

対話行為を推定する二値分類器を学習する際には，発話を特徴量のベクトルで表現する．
特徴量ベクトルの重みは，その特徴量が発話に出現していれば1，それ以外は0とする．


\subsection{特徴セットの最適化}
\label{sec:特徴セットの最適化}

ここでは，個々の対話行為毎に，対話行為推定のための特徴を最適化する手法について述べる．

\begin{figure}[b]
\input{01fig02-algo.txt}
\caption{特徴の選択アルゴリズム}
\label{al:feature_selection}
\end{figure}


\subsubsection{最適な特徴セットの決定}
\label{sec:最適な特徴セットの決定}

個々の対話行為に対し，表\ref{tab:feature_type_list}に示した特徴の中から，その対話行為の分類に有効でないものを削除することで，対話行為毎に最適な特徴のセットを決める．
そのアルゴリズムを図~\ref{al:feature_selection}に示す．
$E$は全特徴の集合，$E'$は最適化された特徴の集合である．
$f(X)$は，$X$を特徴として学習した分類器の開発データにおけるF値\footnote{発話がある対話行為に該当するか否かを判定する二値分類のF値．}である．
特徴$f_i$を除いたときのF値$f(E \setminus \{ f_i \})$が全特徴を用いたときのF値$f(E)$よりも低ければ，$f_i$を有効な特徴とみなして$E'$に入れ，そうでなければ削除する．
これを全ての特徴について行い，1つ以上の特徴が削除されたら，残された特徴を新たに全特徴の集合とみなして同様の操作を行う．
ただし，個別に評価したときに有効でない特徴は$E'$に残されていないにも関わらず，7行目の段階で複数の特徴が削除された$E'$を用いたときのF値がもとの$E$と比べて低くなることがある．そのときは，
特徴を削除することによって最もF値が向上する（最も悪影響を与える）ものを
1つ選択し，それのみを削除した特徴の集合を新たな$E$とする（10行目）．
これを特徴が削除されなくなるまで繰り返す．


\subsubsection{対話行為列の長さの最適化}
\label{sec:対話行為列の長さの最適化}

特徴$f_{18}$と$f_{19}$は，「質問(YesNo)」の次には「応答(YesNo)」の発話が出現しやすいといったように，対話行為の並びを考慮するために導入した．
しかし，直前だけでなく，2つ以前の発話からの対話の流れが対話行為の推定に有効である場合も考えられる．
このとき，どれくらい前の発話を辿ればよいか，つまり過去の発話の対話行為列の長さをいくつに設定すればよいかは，分類対象とする対話行為によって異なると考えられる．

本研究では，特徴$f_{18}$と$f_{19}$をそれぞれ相手もしくは話者自身の過去の$N_h(=1,2,3,4,5)$個の発話の対話行為の列とし，$N_h$の値を対話行為に応じて最適化する．
すなわち，対話行為毎に，開発データでのF値が最大となる$N_h$を選択する．
また，$N_h$の値が大きいときには特徴量の数が増えるため，特徴量の選択を行う．
具体的には，特徴量と対話行為の相関の強さを$\chi^2$値で測り，それが閾値$T_h$よりも小さい特徴量を削除する．
$T_h$は0, 1, 5, 10のいずれかとし，$N_h$と同様に開発データでのF値が最大となる値を選択することで最適化する．

$N_h$と$T_h$の最適化は，\ref{sec:最適な特徴セットの決定}で述べた最適な特徴セットを決定する前に行う．
このとき，特徴は$f_{1}$（単語n-gram）と$f_{18}$もしくは$f_{19}$のみを使用する\footnote{予備実験では，先に最適な特徴のセットを決定し，その後$N_h$と$T_h$の最適化を行う手法も試したが，対話行為推定のF値はわずかに低下した．}．


\subsection{組み合わせ特徴量}
\label{sec:組み合わせ特徴量}

本研究で使用するLIBLINEARでは特徴量間の相関関係は考慮されていない．しかし，特徴量の組み合わせが対話行為の分類に特に有効に働く可能性がある．
そのため，2つの特徴量を組み合わせた特徴量も使用する．
以下，これを「組み合わせ特徴量」と呼ぶ．
ただし，全ての特徴量を組み合わせると特徴量の数が増大するため，図\ref{al:feature_selection}のアルゴリズムにより得られたそれぞれの対話行為に最適な特徴セットのF値
と，その特徴セットから1つの特徴を除いた場合のF値の差が最も大きい特徴を「最も有効な特徴」と定義し，最も有効な特徴の特徴量とそれ以外の特徴量の組のみを組み合わせ特徴量として導入する．


\subsection{対話行為の選択}
\label{sec:対話行為の選択}

本項では，個々の対話行為の二値分類器の出力結果から，最も適切な対話行為を1つ選択する手法について述べる．


\subsubsection{判定の信頼度による選択}
\label{sec:判定の信頼度による選択}

対話行為の二値分類器が出力する信頼度を比較し，それが最も高い対話行為を選択する．
具体的には，式(\ref{eq:model_simple})にしたがって最終的に選択する対話行為$\hat{d}$を決定する．
$r(d_i)$ は対話行為$d_i$の判定の信頼度を表わす．
\begin{equation}
  \label{eq:model_simple}
  \textstyle \hat{d} = \arg\max_{d_i} r(d_i)
\end{equation}


\subsubsection{信頼度を特徴量とする機械学習による手法}
\label{sec:信頼度を特徴量とする機械学習による選択}

9つの対話行為の二値分類器の出力結果を特徴量とし，対話行為を選択するモデルを機械学習する．
当然だが，\ref{sec:判定の信頼度による選択}で述べた手法において，信頼度1位の対話行為が常に正解となるわけではない．
ここでの狙いは，「対話行為$d_a$と$d_b$について，$d_a$の信頼度が1位であるが，$d_a$と$d_b$の信頼度の差がそれほど大きくないときは，$d_b$が正解である可能性が高い」といった傾向を自動的に学習することにある．
この手法では以下の特徴量を用いる．
\begin{itemize}
\item 対話行為$d_i$ の判定の信頼度．
\item 信頼度の順位が$n$位の対話行為の判定の信頼度．($n=1,2,3$)
\end{itemize}
上記の特徴量の重みは信頼度の値とする．
後者の特徴量は，テキスト分類において，他クラスの信頼度を考慮する有効性が高橋らにより報告されている\cite{Takahashi:07:a}ことから設定した．
機械学習アルゴリズムとしてロジスティック回帰(LIBLINEAR)を用いた．


\subsubsection{信頼度に対する重み付けに基づく手法}
\label{sec:信頼度に対する重み付けに基づく手法}

予備実験の結果，「自己開示」以外の対話行為を持つ発話に対して「自己開示」が誤って選択される事例が多いことがわかった．
「自己開示」の信頼度は他の対話行為に比べて平均的に高く，「自己開示」が最終的に選ばれやすいためであった．
これは，\ref{sec:data}項で後述するように，訓練データにおける「自己開示」の出現頻度が高いためと考えられる．
このような信頼度の不均衡を是正するため，式(\ref{eq:model_weighting})にしたがって対話行為を選択する．
\begin{equation}
  \label{eq:model_weighting}
  \hat{d} =
  \left\{
  \begin{array}{ll}
    \arg \max_{d_i} w_i \cdot r(d_i) & \textrm{if rank(1)=自己開示} \\
    \arg \max_{d_i} r(d_i)           & \textrm{if それ以外} \\
  \end{array}
  \right.
\end{equation}
rank(1)は信頼度の順位が1位の対話行為を表わす．
$w_i$ は対話行為$d_i$の信頼度に与える重みであり，「自己開示」以外の対話行為の信頼度を大きくする働きをする．
また，「自己開示」に対する重みは1と設定する．

\begin{figure}[b]
\input{01fig03-algo.txt}
\caption{信頼度に対する重みを決定するアルゴリズム}
\label{al:weighting_method}
\vspace{-0.5\Cvs}
\end{figure}

信頼度の重みを反復推定するアルゴリズムを図\ref{al:weighting_method} に示す．
変数$j$は反復のステップを表わす変数で，7 〜13行目の処理を繰り返す．
開発データ$D_{dev}$における発話$u_k$に対し，
その正解の対話行為が自己開示ではなく，誤って自動推定された対話行為が自己開示であり，$uncertainty(u_k)$が閾値$TU_i$より大きいとき（9行目），正解の対話行為$d_i$に対する重み$w_i^{(j)}$を10行目の式にしたがって更新する．
$uncertainty(u_k)$は発話$u_k$ に対する対話行為推定の不確かさを表わす指標であり，9つの対話行為に対する判定の信頼度$r(d_i)$を得たとき，その1位の信頼度と2位の信頼度の比と定義する\footnote{1位と2位の信頼度が近ければ近いほど，1位の対話行為が正しくない可能性が高い．}．
$TU_i$は対話行為$d_i$に対する重みを更新するか否かを決める$uncertainty(u_k)$の閾値である．
基本的には，不正解となった「自己開示」の信頼度と正解の対話行為$d_i$の信頼度の差が大きいときほど$w_i^{(j)}$により大きい値を加える．
$w_i^{(j)}$の値を増やすことにより，正解の対話行為$d_i$の信頼度が高くなり，選ばれる可能性が増す．
$\delta$は重みの1回当たりの変動量を調整するパラメタである．本研究では$\delta=0.001$とした．
開発データの全ての発話について重みの調整が終わったら，新しい重みを用いて，システムによる自動推定の結果を更新する（13行目）．

一般に$w_i^{(j)}$は収束するが，本研究では収束後の重みではなく，1回の反復毎に開発データにおける対話行為推定の改善度$eval_j(d_i)$を測り，これが最も高い時点での重みを選択する（15行目）．$eval_j(d_i)$の定義は式(\ref{eq:def_eval})であり，対話行為が$d_i$である発話のうち重み付けによって新たに正解となった発話数($|B|$) と，対話行為が「自己開示」である発話のうち重み付けによって新たに不正解となった発話数($|W|$)の差である\footnote{$predict_0(u_k)$は重み付けしない手法で選択された発話$u_k$の対話行為を表わす．}．
\begin{equation}
  \label{eq:def_eval}
  \begin{array}[t]{l}
    eval_j(d_i) = |B| - |W| \\
    \hspace*{3mm}
    B = \{ u_k \;|\; gold(u_k)=d_i \land predict_0(u_k) \ne gold(u_k) \land predict_j(u_k) = gold(u_k) \} \\
    \hspace*{3mm}
    W = \{ u_k \;|\; gold(u_k)=自己開示 \land predict_0(u_k) = gold(u_k) \land predict_j(u_k) \ne gold(u_k) \}
  \end{array}
\end{equation}

本手法では，$uncertainty(u_k)$が低いときは重みの更新を行わない．これは個々の対話行為の二値分類器の結果が十分に信頼できるとみなしているためである．閾値$TU_i$は重みの更新を行うか行わないかをコントロールする働きをする．$TU_i$は重み$w_i$の推定に用いたものとは別の開発データを用いて最適化する．$TU_i$を変動させ，学習した重みを用いたシステムの eval の値が最大となる閾値を選択する．

\begin{table}[b]
\caption{信頼度1位が不正解，2位が正解となる対話行為の組と発話数}
\label{tab:classification error of dialog pair}
\input{01table03.txt}
\vspace{4pt}\small
$d_1$: 自己開示，$d_2$: 質問(YesNo)，$d_3$: 質問(What)，$d_4$: 応答(YesNo)，$d_5$: 応答（平叙），$d_6$: あいづち，$d_7$: フィラー，$d_8$: 確認，$d_9$: 要求
\end{table}


\subsubsection{特定の対話行為の組に対して機械学習で識別する手法}
\label{sec:特定の対話行為の組に対して機械学習で識別する手法}

対話行為の中には互いに識別が難しい組み合わせがある．
表\ref{tab:classification error of dialog pair} は，対話行為のそれぞれの組に対し，一方の対話行為の信頼度の順位が1位でかつ不正解，もう一方の対話行為の信頼度の順位が2位でかつ正解となる発話の開発データにおける数を示している．
この表において発話数（誤り数）の多い対話行為の組は，特に判定が難しいと考えられる．
ここでは，このような対話行為の組に対し，適切な対話行為を選択する分類器を機械学習することを試みる．
ただし，「自己開示」($d_1$)については，\ref{sec:信頼度に対する重み付けに基づく手法} で述べた信頼度の重み付けによる手法で対応することとし，ここでは$d_1$を含まない組の中で表\ref{tab:classification error of dialog pair} における誤り発話数が多い組に着目する．
具体的には，他と比べて誤り発話数の多い（あいづち，フィラー）と（質問(YesNo), 確認）の2つの組について，機械学習により適切な対話行為を選択する．
以上をまとめると，本手法は式(\ref{eq:model_dialog_act_pair})にしたがって$\hat{d}$を決定する．
\begin{equation}
  \label{eq:model_dialog_act_pair}
  \hat{d} =
  \left\{
  \begin{array}{ll}
    \arg \max_{d_i} w_i \cdot r(d_i)   & \textrm{if rank(1)=$d_1$(自己開示)} \\
    \mathrm{classify(rank(1),rank(2))} & \textrm{if \{rank(1),rank(2)\} = \{$d_6,d_7$\} or \{$d_2,d_8$\}} \\
    \arg \max_{d_i} r(d_i)             & \textrm{if それ以外} \\
  \end{array}
  \right.
\end{equation}
rank(1)，rank(2)は判定の信頼度が1位，2位の対話行為を表わし，classify($x,y$) は2つの対話行為$x,y$の中から一方を選択する分類器である．
classify($x,y$) の学習に使う特徴量は，組み合わせ特徴量も含めて対話行為$x$と$y$の分類に用いる特徴量の和集合とし，学習には LIBLINEAR を用いる．


\section{評価実験}

\subsection{データ}
\label{sec:data}

対話コーパスとして，人間同士の自由対話を書き起こした名大会話コーパス\cite{meidai:01:a}を用いた．
実験では，対話コーパスの中から参加者が二名の対話のみを選択し，各発話に対し対話行為タグを人手で付与した．
対話数は97，発話数は91,906である．3対話について二者によって対話行為タグを付与したところ，一致率は77.3\%，$\kappa$係数は0.636であった．
コーパスにおける対話行為の出現頻度ならびに割合を表\ref{tab:distribution_of_dialog_tag}に示す．$d_1$(自己開示)が最も多く，全体の6割弱を占めている．一方，$d_9$(要求)は最も少なく，それが占める割合は1\%未満である．
コーパスをおよそ80\%，10\%，10\%に分割し，77対話（74,228発話）を訓練データ，10対話（8,984発話）を開発データ，10対話（8,694発話）をテストデータとした．
開発データは最適な特徴の選択やパラメタの最適化のために用いた．
それぞれのデータにおける対話行為の頻度分布は全体とほぼ同じであった．

\begin{table}[b]
\caption{実験データにおける対話行為の出現頻度の分布}
\label{tab:distribution_of_dialog_tag}
\input{01table04.txt}
\end{table}


\subsection{パラメータ最適化}

特徴$f_{18}$（相手の過去の発話の対話行為列），$f_{19}$（話者の過去の発話の対話行為列）について，\ref{sec:対話行為列の長さの最適化}で述べたように，過去の対話行為列の長さ$N_h$ならびに特徴量選択の閾値$T_h$の最適化を行った．

本実験では，テストデータにおける発話の対話行為を推定する際，
$f_{18}$と$f_{19}$の特徴量は正解の対話行為を用いる．
実際には，過去の発話の対話行為は自動的に推定するべきである．
しかし，このような実験設定では，対話行為推定の誤りが次の発話の対話行為の推定に影響し，対話行為の誤推定が前の発話の対話行為の誤りによるものか，それとも提案手法の不備など他の要因によるものなのかを区別できない．
今回の実験では，提案手法の有効性を確認することに重点を置き，過去の発話の対話行為の分類に誤りはないという理想的な条件下で実験を行った．
開発データにおけるF値が最大となった$N_h$と$T_h$の値を
表\ref{tab:selected_history_length1}に示す．この表ではパラメタの最適化を行わないとき ($N_h = 1$，$T_h = 0$) のF値も示した．`---'は$N_h = 1$，$T_h = 0$のときにF値が最大になった場合，すなわちパラメタの最適化によってF値が向上しなかった場合を表わす．

\begin{table}[b]
\caption{過去の発話の対話行為の特徴のパラメタ}
\label{tab:selected_history_length1}
\input{01table05.txt}
\end{table}

この結果から，対話行為毎に話者自身の過去の発話の対話行為列，相手の過去の発話の対話行為列の最適な長さが異なることが示された．特に，「フィラー」についてはF値が11もしくは14ポイント向上しており，パラメータ最適化の影響が大きい．これは「フィラー」の発話を認識するためにはそれまでの対話の流れが重要な情報であることを示唆する．
一方で，「質問 (YesNo)」，「応答 (YesNo)」については自身の過去の発話，相手の過去の発話ともに$N_h = 1$，$T_h = 0$のときが最良となっている．「質問 (YesNo)」については，前の発話の対話行為の影響が小さいと考えられるので，対話行為列の長さを変化させても影響がなかったと考えられる．「応答 (YesNo)」については，前の相手の最後の発話が「質問」であることが多いため，$f_{18}$についてはひとつ前の相手の発話の対話行為だけを特徴量とすれば十分と考えられる．一方，$f_{19}$については，F値が他の対話行為と比べて極端に低い．$N_h$，$T_h$の最適化の際には$f_1$（単語n-gram）のみを特徴としていることが原因と考えられる．


\subsection{特徴セットの最適化の結果}

個々の対話行為に対して選択された特徴を表\ref{tab:selected_feature2-1}に示す．
表\ref{tab:selected_feature2-1}の結果から，対話行為毎に有効な特徴が大きく異なることが確認された．
$f_{1}$（単語n-gram）は全ての対話行為に共通して有効な特徴である．一方で，$f_{2}$（前発話の単語n-gram）や$f_{8}$（前発話の文末付属語列）は全ての対話行為で不要であり，前の相手の発話の内容は有効な特徴ではないと考えられる．
表\ref{tab:effective_feature}は\ref{sec:組み合わせ特徴量}項で定義した最も有効な特徴の一覧である．これらも対話行為毎に異なるが，$f_1$，$f_{18}$，$f_{19}$のいずれかが選ばれており，これらが特に重要な特徴であることがわかる．

\begin{table}[b]
\caption{選択された特徴}
\label{tab:selected_feature2-1}
\input{01table06.txt}
\par\vspace{4pt}\small
$d_1$: 自己開示，$d_2$: 質問(YesNo)，$d_3$: 質問(What)，$d_4$: 応答(YesNo)，$d_5$: 応答(平叙)，$d_6$: あいづち，$d_7$: フィラー，$d_8$: 確認，$d_9$: 要求
\end{table}
\begin{table}[b]
\caption{対話行為の分類に最も有効な特徴}
\label{tab:effective_feature}
\input{01table07.txt}
\end{table}


\subsection{信頼度の重みの推定}

\ref{sec:信頼度に対する重み付けに基づく手法}で述べた手法において，対話行為毎の信頼度の重み$w_i$は開発データを用いて推定した．
一方，閾値$TU_i$は，開発データとは別のデータで最適化する必要がある．
本実験では，訓練データの8分割交差検定により$TU_i$を最適化した．
交差検定の際には，機械学習の特徴や重み$w_i$は開発データで決定したものを用いるが，分類器の学習は分割されたデータ毎にやり直した．
$TU_i$を0から0.9まで0.1刻みで変動させ，式(\ref{eq:def_eval})の eval の値が一番大きい閾値を選択した．
「自己開示」以外の対話行為に対する$w_i$と$TU_i$の一覧を表\ref{tab:w_k_and_TU_k_optimalization}に示す．
$d_4$(応答(YesNo))，$d_7$(あいづち)，$d_8$(確認)の3つの対話行為については，信頼度に対する重み付けを行っても対話行為推定結果は向上しなかったため，重みを1に設定している．
すなわち，これらの対話行為の信頼度に対しては重み付けを行わない．

\begin{table}[t]
\caption{対話行為ごとの$w_i$と$TU_i$}
\label{tab:w_k_and_TU_k_optimalization}
\input{01table08.txt}
\end{table}
\begin{table}[t]
\caption{8分割交差検定における分割データ毎の eval 値}
\label{tab:result_of_each_dialogue}
\input{01table09.txt}
\end{table}

表\ref{tab:result_of_each_dialogue}は，例として$d_2$，$d_5$，$d_7$の3つの対話行為について，8分割交差検定において分割された個々のデータ($TR_1 \sim TR_8$)に対する eval の値を示している
\footnote{$TU_i$は表\ref{tab:result_of_each_dialogue}における「合計」が最も大きい値を選んで最適化している．}．
eval の値は対話データによってばらつきが見られ，負の値になる（重み付けによって悪化する）こともある．
この結果から，信頼度に対する重み付けに基づく手法は，対話によって効果的に働く場合とそうでない場合があることがわかった．
信頼度に対する重み付けは，「自己開示」の判定の信頼度が他の対話行為に比べて高いことを
是正するための手法であるが，自己開示の発話の出現のしやすさは対話の内容に強く依存しており，
自己開示の発話が多く出現する対話に対しては，「自己開示」以外の対話行為を選択しやすくする本手法が有効に働かなかったと推察できる．



\subsection{対話行為推定の評価}

対話行為を推定する提案手法の性能を評価する．
評価基準は，各対話行為の推定の精度，再現率，F値，ならびにこれら3つの全対話行為についてのマクロ平均とマイクロ平均である．
なお，精度および再現率のマイクロ平均は正解率（システムが選択した対話行為と正解の対話行為が一致する割合）に等しい．
提案手法を2つのベースラインと比較する．
一つは，全ての特徴を用いて，9つの対話行為のいずれかを選択する分類器をLIBLINEARで学習する手法($BL_a$)である．
もう一つは，3.3項で説明した方法で特徴を選択する手法($BL_s$)である．
提案手法が個々の対話行為毎に最適な特徴を選択するのに対し，$BL_s$では特徴のセットを1つだけ選択し，それを用いて全ての対話行為を分類する．
一方，提案手法として，
\ref{sec:判定の信頼度による選択}で述べた信頼度を比較する手法($Pro_p$)，
\ref{sec:信頼度を特徴量とする機械学習による選択}で述べた信頼度を特徴量とした機械学習を用いる手法($Pro_m$)，
\ref{sec:信頼度に対する重み付けに基づく手法}で述べた「自己開示」以外の対話行為の信頼度に対して高い重みを与える手法($Pro_w$)，
\ref{sec:特定の対話行為の組に対して機械学習で識別する手法}で述べた判定の難しい対話行為の組に対して機械学習で適切な対話行為を選択する手法($Pro_b$)の4つを評価する．

まず，発話がある対話行為を持つか否かを判定するタスク（以下，「個別対話行為判定タスク」と呼ぶ）についてベースラインと提案手法を比較する．
言い換えれば，個別対話行為判定タスクでは，図\ref{fig:proposed_method} の第1段階における対話行為毎に学習した分類器の性能を評価する．
表\ref{tab:result_binary_task}は同タスクにおける$BL_s$と$Pro_p$の精度(P)，再現率(R)，F値(F)を示している．
表\ref{tab:result_binary_task}(a)は開発データの結果であり，対話行為毎に特徴を最適化することによって，全ての対話行為について評価値が同等もしくは向上していることが確認できる．
一方，表\ref{tab:result_binary_task}(b)はテストデータの結果であり，$Pro_p$は$BL_s$に比べてF値のマクロ平均が2.9ポイント向上した．
しかしながら，「あいづち」と「要求」についてはF値が低下している．
これは開発データとテストデータとで対話の内容が異なるため，両データにおいて最適な特徴が一致していないためと考えられる．
この結果は，自由対話では様々なトピックが話題に挙がるため，対話行為分類のための最適な特徴を実験的に決定することが難しいことを示唆する．

\begin{table}[b]
\caption{個別対話行為判定タスクの結果}
\label{tab:result_binary_task}
\input{01table10.txt}
\end{table}

表\ref{tab:result_multi_task1} は，発話に対して9つの対話行為の中から該当するものを推定するタスク（以下，「対話行為推定タスク」と呼ぶ）における各手法の評価値を示している．
2つのベースラインを比較すると，$BL_s$ はマクロ平均では$BL_a$を上回るが，マイクロ平均は等しい．
対話行為を区別せずに単純に特徴を最適化しても，正解率は向上しないことがわかる．
一方，4つの提案手法のF値のマイクロ平均はいずれもベースラインよりも高い．
最も結果が良かったのは手法$Pro_b$であった．
$BL_s$ と$Pro_b$ の結果をマクネマー検定で検定したところ，5\%の有意水準で有意差があった．
$Pro_b$が選択した対話行為と正解の対話行為の対応表を付録\ref{sec:contingency_table_Pro_b}に示す．

\begin{table}[t]
\caption{対話行為推定タスクの結果}
\label{tab:result_multi_task1}
\input{01table11.txt}
\par\vspace{4pt}
\small
$d_1$: 自己開示，$d_2$: 質問(YesNo)，$d_3$: 質問(What)，$d_4$: 応答(YesNo)，$d_5$: 応答(平叙)，$d_6$: あいづち，$d_7$: フィラー，$d_8$: 確認，$d_9$: 要求，Ma: マクロ平均，Mi: マイクロ平均
\end{table}

対話行為毎に結果を比較すると，「応答(YesNo)」「あいづち」「確認」「要求」については$Pro_b$は$BL_s$に比べてF値は改善しなかったが，「自己開示」「質問(YesNo)」「質問(What)」「応答(平叙)」「フィラー」についてはF値が0.3〜9.7ポイント改善した．

$Pro_p$と$Pro_m$を比較すると，$Pro_m$は「あいづち」「確認」「要求」以外の対話行為でより高いF値が得られており，信頼度を特徴量とした機械学習の手法が有効であることを示している．
「自己開示」について$Pro_p$と$Pro_w$を比較すると，再現率は$Pro_p$の方が高いが，精度ならびにF値では$Pro_w$が上回る．
信頼度に重み付けを行う$Pro_w$は，判定の信頼度が全般に高い「自己開示」が過度に選ばれることを抑制するための手法であるが，この手法により「自己開示」のfalse positiveの誤りが減少したことが確認された．また，表\ref{tab:w_k_and_TU_k_optimalization}で重みを1より大きく設定した全ての対話行為でF
値が向上した．
$Pro_b$は$Pro_w$と比べて，誤りが多かったために改めて機械学習で分類し直した「質問(YesNo)」「フィラー」「確認」の結果が改善されていることが確認できた．ただし，「あいづち」については，精度，再現率に変化はあったが，F値は変化しなかった．

本論文では，ベースラインで精度や再現率が低い対話行為に対して推定の性能を向上させることを目指したが，一部の対話行為についてはその目標が達成されていない．
具体的には，ベースラインで性能の低い「フィラー」の評価値は向上しているが，「確認」や「要求」については逆にベースラインよりも低くなっている．
「確認」については，表\ref{tab:result_binary_task} より，個別対話行為分類タスクでは提案手法はベースラインを上回っているため，図\ref{fig:proposed_method}における二段階の処理のうち，第1段階で「確認」に該当するかを判定する時点では性能の向上が見られるものの，第2段階の対話行為を推定する段階で誤りを多く生じていることがわかる．
一方，「要求」については表\ref{tab:result_binary_task} でも表\ref{tab:result_multi_task1}でも提案手法はベースラインより劣る．
この原因として，コーパスにおいて「要求」の対話行為を持つ発話の数が他の対話行為と比べて極端に少ないことが考えられる．

組み合わせ特徴量の有効性を評価するために，組み合わせ特徴量を使用したモデルと使用しないモデルのF値のマイクロ平均（正解率）を比較した．
結果を表\ref{tab:result_evaluate_comb_multi_task} に示す．
いずれの手法も組み合わせ特徴量を用いることでF値が向上していることから，組み合わせ特徴量の有効性が確認できた．

\begin{table}[t]
\caption{組み合わせ特徴量の評価}
\label{tab:result_evaluate_comb_multi_task}
\input{01table12.txt}
\end{table}


\subsection{機械学習アルゴリズムの比較}
\label{sec:機械学習アルゴリズムの比較}

前項までの実験では機械学習アルゴリズムとして
L2正則化ロジスティック回帰を用いたが，
本項ではこれと他の機械学習アルゴリズムを比較する．
また，対話行為毎に適切な特徴セットを設定するという
提案手法の基本的な考え方が
他の機械学習アルゴリズムでも有効であるかを検証する．
そのため，$BL_a$（全特徴を用いたベースライン），
$BL_s$（対話行為を区別しないで特徴を選択したベースライン），
ならびに提案手法のうち最も基本的な$Pro_p$を比較する実験を行う．

比較する機械学習アルゴリズムはSVMとする．
カーネル関数として，線形カーネル，多項式カーネル（カーネルの次数は3），
Radial Basis Function (RBF)カーネル，シグモイドカーネルの4つを用いる．
$Pro_p$では，対話行為毎に特徴を選択するために，
特徴セットを変えて学習とテストを繰り返す必要があるが，
SVMの学習は非常に時間がかかるため，現実的な時間では特徴選択が終了しない．
そこで，高速なLIBLINEARを用いて選択された特徴のセット
（表\ref{tab:selected_feature2-1}）を用い，
対話行為毎の二値分類器を学習するときのみSVMを用いる．
同様に，$BL_s$もLIBLINEARを用いて選択された特徴のセットを用いる．
また，L2正則化ロジスティック回帰とは異なり
多項式カーネルのSVMでは特徴量の組み合わせも学習時に考慮されるため，
ここでの実験では組み合わせ特徴量は用いない．
SVMの学習にはLIBSVM\footnote{http://www.csie.ntu.edu.tw/{\textasciitilde}cjlin/libsvm/}を用いる．
学習パラメタはデフォルト値を用いる．
$Pro_p$で用いる個々の対話行為判定の信頼度は，LIBSVMが出力する確率とする．

SVMによる対話行為推定のF値のマイクロ平均（正解率）を表\ref{tab:result_SVM}に示す．
比較のため，L2正則化ロジスティック回帰を用いたときの結果
（表\ref{tab:result_evaluate_comb_multi_task}の組み合わせ特徴量なしの結果）
も再掲する．
*と$\dagger$はマクネマー検定で$Pro_p$と他の手法の差を検定した結果を表わす．
*はロジスティック回帰の$Pro_p$との間に有意水準5\%で有意差が，
$\dagger$は同じ学習アルゴリズムの$BL_s$との間に有意差がある
ことを示している．
多項式カーネルのSVMでは全ての発話に対して「自己開示」が選択された．
これは過学習のためと考えられる．

\begin{table}[t]
\caption{機械学習アルゴリズムの比較}
\label{tab:result_SVM}
\input{01table13.txt}
\vspace{4pt}\small
*: $p < 0.05$ （vs.ロジスティック回帰の$Pro_p$）,~~
$\dagger$: $p < 0.05$ (vs. $BL_s$)
\end{table}

異なる機械学習アルゴリズムの$Pro_p$の結果を比較すると，
L2正則化ロジスティック回帰は全てのSVMよりも正解率が有意に高い．
線形カーネルのSVMについては，$Pro_p$よりも$BL_s$の方が正解率が高いが，ロジスティック回帰の$Pro_p$よりは劣る．
ただし，今回の実験では，
特徴選択の際に用いた機械学習アルゴリズム（ロジスティック回帰）と
対話行為推定の分類器の学習に用いたアルゴリズム(SVM)が異なる．
特徴選択もSVMで行えば，SVMでの分類に適した特徴セットが選ばれて，
正解率が向上する可能性がある．
SVMの中で最も結果が良かった線形カーネルの$BL_s$については，特徴選択も線形カーネルのSVMを用いてモデルを学習する追加実験を行ったところ，F値は0.806と変化しなかった\footnote{選択された特徴は異なる．ロジスティック回帰を用いて選択された特徴は$f_{1}$, $f_{5}$, $f_{8}$, $f_{14}$, $f_{15}$, $f_{18}$, $f_{19}$, $f_{20}$, $f_{22}$, $f_{24}$であったのに対し，線形カーネルのSVMで選択された特徴は$f_{1}$, $f_{5}$, $f_{6}$, $f_{8}$, $f_{10}$, $f_{11}$, $f_{12}$, $f_{13}$, $f_{16}$, $f_{17}$, $f_{18}$, $f_{19}$, $f_{20}$, $f_{21}$, $f_{23}$, $f_{24}$, $f_{25}$, $f_{26}$, $f_{27}$, $f_{28}$であった．}．
このモデルと提案手法（ロジスティック回帰の$Pro_p$）とは5\%の有意水準で有意差があった．
他のカーネルの$BL_s$や$Pro_p$についても特徴選択の段階からSVMを用いるべきであるが，LIBLINEAR以外では特徴選択に非常に時間がかかるという問題がある．
例えば，Intel Xeon 2.93~GHz，メモリ8~GBのサーバを用いて，対話行為「自己開示」に該当するかを判定する二値分類器の学習に，LIBLINEARでは16秒を要したのに対し，LIBSVMではおよそ168倍の2,697秒を要した．
今回の実験結果からは，LIBLINEARを用いる手法が
対話行為推定のF値ならびに計算時間の両方の観点から最も優れているといえる．

機械学習アルゴリズム毎に$BL_s$と$Pro_p$を比較すると，
ロジスティック回帰，RBFカーネルのSVM，シグモイド関数のSVMにおいて，
差はそれほど顕著ではないものの，$Pro_p$は$BL_s$よりも正解率が高かった．
有意義な分類器が学習できなかった多項式カーネルのSVMを除けば，
4つのうち3つの機械学習アルゴリズムについて，
対話行為毎に最適な特徴を選択するというアプローチは有効と言える．
但し，提案手法のアプローチの妥当性をより正確に検証するためには，
異なる対話行為のセットを用いた実験や，異なる対話コーパスを用いた実験など
を行う必要があるだろう．

次に，多値分類の機械学習アルゴリズムであるCRFならびに
ランダムフォレスト\cite{breiman:01:a}と提案手法を比較する．
CRFで分類されるのは系列（本論文の場合は発話列）であることに注意していただきたい．
ここでは，
対話全体の発話列を入力として与える手法($CRF_{all}$)と，
対話の先頭から解析対象となる発話までの発話列を逐次的に入力として与える手法($CRF_{seq}$)の2つを評価する．
実際に対話システムでの利用を想定しているのは$CRF_{seq}$である．
$CRF_{all}$は対話が全て終了するまで対話行為を分類できないため，
実際の対話システムに組み込むことは不可能だが，
文献\cite{isomura:09:a}のように
コーパスへの対話行為のタグ付けを目的とする場合には利用できる．
CRFの学習にはCRFsuite\footnote{http://www.chokkan.org/software/crfsuite/}を，ランダムフォレストの学習にはscikit-learn\footnote{http://scikit-learn.org/}を用いる．

$CRF_{all}$，$CRF_{seq}$，$RF$（ランダムフォレスト）のそれぞれについて，
$BL_a$と同じ特徴セット（28個の全ての特徴）を用いたときと，
$BL_s$と同じ特徴セットを用いたときの対話行為推定のF値を
表\ref{tab:crf_random-forest}に示す．
最良の提案手法である$Pro_b$ （F値0.825）は，$CRF_{seq}$ と$RF$ を上回り，
マクネマー検定で5\%の有意水準で有意差があることを確認した．
$CRF_{all}$ は$CRF_{seq}$よりも解析に利用できる発話数が多いため，F値が高い．
$BL_s$と同じ特徴セットを用いたときの$CRF_{all}$は$Pro_b$を上回るが，
$CRF_{all}$は対話システムでの利用を想定したモデルではない．

\begin{table}[t]
\caption{CRF，ランダムフォレストの結果}
\label{tab:crf_random-forest}
\input{01table14.txt}
\end{table}


\section{おわりに}

本論文では，自由対話における発話の対話行為を自動推定する新しい手法を提案した．
提案手法は，個々の対話行為毎に発話がその対話行為に該当するかを判定する第1段階と，第1段階の結果から最終的に最も適切な対話行為を選択する第2段階から構成される．
第1段階において，教師あり機械学習のために有効な特徴は対話行為毎に異なるという仮定の下，対話行為毎に最適な特徴のセットを自動的に決定する点に特長がある．
評価実験の結果，対話行為を区別せずに特徴の選択を行う手法と比べて，提案手法の対話行為推定のF値は0.6ポイント高かった．
F値の差はそれほど大きくはないものの，統計的に有意な差があることを確認した．

本論文の貢献は以下の通りである．
表\ref{tab:selected_feature2-1} に示すように，有効な特徴のセットは対話行為によって異なることを実験的に確認し，対話行為毎に特徴の最適化を行う提案手法のアプローチが有望であることを示した．
表\ref{tab:result_SVM} に示したロジスティック回帰ならびに4種のカーネル関数のSVMを用いた検証実験では，ロジスティック回帰，SVM (RBF)，SVM（シグモイド）について，対話行為毎に特徴の最適化を行うことでF値の向上が見られた．ただし，統計的に有意差が確認されたのはSVM (RBF)のみであった．
また，過去の対話行為を特徴とするとき，その最適な長さは対話行為毎に異なることを確認した．さらに，提案手法の第2段階において，分類の信頼度を単純に比較して対話行為を1つ選択すると，分類の信頼度が対話行為によって大きく差があるために特定の対話行為（具体的には「自己開示」）が選ばれやすいという問題に対し，適切な対話行為を選択する3つの手法を提案し，それらがF値の向上に貢献することを確認した．
一方，対話行為によっては，特徴の最適化により，開発データではF値が向上するもののテストデータは低下することがわかった．
自由対話システムでは様々なトピックが話題になることから，対話によって有効な特徴が異なる可能性があり，特徴の最適化を実験的に行う提案手法のアプローチの問題点も明らかにした．表\ref{tab:result_of_each_dialogue}に示したように，信頼度の重み付けに基づく手法が対話によって有効に働く場合とそうでない場合があることがわかったが，これも自由対話システムにおけるトピックの多様性に起因すると考えられる．

今後の課題としては，F値が依然として低い「フィラー」「確認」「要求」に対して対話行為推定の性能を向上させることが挙げられる．
これらの対話行為の推定に有効な新たな特徴を発見したり，提案手法の第2段階における対話行為選択手法を洗練する必要がある．
また，上記の考察を踏まえ，領域適応の技術を応用し，対話の内容が訓練データ・開発データとテストデータとで異なる場合でもF値を低下させない方法を探究することも重要な課題である．
\ref{sec:機械学習アルゴリズムの比較} 項で述べたように，
対話行為毎に適切な特徴のセットを設定するという提案手法のアプローチの妥当性を
検証するためには更なる実験が必要である．
また，自然言語処理分野でも近年盛んに利用されるようになった深層学習\cite{Kim:14:a}との比較も重要である．


\acknowledgment

本論文の査読にあたり，査読者の方から数多くの有益なコメントをいただきました．深く感謝いたします．


\bibliographystyle{jnlpbbl_1.5}
\begin{thebibliography}{}

\bibitem[\protect\BCAY{Breiman}{Breiman}{2001}]{breiman:01:a}
Breiman, L. \BBOP 2001\BBCP.
\newblock \BBOQ Random Forests.\BBCQ\
\newblock {\Bem Machine Learning}, {\Bbf 45}  (1), \mbox{\BPGS\ 5--32}.

\bibitem[\protect\BCAY{Fan, Chang, Hsieh, Wang, \BBA\ Lin}{Fan
  et~al.}{2008}]{fan:08:a}
Fan, R.-E., Chang, K.-W., Hsieh, C.-J., Wang, X.-R., \BBA\ Lin, C.-J. \BBOP
  2008\BBCP.
\newblock \BBOQ LIBLINEAR: A Library for Large Linear Classification.\BBCQ\
\newblock {\Bem The Journal of Machine Learning Research}, {\Bbf 9},
  \mbox{\BPGS\ 1871--1874}.

\bibitem[\protect\BCAY{Higashinaka, Imamura, Meguro, Miyazaki, Kobayashi,
  Sugiyama, Hirano, Makino, \BBA\ Matsuo}{Higashinaka
  et~al.}{2014}]{Higashinaka:14:a}
Higashinaka, R., Imamura, K., Meguro, T., Miyazaki, C., Kobayashi, N.,
  Sugiyama, H., Hirano, T., Makino, T., \BBA\ Matsuo, Y. \BBOP 2014\BBCP.
\newblock \BBOQ Towards an Open-domain Conversational System Fully Based on
  Natural Language Processing.\BBCQ\
\newblock In {\Bem Proceedings of COLING 2014}, \mbox{\BPGS\ 928--939}.

\bibitem[\protect\BCAY{平野\JBA 小林\JBA 東中\JBA 牧野\JBA 松尾}{平野 \Jetal
  }{2016}]{Hirano:16:a}
平野徹\JBA 小林のぞみ\JBA 東中竜一郎\JBA 牧野俊朗\JBA 松尾義博 \BBOP 2016\BBCP.
\newblock パーソナライズ可能な対話システムのためのユーザ情報抽出.\
\newblock \Jem{人工知能学会論文誌}, {\Bbf 31}  (1), \mbox{\BPGS\
  DSF--B\_1--10}.

\bibitem[\protect\BCAY{Inui, Ebe, Indurkhya, \BBA\ Kotani}{Inui
  et~al.}{2001}]{inui:01:a}
Inui, N., Ebe, T., Indurkhya, B., \BBA\ Kotani, Y. \BBOP 2001\BBCP.
\newblock \BBOQ A Case-Based Natural Language Dialogue System Using Dialogue
  Act.\BBCQ\
\newblock In {\Bem Proceedings of IEEE International Conference on Systems,
  Man, and Cybernetics}, \mbox{\BPGS\ 193--198}.

\bibitem[\protect\BCAY{磯村\JBA 鳥海\JBA 石井}{磯村 \Jetal
  }{2009}]{isomura:09:a}
磯村直樹\JBA 鳥海不二夫\JBA 石井健一郎 \BBOP 2009\BBCP.
\newblock 対話エージェント評価におけるタグ付与の自動化.\
\newblock \Jem{電子情報通信学会論文誌. A, 基礎・境界}, {\Bbf 92}  (11),
  \mbox{\BPGS\ 795--805}.

\bibitem[\protect\BCAY{Jurafsky, Shriberg, \BBA\ Biasca}{Jurafsky
  et~al.}{1997}]{jurafsky:97:a}
Jurafsky, D., Shriberg, E., \BBA\ Biasca, D. \BBOP 1997\BBCP.
\newblock \BBOQ Switchboard SWBD-DAMSL Shallow-Discourse-Function Annotation
  Coders Manual.\BBCQ\
\newblock \BTR, Institute of Cognitive Science Technical Report.

\bibitem[\protect\BCAY{Kim, Cavedon, \BBA\ Baldwin}{Kim
  et~al.}{2010}]{kim:10:a}
Kim, S.~N., Cavedon, L., \BBA\ Baldwin, T. \BBOP 2010\BBCP.
\newblock \BBOQ Classifying Dialogue Acts in One-on-one Live Chats.\BBCQ\
\newblock In {\Bem Proceedings of EMNLP}, \mbox{\BPGS\ 862--871}.

\bibitem[\protect\BCAY{Kim}{Kim}{2014}]{Kim:14:a}
Kim, Y. \BBOP 2014\BBCP.
\newblock \BBOQ Convolutional Neural Networks for Sentence
  Classification.\BBCQ\
\newblock In {\Bem Proceedings of the 2014 Conference on Empirical Methods in
  Natural Language Processing}, \mbox{\BPGS\ 1746--1751}.

\bibitem[\protect\BCAY{国立国語研究所}{国立国語研究所}{2001}]{meidai:01:a}
国立国語研究所 \BBOP 2001\BBCP.
\newblock 名大会話コーパス.\ 科学研究費基盤研究(B)(2)
  「日本語学習辞書編纂に向けた電子化コーパス利用によるコロケーション研究」(平成13年度〜15年度),
  http://pj.ninjal.ac.jp/conversation/nuc.html.

\bibitem[\protect\BCAY{Libin \BBA\ Libin}{Libin \BBA\ Libin}{2004}]{Libin:04:a}
Libin, A.~V.\BBACOMMA\ \BBA\ Libin, E.~V. \BBOP 2004\BBCP.
\newblock \BBOQ Person-robot interactions from the robopsychologists' point of
  view: the robotic psychology and robotherapy approach.\BBCQ\
\newblock In {\Bem Proceedings of the IEEE, {\upshape \textbf{92} (11)}},
  \mbox{\BPGS\ 1789--1803}.

\bibitem[\protect\BCAY{前田\JBA 南\JBA 堂坂}{前田 \Jetal }{2011}]{Maeda:11:a}
前田英作\JBA 南泰浩\JBA 堂坂浩二 \BBOP 2011\BBCP.
\newblock 人ロボット共生におけるコミュニケーション戦略の生成.\
\newblock \Jem{日本ロボット学会誌}, {\Bbf 29}  (10), \mbox{\BPGS\ 887--890}.

\bibitem[\protect\BCAY{目黒\JBA 東中\JBA 杉山\JBA 南}{目黒 \Jetal
  }{2013}]{Meguro:13:a}
目黒豊美\JBA 東中竜一郎\JBA 杉山弘晃\JBA 南泰浩 \BBOP 2013\BBCP.
\newblock
  意味属性パターンを用いたマイクロブログ中の発言に対する自動対話行為付与.\
\newblock \Jem{研究報告音声言語情報処理（SLP）}, {\Bbf 2013}  (1), \mbox{\BPGS\
  1--6}.

\bibitem[\protect\BCAY{Meguro, Minami, Higashinaka, \BBA\ Dohsaka}{Meguro
  et~al.}{2014}]{Meguro:14:a}
Meguro, T., Minami, Y., Higashinaka, R., \BBA\ Dohsaka, K. \BBOP 2014\BBCP.
\newblock \BBOQ Learning to Control Listening-oriented Dialogue Using Partially
  Observable Markov Decision Processes.\BBCQ\
\newblock {\Bem ACM Transactions on Speech and Language Processing}, {\Bbf 10}
  (4), \mbox{\BPGS\ 1--20}.

\bibitem[\protect\BCAY{Milajevs \BBA\ Purver}{Milajevs \BBA\
  Purver}{2014}]{milajevs:14:a}
Milajevs, D.\BBACOMMA\ \BBA\ Purver, M. \BBOP 2014\BBCP.
\newblock \BBOQ Investigating the Contribution of Distributional Semantic
  Information for Dialogue Act Classification.\BBCQ\
\newblock In {\Bem Proceedings of the 2nd Workshop on Continuous Vector Space
  Models and their Compositionality (CVSC)}, \mbox{\BPGS\ 40--47}.

\bibitem[\protect\BCAY{南\JBA 東中\JBA 堂坂\JBA 目黒\JBA 森\JBA 前田}{南 \Jetal
  }{2012}]{Minami:12:a}
南泰浩\JBA 東中竜一郎\JBA 堂坂浩二\JBA 目黒豊美\JBA 森啓\JBA 前田英作 \BBOP
  2012\BBCP.
\newblock 対話行為タイプ列Trigramによる行動予測確率に基づくPOMDP対話制御.\
\newblock \Jem{電子情報通信学会論文誌. A, 基礎・境界}, {\Bbf 95}  (1),
  \mbox{\BPGS\ 2--15}.

\bibitem[\protect\BCAY{西田}{西田}{1992}]{nishida:92:a}
西田公昭 \BBOP 1992\BBCP.
\newblock 対話者の会話行為が会話方略ならびに対人認知に及ぼす効果.\
\newblock {\Bem The Japanese Journal of Phychology}, {\Bbf 63}  (5),
  \mbox{\BPGS\ 319--325}.

\bibitem[\protect\BCAY{関野\JBA 井上}{関野\JBA 井上}{2010}]{sekino:10:a}
関野嵩浩\JBA 井上雅史 \BBOP 2010\BBCP.
\newblock 発話に対する拡張談話タグ付与.\
\newblock \Jem{第6回情報処理学会東北支部研究会報告}.

\bibitem[\protect\BCAY{Sugiyama, Meguro, Higashinaka, \BBA\ Minami}{Sugiyama
  et~al.}{2013}]{Sugiyama:13:a}
Sugiyama, H., Meguro, T., Higashinaka, R., \BBA\ Minami, Y. \BBOP 2013\BBCP.
\newblock \BBOQ Open-domain Utterance Generation for Conversational Dialogue
  Systems using Web-scale Dependency Structures.\BBCQ\
\newblock In {\Bem Proceedings of SIGDIAL}, \mbox{\BPGS\ 334--338}.

\bibitem[\protect\BCAY{Takahashi, Takamura, \BBA\ Okumura}{Takahashi
  et~al.}{2007}]{Takahashi:07:a}
Takahashi, K., Takamura, H., \BBA\ Okumura, M. \BBOP 2007\BBCP.
\newblock \BBOQ Estimation of Class Membership Probabilities in the Document
  Classification.\BBCQ\
\newblock In {\Bem Proceedings of the 11th Pacific-Asia Conference on Advances
  in Knowledge Discovery and Data Mining (PAKDD)}, \mbox{\BPGS\ 284--295}.

\end{thebibliography}



\appendix

\vspace{-1\Cvs}
\section{対応表}
\label{sec:contingency_table_Pro_b}

\begin{table}[b]
\caption{正解の対話行為と$Pro_b$の出力との対応表}
\label{tab:contingency_table_Pro_b}
\input{01table15.txt}
\vspace{4pt}
\small
$d_1$: 自己開示，$d_2$: 質問(YesNo)，$d_3$: 質問(What)，$d_4$: 応答(YesNo)，$d_5$: 応答(平叙)，$d_6$: あいづち，$d_7$: フィラー，$d_8$: 確認，$d_9$: 要求
\end{table}

正解の対話行為と提案手法のうち最もF値の高い$Pro_b$が選択した対話行為の
対応表を表\ref{tab:contingency_table_Pro_b}に示す．


\clearpage
\begin{biography}
\bioauthor{福岡　知隆}{
2010年東京工科大学コンピュータサイエンス学科コンピュータサイエンス学部卒業．
2012年同大学院バイオ・情報メディア研究科修士課程修了．
2017年北陸先端科学技術大学院大学情報科学研究科博士課程修了．
同年株式会社Nextremer AIエンジニア．現在に至る．
博士（情報科学）．
電子情報通信学会会員．
}
\bioauthor{白井　清昭}{
1993年東京工業大学工学部情報工学科卒業．
1998年同大学院情報理工学研究科博士課程修了．
同年同大学院助手．
2001年北陸先端科学技術大学院大学情報科学研究科助教授．現在に至る．
博士（工学）．
統計的自然言語解析に関する研究に従事．
情報処理学会，人工知能学会，電子情報通信学会 各会員．
}
\end{biography}


\biodate




\clearpage









\clearpage






































\end{document}
