    \documentclass[japanese]{jnlp_1.4}
\usepackage{jnlpbbl_1.1}
\usepackage[dvips]{graphicx}
\usepackage{amsmath}
\usepackage{hangcaption_jnlp}



\Volume{15}
\Number{2}
\Month{Apr.}
\Year{2008}
\received{2007}{9}{6}
\revised{2007}{11}{5}
\accepted{2007}{11}{6}

\setcounter{page}{59}

\jtitle{整合性尺度を用いた構造的アラインメント}
\jauthor{中澤　敏明\affiref{Author_1} \and 黒橋　禎夫\affiref{Author_1}}
\jabstract{
本論文では対訳文アラインメントの全体的な整合性を評価する新た
な基準を提案する．この手法は係り受けタイプによる木構造上での距離や，距離
スコア関数などの統計的な素性に基づいている．また依存構造木を元にしたアラ
インメント手法であるため，両言語間の言語構造の違いを適切に吸収することが
可能である．さらに本手法により，複数見つかる対応候補の中から適切なものを
選択することも可能である．日英新聞記事コーパスでのアラインメント実験によ
り，本手法によるアラインメント精度は他の言語構造の近い言語対での精度と遜
色ないことが示された．
}
\jkeywords{機械翻訳, アラインメント, 木構造, 整合性, 係り受け距離}

\etitle{Tree-based Phrase Alignment Based on \\
	Consistency Criteria}
\eauthor{Toshiaki Nakazawa\affiref{Author_1} \and 
	Sadao Kurohashi\affiref{Author_1}} 
\eabstract{
In this paper, we propose a novel method to measure the
 consistency of alignment as a whole. It is based on probabilistic
 features, using dependency type distance and distance-score
 function. Since this method is based on tree structure, the linguistic
 difference between source and target language is successfully
 grasped. Moreover, with this method, appropriate correspondences can be
 selected among corresponding candidates. We conduct experiments on
 Japanese-English newspaper corpus, and achieve reasonably high accuracy
 compared with other language pairs which have less linguistic
 differences.
}
\ekeywords{Machine translation, Alignment, Tree structrue, Consistency, Dependency distance}

\headauthor{中澤，黒橋}
\headtitle{整合性尺度を用いた構造的アラインメント}

\affilabel{Author_1}{京都大学大学院情報学研究科}{
	Graduate School of Informatics, Kyoto University}



\begin{document}
\maketitle

\newcommand{\argmax}{}




\section{はじめに}
\label{Introduction}

初期の機械翻訳の研究では，翻訳のルールを人手により書き下して翻訳するルー
ルベース翻訳(RBMT)が用いられていた．計算機性能の問題もあり，しばらくは
RBMTによる研究が進められてきたが，多様な言語現象を全て人手で書き下すこと
は事実上不可能であるし，他の言語対への汎用性が乏しいなどの欠点がある．そ
こで次に考案されたのが，あらかじめ与えられた対訳コーパスから翻訳知識を自
動で学習し，その知識を用いて翻訳を行うコーパスベースの手法である．

コーパスベースの手法で最も重要なのが，翻訳で使う知識を対訳コーパスから学
習するアラインメントと呼ばれるステップである．アラインメント精度は翻訳精
度を大きく左右するため，現在までにアラインメントに関する研究が数多くなさ
れてきた．

アラインメント研究の多くは，対訳文を1次元の単語列として扱うものであり，
その最も基本的なモデルとして，単語レベルでのアラインメントを統計的に行う
IBMモデル\cite{Brown93}が広く利用されている．IBMモデルでは原言語と目的言
語の単語同士の対応確率モデル(lexicon)や，語順に関するモデル(distortion)，
語数を合わせるためのモデル(fertility，null generation)などを統計的に学習
する．

この単語列アラインメント手法を基礎として，アラインメント結果からより高度
な翻訳知識を学習する手法がいくつか提案されている．IBMモデルは1単語ごとで
のアラインメントを行うが，Koehnら\cite{koehn-och-marcu:2003:HLTNAACL}は
IBMモデルによるアラインメント結果をベースとして，そこから句に相当する部
分を抽出する手法を考案し，翻訳の精度をより高めた．ここでいう句とは，単語
列を便宜上，句と呼んでいるだけであり，意味のまとまりを表しているわけでは
なく，また句の階層的関係を扱うものでもない．

またChiang \cite{chiang:2005:ACL}は単語列ではなく，同期文脈自由文法に基づ
いた広い範囲の翻訳パターンを学習する手法を提案した．Chiangの手法はKoehn
らの手法による句対応結果からの学習を行うため，そのベースにはやはりIBMモ
デルがある．

このような発展的な翻訳知識学習の手法は，翻訳においてある程度の文の構造を
用いることにつながるが，そのベースとなるアラインメント手法であるIBMモデ
ルは，文の構造情報は一切用いていない．このように単語列として文を扱う手法
は，英語とヨーロッパ言語など言語構造に大きな違いがない言語対では精度よい
アラインメント結果が得られるが，日英などのように言語構造が大きく異なる言
語対に対しては不十分である．つまり言語構造が大きく異なる言語対において高
精度なアラインメントを実現するためには，アラインメントにおいても各言語で
の文の構造を利用する必要がある．


アラインメントにおいて言語構造を扱う研究は，
古くは佐藤と長尾 \cite{sato:1990:COLING}やSadlerとVendelmans \cite{sadler:1990:COLING}，松
本ら\cite{matsumoto:1993:ACL}によって提案されたが，当時は枠組を提案し，
短い文での実証を行ったのみで，長い文，複雑な文への適用実験などは行われな
かった．しかしその枠組自体は現在でも十分有効なものである．

また渡辺ら\cite{watanabe:2000:COLING}やMenezesと
Richardson \cite{Menezes01}も構造を用いたアラインメント手法を提案している．
これらの研究では，比較的長く，複雑な文のアラインメントを行っている．文が
長くなると，対応関係の曖昧性が必然的に増加し，これが問題となる．渡辺らは，
曖昧性のない語からの木構造上での距離を尺度として曖昧性の解消を行い，
MenezesとRichardsonは確率的な辞書の情報を利用し，最も確率の高い単語から
順に対応付けることにより，曖昧性解消を行ったが，いずれもヒューリスティッ
クなルールに基づいた手法であり，木構造全体を整合的に対応付けることはして
いない．


両言語の木構造を確率的に対応づける研究もある．このような手法は，原言語文
の木構造を組み換えることにより，目的言語文の木構造を再現しようとするもの
であるが，構造を用いることの制約が強すぎるため，この制約をいかに緩めるか
が議論の対象となる．Gildea \cite{Gildea03}は原言語の任意の部分木を複製し，
目的言語の木構造を再現する手法を提案し，韓国語と英語を対象とした実験でア
ラインメントエラーレート(AER) \cite{och00comparison}で0.32という高い精度
を達成しており，言語構造を用いたアラインメントの有効性を示している．

しかし我々は，木構造に対してこのような操作を行う必要はなく，木構造をその
ままアラインメントすれば良いと考えた．我々の手法は，佐藤と長尾などによっ
て提案された手法を踏まえつつ，ヒューリスティックなルールではなく，木構造
全体を整合的に対応付けることを目的とする．


本論文では，係り受け距離と距離—スコア関数を利用した，構造的木構造アライ
ンメント手法を提案する．本手法は依存構造木を利用しているため言語構造の違
いを克服することができ，さらに木構造上の距離に基づいたアラインメント全体
の整合性を，言語対に独立に測ることができる．さらに構造情報を崩すことなく
利用するため，豊富な翻訳知識の獲得も望める．


次章では我々の機械翻訳システムのアラインメントモジュールの基本的な部分に
ついて簡単に紹介する．\ref{proposed}章では我々が提案する手法を説明する．
\ref{result}章では提案手法の有効性を示すために行った実験の結果と結果の考
察を述べ，最後に結論と今後の課題を述べる．


\section{構造的句アラインメント}

我々の機械翻訳システムは主に日英を対象としている．アラインメントは日本語，
英語の構文解析器や対訳辞書などを用いて，以下のステップにより達成される．


\subsection{依存構造解析}

日本語文は形態素解析器JUMAN \cite{JUMAN}と構文解析器KNP \cite{KNP}を用いて
依存構造木に変換される．依存構造木の各ノードにはただ1つの内容語が含まれ
ており，それに付随する助動詞や接尾辞などの機能語は同じノードに含まれる．


英語文については，まずCharniakらのnlparser \cite{Charniak}を用いて構文解
析し，さらにヘッドを定義するルールにより依存構造木に変換する．日本語の場
合と同様，各ノードは1つの内容語とそれに付随する機能語とからなる．


図\ref{fig:Amb}に木構造の例を示す．木構造のルートノードは一番左に配置さ
れており，それぞれの句は上から下に語順どおりに配置されている．


\begin{figure}[t]
 \begin{center}
  \includegraphics{15-2ia3f1.eps}
  \caption{アラインメントの例}
  \label{fig:Amb}
 \end{center}
\end{figure}

\subsection{単語/句対応の探索}
\label{alignment}

日英間の単語/句対応の候補探索には，対訳辞書，Transliteration，数字のマッ
チング，部分文字列アラインメントなどいくつかの手がかりを利用する．


\subsubsection{対訳辞書}

日本語の単語と英語の単語の全ての組み合わせを対訳辞書から探し，対応候補を
見つける．このとき，1語ずつではなく複合名詞などの複数語の探索も行う．ま
た現時点では対訳辞書には確率的な情報は含まれていない．


\subsubsection{Transliteration}

日本語で形態素解析器によって人名や地名などの固有名詞と判定された語や，一
般的に外来語に用いられることの多いカタカナ語に対して，英語への
transliteration候補を自動的に生成し，これら候補と英語文に現れる単語との
類似度を計算する．類似度は編集距離を元にして計算され，類似度が閾値を越え
る組み合わせがあった場合，それらを対応候補とする．


例えば以下の例は対訳辞書では対応候補として得られないが，transliteration
により対応候補とされる．


\begin{quote}
新宿 $\rightarrow$ Shinjuku $\leftrightarrow$ Shinjuku （類似度：1.0） \\
ローズワイン $\rightarrow$ rosuwain $\leftrightarrow$ rose wine
（類似度：0.78）
\end{quote}

\subsubsection{数字のマッチング}

それぞれの言語において異なる数字表現を算用数字に汎化することにより，対応
候補を得る．例えば日本語の「二百六十万」と英語の ``2.6 million'' は共に
同じ数字 ``2600000'' を表しているため，それぞれ汎化することにより対応候
補とすることができる．


\subsubsection{部分文字列アラインメント}
\label{Fabien}

対訳文の中には特別な言い回しや辞書に載っていない専門用語などを含んだもの，
文の内容に過不足があるものなどが存在する．これまで挙げた手がかりだけでは，
このような対訳文を正確にアラインメントするのに十分な対応候補を見つけるこ
とができない場合がある．このため，言語資源に依存しない統計的なアラインメ
ント手法も併用することが必要となる．


統計的手法として，我々はCromieresの手法\cite{Fabien06}を利用した．この手
法は，対訳コーパス中の各言語の任意の部分文字列（分かち書きされている場合
は単語列）の共起頻度を元にして対訳文のアラインメントを行う手法である．任
意の部分文字列についてアラインメントするため形態素解析が不要な点，また
Suffix Arrayを用いて高速にアラインメントできる点で優れている．


例えば以下の対訳文を考える．
\begin{quote}
Source: 参院選での社会党の大敗は必至と言われる．\\
Target: It is said that the Social Democratic Party will suffer a major
loss at the House of Councillors election.
\end{quote}

対訳辞書情報から得られる対訳候補は``言われる $\leftrightarrow$ said
that''のみであり，不十分だが，Cromieresの手法を用いることにより``参院 
$\leftrightarrow$ the House of Councillors'', ``選 $\leftrightarrow$
election'', ``の社会 $\leftrightarrow$ the social'', \makebox{``党の 
$\leftrightarrow$ Democratic Party''}の各対応が得られる．


\subsection{適切な対応候補の選択}
\label{topic}

前章で得られた対応候補の中には，曖昧性を持つ候補や，曖昧ではないが文脈上
不適切な候補が含まれることがある．


例えば図\ref{fig:Amb}において，日本語の``保険''と英語の``insurance''はそ
れぞれ2度ずつ出現しており，組み合わせで4つの対応候補が得られることになり，
曖昧性が生じる．さらに``申し立て''の訳語として``file''と``claim''の2つが
みつかり，ここでも曖昧性が生じる．このため，見つかった対応候補の中から適
切な候補のみを選び出す基準が必要となる．これについての詳細は
\ref{proposed}章で述べる．


\subsection{未対応ノードの処理}

ここまでの処理により対訳文間にいくつかの対応が見つかったが，いくつかのノー
ドが対応付けられずに残る場合がある．これらのノードは簡単なルールにより他
の対応に併合する．


まず日本語，英語ともに名詞句内で未対応部分があれば名詞句内の他の対応に併
合し，それ以外の未対応ノードはすべて親ノードの対応に併合する．ただし，節
の区切りなどの大きな区切りを越えての併合は行わない．



\section{整合性尺度に基づく構造的句アラインメント}
\label{proposed}

対訳文全体として整合的なアラインメントを行うために，任意の 1 組の対応に対
して{\bf 整合性スコア}を定義する．最も整合的なアラインメントは整合性スコ
アの平均を最大とするような対応候補の組み合わせとして得られる．
\begin{equation}
 \argmax_{alignment}\frac{\sum^{n}_{i = 1}\sum^{n}_{j=i+1}整合性スコア(a_i, a_j)}{n(n-1)/2}
  \label{eq:sum}
\end{equation}
上式で$a_i$と$a_j$は互いに異なる任意の対応候補であり，整合性スコアは対応
候補のペアに対して定義される．整合性スコアの定義については次章以降で詳し
く述べる．


\subsection{アラインメントの整合性}

アラインメントの精度を左右するのは，曖昧な対応や誤った対応が含まれるたく
さんの対応候補の中から，いかに正しいものを選択するかである．これを実現す
るために，対訳文全体を整合的に対応付けられるロバストな手法が必要である．


英語とヨーロッパ言語のように言語構造の似た言語対ならば，広く研究されてい
る統計的な手法でも高精度にアラインメントすることが可能であるが，日本語と
英語では言語構造が大きくことなるため，統計的な手法での高精度なアラインメ
ントは難しい．しかし我々のMTシステムは依存構造木をベースとした深い言語処
理を行っているため，リッチな情報を利用して言語構造の違いを吸収できるよう
なアラインメントが可能である．


我々の提案する手法を説明する前に，アラインメントの整合性とは何かを考えて
みよう．図\ref{fig:consistency}において，それぞれの三角形は各言語の木構
造上の節を表しており，2つの木構造にまたがって引かれた直線の1つ1つが対
応候補を表している．すべての対応候補のうちで，×印が記された候補が全体の
整合性を低下させていることが見て取れる．


このような不整合は視覚的には明らかである．この不整合さを定量的に評価する
ために，我々は一組の対応候補の木構造上での{\bf 距離}に注目する．図
\ref{fig:consistency}の例で×印が記された候補と他の1つの候補とに注目す
ると，原言語側での2つの直線の距離は遠いのに対して，目的言語側では非常に
近い．句の依存情報を元にした木構造上で議論すると，このようなことが起こる
ことは稀である．つまり，一方の言語で構造的に近い句同士が他方の言語では遠
くなるようなことはほぼありえないということである．


このように，あらゆる対応候補のペアの距離を適切に扱うことにより，全体的に
整合的なアラインメントを得ることができると考えられる．この距離を扱うため
に，我々は次章で説明する{\bf 整合性スコア}を提案する．


\begin{figure}[t]
 \begin{center}
  \includegraphics{15-2ia3f2.eps}
  \caption{整合性の例}
  \label{fig:consistency}
 \end{center}
\end{figure}

\subsection{整合性スコア}

整合的なアラインメントを得るために，依存構造木上で整合性スコアを定義する．
整合性スコアは2つ1組の対応候補に対して計算され，対応候補ペアの距離の関
係が適切ならばプラス，そうでなければマイナスのスコアとなる．


まず，任意の対応候補ペア$a_i$($p_{Si}$, $p_{Ti}$)と$a_j$($p_{Sj}$,
$p_{Tj}$)に注目する．$p_{Si}$と$p_{Ti}$はそれぞれ対応候補$a_i$によって対
応づけられている原言語，目的言語の句を表しており，$p_{Sj}$と$p_{Tj}$も同
様である．


原言語側の係り受け距離$d_S(a_i, a_j)$は，$p_{Si}$と$p_{Sj}$の間の木構造
上での距離として定義され，目的言語側についても同様に$d_T(a_i, a_j)$が定
義される．この距離を用いて整合性スコアは以下のように計算される．
\begin{equation}
 整合性スコア(a_i, a_j) = f(d_S, d_T)
\end{equation}
ここで$d_S$は$d_S(a_i, a_j)$を省略して表記したもので，$d_T$も同様である．
$f(d_S, d_T)$は原言語側と目的言語側の距離のペアをスコアに変換する関数で
あり，{\bf 距離—スコア関数}と呼ぶ．係り受け距離と距離スコア関数について
は次章で詳しく述べる．


対訳文全体のアラインメントの整合性は，式\ref{eq:sum}に表されるように，あ
らゆる組み合わせの対応候補ペアの整合性スコアの和として定義される．


正しい対応候補は，その近くにある対応候補により支持され，プラスのスコアが
与えられ，さらに全体のアラインメントの整合性に寄与する．ここで，近くにあ
る対応候補とは，原言語側，目的言語側ともに，距離が小さい対応候補というこ
とである．


\subsection{係り受け距離}

この章では，係り受け距離$d_S$や$d_T$の計算方法を説明する．最も単純な設定
としては，すべての枝の距離を1とし，係り受け距離はあるノードから別のノー
ドまでに通る枝の数とすることが考えられる．しかしながら，高度な言語処理技
術により得られる知識を利用し，より精度の高いシステムの構築を目指すことは
自然である．


日本語依存構造解析器KNPおよび英語のCharniakのnlparserはそれぞれ係り受け
タイプの情報を出力する．これらの情報を利用して，係り受けタイプスコアを定
義する．このスコアは係り受けの強さ，つまり枝の距離を表しており，係り受け
の強さが強い（区切りが弱い）ほど小さく，係り受けの強さが弱い（区切りが強い） 
ほど大きくなるように設定する．例えば複号名詞内の形態素の区切りなどは係り
受けが強いのでスコアは小さく，逆に節の区切りなどは係り受けが弱いのでスコ
アは大きくなる．


係り受けタイプは高々30種類程度しかないため，係り受けタイプスコアは人手に
より設定する．図\ref{fig:dep_dist}にその一部を示す．日本語の係り受けタイ
プは南による分類\cite{Minami}に基づいて，構文解析器KNP \cite{KNP}が出力す
るものである．スコアの値は主観的に定義したものであり，正確に言語現象を反
映した値ではない可能性がある．この値を自動学習により設定することは，今後
の課題である．

\begin{figure}[b]
 \begin{center}
\input{03figure3.txt}
 \end{center}
 \caption{係り受け距離の定義の例}
 \label{fig:dep_dist}
\end{figure}

係り受けタイプスコアを実際の対訳文に適用した例を図\ref{fig:exgood} に示
す．図\ref{fig:exgood}で各枝上のラベルが係り受けタイプを示しており，その
上の数字が係り受けタイプスコアである．


\begin{figure}[t]
 \begin{center}
  \includegraphics{15-2ia3f4.eps}
  \caption{係り受け距離とスコアの例}
  \label{fig:exgood}
 \end{center}
\end{figure}

係り受け距離$d_S$や$d_T$は，あるノードから別のノードまで最短ルートでたど
るときに通る枝の係り受けタイプスコアの和と定義する．例えば図
\ref{fig:exgood}でペア1の距離は，日本語側($d_S$)は ``保険$\rightarrow$ 
請求 の'' の枝を通るので，$d_S = 1$となり，英語側($d_T$)は``insurance
$\rightarrow$ an claim'' の枝を通るので，$d_T = 1$となるため，$(d_S,
d_T) = (1, 1)$となる（図で丸で囲まれた数字のある枝を通る）．同様にペア2の
距離は，日本語側はペア1と同じで$d_S = 1$だが，英語側は ``insurance
$\rightarrow$ with the office''，``with the office
$\rightarrow$ will have to file''，``an claim
$\rightarrow$ will have to file''の3つの枝を通るので，枝の距離を合計して
$d_T = 7$となるため，$(d_S, d_T) = (1, 7)$となる（図で四角で囲まれた数
字のある枝を通る）．


木構造を用いずに単純な単語列として見た場合，2つの``insurance''はどちら
も``claim''から近いと判断されてしまうため，正しい曖昧性解消ができなくな
る．このようなことは他の例でもしばしば起こりうることであり，木構造を用い
ることの利点がここで示される．


\subsection{距離—スコア関数}
\label{function}

距離スコア関数$f(d_S, d_T)$は2つの距離の組$(d_S, d_T)$に対して，それら
の関係が適切かどうかを反映するスコアを与える．この関数を設定するために，
まず実際のデータにおける現象を観測した．正解のアラインメントが付与された
4万文の新聞記事対訳コーパス\cite{Uchimoto04}を用いて，距離の組の出現頻度
を係数した．図\ref{fig:learn}に観測結果を示す（状況がとらえやすいように，
別角度からの図を2つ示す）．縦軸が頻度の対数であり，2つの横軸は2つの距離
にそれぞれ対応する．結果を見ると，距離が等しいペアの頻度は高く，逆に距離
に差があるペアの頻度が著しく低下することがわかる．


この観測結果を踏まえて，距離—スコア関数$f(d_S, d_T)$を人手で設定した．こ
のとき，以下の条件を満たすようにする：
\begin{itemize}
 \item $d_S$と$d_T$が共に小さい場合は，注目した対応候補の関係が適切であ
       ると判断できるので，プラスのスコアを与える
 \item $d_S$ と$d_T$が共に大きい場合（距離10以上）は，対応候補は互いに関係
       性を持たないと判断し，0とする．
 \item $d_S$と$d_T$の差が大きい場合は，対応候補の関係が不適切であると判
       断できるので，マイナスのスコアを与える．
\end{itemize}

\begin{figure}[t]
 \begin{center}
 \includegraphics{15-2ia3f5.eps}
  \caption{観測された距離の組の頻度分布}
  \label{fig:learn}
 \end{center}
\end{figure}


例えば図\ref{fig:exgood}において，ペア1$(d_S, d_T) = (1, 1)$にはプラスの
スコアを与えるが，ペア2$(d_S, d_T) = (1, 7)$に対してはマイナスのスコアを与え
る．


\subsection{最適なアラインメントの探索}
\label{new_align}

アラインメントの整合性は式\ref{eq:sum}に示したように，全ての対応候補ペア
の$f(d_S,d_T)$の和として定義される．また最適なアラインメントは，この和を
最大とするアラインメントである．しかしながら，考えうる全てのアラインメン
トのパターンをチェックしようとすると，組み合わせ爆発を起こすので，最適な
アラインメントの探索は近似的に行う．


まず，ある1つの対応候補$a_i$に対するスコアを以下のように定義する：
\begin{equation}
 score(a_i)=\sum^{}_{j \neq i}整合性スコア(a_i, a_j) \\
 \label{eq:individual}
\end{equation}
これにより，全ての対応候補の1つ1つに個別にスコアが計算される．ここで，
最も高いスコアとなった対応候補は正しい対応であると判断し，採用する．同時
に，採用された対応と衝突している対応候補は棄却する．そして各対応候補のス
コアを再計算し，採用・棄却を繰り返す．これをすべての対応候補が採用か棄却
されるまで繰り返すことにより，近似的に最適なアラインメントが得られる．



\section{実験と考察}
\label{result}

\subsection{アラインメント実験}

正解のアラインメントが付与されている新聞記事の対訳コーパス\cite{Uchimoto04}から
ランダムに500文を選び，これを用いて日英対訳文のアラ
インメント実験を行なった．アラインメントの評価単位は，日本語は文字単位，
英語は単語単位とした．日本語の評価単位を単語単位としなかった理由は2つあ
る．1つは我々の出力と正解データとで形態素解析のずれがある場合があること
である．もう1つは，我々の出力も正解データもアラインメントの単位は句なの
だが，そもそも何を句とするかの定義が定まっていないため，句の区切りにずれ
があることである．これらの理由から，評価を単純に，わかりやすくするために，
日本語では文字単位で評価した．なお我々の予備実験により，評価単位を文字単
位としても大きな副作用はないことが示されている．


対訳辞書として，研究社の和英辞書（見出し語数36\,K，抽出した対訳数214\,K）と，
同英和辞書（見出し語数50\,K，抽出した対訳数303\,K）を用いた．


評価は適合率，再現率，F値により算出し，さらにAER \cite{och00comparison}
も求めた．なお，正解データにはSure($S$)アラインメントのみが付与されてお
り，Possible($P$)アラインメントはない\cite{Och03}\footnote{
	Possible($P$)アラインメントがない場合，
	$\mathrm{AER} = 1\text{-}F-measure$と
	して計算される．
}．


実験結果を表\ref{tab:result_a}に示す．``baseline''はすべての枝の距離を1 
とし，さらに整合性スコア$f=1/d_S+1/d_T$として実験したものである．
``uniform dist.''は枝の距離はすべて1だが，整合性スコアを\ref{function}章
で定義した関数により計算した場合の結果である．``proposed''は``uniform
dist.''の枝の距離を係り受け距離に変更した結果である．

\begin{table}[b]
 \begin{center}
  \caption{アラインメント実験結果}
  \label{tab:result_a}
\input{03table1.txt}
 \end{center}
\end{table}


比較実験として，統計翻訳のフリーツールであり，その精度に定評のある
``Moses'' \cite{Moses}を利用したアラインメント実験も行なった．トレーニン
グデータとして，毎日新聞4万対訳文と読売新聞25万文を利用し，日本語文につ
いては形態素解析器JUMANで形態素に分割した．また\ref{alignment}章で述べた
部分文字列アラインメントのみでのアラインメント精度を``sub-string''に示し
た．ここでのトレーニングデータは，Mosesと同じものを用いた（ただし，日本語
の形態素分割は行っていない）．

``manual''は，我々の出力を人手により修正したものであり，アラインメントの
上限値と見ることができる．上限値が100にならないのは，我々の出力と正解デー
タとのアラインメントの単位にズレがあることや，正解データ自体に誤りが含ま
れていることがあるためである．


\subsection{考察}

表\ref{tab:result_a}より，距離スコア関数を改善することによりF値で2.7ポイ
ントの精度向上が見られる．実際の言語現象を観測し，それを反映する関数の定
義を用いることの妥当性と，その効果の高さがこの結果から示された．


係り受けスコアを用いることにより，さらに約1.5ポイント精度向上したが，距
離スコア改善による向上に比べると差が小さく，係り受けスコアを用いることの
利点はそれほどないように見える．現在は係り受け距離は人手により設定されて
いるが，この設定が実際の言語の特徴を十分に反映しているかどうかという点で
疑問が残る．今後係り受け距離を自動学習などにより適切に設定することにより，
係り受け距離を利用する効果がより顕著に表れるものと思われる．

\begin{figure}[b]
 \begin{center}
  \includegraphics{15-2ia3f6.eps}
  \caption{アラインメントの改善例}
  \label{fig:result_ex}
 \end{center}
\end{figure}

距離スコア関数の改善と，係り受けスコアの利用により，baselineより4.22ポイ
ントの精度向上を達成した．図\ref{fig:result_ex}に改善例を示す．例では日
本語の ``司法'' に対して，英語では ``judicial'' が二度出現しており，曖昧
性が発生している．baselineではこの曖昧性解消に失敗しており，アラインメン
トが不適切だが，proposedでは正しく曖昧性解消が行われ，正しいアラインメン
トを得ることができた．しかしながら，日本語で ``司法'' という語が一度しか
出てきていないため，正確には英語の ``our judicial system'' は未対応とす
るのが適切である．このような省略は逆の場合を含め，しばしば起こることであ
るため，適切に扱う必要がある．これについては今後検討する．


我々の提案手法では依存構造を用いており，その情報に強く頼っている部分が大
きい．このことは今まで述べたとおり非常に有効な手段であるが，一方で依存構
造解析の失敗が容易にアラインメントの失敗につながってしまう．日本語につい
ては形態素解析(JUMAN)の精度が99\%，構文解析(KNP)の精度が90\%であり，高精
度ではあるが失敗も10\%程度は含まれることになる．英語ではこれよりさらに精
度は低くなり，特に並列構造などでの解析失敗が目立つ．このため，我々が提案
する整合性尺度を利用して，依存構造木自体の修正を可能にする枠組を考案する
必要がある．これにより，アラインメントの精度向上が見込めるだけでなく，基
礎技術である構文解析技術へのフィードバックを図ることも可能となる．


``Moses''の結果は我々の結果に比べてかなり低い．これは\ref{Introduction} 
章で述べたように，統計的な手法が言語構造の異なる言語対に対してはあまり効
果が発揮できないことの表れといえる．日本語と英語では言語構造に大きな違い
があり，例えば日本語ではSOVの語順で文が構成されるが，英語ではSVOの語順で
文が構成される．このような言語対に対しては，我々の手法のように言語処理リ
ソースを用いた深い文解析が必要であると言える．


``sub-string''の結果は``Moses''の結果とほぼ同じであるが，``sub-string'' 
では形態素解析を行っていないという点を考慮すると，十分によい結果であると
言える．特に適合率を見るとMosesよりも良い結果であり，このことは我々のア
ラインメントで利用するときには有効である．

\begin{table}[b]
 \begin{center}
  \caption{他言語対でのアラインメント精度(AER)}
  \label{tab:result_b}
\input{03table2.txt}
 \end{center}
\end{table}


表\ref{tab:result_b}に，関連研究で示された，日英以外の言語対におけるアラ
インメント精度を示す．HLT-NAACL 2003 \cite{mihalcea-pedersen:2003:Partext}
（英語—フランス語と英語—ロシア語）と
ACL 2005 \cite{martin-mihalcea-pedersen:2005:WPT}（英語—ロシア語）はそれぞ
れアラインメントに関するワークショップでの結果であり，それぞれのワーク
ショップでの最も良い精度を記録した研究の値である．\cite{Gildea03}は英語
と韓国語でのアラインメント精度の向上を目指したものである．また最も基本的
な統計的単語アラインメントツールであるGIZA++ \cite{rodriguez-garciavarea-gamez:2006:WMT}を
用いてそれぞれの言語対でア
ラインメントした結果も示す．すべての値はAERである．


表\ref{tab:result_b}より，英語—フランス語対でのアラインメントは最も容易
であり，英語—韓国語で最も難しいといえる．これは言語構造の違いが英仏では
小さいが，英韓では大きいことからくると思われる．韓国語は日本語に近いとい
われており，日英と同様，アラインメントが難しい．我々の日英アラインメント
の結果をこれらの他言語対での結果と比較しても，十分高精度であると言える．




\section{結論と今後の課題}

本論文では構造的句アラインメントの精度向上を目的とし，係り受け距離と距離—スコア関数$f(d_S, d_T)$を用いた新しいアラインメント手法を提案した．また
対訳文全体のアラインメントの整合性を全ての対応ペアのスコア$f(d_S, d_T)$
の和として定義し，整合性を定量的に評価する枠組を提案した．これにより，構
造的句アラインメントの精度向上を達成し，基本的な統計的手法に比べておよそ
30ポイント高いアラインメント精度を実現した．


実験結果から，言語構造の異なる言語対であっても我々の手法は十分に高精度な
アラインメントを行うことができ，関連研究での他の言語対での結果と比較して
も遜色ない結果をあげた．今後我々の手法を日英以外の言語対に対しても適用し，
その有効性を検証したい．

また係り受け距離と距離—スコア関数は現在は人手により設定されているが，実
際の言語の特徴をよりよく反映するモデルを構築し，さらに他言語において人手
により設定するコストを抑えるために，単言語コーパスからパラメータを自動的
に学習する手法を考案する必要がある．


アラインメントの失敗例の多くは構文解析誤りによるものである．現在の枠組で
は構文解析結果を完全に信頼して整合性を測っているが，我々の手法が十分に洗
練されたものになれば，整合性尺度に基づいて構文を修正できるような，構文解
析とアラインメントが互いに柔軟に影響しあい，互いの精度向上を行えるような
柔軟な枠組を作ることが今後の課題である．







\bibliographystyle{jnlpbbl_1.3}
\begin{thebibliography}{}

\bibitem[\protect\BCAY{Brown, Pietra, Pietra, \BBA\ Mercer}{Brown
  et~al.}{1993}]{Brown93}
Brown, P.~F., Pietra, S. A.~D., Pietra, V. J.~D., \BBA\ Mercer, R.~L. \BBOP
  1993\BBCP.
\newblock \BBOQ The Mathematics of Statistical Machine Translation: Parameter
  Estimation\BBCQ\
\newblock {\Bem Association for Computational Linguistics}, {\Bbf 19}  (2),
  \mbox{\BPGS\ 263--312}.

\bibitem[\protect\BCAY{Charniak \BBA\ Johnson}{Charniak \BBA\
  Johnson}{2005}]{Charniak}
Charniak, E.\BBACOMMA\ \BBA\ Johnson, M. \BBOP 2005\BBCP.
\newblock \BBOQ Coarse-to-Fine n-Best Parsing and MaxEnt Discriminative
  Reranking\BBCQ\
\newblock In {\Bem Proceedings of the 43rd Annual Meeting of the Association
  for Computational Linguistics (ACL'05)}, \mbox{\BPGS\ 173--180}\ Ann Arbor,
  Michigan.

\bibitem[\protect\BCAY{Chiang}{Chiang}{2005}]{chiang:2005:ACL}
Chiang, D. \BBOP 2005\BBCP.
\newblock \BBOQ A Hierarchical Phrase-Based Model for Statistical Machine
  Translation\BBCQ\
\newblock In {\Bem Proceedings of the 43rd Annual Meeting of the Association
  for Computational Linguistics (ACL'05)}, \mbox{\BPGS\ 263--270}\ Ann Arbor,
  Michigan. Association for Computational Linguistics.

\bibitem[\protect\BCAY{Cromieres}{Cromieres}{2006}]{Fabien06}
Cromieres, F. \BBOP 2006\BBCP.
\newblock \BBOQ Sub-Sentential Alignment Using Substring Co-Occurrence
  Counts\BBCQ\
\newblock In {\Bem Proceedings of the 44th Annual Meeting of the Association
  for Computational Linguistics}, \mbox{\BPGS\ 13--18}.

\bibitem[\protect\BCAY{Gildea}{Gildea}{2003}]{Gildea03}
Gildea, D. \BBOP 2003\BBCP.
\newblock \BBOQ Loosely Tree-based Alignment for Machine Translation\BBCQ\
\newblock In {\Bem Proceedings of the 41st Annual Meeting on Association for
  Computational Linguistics}, \mbox{\BPGS\ 80--87}.

\bibitem[\protect\BCAY{Koehn, Hoang, Birch, Callison-Burch, Federico, Bertoldi,
  Cowan, Shen, Moran, Zens, Dyer, Bojar, Constantin, \BBA\ Herbst}{Koehn
  et~al.}{2007}]{Moses}
Koehn, P., Hoang, H., Birch, A., Callison-Burch, C., Federico, M., Bertoldi,
  N., Cowan, B., Shen, W., Moran, C., Zens, R., Dyer, C., Bojar, O.,
  Constantin, A., \BBA\ Herbst, E. \BBOP 2007\BBCP.
\newblock \BBOQ Moses: Open Source Toolkit for Statistical Machine
  Translation\BBCQ\
\newblock In {\Bem Annual Meeting of the Association for Computational
  Linguistics (ACL), demonstration session}.

\bibitem[\protect\BCAY{Koehn, Och, \BBA\ Marcu}{Koehn
  et~al.}{2003}]{koehn-och-marcu:2003:HLTNAACL}
Koehn, P., Och, F.~J., \BBA\ Marcu, D. \BBOP 2003\BBCP.
\newblock \BBOQ Statistical Phrase-Based Translation\BBCQ\
\newblock In Hearst, M.\BBACOMMA\ \BBA\ Ostendorf, M.\BEDS, {\Bem HLT-NAACL
  2003: Main Proceedings}, \mbox{\BPGS\ 127--133}\ Edmonton, Alberta, Canada.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{Kurohashi \BBA\ Nagao}{Kurohashi \BBA\
  Nagao}{1994}]{KNP}
Kurohashi, S.\BBACOMMA\ \BBA\ Nagao, M. \BBOP 1994\BBCP.
\newblock \BBOQ A Syntactic Analysis Method of Long {J}apanese Sentences Based
  on the Detection of Conjunctive Structures\BBCQ\
\newblock {\Bem Computational Linguistics}, {\Bbf 20}  (4), \mbox{\BPGS\
  507--534}.

\bibitem[\protect\BCAY{Kurohashi, Nakamura, Matsumoto, \BBA\ Nagao}{Kurohashi
  et~al.}{1994}]{JUMAN}
Kurohashi, S., Nakamura, T., Matsumoto, Y., \BBA\ Nagao, M. \BBOP 1994\BBCP.
\newblock \BBOQ Improvements of {J}apanese Morphological Analyzer {JUMAN}\BBCQ\
\newblock In {\Bem Proceedings of The International Workshop on Sharable
  Natural Language}, \mbox{\BPGS\ 22--28}.

\bibitem[\protect\BCAY{Martin, Mihalcea, \BBA\ Pedersen}{Martin
  et~al.}{2005}]{martin-mihalcea-pedersen:2005:WPT}
Martin, J., Mihalcea, R., \BBA\ Pedersen, T. \BBOP 2005\BBCP.
\newblock \BBOQ Word Alignment for Languages with Scarce Resources\BBCQ\
\newblock In {\Bem Proceedings of the ACL Workshop on Building and Using
  Parallel Texts}, \mbox{\BPGS\ 65--74}\ Ann Arbor, Michigan. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Matsumoto, Ishimoto, \BBA\ Utsuro}{Matsumoto
  et~al.}{1993}]{matsumoto:1993:ACL}
Matsumoto, Y., Ishimoto, H., \BBA\ Utsuro, T. \BBOP 1993\BBCP.
\newblock \BBOQ Structural Matching of Parallel Texts\BBCQ\
\newblock In {\Bem Proceedings of the 31st Annual Meeting of the Association of
  Computational Linguistics}, \mbox{\BPGS\ 23--30}.

\bibitem[\protect\BCAY{Menezes \BBA\ Richardson}{Menezes \BBA\
  Richardson}{2001}]{Menezes01}
Menezes, A.\BBACOMMA\ \BBA\ Richardson, S.~D. \BBOP 2001\BBCP.
\newblock \BBOQ A Best-first Alignment Algorithm for Automatic Extraction of
  Transfer Mappings from Bilingual Corpora\BBCQ\
\newblock In {\Bem Proceedings of the 39th Annual Meeting of the Association
  for Computational Linguistics (ACL) Workshop on Data-Driven Machine
  Translation}, \mbox{\BPGS\ 39--46}.

\bibitem[\protect\BCAY{Mihalcea \BBA\ Pedersen}{Mihalcea \BBA\
  Pedersen}{2003}]{mihalcea-pedersen:2003:Partext}
Mihalcea, R.\BBACOMMA\ \BBA\ Pedersen, T. \BBOP 2003\BBCP.
\newblock \BBOQ An Evaluation Exercise for Word Alignment\BBCQ\
\newblock In Mihalcea, R.\BBACOMMA\ \BBA\ Pedersen, T.\BEDS, {\Bem HLT-NAACL
  2003 Workshop: Building and Using Parallel Texts: Data Driven Machine
  Translation and Beyond}, \mbox{\BPGS\ 1--10}\ Edmonton, Alberta, Canada.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{Och \BBA\ Ney}{Och \BBA\ Ney}{2000}]{och00comparison}
Och, F.~J.\BBACOMMA\ \BBA\ Ney, H. \BBOP 2000\BBCP.
\newblock \BBOQ A Comparison of Alignment Models for Statistical Machine
  Translation\BBCQ\
\newblock In {\Bem Proceedings of the 18th International Conference on
  Computational Linguistics}, \mbox{\BPGS\ 1086--1090}\ Saarbrucken, Germany.

\bibitem[\protect\BCAY{Och \BBA\ Ney}{Och \BBA\ Ney}{2003}]{Och03}
Och, F.~J.\BBACOMMA\ \BBA\ Ney, H. \BBOP 2003\BBCP.
\newblock \BBOQ A Systematic Comparison of Various Statistical Alignment
  Models\BBCQ\
\newblock {\Bem Association for Computational Linguistics}, {\Bbf 29}  (1),
  \mbox{\BPGS\ 19--51}.

\bibitem[\protect\BCAY{Rodr\'{i}guez, Garc\'{i}a-Varea, \BBA\
  G\'{a}mez}{Rodr\'{i}guez et~al.}{2006}]{rodriguez-garciavarea-gamez:2006:WMT}
Rodr\'{i}guez, L., Garc\'{i}a-Varea, I., \BBA\ G\'{a}mez, J.~A. \BBOP
  2006\BBCP.
\newblock \BBOQ Searching for alignments in SMT. A novel approach based on an
  Estimation of Distribution Algorithm\BBCQ\
\newblock In {\Bem Proceedings on the Workshop on Statistical Machine
  Translation}, \mbox{\BPGS\ 47--54}\ New York City. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Sadler \BBA\ Vendelmans}{Sadler \BBA\
  Vendelmans}{1990}]{sadler:1990:COLING}
Sadler, V.\BBACOMMA\ \BBA\ Vendelmans, R. \BBOP 1990\BBCP.
\newblock \BBOQ Pilot Implementation of a Bilingual Knowledge Bank\BBCQ\
\newblock In {\Bem Papers presented to the 13th International Conference on
  Computational Linguistics}, \mbox{\BPGS\ 449--451}.

\bibitem[\protect\BCAY{Sato \BBA\ Nagao}{Sato \BBA\
  Nagao}{1990}]{sato:1990:COLING}
Sato, S.\BBACOMMA\ \BBA\ Nagao, M. \BBOP 1990\BBCP.
\newblock \BBOQ Toward Memory-based Translation\BBCQ\
\newblock In {\Bem Papers presented to the 13th International Conference on
  Computational Linguistics}, \mbox{\BPGS\ 247--252}.

\bibitem[\protect\BCAY{Uchimoto, Zhang, Sudo, Murata, Sekine, \BBA\
  Isahara}{Uchimoto et~al.}{2004}]{Uchimoto04}
Uchimoto, K., Zhang, Y., Sudo, K., Murata, M., Sekine, S., \BBA\ Isahara, H.
  \BBOP 2004\BBCP.
\newblock \BBOQ {Multilingual Aligned Parallel Treebank Corpus Reflecting
  Contextual Information and Its Applications}\BBCQ\
\newblock In {\Bem Proceedings of the MLR2004: PostCOLING Workshop on
  Multilingual Linguistic Resources}, \mbox{\BPGS\ 63--70}.

\bibitem[\protect\BCAY{Watanabe, Kurohashi, \BBA\ Aramaki}{Watanabe
  et~al.}{2000}]{watanabe:2000:COLING}
Watanabe, H., Kurohashi, S., \BBA\ Aramaki, E. \BBOP 2000\BBCP.
\newblock \BBOQ Finding Structural Correspondences from Bilingual Parsed Corpus
  for Corpus-based Translation\BBCQ\
\newblock In {\Bem Proceedings of the 18th International Conference on
  Computational Linguistics}, \mbox{\BPGS\ 906--912}.

\bibitem[\protect\BCAY{南}{南}{1993}]{Minami}
南不二男 \BBOP 1993\BBCP.
\newblock \Jem{現代日本語文法の輪郭}.
\newblock 大修館書店.

\end{thebibliography}

\begin{biography}
\bioauthor{中澤　敏明}{
2005 年東京大学工学部電子情報工学科卒業．2007 年同
大学院修士課程修了．2007 年京都大学大学院博士後期課程入学．機械翻訳の研
究に従事．}

\bioauthor{黒橋　禎夫}{
1989 年京都大学工学部電気工学第二学科卒業．1994 年
同大学院博士課程修了．京都大学工学部助手，京都大学大学院情報学研究科講師，
東京大学大学院情報理工学系研究科助教授を経て，2006 年京都大学大学院情報
学研究科教授，現在に至る．自然言語処理，知識情報処理の研究に従事．}

\end{biography}


\biodate



\end{document}
