    \documentclass[japanese]{jnlp_2.1}
\usepackage{jnlpbbl_1.3}
\usepackage[dvipdfm]{graphicx}
\usepackage{amsmath}
\usepackage{hangcaption_jnlp}
\usepackage{udline}
\setulminsep{1.2ex}{0.2ex}
\let\underline
\usepackage{longtable}

\usepackage{ascmac}
\usepackage{array}
\usepackage{multirow}


\Volume{25}
\Number{3}
\Month{June}
\Year{2018}

\received{2017}{9}{14}
\revised{2017}{12}{31}
\accepted{2018}{2}{13}

\setcounter{page}{255}

\jsubject{論文}
\jtitle{かな漢字換言を通した日本語語義曖昧性解消の分析}
\jauthor{桾澤　優希\affiref{Author_nut} \and 山本　和英\affiref{Author_nut}}
\jabstract{
本論文では，日本語語義曖昧性解消に存在する問題点を文中のひらがなを漢字に直すかな漢字換言タスクを通して明らかにする．素性について分散表現と自己相互情報量を組み合わせる手法を考案し実験を行った結果，かな漢字換言においてベースラインに比べ約 2 ポイント高い精度を得ることができた．日本語の語義曖昧性解消タスクを用いた検証においても，PMI を用い文全体から適切な単語を素性として加えることが有効であることを示した．かな漢字換言の利点を活かし，大量の訓練データを用いたときのかな漢字換言の精度の比較を行った結果，非常に大きい訓練データを用いた場合分散表現を用いたどの手法でもほぼ同じ精度を得られることがわかった．その一方で同じ精度を得るために必要な訓練データは指数関数的に増えていくため，少ない訓練データで精度を上げる手法が語義曖昧性解消において重要であることを確認した．また，BCCWJ と Wikipedia から作成した訓練データとテストデータを相互に使い実験し，各ドメインにあった訓練データを使うことが精度向上において重要であることを確認した．
}
\jkeywords{かな漢字換言，語義曖昧性解消，分散表現}

\etitle{Analysis of Japanese Word Sense Disambiguation \\ through Kana-Kanji Conversion}
\eauthor{Yuki Gumizawa\affiref{Author_nut} \and Kazuhide Yamamoto\affiref{Author_nut}} 
\eabstract{
In this paper, we investigate a problem existing in Japanese word sense disambiguation (WSD) through a HiraganaKanji conversion task. In choosing words to consider as features, we propose a method that employs word embeddings and pointwise mutual information and evaluate the proposed method. The experimental results suggest that our method is more effective than other methods using word embeddings. We conduct an experiment using SemEval 2010 Japanese WSD Task and our proposed method achieve better accuracy. We also compare the accuracy when changing the amount of training data. We find that the difference in accuracy between the methods becomes small when a very large amount of training data is used. We have confirmed that the method of improving accuracy while using fewer training data is important in WSD because the number of sentences required to obtain high accuracy increases exponentially. We also experiment on the domain of data and confirmed that using datasets for ambiguity matching in each domain is important in improving accuracy.
}
\ekeywords{KanaKanji Conversion, Word Sense Disambiguation, Word Embedding}

\headauthor{桾澤, 山本}
\headtitle{かな漢字換言を通した日本語語義曖昧性解消の分析}

\affilabel{Author_nut}{長岡技術科学大学電気電子情報工学専攻}{Electrical, Electronics and Information Engineering, Nagaoka University of Technology}



\begin{document}
\maketitle


\section{はじめに}
\label{section:first}

語義曖昧性解消はコンピュータの意味理解において重要であり，古くから様々な手法が研究されている自然言語処理における課題の一つである\cite{Navigli:2009:WSD:1459352.1459355,Navigli2012}．
語義曖昧性解消の手法には大きく分けて教師あり学習，教師なし学習，半教師あり学習の3つが存在する．

教師なし学習を用いるものにはクラスタリングを用いた手法\cite{UnsupervisedWSDClustering}や分散表現を用いた手法\cite{wawer-mykowiecka:2017:SENSE2017}などが存在するが，どの手法においても精度は高くなく実用的な性能には至っていない．
知識ベースを用いた教師なし学習の手法についても，単純な教師なし学習よりは高いものの教師あり学習を用いる手法と比べると精度が劣ることが報告されている\cite{raganato-camachocollados-navigli:2017:EACLlong}．
それらに対して，教師あり学習を用いた語義曖昧性解消は比較的高い精度を得られることが知られており，SemEval2007 \cite{pradhan-EtAl:2007:SemEval-2007}やSenseval3 \cite{MihalceaEtAl2004}の英語語義曖昧性解消タスクにおいても教師あり学習を用いた手法が最も良い精度を記録している．

一方，教師あり学習を用いて語義曖昧性解消を行う上で「訓練データが不足する」という問題が存在する．
教師あり学習での語義曖昧性解消では訓練データの作成に人手での作業が必要になるため，コストの問題から大きなデータセットを用意することは難しい．
語義曖昧性解消において周辺の文脈情報は有効な手掛かりであることが知られており，訓練データを増やし様々なパターンを学習させることが精度を上げる上で必要になる\cite{yarowsky:1995:ACL}．
しかしながら，上述のSemEval2007 Task17 語義曖昧性解消タスクのLexical Sample Taskにおいて，訓練データの1単語あたりの平均訓練事例数は約222と決して多い数字とは言えない．
SemEval2010の日本語語義曖昧性解消タスク\cite{okumura-EtAl:2010:SemEval}に至っては1単語あたりの訓練事例数がおよそ50であり，圧倒的に訓練データが足りていないと言える．
また，訓練データの不足に関連してデータスパースネスも語義曖昧性解消において大きな問題となる．
先に述べたように周辺の文脈パターンを語義ごとに学習させるためには非常に大量の訓練事例が必要となりコストの問題から現実的でない．
これらの問題を解決するため，半教師あり学習によって確度の高いデータを訓練データとして追加し学習を行う方法が研究されており，日本語語義曖昧性解消タスクにおいて高い精度が得られたことが報告されている(藤田，Duh，藤野，平，進藤2011; Fujita and Fujino 2013; 井上，斎藤2011)．\nocite{KevinDuh2011}\nocite{Fujita:2013:WSD:2461316.2461319}\nocite{2011inoue}
また，これらを解決する別のアプローチとして語の分散表現を教師ありの語義曖昧性解消に用いる研究があり\cite{sugawara:2015:pacling,weko_146217_1,iacobacci-pilehvar-navigli:2016:P16-1}，既存の素性と組み合わせることによって高い精度が得られたことを報告している．

ところで，日本語の言語処理にはかな漢字換言というタスクがある．
これは，入力された文中のひらがなについて漢字に換言できる対象がある場合，その周辺の文脈を考慮して正しい漢字に換言するというものである．
例えば「私は犬を\underline{かって}いる」という文があった際，犬という単語から「かって」というひらがなが「買って」ではなく「飼って」を意味することは容易に理解できる．
このようなひらがな語について漢字に換言を行うタスクを我々はかな漢字換言と呼んでおり，以前から研究を行ってきた\cite{Kazuhide2016}．
ここで行っていることは語義曖昧性解消そのものであり，かな漢字換言の誤り分析を行うことは日本語語義曖昧性解消タスクにおいて誤り分析することとほぼ同義であると考えられる．
また，通常の語義曖昧性解消タスクに比べかな漢字換言の訓練データは大量のコーパスから自動で構築することが可能なため，訓練データの増減による精度の変化や誤り分析などが容易に行えるという利点がある．

本論文では日本語語義曖昧性解消タスクにおける問題点についてかな漢字換言タスクを通して確認し，既存の手法において何が不足しているのかを明らかにする．

本論文の構成は以下の通りである．
\ref{section:related-works}章にて本論文に関連する研究および本研究の位置付けについて述べ，\ref{section:kanakanji-conversion}章にて我々が今回行うかな漢字換言タスクについて日本語語義曖昧性解消タスクと比較しながら詳細を述べる．
\ref{section:proposed-method}章では提案手法について既存手法との比較を行いながら説明をする．
\ref{section:experimentation}章ではそれらの手法を用いてかな漢字換言と通常の語義曖昧性解消タスクにおける提案手法の有効性の検証を行い，語義曖昧性解消タスクにおける問題点を明確にする．
\ref{section:conclusion}章にて結論を述べる．


\section{関連研究}
\label{section:related-works}

本章ではまず教師あり学習に基づく語義曖昧性解消について先行研究を概観する．
さらに，かな漢字換言タスクにおいて我々が以前行っていた研究について先行研究として併せて概観し，最後に本研究が本論文を通して明らかにしたいことについて示す．


\subsection{教師あり語義曖昧性解消}
\label{subsection:supervised-wsd}

Yarowskyらの報告\cite{yarowsky:1995:ACL}によると教師あり学習に基づく語義曖昧性解消では周辺の文脈情報が有効だと言われている．
そのため，教師あり学習での語義曖昧性解消では従来周辺に出現した単語を主に素性として用い，さらに品詞や文の構造情報，Bag-of-Words (BoW)等を素性として加えることで精度を向上させてきた\cite{Navigli:2009:WSD:1459352.1459355}．
日本語の語義曖昧性解消においても同じであり，SemEval2010の日本語語義曖昧性解消タスクにおいて使われたベースラインのシステムでは対象単語前後の単語や品詞，係り受け関係などを素性として用い，高い精度を得ている\cite{okumura-EtAl:2010:SemEval}．

また近年では単語のベクトル表現を用いて精度向上を図ろうとする取り組みも存在する\cite{cai-lee-teh:2007:EMNLP-CoNLL2007}．
これらのベクトル表現は単語の意味的な特徴を捉えており，特にMikolovらが考案したWord2Vec\cite{DBLP:journals/corr/MikolovSCCD13}では，Countinuous Bag-of-WordsとSkip-gramの各手法によって得られる単語のベクトルが従来のカウントモデルに比べて秀でた性能を持っていることが知られている\cite{baroni-dinu-kruszewski:2014:P14-1}．
そのため，Word2Vecは語義曖昧性解消だけでなく係り受け解析\cite{bansal-gimpel-livescu:2014:P14-2}等様々なタスクにおいて利用されている．
教師あり学習の語義曖昧性解消に対して単語の分散表現を用いる手法の研究にはSugawaraらの研究\cite{sugawara:2015:pacling}と山木らの研究\cite{weko_146217_1}，Iacobacciらの研究\cite{iacobacci-pilehvar-navigli:2016:P16-1}がある．

Sugawaraらの先行研究では曖昧性解消の対象となる単語の前後N単語の単語ベクトルをつなぎ合わせたものを素性とするContext-Word-Embeddings (CWE)という手法を提案し，BoWに比べて高い精度が得られたことを報告している．
それに対し，山木らはCWEの手法における「単語の位置が規定される」点と「自立語以外の単語を考慮している」点について問題点として上げ，分散表現から得られる用例間類似度を用いる手法を提案している．
この手法では既存の素性と組み合わせることで従来よりも高い精度が得られたことを報告している．
またIacobacciらの論文では周辺単語のベクトルを足し合わせる際に単語間の距離を考慮する手法について提案し，SemEval2007等のデータセットで有効性を確認した結果最も良い性能が得られたことを報告している．


\subsection{かな漢字換言}

かな漢字換言は\ref{section:first}章で述べたように文中の一部のひらがなを漢字に直すタスクである．
我々は以前，自己相互情報量 (Pointwise Mutual Information; PMI)を用いて対象となるひらがなの換言候補の中で最もPMIが高い漢字について換言するという手法を実装している\cite{Kazuhide2016}．
ここでは精度よく換言できないひらがなと漢字の対については換言対象から外す処理をしているが，換言対象となった71語の換言精度は94.1\%と非常に高いことを報告している．
この換言手法は語義曖昧性解消に必要な情報が周辺単語1単語で決定できるという考察に基づいたものであるが，この論文中では周辺単語から換言を行えると考えられる対象のみを換言対象としていたため，すべての漢字に当てはめたときの精度は不明であり，語義曖昧性解消の分析としては不十分である．


\subsection{本研究の目的}

我々が本論文において明らかにしたい問題は主に3つである．

1つ目は素性選択の手法である．
従来，日本語語義曖昧性解消の手法として提案されてきたものの多くが素性として主に対象単語前後2単語の情報を使い，そこに係り受け関係やLDAの結果などを追加する形で精度を向上させてきた(Okumura et al. 2010; 藤田他2011)．
分散表現を用いたSugawaraらの語義曖昧性解消においては対象単語前後5単語の分散表現を使い実際に精度が向上したことが報告されているが，日本語語義曖昧性解消において考慮する周辺単語の窓幅によって精度がどのように変化するのか調査した文献は存在しない．
また，新納らは論文中で「特に対象単語からかなり離れた後方位置にある単語が対象単語の語義の選択に影響を与えているとは考えづらい」と述べている\cite{weko_182711_1}．
我々はこれらについて改めて調査，報告を行った上で新たに自己相互情報量を用い，対象単語から離れた位置の単語を考慮する手法を提案する．

2つ目は訓練データのサイズである．
\ref{subsection:supervised-wsd}節で述べたように教師ありの語義曖昧性解消ではその精度評価として規模の小さい訓練データが使われることが多い．
その為，曖昧性解消の精度が低い主な理由について「訓練データが不足している」と考察している論文も少なくない (藤田 他2011; 新納，村田，白井，福本，藤田，佐々木，古宮，乾2015)．\nocite{新納浩幸2015}
一方でそれらの論文中でどれくらいの訓練データが必要になるのかの考察はほぼ行われておらず，少ない訓練データを用いて精度の改善を行うことにのみ注力しているように見える．
どのくらいの規模の訓練データを用意すれば十分な精度が得られるのかが明確に示されているのならば，まず訓練データを増やすことができるはずである．
逆に訓練事例の数によって精度の差がないのであれば現状のタスクにおいてより精度を出せる手法を検討していくことが重要となる．
そこで，我々はかな漢字換言の特性を活かして非常に大規模なデータを用意し，訓練データを増減させたときの精度の変化を調査する．

3つ目は訓練データのドメインについてである．
Fujitaらは対象語毎に訓練データの分野の組合せを変えて学習するより，分野に関係なくすべての訓練データを学習に用いる方が精度が良いと報告をしているが\cite{fujita-EtAl:2010:SemEval}，ドメインごとに同量の訓練データを用いた際の精度の変化についてそれぞれ比較を行い，どのような訓練データがどの程度精度に寄与するのかを明らかにする．

以上3点についてが，本論文において我々が報告したい内容である．


\section{かな漢字換言}
\label{section:kanakanji-conversion}

\subsection{概要}

かな漢字換言は文章中の特定のひらがなを漢字に換言するタスクである．
例えば「私は犬を\underline{かって}いる」という文が存在した場合，ここでの「かって」という単語は「買う」ではなく「飼う」という意味での使われ方をしている．
一方「購買でノートを\underline{かう}」という文の場合，ここでの「かう」という単語が「買う」という意味を示していることは容易く理解できる．
このような換言対象となるひらがな語を含む文についてひらがな語を該当する漢字に同定するタスクを我々はかな漢字換言と呼んでいる．
意味の曖昧性を持つひらがな語を特定の漢字に同定する処理はそのひらがな語の語義曖昧性を解消することに相当する．
また，この換言はひらがな語と漢字語の表記ゆれ解消にもなっている．
つまり，本タスクは語義曖昧性解消，換言処理，表記ゆれ解消のいずれにも該当する．

我々が通常の語義曖昧性解消タスクではなくかな漢字換言による語義曖昧性解消で分析を行う理由に，その訓練データの作りやすさがある．
通常の語義曖昧性解消では訓練データをコストをかけて人手で作る必要があるが，かな漢字換言では対象となる漢字さえ分かれば大量のコーパスから自動的に訓練データを増やすことが可能であり，訓練データの増減による精度の検証が容易い．
そのため，今回我々はかな漢字換言を通して語義曖昧性解消の分析を行うこととした．

かな漢字換言の対象となるひらがな語は同じ読みで異なる語義を持つ漢字が複数存在するものである．
以前Yamamotoらが実装したかな漢字換言では換言の対象を手動にて抽出しているが\cite{Kazuhide2016}，
我々はかな漢字換言を通して日本語語義曖昧性解消について分析を行うため，語義の定義について形態素解析辞書UniDic\footnote{http://pj.ninjal.ac.jp/corpus\_center/unidic/}の語彙素を用いた．
UniDicでは語彙素を選定する際の同語異語判別に明確な基準を設けている\cite{Corpus2010}．
基準の一つとして「漢字表記の頻度よりも仮名表記の頻度が非常に高い場合，一つの語彙素にまとめることを優先する」というものがあり，これは例えば「収まる」や「治まる」の語彙素が「収まる」にまとめられるようなものである．
この基準は通常のかな漢字換言では「収まる」と「治まる」のような漢字を対象にすることができないため不適当である．
しかし，本論文の目的はかな漢字換言を通した日本語語義曖昧性解消の分析であるため，大規模なコーパスからデータセットを自動的に抽出する際，十分な訓練事例を用意できないこれらの語義を解析対象とするのは適当でない．
さらに，明確に使い分けされていないこれらの漢字をデータセットとして抽出することは誤解析の原因となる．
そのため，ここではこれらの語義を明確に分けている形態素解析辞書UniDicを用いている．

かな漢字換言において活用を持つ動詞に関してはその語の形を用いることで一意に意味を決定できる場合がある．
例えば「寝る」「練る」のような単語に関して「寝る」の未然形は「ね」なのに対し「練る」の未然形は「ねら」である．
そのため，「私は蕎麦をねらない」といった文に含まれる「ねらない」は一意に「練らない」に変換することが可能である．
しかし，本論文中ではかな漢字換言を通して語義曖昧性解消について分析することが目的であるため，語の形は素性として使わないこととした．

以後の実験において使用する訓練データとテストデータについて，我々は現代日本語書き言葉均衡コーパス(BCCWJ)\footnote{http://pj.ninjal.ac.jp/corpus\_center/bccwj/}に含まれる全文章の中から換言の対象となる文を，訓練データでは1語義あたり200文を，テストデータでは1語義あたり50文を無作為に抽出した．
出現頻度が250文に満たない漢字については換言対象から除外している．
抽出の対象となる文は日本語解析システム雪だるま\cite{40020961332}\footnote{http://snowman.jnlp.org/snowman}の出力単語が15語以上のものとした．
文長を15語以上に制限する理由は「窓幅と素性の選び方」について調査する上で窓幅による精度への影響を調査しやすくするためである．
換言対象のひらがなは計311語，換言の候補となる漢字は計734語である．
換言対象のひらがな語はBCCWJ中において438,360回出現し，全約600万文章中約13.5文に1回出現する計算となる．
以後の実験では特筆しない場合上記のデータセットを用いて行う．
なお対象となったひらがなと漢字の対に関しては付録\ref{appendix:kanakanji-target}に記している．
実際にデータセットとして抽出された文の一部を表\ref{tab:kanakanji-conversion-data}に示す．表中の下線部が換言の対象となるひらがなである．

\begin{table}[t]
\caption{かな漢字換言データセットの一部}
\label{tab:kanakanji-conversion-data}
\input{01table01.tex}
\end{table}


\subsection{他タスクとの比較}

通常，語義曖昧性解消タスクの多くはWordNetや辞書などに存在する語義の定義に併せて単語を分類することが多い\cite{LNC3:LNC3131}．
これらの語義曖昧性解消の語義タグは比較的細かいことから，実アプリケーションへの実装を考えた際にその粒度が問題となることが指摘されており\cite{lopezdelacalle-agirre:2015:*SEM2015}，
近年ではより粗い粒度を語義曖昧性解消へ用いる動きも見られる\cite{navigli-litkowski-hargraves:2007:SemEval-2007}．
また，拡張固有表現階層を用いて構築した意味カテゴリに基づく語義曖昧性解消のアプローチも存在し，これは荒い粒度の語義曖昧性解消と同等だと考えられる\cite{weko_79539_1}．
かな漢字換言では前述の通り語義が完全に異なる漢字のみを対象としており，語義同士の距離が近い漢字を曖昧性解消の対象としていないことから，かな漢字換言はこれらの語義曖昧性解消タスクと同等，またはそれ以上に粗い曖昧性解消と考えることが可能である．

今回の分析に用いるかな漢字換言のデータと通常の語義曖昧性解消の間のその他の違いとして文長が考えられる．
前節にて抽出したデータセットでは1文が15単語以上のものを語義曖昧性解消の対象として選択している．
一方で，日本語語義曖昧性解消タスクでは文章自体は長いが1文1文がかな漢字換言のデータに比べて短くなっている．
つまり1文のみを使うことによる語義曖昧性解消の難易度はかな漢字換言の方が易しいと考えられる．

ここではかな漢字換言タスクと通常の語義曖昧性解消タスクとの関連性を調べるため，
\linebreak
Semeval2010 の日本語語義曖昧性解消タスクとの比較を行う．
白井らは語義曖昧性解消の難しさについて語義の頻度分布のエントロピーを用いて分析を行っている\cite{20033}．
頻度分布のエントロピー$E(w)$は次式で求めることができる．
\begin{equation}
E(w) = -\sum_{i} p(s_{i}|w)\log{}p(s_{i}|w)
\end{equation}
ここで$p(s_{i}|w)$は単語$w$の語義が$s_{i}$である確率を表す．

表\ref{tab:compare-kanakanji}に各タスクにおける平均語義数，頻度分布のエントロピーを示す．
なおSemEval2010のタスクについては語義の頻度分布のエントロピーを用いて決められた難易度ごとのデータについても記す\cite{2011semeval}．
前節で作成したかな漢字換言のデータセットでは各語義のデータ数を揃えているため，今回はエントロピーの計算にBCCWJの漢字の出現回数をカウントし用いている．
各タスクにおける平均語義数を比較するとかな漢字換言の平均語義数は日本語語義曖昧性解消タスクの$D_{easy}$に相当することがわかる．
一方でかな漢字換言のエントロピーの値は$0.87$と$D_{mid}$と同じ程度の値を取っている．
かな漢字換言では対象となる漢字をコーパス中で250回以上出現するものに限定しているため，偏りが少なくなったことでエントロピーの値が大きくなったのだと考えられる．

\begin{table}[b]
\caption{各データセットの比較}
\label{tab:compare-kanakanji}
\input{01table02.tex}
\end{table}

これらを踏まえると，かな漢字換言タスクは日本語語義曖昧性解消タスクにおける$D_{easy}$と同等かそれ以上に簡単なものであると考えられる．
白井らの報告によれば新聞記事中に出現する出現頻度10以上の単語に対して付与された語義タグの異なり数の多くは2であり，エントロピーに関しても1以下の形態素が多い\cite{110002935282}．
それゆえに，$D_{easy}$相当と考えられるかな漢字換言は日本語の語義曖昧性解消の大きな部分タスクの一つであるとみなせる．


\section{提案手法}
\label{section:proposed-method}

本章では，Yamamotoらが実装したPMIを用いたかな漢字換言\cite{Kazuhide2016}について改めて実験を行った結果を\ref{subsection:pmi-method}節に示し，その結果に基づいて提案した手法について\ref{subsection:embeddings-method}節にて説明する．


\subsection{PMIのみを用いたかな漢字換言}
\label{subsection:pmi-method}

\subsubsection{手法の説明}

以下に以前Yamamotoらが実装を行ったPMIに基づくかな漢字換言の手法について以下に説明を述べる\cite{Kazuhide2016}．
また，その概略図を図\ref{fig:pmi-conversion}に示す．

\begin{screen}
\begin{enumerate}
\item 文全体を検索し，換言対象が含まれているかどうかを調べる．
\item 換言対象が含まれている場合対象から前後4単語の内容語と換言対象の漢字のPMIを計算する．
\item PMIが5以上の漢字の中から最もPMIが高い漢字の換言対象についてその漢字を出力する．
\item 計算結果がすべてPMI5以下である場合は換言を行わない．
\end{enumerate}
\end{screen}

図\ref{fig:pmi-conversion}の各工程について詳しく説明していく．

\begin{figure}[t]
\begin{center}
\includegraphics{25-3ia1f1.eps}
\end{center}
\caption{PMIを用いたかな漢字換言の換言過程}
\label{fig:pmi-conversion}
\end{figure}

まず，入力文に対する手掛かりの選定を行う．
この手法ではPMIが高い単語を用いてかな漢字換言を行っている．
そのため，どの文においても頻出しPMIの値が低くなる助詞や記号等の機能語は計算から省いてしまっても結果に影響しないと考え，換言に用いる手掛かり語を内容語のみに絞ってPMIの計算を行うこととしている．
また換言対象の前後4単語について手掛かりとする語の選定に用いているが，この数字は我々の経験に基づいて決めた数字である．

2番目の工程として漢字候補の読み込みを行うが，ここでは\ref{section:kanakanji-conversion}章で説明したようにBCCWJとUniDicを用いて作成された日本語解析システム雪だるま\cite{40020961332}の辞書を基に手動で候補を作成しているため，候補の作り方の詳細な説明は省く．

次に自己相互情報量の計算を行う．
この換言方法において我々は共起する確率が高い漢字ほどそのかな漢字換言の候補として適切だと考え，共起する組み合わせを数値化するためにPMIを用いた．
$p(x, y)$を$x$と$y$が同時に出現する確率，$p(x)$を$x$が出現する確率とした時2つの語$x,y$における自己相互情報量$PMI(x, y)$は次式で表される．
\begin{equation}
\label{equ:pmi}
PMI(x, y) = \log{}\frac{p(x, y)}{p(x)p(y)}
\end{equation}

式(\ref{equ:pmi})から分かる通り自己相互情報量の計算にはそれぞれの出現確率が必要になる．
出現確率はなるべく大量の文章から正しい頻度を数え正しい数字を計算する必要があるが，非常に大規模なテキストを用意するのは難しい．
そのため，我々はWeb日本語Nグラム（第1版）\footnote{http://www.gsk.or.jp/catalog/gsk2007-c/}を利用し，擬似的に各単語の出現確率とそれぞれの単語の組み合わせが共起する確率の計算を行った．
Web日本語Nグラムでは200億文について頻度が20回以上のngramを収録しており，頻度の計算としては十分な規模を持つ．
ここで利用するのは7gramのデータであり，単語間の距離が7以内である場合にその単語ペアを共起したとみなし頻度の計算を行っている．

PMIには閾値を設け，周辺単語と換言対象の漢字のペアのPMIすべてが閾値を下回った場合換言を行わないようにしているが，これは低いPMIの値の漢字を出力することによる換言器の精度低下を防ぐためである．
以前の実装において我々は事前の調査からその閾値を5に設定している．

今回，我々は改めて上記の手法を用いてかな漢字換言の精度を改めて調査することとした．
以下にこの実験において調査した内容について示す．
\begin{itemize}
\item PMIの閾値5は正しい設定なのか
\item 窓幅4の設定は正しい設定なのか
\end{itemize}
PMIの閾値の設定を上げることでその換言の適合率をあげられるのであれば，PMIが高い単語が含まれている文ではその単語を素性として使うことでより高精度な換言が行えるはずであり，
逆に閾値の設定によらず適合率が上がらないのであればPMIのみを用いて語義曖昧性解消を行う手法があまり適さないということを明らかにできる．

窓幅の設定に関する実験もまた重要である．
これまでの語義曖昧性解消では周辺の2から5単語程度を素性とした手法が多く文全体を考慮する手法は少なかったが，それらの窓幅の設定が本当に正しいのかをこの実験で明らかにすることができ，今後の教師あり語義曖昧性解消において重要な設定の一つを明確にすることができる．


\subsubsection{実験}

\ref{section:kanakanji-conversion}章にて作成したかな漢字換言のテストデータを用いて周辺単語として考慮する単語の窓幅を変化させたときの精度と，PMIの閾値を変化させたときの精度を確認した．
窓幅に関する実験の際はPMIの閾値を5に設定し窓幅を2から20まで1刻みで変化させたときの適合率と再現率，F値の変化を見る．
PMIに関する実験の際は窓幅を20に固定し，PMIの閾値を0から20まで1刻みで変化させたときの適合率と再現率，F値の変化を見る．
PMIの計算には前項での説明と同様にWeb日本語Nグラムの7gramから擬似的に計算した頻度情報を用いた．

\begin{figure}[b]
\noindent
\begin{minipage}{201pt}
\includegraphics{25-3ia1f2.eps}
\caption{PMIの閾値を変化させたときの各値の変化}
\label{fig:accuracy-minpmi-pmi}
\end{minipage}
\hfill
\begin{minipage}{201pt}
\includegraphics{25-3ia1f3.eps}
\caption{窓幅を変化させたときの各値の変化}
\label{fig:accuracy-windowsize-pmi}
\end{minipage}
\end{figure}

図\ref{fig:accuracy-minpmi-pmi}にPMIの閾値を変化させたときの結果，図\ref{fig:accuracy-windowsize-pmi}に窓幅を変化させたときの結果を示す．

まず，窓幅を固定しPMIの閾値を変化させていったときの影響について考察をする．
図\ref{fig:accuracy-minpmi-pmi}を見ると，PMIの閾値が3までに関しては再現率と適合率がほぼ同じ値になっている．
これは対象のひらがなの前後の内容語にPMIが3以下のものがなかったため，すべての文において何らかの換言が行われたからである．
PMIの閾値を3より上げていくと再現率は下がり，それに対応してPMIが10まで適合率が上がっており，PMIが10を超えると換言の精度は95\%を超え高い精度での換言が行えていることが見て取れる．
一般に閾値を上げることでよりPMIの高い候補を持つひらがなのみが換言されることから適合率は上がると考えられるが，この実験結果はそれが正しいことを示した形になる．
一方で再現率はそれを上回る勢いで減少しており，結果としてF値は減少している．
この結果は一部の単語についてPMIが高い語を素性として用いる方法が精度を上げる上で効果的であるということを示唆するものである．

次にPMIの閾値を固定し窓幅を変化させていったときの影響について考察する．
図\ref{fig:accuracy-windowsize-pmi}を見ると窓幅を上げることで再現率，F値をともに上げることができていることがわかる．
これは換言対象の単語から遠いところにも素性となる単語が現れていることを示し，文全体を考慮することでより正しく多くのひらがなを換言することができている．
しかしながら適合率の値は窓幅を大きくすることで減少しており，単純にPMIが高い単語を選ぶ方法では素性としては不充分であり，前後の文脈なども同時に考慮する必要があるといえる．


\subsection{分散表現とPMIを用いたかな漢字換言}
\label{subsection:embeddings-method}

前節の結果から我々は分散表現とPMIを用いることで文全体の文脈を考慮してより正確にかな漢字換言を行う手法を提案する．
ここで提案する手法はSugawaraらの提案手法に対して改善を加え，山木らが上げた「単語の位置が規定される」という問題を解消するものである．

まずSugawaraらの手法について説明をする．
Sugawaraらは周辺の単語の分散表現を用いて語義曖昧性解消を行う手法としてAVEとCWEの2手法を提案している．
AVEは対象単語の周辺単語について分散表現を平均し素性として用いる手法である．
CWEは周辺単語の分散表現をつなぎ合わせる手法である．
具体的には，窓幅$N$を5，換言対象前の単語を$w_{-N}, w_{-N+1}, ..., w_{N-1}, w_{N}$とし，それらの分散表現を表すベクトルを$v_{w_{-N}}, v_{w_{-N+1}}, ..., v_{w_{N-1}}, v_{w_{N}}$とした時にAVEは素性$v_{ave}$（式\ref{equation:ave}）を，CWEでは素性$v_{cwe}$として周辺の単語ベクトルをつなぎ合わせたベクトル（式\ref{equation:cwe}）を素性として用いる手法である．
この素性の次元は分散表現の次元を$L$とするとAVEでは$L$，CWEでは$2 \times N \times L$となる．
\begin{gather}
v_{ave} = \frac{v_{w_{-N}} + v_{w_{-N+1}} + \ldots + v_{w_{N-1}} + v_{w_{N}}}{2N}
\label{equation:ave} \\
v_{cwe} = v_{w_{-N}}, v_{w_{-N+1}}, \ldots, v_{w_{N-1}}, v_{w_{N}}
\label{equation:cwe} 
\end{gather}
Sugawaraらはこれらの素性を用いた手法について実験を行い，AVEよりもCWEのほうがより高い精度が得られたことを報告している．
また，その理由としてAVEでは周辺の文脈情報が落ちるため精度が出ないとし，CWEは単語の位置が考慮できるためより精度が高くなったと考察している．
しかし，山木らが挙げたようにCWEでは単語の位置が規定されるため，訓練データにおいて出現した単語がテストデータに出現したとしても，出現位置によってはその類似性が反映されないという問題があると考えられる．
そこで我々はこの問題を解消する新たな手法を提案する．

一つはCWEで素性として用いる周辺の単語ベクトルに対して，周辺単語の分散表現の平均ベクトルAVEを足し合わせる手法である．
CWE, AVEの頭文字を取ってこの手法をCAと呼ぶ．
換言対象前の単語を$w_{-N}, w_{-N+1}, ..., w_{N-1}, w_{N}$としたとき，それらのベクトルを足し合わせた$v_{w_{-N}} + v_{w_{-N+1}} + ... + v_{w_{N-1}} + v_{w_{N}}$のベクトルは周辺単語のコンテキストをよく表すベクトルになっている．
そこで我々はCWEの手法の各ベクトルに対してこのベクトルの平均AVEを足し合わせることによって単語の位置が規定され，精度が落ちるという問題に対処できると考えた\footnote{CWEに対して平均ベクトルAVEをつなぎ合わせる手法も考えられるが，\ref{section:experimentation}章と同等の条件で実験を行った結果精度の向上が見られなかったためここでは手法の説明について省略している．}．
具体的には周辺単語の平均ベクトルとして考慮する窓幅を$N_{ave} = 5$とし周辺単語の平均ベクトルを式\ref{equation:ave2}とした際に式\ref{equation:cweave}を素性として使う手法である．
平均ベクトルとして考慮する単語の数は$N_{ave} \times 2$となる．
これによって各単語の位置を考慮しつつ周辺単語のコンテキストを考慮することができる．
\begin{gather}
v_{ave} = \frac{v_{w_{-N}} + v_{w_{-N+1}} + \ldots + v_{w_{N-1}} + v_{w_{N}}}{2N_{ave}}
\label{equation:ave2} \\
v_{CA} = v_{w_{-N}}+v_{ave}, v_{w_{-N+1}}+v_{ave}, \ldots, v_{w_{N-1}}+v_{ave}, v_{w_{N}}+v_{ave}
\label{equation:cweave} 
\end{gather}

しかしながら，この手法でも窓幅の大きさ分しか周辺単語を考慮することができず，また窓幅を闇雲に大きくしても機能語などの本質的に文の周辺文脈と関係のないノイズ成分が増えてしまうため精度の向上は見込めない．
そこでそれらの素性に対してさらに文中でPMIの大きい単語のベクトルを末尾につなぎ合わせる手法を提案する．
CWE, AVE, PMIの頭文字を取ってこの手法をCAPと呼ぶ．
これは対象となる文全体の中から換言候補となる漢字とPMIが最も高い単語の分散表現を末尾につなぎ合わせるという手法である．
図\ref{fig:pmi-conversion}を例として説明すると，計算によって「ノート」と換言候補の「買う」が最もPMIが高くなった場合，単語「ノート」の分散表現を末尾につなぎ合わせる．
かな漢字換言ではなく通常の語義曖昧性解消の場合，換言候補となる単語と周辺単語の間のPMIを計算し，最もPMIが高い単語を素性として選ぶ．
これにより語義曖昧性解消において重要な単語のコンテキストを考慮することができ，かつ分散表現を用いることで似ている単語がテストデータに出てきた場合にも対応できると考えられる．
これをまとめると，CAPで用いる素性は文中で最もPMIが高い単語のベクトルを$v_{w_{maxpmi}}$とすると式\ref{equation:cweavepmi}となり，素性の次元数は$(2 \times N + 1) \times L$となる．
\begin{equation}
v_{CAP} = v_{w_{-N}} + v_{ave}, v_{w_{-N+1}} + v_{ave}, \ldots, v_{w_{N-1}} + v_{ave}, v_{w_{N}} + v_{ave}, v_{w_{maxpmi}}
\label{equation:cweavepmi}
\end{equation}

提案した素性についての説明図を図\ref{fig:exapmle-of-feature}に示す．

\begin{figure}[t]
\begin{center}
\includegraphics{25-3ia1f4.eps}
\end{center}
\caption{分散表現を用いた各手法における素性の例}
\label{fig:exapmle-of-feature}
\end{figure}


\section{実験}
\label{section:experimentation}

本章ではまず前章において提案した手法についてかな漢字換言タスクにおける評価を行う．
続いて日本語語義曖昧性解消タスクでも同様に評価を行い提案手法の有効性を実証する．
その後，教師データを増減させることによる精度への影響，データのドメインによる精度への影響について調査，考察する．


\subsection{かな漢字換言による実験}
\label{subsection:experiment-kanakanji-conversion}

\subsubsection{実験設定}

\ref{section:proposed-method}章で説明した素性を用いて既存の手法との精度の比較を行う．
データセットには\ref{section:kanakanji-conversion}章でBCCWJとUniDicから抽出したデータを用い，分散表現の構築に用いるコーパスは2016年3月5日にダンプされた日本語のWikipediaのデータ\footnote{https://ja.wikipedia.org/wiki/Wikipedia: データベースダウンロード}からwp2txt\footnote{https://github.com/yohasebe/wp2txt}を用いて作成したものを用いる．
単語分割に用いる解析器には我々の研究室で開発，研究している日本語解析システム雪だるま\cite{40020961332}を用いる．
この解析器はUniDicを辞書として用いたMeCabのラッパーとして開発されており，その特徴として活用を持つ単語に関しては活用を落として出力し，活用は活用形態素と言う形で活用を持つ単語の後ろに対して1形態素として出力をするようになっている．
また，「サ変名詞 + する」のような組み合わせの単語を1単語として出力するようになっている．
活用形態素を考慮するかしないかによって語義曖昧性解消の精度が変化する可能性は存在するが本論文の主旨からそれてしまうため，ここでの実験では活用を考慮せずに行う．
作成したWikipediaコーパスを雪だるまにて解析し，それらをgensim\footnote{https://radimrehurek.com/gensim/}のWord2Vecの実装で学習させ単語の分散表現として使う．
Word2Vecの学習ではSkip-gramを用い階層的ソフトマックスとネガティブサンプリング両方を使用する．
学習に使用する窓幅の設定は5とし，ネガティブサンプリングの値は5, ダウンサンプリングの割合は$10^{-3}$に設定し各ベクトル表現はすべて200次元に設定した．
分類器にはScikit-learn\footnote{http://scikit-learn.org/}で実装されているSupportVectorMachine (SVM) のLinearSVCを使用し，正則化パラメータとして$C=1.0$を使用した．

比較する素性として対象単語の周辺単語の分散表現をつなぎ合わせるCWE，対象単語の周辺単語のベクトルを足し合わせるAVE，CWEに対して周辺単語のBoWを素性として加えたCWE+BoW，\ref{section:proposed-method}章にて提案したCWEとAVEを組み合わせる手法(CA)， さらにPMIを組み合わせた手法(CAP)に関して精度の比較を行う．


\subsubsection{結果}

前項で説明した各素性を用いた手法について実験を行った．
窓幅を2から20まで変化させたときの換言精度の変化を示したグラフを図\ref{fig:accuracy-windowsize}に示す．
また，各手法について，一番精度が良かったときの窓幅の大きさとその時の精度を表\ref{tab:kanji-conversion-result-tab}に示す．
なおグラフ中のAVE (CW)はAVEで足し合わせる単語を内容語のみに制限した時の結果となっている．

\begin{figure}[b]
\begin{center}
\includegraphics{25-3ia1f5.eps}
\end{center}
\caption{各素性を用いたかな漢字換言精度}
\label{fig:accuracy-windowsize}
\end{figure}

\begin{table}[t]
\caption{素性ごとのかな漢字換言の精度比較}
\label{tab:kanji-conversion-result-tab}
\input{01table03.tex}
\end{table}

CAやCAPの手法において，足し合わせて使う周辺単語の窓幅は訓練データを用い4分割交差検定にて最も精度の良かった3に固定してある．

結果として，CWEやAVE，CWE+BoWの精度をCAの精度が1ポイント以上上回り，さらにPMIを組み合わせたCAPの手法が最も高い精度を示した．
CWEでは単語ごとのベクトルを並べることによって単語の出現位置を考慮することができているが，単語の位置が規定されることによって周辺単語のコンテキストを考慮することができなかった．
これらの手法に対してCWE+BoWはBoWを素性として加えることで単語の位置が規定される問題を若干解消しているが精度の向上はあまり大きくない．
一方CWEに対してAVEを加えた手法では大きく精度が向上している．
これはAVEを素性として加えることにより似た文脈を持つ文などをより考慮することができるようになったからと考察できる．
一般にBoW等のcountモデルに比べてWord2Vecなどのpredictモデルは性能が良いと言われており\cite{baroni-dinu-kruszewski:2014:P14-1}より密になったベクトルを使うことでモデルが特徴を学習しやすくなったのだと考えられる．
また，それらの手法に対してPMIの高い単語の分散表現を加えた手法(CAP)では，周辺単語だけではなく対象単語から遠い位置にある重要な単語に関して考慮することができていることからより高い精度を示している．

窓幅の設定に関して，窓幅をある一定まで増やしていくと顕著に精度が上がっていくが，
ある程度の窓幅がある場合はそれ以上窓幅を大きくしても精度が上がらないことが見て取れ，一定以上の窓幅があればそれらから似た文脈を持つ文の語義曖昧性も解消できるということを表している．
またAVEに関しては窓幅4までは精度が上がっているがそれ以降は精度が下がっている．
AVEでは窓幅内の単語について分散表現をすべて平均する手法になっているため，対象単語から離れた機能語などが多く足し合わさることによって雑音が増え，正しく分類できない文が増えたからだと考えられる．
実際に内容語のみを足し合わせた手法のグラフを確認すると内容語のみを足し合わせることで精度の低下が起こらなくなっていることがわかる．
しかしその精度が通常のAVEに比べ非常に低いことから，対象単語の周辺の機能語が語義曖昧性解消において重要であることをこの結果は示している．

次に実際にどのような文が正解に変わり，どのような文が換言できなかったのかについて誤り分析を通して考察をしていく．
窓幅を10に設定した際にCWEで正しく換言できなかった文についてランダムに100文抽出しそれらに対して各手法における分析を行った．
表\ref{tab:error-analysis}に入力文と各システムが出力した漢字の一部を示す．
表内のHの列に関しては人間が同じ文を見たときに換言できるかどうかを著者が個人の主観で判断したものである．
抽出した100文中人間の目で見て正しい漢字が選択できた対象は67文であり，その67文中CAPの手法で正しい漢字を選択できるようになった文は45文であった．

\begin{table}[b]
\caption{入力文とシステムが実際に出力した漢字}
\label{tab:error-analysis}
\input{01table04.tex}
\end{table}

表\ref{tab:error-analysis}中の1, 2の例ではCWEに対してAVEの素性を組み合わせることで解けるようになっていることがわかる．
例1においてCWEでは単語の位置が規定されることによって「勤め」という単語から帰るという言葉が連想されることを学習できずに「返る」という単語を出力してしまっているが，AVEの素性を足すことによって正しく換言が行えるようになったのだと推察できる．
2に関しても同様でCWEでは「アダージオ」という音楽用語から本来は「弾く」という意味を導けていないが，AVEを素性として加えることで単語の位置が規定されるという問題を解消し正しい漢字が導けていることがわかる．

3, 4の例はPMIを素性として加えることで正しい漢字を導けている例である．
3の例では窓幅10の設定では「練る」という単語を導くために必要な「構想」という単語を考慮することができないが，PMIを用いることで「構想」単語の分散表現を素性として加えることができるようになっている．
そのため正解である「練る」という漢字を導けるようになったものだと考察できる．
4の例も同様で人間が「共生」という漢字を導くために必要な「サンゴ」や「褐虫藻」といった単語は窓幅10では考慮できないがPMIを用いることで位置が離れた単語でも素性として使え，結果として正しい漢字が出力できるようになったのだと推察できる．
実際にPMIによって素性として選ばれた単語は「褐虫」であった．

一方で5, 6の例はどの手法でも正しく換言できなかった文である．
例5に関しては「暖かい」といった単語や「柔らかい」という単語に引っ張られて「感性」という単語をどの手法においても出力しているが，「部屋」を完成させていることが人間の場合わかるため「完成」が正しい漢字であることを我々は認識できる．
このような例に関しては構文情報などのより高度な意味理解が必要になる．

\begin{figure}[b]
\vspace{-0.5\Cvs}
\begin{center}
\includegraphics{25-3ia1f6.eps}
\end{center}
\caption{PMIによって選ばれた単語の換言対象単語との距離}
\label{fig:histogram-pmi-kanakanji}
\end{figure}

7, 8は著者の主観では正しい漢字を導くことができなかった例である．
例7に関しては「二五世紀の戦士」という固有名詞を認識し知識として学習させる必要があるため，このような対象は我々の手法では正しく解けない．
そもそも固有名詞に関しては一部をひらがなで書くということはほぼ状況として無く，これらは固有表現抽出の問題になるはずである．
例8に関しては「創作」「捜索」どちらの漢字が割り当てられても文としては自然なため曖昧性を解くのに必要な周辺文脈が不十分であることがわかる．

最後にPMIによって選ばれた単語の換言対象単語との距離について考察をする．
換言対象単語とPMIによって素性として選択された単語の距離のヒストグラムを図\ref{fig:histogram-pmi-kanakanji}に示す．

図\ref{fig:histogram-pmi-kanakanji}を見るとPMIが高い単語の多くが周辺2単語に存在していることがわかる．
PMIの計算時に使う頻度情報として距離が7単語以内に出現した単語を共起したとみなして計算しているため，距離が近いところにPMIが高い単語が出てくるのは当然であるが，それを考慮しても周辺2単語以内によく共起する単語が出現している．
周辺2単語以内に最もPMIが高い単語が出現した割合は訓練データ中では約37\%であった．
一方で換言対象からの距離が10以上と遠い位置でもPMIの高い単語がかなりの割合で出現しており，これらを素性として加えることで一部の文において正しいコンテキストを選択できるようになり，かな漢字換言の精度が0.8ポイント向上したのだと言える．
距離10より大きい位置に最もPMIが高い単語が出現した文の割合は全データ158,750件中52,337件と約33\%の割合を占める．
この結果からもより精度の高い語義曖昧性解消を行う際にはより幅広い周辺文脈から重要な素性を選択する必要があると言える．


\subsection{日本語語義曖昧性解消タスクによる実験}

\subsubsection{実験設定}

続いて提案手法の日本語語義曖昧性解消タスクでの有効性を調査する．
各手法を比較するために用いるデータとしてSemEval2010の日本語語義曖昧性解消タスク\cite{okumura-EtAl:2010:SemEval}を使用し検証を行う．
SemEval2010のデータでは語義曖昧性解消の対象となる単語は50単語であり1語あたりの事例数は訓練データ，テストデータでそれぞれ50事例となっている．
この数字は1語義あたり200の訓練事例があるかな漢字換言タスクに比べて非常に規模が小さい．
また，\ref{section:kanakanji-conversion}章で述べたように日本語語義曖昧性解消タスクはかな漢字換言に比べ1語あたりの平均語義数が多く，頻度分布のエントロピーも大きいことからかな漢字換言よりも難しいと言える．

実験設定は基本的に前節と同様のものを用いる．
なお，データセット自体が単語分割されているため，単語分割について雪だるまは使用していない．

比較する素性として前節同様対象単語の周辺単語の分散表現をつなぎ合わせるCWE，対象単語の周辺単語のベクトルを足し合わせるAVE，CWEに対して周辺単語のBoWを素性として加えたCWE+BoW，\ref{section:proposed-method}章にて提案したCWEとAVEを組み合わせる手法(CA)， さらにPMIを組み合わせた手法(CAP)に関して精度の比較を行う．


\subsubsection{結果}

\ref{subsection:experiment-kanakanji-conversion}節で用いた素性を使用して日本語語義曖昧性解消タスクでの実験を行った．
各素性において窓幅を変化させていったときの精度の変化のグラフを図\ref{fig:accuracy-windowsize-japanese}に示す．
また，各素性において最も精度が良かったときの数字とその時の窓幅を表\ref{tab:japanese-wsd-result}に示す．

なお，CAやCAPの手法において，足し合わせて使う周辺単語の窓幅は訓練データで5分割交差検定を行い最も精度の良かった2に固定してある．

\begin{figure}[t]
\begin{center}
\includegraphics{25-3ia1f7.eps}
\end{center}
\caption{各素性を用いた日本語の語義曖昧性解消}
\label{fig:accuracy-windowsize-japanese}
\end{figure}
\begin{table}[t]
\caption{素性ごとの語義曖昧性解消の精度比較}
\label{tab:japanese-wsd-result}
\input{01table05.tex}
\end{table}

まず，図\ref{fig:accuracy-windowsize-japanese}から見て分かる通り，どの手法においても窓幅が小さい時の精度が非常に高く，窓幅を広げていくとその精度が落ちていっていることがわかる．
この結果は粒度の粗いかな漢字換言と違い，細かい粒度の語義は前後の単語から決定的に行えるということを示している．
CWEとCAの間に大きな精度の差が見られなかったのはこれが一つの理由であると考えられる．
窓幅が小さい際は「単語の位置が規定される」という問題が少なく，周辺語の出現パターンを比較的少ない訓練事例で学習することが可能である．
そのため2つの素性の間に差が生まれなかったのだと考察できる．

一方でCWEに比べPMIを組み合わせた手法は約$1$ポイント精度が向上している．
これは先程の考察の一方で一部の語義の決定には曖昧性解消の対象となる単語から離れた単語も有効であるということを示している．
CAPの素性においてPMIで選んだ単語の曖昧性解消の対象となる単語の距離のヒストグラムは図\ref{fig:histogram-pmi-japanese}になっている．
図\ref{fig:histogram-pmi-japanese}を見るとかな漢字換言での検証と同様，PMIが高い単語は前後2単語に集中していることがわかる．
周辺2単語以内に最もPMIが高い単語が出現した割合は訓練データ中では約26\%であった．
一方で換言対象からの距離が3以上のものも一定数出現しておりこれらを素性として加えることで一部の語義が正しく導くことができ，精度が約$1$ポイント向上したのだと考えられる．
距離3以上の位置に最もPMIが高い単語が出現した文の割合は約74\%である．
この結果からも日本語の語義曖昧性解消において遠くの位置の単語が語義を決定するのに有効であると言える．

また，SemEval2010の日本語語義曖昧性解消タスクでは1文ではなく文章全体からPMIによって素性を選ぶ手法についても検討することができる．
従来の日本語の語義曖昧性解消は1文単位での手法がほとんどである．
しかしながら，同文章中であれば似た文が多く含まれていると考えられるため，精度の向上に寄与する可能性がある．
図\ref{fig:accuracy-windowsize-pmethodpmi}に語義曖昧性解消の対象単語が含まれる文章を用い，PMIで考慮する窓幅を変化させていった時の精度の変化を示す．

\begin{figure}[t]
\setlength{\captionwidth}{208pt}
\begin{minipage}[t]{212pt}
\includegraphics{25-3ia1f8.eps}
\hangcaption{PMIによって選ばれた単語の語義曖昧性解消の対象単語との距離}
\label{fig:histogram-pmi-japanese}
\end{minipage}
\hfill
\begin{minipage}[t]{206pt}
\includegraphics{25-3ia1f9.eps}
\caption{PMIの窓幅を変化させたときの精度の変化}
\label{fig:accuracy-windowsize-pmethodpmi}
\end{minipage}
\end{figure}

図\ref{fig:accuracy-windowsize-pmethodpmi}を見ると窓幅50以下でCWE等の手法に比べて高い精度を記録していることが見て取れる．
また窓幅40において精度78.6\%を記録しており，PMIでの窓幅を適切に考慮することで1文ではなく文章単位でも精度を向上させることが可能であると言える．
一方で，ある一定以上PMIの窓幅を上げていくとその精度は低下していき，その他の手法とあまり変わらない値となっている．
これは距離が遠すぎる単語は対象単語を含む文と比べて周辺文脈が大きく変わっており，PMIが大きい単語でも曖昧性解消の素性として効果がないからであると言える．


結論として日本語の語義曖昧性解消では，広い窓幅から重要な単語を適切に素性として加えることで一定の精度の向上が見込めることがわかる．


\subsection{訓練データの増減による換言精度の変化}

\subsubsection{実験設定}

ここでは前節で有効性が確認できた各手法において，訓練データを増やすことによる換言精度への影響について調査する．
Marquezらは訓練データの規模を1語義あたり200件以上に増やすことで分類精度が向上することを報告しているが\cite{SupervisedWSDDataSize}，それ以上に規模を大きくした論文については存在しない．
しかし，かな漢字換言を通した語義曖昧性解消の調査では訓練データを自動で抽出することが可能である．
そこで今回，我々はかな漢字換言の特性を活かして訓練データを1語義あたり5,000件用意し，規模を増加させたときの精度の変化を確認した．
訓練データを抽出する上でBCCWJではそのコーパスの大きさが不十分で，すべての漢字の例について十分な規模の訓練データを抽出することができなかったため，本実験ではすべて日本語ウェブコーパス(2010)\footnote{http://s-yata.jp/corpus/nwc2010/}のテキストアーカイブから\ref{section:kanakanji-conversion}章で抽出した方法と同様にして抽出したものを使った．
BCCWJの規模はテキスト形式でおよそ600~MBであるがウェブコーパスの規模は396~GBであり，またその文数はBCCWJ約600万文に対してウェブコーパスでは約56億文と，かな漢字換言の訓練データ作成において十分な量である．
訓練データには\ref{section:kanakanji-conversion}章で構築した1語義あたり200件の訓練データは使わず，全てウェブコーパスから抽出したもののみを使う．
これはドメインの違うデータを用いることによる精度の変化の影響を排除するためである．
語義曖昧性解消において訓練データはその大きさだけではなく多様性によっても左右される．
そのため，より多様性に富んだデータを意図的に抽出することで訓練データを増やしていった時の精度をより向上させることが可能であると考えられる．
しかし，ここでの調査は訓練データの大きさによる精度への影響を調べることに焦点を当てるため，恣意的に抽出するデータを選ぶようなことはせずウェブコーパスのみから無作為に訓練データを選択している．
テストデータには\ref{section:kanakanji-conversion}章で構築したものと同じものを使用する．


\subsubsection{実験結果}

訓練事例数を増やしていった際のかな漢字換言における各手法の精度の変化を図\ref{fig:accuracy-datasize}に示す．
なお，訓練データの規模を示す横軸は対数表示である．
またグラフ中のCAP$_{J}$はSemEval2010の日本語語義曖昧性解消タスクについて訓練データを制限した際の数値を示す．
かな漢字換言では横軸の値は1語義あたりの訓練事例なのに対し，日本語語義曖昧性解消タスクでは横軸の値は1単語あたりの訓練事例であることに注意されたい．
また，日本語語義曖昧性解消タスクでは純粋な訓練事例の変化による精度を確認するため，訓練データ中の各語義のバランスを考慮し各語義の訓練データを順に追加している．

\begin{figure}[t]
\begin{center}
\includegraphics{25-3ia1f10.eps}
\end{center}
\caption{訓練データの大きさによる精度の変化}
\label{fig:accuracy-datasize}
\end{figure}

グラフを見ると，かな漢字換言においてある程度まではデータが増えることによって大きく精度が変わっているが，徐々にその傾きが緩やかになっていき，1語義あたりの訓練データが5,000件前後になるとほぼ精度が変わらなくなることがわかる．
このことから，訓練データの規模は大きければ大きいほどよいが，1語義あたり1,000から5,000件程度訓練事例を用意することで精度が収束すると言える．
また，訓練データが少ない10から100までの間では訓練データサイズの変化に応じて精度が大きく向上しており，このことからも一定量の訓練データを用意することが語義曖昧性解消において非常に重要であることを示している．

日本語語義曖昧性解消タスクにおいてデータを制限した際の学習曲線においても訓練事例の増加に伴って精度の向上が確認できる．
かな漢字換言に比べ学習曲線が緩やかになっているものの，データ数を指数関数的に増やすことによって一定の精度向上が見られる．
かな漢字換言では横軸が1語義あたりのデータ数なのに対し日本語語義曖昧性解消タスクでは1単語あたりのデータ数である．
平均語義数が多い日本語語義曖昧性解消タスクでは語義あたりのデータの増加量がかな漢字換言に比べ緩やかになっていると考えられ，グラフの傾きが緩やかになっているのだと考えられる．
また，かな漢字換言と違い語義曖昧性解消タスクでの検証ではデータに語義の偏りが存在するためここでの比較は公平ではないが，訓練事例を指数関数的に増加させることが精度向上に寄与することはこのグラフから読み取ることができる．

使う素性によってグラフの傾きも変わり，CAPのグラフは教師データが非常に少ない場合でもCWE単体に比べて10ポイント近く高い精度を示している．
このことからCAPは分散表現の特徴をうまく捉え，似た文脈に関しても正しい漢字を予測することができていることがわかる．
逆に教師データの量が大きければ大きいほど各手法の差は小さくなっている．
訓練事例を1語義あたり10事例用意した際のCWEとCAPの精度の差は9.7ポイントであり，訓練事例を5,000事例用意した際の精度の差は1.2ポイントである．
これは，CWEで問題であった単語の位置が規定されるという問題が，教師データの規模を非常に大きくすることで無理やり解消できたからだと考えられる．
この結果からも一定数の訓練データを用意した上で手法の有効性を評価することが，実用的な語義曖昧性解消の検証につながると考えられる．
また，ここでの実験では訓練データの多様性は考慮していないためこのような結果になっているが，より多様性を考慮したデータセットを作ることでより少ない訓練事例で精度が収束することも考えられる．

しかしながら語義曖昧性解消のデータセットとして1語義あたり1,000事例の非常に大きな訓練データを作るのは非常にコストがかかるため現実的ではない．
この結果からある一定量のデータと精度よく曖昧性解消できる手法を組み合わせることが最も高い精度を出すために重要であると言える．
また，小規模な訓練データを用いて確度の高いデータを訓練データに追加し学習を行っていく半教師あり学習が語義曖昧性解消に有効であると考えられる．


\subsection{訓練データのドメインによる精度の変化の確認}

\subsubsection{実験設定}

この節では訓練データのドメインとテストデータのドメインによって精度がどの程度変わるかを検証する．
一般に異なるドメインのデータで学習させたモデルを，別のドメインのテストデータに合うようにチューニングすることは領域適応と呼ばれ構文解析や語義曖昧性解消において精度を上げる上で重要な研究の一つになっている\cite{mcclosky-charniak-johnson:2010:NAACLHLT}．
また語義曖昧性解消において訓練データの多様性を考慮することは周辺の文脈パターンをモデルにより幅広く学習させることができ，精度の向上が期待できる．
異なるドメインのデータを用いて語義曖昧性解消を行う実験は新納ら\cite{新納浩幸2013}などが行っているが，ここで使われているSemEval2010の日本語語義曖昧性解消タスクではドメインごとに訓練データのサイズが異なるため，単純なドメインの変化による精度の影響の調査としては不十分である．
そこで，訓練データを大量のテキストから自動で作れるかな漢字換言の特性を活かし，異なるドメインのデータで学習したモデルを別のドメインのテストデータで用いた際の精度について検討する．
また，複数ドメインの訓練データを混ぜて学習させることによる精度への影響についても検討する．

この実験では訓練データ，テストデータとして使用するドメインの異なるデータセットとして\ref{section:kanakanji-conversion}章にてBCCWJより構築したデータセットと，2016年3月5日にダンプされた日本語のWikipediaのデータから抽出したテキストを元に\ref{section:kanakanji-conversion}章と同じ方法で構築したデータセットを用いる．
BCCWJには新聞やWebデータなど様々なドメインの文章が含まれているが，Webデータとして使われているものはYahoo!知恵袋とYahoo!ブログから収集されたテキストデータである．
そのため，Wikipedia等の事物を説明するための文章とは異なるドメインであると考え，実験を行う．
訓練データ，テストデータの大きさはどちらのデータセットにおいても同じ量になっている．
その他の実験設定は\ref{subsection:experiment-kanakanji-conversion}節と同じものを使用する．

比較のための手法には\ref{subsection:experiment-kanakanji-conversion}節で最も精度の良かったCAPを用いる．
周辺単語の分散表現を足し合わせる際の窓幅は3，分散表現をつなぎ合わせて考慮する窓幅の設定は10としている．


\subsubsection{実験結果}

BCCWJ，Wikipediaより構築された訓練データを用いてモデルを学習させ，それぞれ異なるテストセットで評価を行った．
実験結果を表\ref{tab:experiment-domein-result}に示す．
表中のBCCWJ+Wikipediaはそれぞれの訓練データ200件のうち，ランダムで100件ずつ抽出し統合したものを訓練データとして使用した場合となっている．

\begin{table}[b]
\caption{ドメイン変化時の精度}
\label{tab:experiment-domein-result}
\input{01table06.tex}
\end{table}

表を見るとそれぞれのドメインで学習させて同じドメインのテストデータで評価したものに比べて，相互にテストデータを入れ替えた結果は精度が落ちていることがわかる．
特に訓練データとしてWikipediaから抽出したデータを使いBCCWJで曖昧性解消をしたものは約5ポイントほど精度が低下している．
このことから，語義曖昧性解消においてドメインごとにあった訓練データを用いることが精度向上に大きく寄与するといえる．
一方でBCCWJから抽出したデータを使いWikipediaのテストデータで評価したものは精度の減少はあるものの約1.2ポイントと少なくなっている．
これはBCCWJが均衡コーパスであり様々なドメインのデータを含んでいるため多様性に富んでいるからだと考えられる．
これは多様性に富んだ訓練データを用いることが精度向上に貢献することを示唆するものである．

また，それぞれのドメインの訓練データを混ぜ学習させたモデルはBCCWJ，Wikipediaから作成したテストデータ両方において高い精度が発揮できており，それぞれのドメインの訓練データのみを学習させ，同ドメインのテストデータで評価したときの精度とほぼ変わらない値を得ることができている．
この結果からも語義曖昧性解消で用いる訓練データは広いドメインから幅広い文を対象に抽出したほうが訓練データの多様性を考慮でき，より高い精度での曖昧性解消が期待できることを表している．
また，この結果は「対象語毎に訓練データの分野の組合せを変えて学習するより，分野に関係なくすべての訓練データを学習に用いる方が精度が良い」というFujitaらの報告\cite{fujita-EtAl:2010:SemEval}が，訓練データの大きさが同じ場合でもほぼ変わらない精度を得ることができることを示している．

結論として，
\pagebreak
語義曖昧性解消においてテストデータにあった訓練データを用いることが精度向上に大きく寄与する一方で，
訓練データの多様性を考慮することで様々なドメインのデータにも対応できると言える．


\section{結論}
\label{section:conclusion}

本論文ではかな漢字換言を通して日本語の語義曖昧性解消において幾つかの問題点を明らかにした．

まず素性として使う単語の選び方である．
我々は事前の実験を通して文全体を見て文中から正しく素性を選ぶことが重要であることを示し，分散表現とPMIを用いて周辺文脈と曖昧性解消の対象となる単語から離れた単語について考慮する手法を考案した．
手法の有効性に関してBCCWJから作成したかな漢字換言のデータセットを用いて実験を行ったところ，ベースラインとなる単純な単語の分散表現のつなぎ合わせに比べ約2ポイント高い精度を得ることができた．
また考慮する窓幅についても検討したところ，周辺5単語以上を考慮することでより高い精度を得ることができることを確認した．
このことからより文中の様々な単語を考慮することがかな漢字換言において重要であるということを明らかにした．

さらに日本語の語義曖昧性解消タスクを用いて提案手法の有効性について検証した．
その結果，単純な単語の分散表現のつなぎ合わせに対して周辺単語の平均ベクトルを足し合わせる方法の有効性は確認できなかったが，PMIを用い文全体から適切な単語の分散表現を素性として加えることが有効であることを確認した．

また，我々は訓練データの大きさによる語義曖昧性解消への影響も調査した．
訓練データを10件から5,000件まで増やしていったときのかな漢字換言の精度を確認し，分散表現を用いた各手法で実験を行った．
その結果，分散表現を用いた手法では，非常に大きな規模の訓練データを用意することでどの手法においてもほぼ変わらない精度を得られることを確認した．
その一方で高い精度を得るために必要なデータは指数関数的に増えていくため，より少ないデータで高い精度を得られる手法が教師ありの語義曖昧性解消において重要であることを確認した．

さらに我々は訓練データのドメインについても調査を行った．
BCCWJとWikipediaから作成した訓練データとテストデータを相互に使い実験し，
各ドメインにあった訓練データを使うことが精度向上において重要であることを確認した．
また，各ドメインの訓練データを混ぜて学習させた結果から，幅広いドメインの文章から多様性に富んだ語義曖昧性解消のデータセットを作ることが語義曖昧性解消に対して有効であることを確認した．

語義曖昧性解消はコンピュータの意味理解において重要な役割を果たすため，より精度の高い手法やツールが求められるはずである．
本論文を通して自然言語処理における語義曖昧性解消という問題が少しでも解消できればいいと願う．

\acknowledgment

本研究は，平成 27〜31 年科学研究費補助・基盤(B) 課題番号15H03216，課題名「日本語教育用テキスト解析ツールの開発と学習者向け誤用チェッカーへの展開」，及び平成29〜31年科学研究費助成事業挑戦的萌芽 課題番号17K18481，課題名「やさしい日本語化実証実験による言語資源構築と自動平易化システムの試作」の助成を受けています．


\bibliographystyle{jnlpbbl_1.5}
\begin{thebibliography}{}

\bibitem[\protect\BCAY{Bansal, Gimpel, \BBA\ Livescu}{Bansal
  et~al.}{2014}]{bansal-gimpel-livescu:2014:P14-2}
Bansal, M., Gimpel, K., \BBA\ Livescu, K. \BBOP 2014\BBCP.
\newblock \BBOQ Tailoring Continuous Word Representations for Dependency
  Parsing.\BBCQ\
\newblock In {\Bem Proceedings of the 52nd Annual Meeting of the Association
  for Computational Linguistics (Volume 2: Short Papers)}, \mbox{\BPGS\
  809--815}, Baltimore, Maryland. Association for Computational Linguistics.

\bibitem[\protect\BCAY{Baroni, Dinu, \BBA\ Kruszewski}{Baroni
  et~al.}{2014}]{baroni-dinu-kruszewski:2014:P14-1}
Baroni, M., Dinu, G., \BBA\ Kruszewski, G. \BBOP 2014\BBCP.
\newblock \BBOQ Don't Count, Predict! A Systematic Comparison of
  Context-Counting vs. Context-Predicting Semantic Vectors.\BBCQ\
\newblock In {\Bem Proceedings of the 52nd Annual Meeting of the Association
  for Computational Linguistics (Volume 1: Long Papers)}, \mbox{\BPGS\
  238--247}, Baltimore, Maryland. Association for Computational Linguistics.

\bibitem[\protect\BCAY{Cai, Lee, \BBA\ Teh}{Cai
  et~al.}{2007}]{cai-lee-teh:2007:EMNLP-CoNLL2007}
Cai, J., Lee, W.~S., \BBA\ Teh, Y.~W. \BBOP 2007\BBCP.
\newblock \BBOQ Improving Word Sense Disambiguation Using Topic Features.\BBCQ\
\newblock In {\Bem Proceedings of the 2007 Joint Conference on Empirical
  Methods in Natural Language Processing and Computational Natural Language
  Learning (EMNLP-CoNLL)}, \mbox{\BPGS\ 1015--1023}, Prague, Czech Republic.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{藤田\JBA {Duh, K.}\JBA 藤野\JBA 平\JBA 進藤}{藤田 \Jetal
  }{2011}]{KevinDuh2011}
藤田早苗\JBA {Duh, K.}\JBA 藤野昭典\JBA 平博順\JBA 進藤裕之 \BBOP 2011\BBCP.
\newblock 日本語語義曖昧性解消のための訓練データの自動拡張.\
\newblock \Jem{自然言語処理}, {\Bbf 18}  (3), \mbox{\BPGS\ 273--291}.

\bibitem[\protect\BCAY{Fujita, Duh, Fujino, Taira, \BBA\ Shindo}{Fujita
  et~al.}{2010}]{fujita-EtAl:2010:SemEval}
Fujita, S., Duh, K., Fujino, A., Taira, H., \BBA\ Shindo, H. \BBOP 2010\BBCP.
\newblock \BBOQ MSS: Investigating the Effectiveness of Domain Combinations and
  Topic Features for Word Sense Disambiguation.\BBCQ\
\newblock In {\Bem Proceedings of the 5th International Workshop on Semantic
  Evaluation}, \mbox{\BPGS\ 383--386}, Uppsala, Sweden. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Fujita \BBA\ Fujino}{Fujita \BBA\
  Fujino}{2013}]{Fujita:2013:WSD:2461316.2461319}
Fujita, S.\BBACOMMA\ \BBA\ Fujino, A. \BBOP 2013\BBCP.
\newblock \BBOQ Word Sense Disambiguation by Combining Labeled Data Expansion
  and Semi-Supervised Learning Method.\BBCQ\
\newblock {\Bem ACM Transactions on Asian Language Information Processing},
  {\Bbf 12}  (2), \mbox{\BPGS\ 7:1--7:26}.

\bibitem[\protect\BCAY{Iacobacci, Pilehvar, \BBA\ Navigli}{Iacobacci
  et~al.}{2016}]{iacobacci-pilehvar-navigli:2016:P16-1}
Iacobacci, I., Pilehvar, M.~T., \BBA\ Navigli, R. \BBOP 2016\BBCP.
\newblock \BBOQ Embeddings for Word Sense Disambiguation: An Evaluation
  Study.\BBCQ\
\newblock In {\Bem Proceedings of the 54th Annual Meeting of the Association
  for Computational Linguistics (Volume 1: Long Papers)}, \mbox{\BPGS\
  897--907}, Berlin, Germany. Association for Computational Linguistics.

\bibitem[\protect\BCAY{井上\JBA 斎藤}{井上\JBA 斎藤}{2011}]{2011inoue}
井上裁都\JBA 斎藤博昭 \BBOP 2011\BBCP.
\newblock
  ラベルなしデータの二段階分類とアンサンブル学習に基づく半教師あり日本語語義曖昧性解消.\
\newblock \Jem{自然言語処理}, {\Bbf 18}  (3), \mbox{\BPGS\ 247--271}.

\bibitem[\protect\BCAY{Lopez~de Lacalle \BBA\ Agirre}{Lopez~de Lacalle \BBA\
  Agirre}{2015}]{lopezdelacalle-agirre:2015:*SEM2015}
Lopez~de Lacalle, O.\BBACOMMA\ \BBA\ Agirre, E. \BBOP 2015\BBCP.
\newblock \BBOQ A Methodology for Word Sense Disambiguation at 90\% based on
  Large-scale CrowdSourcing.\BBCQ\
\newblock In {\Bem Proceedings of the 4th Joint Conference on Lexical and
  Computational Semantics}, \mbox{\BPGS\ 61--70}, Denver, Colorado. Association
  for Computational Linguistics.

\bibitem[\protect\BCAY{Marquez, Escudero, Martinez, \BBA\ Rigau}{Marquez
  et~al.}{2006}]{SupervisedWSDDataSize}
Marquez, L., Escudero, G., Martinez, D., \BBA\ Rigau, G. \BBOP 2006\BBCP.
\newblock {\Bem Word Sense Disambiguation: Algorithms and Applications},
  \BCH~7, \mbox{\BPGS\ 184--195}.
\newblock Springer.

\bibitem[\protect\BCAY{McCarthy}{McCarthy}{2009}]{LNC3:LNC3131}
McCarthy, D. \BBOP 2009\BBCP.
\newblock \BBOQ Word Sense Disambiguation: An Overview.\BBCQ\
\newblock {\Bem Language and Linguistics Compass}, {\Bbf 3}  (2), \mbox{\BPGS\
  537--558}.

\bibitem[\protect\BCAY{McClosky, Charniak, \BBA\ Johnson}{McClosky
  et~al.}{2010}]{mcclosky-charniak-johnson:2010:NAACLHLT}
McClosky, D., Charniak, E., \BBA\ Johnson, M. \BBOP 2010\BBCP.
\newblock \BBOQ Automatic Domain Adaptation for Parsing.\BBCQ\
\newblock In {\Bem Human Language Technologies: The 2010 Annual Conference of
  the North American Chapter of the Association for Computational Linguistics},
  \mbox{\BPGS\ 28--36}, Los Angeles, California. Association for Computational
  Linguistics.

\bibitem[\protect\BCAY{Mihalcea, Chklovski, \BBA\ Kilgarriff}{Mihalcea
  et~al.}{2004}]{MihalceaEtAl2004}
Mihalcea, R., Chklovski, T., \BBA\ Kilgarriff, A. \BBOP 2004\BBCP.
\newblock \BBOQ The Senseval-3 English Lexical Sample Task.\BBCQ\
\newblock In {\Bem Proceedings of Senseval-3: 3rd International Workshop on the
  Evaluation of Systems for the Semantic Analysis of Text, Barcelona, Spain,
  July 2004}. Association for Computational Linguistics (ACL).

\bibitem[\protect\BCAY{Mikolov, Sutskever, Chen, Corrado, \BBA\ Dean}{Mikolov
  et~al.}{2013}]{DBLP:journals/corr/MikolovSCCD13}
Mikolov, T., Sutskever, I., Chen, K., Corrado, G., \BBA\ Dean, J. \BBOP
  2013\BBCP.
\newblock \BBOQ Distributed Representations of Words and Phrases and their
  Compositionality.\BBCQ\
\newblock {\Bem CoRR}, {\Bbf abs/1310.4546}.

\bibitem[\protect\BCAY{村本\JBA 鍜治\JBA 吉永\JBA 喜連川}{村本 \Jetal
  }{2011}]{weko_79539_1}
村本英明\JBA 鍜治伸裕\JBA 吉永直樹\JBA 喜連川優 \BBOP 2011\BBCP.
\newblock Webテキストを対象とした語義曖昧性解消のための言語資源の半自動構築.\
\newblock \Jem{情報処理学会論文誌}, {\Bbf 52}  (12), \mbox{\BPGS\ 3338--3348}.

\bibitem[\protect\BCAY{Navigli}{Navigli}{2009}]{Navigli:2009:WSD:1459352.1459355}
Navigli, R. \BBOP 2009\BBCP.
\newblock \BBOQ Word Sense Disambiguation: A Survey.\BBCQ\
\newblock {\Bem ACM Computing Surveys}, {\Bbf 41}  (2), \mbox{\BPGS\
  10:1--10:69}.

\bibitem[\protect\BCAY{Navigli}{Navigli}{2012}]{Navigli2012}
Navigli, R. \BBOP 2012\BBCP.
\newblock {\Bem A Quick Tour of Word Sense Disambiguation, Induction and
  Related Approaches}, \mbox{\BPGS\ 115--129}.
\newblock Springer Berlin Heidelberg, Berlin, Heidelberg.

\bibitem[\protect\BCAY{Navigli, Litkowski, \BBA\ Hargraves}{Navigli
  et~al.}{2007}]{navigli-litkowski-hargraves:2007:SemEval-2007}
Navigli, R., Litkowski, K.~C., \BBA\ Hargraves, O. \BBOP 2007\BBCP.
\newblock \BBOQ SemEval-2007 Task 07: Coarse-Grained English All-Words
  Task.\BBCQ\
\newblock In {\Bem Proceedings of the 4th International Workshop on Semantic
  Evaluations (SemEval-2007)}, \mbox{\BPGS\ 30--35}, Prague, Czech Republic.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{小椋\JBA 原\JBA 小木曽\JBA 小磯\JBA 宮内}{小椋 \Jetal
  }{2010}]{Corpus2010}
小椋秀樹\JBA 原裕\JBA 小木曽智信\JBA 小磯花絵\JBA 宮内佐夜香 \BBOP 2010\BBCP.
\newblock 形態素解析辞書 UniDic における同語異語判別について.\
\newblock \Jem{言語処理学会第 16 回年次大会発表論文集}, \mbox{\BPGS\ 486--489}.

\bibitem[\protect\BCAY{Okumura, Shirai, Komiya, \BBA\ Yokono}{Okumura
  et~al.}{2010}]{okumura-EtAl:2010:SemEval}
Okumura, M., Shirai, K., Komiya, K., \BBA\ Yokono, H. \BBOP 2010\BBCP.
\newblock \BBOQ SemEval-2010 Task: Japanese WSD.\BBCQ\
\newblock In {\Bem Proceedings of the 5th International Workshop on Semantic
  Evaluation}, \mbox{\BPGS\ 69--74}, Uppsala, Sweden. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Okumura, Shirai, Komiya, \BBA\ Yokono}{Okumura
  et~al.}{2011}]{2011semeval}
Okumura, M., Shirai, K., Komiya, K., \BBA\ Yokono, H. \BBOP 2011\BBCP.
\newblock \BBOQ On SemEval-2010 Japanese WSD Task.\BBCQ\
\newblock \Jem{自然言語処理}, {\Bbf 18}  (3), \mbox{\BPGS\ 293--307}.

\bibitem[\protect\BCAY{Petersen}{Petersen}{2006}]{UnsupervisedWSDClustering}
Petersen, T. \BBOP 2006\BBCP.
\newblock {\Bem Word Sense Disambiguation: Algorithms and Applications},
  \BCH~6, \mbox{\BPGS\ 133--166}.
\newblock Springer.

\bibitem[\protect\BCAY{Pradhan, Loper, Dligach, \BBA\ Palmer}{Pradhan
  et~al.}{2007}]{pradhan-EtAl:2007:SemEval-2007}
Pradhan, S., Loper, E., Dligach, D., \BBA\ Palmer, M. \BBOP 2007\BBCP.
\newblock \BBOQ SemEval-2007 Task-17: English Lexical Sample, SRL and All
  Words.\BBCQ\
\newblock In {\Bem Proceedings of the 4th International Workshop on Semantic
  Evaluations (SemEval-2007)}, \mbox{\BPGS\ 87--92}, Prague, Czech Republic.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{Raganato, Camacho-Collados, \BBA\ Navigli}{Raganato
  et~al.}{2017}]{raganato-camachocollados-navigli:2017:EACLlong}
Raganato, A., Camacho-Collados, J., \BBA\ Navigli, R. \BBOP 2017\BBCP.
\newblock \BBOQ Word Sense Disambiguation: A Unified Evaluation Framework and
  Empirical Comparison.\BBCQ\
\newblock In {\Bem Proceedings of the 15th Conference of the European Chapter
  of the Association for Computational Linguistics: Volume 1, Long Papers},
  \mbox{\BPGS\ 99--110}, Valencia, Spain. Association for Computational
  Linguistics.

\bibitem[\protect\BCAY{新納\JBA 古宮\JBA 佐々木}{新納 \Jetal
  }{2017}]{weko_182711_1}
新納浩幸\JBA 古宮嘉那子\JBA 佐々木稔 \BBOP 2017\BBCP.
\newblock 順方向多層 LSTM と分散表現を用いた教師あり学習による語義曖昧性解消.\
\newblock \JTR~4, 茨城大学工学部情報工学科.

\bibitem[\protect\BCAY{新納\JBA 村田\JBA 白井\JBA 福本\JBA 藤田\JBA 佐々木\JBA
  古宮\JBA 乾}{新納 \Jetal }{2015}]{新納浩幸2015}
新納浩幸\JBA 村田真樹\JBA 白井清昭\JBA 福本文代\JBA 藤田早苗\JBA 佐々木稔\JBA
  古宮嘉那子\JBA 乾孝司 \BBOP 2015\BBCP.
\newblock クラスタリングを利用した語義曖昧性解消の誤り原因のタイプ分け.\
\newblock \Jem{自然言語処理}, {\Bbf 22}  (5), \mbox{\BPGS\ 319--362}.

\bibitem[\protect\BCAY{新納\JBA 佐々木}{新納\JBA 佐々木}{2013}]{新納浩幸2013}
新納浩幸\JBA 佐々木稔 \BBOP 2013\BBCP.
\newblock k 近傍法とトピックモデルを利用した語義曖昧性解消の領域適応.\
\newblock \Jem{自然言語処理}, {\Bbf 20}  (5), \mbox{\BPGS\ 707--726}.

\bibitem[\protect\BCAY{白井}{白井}{2003}]{20033}
白井清昭 \BBOP 2003\BBCP.
\newblock SENSEVAL-2日本語辞書タスク.\
\newblock \Jem{自然言語処理}, {\Bbf 10}  (3), \mbox{\BPGS\ 3--24}.

\bibitem[\protect\BCAY{白井\JBA 柏野\JBA 橋本\JBA 徳永\JBA 有田\JBA 井佐原\JBA
  荻野\JBA 小船\JBA 高橋\JBA 長尾\JBA 橋田\JBA 村田}{白井 \Jetal
  }{2001}]{110002935282}
白井清昭\JBA 柏野和佳子\JBA 橋本三奈子\JBA 徳永健伸\JBA 有田英一\JBA
  井佐原均\JBA 荻野紫穂\JBA 小船隆一\JBA 高橋裕信\JBA 長尾確\JBA 橋田浩一\JBA
  村田真樹 \BBOP 2001\BBCP.
\newblock 岩波国語辞典を利用した語義タグ付きテキストデータベースの作成.\
\newblock \Jem{情報処理学会研究報告自然言語処理 (NL)}, {\Bbf 2001}  (9),
  \mbox{\BPGS\ 117--124}.

\bibitem[\protect\BCAY{Sugawara, Takamura, Sasano, \BBA\ Okumura}{Sugawara
  et~al.}{2015}]{sugawara:2015:pacling}
Sugawara, H., Takamura, H., Sasano, R., \BBA\ Okumura, M. \BBOP 2015\BBCP.
\newblock \BBOQ Context Representation with Word Embeddings for WSD.\BBCQ\
\newblock In {\Bem International Conference of the Pacific Association for
  Computational Linguistics}, \mbox{\BPGS\ 108--119}.

\bibitem[\protect\BCAY{Wawer \BBA\ Mykowiecka}{Wawer \BBA\
  Mykowiecka}{2017}]{wawer-mykowiecka:2017:SENSE2017}
Wawer, A.\BBACOMMA\ \BBA\ Mykowiecka, A. \BBOP 2017\BBCP.
\newblock \BBOQ Supervised and Unsupervised Word Sense Disambiguation on Word
  Embedding Vectors of Unambigous Synonyms.\BBCQ\
\newblock In {\Bem Proceedings of the 1st Workshop on Sense, Concept and Entity
  Representations and their Applications}, \mbox{\BPGS\ 120--125}, Valencia,
  Spain. Association for Computational Linguistics.

\bibitem[\protect\BCAY{山木\JBA 新納\JBA 古宮\JBA 佐々木}{山木 \Jetal
  }{2015}]{weko_146217_1}
山木翔馬\JBA 新納浩幸\JBA 古宮嘉那子\JBA 佐々木稔 \BBOP 2015\BBCP.
\newblock 分散表現を用いた教師あり機械学習による語義曖昧性解消.\
\newblock \JTR~17, 茨城大学工学部情報工学科.

\bibitem[\protect\BCAY{Yamamoto, Gumizawa, \BBA\ Mikami}{Yamamoto
  et~al.}{2017}]{Kazuhide2016}
Yamamoto, K., Gumizawa, Y., \BBA\ Mikami, Y. \BBOP 2017\BBCP.
\newblock \BBOQ Word Sense Implantation by Orthographical Conversion.\BBCQ\
\newblock {\Bem International Journal of Asian Language Processing}, {\Bbf 27}
  (2), \mbox{\BPGS\ 79--94}.
\newblock Chinese and Oriental Languages Information Processing Society
  (2017.12).

\bibitem[\protect\BCAY{山本\JBA 高橋\JBA 桾澤\JBA 西山}{山本 \Jetal
  }{2016}]{40020961332}
山本和英\JBA 高橋寛治\JBA 桾澤優希\JBA 西山浩気 \BBOP 2016\BBCP.
\newblock 日本語解析システム「雪だるま」（第 2
  報）進捗報告と活用形態素の導入（言語理解とコミュニケーション）—（第 9
  回テキストマイニング・シンポジウム）.\
\newblock \Jem{電子情報通信学会技術研究報告}, {\Bbf 116}  (213), \mbox{\BPGS\
  63--68}.

\bibitem[\protect\BCAY{Yarowsky}{Yarowsky}{1995}]{yarowsky:1995:ACL}
Yarowsky, D. \BBOP 1995\BBCP.
\newblock \BBOQ Unsupervised Word Sense Disambiguation Rivaling Supervised
  Methods.\BBCQ\
\newblock In {\Bem Proceedings of the 33rd Annual Meeting on Association for
  Computational Linguistics}, ACL '95, \mbox{\BPGS\ 189--196}, Stroudsburg, PA,
  USA. Association for Computational Linguistics.

\end{thebibliography}


\clearpage
\appendix
\section{換言対象となるひらがなと漢字候補} \label{appendix:kanakanji-target}

\input{01tableA01.tex}
\normalsize

\clearpage


\begin{biography}
\bioauthor{桾澤　優希}{
2017年長岡技術科学大学工学部電気電子情報工学課程卒業．同年，同大学工学研究科修士課程電気電子情報工学専攻に進学．現在に至る．
自然言語処理の研究に従事．
}
\bioauthor{山本　和英}{
1996年3月豊橋技術科学大学大学院工学研究科博士後期課程システム情報工学専攻修了．博士（工学）．
1996年〜2005年（株）国際電気通信基礎技術研究所 (ATR)研究員．
1998年中国科学院自動化研究所国外訪問学者．
2002年から長岡技術科学大学，現在准教授．
自然言語処理，人工知能（知識構築），日本語教育（支援ツール作成）の研究開発に従事．2012〜2014年電子情報通信学会言語理解とコミュニケーション(NLC)研究会委員長，2016年から言語処理学会理事．
言語処理学会，人工知能学会，日本語教育学会，情報処理学会，電子情報通信学会，言語資源協会，アジア太平洋機械翻訳協会各会員．
}

\end{biography}


\biodate



\clearpage
























\clearpage


















\clearpage

\end{document}
