\documentclass[japanese,dvipdfmx]{jnlp_3.7}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{hangcaption_jnlp}
\usepackage{array}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul
\allowdisplaybreaks


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
\usepackage{multirow}
%%%%\usepackage{here}
%%%%\usepackage{setspace}
\usepackage{gb4ea}
\usepackage{color}
%%%%\usepackage{tikz,subfigure}
    \usepackage{tikz}
%%%%\usetikzlibrary{automata,positioning,arrows,shapes,backgrounds,trees}
    \usetikzlibrary{automata,positioning,arrows,shapes,trees}
\usepackage{tikz-qtree}
\usepackage{tikz-qtree-compat}
\usepackage{xcolor}
\newcommand{\todo}[1]{\textcolor{red}{#1}}
\newcommand{\semtag}[1]{\textsf{#1}}
\newcommand{\semtagcfg}[1]{\underline{\textsf{#1}}}
\newcommand{\smtg}[2][\footnotesize]{\tikz[baseline=0ex]\node[	
%%%%    draw=gray,
%%%%	fill=lightgray,
	inner sep=1.2pt, 
	anchor=text, 
	rectangle,
%%%%	rounded corners=.4mm
]
{#1\semtag{#2}};} 
\newcommand{\semtagex}[2]{[#2$_{\smtg{#1}}$]}
\newcommand{\LF}[1]{\textsf{#1}}
\usepackage{proof,lscape}
\newcommand{\rulelabelsize}{\scriptsize}
\newcommand{\FA}{\mbox{\rulelabelsize $<$}}
\newcommand{\BA}{\mbox{\rulelabelsize $>$}}
\newcommand{\FC}{\mbox{\rulelabelsize $>\!\mathbf{B}$}}
\newcommand{\BC}{\mbox{\rulelabelsize $>\!\mathbf{B}$}}
\newcommand{\SR}[1]{\begin{tabular}{c}$#1$\end{tabular}}
%%%%\newcommand{\citeintext}[1]{\citeauthor{#1}\citeyear{#1}}
\newcommand{\defequiv}{\ensuremath{\stackrel{\mathit{def}}{\equiv}}}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\Volume{30}
\Number{3}
\Month{September}
\Year{2023}
%%%%\Issuetitle{「　　　　」特集号}

\received{2023}{1}{1}
\revised{2023}{4}{8}
\accepted{2023}{5}{12}

\setcounter{page}{935}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{一般論文}
\jtitle{日本語症例テキストの複合語解析・推論システム Medc2l}
\jauthor{石田　真捺\affiref{Author_1} \and 谷中　　瞳\affiref{Author_2} \and 戸次　大介\affiref{Author_1}}
\jabstract{%
医療分野には，電子カルテや退院サマリといった症例テキストが蓄積されており，これらを新たな知識の発見に繋げるために自然言語処理技術を応用する研究が試みられている．しかし，症例テキストには専門的な複合語が頻出するといった解析の難しさがあり，日本語の症例テキストを用いた深い意味解析や，日本語の症例テキスト間の含意関係認識についての研究は発展途上である．そこで本論文では，日本語の高度な意味解析・推論システム ccg2lambda に複合語解析モジュールを追加することで，症例テキストの意味解析と推論を扱える論理推論システム Medc2l を提案する．複合語解析モジュールは (i) 症例テキストに含まれる複合語の抽出，(ii) 複合語を構成する形態素間の意味的な関係を表す意味現象タグの付与，(iii) 意味現象タグに基づく複合語の構文解析，(iv) 意味現象タグに基づく複合語の意味解析から構成される．(ii) では (i) で抽出した複合語に対して意味現象タグのアノテーションを行い，系列変換モデルの学習によって構築した複合語意味現象タグ分類モデルを用いる．(iii) では予測された意味現象タグを元に複合語の構造を CFG 解析したのち CCG 部分木に変換し，(iv) では (iii) の CCG 部分木に基づいて高階論理の意味表示を導出する．日本語の症例テキストを用いて推論データセットを構築し，提案システムの評価を行った結果，深層学習による含意関係認識モデルと同等またはそれ以上の性能を示し，とくに non-entailment のケースを正しく予測する傾向が見られた．
\renewcommand{\thefootnote}{}
\footnote[0]{本論文の一部は2021年度人工知能学会全国大会（第35回）\cite{ishida2021}，the 18th International Workshop on Logic and Engineering of Natural Language Semantics 18 \cite{ishida_lenls}，2022年度人工知能学会全国大会（第36回）\cite{ishida2022}で報告したものである．}
\renewcommand{\thefootnote}{\arabic{footnote}}
}
\jkeywords{含意関係認識，複合語解析，症例テキスト，意味解析}

\etitle{Medc2l: Compound-Word Analysis and Inference System for Japanese Clinical Texts}
\eauthor{Mana Ishida\affiref{Author_1} \and Hitomi Yanaka\affiref{Author_2} \and Daisuke Bekki\affiref{Author_1}} 
\eabstract{%
The increasing number of clinical texts, such as electronic medical records and discharge summaries, has led to ongoing research on natural language processing in the medical field. Since medical compound words often appear in clinical texts, in-depth semantic analysis and natural language inference tasks for clinical text are challenging. In this study, we developed a semantic analysis and logical inference system for clinical texts, called Medc2l, by improving ccg2lambda, an integrated system that maps a sentence to a higher-order logical formula by syntactic analysis and semantic composition and performs inference between logical formulas. To handle compound words in clinical texts, we included a compound-word analysis module to ccg2lambda. The compound-word analysis module first assigns semantic tags to the constituents of compound words using sequence-labeling models. Based on this information, the module derives the Combinatory Categorial Grammar (CCG) trees of compound words and obtains their semantic representations that allow logical inference. In addition, we created an inference test set involving compound words with critical texts. The experiments using the test set showed that our inference system achieved comparable or superior performance to the deep learning-based NLI models. Our system particularly predicted labels accurately for non-entailment problems.
}
\ekeywords{Recognizing Textual Entailment, Compound Words Analysis, Clinical Texts, Semantic Analysis}

\headauthor{石田，谷中，戸次}
\headtitle{日本語症例テキストの複合語解析・推論システム Medc2l}

\affilabel{Author_1}{お茶の水女子大学}{Ochanomizu University}
\affilabel{Author_2}{東京大学}{The University of Tokyo}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\rmfamily
\section{はじめに}
\label{purpose}

医療分野には電子カルテや退院サマリといった症例テキストが蓄積されている．
これらを新たな知識の発見に繋げるために，自然言語処理技術を応用する研究が試みられている．
たとえば，英語では症例テキストを対象とした推論やテキストマイニング \cite{bethard-etal-2017-semeval,romanov-shivade-2018-lessons,EHRs2018}が活発に研究されつつある．
日本語でも症例テキストを解析する研究が発展しつつあり，病名抽出 \cite{DBLP:conf/medinfo/AramakiYW17,荒牧英治2018}や診療情報抽出 \cite{東山翔平2015}，患者状態の表現抽出 \cite{info:doi/10.2196/11021}，臨床医学表現の医学的関係抽出 \cite{矢田竣太郎2022}など，固有表現抽出や関係抽出タスクを中心に，様々な解析技術が提案されている．

一方で，これまでの日本語の症例テキストの解析技術は固有表現抽出のような文字列の表層的な情報のマッチングに基づく解析が中心であり，否定や量化といった構成素の構造を考慮した高度な意味解析については発展途上である．
その理由の一つとして，日本語の症例テキストには症状や診断名などの複数の医療用語から構成される\textbf{複合語}が多く含まれており，複合語の構文解析や意味解析が難しいという問題がある．


複合語を含む症例テキストの例を(\ref{ex:1})に示す．
\begin{exe}
\setlength{\parskip}{0pt}%
    \ex \label{ex:1}非持続性心室頻拍が認められたため，アミオダロン併用した．
    \ex 
    \begin{xlist}
    \ex \label{ex:2}心室頻拍は持続性ではない．
    \ex \label{ex:3}アミオダロンを併用した．
    \end{xlist}
\end{exe}
(\ref{ex:1})の「非持続性心室頻拍」からは，「持続性ではない心室頻拍」が認められたこと，「アミオダロン併用」からは「アミオダロンを併用」したことがわかる．
このように複合語には，複合語を構成する要素間の様々な意味関係が非明示的に含まれている．
これらの意味関係を同定することができれば，複合語が現れる(\ref{ex:1})のような文から，複合語が現れない(\ref{ex:2})や(\ref{ex:3})のような文への含意関係が認識可能となる．

これまで，日本語の高度な意味解析・推論システムとしてccg2lambda \cite{ccg2lambda}が提案されている．
ccg2lambdaは，テキストに対して組合せ範疇文法 \cite{steedman2000a}に基づく構文解析と，高階論理に基づく意味解析を行い，テキストの意味を高階論理式によって表現し，論理式間の含意関係を定理証明器を用いて自動判定する含意関係認識システムである．
ccg2lambdaは否定や量化 \cite{ccg2lambda}，時間関係 \cite{sugimoto-yanaka-2022-compositional}と，構成素の構造にもとづく意味を広範囲に扱うことができ，近年では一般ドメインのテキストに限らず，
%%%%金融テキスト \cite{hokazono2018}や供述文書 \cite{koyano2021}の意味解析への応用研究も進められている．
    金融テキスト \cite{hokazono2018}や供述文書 (小谷野 他 2021)\nocite{koyano2021}の意味解析への応用研究も進められている．
ccg2lambdaを用いて症例テキストの意味解析と推論を実現できれば，症例テキストの複合語に含まれる否定や量化といった構成素の構造にもとづく意味を正しく扱い，症例テキスト間の含意関係を正しく計算することが可能となる．

そこで本論文では，ccg2lambdaを改良して，症例テキストの高度な意味解析と推論を扱える推論システムMedc2l（メドシーツーエル）を提案する．
具体的には，ccg2lambdaに複合語解析モジュールを追加することで，複合語を含む症例テキストに対して頑健に意味解析と推論ができるようにする．
Medc2lの複合語解析モジュールは，
\begin{enumerate}
\item[(i)] 症例テキストに含まれる複合語の抽出
\item[(ii)] 複合語を構成する形態素間の意味的な関係を表す意味現象タグの付与
\item[(iii)] 意味現象タグに基づく複合語の構文解析
\item[(iv)] 意味現象タグに基づく複合語の意味解析
\end{enumerate}
から構成される.
 (i) で抽出した複合語に対して意味現象タグのアノテーションを行い，(ii)では系列変換モデルを学習することによって構築した複合語意味現象タグ分類モデルを用いる．
(iii)では予測された意味現象タグを元に複合語の構造をCFG解析したのちCCG部分木に変換し，(iv)では(iii)のCCG部分木に基づいて高階論理の意味表示を導出する．

本研究の貢献は以下の3点である．
\begin{itemize}
    \item 症例テキストに含まれる複合語に対して複合語を構成する形態素間の意味関係を複合語意味現象タグとして定義し，アノテーションデータを構築した．
    \item 複合語意味現象タグに従って複合語の構文解析・意味解析を行う複合語解析モジュールを提案し，ccg2lambdaと組み合わせて症例テキストの高度な意味解析と推論を実現する論理推論システムMedc2lを構築した．
    \item 日本語の症例テキストのための評価用推論データセットを構築し，提案する論理推論システムと深層学習の含意関係認識モデルの比較実験を行った．
\end{itemize}
なお，本研究で構築した症例テキストの推論システム，複合語意味関係データセット，症例テキストの推論データセットは，それぞれ研究利用可能な形で公開予定である．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{背景}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{含意関係認識}

自然言語処理分野のタスクの一つに，含意関係認識(Recognizing Textual Entailment, RTE)\footnote{自然言語推論(Natural Language Inference, NLI)ともいう．}がある．
含意関係認識とは，文間の意味論的な包含関係を判定するタスクであり「前提文が真である状況で，仮説文が必ず真であるかどうか」を判定する．
本研究では，含意関係認識タスクを，前提文に対して仮説文が真であれば含意(entailment)，それ以外であれば非含意(non-entailment)であることを判定する二値分類のタスクとして考える．
以下の前提文と仮説文のペア(\ref{ex:inf1})は含意の例，前提文と仮説文のペア(\ref{ex:inf2})は非含意の例である．

\begin{exe}
\ex \label{ex:inf1}
\begin{xlist}
    \ex 非持続性心室頻拍が認められたため，アミオダロン併用した．
    \ex 心室頻拍が認められたため，アミオダロンを併用した．
\end{xlist}
\ex \label{ex:inf2}
\begin{xlist}
    \ex 生検で非乾酪性肉芽腫を認めた．
    \ex 生検で乾酪性肉芽腫を認めた．
\end{xlist}
\end{exe}

英語では医療ドメインの含意関係認識データセットとして，外科医が臨床ノートから抽出した前提文に対して仮説文と正解ラベルを付与したMedNLI \cite{romanov-shivade-2018-lessons}や，生物医学論文のコーパスからブートストラップ手法で構築したBioNLI \cite{bastan2022bionli}がある．
近年では英語に限らず多言語におけるデータセットの必要性が高まっており，医療ドメインではロシア語の医療ドメインの言語理解ベンチマークRuMedBench \cite{10.1007/978-3-031-09342-5_38}が構築されている．
日本語の医療ドメインの含意関係認識データセットは管見の限りでは存在せず，日本語の症例テキストを用いて医療ドメインの含意関係認識データセットを構築した点も本研究の貢献の一つである．



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{ccg2lambda}
\label{section:ccg2lambda}

テキスト間の含意関係を判定するシステムとして，ccg2lambda \cite{ccg2lambda}がある．
ccg2lambdaとは，組合せ範疇文法(Combinatory Categorial Grammar, CCG) \cite{steedman2000a,BekkiBook}に基づく高精度な構文解析と，高階論理に基づく自動推論システムを組み合わせた高度な意味解析・推論システムである．
構文解析では，システムに入力された前提文・仮説文に対して，日本語形態素解析器Janome\footnote{\url{https://mocobeta.github.io/janome/}\\
Janomeの辞書はMeCab-IPADICフォーマットのMecab辞書を用いる.}
を用いて形態素解析を行い，CCG構文解析器depccg \cite{yoshikawa-etal-2017-ccg}を用いて，CCG構文木に変換している.
意味解析では，得られたCCG構文木に対し，語の統語・意味情報を指定する意味テンプレートを用いて，論理式による意味表示をCCGの組合せ規則が定める計算にしたがって合成する．
そして，前提文の意味表示と仮説文の意味表示間の含意関係を，自然演繹に基づく定理証明支援系であるCoq \cite{opac-b1101046}を用いて自動で判定する．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{組合せ範疇文法}
\label{section:ccg}

組合せ範疇文法(Combinatory Categorial Grammar, CCG)は語彙化文法の一種であり，自然言語の弱文脈依存性を捉えるのに適した文法体系であることが知られている．
CCGの統語範疇は，{\it N}（普通名詞），{\it NP}（名詞句），{\it S}（文）などの基底範疇と，二項演算子/,$\backslash$を用いて再帰的に定義される関数的範疇の二種類がある．
CCGは多数の語彙項目を含む辞書と，比較的少数の組合せ規則から構成されており，語彙項目は表層形（音韻形式），統語範疇，意味表示の三つ組からなる．

図1に組合せ規則の例を示す．
たとえば，関数適用規則($\BA$)により，$X/Y$という形の統語範疇及び意味$f$をもつ語は，その右側にある$Y$という形の統語範疇及び意味$a$をもつ語と結びつき，$X$という統語範疇及び意味$fa$をもつ語が形成される．
語の意味はラムダ項によって表現され，組合せ規則に基づいて得られたラムダ項を$\beta$簡約することで，最終的な意味表示（論理式）を得ることができる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 1
\begin{figure}[b]
\begin{center}
\includegraphics{30-3ia3f1.pdf}
\end{center}
\label{ccg_rules}
\caption{CCGの組み合わせ規則（関数適用規則：$\BA$, $\FA$，関数合成規則：$\FA B$, $\BA B$）}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


本研究において，統語理論としてCCGを採用したことには理論面・実装面の理由がある．
理論面では，先行研究 \cite{BekkiBook}において日本語の基本的な構造が明らかにされていることから，複合語のような，あまり意味論的な研究が進んでいない対象についても系統的に分析できる，ということが挙げられる．
実装面では，CCGについては既に頑健で高速な，日本語用のCCG構文解析器が複数利用可能であることが挙げられる\footnote{ただし，本研究で提案する複合語解析モジュールの設計，特に意味現象タグの体系と実装の有用性は，CCG/CCG構文解析器との組み合わせに限定されたものではなく，語彙化文法を用いた任意のアプローチが利用しうるものである．本研究の手法は，上に述べたような，CCGを採用することによるメリットを享受してはいるが，意味現象タグはCCGとは独立した設計であり，任意の文法理論の統語構造・意味表示への写像が定義可能である．}．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{症例テキストの意味解析・推論システム}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{システムの全体像}

ccg2lambdaを用いた症例テキストの意味解析・推論システムの全体像を図\ref{image1}に示す．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 2
\begin{figure}[b]
\begin{center}
\includegraphics{30-3ia3f2.pdf}
\end{center}
\caption{ccg2lambdaを用いた症例テキストの意味解析・推論システムMedc2l}
\label{image1}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

まず，概要を説明する．
入力となる前提文・仮説文は，文の構文解析の処理の中で日本語形態素解析器Janomeによって形態素解析が行われ，CCG構文解析器depccgによって，CCG構文木に変換される．
%%%%形態素解析器については，ComeJisho \cite{相良かおる2012}のような医療用語辞書を登録した形態素解析器を採用することも検討したが，
    形態素解析器については，ComeJisho (相良 他 2012)\nocite{相良かおる2012}のような医療用語辞書を登録した形態素解析器を採用することも検討したが，
複合語によっては一語として扱われてしまうため，本研究では複合語内の意味関係の分析のしやすさから一般的な形態素解析器を採用した．
次に，文中の複合語解析の処理は(i)複合語の抽出，(ii)意味現象タグの付与，(iii)複合語の構文解析の3つのステップで行われる．
(i)ではCCG構文木の品詞タグを確認し，連続した名詞もしくは接頭辞の最大列からなる部分木を複合語として抽出する．
(ii)では抽出した複合語の表層形を複合語意味現象タグ分類モデルに渡し，複合語内の形態素間の意味関係を表す意味現象タグを付与する．
意味現象タグの詳細については，3.2.1節で説明する．
複合語意味現象タグ分類モデルには，複合語内の形態素の表層の系列を意味現象タグの系列に変換する系列ラベリングモデルを用いる．
そして，(iii)では意味現象タグを終端記号とする文脈自由文法(CFG)に基づいて，各複合語のCFG木を構築する．
CFG木をCCG木へ変換する規則群を定義することで，各複合語のCFG木はCCG部分木に変換される．
その後，CCG構文木内の各複合語を，上の手順で得たCCG部分木に置き換えたのち，文の意味解析の処理でCCG構文木において語に意味情報を割り当てる意味テンプレートに基づいて，ラムダ計算を用いて複合語を含む文全体の意味合成を行う．
なお，本研究で提案する複合語解析モジュールの(iv)複合語の意味解析は，意味現象タグに基づく意味テンプレートを用いて，文の意味解析の処理の中でまとめて行われる．
最後に，この過程によって得られた意味表示（論理式）の対に対し，証明支援ツールであるCoqを用いて含意関係を判定する．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{複合語解析}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{複合語意味関係データセット}
\label{section:annotation}

症例テキスト内の複合語に対し，独自に作成したアノテーションガイドラインに基づいて意味現象タグのアノテーションを行い，複合語意味現象タグ分類モデルの学習に必要な複合語意味関係データセットを構築した．
複合語意味関係データセットは，理論言語学の研究プロセスを踏襲し，意味現象タグの設計，タグのアノテーション，意味合成・推論によるタグの妥当性の検証，意味現象タグの見直しを繰り返し行った．
意味現象タグは本研究独自のものであり，設計手順は以下の通りである．
(i)J-MedStd CR 頻度バランスサブセットを目視で確認し，複合語を抽出する．
(ii)抽出した複合語について，意味関係のパターンを分類する．
(iii)パターンに応じて意味現象タグを設計する．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 1
\begin{table}[t]
\input{03table01.tex}%
\caption{複合語意味関係データセットに含まれる意味現象タグの件数}
\label{tab:semtag}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

症例テキストとしては，J-MedStd CR: 症例報告(Case Reports)コーパス\footnote{\url{https://sociocom.naist.jp/j-medstd/cr/}}の頻度バランスサブセット224件を対象とする．
J-MedStd CR: 症例報告コーパスは，J-Stageにてオープンアクセスで公開されている症例報告論文PDFからOCR抽出したテキストのコーパスである．
本研究では，J-MedStd CR頻度バランスサブセット224件に含まれる複合語3,443件に対して人手で意味現象タグを付与した．
表\ref{tab:semtag}に14種類の意味現象タグの出現件数を示す．
\semtag{CW}は複合語全体に付与するタグであり，複合語内の形態素にはその他13種類のタグを付与する.
意味現象タグのアノテーションは，日本語母語話者で形式意味論を学んでいる学生1名がガイドラインを参照して作業を行った．
アノテーションには，アノテーションツールであるbrat\footnote{\url{http://brat.nlplab.org/}}を利用した．
アノテーション結果の妥当性検証とアノテーションガイドラインの作成は，形式意味論の専門家と協議した上で実施した．
以下に各意味現象タグの定義と例を示す．

\begin{exe}
\ex \semtag{CW}：「複合語」を表す．複合語全体に付与する．
\begin{xlist}
    \ex \label{ex:cw1} ...により\semtagex{CW}{Nivolumab 投与 再開}した．
    \ex \label{ex:cw2} \semtagex{CW}{脳 梗塞}，\semtagex{CW}{左 房内 血栓}に対して\semtagex{CW}{WF 投与 開始}となった．
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{PP}：「後ろの形態素の一部」を表す．後ろの形態素と結合して1つの形態素として扱いたいものに付与する．
\begin{xlist}
    \ex \label{ex:pp1} \semtagex{PP}{当} \semtagex{NI}{院} \semtagex{EV}{紹介} （= 当院に紹介する）
    \ex \label{ex:pp2} \semtagex{PP}{肥大} \semtagex{M\_EN}{型} \semtagex{PP}{心筋} \semtagex{EN}{症} （= 肥大型の心筋症）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{EN}：一般的な「エンティティ」を表す．エンティティとなる（最後の）形態素に付与する．
\begin{xlist}
    \ex \label{ex:en1} 抗生 \semtagex{EN}{剤}
    \ex \label{ex:en2} 左 房内 \semtagex{EN}{血栓} （= 左房内の血栓）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{Q\_EN}：量系の「エンティティ」を表す．「\semtag{EV} + 量」 「\semtag{EV} + 頻度」のような構成をなす複合語の「量」や「頻度」を表す形態素に付与する．
\begin{xlist}
    \ex \label{ex:qen1} 投与 \semtagex{Q\_EN}{量} （= 投与する量）
    \ex \label{ex:qen2} 使用 \semtagex{Q\_EN}{頻度} （= 使用する頻度）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{T\_EN}：傾向系の「エンティティ」を表す．「\semtag{EV} + 傾向」という構成をなす複合語の「傾向」を表す形態素に付与する．
\begin{xlist}
    \ex \label{ex:ten1} 肝 機能 増悪\semtagex{T\_EN}{傾向} （= 肝機能が増悪する傾向）
    \ex \label{ex:ten2} 縮小 \semtagex{T\_EN}{傾向} （=縮小する傾向）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{E\_EN}：作用系の「エンティティ」を表す．「\semtag{EV} + 作用」「\semtag{EV} + 効果」という構成をなす複合語の「作用」や「効果」を表す形態素に付与する．
\begin{xlist}
    \ex \label{ex:een1} インスリン 分泌 \semtagex{E\_EN}{作用} （= インスリンを分泌する作用）
    \ex \label{ex:een2} 血糖 改善 \semtagex{E\_EN}{効果} （= 血糖が改善する効果）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{EV}：一般的な「イベント」を表す．典型的にはサ変動詞の語幹に付与する．%\\

\begin{xlist}
    \ex インスリン \semtagex{EV}{分泌} 促進 作用 （= インスリンを分泌する ことを促進する作用）
    \ex \label{ex:ev2} \semtagex{EV}{転移} \semtagex{EV}{再発} （= 転移し再発する）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{S\_EV}：「サ変動詞の語幹をヲ格として取るイベント」を表す．
「転移し再発する」という意味の「転移 再発」のような，イベント間の等位接続の構造をもつ複合語と区別するため，一般的なイベントを表す「\semtag{EV}」とは別に用意している．
\begin{xlist}
    \ex \label{ex:sev1} 抗生 剤 投与 \semtagex{S\_EV}{開始} （= 抗生剤を投与する ことを開始する）
    \ex \label{ex:sev2} 歩行 未 \semtagex{S\_EV}{獲得} （= 歩行（すること）を獲得していない）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{GA}：「ガ格名詞句」を表す．ガ格名詞句として後続するイベントの項となる形態素に付与する．
\begin{xlist}
    \ex \label{ex:ga1} \semtagex{GA}{血糖} 改善 効果 （= 血糖が改善する効果）
    \ex \label{ex:ga2} 炎症 \semtagex{GA}{反応} 上昇 （= 炎症反応が上昇する）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{WO}：「ヲ格名詞句」を表す．ヲ格名詞句として後続するイベントの項となる形態素に付与する．
\begin{xlist}
    \ex \label{ex:wo1} 抗生 \semtagex{WO}{剤} 投与 開始 （= 抗生剤を投与することを開始する）
    \ex \label{ex:wo2} ドパミン \semtagex{WO}{製剤} 投与 （= ドパミン製剤を投与する）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{NI}：「ニ格名詞句」を表す．ニ格を持つ名詞句として後続するイベントの項となる形態素に付与する．
\begin{xlist}
    \ex \label{ex:ni1} 当 \semtagex{NI}{院} 紹介 （= 当院に紹介する）
    \ex \label{ex:ni2} \semtagex{NI}{肺} 転移 （= 肺に転移する）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{M\_EN}：「修飾語」を表す．後ろのエンティティを修飾している形態素に付与する．
\begin{xlist}
    \ex \label{ex:men1} C \semtagex{M\_EN}{型} \semtagex{M\_EN}{慢性} \semtagex{EN}{肝炎} （= C型かつ慢性の肝炎）
    \ex \label{ex:men2} 肥大 \semtagex{M\_EN}{型} 心筋 \semtagex{EN}{症} （= 肥大型の心筋症）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{PA}：「体の部位」を表す．体の部位を表す形態素に付与する．
\begin{xlist}
    \ex \label{ex:pa1} \semtagex{PA}{肝} 機能 増悪 傾向 （= 肝機能が増悪する傾向）
    \ex \label{ex:pa2} \semtagex{PA}{食道} 静脈 瘤 （= 食道の静脈瘤）
\end{xlist}
\end{exe}

\begin{exe}
\ex \semtag{NEG}：「否定」を表す．後に続く\semtag{M\_EN}や\semtag{EV}・\semtag{S\_EV}を否定している形態素に対して付与する．
\begin{xlist}
    \ex \label{ex:neg1} \semtagex{NEG}{非}\semtagex{M\_EN}{定型}\semtagex{PP}{抗}\semtagex{PP}{酸}\semtagex{PP}{菌}\semtagex{EN}{症} （= 定型ではない抗酸菌症）
    \ex \label{ex:neg2} \semtagex{NEG}{無}\semtagex{EV}{再発} （= 再発しない）
\end{xlist}
\end{exe}

複合語中のイベントとエンティティの関係は，内の関係と外の関係に分類される．
内の関係とは，イベントとエンティティの間に何らかの格関係がある場合を指す．
たとえば，「患者に投与した薬」という文では，「薬」は「投与」にとってのヲ格名詞句である．
それに対し，イベントとエンティティの間に格関係がない場合を外の関係という．
たとえば，「患者に投与した回数」という文では，「投与」と「回数」の間には格関係がない．
外の関係は，エンティティが「量」，「傾向」，「作用」のどれを表すかによって，少なくとも3種類に分類される．
この3種類の外の関係を区別するために，一般的なエンティティを表す「\semtag{EN}」とは別に「\semtag{Q\_EN}」「\semtag{T\_EN}」「\semtag{E\_EN}」という意味現象タグをそれぞれ用意している．

以下は，アノテーションの判断が難しい例である．

\begin{exe}
    \ex \label{ex:dif} 男性が\semtagex{CW}{\semtagex{WO}{意識}\semtagex{EV}{消失}}となった．
\end{exe}
「意識消失」という複合語は，「（人が）意識を失う，（人の）意識がなくなる」という意味であり，「意識」は「消失」にとってガ格名詞句であるともヲ格名詞句であるとも考えられる．
このように複数の格関係が考えられる複合語は判断が難しいが，前後の文脈に応じて専門家と協議の上，最終的にアノテーションするタグを決定した．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{複合語意味現象タグ分類モデル}

作成した複合語意味関係データセットを学習データとし，BiLSTM \cite{wang2015part}を用いた系列ラベリングモデルと，汎用言語モデルBERT \cite{devlin-etal-2019-bert}を用いた系列ラベリングモデルの2種類を用いて，複合語意味現象タグ分類モデルを構築した．
BiLSTMは，LSTMを双方向に組み合わせたものであり，前後の文脈を考慮して意味関係を特定する必要がある複合語解析に適切なモデルである．
BERTはTransformerベースのモデルであり，日本語の Wikipediaのデータを用いて事前学習された，東北大学が公開しているモデル\footnote{\url{https://huggingface.co/cl-tohoku/bert-base-japanese}}を使用する\footnote{日本語の医療文書で事前学習を行ったBERTモデルとしてUTH-BERTがあるが，UTH-BERTはNEologdと万病辞書を用いたMeCabをTokenizerに用いており，Medc2lで採用している形態素解析と解析結果が異なるため，今回は採用しなかった．}．
使用する日本語BERTのTokenizerはIPADICを辞書に用いたMeCab+WordPieceであり，学習は元のBERTと同じ構成でWhole Word Maskingで学習したものを使用する．
BiLSTMモデルの実装にはKerasを，BERTモデルの実装にはPyTorchを使用した．
モデルの評価には5分割交差検証を採用し，精度はそれぞれ93.5\%，93.3\%であった． 
複合語意味現象タグ分類モデルには，それぞれの最も精度の良いモデルを用いた．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 2
\begin{table}[b]
\input{03table02.tex}%
\caption{CFG規則（一部）}
\label{tab:cfg}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{複合語の構文解析}

複合語内の意味関係に基づいて複合語解析を行うために，意味現象タグを終端記号とした木構造を出力するCFGパーザを構築した．
設計したCFG規則の一部を表\ref{tab:cfg}に示す．
開始記号はCWであり，矢印の左側は非終端記号である．記号に引かれた下線は，その記号が終端記号であることを表している．
NI'やGA'など，ダッシュがついた記号を含む規則は，ループを避けるために必要である．
CFG規則は，CFG木から生成されるCCG構文木に合わせて，二分木になるよう留意して設計した．
\semtagcfg{NEG}に適用される規則には2種類あるが，詳しくは\ref{section:semantic analysis}節で説明する．
以下に構文解析の例を示す．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 3 and 4
\begin{figure}[b]
\hfill\begin{minipage}[b]{176pt}
\begin{center}
\includegraphics{30-3ia3f3.pdf}
\end{center}
\caption{CFG規則適用直後のCFG木}
\label{cfgtree:1}
\end{minipage}
\hfill
\begin{minipage}[b]{125pt}
\begin{center}
\includegraphics{30-3ia3f4.pdf}
\end{center}
\caption{形態素結合後のCFG木}
\label{cfgtree:2}
\end{minipage}
\hfill
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 5 and 6
\begin{figure}[b]
\hfill\begin{minipage}[b]{125pt}
\begin{center}
\includegraphics{30-3ia3f5.pdf}
\end{center}
\caption{変換前のCFG木}
\label{cfgtree:3}
\end{minipage}
\hfill
\begin{minipage}[b]{180pt}
\begin{center}
\includegraphics{30-3ia3f6.pdf}
\end{center}
\caption{変換後のCCG部分木}
\label{ccgtree}
\end{minipage}
\hfill
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 3
\begin{table}[b]
\input{03table03.tex}%
\caption{CFG木からCCG構文木への変換規則および意味テンプレート}
\label{tab:temp}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\begin{exe}
\setlength{\parskip}{0pt}%
\setlength{\itemsep}{0pt}%
    \ex \label{ex:cfg_tag}\semtagex{PP}{当}\semtagex{M\_EN}{院}\semtagex{PP}{循環}\semtagex{PP}{器}\semtagex{NI}{内科}\semtagex{EV}{入院}
\end{exe}
「当院循環器内科入院」という複合語には，(\ref{ex:cfg_tag})のように意味現象タグが付与されるのが正解である．
これに対しCFG規則を適用すると，まず図\ref{cfgtree:1}のCFG木が導出されるが，\semtag{PP}が付与された形態素は後続する形態素の一部であるため，図\ref{cfgtree:2}のように形態素を結合したCFG木に変換する．
その後，意味合成が整合するように図\ref{cfgtree:3}のようなCFG木に編集した上で，表\ref{tab:temp}の変換規則に基づいて図\ref{ccgtree}のCCG部分木に変換する．
統語範疇と意味表示の型との対応関係は表\ref{tab:type}に示す．
意味表示の型は，Entity(\textsf{Entity})，Event(\textsf{Event})，Proposition(\textsf{Prop})の3つの基本型と，それらから生成される関数型からなる．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 4
\begin{table}[t]
\input{03table04.tex}%
\caption{意味現象タグ，統語範疇と意味表示の型との対応関係}
\label{tab:type}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{意味解析}
\label{section:semantic analysis}

表~\ref{tab:temp}に意味テンプレートの一部を示す．
\textit{Surf}の箇所には，各語の表層形が入る．
意味テンプレートでは統語範疇をキーとして意味表示を割り当てるため，統語範疇の素性に元の意味現象タグの情報を含めるように設計した．

\ref{section:annotation}節で述べたように，\semtag{NEG}は後ろに続く\semtag{M\_EN}や\semtag{EV}・\semtag{S\_EV}に対応する形態素の情報を否定する意味現象タグである．
表~\ref{tab:temp}に示すように，M\_ENの統語範疇は$NP/NP$，EV・S\_EVの統語範疇は$S$と異なる．
したがって，\semtag{NEG}が付与された形態素の統語範疇は，その形態素の後に続く形態素の統語範疇に合わせた統語範疇を割り当てる必要があるため，\semtag{NEG}に関するCFG規則や意味テンプレートを2種類作成した．
なお，複合語に含まれる否定は一般にnarrow scopeを取るため，\semtag{NEG}に対応する意味表示はnarrow scopeの分析を採用する．
たとえば，「癌は無再発であった．」という文の複合語「無再発」に含まれる否定表現「無」のスコープには再発するというイベントのみが含まれ，「癌」というエンティティの存在量化は，否定よりも広いスコープをとる．

3種類のイベントとエンティティ間の外の関係(\semtag{EV} \semtag{T\_EN}，\semtag{EV} \semtag{Q\_EN}，\semtag{EV} \semtag{E\_EN})，および\semtag{EV}と\semtag{S\_EV}の違いについては，意味現象タグに対応したunary ruleによって区別することができる．
外の関係に関する意味現象タグ，および\semtag{S\_EV}に対応するunary ruleの例を表~\ref{tab:un}に，
unary ruleを用いた「\semtag{EV} \semtag{T\_EN}」の意味合成を図~\ref{fig:sem_tree}に示す．
\semtagex{T\_EN}{傾向}の統語範疇が$NP$であるのに対し，\semtagex{PA}{肝}\semtagex{GA}{機能}\semtagex{EV}{増悪}の統語範疇は$S$となっている．
表~\ref{tab:un}に示すunary ruleを適用することで，\semtagex{PA}{肝}\semtagex{GA}{機能}\semtagex{EV}{増悪}の統語範疇は$NP/NP$に変換され，\semtagex{PA}{肝}\semtagex{GA}{機能}\semtagex{EV}{増悪}\semtagex{T\_EN}{傾向}の意味表示が導出可能となる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 5
\begin{table}[t]
\input{03table05.tex}%
\caption{外の関係に関する意味現象タグ,および\semtag{S\_EV}に対応するunary rule}
\label{tab:un}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 7
\begin{figure}[t]
\begin{center}
\includegraphics{30-3ia3f7.pdf}
\end{center}
\caption{「肝 機能 増悪 傾向」の意味合成}
\label{fig:sem_tree}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{評価実験}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{症例テキストの推論データセットの構築}

提案システムの評価実験にあたり症例テキストの複合語に関する推論データセットを用意するため，J-MedStd CR頻度バランスサブセット224件中91件から複合語を含む症例テキストを目視で確認して抽出，1,054件の推論データセットを人手で作成した．
表\ref{tab:rte_dataset}に推論データセットの例を示す．
推論データセットに含まれる複合語は709件である．
症例報告コーパスから抽出した複合語を含む症例テキストを簡略化した文を前提文とし，前提文をもとに仮説文を作成した．
データセットには，前提文が仮説文を含意している(entailment)ペアが614件，前提文が仮説文を含意していない(non-entailment)ペアが440件含まれている．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 6
\begin{table}[b]
\input{03table06.tex}%
\caption{推論データセットの例}
\label{tab:rte_dataset}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

entailmentの仮説文は，前提文の意味を変えないことと文の自然さを維持することに留意して作成した．
表\ref{tab:rte_dataset}の1・4行目の例は，複合語に含まれる形態素の一部に対して助詞やイベント動詞の活用語尾を追加することで作成し，2・3行目の例は，前提文に含まれる複合語の形態素の一部を削除することで作成した．
また，non-entailmentの仮説文については，表\ref{tab:rte_dataset}の6・8行目のように前提文の一部を類義語や反義語に置き換える，7行目のようにentailmentにならないよう助詞を追加する，といった操作を行うことで作成した．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{実験設定}

作成した推論データセットを用いて，深層学習の含意関係認識モデルと提案システムとで精度比較を行なった．
深層学習のモデルには，標準的な日本語のRTEデータセットであるJSICK \cite{Yanaka_tacl2022}（学習データ5千件），JSNLI \cite{yoshimi_weko_206114_1}（学習データ約53万件）でentailment・non-entailmentの二値分類\footnote{contradictionはnon-entailmentとして扱った．}タスクとしてファインチューニングした日本語BERT（日本語BERT-JSICK，日本語BERT-JSNLI）を用いた．
提案システムは，正解の意味現象タグを用いて意味解析を行った場合（Goldタグ），BiLSTMモデル, BERTモデルを複合語意味現象タグ分類モデルに用いた場合の3条件で評価を行った．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 7
\begin{table}[b]
\input{03table07.tex}%
\caption{意味現象タグの予測結果，および推論の評価結果}
\label{tab:result}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 8
\begin{table}[b]
\input{03table08.tex}%
\caption{推論データセット内の複合語に付与された意味現象タグごとの正答率（推論全体）}
\label{tab:tag_acc}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{実験結果と考察}

表\ref{tab:result}に意味現象タグの予測結果と推論の評価結果を示す．
意味現象タグの予測結果については，推論データセットに含まれる複合語709件に対するタグ予測の正答率を示している．
全ての複合語に対し正解の意味現象タグが付与されていた場合の提案システム（Goldタグ）は，1,054件中847件(80.4\%)の文ペアについて含意関係を正しく判定した．
BiLSTMモデルを複合語意味現象タグ分類モデルに用いた場合の提案システム(BiLSTM)，およびBERTモデルを複合語意味現象タグ分類モデルに用いた場合の提案システム(BERT)は，意味現象タグの予測失敗により推論に失敗してしまったものがあるため，それぞれ69.7\%，64.3\%と，提案システム（Goldタグ）に比べ低い性能となった．
深層学習のモデルは，ファインチューニングにJSICKを用いた場合（日本語 BERT-JSICK），JSNLIを用いた場合（日本語 BERT-JSNLI）のいずれも，正解ラベルがnon-entailmentであるケースの多くについて，entailmentと予測してしまった．
この原因の一つとして，本研究で構築した推論データセットの多くは前提文と仮説文に含まれる語彙がほとんど共通しており，単純に語彙の重複でみるとentailmentと予測しやすいからと考えられる．
これに対して，提案システムはnon-entailmentのケースを正しく予測する傾向が見られた．
そのため，正解ラベルがentailmentである文ペアについては，深層学習のモデル
が95.0\%，92.8\%と高い性能を示したが，推論全体においては，提案システム（Goldタグ）の性能が最も高い結果となった．
推論データセット内の複合語に付与された意味現象タグごとの正答率を表\ref{tab:tag_acc}に示す．
「件数」の列は，推論データセット1,054件のうち，各意味現象タグが付与された複合語を含むデータセットの件数を示している．
1件の複合語に対し複数の意味現象タグが付与されるため，各件数には重複したデータセットも含まれる．
いずれの意味現象タグについても，提案システム(BiLSTM)，提案システム(BERT)，日本語BERT-JSICK，日本語BERT-JSNLIに比べ，提案システム（Goldタグ）の正答率が最も高い結果となった．
このうち，\semtag{NEG}が付与された複合語を含むデータセット66件の正答数については，日本語BERT-JSICKは35件(53.0\%)，日本語BERT-JSNLIは38件(57.6\%)と少ないのに対し，提案システム（Goldタグ）では62件(97.0\%)の文ペアについて正しい含意関係を予測した．
また，提案システム（Goldタグ）の中で最も正答率が低かったものは，\semtag{WO}が付与された複合語を含むデータセット(74.7\%)であった．
原因としては，\ref{section:error}節で述べる「形態素解析によるエラー」および「意味テンプレートの不足によるエラー」の多くが，\semtag{WO}が付与された複合語に関係しているからだと考えられる．
各エラーの詳細については，\ref{section:error}節で説明する．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{エラー分析}
\label{section:error}

提案システムが含意関係を誤って判定してしまった例についてエラー分析を行う．
表\ref{table:error}にエラーのタイプと推論データセットの例を示し，表に記載の順に具体例を紹介する．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 9
\begin{table}[b]
\input{03table09.tex}%
\caption{エラーのタイプと推論データセットの例}
\label{table:error}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

形態素解析によるエラーでは，形態素解析器であるJanomeが「膵炎発症」を「膵炎発」「症」，「消褪傾向」を「消」「褪傾向」のように誤って分割してしまったため，複合語内の意味関係を正しく捉えることができず，推論に失敗した．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 8
\begin{figure}[b]
\begin{center}
\includegraphics{30-3ia3f8.pdf}
\end{center}
\caption{「特発性の後腹膜血腫と診断した」の構文解析結果}
\label{tree:error}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

構文解析によるエラーについては，例を図\ref{tree:error}に示す．
仮説文に含まれる「後腹膜血腫」は複合語であるため「後」「腹膜」「血腫」が先に結合する必要があるが，構文解析の結果では「腹膜血腫と診断した」が先に結合しており，その後「特発性の後」と結合している．
そのため，CCG構文木から複合語を抽出することができず，正しい複合語解析を行うことができなかった．

意味テンプレートの不足によるエラーについては，以下に例を示す．

\begin{exe}
\setlength{\parskip}{0pt}%
\setlength{\itemsep}{10pt}%
    \ex \label{ex:err_1} 「立位保持練習」の意味表示\\
    $\lambda K.\exists y.(\exists x.(\LF{立位}(x) \wedge \exists e.(\LF{保持}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e) = y) \wedge (\LF{Acc}(e) = x))) \wedge \exists e.(K(\lambda e2.(\LF{練習}(e2) \wedge \LF{する}(e)),e) \wedge (\LF{Acc}(e) = y)))$

    \ex \label{ex:err_2} 「立位保持の練習」の意味表示\\
    $\lambda N F. \exists y.(N(\lambda x. \exists x.(\LF{立位}(x) \wedge \exists e.(\LF{保持}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e) = y) \wedge (\LF{Acc}(e) = x))), y) \wedge \exists z.(\exists e.(\LF{練習}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e) = z)) \wedge \LF{Rel}(z, y) \wedge F(z)))$
\end{exe}
「立位保持練習」の意味合成を図\ref{temp:error1}に，「立位保持の練習」の意味合成を図\ref{temp:error2}に示す．
症例テキスト内では，「AをBする」ということを「AのB」としばしば記述する．
しかし，図\ref{temp:error2}を見てみると，「の」の意味表示がM\_ENに関する意味表示と同一になっている．
そのため，「立位保持」が「練習」のヲ格名詞句であることを捉えることができず，推論に失敗してしまった．
正しい意味表示を導出するには，意味テンプレートを改良し，助詞「の」を正しく解析する必要があるが，「の」の意味表示を何にすべきかは文脈によって異なる．
そのため，文脈に応じて「の」の意味テンプレートを切り替える必要がある．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 9
\begin{figure}[b]
\begin{center}
\includegraphics{30-3ia3f9.pdf}
\end{center}
\caption{「立位保持練習」の意味合成}
\label{temp:error1}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 10
\begin{figure}[b]
\begin{center}
\includegraphics{30-3ia3f10.pdf}
\end{center}
\caption{「立位保持の練習」の意味合成}
\label{temp:error2}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

「\semtag{EV} \semtag{S\_EV}」に関するエラーについては以下に例を示す．

\begin{exe}
\setlength{\parskip}{0pt}%
    \ex 
    \begin{xlist}
    \ex \label{error:1}\semtagex{EV}{歩行}\semtagex{S\_EV}{練習}が可能となった．
    \ex \label{error:2}歩行が可能となった．
    \end{xlist}
    \ex 
    \begin{xlist}
    \ex \label{error:3}\semtagex{EV}{投与}\semtagex{S\_EV}{開始}が可能となった．
    \ex \label{error:4}投与が可能となった．
    \end{xlist}
\end{exe}
複合語内でサ変動詞の語幹をヲ格として取るイベントに対しては，一様に「\semtag{EV} \semtag{S\_EV}」という意味現象タグが付与される．
しかし，「投与開始」という複合語を含む前提文(\ref{error:3})は仮説文(\ref{error:4})を含意するのに対し，「歩行練習」を含む前提文(\ref{error:1})は，仮説文(\ref{error:2})を含意しない．
このように，サ変動詞の語幹をヲ格として取る複合語には，サ変動詞が表す内容を含意するものとしないものがある．
これらを正しく予測できるようにするためには，\semtag{S\_EV}が付与された「開始」や「練習」といった要素が，「歩行」や「投与」といったサ変動詞語幹のアスペクトやモダリティに相当する意味的貢献を持つかどうかを分析する必要がある．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 10
\begin{table}[b]
\input{03table10.tex}%
\hangcaption{前提文が「患者は歩行未獲得であった．」である推論データ，および提案システム，日本語BERT-JSICK，日本語BERT-JSNLIの予測結果}
\label{tab:err_dataset}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


スコープに関するエラーについて，前提文が「患者は歩行未獲得であった．」である推論データセットの例を表\ref{tab:err_dataset}に，提案システムが出力した前提文および仮説文の意味表示をそれぞれ以下に示す．

\begin{exe}
\setlength{\parskip}{0pt}%
\setlength{\itemsep}{10pt}%
    \ex \label{ex:err} 患者は歩行未獲得であった．\\
    $\exists x.(\LF{患者}(x) \wedge \exists y.(\exists e.(\LF{歩行}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x) \wedge (\LF{asEntity}(e)=y)) \wedge \\
    \neg \exists e.(\LF{獲得}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x) \wedge (\LF{Acc}(e)=y))))$

    \ex \label{ex:err1} 患者は歩行を獲得しなかった．\\
    $\exists x.(\LF{患者}(x) \wedge \exists y.(\exists e.(\LF{歩行}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e)=y)) \wedge \neg \exists e.(\LF{獲得}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x) \wedge (\LF{Acc}(e)=y))))$

    \ex \label{ex:err2} 患者は歩行を獲得した．\\
    $\exists x.(\LF{患者}(x) \wedge \exists y.(\exists e.(\LF{歩行}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e)=y)) \wedge \exists e.(\LF{獲得}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x) \wedge (\LF{Acc}(e)=y))))$

    \ex \label{ex:err3} 患者は歩行しなかった．\\
    $\exists x.(\LF{患者}(x) \wedge \neg \exists e.(\LF{歩行}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x)))$

    \ex \label{ex:err4} 患者は歩行した．\\
    $\exists x.(\LF{患者}(x) \wedge \exists e.(\LF{歩行}(e) \wedge \LF{する}(e) \wedge (\LF{Nom}(e)=x)))$
\end{exe}
前提文に含まれる複合語「歩行未獲得」の意味合成を図\ref{fig:err_tree}に示す．
\semtag{NEG}は後ろの\semtag{S\_EV}を否定するnarrow scopeであるため，前提文の意味表示は(\ref{ex:err})のように「獲得する」というイベントのみが否定され，「歩行する」は否定のスコープ外にある．
(\ref{ex:err1})の意味表示では，「歩行する」は否定されず「獲得する」が否定されており，(\ref{ex:err2})の意味表示ではどちらも否定されていない．
そのため，前提文と(\ref{ex:err1})との文ペアをentailment，(\ref{ex:err2})との文ペアをnon-entailmentと正しく予測できた．
それに対し，(\ref{ex:err3})の意味表示は「歩行する」が否定されているため，前提文と(\ref{ex:err3})との文ペアをnon-entailmentと誤って予測してしまった．
また，(\ref{ex:err4})では「歩行する」は否定されておらず，上記で述べたように前提文でも否定のスコープ外となっているため，entailmentと予測してしまった．
これらを修正するには「歩行未獲得」をwide scopeで解析する必要があるが，否定のスコープがwide scopeであるかnarrow scopeであるかは，文脈によって異なる．
そのため，文脈に応じてどちらのスコープで意味解析すべきか判定した上で適切な否定の語彙項目を採用する必要があるが，これは今後の課題とする．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 11
\begin{figure}[t]
\begin{center}
\includegraphics{30-3ia3f11.pdf}
\end{center}
\caption{「歩行 未 獲得」の意味合成}
\label{fig:err_tree}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

定理証明の際の外部知識の不足によるエラーの例としては，前提文「虫垂による癒着性イレウスが疑われた．」と仮説文「虫垂による腸閉塞が疑われた．」の文ペアが挙げられる．
この文ペアの正解ラベルはentailmentであるが，この含意関係を示すためには「イレウスとは腸閉塞のことである」という外部知識を定理証明の際に補完する必要がある．
しかし，提案システムでは外部知識の補完が行われず，non-entailmentであると誤って予測してしまった．

その他のエラーについては，複合語以外の構成素の意味合成に誤りがある例があった．
以下に例を示す．

\begin{exe}
\setlength{\parskip}{0pt}%
\setlength{\itemsep}{10pt}%
    \ex \label{ex:err_kaidan1} 複合語「階段昇降」の意味表示\\
    $\exists x.(\LF{階段}(x) \wedge \exists e.(\LF{昇降}(e) \wedge \LF{する}(e) \wedge (\LF{Acc}(e) = x)))$

    \ex \label{ex:err_kaidan2} 「階段を昇降することが困難となった．」の意味表示\\
    $\exists y.(\exists x.(\LF{階段}(x) \wedge \exists e.(\LF{昇降}(e) \wedge \LF{する}(e) \wedge (\LF{asEntity}(e) = y) \wedge (\LF{Acc}(e) = x))) \wedge\\
    \exists e.(\LF{なる}(e) \wedge (\LF{Nom}(e) = y) \wedge \LF{AccI}(e,\exists x.(\LF{困難}(x)))))$

    \ex \label{ex:err_kaidan3} 「階段を昇降した．」の意味表示\\
    $\exists x.(\LF{階段}(x) \wedge \exists e.(\LF{昇降}(e) \wedge \LF{する}(e) \wedge (\LF{Acc}(e) = x)))$
\end{exe}

「階段昇降」という複合語は「階段を昇降する」という意味であるため，前提文「階段昇降した．」と仮説文「階段を昇降した．」の文ペアの正解ラベルはentailmentである．
一方で，「階段を昇降することが困難となった．」という意味の前提文(\ref{ex:err_kaidan2})と仮説文(\ref{ex:err_kaidan3})の含意関係はnon-entailmentになるはずである．
しかし，(\ref{ex:err_kaidan2})の意味表示を見ると，「階段を昇降する」かつ「困難となった」という論理式になっているため，前提文(\ref{ex:err_kaidan2})と仮説文(\ref{ex:err_kaidan3})の文ペアについて，entailmentであると誤って判定していた．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}

本論文では，日本語の高度な意味解析・推論システムccg2lambdaに複合語解析モジュールを追加することで，複合語を含む症例テキストに対して頑健に意味解析と推論ができる推論システムMedc2lを構築した．
さらに，日本語の症例テキストを用いて症例テキストの複合語に関する推論データセットを構築し，提案システムの評価を行った．
実験の結果，提案システムは深層学習の含意関係認識モデルと同等またはそれ以上の性能を示した．
とくに，深層学習のモデルは正解ラベルがnon-entailmentであるケースの多くについてもentailmentと予測する傾向であったのに対して，提案システムはnon-entailmentのケースを正しく予測する傾向が見られた．

%%%%本論文で提案する複合語解析モジュールは，モジュール単体でも既存の病名抽出 \cite{DBLP:conf/medinfo/AramakiYW17,荒牧英治2018}や
    本論文で提案する複合語解析モジュールは，モジュール単体でも既存の病名抽出 (Aramaki et~al. 2017; 荒牧 他 2018)\nocite{DBLP:conf/medinfo/AramakiYW17,荒牧英治2018}や
診療情報抽出 \cite{東山翔平2015}技術と組み合わせることで，抽出された複合語内の意味関係の解析ツールとして貢献するはずである．
また，症例テキストの含意関係認識技術は，症例テキストを前提文，検索クエリを仮説文とみなせば，否定や量化などの意味を考慮した，高度な症例検索への応用可能性が期待される．

今後の展望として，本研究の提案手法でより幅広い範囲の複合語を含むテキストを扱うことが考えられる．
現アノテーション体系では，複合語に含まれる状詞（副詞など）は扱えておらず，そのための意味現象タグの設計も含めて今後の課題とする．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\acknowledgment

本研究の一部は，政策科学総合研究事業（臨床研究等ICT基盤構築・人工知能実装研究事業）21AC5001，JST さきがけ JPMJPR21C8，JSPS 科研費 JP20K19868の支援を受けたものである．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.7}
\bibliography{03refs}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}
\bioauthor{石田　真捺}{%
2021年お茶の水女子大学理学部情報科学科卒業．2023年お茶の水女子大学人間文化創成科学研究科理学専攻情報科学コース博士前期課程修了．現在，株式会社NTTドコモに所属．
}
\bioauthor{谷中　　瞳}{%
2018年東京大学大学院工学系研究科博士課程修了．工学博士．同年，理化学研究所特別研究員を経て，2021年より東京大学卓越研究員に採択され，東京大学大学院情報理工学系研究科講師，理化学研究所客員研究員．主に自然言語推論に関する研究に従事．
}
\bioauthor{戸次　大介}{%
2000年東京大学大学院理学系研究科情報科学専攻博士課程修了．理学博士．2008年お茶の水女子大学大学院人間文化創成科学研究科准教授，2023年より同大学基幹研究院自然科学系教授．
}
\end{biography}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\biodate


\end{document}

