\documentclass[tombow,japanese]{jnlp_2.3}
\usepackage{jnlpbbl_1.3}
\usepackage[dvipdfm]{graphicx}
\usepackage{gentombow}
\usepackage{amsmath}
\settombowbleed{5mm}
%%%%\usepackage{hangcaption_jnlp}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
\usepackage{url}
\renewcommand\UrlFont{\rmfamily}
%%%%\usepackage[dvipdfmx]{graphicx}
%%%%\usepackage{multirow}
%%%%\usepackage{url}
%%%%\usepackage{here}
%%%%\usepackage{color}
%%%%\usepackage[bxutf8]{inputenc}
%%%%\usepackage{bxbase}
\usepackage{otf}
%%%%\usepackage{cgloss4e}
%%%%\usepackage{gb4e}
%%%%\noautomath
%%%%\usepackage{amsmath}	% required for `\cases' (yatex added)
\allowdisplaybreaks
%%%%\usepackage{booktabs}
%%%%%\usepackage{ulem}
%%%%\renewcommand{\topfraction}{1.0}
%%%%\renewcommand{\bottomfraction}{1.0}
%%%%\renewcommand{\dbltopfraction}{1.0}
%%%%\renewcommand{\textfraction}{0.01}
%%%%\renewcommand{\floatpagefraction}{1.0}
%%%%\renewcommand{\dblfloatpagefraction}{1.0}
%%%%\setcounter{topnumber}{5}
%%%%\setcounter{bottomnumber}{5}
%%%%\setcounter{totalnumber}{10}
%%%%\newif\ifDRAFT
%%%%\DRAFTfalse
%%%%\ifDRAFT
%%%%\newcommand{\modified}[1]{\textcolor{blue}{\bf #1}}
%%%%\newcommand{\deleted}[1]{\textcolor{red}{\Midline{#1}}}
%%%%\else
%%%%\newcommand{\modified}[1]{#1}
%%%%\newcommand{\deleted}[1]{}
%%%%\fi
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


\Volume{27}
\Number{1}
\Month{March}
\Year{2020}
%%%%\Issuetitle{「　　　　」特集号}

\received{2019}{7}{31}
\revised{2019}{9}{19}
%%%%\rerevised{2006}{5}{6}
\accepted{2019}{10}{21}

\setcounter{page}{133}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{技術資料}
\jtitle{Bayesian Linear Mixed Model による\\
	単語親密度推定と位相情報付与}
\jauthor{浅原　正幸\affiref{Author_1}}
\jabstract{%
本論文では『分類語彙表増補改訂版データベース』に対する単語親密度推定手法について述べる．分類語彙表に収録されている 96,557 項目に対する評定情報を Yahoo! クラウドソーシングを用いて収集した．1項目あたり最低16人（異なり 3,392人）の研究協力者に，内省に基づいて「知っている」「書く」「読む」「話す」「聞く」の評定情報付与を依頼した．研究協力者の評定情報から単語親密度をベイジアン線形混合モデルにより推定した．また，推定された単語親密度と分類語彙表の語義情報との関連性について調査した．
}
\jkeywords{単語親密度， ベイジアン線形混合モデル， クラウドソーシング，位相情報 }

\etitle{Word Familiarity Rate and Register Type Estimation Using a Bayesian Linear Mixed Model}

\eauthor{Masayuki Asahara\affiref{Author_1}} 
\eabstract{%
This paper presents research on word familiarity rate estimation using the `Word List by Semantic Principles'. We collected rating information on 96,557 words in the `Word List by Semantic Principles' via Yahoo! crowdsourcing. We asked 3,392 subject participants to use their introspection to rate the familiarity and register information of words based on the five perspectives of `KNOW', `WRITE',  `READ', `SPEAK', and `LISTEN', and each word was rated by at least 16 subject participants. We used Bayesian linear mixed models to estimate the word familiarity rates.  We also explored the ratings with the semantic labels used in the `Word List by Semantic Principles'.
}
\ekeywords{Word Familiarity Rate, Bayesian Linear Mixed Model, Crowd-sourcing, \linebreak Register}

\headauthor{浅原}
\headtitle{BLMM による単語親密度推定と位相情報付与}

\affilabel{Author_1}{人間文化研究機構国立国語研究所}{NINJAL, Japan}




%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{はじめに}

辞書は言葉に関するさまざまな特徴を集積したものである．
発音・形態論情報・品詞・単語分類・統語情報・意味情報・位相・語源・語釈などにより整理される．
単語の使用実態に基づく言葉の特徴として{\bf 単語親密度}がある．
単語親密度は，人々がどのくらいその単語を知っているのか・使うのかといった，人の主観的な評価に基づく指標である．
NTT コミュニーケーション科学基礎研究所による『日本語の語彙特性』\cite{Amano-1999}は，単語親密度を含む情報を『新明解国語辞典第四版』の見出し項目約 80,000 語について付与した．
また同データは朝日新聞の1985年から1998年の14年分の記事データにおける頻度情報も含む．しかしながら，評定情報の収集や頻度情報が20年以上前のものである．

本研究では，最近の単語親密度を評定することを試みる．
日本語のシソーラスである『分類語彙表増補改訂版』\cite{WLSP-2004} の電子化データ『分類語彙表増補改訂版データベース』（以下「分類語彙表DB」と呼ぶ）の語彙項目 94,838 語を対象に，単語親密度付与を行った．
評定値の収集にあたっては，「知っている」の観点のほか，生産過程$\Leftrightarrow$受容過程や書記言語$\Leftrightarrow$音声言語の位相情報を含めるために，「書く」「読む」「話す」「聞く」の4つの位相情報についても質問事項に含めた．
安価に，そして，継続的に調査を行うためにクラウドソーシングにより評定値の収集を行った．
しかしながら，「日本語の語彙特性」の調査のように{研究協力者}に対する統制などに制約があり，
研究協力者の個体差の影響を受ける問題がある．
この問題を緩和するために，収集されたデータをベイジアン線形混合モデル (Bayesian Linear Mixed Model: BLMM) \cite{Sorensen-2016}によりモデル化を行う．
またシソーラスに単語親密度を付与することにより，統語分類・意味分類に基づく親密度・位相情報の評価もできるようになった．


本研究の貢献は以下の通りである：
\begin{itemize}
 \item 日本語の大規模シソーラスに対する単語親密度情報の網羅的収集を行った．
 \item 単語親密度の評定にクラウドソーシングを用いた．
 \item 単語親密度の観点において「知っている」だけでなく，「書く」「読む」「話す」「聞く」の4つの位相情報についても検討し，単語の位相情報も評価した．これにより，生産過程$\Leftrightarrow$受容過程や書記言語$\Leftrightarrow$音声言語の対照比較ができる．
 \item 単語親密度の統計処理にベイジアン線形混合モデルを導入し，研究協力者の個体差の影響の軽減を行った．
 \item 語彙項目は分類語彙表 DB の見出し語を用いた．
 分類語彙表の統語・意味分類に対して親密度が推定できるほか，
 UniDic と分類語彙表の対応表 \cite{Kondo-2018}と形態素解析器を用いて親密度を自動付与できる．
 さらに，『岩波国語辞典第五版』の語釈文と分類語彙表の対応表\cite{呉-2019}の整備も進んでおり，語釈文との対照できる．
\end{itemize}

本稿の構成は以下の通りである．
2節では関連研究について示す．
3節ではクラウドソーシングに基づく単語親密度推定手法について示す．
4節で結果を示し，5節にまとめと今後の展開について示す．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{関連研究}

『日本語の語彙特性』 \cite{Amano-1999}の単語親密度は，主観的な単語のなじみの程度とし，
18歳以上30歳未満の40人に対してアンケート調査により収集したものである．
刺激を，「音声のみ」「文字のみ」「音声と文字の両方」の3つの手法で呈示し，1--7 の7段階評定を
「できるだけまんべんなく」付与するように教示したうえで収集した．
対象は『新明解国語辞典』第四版の見出し語 69,084 語とし，表記ゆれに基づき 88,569パターンの刺激による．
評定データは 1995年9月から1996年7月にかけて，NTT研究所内で収集された．
機関内で収集したために，教示により統制してデータを収集しているが，
公開評定データは40人の評定値の平均値による．
研究協力者の個体差の影響を軽減するために，より洗練された統計処理が必要である．

また，『日本語の語彙特性』は，客観的な単語のなじみの程度として，テキストコーパスの出現頻度に基づく評定情報も含まれている．
14年分（1985--1998年）の朝日新聞の新聞記事を形態素解析器『すもも』で解析したうえで，頻度情報をデータベース化した．
\citeA{Tanaka-2011}は，単語親密度と大規模コーパス頻度情報との相関について調査した．
\citeA{水谷-2018}は単語基本語情報を推定するために，各種語彙表のほか，ウェブコーパスの頻度情報を用いた．

\citeA{岡久-2019}は，単語の定義（語釈）−被定義（見出し語）関係を用いて，単語の基本度の推定を行った．
語釈文の収集にクラウドソーシングを用いた．11,936 語（被定義語）を対象として1語あたり10人分の語釈文を収集し，基礎データとした．
定義−被定義関係は，シソーラスへの写像\cite{正津-2001}に用いられる．また，単語の基本度を数値化する基本的な考え方は\citeA{野呂-2007}による．

\citeA{水谷-2019}は，『JUMAN++』 の単語辞書に掲載されている単語 26,000語を対象に
クラウドソーシングを用いて，「習得時期」を
「小学生になる前」「小学校低学年」「小学校高学年」「中学生になった頃」「単語の意味を知らない／見聞きしたことがない」の5段階で収集した．
1単語あたり20人の評定値を収集し，平均値により単語難易度データベースを構築した．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{手法}

本節では，単語親密度・位相情報の収集方法について示す．
はじめに，収集対象の語彙項目の母集団である分類語彙表DB について示す．
次に，質問紙の構成について示す．
最後に，統計処理手法について示す．
なお，本手法は 2017年に，形容詞・副詞・連体詞のみを対象として，全体の10分の1の規模で実行可能性を調査した \cite{浅原-2017}うえで，再設計したものである．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{分類語彙表の分類番号の例}

『分類語彙表』は現代日本語を対象としたシソーラスで，岩波国語辞典の語彙項目から約30,000語が選ばれて採録された ．1964年に初版\cite{WLSP-1964}が公刊された．その後，2004年に増補改訂版が公刊され，
増補改訂版の CSV ファイル（分類語彙表DB）が研究用途に公開された\footnote{商用利用は 200,000円（税抜）．}．

分類語彙表DB は，区切り文字を入れて101,070の語彙項目からなり，4つの統語分類である類（体・用・相・他）と，階層的な意味分類が付与されている．各項目の分類は5ケタの数字による分類番号で示され，統語分類は1ケタ目，意味分類は小数点以下4ケタで表現する．意味分類の1ケタ目が部門，2ケタ目までは中項目，4ケタすべてが分類項目を表す．表 \ref{tbl:wlsp}に，分類番号「1.1642」が割り当てられた「昨年」の例を示す．ここで，1ケタ目「1」は，体の類を表す．
小数点以下4ケタの「.1642」は階層的な意味分類を表し，1ケタ目「.1」が部門「関係」を，2ケタ目まで「.16」が中項目「時間」を，4ケタ「.1642」が分類項目「過去」を表す．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 1
\begin{table}[b]
\caption{分類語彙表DB}
\label{tbl:wlsp}
\input{05table01.tex}
\vspace{-0.5\Cvs}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{質問紙の構成}

本節では，単語親密度を推定するにあたって利用した，質問紙の構成について示す．
質問紙は，Yahoo! クラウドソーシング上のフォームで構成する．
 クラウドソーシングを用いることにより，96,557 語\footnote{分類語彙表DB 101,070項目のうち区切り文字 240 項目以外の100,830項目に対して調査を行ったが，クラウドソーシングの作業過程において 4,253項目についてデータが得られなかった．得られなかった4,253項目については 2019年11月に調査を行った．}に対して，短期間に低コストで評定情報を収集が可能である．
まず，質問紙の構成として，書記刺激で呈示された語を知っているかどうか(KNOW)について確認する．音声刺激で呈示しない代わりに書記言語（書く(WRITE)・読む(READ)）・音声言語（話す(SPEAK)・聞く(LISTEN)）で利用されるかの観点を導入し，位相情報を推定する．さらに，生産過程（書く(WRITE)・話す(SPEAK)）・受容過程（読む(READ)・聞く(LISTEN)）の観点を導入した．以下に質問項目の5つの観点について示す：

\begin{description}
 \item[KNOW: 知っている] 
   単語の意味を知っていますか？ \\
   全く知らない(1)--(5)よく知っている
 \item[WRITE: 書く]
   どのくらい普段書いているものに出現しますか？ \\
   全く出現しない(1)--(5)よく出現する
 \item[READ: 読む]
   どのくらい普段読んでいるものに出現しますか？ \\
   全く出現しない(1)--(5)よく出現する
 \item[SPEAK: 話す]
      どのくらい普段話すときに出現しますか？ \\
   全く出現しない(1)--(5)よく出現する
 \item[LISTEN: 聞く]
      どのくらい普段聞くときに出現しますか？ \\
   全く出現しない(1)--(5)よく出現する
\end{description}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 1
\begin{figure}[b]
\begin{center}
\includegraphics{27-1ia5f1.eps}
\end{center}
\caption{クラウドソーシング上のフォームで構成した質問紙の例}
\label{fig:crowdsource}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

図\ref{fig:crowdsource}に調査に用いた質問紙を示す．評定情報は，(1)全く知らない／全く出現しない，
(2)あまり知らない／あまり出現しない，
(3)どちらともいえない，
(4)何となく知っている／たまに出現する，
(5)よく知っている／よく出現するの5段階で収集するが，リッカート尺度としては収集しなかった．
これは，2017年の事前調査で数値だけ見て，全く反対の評定値を付与した研究協力者が散見されたため，
それを回避するために行った．
また，調査環境の制約により，\citeA{Amano-1999}が実験室で行ったように音声刺激を呈示することは行わない．
なお，本質問紙調査では，多義語の異なる語義についての評定（単語心象性）は行わない．研究協力者には「参考情報」として，質問紙の末尾に分類語彙表の分類項目を示す程度にとどめた．

本調査は異なりで 3,392人の20歳以上のYahoo! クラウドソーシングのアカウントを持っている方を対象に，2018年11月に実施した．
1つの見出し語あたり少なくとも16回答を得た結果，
有効データポイント数は 1,617,184 であった．収集の要した費用は 1,455,494円であった．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 2
\begin{figure}[b]
\begin{center}
\includegraphics{27-1ia5f2.eps}
\end{center}
\caption{統計モデル} 
\label{fig:model}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{統計モデル}

収集した評定データは研究協力者ごと個体差がある．
この個体差は，研究協力者の語彙力や回答の傾向に依存するバイアスである．
この個体差をベイジアン線形混合モデルのランダム効果によりモデル化し，個体差の影響を軽減する．
また，単語親密度情報も単語の特性としてランダム効果によりモデル化する．
グラフィカルモデルを図 \ref{fig:model}に示す．
$N_{word}$ は語彙項目×5観点(KNOW, WRITE, READ, SPEAK, LISTEN)の定義域，$N_{subj}$は研究協力者の数で，
それぞれ単語・観点のインデックス $i: 1 \ldots N_{word}$，
研究協力者のインデックス $j: 1 \ldots N_{subj}$ とする．
$y^{(i)(j)}$は語彙項目×5観点(KNOW, WRITE, READ, SPEAK, LISTEN)の値域で，
$y$ は平均 $\mu^{(i)(j)}$ 標準偏差 $\sigma$によって定義される正規分布とする：
\[
 y^{(i)(j)} \sim Normal (\mu^{(i)(j)},\sigma).
\]
$\sigma$ は標準偏差としてのハイパーパラメータで，
$\mu^{(i)(j)}$ は，切片 $\alpha$と語彙項目×5観点のランダム効果
$\gamma_{word}^{(i)}$と研究協力者のランダム効果 $\gamma_{subj}^{(j)}$の線形式で定義する：
\[
\mu^{(i)(j) = \alpha + \gamma_{word}^{(i)} + \gamma_{subj}^{(j)} }.
\]
語彙項目×5観点のランダム効果 $\gamma_{word}^{(i)}$と 研究協力者のランダム効果$\gamma_{subj}^{(j)}$は，
それぞれハイパーパラメータ平均$\mu_{word}$,  $\mu_{subj}$，分散 $\sigma_{word}$, $\sigma_{subj}$ によって定義される正規分布によりモデル化する：
\begin{gather*}
\gamma_{word}^{(i)} \sim Normal(\mu_{word}, \sigma_{word}), \\
\gamma_{subj}^{(j)} \sim Normal(\mu_{subj}, \sigma_{subj}).
\end{gather*}
このうち単語親密度はランダム効果 $\gamma_{word}^{(i)}$の推定値である．
一方，研究協力者の個体差はランダム効果 $\gamma_{subj}^{(j)}$の推定値であるが，
結果的に研究協力者の語彙力の評価値となる．
ハイパーパラメータはデータから推定を試みた結果，収束しなかったために，
平均 $\mu_{word}$, $\mu_{subj}$ を 0.0，標準偏差 $\sigma_{word}$, $\sigma_{subj}$ を 1.0とした．

推定には R と Stan を用いた．
warm-up 100 iteration のあと，5,000 iteration $\times$ 4 chains 並列でシミュレーションし，すべてのモデルは収束した．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{推定した単語親密度・位相情報の分析}

本節では，推定された単語親密度の質的評価を行う．4.1節に，得られた5観点の評定値の分布と，研究協力者の個体差の分布について示す．
4.2節で各観点の上位10語・下位10語について確認する．
4.3節で分類語彙表の中項目（意味分類の第2レベル）による上位10カテゴリ・下位10カテゴリについて確認する．
4.4節にベイジアン線形混合モデルの効果について示し，4.5節に『日本語の語彙特性』との比較を示す．
4.6節に結果のまとめを示す．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{分布}

図 \ref{fig:word} に推定された単語親密度のヒストグラムを示す．x 軸が 単語親密度に相当する $\gamma_{word}^{(i)}$で，y軸がそのビン（ビンの幅0.1）に入る頻度である．
5観点ごとに集計されており，
KNOW が他の観点よりも高い単語親密度にある傾向がみられる．
受容過程である READ と LISTEN が高く，生産過程である WRITE と SPEAK は低い傾向がみられた．
言語の運用において，知識＞受容＞生産の順に語彙数が分布していることがわかる．
また，値が大体 $-2$ から 2 に分布しており，おおよそ5段階評価の値としてそのまま利用できる．

図 \ref{fig:subj} に推定された研究協力者の個体差のヒストグラムを示す．x軸が研究協力者の個体差 $\gamma_{subj}^{(j)}$で，y軸がビン（ビンの幅0.1）に入る頻度である．
標準正規分布でモデル化しているために，グラフもその形状になる．
今回は利用しないが，この値は研究協力者の語彙力としてそのまま利用することができる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 3
\begin{figure}[p]
\begin{center}
\includegraphics{27-1ia5f3.eps}
\end{center}
\caption{推定した単語親密度 ($\gamma_{word}^{(i)}$)：5観点の分布}
\label{fig:word}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 4
\begin{figure}[p]
\begin{center}
\includegraphics{27-1ia5f4.eps}
\end{center}
\caption{推定した研究協力者の個体差の分布 ($\gamma_{subj}^{(j)}$)}
\label{fig:subj}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

他の分布に基づく個体差のモデル化については今後の検討課題とする．例えば，研究協力者の分布について標準正規分布とせずにモデル化を試みたが収束しなかった．今後，年次でデータを収集し拡充することで，他の分布に基づくモデル化を進めるとともに，調査年の要因を入れることで経年変化の調査を進めたい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{見出し語に対する評価} 

本節では，推定された単語親密度の上位10件・下位10件について確認する．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{「知っている」}

まず，最初に「知っている」(KNOW)の上位10件・下位10件について確認する．
表 \ref{tbl:top:know:word} と 表 \ref{tbl:bottom:know:word} に上位10件・下位10件の事例を評定値と『国語研日本語ウェブコーパス』(NWJC)\cite{NWJC} の検索系『梵天』文字列検索\cite{bonten}のヒット件数とともに示す．検索時にはルビは削除した．
上位10件には日常生活でよく利用する用語が出現し，
下位10件には近年あまり使われない語が出現する．なお，活用語は基本形で調査したため，活用しない語よりも頻度が低い傾向にある．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 2 and 3
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.45\hsize}
\caption{「知っている」上位10件 (KNOW)}
\label{tbl:top:know:word}
\input{05table02.tex}
\end{minipage}
&
\begin{minipage}{0.45\hsize}
\caption{「知っている」下位10件 (KNOW)}
\label{tbl:bottom:know:word}
\input{05table03.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

梵天の文字列検索のヒット件数は活用語においては基本形のみの件数であり，低くなる傾向にある．さらにカタカナ語「スフ」は他の語の部分文字列になりやすいために件数が高くなる傾向がみられる．頻度情報との対照は，以上の注意が必要だが，基本的には高頻度語が上位に，低頻度語が下位に位置する．

また，WRITE, READ, SPEAK, LISTENの単体の4観点についても基本的には同様の語彙がみられた．詳細な議論については，次小節以降の書記言語・音声言語もしくは生産過程・受容過程の観点による分析で示す．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{書記言語・音声言語}

次に，書記言語 (WRITE/READ) と音声言語 (SPEAK/LISTEN) の傾向を確認した．
『日本語の語彙特性』の調査では，書記刺激と音声刺激の2つの刺激により統制するが，
本実験では直接言語運用実態を質問することによる．
ここでは$\text{書記}-\text{音声}\ (\text{WRITE} + \text{READ} - \text{SPEAK} - \text{LISTEN})$ の値を評価した．
この値が正である場合に書記言語選好であり，この値が負である場合に音声言語選好である．

表 \ref{tbl:char:word} に書記言語選好上位10件（$\text{書記}-\text{音声}$ が正の値）を示す．記号関連の「アンパサンド」 「句読点」や，手紙や文書で用いられる「上記」「追伸」「記」「前略」「下記」などがみられた．
表 \ref{tbl:voice:word} に音声言語選好上位10件（$\text{書記}-\text{音声}$が負の値）を示す．「先っちょ」「バイバイ」「まんま」「どっこいしょ」など，話しことばが多くみられた．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 4 and 5
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.45\hsize}
\caption{書記言語選好上位10件}
\label{tbl:char:word}
\input{05table04.tex}
\end{minipage}
&
\begin{minipage}{0.45\hsize}
\caption{音声言語選好上位10件}
\label{tbl:voice:word}
\input{05table05.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{生産過程・受容過程}
 
本節では生産過程 (WRITE, SPEAK)と受容過程 (READ, LISTEN)の差について評価する．
具体的には，$\text{生産}-\text{受容}$ $(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN})$の正負により検討する．
この観点は過去の研究では，管見の限り調査されていない．

表 \ref{tbl:pro:word} に生産過程選好上位10件を示す．
基本的には受容過程のほうが生産過程よりも親密度が高くなる傾向になるために，値は正であっても小さい．
得られた語彙は，特定分野の専門用語が多かった．例えば，「毛管」「絆創膏」のような看護医療用語であったり，「吟詠する」など詩吟の用語であったりした．
表 \ref{tbl:rec:word} に受容過程選好上位10件を示す．
「殺害」「書類送検」などの報道記事などで出現する語や，当時の大河ドラマの主人公「西郷隆盛」が上位にみられた．
生産過程選好か受容過程選好かは，特定の分野で用いられる用語か，マスメディアで用いられる用語かを反映させていることがわかる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 6 and 7
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.45\hsize}
\caption{生産過程選好上位10件}
\label{tbl:pro:word}
\input{05table06.tex}
\end{minipage}
&
\begin{minipage}{0.45\hsize}
\caption{受容過程選好上位10件}
\label{tbl:rec:word}
\input{05table07.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{『分類語彙表』の分類に基づく評価} 

本節では分類語彙表の分類に基づく評価を行う．
分類語彙表の中項目まで（小数点以下2ケタ）で推定した結果の平均を取り，値の上位カテゴリ・下位カテゴリについて分析を行う．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{「知っている」}

表 \ref{tbl:top:know:cat}, 表 \ref{tbl:bottom:know:cat} に「知っている」分類語彙表の中項目カテゴリ上位・下位10件を示す．相・用の類が上位傾向にあり，体の類が下位傾向にある．
「知っている」上位カテゴリは 3.53 (相-自然-生物)で「女性的」(KNOW=1.81)，「男性的」(KNOW=1.71)などの単語が含まれる．
「知っている」下位カテゴリは 3.52 (相-自然-天地)で「蕭条」(KNOW=-1.46) ，「巍巍」(KNOW=$-1.35$)などが含まれる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 8 and 9
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.4\hsize}
\caption{「知っている」上位カテゴリ}
\label{tbl:top:know:cat}
\input{05table08.tex}
\end{minipage}
&
\begin{minipage}{0.4\hsize}
\caption{「知っている」下位カテゴリ}
\label{tbl:bottom:know:cat}
\input{05table09.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{書記言語・音声言語}

表 \ref{tbl:char:cat}, 表 \ref{tbl:voice:cat} に書記言語選好カテゴリと音声言語選好カテゴリを示す．
体の類の活動・主体が書記言語選好である傾向がみられる．
一方，他の類の呼びかけ・感動や相の類が音声言語選好である傾向がみられる．
最も書記言語選好であるカテゴリは 1.31 (体-活動-言語)で，
「上記」$(\text{WRITE} + \text{READ} - \text{SPEAK} - \text{LISTEN} = 3.87)$，「追伸」$(\text{WRITE} + \text{READ} - \text{SPEAK} - \text{LISTEN} = 2.65)$ などの用語が見られた．
もっとも音声言語選好であるカテゴリは 4.32 (他-呼びかけ)で「もしもし」$(\text{WRITE} + \text{READ} - \text{SPEAK} - \text{LISTEN}=-1.75)$ が含まれる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 10 and 11
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.45\hsize}
\caption{書記言語選好カテゴリ}
\label{tbl:char:cat}
\input{05table10.tex}
\end{minipage}
&
\begin{minipage}{0.45\hsize}
\caption{音声言語選好カテゴリ}
\label{tbl:voice:cat}
\input{05table11.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 12 and 13
\begin{table}[b]
\begin{center}
\begin{tabular}{cc}
\begin{minipage}{0.45\hsize}
\caption{生産過程選好カテゴリ}
\label{tbl:pro:cat}
\input{05table12.tex}
\end{minipage}
&
\begin{minipage}{0.45\hsize}
\caption{受容過程選好カテゴリ}
\label{tbl:rec:cat}
\input{05table13.tex}
\end{minipage}
\end{tabular}
\end{center}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsubsection{生産過程・受容過程}

表\ref{tbl:pro:cat}, 表 \ref{tbl:rec:cat} に生産過程選好カテゴリと受容過程選好カテゴリを示す．

一般的に，受容過程の値(READ, LISTEN)のほうが，生産過程の値(WRITE, SPEAK)よりも大きい傾向にある．
このため，$\text{生産}-\text{受容}$ $(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN})$ の値は，カテゴリレベルでは生産過程選好のものでも負になる．
生産過程選好のカテゴリは 4.50 (他-動物の鳴き声) で 「げろげろ」 $(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN} = 0.45)$ や「かーかー」 $(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN} = 0.23)$ が含まれる．
受容過程選好のカテゴリは 1.27 (体-主体-機関)で「厚生労働省」$(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN} = -2.23)$ や「金融庁」 $(\text{WRITE} + \text{SPEAK} - \text{READ} - \text{LISTEN} = -2.18)$ が含まれる．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{ベイジアン線形混合モデルの効果}

本節ではベイジアン線形混合モデルを用いた効果について概説する．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 5
\begin{figure}[b]
\vspace{-0.5\Cvs}
\begin{center}
\includegraphics{27-1ia5f5.eps}
\end{center}
\caption{『日本語の語彙特性』の評定値の分布（書記音声刺激）}
\label{fig:psylex}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 6
\begin{figure}[b]
\begin{center}
\includegraphics{27-1ia5f6.eps}
\end{center}
\caption{統計処理前の評定値の分布（知っている）}
\label{fig:orig}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 7
\begin{figure}[b]
\begin{center}
\includegraphics{27-1ia5f7.eps}
\end{center}
\caption{統計処理後の評定値の分布（知っている）}
\label{fig:smooth}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

混合モデルを用いた効果として，得られた評価情報を稠密にすることがあげられる．
図 \ref{fig:psylex} に『日本語の語彙特性』の書記音声刺激の評定値の分布を，
図 \ref{fig:orig} に統計処理前の評定値の分布（知っている）を，
図 \ref{fig:smooth} に統計処理後の評定値の分布（知っている）を，ビンの幅を 0.01 にしたヒストグラムにより示す．
『日本語の語彙特性』においては各語40人の評定値のため 1/40 = 0.025 単位の離散的な値となる．
本データにおいても各語 16人の評定値のため，統計処理をしなかった場合には 1/16 = 0.0625 単位の離散的な値となる．同じ評定値を持つ語が多く，事例がないビンも出現し，分布が疎になる（図 \ref{fig:psylex}，図 \ref{fig:orig}）．例えば，評定値（知っている）が最高の 5.0 である項目は 410事例あり，これらの同じ評定値が割り当てられている事例間の差異が得られない．
一方，統計処理をした場合には，適切に平滑化が行われ，すべてのビンに項目が含まれ，分布が密になる（図 \ref{fig:smooth}）．

本研究ではランダム切片に基づく平滑化を行う．この平滑化においては，評定値の研究協力者ごとの平均値が用いられる．回答する評定値が高い研究協力者群に対しては，その研究協力者ごとの平均値に応じて評定値を減じ，回答する評定値が低い研究協力者群に対しては，その研究協力者ごとの平均値に応じて評定値を増じる．これにより，研究協力者の回答の個体差をモデル化したうえで，1研究協力者内の語彙項目ごとの回答の差異に基づいて，語彙項目の評定値をモデル化することができる．他の平滑化手法として，ランダム傾きに基づく平滑化がある．この平滑化においては，研究協力者ごとの分散に応じて，評定値を増減する．

ベイジアン線形混合モデルは，この平滑化を含む線形モデルを，事後分布を生成するランダムサンプリングによりベイズ推定するものである．本研究ではランダム切片モデルのみならず，ランダム傾きモデルについても検討したが，収束しなかった．今後，データを増やして，よりあてはまりのよいモデルを検討したい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{『日本語の語彙特性』単語親密度との比較}

本節では，『日本語の語彙特性』\cite{Amano-1999}の単語親密度との比較を行う．『日本語の語彙特性』と本データとで，表記と読みが同じ語彙項目が 41,634対あった．『日本語の語彙特性』データにおいては，書記音声刺激・音声刺激・書記刺激の3つを比較対象とする．本データにおいては推定した11個の項目すべてを比較対象とする．本データは，表記と読みが同じであるが語義が異なる語彙項目がある．この場合，「知っている」の評定値が最も高いものを対照する．対照はスピアマンの順位相関係数に基づく．タイの場合は同順位の平均値を用いる補正を行う．表\ref{tbl:orthphon}に書記音声刺激に対する相関係数，表\ref{tbl:phon}に音声刺激に対する相関係数，表\ref{tbl:orth}に書記刺激に対する相関係数を示す．全ての検定において $p<0.01$ であった．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 14
\begin{table}[b]
\caption{『日本語の語彙特性』書記音声刺激と本データとの比較（順位相関係数）}
\label{tbl:orthphon}
\input{05table14.tex}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 15
\begin{table}[t]
\caption{『日本語の語彙特性』音声刺激と本データとの比較（順位相関係数）}
\label{tbl:phon}
\input{05table15.tex}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% table 16
\begin{table}[t]
\caption{『日本語の語彙特性』書記刺激と本データとの比較（順位相関係数）}
\label{tbl:orth}
\input{05table16.tex}
\end{table}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

本データの「書記-音声」「生産-受容」以外の指標は，『日本語の語彙特性』のいずれとも正の相関があることがわかる．そのなかでも書記音声刺激・書記刺激と強い正の相関があることがわかる．
「書記-音声」「生産-受容」については中程度の負の相関がある．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{結果のまとめ}

まず，調査結果の分布をみると「知っている」＞「読む」「聞く」＞「書く」「話す」と，言語運用の負荷レベルで評定値に差異が出ることが明らかになった．

「知っている」「書く」「読む」「話す」「聞く」の5観点の親密度上位語・下位語を確認すると，ほぼ同じ語が分布することが確認できた．このため，書記言語$\Leftrightarrow$音声言語，生産過程$\Leftrightarrow$受容過程の2軸で分析することを試みた．具体的には対となる値を引き算することで，評定値の偏りがある語の上位10件について検討した．書記言語選好・音声言語選好の対照分析においては，書きことば・話しことばの語彙を適切にモデル化できていることを確認した．また，生産過程選好・受容過程選好の対照分析においては，特定分野の用語・マスメディアの用語といった比較ができることがわかった．
さらに分類語彙表の中項目までのカテゴリ情報で同様の分析を試みた．
用・相の類のほうが体の類よりも親密度が高い語が多いことがわかった．
また体の類の活動・主体が書記言語選好で，他の類の呼びかけ・感動が音声言語選好であった．
生産過程選好のカテゴリとして他の類が多くみられる一方，
受容過程選好のカテゴリは体の類の主体・活動，用の類の活動など，マスメディアで用いられやすい語が多かった．

ランダム切片を用いたベイジアン線形混合モデルにより，同順位の語彙項目を多く含む疎な評定値を，研究協力者の個体差を考慮した密な評定値に変換できることを図 \ref{fig:orig}，図 \ref{fig:smooth}の対比により示した．また，先行研究の『日本語の語彙特性』との相関について検討した（表\ref{tbl:orthphon}，表 \ref{tbl:phon}，表 \ref{tbl:orth}）．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}

本稿では，分類語彙表DB の見出し語に対する単語親密度付与について解説した．
短期間で安価に作業を進めるためにクラウドソーシングを用いて，1見出し語あたり16人の評定値を付与した．得られたデータをベイジアン線形混合モデルのランダム効果を用いて，親密度と研究協力者の個体差を同時にモデル化を行い，研究協力者の評定値のバイアスを吸収した．
評定する観点として「知っている」だけでなく，「書く」「読む」「話す」「聞く」を含めた5観点を導入した．これにより，書記言語$\Leftrightarrow$音声言語・生産過程$\Leftrightarrow$需要過程の2軸の位相情報を導入する．軸の反対方向の観点との差分を取ることにより，言語使用に偏りがある語を抽出することができた．
UniDic-分類語彙表対応表\cite{Kondo-2018}が整備されており，言語資源を組み合わせることで形態素解析結果に単語親密度を割り当てることも可能である．

構築したデータは \texttt{https://github.com/masayu-a/WLSP-familiarity/} で配布するほか，辞書検索ツール CradleExpress \texttt{https://cradle.ninjal.ac.jp/} で閲覧可能である．


以下，今後の課題について示す．
本研究では，研究協力者の評定値の個体差を標準正規分布によりモデル化した．他のモデルについても検討したが，現状のデータポイント量では収束が困難であった．
今後，年次でデータを拡充することで適切なモデル化をすすめたい．
その際には調査年の要因を含めるとともに，語彙を UniDic の語彙素から表記ゆれを展開するなど表記間の差異についても検討したい．

また，本データの単語親密度，『現代日本語書き言葉均衡コーパス』に対する分類語彙表番号付与データ\cite{kato-2018-wlsp}，岩波国語辞典の語釈文\cite{呉-2019}の定義-被定義関係などを用いて，単語心象性の調査を行う．単語心象性は，多義語の語義ごとの親密度を推定するものである．刺激呈示時に語義の情報を結びつける必要がある．本研究では質問紙の末尾に参考情報として分類語彙表の分類項目の情報を示しているが，ほとんどの研究協力者が語義を意識していないと考える．用例や語釈文などの情報を用いて，明示的に語義を示すことで，語義ごとの親密度である単語心象性の調査を進めたい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\acknowledgment

本研究は，国立国語研究所コーパス開発センター共同研究プロジェクト「コーパスアノテーションの拡張・統合・自動化に関する基礎研究」によるものです．
本研究の一部はJSPS科研費 基盤研究(A) 17H00917，基盤研究(C) 19K00591，基盤研究(C) 19K00655，挑戦的研究(萌芽) 18K18519，新学術領域研究 18H05521  の助成を受けたものです．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.5}
\bibliography{05refs}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}

\bioauthor{浅原　正幸}{%
2003 年奈良先端科学技術大学院大学情報科学研究博士後期課程修了．
2004 年より同大学助教．
2012 年より人間文化研究機構国立国語研究所コーパス開発センター特任准教授．
2019 年より同教授．博士（工学）．言語処理学会，日本言語学会，日本語学会各会員．
}

\end{biography}


\biodate



\end{document}

