\documentclass[japanese,other]{jnlp_3.8}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{array}
\allowdisplaybreaks


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
%%%%\usepackage{graphicx,xcolor}  % グラフィックス関連
%%%%\usepackage{pxrubrica}        % ルビ
%%%%\usepackage{fontawesome}
%%%%\usepackage{url}
%%%%\usepackage{comment}
%%%%\usepackage{multirow}
%%%%\usepackage{tikz}
%%%%\usepackage[xcolor,framemethod=tikz]{mdframed}
%%%%\usepackage{color}
\usepackage{bm}
%%%%\usepackage{booktabs}
%%%%\usepackage{amssymb}
%%%%\usepackage{subcaption}
%%%%\usepackage{siunitx}
%%%%\usepackage{colortbl}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


\Volume{31}
\Number{4}
\Month{December}
\Year{2024}
%%%%\Issuetitle{「　　　　」特集号}


\setcounter{page}{1780}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{学会記事}
\jtitle{サイエンスと事業貢献の両立を目指して}
\jauthor{三田　雅人\affiref{cyberagent}}
\etitle{Aiming to Balance Science and Business Contributions}
\eauthor{Masato Mita\affiref{cyberagent}} 

\headauthor{三田}
\headtitle{サイエンスと事業貢献の両立に向けて}

\affilabel{cyberagent}{株式会社サイバーエージェント}{CyberAgent Inc.}




%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{はじめに}
\label{sec:intro}

本稿では，ACL 2024 に採択された論文``Striking Gold in Advertising: Standardization and Exploration of Ad Text Generation'' \cite{mita-etal-2024-striking}について解説する．
本研究は，これまで大学や国立研究機関などいわゆるアカデミアで研究をしてきた著者が企業研究者に転身してから一本目の仕事でもある．
企業研究者の立場として研究を行う上では，（企業によって程度の差はあれ）自身の研究がどのように会社の事業に貢献しうるのか，といった問いに向き合う必要がある．
本研究は新米企業研究者である著者が途中試行錯誤しながらもまさにこの問いに向き合い進めたものである．
以降では，研究概要の解説に加え，サイエンスと事業貢献の両立を目指す中で，具体的にどういう難しさに直面し，それに対してどう考えて対応してきたかについて，奮闘記（？）的に研究の着想や採択に至るまでの経緯を交えつつ紹介する．
ぜひコーヒーなど片手に気軽に読んでいただけると幸いである．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{研究の概要}
\label{sec:overview}

本研究を一言で説明するならば，\textbf{広告文生成を学術研究としてより発展させるために研究基盤を整備した研究}といえる．
インターネット広告市場の急激な規模拡大による人手広告作成の限界を背景に，広告文の自動生成に関する研究は取り組まれてきた \cite{murakami2023natural}．
研究対象とする広告（文）の種類は幅広く，ユーザの検索クエリに関連した広告文を検索結果に表示する「検索連動型広告」や，Webサイトやアプリの広告枠にテキスト形式やバナー形式で表示される「ディスプレイ広告」など多種多様である．
しかし，分野全体で享受できるベンチマークデータの欠如により，各研究グループによる非公開（自社）データを用いた個々の検証に留まっていたため技術の正しい積み上げが困難な状況であった．

そこで本研究では，広告文生成を応用横断的なタスクとして既定し（図~\ref{fig:standardization_atg}），初のベンチマークデータセット「CAMERA\footnote{\url{https://github.com/CyberAgentAILab/camera}}」を構築することで分野全体が抱えるこれらの課題の解決を図った．
広告文生成の現在の到達点と残された課題を明らかにするために，古典的なモデルから，マルチモーダルモデルや大規模言語モデルを含む，9つの多様な広告文生成モデルを用いた包括的なベンチマーク実験を行った結果，finetunedモデルは自動評価スコアの最大化や忠実性・流暢性の観点では重要な役割を担うが，一方で広告誘引性（人間にとって魅力的な広告をいかに生成するか）の観点ではGPT-4を始めとした強力な大規模言語モデルを用いた広告文生成モデルのポテンシャルの高さを観察した（図~\ref{fig:main_faithful_fluency_preference}）．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 1
\begin{figure}[t]
\begin{center}
\includegraphics{31-4ia37f1.pdf}
\end{center}
\caption{広告文生成タスクの標準化}
\label{fig:standardization_atg}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 2
\begin{figure}[t]
\begin{center}
\includegraphics{31-4ia37f2.eps}
\end{center}
%%%%\label{fig:faithful}
%%%%\label{fig:fluency}
%%%%\label{fig:preference}
\caption{広告文生成モデルのベンチマークキング（人手評価）．}
\label{fig:main_faithful_fluency_preference}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{着想から採択に至るまで}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{着想}

株式会社サイバーエージェントのAI Labは，プロダクト独立の研究開発組織であるが，なかでも私の所属する自然言語処理 (NLP) チームでは，「広告テキストの自動生成」や「広告表現の理解」の基礎研究に取り組むとともに，人工知能 (AI) で効果の出せる広告テキストを予測・自動生成する自社プロダクト\footnote{\url{https://www.cyberagent.co.jp/news/detail/id=24670}}への技術・知見導入を通じた社会実装に取り組んでいる．
せっかくアカデミアから企業に移ったからには，学術貢献だけでなく事業貢献に繋がるような研究テーマに挑戦してみたいと考えていた私は迷うことなく広告文生成に関する研究に取り組むことにした．
しかし，研究に本格的に着手するにつれて，広告文生成研究分野の混沌とした様を見せつけられたというのは\ref{sec:overview}節でも述べた通りである．
すなわち，英語や日本語など言語問わず分野全体が享受できる共通データセット（ベンチマーク）の欠如により，既存研究はこれまで独自データを用いた個々の検証に留まっており，手法間の包括的な比較ができておらず，さらには問題設定が共有されていない状況であった．
そのため，現職一本目の仕事として，まずはタスクの規定やベンチマーク構築を通して広告文生成分野全体の研究基盤を整備するところから始めることにした．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{直面した課題}

そもそもなぜ広告文生成分野はこのような状況になってるのだろうか．
サーベイを進めていくと，分野として広告データの共有に消極的な理由として広告特有の事情があることがわかってきた．
一つは，広告データは基本的に広告ビジネスを営む一部の企業のみが保持しており，通常それらのデータには企業にとっては取り扱いがデリケートなクリック率 (CTR) などの実績値（パフォーマンス値）が含まれていること．
またタスクが十分に規定されていない要因として，各研究チームがそれぞれの関心のある広告媒体（例：検索連動型広告，ディスプレイ広告，EC広告など）や広告配信プラットフォーム（例：GoogleやBingなど）に準拠した問題設定で取り組んでいるからということがわかった．
このような経緯から，広告文生成は（後述するように）言語生成タスクとして非常に挑戦的な課題で，かつNLPの有望な応用先にも関わらず，ACLコミュニティではほとんど議論されておらず，せいぜい再現性の担保が明に要求されない，demo trackやindustry trackにて数件報告される程度であった．
以上をまとめると，広告文生成研究を分野全体として発展させるうえでの課題は大きく次の 2 つであると判断した： (1) オープンデータ（ベンチマーク）をいかに構築するか，(2) ACLコミュニティに広告文生成タスクの学術的意義をいかに訴求するか．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{ビジョンを共有する}

オープンデータ構築については，社内データの公開が可能かどうかを，さっそく社内関連部署や偉い人に相談することにした．
この際に気をつけたこととしては，データ公開することの学術的な嬉しさだけでなく，会社としての嬉しさも同時に伝えることである．
具体的には，ベンチマーク構築することは学術分野としての発展に貢献すること，そしてそれは長い目で見ると弊社としても研究分野で培った技術や知見の享受が増えることを意味するため，事業課題の解決に向けて技術的な下支えが強固になることを説明した．
また，企業研究者といえど研究者のキャリアにとって論文を執筆し，業績を積むことは極めて重要な要素であるため，ベンチマーク構築は社内の研究者が広告文生成に関する論文を書きやすくすることに繋がり，結果として事業貢献に寄与するような研究が全体として増えることが期待できるというロジックで説明した．
幸いにも，会社側からはデータ公開の意義についてすぐ理解を示してもらい，どういう条件であれば公開できるか，といったようにデータ公開を前提とした建設的な議論やすり合わせをスムーズに行うことができた．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{問題を語る}

残すのは，「ACLコミュニティに広告文生成タスクの学術的意義をいかに訴求するか」という課題である．
この課題を解決するにあたり，まずそもそも広告文生成とは何で，何ではないか，というところから考え始めた．
広告について辞書などを引いてみると，広告の目的は，ある商材（取引の対象となる物品やサービス）があったとき，広告の受け手である消費者（ユーザ）の態度や行動に影響を与えることであるようだ．
したがって，広告文生成の目的は，ユーザの購買行動を促す文を生成することになる．
このように考えると，広告の媒体や形式は様々あれど，広告文生成の肝は，\textbf{ユーザの潜在的なニーズや関心を捉えたうえでユーザの行動や態度に影響を与えるような魅力的なテキストをいかに生成するか}，に違いない．
さらに，研究とは事業部に渡すための前段階であることを踏まえると，学術研究レイヤで議論する問題設定として，ある特定の問題だけにフィットさせるのではなく，問題を一般化し，アプリ側で新しいことに柔軟に対応できる枠組みになっていることが重要である．
このような経緯から，広告文生成タスクを図~\ref{fig:standardization_atg}にあるように，応用横断的なタスクとして規定することにした．
この標準化の利点は，\textbf{産業応用文脈において広範囲な応用先を想定して柔軟性を維持しつつ，学術研究文脈においては広告文生成のコアとなる課題に焦点を当てた探求が可能}となることである．
ユーザ信号$\bm{a}$に柔軟性を持たせることで，例えば，検索連動型広告の場合はユーザ信号$\bm{a}$には，検索クエリやキーワードを，ディスプレイ広告 やEC上の商品広告であれば，ユーザの購買履歴などを当てはめて問題を考えることができる．

広告文生成特有の技術的な課題の一つは，このようなユーザ信号をもとにいかにユーザの潜在的なニーズを捉え，広告効果に繋がるような訴求性のある文を生成できるかであるが，広告効果は受け手であるユーザの心理的特性に大きく依存する．
そのため，より高度な広告文生成の実現には，（究極的には）認知心理学や社会心理学を基礎とした広告心理学 \cite{Scott:03}との接続も必要になるはずである．
このように，広告文生成は\textbf{ユーザに寄り添ったNLP (User-centered NLP) }技術を開発するためのよい研究題材の一つとみなすことができ，このようなフレーミングをもってACLコミュニティに広告文生成自体を訴求することにした．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\subsection{論文投稿から採択までの道のり}

全体のタイムラインとしては，ARR\footnote{\url{https://aclrollingreview.org/}}という二段階査読システムにおいて，2023年8月サイクル (Soundness\&Excitement:2/2/3, Meta-review:2)  $\rightarrow$ 2023年12月サイクル (Overall:2.5/3.5/3, Meta-review:4)  $\rightarrow$ 2024年2月サイクル (Overall:3/3.5/4.5, Meta-review:4) と3回ローリング（？）しながら着実に懸念点を解消して研究の確度を高めていき，2024年2月サイクルのスコアをもって満を持してACL2024にコミット（投稿）したところ無事本会議に採択された．
「User-centered NLP技術を開発するための良い研究題材としての広告文生成」という訴求戦略が功を奏したのかはわからないが，広告文生成というタスクの学術的意義については（少なくともこの研究においては）特に懸念は上がらず一定認めてくれていたように感じた．
一方で，「広告にも関わらずCTRなどの実績値に基づくオンライン評価をしていない」という広告ならではの懸念を指摘され，この対応にはなかなか苦慮した．
実験に使用した広告文生成システム出力を本番環境で広告配信させるのは現実的に難しかったため，最終的には，実験で示した内的評価結果（自動評価および人手評価）とCTRの近似であるpCTR (predicted CTR) の関係を分析し，ある一定の条件下で両者のアラインがとれることを報告することで部分的にこの懸念を解消できた．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}

本稿では，企業研究者に共通する悩みの一つである「サイエンスと事業貢献の両立」に対して，新米企業研究者である著者なりの試行錯誤の様子を研究の着想から論文採択に至るまでの道筋と合わせて紹介した．
さて，結局両立はできたのだろうか．
「半分YESで半分NO」というのが正直なところである．
広告文生成の研究基盤の整備に一定貢献できたと自負しており，実際に本研究で構築したデータセットをベースとした後続研究が出始め \cite{inoue-etal-2024-camera3,kato2024faithcameraconstructionfaithfuldataset}，また社内事業側での活用もすでにされている．
一方で，単に研究基盤を整備したに過ぎず間接的な貢献であるのは事実なので，その真価が問われるのはもう少し先のようにも感じる．
企業での研究はアカデミアの研究とは性質の異なる難しさが確かにある．
現場の課題がアプリ側で解決できる（すべき）ものか，研究レイヤで解決すべきものかという見極めも必要になるだろうし，本稿で紹介したように，解きたい課題が学術分野においてはあまり議論されていない場合は，事業課題への適用可能性を考えつつ学術的にも訴求できる形で研究課題に落とし込むことも重要だ．
一方で，これらは見方を変えると，企業研究者としての腕の見せどころでもある．
大規模言語モデルの目覚ましい進歩によって，いよいよNLP技術が実世界で「使える技術」になりつつある今，事業貢献を指向した研究がますます増えることを願う．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.7}
\bibliography{37refs}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}

\bioauthor{三田　雅人}{%
株式会社サイバーエージェント リサーチサイエンティスト．2016年に奈良先端科学技術大学院大学を修了後，日本マイクロソフトを経て，2018年に理化学研究所革新知能統合研究 (AIP) センターに入所．2021年に東北大学大学院情報科学研究科博士後期課程修了．2022年より現職．東京都立大学特任助教，理化学研究所AIPセンター客員研究員を兼任．博士（情報科学）．言語処理学会，ACL各会員．
}
\end{biography}




\end{document}



