研究環境現状確認2026

開発環境現状確認の記事 [1, 2, 3] を読んで面白いなと思ったので、自身の研究環境の現状確認をしてみます。

前提

  • 機械学習・人工知能分野の研究をしています。
  • 手元のPCは macOS で、実験用のサーバは Ubuntu です。
  • 契約しているAIは ChatGPT Business です。
    • 入力したデータがモデルの学習に使われないプランです。

サーベイ

  • 研究テーマを決めるための幅広いサーベイと、研究テーマを決めた後に詳しく調べるためのサーベイをしています。
    • まずは NeurIPS、ICML、ICLR の採択論文から、興味のあるキーワード (例えば「diffusion model」等) で検索して読む論文を決めています。
    • その中で面白いと思った論文があったら、「その論文が引用している論文」や、「その論文を引用している論文」を調べる形で関連論文を読んでいきます。
  • 論文を読む時は一旦 ChatGPT に丸投げして要約してもらいます。要約を読んで面白いなと思ったら、気になることを質問しながらちゃんと読んでいきます。
    • 論文は背景知識や式の導出が記載されていないことが多いので、AIに解説してもらったほうが手早く読めると感じています。
  • 論文の管理は Apple Books を利用しています。
    • 以前は Mendeley を利用していのですが、PDFを同期出来ればいいので Apple Books に移行しました。

テーマ設定

  • サーベイを通して面白そうなテーマが浮かんだら、ChatGPT に相談しながら具体的に検討していきます。
    • 私の場合はアルゴリズムの改善を行うことが多いのですが、その改善が ChatGPT によって簡単に導出できないものである方が好ましいと思っています。
    • その方が査読者にとっても目新しく、高いスコアが期待できるからです。
    • 逆に改善されたアルゴリズムの理論的な保証 (汎化誤差解析など) は ChatGPT を使い倒します。自分ひとりでは出来ないので...
  • この過程で考えた数式は LaTeX のGUIエディタである LyX にメモしています。
    • 論文を書く時は、数式はこのメモからコピペします。

論文執筆

  • エディタは vscode を用いています。拡張機能は誤字防止用に Code Spell Checker をインストールしています。
  • バージョン管理は git で行っており、GitHub Enterprise 上にリポジトリを作成しています。
  • このリポジトリは Overleaf と連携させており、共著者の方からコメントを頂く時は Overleaf に書いてもらっています。
  • 日本語で書いて ChatGPT を使って英訳しています。
    • 以前は有料版の DeepL を使っていましたが、最近は ChatGPT をメインで使っています。
  • また、定期的に Codex CLI で論文全体を読み込んで、改善点を指摘してもらっています。

スライド作成

  • PowerPoint です。数式を貼る時は LaTeXiT で LaTeX で書いた数式をPDF化してから画像として貼っています。
    • さすがにもっと良い方法がありそう。

査読

  • 2026年1月時点では、ほとんどの会議で論文の査読にAIを使うことが禁じられているので、頑張って読んでレビューを書いています。
    • 年30本くらいは査読をしているので正直しんどいです。
  • ICML2026ではレビューにAIを使うことを許可できる ようになるようなので、状況は変わっていきそうです。
    • 機械学習分野は投稿数が指数的に増加しており、査読者の確保に苦労しているので、部分的にAIの利用が緩和されると予想しています。
    • 個人的には投稿論文を読み込むのにはAIを使っても良いのかなと思います。レビュー自体をAIに書かせるのには反対です。

コーディング

  • Python の環境構築には uv を利用しています。
    • 必要なパッケージと iPython を uv 経由でインストールしています。
  • macOS では homebrew 経由で ruff、isort、mypy をインストールしています。
    • isort は ruff があるのでいらない気もします。
    • mypy はちょっと遅いので ty などに移行するかもしれません。
  • システムの Python を汚染したくないので、pyenv 経由で miniforge をインストールしています。
    • macOS では基本的には使っていないです。実験サーバ上ではパッケージマネージャとして利用しています (後述)。
  • IDEには PyCharm を利用しています。簡単なコードは vscode で書くこともあります。
  • ターミナルエミュレータは iTerm2 を利用しています。
  • 論文と同様に、GitHub Enterprise 上にリポジトリを作成してバージョン管理を行っています。
  • 基本的には ChatGPT に聞きながらコーディングしています。まだコーディングエージェントを使いこなせていません。
    • 特に便利だなと思ったのは、リバッタル時にレビュアーに「この手法と比較しろ！」と言われたときに、ChatGPT に実装してもらえることです。かなり楽になりました。
  • Git のクライアントは GitHub Desktop や gh を使っています。vscode の git extension を使うこともあります。コミット時のコメントの自動生成が便利です。

実験環境

  • 社内のGPUクラスタか産総研の ABCI を利用しています。
  • 基本的にroot権限がないので、root権限のいらないパッケージマネージャとして conda を使っています。
    • macOS と同様に、pyenv 経由で miniforge をインストールしています。
    • インストールしているのは git、gh、jq、uv、qsv あたりです。
  • Python の環境構築には macOS と同様に uv を利用しています。
    • 以前はコンテナを利用していましたが、uv のほうが手軽にデバッグ出来るので移行しました。

日記

  • 研究日誌というほど大げさなものではないですが、入社してから日記を欠かさず書いています。
    • 元々は出張の多いメンターの方に進捗を共有するために始めたのですが、習慣となってしまい惰性で続けています。
    • 以前は社内で日記を公開する文化があってみんなで読みあっていたのですが、すっかり廃れてしまいました。
  • 仕事のことは全て書くようにしています。プライベートのことも多少書いています。
  • 最近はコーディングエージェントがあるので、Codex CLI などにフォルダ全体を読み込ませて、要約させたりしています。
    • とにかく文章として残しておくと役に立つものだなと思いました。

まとめ

  • 今年はコーディングエージェントを使いこなせるようになりたいです。

2025年振り返り

研究

主著

  • "Positive-Unlabeled Diffusion Models for Preventing Sensitive Data Generation" という論文がICLR2025に採択されました。

openreview.net

  • 画像⽣成などで広く活⽤されている拡散モデルは、ユーザが望まない不適切なデータ (たとえば特定の人物のヌード画像等) を⽣成する問題があります。しかし、全ての学習データから不適切なデータを取り除くのは難しいという問題があります。本研究では、従来のラベルなし学習データに加えて、少量の不適切データを⽤いることで、拡散モデルが不適切データを⽣成しないよう学習する⼿法を提案しています。
    • Positive-Unlabeled Learning (PU学習) という、ラベルなしデータと少量の正例を用いて、正例と負例の分類器を学習する手法があるのですが、それを拡散モデルに応用した形になります。
  • ポスターはこんな感じでした:

  • 今の部署に着任したのが2023年の4月だったのですが、当時「2年以内にトップカンファレンスに通す」という目標を立てていたので、達成できて良かったです (2025年1月に採択通知が来ました)。
  • それはそれとして、ICLR2025に投稿する2ヶ月前くらいに左腕を骨折してしまい、リハビリしながら論文書くのが大変でした。自転車で転ぶと大変なので皆様もお気をつけください。

共著

  • 下記の3件が採択されました。共著者の皆様、ありがとうございます。

proceedings.mlr.press

proceedings.mlr.press

aclanthology.org

  • 下記の preprint が公開されました。共著者の皆様、ありがとうございます。

arxiv.org

学会

  • ICLR2025とJSAI2025、IBIS2025に参加しました。
    • ICLR2025は採択論文の発表、JSAI2025は座長、IBIS2025は聴講参加でした。
  • ICLR2025はシンガポールでの開催でした。
    • ディスカッションしてくださった皆様、ありがとうございました。観光も出来てとても楽しかったです。

会場であるシンガポールエキスポ

ポスターセッションの様子

オープニングセッションの様子

オープニングセレモニーの様子

自身のポスター発表

屋台村

マリーナベイ・サンズからの夜景

  • JSAI2025は大阪でした。京都勤務なので新鮮味はなかったですが、色々な方と交流出来て楽しかったです。

  • IBIS2025は沖縄でした。沖縄は何度行っても良いですね...特にご飯が美味しかったです。

大阪大学非常勤講師

  • 今年も大阪大学で3時間程講義させて頂けることになり、「生成モデルの基礎と応用」というタイトルでお話しました。

  • 今年は拡散モデルと言語モデルに絞ってお話しました。また、Alignmentや、今年採択された自分の研究もお話させて頂きました。

テーマ

  • とりあえず一本通ったので、落ち着いて研究出来ています。
  • 徐々に生成AI系にシフトしているのですが、実験が非常に大変ですね...
    • 昨年度は「半年に1本論文を書きたい」と言っていましたが、実験にかなり時間を取られてしまっていて難しいです。
    • 慣れては来たので来年はペースを上げていきたいです。

プライベート

  • コンテッサセコンダという椅子を買いました。20万円以上しましたが満足しています。腰が楽です。
  • 「THE IDOLM@STER 765PRO ALLSTARS LIVE 〜NEVER END IDOL!!!!!!!!!!!!!〜」が非常に良かったです。見届けました。
  • 「ぱにぽにだっしゅ！」のサブスクが解禁されたタイミングで当時のアニソンを聞きまくった結果、最終的にハピマテをヘビロテしていました。光る風を追い越してえ...

ハッピー☆マテリアル

ハッピー☆マテリアル

  • provided courtesy of iTunes
music.apple.com

まとめ

  • 来年以降も継続的にトップカンファレンスに採択されたいですね。とりあえず数撃ちゃ当たるの精神で頑張ります。

2024年振り返り

研究

  • "Deep Positive-Unlabeled Anomaly Detection for Contaminated Unlabeled Data" という論文をarXivで公開しました。

arxiv.org

  • ラベルなしデータに加えて少量の異常が利用可能な時に、異常検知性能を効果的に向上させる手法を提案しています。
  • サンプルコードも公開していますので、よろしければぜひ。

github.com

  • 共著論文が1件採択されました。共著者の皆様、ありがとうございます。

openreview.net

  • 主著論文は落ちまくっていますが、投稿自体は良い頻度で出来ています。来年こそは通せるように頑張ります。

学会

  • JSAI2024とIBIS2024に参加しました。
    • 前者は座長として、後者はポスター発表 (内容は上述したarxiv投稿論文) としての参加です。

  • JSAIは浜松だったのですが、非常に楽しかったらしく、行ったお店や観光名所をすべてメモしていました。お土産で買ったうなぎパイもとても美味しかったです。また行きたいですね。

オープンハウス

  • 所属部署の研究展示会であるオープンハウスで、過去の研究について発表しました。

  • 内容はVAEのマルチタスク学習で、IBIS2023やKDD2022で発表しています。
  • 議論していただいた方、誠にありがとうございます。

大阪大学非常勤講師

  • 大阪大学で3時間程講義させて頂けることになり、「生成モデルの基礎と応用」というタイトルでお話しました。

  • 「最尤推定からスタートして、生成モデル (VAE/GAN/Flow/拡散モデル) や言語モデルを理解する」ことを目指していましたが、流石に内容が多すぎた気がしました。
    • もし次回があるなら、もう少し簡潔にまとめて、言語モデルの Alignment などを盛り込みたいですね。

査読

  • 今年は7会議で30本ほど査読したらしいです。
    • 今の機械学習系の学会は、論文を投稿したら査読を引き受けることになるので、投稿する機会が増えると査読機会も増えます。
  • また、最近はOpenReviewを用いたDiscussion形式の査読が多く、かなり稼働がかかるようになりました。
    • Rebuttal期間中は自分の論文のレビュー対応をしつつ、査読してる論文のAuthor Responseに反応する必要がある、といった感じです。
  • 今までは査読依頼はすべて受けてたのですが、今後は方針を考えたほうが良さそうな気がしています。
    • 自分が出した会議だけ査読するとか、1会議3本までなら引き受けるとか、何かしらの基準を決めたいですね。

サーベイ

  • 昨年度はReadableで和訳して読んでNotionにまとめていましたが、今はChatGPTに丸投げになりました。
  • 和訳も要約もしてくれますし、分からないところは質問もできるので便利で良いですね。

テーマ

  • 昨年度は「3ヶ月に1本論文を出したい」と考えていましたが、今年一年試して無理だなと思いました。自分のペースだと半年に1本くらいがちょうど良さそうです。
    • というか落ち続けてるので半年に1本でもうまく行っていないです。
  • 基本的に「実験が足りない」と言われて落とされることが多いので、実験に割く時間を増やしていこうと思います。
    • 大体ネタを考えるのに1〜2ヶ月、ライティングに1ヶ月かかるので、実験を3ヶ月くらいで終わらせられれば良い気がしています。

骨折

  • 8月上旬に自転車で転倒し、左腕を骨折しました。

  • ギブスで左腕を3週間固定する必要があり、その間は片手で仕事する必要があり、非常に大変でした。
    • 夏場のギプスは痒くて本当に辛いです。
  • 特に論文の締め切りが1週間後くらいだったので、泣きながら片手で論文を書いてました。
    • その論文も良い結果にはならなかったので、流石に凹みました。
  • 無事に3週間でギプスは取れました。

  • 骨折した時に便利だったものは下記にまとめてあります。 taka8hiroshi.hatenablog.com

  • ギプスを外した直後は腕が全く動かず、元通りになるのか不安が強かったですが、リハビリを頑張ったところ、痛みこそまだありますが、腕は今まで通り動かせるようになりました。本当に良かったです。

プライベート

  • アイドルマスター ミリオンライブ！ (ミリオン) の10周年ツアーの最終公演の記憶を支えにして研究を頑張っています。
  • 学園アイドルマスターのライブに当選したのですが、開催日は骨折期間中でした。悩みましたが、結局参加してきました。最高でした。やはり骨折くらいで趣味を諦めるのは良くないですね。
  • たまこラブストーリーの10周年イベントがあったので参加しました。生バンドで朗読劇 + ライブをやるという面白い形式でした。物語の続きを知ることができましたし、ライブも最高だったしで行って良かったです。
  • 学マスのおすすめ曲はCampus mode!!です。よろしくお願いいたします。

Campus mode!!

Campus mode!!

  • 初星学園
  • アニメ
  • ¥255
music.apple.com

  • 電動歯ブラシを導入しました。歯磨きがめっちゃ楽になるし、歯医者さんに褒められるしで良いです。

まとめ

  • 来年は怪我なく過ごしたいですね。出来れば主著論文も通したいです。頑張ります。

腕を骨折した時に買ってよかったもの

はじめに

8月上旬、自転車で転倒し左腕を骨折しました。

左腕を3週間ほどシーネ (添え木) で固定していたのですが、その間、片腕で生活するうえで便利だったものを紹介しようと思います。

ドーナツ状のボディタオル

片腕しか使えなくなったとき、まず困ったのが「手をどうやって洗うか」でした。調べたところ、ボディタオルを蛇口に引っ掛けて洗う方法があることを知りました。

www.youtube.com

自宅にはちょうど良い長さのボディタオルがなかったため、百均 (セリア) で探してみたところ、このボディタオルを見つけました。下の図のように輪っかを蛇口に引っ掛け、ドーナツの穴の部分に手を通して洗うことができます。

使用方法

除菌ウェットティッシュ

固定している手は除菌ウェットティッシュで拭いていました。自宅でも便利ですが、特に外出時に役立ちました。私はサンドラッグで購入しましたが、さまざまな種類があるので、好みに合わせて選ぶと良いと思います。

ちなみに、夏場は添え木がかなり臭くなります。除菌用のアルコールスプレーなどで消臭すると、臭いが軽減されます。面倒なときはこのウェットティッシュで拭いていました。

ボディブラシ

お風呂で背中を洗うためのブラシです。長めのボディタオルを使えば片手でも全身を洗えますが、背中は十分に洗えている気がしなかったので、このブラシで念入りに洗っていました。百均や無印良品にも売られているので、そちらでも良いと思います。

泡洗顔料

片手で洗顔フォームを泡立てるのが大変だったので、最初から泡立っているものを購入しました。こちらもさまざまな種類があるので、好みに合わせて選んでください。

包帯 + ひざ用ネット包帯 + 三角巾

添え木を包帯で腕に巻きつけて固定していましたが、夏場は汗をかくため、洗濯している間の予備を薬局で購入しました。病院で貰った包帯はかなりしっかりしていましたが、市販の包帯はあまりしっかりしていないものが多く、しっかり巻かないとぐらついてしまうことがありました。そこで、ネット包帯を上から被せて固定していました。添え木で腕が太くなっているため、ひざ用の製品がちょうど良かったです。また、腕を吊るすための三角巾も予備で購入しました。

左手用キーボード

会社の仕事はある程度融通が利きますが、論文投稿やレビューなどの学会関連の仕事は先延ばしにできなかったので、片手でもタイピングする必要がありました。特にCtrlやShiftキーなどの修飾キーを組み合わせた入力が難しかったため、固定している方の手で小さいキーボードを持ち、CtrlやShiftなどの修飾キーだけを押すという使い方をしました。

さまざまな製品がありますが、Windowsの場合は下記の製品などがリマップに対応しています。

direct.sanwa.co.jp

私はMacを使っているため、Karabiner Elements を用いてリマップしました。下記のブログで設定ファイルが公開されていたので、そのまま使用しました。本当にありがとうございます。

zenn.dev

最後に

無事にシーネ (添え木) を取ることができました。全治を目指してリハビリを頑張ります。

余談ですが、腕を骨折したときに人生で初めて自撮りをしましたが、おじさん感が強くてショックを受けました。

2023年振り返り

博士課程

taka8hiroshi.hatenablog.com

  • 3月に博士号を取得しました。お世話になった皆様ありがとうございます。
  • 事業会社への転籍や博士論文〆切直前のコロナ罹患等があり本当に大変でしたが、無事に終わって良かったです。

転勤

  • 京都の京阪奈にある研究所に転勤しました。
  • 弊社は現在転勤しても引越代が払われないので、東京から通っています。
  • 交通費は基本的に立て替え払いなので、今年は50万円以上立て替えていました。制度のバグを踏み抜いています。
  • 新幹線通勤の際には東海道新幹線の「S Work Pシート」がおすすめです。プラス1200円で3人がけの席の1.5人分を使えます。

論文

  • 共著論文が2件採択されました。共著者の皆様、誠にありがとうございます。

proceedings.mlr.press

proceedings.mlr.press

  • 来年は主著論文も採択されるように頑張ります。

学会

  • JSAI2023とIBIS2023に参加しました。
    • 前者は座長としての参加、後者はポスター発表での参加です。

  • JSAIとIBISは可能な限り参加し続けたいですね。できれば発表者として。

社内論文読み会

  • リモートワークをきっかけに社内で開催している論文読み会が15回になりました。
2020/07/28: ICML2020論文読み会
2020/12/22: NeurIPS2020論文読み会
2021/06/15: ICLR2021論文読み会
2021/08/30: ICML2021論文読み会
2021/10/19: KDD2021論文読み会
2021/12/22: NeurIPS2021論文読み会
2022/04/20: AAAI2022論文読み会
2022/06/23: ICLR2022論文読み会
2022/10/06: ICML2022論文読み会
2022/12/14: KDD2022論文読み会
2023/03/15: NeurIPS2022論文読み会
2023/06/18: ICLR2023論文読み会
2023/09/13: AAAI2023論文読み会
2023/11/22: ICML2023論文読み会
2023/12/20: KDD2023論文読み会
  • 勉強会の運営で得られた知見を下記にまとめました。

taka8hiroshi.hatenablog.com

  • 当初は割りと盛り上がっていたのですが、現在は参加者が三分の一程度に減りました。来年は盛り上げて行きたいです。

研究

  • 博士課程が修了し、転勤したことで研究時間が大幅に増えたので、研究のやり方を色々と見直しています。
  • 今までは下記の理由から研究テーマを Variational Autoencoder (VAE) 一本に絞っていました。
    • 事前にVAE研究で会社に稟議を通してあったので、そこから外れないようにしていました。
    • また、博士課程中だったので、博士論文のまとめやすさなども考えていました。
  • 現在は上記の制約がなくなったので、もう少し興味ベース・サーベイ中心で研究していこうと考えています。

サーベイ

  • 今まではarXivの機械学習分野の新着論文をチェックすることが多かったのですが、毎日本数が多すぎて疲れるのでやめました。
    • 元々arXivのチェックを始めたきっかけが「今考えているネタと被っている論文を検知したい」という理由でした。
    • ただ、そんなに被ることもないので最近はやらなくてもいいなと思うようになりました。
  • 現在は主要国際会議のproceedingsで面白そうな論文を読み、そこから関連研究を辿っていく、という読み方をしています。
    • 結構古くて有名な論文を読むことも増えたのですが、よく書けていて本当に勉強になるなと思います。
  • 読む本数も増えて英語が辛くなってきたので、Readableを自費で契約しました。便利で良いです。
  • 論文メモをちゃんと取るようになりました。Notionにまとめています。数式が書きやすくて良いです。

Notionでの論文メモ管理

論文メモのサンプル

  • まだ慣れてないので読む時間とメモを取る時間がまばらです。午前中に終わることもあれば、結局一日かかることもあります。
  • 短く読んでまとめて毎日の週間にするのが来週の目標です。

テーマ

  • 転勤してから半年間は新ネタで一本書くことに集中していたのですが、現在は効率的なやり方を模索しています。
  • 具体的には、「転移学習」などの大枠を決めておいて、その中でサーベイを集中して行い、問題設定と手法の試行錯誤をしています。
    • うまく行っていない問題設定で悩み続けるのはつらいので、実験がうまく行かなかったら問題設定ごと変えたりしています。
  • 上記の立案から論文執筆まで、3ヶ月くらいを完遂することを目標にしています。
  • 一つのテーマに何ヶ月くらい取り組むか、一年に何本の論文を出すのが良いのかというのはよくわかっていません。今までの自分のペースだと半年に一本が目標だったのですが、もっと早くできるんじゃないかという気もしますし、もっと丁寧に取り組むべきなんじゃないかという気もしています。
  • 来年はこういった時間間隔をつかめるようになりたいです。

参考

プライベート

  • 今年は アイドルマスター ミリオンライブ！ (ミリオン) と IDOLY PRIDE (アイプラ) に支えられた一年でした。
  • ミリオンのアニメは本当におすすめです。先行上映で見た時の感動は今でも忘れられません。
  • ミリオン10thライブツアーにも全通しています。最高です。
    • IBIS2023で小倉に行った週末に、隣の会場でライブがあることが分かった時は笑いました。小倉をかなり満喫しました。
  • アイプラは2月に行った横浜のライブでハマり、今ではZeppツアーを全通するようになりました。
    • クリスマスイブはZepp札幌でのライブでした。真冬の北海道でのライブは最高ですね。
  • ミリオンとアイプラのおすすめ曲は下記の二曲です。よろしくお願いします。

Rat A Tat!!!

Rat A Tat!!!

  • MILLIONSTARS
  • アニメ
  • ¥255
music.apple.com

Let's Go!Let's Go!ピース!ピース!

Let's Go!Let's Go!ピース!ピース!

  • サニーピース
  • アニメ
  • ¥255
music.apple.com

まとめ

来年は良い研究方法の模索と主著論文採択を目指して行きます。

グループ会社における論文読み会の運営

はじめに

私は現在、所属先のグループ会社の社員全員が参加できる形式で、機械学習・人工知能のトップカンファレンスに関するオンライン論文読み会を主催しています。簡単に言うと、ICLR2023など、1つの学会にテーマを絞って、有志で論文を紹介するイベントです。多い時で70名程の方に参加していただいています。3年ほど主催を続けて慣れてきたので、立ち上げの経緯や運営方法などをまとめてみようと思います。

自己紹介

@taka8hiroshi といいます。機械学習の研究をしています。現在は情報通信系のグループ会社の研究所に所属しています。一時期は事業会社にも所属していました。

立ち上げの経緯

一言でいうと、研究所や各事業会社間の情報共有のきっかけになることを期待して、このようなイベントを開催しています。

私が所属しているグループ会社は、研究所や各事業会社が各地に散らばっています。例えば、研究所は東京、神奈川、茨木、京都、そして海外などに分かれています。そして、機械学習・人工知能の技術は、各地の様々な部署で取り扱われています。

このような状況だと、物理的な距離が原因で、担当者間の情報共有に支障をきたします。具体的に言うと、「離れたロケの方が似たような研究をしていた」、「〇〇の技術について知りたいけど、研究所のどの部署が行っているかわからない」といったような問題が発生します。こういった問題を解決するため、各社の有志で定期的に情報共有を行っているのですが、運営が大変なためあまり高い頻度では行えず、コミュニケーションが十分に取れていないと感じていました。

そこで、上記の情報共有を補う目的で、完全オンラインでの論文読み会を主催し始めました。これには、下記のようなメリットがあると考えています。

  1. 全国各地から参加可能
  2. 完全オンラインのため運営の負担が少なく、定期的に開催可能
  3. 公知の論文を扱うだけなので、社外秘等を気にする必要がない
  4. 若手社員でも発表しやすく、周りに覚えてもらうきっかけになる
  5. 論文選びに発表者の興味が反映されるため、同好の士が見つけやすい
  6. 採択者本人が発表することで、グループ内へのアピールが可能

個人的には特に6点目が大きいと考えています。今までは、研究所や各事業会社の方がトップカンファレンスに論文を通しても、グループ内で発表する機会がありませんでした。この論文読み会で「本人枠」として発表していただき、参加者の方から「興味があるのでもっと詳しく聞きたい」、「一緒に研究したい」等と本人に連絡がいけば完璧です。

また、自身の育成的な観点もあります。普段は自身の興味がある分野のサーベイばかりしているので、他の方の発表を聞くことで、視野が広がり、その分野を調べるきっかけになることを期待しています。

現在扱っている学会はICML、NeurIPS、ICLR、KDD、AAAIの5つです。選んだ理由としては、「自分が普段読んでいる」、「自分が普段投稿している」、「グループ社員による採択本数が多い」、「参加者の要望が多い」などです。余裕があればもう少し増やせないかなとも思っているのですが、2ヶ月に1回くらいがちょうど良い気もしています。

運営方法

このように様々な目的を持って開催しているのですが、会社の後ろ盾があるわけではなく、有志の活動として行っています。上司にも説明には入っているのですが、評価されるといったこともありません。ボランティアになってしまうので運営メンバーを増やすのも申し訳なく、ほとんど私一人で運営し続けています。そのため、自身の負担を減らすべく、いかにシステム的に運用できるかが重要となってきます。

色々試行錯誤した上で、現在は下記のようにGitHubでissueを立てて、順番に消化しています。

AAAI2023論文読み会を行ったときのissue (社名が出ているところは黒塗り)

Slack チャンネルの作成

まずは連絡用のSlack Workspaceで論文読み会用のチャンネルを作成します。といっても、だいたいの場合はその学会に現地参加する方々が、現地での情報共有を目的にチャンネルを作成しているので、そこを間借りする形になります。

日程の決定

次に日程を決定します。最初の頃は発表申し込みをして頂いた方々の予定を確認した上で日程を調整していたのですが、全員のアンドが取れない場合が多く、また調整するのも大変だったので、今は日程を先に決めることにしています。

Googleフォームの作成

次に申し込み用のGoogleフォームを作成します。今回扱うのは公知の情報だけなので、気兼ねなく外部のサービスを使います。30分の本発表枠と5分〜15分のLT枠を用意し、発表者が選べるようにしています。といっても、時間が足りないことが多いので、ほとんどの方が本発表枠で発表します。

閲覧用のスプレッドシートの作成

発表者の間で読む論文がかぶらないように、フォームからスプレッドシートを生成して、全員が見れるようにしています。

周知 (発表者募集・一ヶ月が目処)

本番一ヶ月前に発表者募集の周知をします。本番一週間前まで募集するので、三週間程度募集することになります。

過去に13回主催しているのですが、発表者は一番多い時で13人、一番少ないときで5人といった感じです。平均するとだいたい7人〜8人申し込んでくれているようです。

スケジュールの調整 (一週間前が目処)

本番当日のスケジュールを決定します。発表者の方は当日他の打ち合わせがあることもあるので、そういった事情を反映しながら調整します。また、休憩時間を必ず入れるようにしています。1時間発表したら15分休憩、という感じです。

7人〜8人×30分+休憩という感じなので、4時間〜5時間くらいはだいたいかかります。午後13時スタートで、遅くても18時までには終わるように調整します。

TeamsのURLの発行

オンライン会議用のURLを作成します。これは会社の都合なのですが、私の所属している研究所のオンライン会議システムは録画が難しいので、事業会社の方にお願いして、TeamsのURLを手配して頂いています。

周知 (聴講者募集・一週間前が目処)

一週間前に当日のスケジュール、URLを記載した周知を出します。できるだけ多くの方に聴講参加してほしいので、一番目立つ場所で宣伝しつつ、各社にも周知を依頼します。

スライド作成

基本的には自身も発表することにしているので、当日までに論文を読み、スライドを作ります。結局ここが一番大変だなといつも思います。

座長の募集 (前日まで)

本番当日の座長を募集します。基本的には進行と質問の仕切りです。また、質問が出なかった場合は、座長から質問するようお願いしています。 座長が集まらなかった場合は自分が一人でやります。

余談ですが、運営の仕事の中では座長の募集がもっとも重要だと思っています。私はあまり座長が得意でないので、Slackでいつも誰かに泣きついています。

本番

ここまでくると特にやることはないです。基本的には自分から一つ以上質問を出せるようにしたいので、集中して聞いています。休憩込みでもだいたい5時間くらいあるので、終わることにはかなりへとへとになっています。

事後アンケート

参加者の方からフィードバックをいただけるよう、アンケート用のGoogleフォームも設置します。

最初の頃は色々な意見をいただきました。例えば、当初はslidoなどのサービスに加えて、slack、Teamsのチャット欄で質問を募集していたのですが、わかりにくいとのことで、Teamsでの発声もしくはslackでのチャットような形に落ち着いています。また、LT枠を設けたのもアンケートでご意見頂いたからです。需要のある学会の調査などもたまに行っています。

ビデオと資料の共有

最後に、グループ内で閲覧できる形で、当日のビデオと資料を共有します。尺の都合上ビデオは編集する必要があるので、こちらもちょっと時間がかかります。

上記のような一連の作業を、何も考えずに頭から実施しています。実際にかかる稼働は、本番当日とスライドの準備を除けば、数時間程度です。この労力でこの規模のイベントが運営できているのは良いことなのかなと思っています。

振り返りと問題点

約3年間、13回と続けているイベントなので、色々と問題点も出てきています。

発表者の偏り

グループ会社全員が発表可能ということになっているのですが、実際には研究所からの発表者が多くなっています。特に、自分がかつて所属していた部署の後輩の皆様がよく申し込んでくれていて、気を遣わせていたら申し訳ないなと思っています。彼らがいつも発表してくれるおかげでこの取り組みは成立しているのですが、いつまでも甘えているわけには行かないので、どうにかして色々な部署から発表申し込みしていただけるようにしたいと考えています。

とはいっても具体的な案がないので、現状はby nameで発表をお願いするというようなことを行っています。特に採択者本人の方にお願いしています。また、LT枠の自由度を高めて、事業会社の方も発表しやすいようにできないかと考えています。例えば、KDDはKDD Cupというデータ分析コンペが同時開催され、事業会社から参加する方も多いので、その発表をお願いしたりしています。

聴講参加者の減少と偏り

聴講者は多い時で70人程度、少ない時で30人程度になっています。回数を重なるにつれて減少傾向にあります。発表者の方はかなり準備を頑張ってくれているので、できるだけ多くの方に聞いてほしいと思っているのですが、人を増やすのはやはり難しいなと感じています。

また、自身も事業会社にいたので分かるのですが、論文を読んだりできるのは時間に余裕がある部署の方が多く、研究以外の仕事がメインの事業会社からはあまり参加者が多くありません。このような偏りも解決したいと考えています。

運営・発表者へのメリットを用意できていない

上述した通り、完全に有志の取り組みなので、このイベントに関わることでの会社としてのメリットを提供できていません。運営は私一人なので別に良いのですが、発表者の方には何かしらのメリットがあってほしいと思っています。何かしらの後ろ盾を得るのが良いとは思っているのですが、特に伝手もないので難しい状況です。

また、研究的なメリットも提供できればと思っています。発表に対する質疑が盛り上がり、発表者の方に得るものがあるのが一番だと思っているので、そのためには良い質問が出る環境を整える必要があります。つまりは聴講者を増やして良い質問が出る確率を高くしたり、質問が得意な方に座長をお願いしたりといったことを行いたいと考えています。

結局のところ、イベントをうまく盛り上げ、多くの人に参加していただければ、解決できるのではという気がします。直近でグループ内のLLMの勉強会にも参加したのですが、そのときは120人程オンライン参加していたので、この取り組みもまだまだ盛り上げられるのではないかと思っています。

最後に

3年間論文読み会の主催を続けてみて、重要なのは惰性だなと思いました。特に会社から見返りがあるような取り組みではないので、私自身のモチベーションが重要ではあるのですが、3年も続けると当初の熱意は消え失せます。自身の異動や転籍のタイミングで辞めることもできたのですが、結局は惰性だけで続けています。

しかし、イベントを続けていると、自身が予期していないような良い出会いが発表者の間で起こることもあります。それはきっと良いことだと思うので、これからもあまり労力をかけずに、惰性で続けて行きたいと考えています。

社会人博士課程を修了しました

はじめに

2023年3月23日に京都大学で博士 (情報学) を取得しました。

自身の研究も大変だったのですが、

  • コロナ禍のリモート博士生活
  • 在学中に社内で複数回の異動
  • 博士論文締切前にコロナ罹患

などの経験もしたため、皆さんの参考になることを願って博士生活を振り返ります。

自己紹介

@taka8hiroshi といいます。機械学習、特に深層生成モデルの研究をしています。通信会社の研究所に所属していましたが、博士課程在学中に事業会社に異動になりました。卒業後に再び異動になり、現在は研究所で働いています。

博士学位が必要だと思ったきっかけ

修士時代から博士取得に興味があったのですが、当時は研究業績が全く無く、このまま進学しても難しいだろうということで就職を選びました。その後、会社での仕事が国際会議に採択されたこともあり、成長した今ならチャレンジできるのではないかと思い、進学を決意しました。

ほかの理由として、所属会社には研究者向けのキャリアパスがあり、博士号を持っていると有利になるという点もありました。また、独学で研究を行っていたので、体系的な研究方法を学びたかったというのもあります。

京都大学を選んだ理由

一番の理由は研究室を見学して良さそうだと思ったからなのですが、それ以外にも二つの理由があります。

一つ目の理由は、京都大学には社会人特別選抜という制度があり、社会人博士に対する理解が深いことです。

www.kyoto-u.ac.jp

具体的には下記のようなメリットがありました。

  • 授業を取らなくてもOK (ゼミは参加必須)
  • 京都以外からも通える (私は仕事の都合で東京在住)
  • 共同研究契約が結びやすい (会社での研究と大学での成果を一致させやすい)

遠方に住んでいても、仕事と両立しながら博士課程を送れるというすばらしい仕組みになっています。また、先生方も社会人博士を受け入れようとしてくださっているので、色々と相談しやすいと感じました。

二つ目の理由とは金銭面です。私の所属会社には当時学費を支援する制度がなく、入学金や学費は自費で支払う必要がありました。京都大学は国立なので学費も比較的安く、非常に助かりました。とはいっても3年間で合計200万程度かかりましたが。

研究室での3年間

3年間のスケジュール・イベント

入学まで

2019年の3月頃から進学を考えていて、色々な研究室の見学を始めました。京都大学に見学に行ったのは2019年5月頃で、そこで進学を決意しました。本当は2019年の秋入学にしたかったのですが、TOEICの受験を忘れていて、2020年春入学を目指して受験の準備をしました。

願書は2020年1月提出ですが、社会人選抜の場合は会社の上司が推薦文を書く必要があるため、準備には多少時間がかかりました。2020年2月前半に院試を受け、無事合格となりました。

卒業要件と目標

卒業要件は明文化されていなかったのですが、おそらく (修論に含まれていない) ジャーナルもしくは国際会議3本だと思います。私の場合は入学前に国際会議に何本か論文を通していたので、それらのジャーナル化と、新しい論文を国際会議に通すことを目標としました。特に後者は3年目の夏にようやく採択されたので、本当にギリギリでした。

イベントとしては中間発表と予備審査、本審査の3つがあります。中間発表は2年目の夏に行われるイベントで、現在の研究の進捗状況を話します。予備審査は3年目の1月頃に行われるイベントで、博士論文をプレゼンします。ここで審査の先生方からコメントを頂き、反映した上で、2月頃に行われる最終試験である本審査に臨みます。

リモート博士生活

入学直後にコロナ禍に突入してしまい、物理的に大学に行くことが難しくなってしましました。一方で、ゼミがリモートになったこともあり、東京に住んでいる私は参加しやすくなるというメリットもありました。ゼミは週に二種類行われ、両方とも半年に一回以上発表が必須でした。学生の皆さんがとても優秀なので、ゼミが勉強になるしモチベーションにもなりました。

ゼミ以外の時間は基本的に研究 (と事務作業) をしていました。研究所時代は「博士課程の研究=会社の研究」にできるよう、会社側で稟議を通して共同研究契約を結んでいました。1年目は比較的時間が取れていたので、新テーマとジャーナル化の作業を中心に行っていました。新テーマは難航しましたが、ジャーナルは無事に採択されました。2年目夏の中間発表もジャーナルの内容を中心に発表しました。

ここまでは順調だったのですが、この直後から異動などが重なり、ほとんど研究時間が取れなくなってしましました。

1回目の異動

2021年7月に1回目の異動となりました。これは組織再編の影響で研究所内を異動するというものでした。

研究自体は続けられる部署だったのですが、組織再編の影響で部署の実験環境が全てリセットされてしまい、一から立ち上げを行う必要がありました*1。再編後の部署だとこういったことに一番詳しかったため、率先して立ち上げを行っていましたが、上司が変わったこともありスムーズには行かず、結果として丸一年かかりました。また、業務内容も少し変わり、以前よりも契約などの事務作業等が増えてしまい、結果としてこの一年間は研究時間をほとんど取れませんでした。

これではいけないと思い、合間を縫ってなんとか新テーマを進め、2023年の5月に無事に論文が採択されました。この時点で論文の本数自体は揃ったので、卒業が見えてきたなと気楽に思っていました。しかし、なぜか論文発表での海外出張を却下されたので訝しんでいたら *2、直後にまた異動することが判明しました。

2回目の異動

2022年7月に2回目の異動となりました。これは事業会社への異動で、業務として研究を続けられなくなりました。実は異動先の会社には博士課程の支援制度があったのですが、入学前に稟議を通す必要があり、入学後に異動してきた私は支援を受けることができませんでした。また、博士過程に在学しているということも事前にちゃんと伝わっておらず *3 、結果としてプライベートで研究しなければならなくなりました。

「博士課程在学中の事業会社への異動だけは避けてほしい」と人事に何度も相談していた上、入学の際に一筆書いてもらっていたのに、よりにもよって卒業目前で異動となってしまったため、モチベーションがかなり下がりました。先生に相談しに京都大学まで行き*4、色々とアドバイスを頂き、なんとかモチベーションを回復させました。

10月頃から博論を書き始めたのですが、業務に慣れないこともありなかなか時間を取れず、2022年12月頃に精神的に参ってしまい *5 、覚悟を決めて有休を全てつぎ込んで博士論文に専念しました。

博士論文締切前にコロナ罹患

有休をつぎ込んだこともあり、博士論文自体はなんとか間に合いそうだったのですが、正月に家族経由でコロナをもらってしまいました。そこまで症状は重くなかったのですが、10日程度はまともに起きていることができませんでした。これが致命傷でした。なんとか論文は書き上げたのですが、直後の予備審査の準備が一切できておらず、また学会業務で論文の査読が山のように残っていた (しかも締切が予備審査の前日) ため、最後は泣きながら作業していました。

予備審査・本審査

2023年1月末に予備審査、2023年2月末に本審査がありました。コロナも落ち着いたので現地で行われることになり、再び京都に行くことになりました。結構大変だったとは思うのですが、建設的なコメントをいただけることもあってモチベーション高く乗り切ることができました。

余談ですが、予備審査前日から雪が降った影響で新幹線が止まるおそれがあったため、前日入りしました。新幹線は遅延しました。時間が取れたので泣きながら査読していました。

合格・卒業

本審査に無事に合格したので、博士論文の製本作業などを行いました。ちなみにここが一番スケジュールが厳しくて、大学側から提示された期限内に製本してくれる業者は見つかりませんでした。教務課に相談し、締切を伸ばしてもらい、最短で製本してくれる業者を探して、大学に送りました。製本が終わればほぼ終わりで、無事に卒業となりました。

大学には結局、異動の際の先生への相談、予備審査、本審査、卒業式の4回しか行きませんでした。物理的な移動が制限されるご時世だったため極端な回数となっていますが、今後はもっと気楽に行けるのではないかと思います。

アドバイス

会社からの理解を得る

プライベートの時間だけで社会人博士を取るのはかなり大変だと思います。私は基本的にプライベートは休みたいので、業務として研究できるように稟議を通し、共同研究契約を結んでいました。ここまでは良かったのですが、結局異動が重なって業務上でも研究時間の確保ができませんでした。

3年間は研究できる部署にいれるよう、会社に取り計らってもらうのが良いと思います。京都大学の場合は上司が推薦書を書く際、「入学後も在職の身分を保証する」よう同意しているので、いざとなったらそれを盾に交渉するのも良いと思います。ちなみに私も交渉しましたが聞き入れてもらえませんでした。

有休は残しておきましょう。最後に頼りになるのは有休です。

入学前に論文を貯めておく

経験して思いましたが、3年間でジャーナル or 国際会議3本はかなり難しいので、事前にある程度論文を貯めておくか、ネタをストックしておくのが良いと思います。

しっかりと休む

私は色々と思い詰めて参ってしまったので、気楽にやるのが大事だと思います。休日はしっかり遊んでリフレッシュして、切り替えて研究もできると良いのかなと思います。

自分のことだけに集中する

博士課程の3年間、会社ではチームのために使った時間が非常に多かったです。働きやすい環境になれば自分も仕事しやすくなると思ってやっていたのですが、結果的には異動したので自分に得はありませんでしたし、自身が学生でいられる時間を浪費しただけとなってしまいました。博士課程の3年間だけは自分のことだけを中心に考えて、自身の研究に専念するのが良いと思います。

最後に

色々あった博士生活ですが、その分博士号を取れて本当に嬉しかったです。また、大学や会社の皆様には本当にお世話になりました。今後はメンタルを回復させつつ研究を頑張っていきたいです。

*1:具体的に言うとGitHub等のサービスの契約やGPUサーバの用意、実験用ネットワークの準備などです。

*2:他部署で同じ学会に論文が通った方は出張が許可されていました。私は最終的には異動先の事業会社にお願いして出張させてもらいました。

*3:そもそも「機械学習の研究をしていた」ということさえ伝わっておらず、なぜか「開発が得意な人」として紹介されました。

*4:ちなみにこの時が入学後初めての現地通学でした。

*5:食欲が一切わかず、睡眠が取れなくなりました。直後のコロナ罹患との合せ技で、二ヶ月ほどこの症状が続きました。