GPU コンピューティング研究会

TESLA C2050

第1回 ディープラーニング分散学習ハッカソン

申し込みを締め切りました。
主催: 東京工業大学 学術国際情報センター GPUコンピューティング研究会, エヌビディア合同会社
共催: Chainer User Group、TensorFlow User Group
日時:

2019年8月5日(月)10:00~17:00

2019年8月6日(火)10:00~17:00

場所: 東京工業大学・大岡山キャンパス 学術国際情報センター(情報棟) 2階会議室
開催趣旨:

本ハッカソンでは、すでに単一GPUあるいは単一ノードにおいて複数GPUを用いたディープラーニングを実践されている方またはチーム(1チーム3人まで)を対象に、TSUBAMEを利用した分散学習の実践を行います。受講料は無料です。ハッカソンは参加者がディープラーニングのモデルおよびデータセットを持ち込み、マルチGPU、マルチノードでの分散学習を実践する形で進行します。学術国際情報センター教員に加えて、Chainer、TensorFlowのスペシャリスト、及びエヌビディアのエンジニアがメンターとして参加し、お手持ちのモデルの精度や学習速度の向上をお手伝いします。また、データ並列やモデル並列だけでなく、ハイパーパラメータチューニングによる分散学習を実践したい方も歓迎します。

メンター紹介:

藤原秀平:株式会社メルペイ / Google Developers Expert (ML)

太田満久:株式会社ブレインパッド / Google Developers Expert (ML)

梅澤慶介:Chainer User Group / Chainerエバンジェリスト

柳瀬利彦:株式会社Preferred Networks / エンジニア

成瀬 彰:エヌビディア合同会社 / シニアデベロッパーテクノロジーエンジニア

山崎和博:エヌビディア合同会社 / ディープラーニングソリューションアーキテクト

大串正矢:エヌビディア合同会社 / シニアソリューションアーキテクト

対象者: すでに単一GPUまたは単一ノードにおいて複数GPUを用い、ChainerまたはTensorFlowを利用したディープラーニングを実践しており、分散学習を実行したいディープラーニングのモデルおよびデータセットを持ち込める方。個人情報などデータの持ち込みが難しいデータセットの場合、データを匿名化したり、ダミーデータセットにするなどの対応をお願いします。データの持ち込みはハッカソン前日までに完了させてください。選考結果の通知後にアカウント情報を送付しますので、ご自身にてデータをTSUBAMEまで転送ください。データサイズが大きいなどでネットワーク経由での転送が難しい場合は、状況に応じてご相談に応じますのでご連絡ください。SSHを介したコマンドライン操作によるLinux上での作業に支障のない方。Linuxのコマンドライン操作に関する基礎知識が必要です。また、TSUBAMEにインストールされているエディタ(Emacs、vim)を用いて,ファイルの編集を行う必要があります。上記のいずれかのエディタの操作にも慣れていない場合には,いずれかのエディタの予習を各自で行なっておいてください。
申し込み:

こちらのリンクからご登録ください。申込者の中から8チーム程度を選定します。

申込締切は2019年7月12日(金) 17:00です。選定結果は、2019年7月19日(金)以降に代表者様へメールにて通知いたします。

講習会概要: 受講者が自分のノートパソコン(無線LANの機能があるもの)を持ち込んでください。
ノートパソコンのOSは、Windows、Macどちらでも構いませんが、無線LAN接続によりSSHを用いてTSUBAMEへ接続ができることが必要です。有線LANでの接続はできません。
Windows利用の場合CygwinおよびCygwin内のsshコマンドのインストールをお願いします。また、他のOSを利用の場合にも、同コマンドがインストールされているか事前にご確認ください。
演習の実施に当たり、受講者にTSUBAMEを数週間利用できる無料アカウントを発行します。
利用可能なリソースは、TSUBAME 4ノード(GPU16基)です。
Dockerコンテナを実行することが可能なSingularityを利用することができます。ただしTSUBAME上ではイメージを編集することはできません。
プログラム(1日目): 09:30-10:00 受付
10:00-10:20 TSUBAME紹介
10:20-10:40 分散学習基礎講座
10:40-11:00 Chainerでの分散学習紹介
11:00-11:20 TensorFlowでの分散学習紹介
11:20-12:00 参加チームの自己紹介
12:00-13:00 休憩
13:00-17:00 実践 (適宜自由に休憩)
17:00 終了
プログラム(2日目):
 

 
10:00-16:00 実践 (適宜自由に休憩)
16:00-17:00  実践内容の共有
17:00 アンケート記入・終了
17:15 TSUBAME見学・集合写真