Submit Search
Jupyter Notebookを納品した話
Download as PPTX, PDF
•
10 likes
•
14,063 views
Hiroki Yamamoto
社内勉強会で発表した「Jupyter Notebookを納品した話」です。
Software
Read more
1 of 33
Download now
Downloaded 25 times
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
More Related Content
What's hot
(20)
PDF
TFLite_and_PyTorch_Mobile
yusuke shibui
PDF
Scikit learnで学ぶ機械学習入門
Takami Sato
PDF
Mercari Image search 1st Anniversary
yusuke shibui
PDF
ML system design_pattern
yusuke shibui
PDF
Machine learning microservice_management
yusuke shibui
PDF
Pythonを使った機械学習の学習
Kimikazu Kato
PDF
ヤフー音声認識サービスでのディープラーニングとGPU利用事例
Yahoo!デベロッパーネットワーク
PDF
Scikit-learnを使って 画像分類を行う
Arata Honda
PDF
Quality of ml_system
yusuke shibui
PDF
Pythonで簡単ネットワーク分析
antibayesian 俺がS式だ
PDF
Twillio deadshot made me happy
yusuke shibui
PDF
PyData入門(超初心者編)~野球のデータをカジュアルに可視化
Shinichi Nakagawa
PPTX
数理最適化とPython
Yosuke Onoue
PDF
正しいプログラミング言語の覚え方
Kimikazu Kato
PDF
リファクタリング勉強会 第2回
ikikko
PPT
14対話bot発表資料
Keiichirou Miyamoto
PDF
Rnncamp01
Shin Asakawa
PDF
Tensor flowを使った キュウリの仕分け あれこれ
Makoto Koike
PDF
Tensorflow
Daisuke Yamashita
PDF
S08 t0 orientation
Takeshi Akutsu
TFLite_and_PyTorch_Mobile
yusuke shibui
Scikit learnで学ぶ機械学習入門
Takami Sato
Mercari Image search 1st Anniversary
yusuke shibui
ML system design_pattern
yusuke shibui
Machine learning microservice_management
yusuke shibui
Pythonを使った機械学習の学習
Kimikazu Kato
ヤフー音声認識サービスでのディープラーニングとGPU利用事例
Yahoo!デベロッパーネットワーク
Scikit-learnを使って 画像分類を行う
Arata Honda
Quality of ml_system
yusuke shibui
Pythonで簡単ネットワーク分析
antibayesian 俺がS式だ
Twillio deadshot made me happy
yusuke shibui
PyData入門(超初心者編)~野球のデータをカジュアルに可視化
Shinichi Nakagawa
数理最適化とPython
Yosuke Onoue
正しいプログラミング言語の覚え方
Kimikazu Kato
リファクタリング勉強会 第2回
ikikko
14対話bot発表資料
Keiichirou Miyamoto
Rnncamp01
Shin Asakawa
Tensor flowを使った キュウリの仕分け あれこれ
Makoto Koike
Tensorflow
Daisuke Yamashita
S08 t0 orientation
Takeshi Akutsu
Jupyter Notebookを納品した話
1.
Jupyter Notebookを 納品した話 2016/11/10 Acroquest Technology
株式会社 山本 大輝
2.
自己紹介 1. 名前:山本 大輝(やまもと
ひろき) 2. Twitter:@tereka114 3. Blog:のんびりしているエンジニアの日記 http://nonbiri-tereka.hatenablog.com/ 4. 専門:画像処理、異常検知 5. 普段はCV勉強会やPyData等で 活動しています。 Copyright © Acroquest Technology Co., Ltd. All rights reserved. 2
3.
目次 1. はじめに 2. Jupyter
Notebookとは 3. Jupyter Notebookを選んだ理由 4. Jupyter NotebookのPlugin 5. Jupyter Notebookの罠 6. まとめ 3
4.
こんなことありませんか? 1. 「データを分析して欲しい」と言われたけど、分析結果を どんな形式で提出しようか悩んでいる。 2. 分析の思考過程とコードをバラバラに管理しており、後 から分析過程を追跡できなくなる。
そのため、思考過程とコードを一緒に残したいが、コードを Word等に貼り付けたくない。 3. コードの動作確認結果を可視化したいが、対話式に 確認ができない。(デバッガでは画像は面倒) 4
5.
5 この問題全部解決できます!
6.
6 そう Jupyter ならね
7.
Jupyter Notebook 1. Jupyter
Notebookは作成したコードやドキュメントを簡 単に共有できる。 ① 様々な言語をサポート(Rも使えるよ!) ② Notebook自体の共有 ③ インタラクティブな実行 2. 可視化したグラフを掲載できる。 3. Markdownを使える。 7
8.
何ができるの? 1. コードを実行できる。基本はPythonですが、カーネルを追加 すれば他の言語も実行可能。 2. 当然、出力結果を可視化できる。
%matplotlib inlineを記述すれば、Matplotlib(グラフ)も出力可能 3. Markdownで文章を記述できる。コードをドキュメントに組み 込める。 4. 様々なPluginを利用できる。 5. Githubが.ipynb(Jupyter Notebookの拡張子)に対応して いる。 8
9.
Jupyter Notebookの例 9
10.
Markdown 図 ソースコード Jupyter Notebookの例 10 Jupyterの 特殊コマンド (Magic Command)
11.
なぜ、Jupyter Notebook? 1. Jupyter
Notebookは分析の過程を残せる。 なぜ、そのコードを書いたのか、途中経過を残すことができる。 2. Jupyter Notebookは環境を整えれば再現が可能 ① 環境を整えれば、同じ状況を再現をすることが可能できる。 ② 手順を追実験できる。(手順書としても使える!) 3. Jupyter Notebookは結果をエビデンスとして残せる。 これを納品しよう! 11
12.
実際にJupyter Notebookの良かったところ 1. 実行結果を見ながら説明ができる。
ソースコードの実行過程を見ながら説明ができる。 2. 実行結果を逐一確認できる。 現状の実行結果を見て、次にどうするか思考できる。 3. アルゴリズムの検証結果を見ることができる。 4. 便利なPluginがある。 12
13.
Jupyter Notebookの活用例 1. 分析レポートとして使う。
今回の利用用途、過程とコードが一緒でわかりやすい。 2. アルゴリズムの過程を残す。 画像処理のコードで処理後の結果を残す。 3. 手順書 基本的にはその通りやれば動くので手順書として実行コマン ド、結果、説明を同居させて残せる! 例えば、Hadoopの構築手順書 https://github.com/NII-cloud-operation/Literate-computing- Basics 13
14.
Jupyter Notebookの例 14 出展:https://github.com/NII-cloud-operation/Literate-computing-Basics/blob/master/D03_KVM%20-%20Ready!%20on%20CentOS.ipynb
15.
Jupyter Notebookの例 15 【説明】 コードややることに関す る内容を記述できる 出展:https://github.com/NII-cloud-operation/Literate-computing-Basics/blob/master/D03_KVM%20-%20Ready!%20on%20CentOS.ipynb 【コード】 実際のコマンドが わかりやすい 【実行結果】 説明と結果が 同時に見える 上から順に手順を 追える!
16.
Plugin導入の方法 1. nbextensionsを使うと、よく使うPluginは入ります。 2. インストール方法 ①
git clone https://github.com/ipython-contrib/IPython- notebook-extensions ② cd IPython-notebook-extensions ③ python setup.py install ④ sudo jupyter contrib nbextension install --user 今の日本語ページだと あまりこの情報がない 16
17.
nbextensions 17
18.
nbextensions Plugin一覧の テーブル Plugin名 18
19.
おすすめのPlugin 1. Table of
Contents (2) 見出しから目次を作成して表示する。 2. Python Markdown MarkdownにPythonの変数等を埋め込める。 3. Hide input 入力したセルを隠せる。 19
20.
Jupyter Notebookいい面 いっぱいあるよね!
21.
でも・・・・・
22.
Jupyterで苦労したこともあります。
23.
html出力時と見た目が異なることが発覚した 1. Pluginが使えない場合がある、Markdownが機能しない等、 問題が発生する。 2. Jupyter
Notebookの機能にhtmlを出力する機能があるが、 出力結果がNotebookと異なる。 3. Table of Contents (2)の機能を使っていたが、ナンバリング がなくなった。 4. 変数埋め込み機能が使えない。 etc 23
24.
Table of Contents(2)の場合~notebook~ 24
25.
Table of Contents(2)の場合~html~ インデントがない ナンバリング されていない 25
26.
その他いくつかの場合~notebook~
27.
その他いくつかの場合~html~ Notebook上でhideに したcellも、html出力 されてしまう (Hide Cell) 埋め込んだ変数名が 可視化される (Python Markdown) 27
28.
印刷が難しい 1. WebページやNotebookのまま印刷しようとすると、グラ フや表が画面から消える。 2. Jupyter
Notebookをpdf化するために、LaTeXを必要と するのが面倒。(印刷機能を使えば別の方法で可能) 28
29.
印刷が難しい 横スクロールで 印刷が途切れる 29
30.
ファイルの分割ができない 1. ファイルの分割が難しい要因は次の2つ ① ファイルの結合をサポートしていない。 Issueはありました。 https://github.com/jupyter/nbconvert/issues/253 ②
ソースコードが必要である。 2. 複数人開発の構成管理が難しい。 複数人で開発すると必ずconflictが起こる状況へ・・ 3. ファイル構成の設計が必要である。 ① Notebook自体を分割した状況を作る。 ② 結合するスクリプトを書く(できるかわからない。) 30
31.
可能な限り情報は一つのファイルにまとめる 1. csvやExcel形式についてはpandasを使うと可視化可 能となるので、うまくコードを書いて埋め込むことが可能 2. 表示形式を表で出力したい場合はpandas.DataFrame 形式で変数を保持するのも良い。 3.
あまりに長くなってくると見通しが悪化するので可能な 限り影響範囲は狭い方が良い。 4. (ちゃんと設計しましょう) 31
32.
まとめ 1. Jupyter Notebookを使うとコードや過程、手順を Notebookとして残せる。
納品可能なレベル 2. ただし、プラグイン等のカスタマイズ機能を使う場合は 気をつける必要がある。 32
33.
33 Jupyter Notebookを使おうぜ! Infrastructures Evolution
Download