#82 小山さんwhitphxさんをゲストに OSSを仕事にをキーワードにHugging Faceや周辺のPython UIフレームワークについて語る

Guest:

小山さん tkoyam010

科学技術計算の受託解析と受託開発をする企業に所属しています。プライベートでPyVistaという可視化ライブラリのメンテナをしています。今まで作者におんぶにだっこでしたが、作者2人が活動に時間をさけなくなってきたため忙しくなってきました。

橘祐一郎さん。SNSはwhitphxでやっています https://twitter.com/whitphx⁠

ここ2年くらいStreamlitというpure-Python Web UI frameworkのOSSコミュニティによくいます。コア開発者ではなく、Streamlitの拡張を書いたり、issueや小さいPRを送ったりしています。最初は余暇で無給の趣味としてやっていましたが、半年前からHugging Faceで職を得ました。

Note:

• 00:00:00 82回Podcastスタート。小山さん、whitphxさんの紹介
• 00:03:21 今回の対談企画は、OSSと仕事の関係の話
• 00:04:15 Hugging FaceやLLMの話を先にしましょう。Hugging Faceはそもそも何？
• 00:06:53 Hugging Faceは、会社（組織）、 サービス https://huggingface.co/ 、ライブラリ https://pypi.org/project/transformers/ などがある
• 00:07:43 huggingface.co の Spaces がデプロイサービスで便利で使いやすい。Gradio / Streamlit が標準でサポートされているので、Pythonだったら簡単に使える
• 00:08:48 Transformersは自然言語処理のフレームワークですごく便利
• 00:12:34 LLMなどのモデルによっては、ネットワーク越しにデータを渡しているものがあるから企業内のデータを使う場合は注意が必要ですね。
• 00:13:49 Spacesの使い所や便利さを再確認。WebでUIを簡単にホストしてくれる。
• 00:17:57 Spacesで、GPUを使うこともできる。課金が必要なんですが。
• 00:20:48 学習するときのGPUはどのようなものを使っているのか？ ローカル/クラウド？ 16GB VRAM??
• 00:25:56 LLMの世界は、営利企業やそれなりの組織じゃないと手が出せない？ ファインチューニングはできるか？
• 00:26:34 LLMもモデルの大きさはどう選ぶ？
• 00:30:11 GradioのはHugging Faceでメンテナンスされている。Panelとの違いは？ Streamlitと同じレイヤー
• 00:32:05 Python UIフレームワークは他にも、Shiny for Python, Solara, Plotly Dash, Reflex, Reacton, ReactPyとか
• 00:33:13 PyVistaはtrameを使っている
• 00:34:38 Ruby on Railsかは始まったと思われる、軽量Webフレームワークの群雄割拠な時代を少し振り返る
• 00:36:09 Streamlitとか、Tornadoバックエンドが多い。Gradioなど比較的新しいものはFastAPIが使われている
• 00:40:05 PyQtとかGUIツールよりもWebの世界になっている？
• 00:42:36 StreamlitのWasm版をwhitphxさんが作っていいる話
• 00:45:31 whitphxさんが9月のPyCon TW、10月のPyCon APAC in JapanでStreamlitのWasm版のトークをする
• 00:46:02 GradioのWasm版は、Hugging Faceの立場でOSSに関わって作っている
• 00:47:59 OSSでメシを食う話（今回のメイントピック）
• 00:49:36 ピュアにOSSだけでメシを食っているっていう人はどのくらいいるのか？寄付ベースかな？
• 00:52:33 OSSプロジェクトに関係すると成長が実感できる。趣味を超えて仕事と関連したい。
• 00:53:05 小山さんはフリータイムの100%をPyVistaにコミットしている
• 01:01:37 Sphinxはリリースマネージャーがイギリスの方に変わって開発スタイルが大きく変化。さらに一人の腕力で開発がめっちゃ進んでいる。
• 01:08:52 PyVistaのPR承認後、マージまで24時間待つルールは面白い。
• 01:11:30 WebアプリのUI/UXをどうするか？　whitphxさんは「インタフェースデザインのお約束」で勉強したが。
• 01:17:30 StreamlitとGradioのフレームワーク設計の違いについて。状態変更で再実行 vs コールバック関数を一つだけ渡す
• 01:25:47 Panelやについても少しだけ。
• 01:27:17 Plotly Dashに比べると、Streamlitのパフォーマンスは気になる？？書きやすさとかコード量の違いがある。
• 01:31:02 Hugging Face SpacesのGitの機能と開発スタイルを寺田が聞く。開発はGitHubでやる方がスタイルに合うかな。
• 01:40:13 海外カンファレンス登壇のモチベーションについて、3人で確認し合う
• 01:49:13 PyCon USのスペイン語トラックを他で、別言語で出来ないかな？
• 01:59:03 収録が2時間になってしまうのでこの辺で終了。

関連リンク:

• Streamlit: https://streamlit.io/
• Gradio: https://www.gradio.app/
• Panel: https://panel.holoviz.org/
• trame: https://kitware.github.io/trame/index.html
• Plotly Dash: https://dash.plotly.com/
• Tornado: https://www.tornadoweb.org/en/stable/
• FastAPI: https://fastapi.tiangolo.com/ja/
• PyVista: https://docs.pyvista.org/version/stable/
• Sphinx: https://www.sphinx-doc.org/ja/master/
• インタフェースデザインのお約束: https://amzn.to/3YKvxsN