00:01
TimeTreeTechTalk始めたいと思います。いつも ながらTimeTreeCTOのスコットがモデレーター
っていうんですか、やりながら やっていきたいと思います。モデレーター
でいいんですかね、これね。今日は TimeTreeでのLLM活用事例ということで
ノイをゲストにいろいろ話して もらいたいなと思っております。
ノイよろしくお願いします。
よろしくお願いします。iOSエンジニア のノイです。
はい、iOS。今 普段はTimeTreeの公開カレンダー の開発を今やっていただいているので
よかったですかね。
そうですね。
そんな中 今 社内で自立プロジェクト という仕組みがありまして プロダクト
のためになるというものを自立 的に動いて メンバーを集めてやって
いくというプロジェクトの中で ノイ はTimeTreeにおけるLLMの活用という
のをテーマにしたプロジェクトを やっていただいています。ノイに
どんなものなのか、どういうもの を作っててどういう機能なのか
みたいなのを簡単に説明してもら ってもいいですか。
はい。TimeTreeでは画像から予定を作成 するという機能を作っていまして
そこでLLMの活用をしています。
あれですね。
画像からの解析はOCRをiPhoneの OCRを利用して読み出していて テキスト
をちゃんとGPTに投げて 予定化データにしてもらうっていう
仕組みがあります。
なるほどですね。TimeTreeのマンスリー の画面の真ん中の作成っていう
ボタンを押してもらうと アルバム から作成とか カメラから作成っていう
メニューがあって ベータって書いて ありますけど これiOS Androidもある?
現在はiOSのみの開発
現在はiOSのみですね。
はい。
Androidはもう少々お待ちいただく 必要があると思うんですけれども
iOSの使っていただいている方は その真ん中のプラスの作成ボタン
を押していただくとメニューが 出てきて アルバムから作成っていう
のを押してもらうと 先ほどのノイ が言ってくれたように OCRにかけた
データから予定を抽出するという ところでLLMを使ってますよという
話ですね。
これどうですか 作ってて
いや 時代は進んでいくんだな っていうふうに思っていて
まさか自分 プログラムを組まなくても 好きな文字が取り出せるっていう
03:00
時代になるとは思うんですけど
確かに この手のネタ 実は結構 昔からあって
正規方言でバキバキにやるっていう
力技を それこそ2020年代ぐらいから ネタとしては確かあったんですよ
2020年の最初とか2021年ぐらいから かな
で だらだらしていたらLLMっていう のが出てきて しかもそっからいい
感じに予定を取ってこれると 正規方言書かなくていいと
そういう感じでトントン拍子に 話が進んで 機能が実装されてました
ね これってどれぐらいかかったん ですか プロジェクトの発足から
今もプロジェクトは続いてるわけ ですけど 実際リリースまでって
どれぐらいかかったんですか
そうですね 実際 開発着手してからは 1ヶ月ぐらいで
1ヶ月ぐらい 早い
早い
はい APIに乗っかっているっていう のと iPhoneもOCRが既存の機能っていう
のを利用しているので スムーズ な開発ができたという感じになって
ます
なるほどですね プラットフォーム の力をフルに活用して作って
はい
素晴らしいですね 実際 作ってみる 中で苦労した点っていうか リリース
するまでのところでつまずいた 点ってどういうのがあるんですか
動くものは基本的にすぐ作れた っていう感覚ではあるんですけど
やっぱり規約周りとか扱っていい 情報というものを精査してどう
やって進めていっていいのかっていう のが 検討がついてないとか実績
がないところからやらせていただ いていたので そこは難しかった
かなと思ってます
なるほどですね そうですよね オープン AIでしたよね リリース
したときはね
はい
じゃあ ちょっと一方で リリース してからの 何ていうか課題感みたい
なのって どういうのがあったのか 教えてもらってもいいですか
シンプルに画像から作れるっていう だけでもすごかったんですけど
それからはやっぱりもっと早い と嬉しいなっていう課題感に悩
まされてました
パフォーマンス なるほど
どうしても遅くなるな 遅いなって 感じのが 処理してから3秒1を経つ
というふうに言われてるっていう のを見たことがあって
はい
どうしてもその壁は越えられない っていうのがあったんですね
じゃああれか ユーザーさんが画像 から作成っていうボタンを押して
06:01
から3秒 3秒か 外部のAPI投げる のに結構厳しいですね
どうしてもそこで難しい画像だと さらに遅くなってタイマー突破
したり
なるほど ちなみに難しい画像って どういうものがあるんですか
予定が 今は1個しか抽出できない ようになってるんですけど 複数
の日付が散りばめられていたり とか
そういうこと じゃあ学校のプリント とかだとよくありそうですけど
そういうやつも結構難しい部類 に入ったりするんですかね
大きい これが予定だという日付 が分かりやすい場所にあれば 割
と早いんですけども やっぱり何 十個もいうような表形式の場合
だと時間がかかることが多いですね 実験の最中だと
なるほどですね じゃあ でもまさに あれですよね 画像でパパッと
何ていうか予定を入れたいっていう 人のニーズってそこにあると思
うというか めっちゃ山ほどある ところをパッと入れたいっていう
需要があるところがあるところ でパフォーマンスが出ないっていう
問題があったと ちなみにパフォーマンス に対する課題に対して今取り組んで
いることとか やったこととかって ありますか
はい そこでちょうど先月ぐらい にGlockという新しいNLMサービス
を出してるところにAPIを使って みると 爆速で処理できることが
分かりました
新しい じゃあ オープンAIではない ところ
はい
ですね
Mixtralというモデルが 自分たち がやっているCCIの処理と相性が
良かったのか 今まで3秒以上かか ってたのが 1秒台までローカル
で動かしてるような速度 もしかして ユーザー数の関係で速いっていうことも
なくはないかなとは思ってはい るんですけど 現状Glockは2倍の速度
で ちゃんとGPT Turboと比べても その速度を維持してるっていう
これでもう本番に入ってるんですか ね
はい そうですね
じゃあ もう皆さん利用できると IOSの方だけですけど ちょっと
IOSのユーザーさんだけですけど これってちなみにどうやって見つけ
たんですか
これはツイッター いや ツイッター じゃなくて Xですね Xで
そうですか 旧ツイッターね 旧ツイッター 僕ももうツイッター
って言うんですけど さっきも言った かもしれない Glockのツイッター
09:03
もうおじさんなんで もう名前を 変えられるとついていけないんですよ
あとはPDMのAnjuがやってみないか っていう
そういう提案が
提案がありました 確かに試してない なと思って
ちなみにちょっと定番の質問して みたいんですけど でもお高いんでしょう
っていうのは大丈夫だったんですか
オープンAIのチャットGPTの時点で そんなに高くなかったんですけど
またその値段も半分ぐらい
すごい お高いんでしょうじゃないんだ 早いのに 早いやすいなんだ
なんでだろうって
そうですね どうやって
この価格競争は何なんだろうって
チップからやってるみたいな 強みがあるんですかね
使い方がもっとお金かかる使い方 があるのかもしれない
確かに 実際 生成AIをこういう ふうにプロダクトに入れていく
っていうのって なかなか難しい ところだと思うんですけど それ
こそハルシネーションとかある中で こういうふうにタスクを絞らせて
ハルシネーションを防ぎつつ まさに実装コストを抑えてみたいな
ところもあったと思うんですけど そういうことができる実践の一つの
例として すごく面白い例だなと思って 見てました
この先の展望っていうか このプロジェクトの展望みたいな
ものって聞いてもいいんですかね
こういうことやっていきたいぞ みたいな
もちろん今も複数で撮れないっていう 部分もありますので スケジュール表
だったり 流し込むだけでタイムツリー に全部入るのをやりたいし やって
いきたいし もっと自然言語でタイムツリー と対話して予定作れるように
いいですね 確かにインターフェース がもうちょっと人っぽくなると
より使いやすさのっていうところ も出てくるというとこですね
なるほど そうですね でも複数 撮れるようになると あれですね
アナログで管理してる人は歓喜 でしょうね
ということで ノイとプロジェクト やってるメンバーとマックス
あとアンジュですね その3人を応援 して あとハルもいるんだっけ
そうです Androidも開発中になってます
Androidも開発中になってます
いるので そのメンバーを応援 して便利な世界になって 作って
12:00
もらえればなと思っております じゃあ 今日はこんなところかな
ノイ 今日は突然お呼び立てして 喋らせて
いえいえ
あれでしたけれども ありがとうございました
ありがとうございました
はい
