オープニングと夏の終わり
こんにちは、Kanohです。
こんにちは、Takigawaです。
こんにちは、Masuokaです。
NOOP Tech Talkは、大阪のスタートアップ企業で働くKanohと、 京都のスタートアップ企業で働くTakigawaが、
テクノロジー周りの話題から脱線しがちな 雑談を楽しむポッドキャストです。
今週はMasuokaです。
今週もよろしくお願いします。
よろしくお願いします。
よろしくお願いしまーす。
4月がだんだん終わりに近づいてますね。
あれ、反応がない。
コメントがない。
コメントがない。
現実を直視しないパターンですか。
まあ、終わりに向かっているのは。
ね。
そうね。
なるほどね。
悲しいですが、夏が終わりです。
null²パビリオンとユニークな体験
去年のこの時期は、私は万博に行きまくってたせいで。
あ、自分で振った。
ああ。
そうそうそうそう。
なんか、やったらと。
いや、すごいんですよ。
この時期に万博に行くと、目の前で熱中症で倒れる人いるんですよ。
うん。
倒れる。
何回か見て、一回なんか倒れてそのまま敬礼してる人とかいたり。
ああ、怖い。
列並んでてそのまま倒れて、なんか周りから保冷剤とか投げ込まれてるとかなんかそういうのがあって。
意外と大変。
万博の思い出の話にしますか。
いや、それするとね、いろいろと長くなっちゃう。
それは長くなっちゃう。
めちゃくちゃ長くなる。
それは終了1周年の時にしますね。
終了1周年が9月の何だっけ、なんかそういうイベントあったりしますね。
いつまであれで儲けられるのかわかんないですけど、いまだにね、やっぱりいろいろやってる人がいて。
なんかちょうど先日、
それでスペシャルのほうが。
そう。
ぬるぬるってあったじゃないですか、おちあいさんの万博、あのパビリオン。
銀色のやつ。
そうそう銀色で鏡面体でなんかブルブル震えたり音が鳴ってるっていう、なんかひときわ目を引くパビリオンがあったんですけど、
あれがなんか他のところに移設するやつのクラウドファンディングやってて。
終わった直後に。
その終わった直後のクラウドファンディングの返礼品が実際に使ってた壁をもらえますっていう。
あの銀色のやつが。
面白そうだなと思って。
壁の話の前にいいですかね。
はいはい。
ぬるぬるって言いましたけど、よく知らないんで。
ぬるぬるって感じじゃなくて、NULLですね。
ぬるの異常みたいな。
何もないとかゼロっていうぬるのことですかね。
ゼロというか何もないというか、いわゆるぬるですよ。
ぬるポイントエクセプションのぬるですよ。
ぬるぬるの壁っていう名前なのかな。
パビリオンがあったんですかね。
ぬるぬるっていうパビリオンがあったんですよ。
ぬるの異常って書いて。
ぬるぬるだったっていうやつがあって。
で、そこのパビリオンの壁が鏡面の膜で覆われてて。
その鏡面の膜が風で揺れたりとか
後ろからスピーカーでブルブル震えてたりとか
棒で押されてペコンペコンしてたりとかしてたんですね。
一体このパビリオンの中で何があるかっていうのは
喋り始めると私もよく分かっていないので
一回ちょっとギリギリ入れたぐらいでしか見てないし
何がなんだかあれなんですけど。
その鏡面の膜でぬるなんですよ。
入れたんですね。ぬる。
一応入れたけど
簡易版でしか入れなかったんで
あんまり全部は見れなかった。
体験はできなかったけどですね。
滝川さんが今ちょっと
収録してるチャットのところに
めっちゃ面白いキャプチャーを取ったんだけど
これは普通でしょ。ベチパーなら
そうですね。この発想はなかった。
ベチパー失格かもしれないな。
滝川さんがやってくれたキャプチャーには
PHPでバーダンプでぬる×ぬるって書いてあります。
さあ問題です。
ぬる×ぬるは何になるでしょうか?
滝川さん正解は何でしょう?
イントのゼロと出てますね。
これイントのゼロになるんだね。
そりゃそうか。
×の演算子が入ってたらゼロとして捉えられるのか。
そうですね。×が来た時点で
左側のぬるがゼロになるのかな。
ぬる×ぬるがキャストされて
なるほど。
というぬる×ぬるですけれども
これバンパー期間中にTwitterに投稿したかったな。
そういうぬる×ぬるというパビリオンがあって
周りが銀幕で覆われていて
銀幕とか鏡面の幕が
クラファンの返礼品になっており
申し込んでもうそろそろ1年半とした
もうちょっと経つかみたいな感じだったから
どうなってるのかなと思ったんですけど
ついこの前届きまして
こんな感じって言ってまたね
ゲストで画像を見せるっていう
結構綺麗な面ですね。
意外とそうなんですよね。
でもよく見たら傷が入ってて
飾られてたときの?
そうそう。
屋外にあったからも傷がついてて
ちゃんとその場にあったときのようですみたいな
こういうカードになってるんですけど
後ろも全面。
柔らかいんですか?硬いんですか?
意外とね。意外と硬い。
見た目よりアルミホイルみたいな
薄そうに見えるんですよ。
結構ね、ペコペコするけど
意外と硬いんですよ。
アルミホイルよりは厚みがある。
そういう材質だったんですね。
現地では触るの禁止だったんでね。
触りやすいところにあるところから触らないでくださいって書いてあった。
へー。
意外と。
いくらだったんですか?クラファンは。
それね、夢に黙ってる。
あ、やめときましょう。
なんかツイッターでクラファンしますみたいなの見かけたんですよ。
投稿時間が1時間してなかったんですよね。
今申し込んだら
今何も考えずに申し込んだらめっちゃ最初の番号取れると思って
最初の番号が何かになるかわからなかったし
しかも実際書いてなかったから何の意味もなかったんですけど
200人ちょっとぐらいのところで取れたんで
数千人募集してて結構早めに取れたなと思ってたんですけど
特にそれでいいことがあったわけではないですね。
その時にそういうことしか考えてなかったんで
値段は実際はちゃんと覚えてねーっていう。
けど安くはなかったのを覚えてる。
はいはいはい。
意外とそれなーって調べたら多分出てきます。
なるほど。
意外とこれね、夏場は反射光がすごくて
あの辺だけ気温が高かったらしいです。
おー。
なんか一回この話をするとめっちゃなんかディープな話になっちゃうけど
オタマトーンって知ってます?
あーわかりますわかります。
フニャフニャするあの楽器。
あれの開発元の人が
一人でバンドみたいなことをやっていらっしゃる方なんですけど
あの人がぬるぬるの前でおちあいさんと一緒にコンサートするみたいな
突発イベントがあったんですよ。
へー。
で、その人はなんかそのコンピューター制御でいろんな楽器をなんか自動演奏とかなんかいろいろするっていうパフォーマンスをする方なんですけど
ぬるぬるの反射熱でやられてコンピューターが熱暴走して途中で音楽が止まるっていう
アクシデントだ。
アクシデントがありましたね。
へー。
それがプロなんでそのまま続けてましたけど。
はいはいはい。
ちなみにYouTubeでその時のライブ映像が残ってるんで映像が聞いたら結構面白いです。
ほとんどネタに振られてるんでめっちゃ面白いです。
という雑談をしたところで
PyTorch入門とLLM学習の進捗
テーマトークの方に行きましょうかね。
はい。
えーっと
テーマトークはこれかな?
これは?
パイトーチ。
パイトーチ?
パイトーチですね。はい。
パイトーチを最近触って
仕事に関係してっていうことではないんですけど
趣味でちょっと触っているっていう話ですね。
パイトーチってそもそも何ですか?
パイトーチは
もともとあった
テンソルの計算をできるようなライブラリなんですけど
テンソルっていうのがベクトルの
多次元バージョンみたいなものになるんですけど
それの計算をよくやるのが
機械学習だったりディープラーニングだったりするので
そういったものがやりやすくなるような
パイソンのライブラリでして
これなんでやってるかと言うと
26回の時に話したLLM本を
まだちまちまやってるんですけど
なかなか
パイソンとか機械学習
パイソンは別に分かんなくても
ソースコード見たらいいんですけど
そもそも機械学習分かんなすぎて
内容が入ってこないなっていうので
パイトーチを勉強してから
読み進めようかなというので
最近変わっているという感じですね
なるほど
LLM本を読み始めたっていう話をしてたのが
回で言うと26回ですか?
26回
今回があれですね
何かの組み替えがなければ32回
何かの組み替えがなければって言っておかないと
このPodcastは不意に回が変わることがあるんで
そうですね
26回も気になる方は聞いてください
なるほどな
ベクトル計算とかそういうところなんですね
今調べてたらもともとはFacebook
メタが開発したのか
そうなんですね
分かんないというのもジェミニさんの言うことなんで
ちゃんと見ないといけないですけど
これ触るって
これを触って一体何を具体的には?
このLLM自体が
文章の次の単語を予測するプログラム
プログラムというか予測モデルなので
何がしかインプットがあってアウトプットが
予測できるみたいなものが作れればいいですよねと
そういったモデルを作るのが
そもそもは機械学習の領域で
LLMとかの前は機械学習
多分いろいろな用途があると思うんですけど
よく例に挙がるのはただの画像認識だったりとか
迷惑メールのフィルターみたいなのがある
迷惑メールはその
メール本文とこれは迷惑メールですっていう
01の値があってそれを学習させるわけですね
今度は学習データに含まれていないメールを見せて
正しくこれは迷惑メールだねと
これは迷惑メールじゃないねって振り分けられたら
そのモデルはOKですというか
役割を満たしてますみたいなことができると
そういうモデル
何かのインプットから何かのアウトプットを
予測したりとか導き出すみたいなものを
とりあえずはグルっていうので触っている
意外とそれってマシンスペックと計算量とかなくても
簡単なものだったら自宅のPCできちゃったりするんですかね
そうですねなんかマックで普通に
CPUでやっているので割と終わる
普通の時間で終わったりとか
あとは知っている方は知っているかどうしても
グーグルのコラボ
ジプタノートブックを置けるサービスなのかな
ジプタノートブックっていうのが
そうですね
ソースコードとかメモ書きみたいなのを作れる形式で
なので最近は割とジプタノートで
コラボ内でやることが多くて
そこだとGPUとかも使えるんですよ一応
無料で
無料で使えて
画像認識のよく使われる
MNISTっていうやつが
ハローワールドと言われているやつがあって
機械学習のハローワールドみたいな
あって最近
最近というかちょうど昨日ぐらいにそれを
作業しながら
どうなってるのかみたいなのをやってたっていう
進捗ですね
LLMの理解と未来のAIエンジニアリング
どれぐらいのインプットでどれぐらいのものが出てくるのかなって思ったんですけど
それがMNISTの
今見てるところだと数字認識とかそういうのができるのか
これ数字の画像のピクセルデータが入ってるっていう
データセットになっていて
6万個で学習させたやつを1万個でテストして
その1万個の方の正等率みたいな正解率が
モデルの質みたいなところに最終的にはなるっていう
ものですね
なるほどね
ローカルLLMというよりはそういうところの基礎的な
ちっちゃなところから試して内容を理解していくみたいな感じですね
そうですねこれを見てやっと
ローカルLLM自作本の最初の方に書いてあったコードで
ここで何やってんだみたいなのの意味が多少分かってくるみたいな
やっぱり寄り道してちょっと良かったなみたいな感触がありましたね
すごいな今話聞いてて社教って話が出てきたから
そうだ社教っていう文化を久々に忘れてたなっていうのがちょっと
最近書いてもらうんじゃないですか
LLMに社教とかってやっぱ重要なんだな家庭の理解とかってやっぱり深まりますよね
そうですねだからよくここの数字をちょこちょこ変えてみて
結果がどうなるか見るみたいなのがそれで結構社教の感覚を思い出しましたね
もう久しぶりで
そうですよね
しばらくしたら社教なんてなくなるのかな言葉が
そうなんですかね
社教とのレイヤーが上がるみたいな
特徴が上がるプロンプトというか
プロンプトの方社教するようになるのかもしれないし
かもしれないですね
そうですね
なんかそのLLM作本でやってみると
なんかまぁLLMってこういう性質があるんだなとか
なんか今って結構まぁLLM万能なんじゃないかみたいなのが
多分世の中的にはとか
まぁいろんな活用方法が模索されている段階だと思うんですけど
とかとはいえこう老いたちがこうなんだから
こういう使い方は向いてるよね向いてないよねみたいなのが
まぁ分かっているのと分かってないので
だいぶこう活用する側の視点にも
生きてくるんじゃないかなと思っていて
そういうのが考えられるといいなって
まだ全然終わってないんですけど
思っています
あんまり批判するわけじゃないですけど
中にはAIっていうのはもう万能なんだみたいなこと言って
我々は私でもなんか若干の知識で
その次に来る言葉を確率で求めてるだけだから
信用しちゃあかんぞみたいな
なんかあるんですけど
なんかその辺も分からず
妄心してる人がたまにいると
やっぱりちょっと基礎は分かっていた方がいいのかなみたいな
ただとはいえ私もそこまで分かってるわけじゃないんで
やっぱりそういうところでちょっと
もうちょっと基礎になるところというか
どうやってやってるのかみたいなとか
分かってくるときなのかもしれないですね
そうですね
逆に次の単語を予測することによって
こんなに考えてるっぽいような動作とか
厳密には多分もっとこう
いろんなことをやってるんで
当初あったようなプレーンな
次の単語を予測するっていうモデルじゃなくなってきているっていうのは
確か聞いたところにあるんでしょうけど
とはいえそういうのを
次のをどんどん予測していくっていうことで
あったかも考えているかのようなというか
それが考えるってことなのかもみたいに思うぐらいには
そういう出力が出てくる段階になってきてるっていうのも
また一面の事実で
それはまたすごいなと思います
そうですね
前もこのポッドキャストで触れましたけど
じゃあ自分はちゃんと考えてるのかって思ったときに
あんまりエリウムと変わらんなと思ったりもするんで
自分だって次に来そうな言葉並べてるだけだろって
今もねちゃんとそういうモデルがあって
その中でちゃんとループ回して
うまいことしたものの抽出物が我々のところに届いてるはずだから
その分LLMの方が賢いんじゃないかって思うんで
そうですね
とかやっぱり推論っていうんですかね
LLMからすごい論理的に考えてるみたいなのを出力しようとしたら
やっぱメモリ食うよねみたいな
それはそうだよねみたいな感覚も
いいですね
普通に使ってたらそこ忘れがちなんだよね
後出てくるでしょみたいな
そうだからクロードコードとかAPI越しで使ってたら全然分かんないですけど
相当でかいやつを1回メモリにポンって乗っけて
これでインプットとアウトプットがあるっていう話なんで
全然それは分かんないけど
何次元配列ですかみたいな世界ですもんね
そうそうまさしくバカデカな行列でみたいな
3次元を超えたあたりからもう私は想像ができなくなっちゃうから
ちょっとつらいなと思うんですけど
そういう世界になってますもんね
そういうところ分かっておくべきなんだろうな
というところでこれも引き続き終わった頃にまた
LLM自作
LLM自作入門の度々出てくると思うんで
どうなんだろうなこの先そういう知識は必要になるんだろうなきっと
そうでしょうね確かにファインチューニングするとかってなると
やっぱり性質が分かんないとみたいなのはあるかもしれないですし
エンジニアリングの対象にモデルというかAI自体がなってくる
AIをどう作っていくかみたいな風になっていく流れもあるんでしょうね
それこそ松岡さんが最近触っているというローカルLLMとか
ああいう方が進化したら多分研究対象はそっちになるんでしょうね
ちょっと待ってくださいね今日閃いたんですけど
2人が喋ってる間にログとかリンクをまとめておくと
パッと公開できるなと思って
さっきから台本に増えてるんですね
急に振られてるんでびっくりしました
台本にどんどん増えてるなと思って見てるんですね
すいませんメタ展開になりましたけど
普段聞き直しながらリンクを貼っていくんですけど
今ちょっと閃きまして話してる間にリンクを貼ると
っていうのをちょっとやってしまいました
すいません
話の流れって何でしたっけ本当に
何だっけ
ローカルLLMの話題になった
ローカルLLMはですねローカルLLMって発音しづらいんですよ
LLMが元々そうですねローカルLLM
そこまでですか
すいません広がりませんでしたね
エンジニアリングの対象が徐々にAI自身になっていくのであれば
ローカルLLMとかで
ほんまに言いづらいなローカルLLMとかで
そういうのを調整していくとか
ファインチューニングしていくみたいなことが
障害的に起きてくるのかなっていうような
そうなると竹谷さんが今やってるような
基礎の知識っていうのを持ってる人の方が勝つのではないか
ソフトウェア開発者が直接チューニングするっていうのは
ないんじゃないですかね
ないっていうかあるにはあるんでしょうけど
今すごい適当になんていうか乱暴な言い方ですけど
今ソフトウェア開発でソフトウェアをプログラミングとして書いてる
いや言い切るとおかしいな怒られそうな
普段プログラミングを書いてる人は
これ前回の話だったっけ前回
クロードデスクトップの話をしましたっけ
したじゃないですか
ああいう感じのアプリケーション側から
チューニングするようになるんじゃないですかね
スライダーでピヨーンとかやったりとかして
ちょっと調整みたいな感じに作り込まれていくと思いますけど
ローカル側でも
その時のピヨーンっていうつまみの意味がわからないと
どうしようもないですよね
それはあるかもしれないですけど
その辺も
なんと表現すればいいんでしょうね
カプセル化というか
抽象化されていくんじゃないかなっていう風な感じには
認定されていく感じはしなくてもないですね
ローカルで作るとしてもそういう感じになって
なんか表現がちょっとおかしいんですけど
いやダメだこれ
世代の話になっちゃう
コンテンツマネジメントシステムっていうやつがあるじゃないですか
CMSですね
ああいうのが出始めた頃に
やめとこう
便利になるよね
ローカルでも
CMSが出始めたときに
アプリケーションみたいになっていくと思いますよ
設定っていう画面を開いたら
ピコピコってやるといい感じになると思いますよ
その辺のファインチューニング的なやつも
でもただ今はハードウェアが追いついてないというか
ハードウェアの供給とかそういう生産とかが
ソフトウェア側のリソースとか
求めてることに対して追いついてないので
そういう未来がなかなか来ない状態になってるけど
ハードウェア側のリソースが満たされるというか
十分になってくれば
ソフトウェア側で
割と簡単に
チューニングしてくれるような
未来になるんじゃないかなとは思うんですが
なるほど
その辺ですら
僕に触れたフワッとした話になりますよ
そこですら人間がやるんじゃなくて
設定もAIがやってくれるから
フワッと言えばいいみたいな
ただそこまでするには
そこまでする技術者がいますけど
ソフトウェアを作っている立場の人は
そこまで
そっち側の方まで行くのか
今現状のまま
そっちが使いやすくなってくる方が早いか
じゃないかみたいな気はありますけど
ソフトウェアを作っている側が
もっと深いところまで
入り込んでいこうとするのと
よりも
技術側の方が進歩が早くて
使いやすくなるっていう速度の方が
早いんじゃないかみたいな気はして
大衆に向けて一般的にインペースするのは
全然ありそうです
GitHubコパイロットだったかな
コードレビューのところで
レビューの深さとして
F4とレベルっていうのを用意してるんですよね
パッと聞いたときにF4とレベルって何やねん
って私は思うわけですよ
すごい抽象化されてて
実際何かわかんないけど
ガンバリドみたいな
そういう感じのインペースの仕方をされてるから
ガンバリドを指定できるんですかみたいな
多分そういうことですよね
そういう感じの
GitHubコパイロットの
F4とレベルっていうのがあるんですよ
トークン買う代わりに
精度が良いなのか
いっぱい質差を出してくれるなのか
質差とかしてくれるみたいな
多分F4と
F4とって
どれくらい頑張るかみたいな
そういう言葉でしか言えないけど
そういう隠蔽のされ方をしていくんだろうな
っていうのを今聞いて
そういえば今も既にそうかなって思いました
そうなんだろうな
これも全然ね
普通にAIちゃんと追っかけてる人からしたら
中国当たり前の名前なのかもしれないですけど
やっぱ話の流れだと
資料探すのがすごい大変だ
話しながら
全然ダメだ
GitHubコパイロットとF4とレベル
F4とレベル
F4とレベルです
GitHubコパイロット
普段使ってないやつは調べるのが難しいな
これですか
ありがとうございます
私もちゃんと使ってないので
そういうのがあるっていうのを
知ってるだけなんですけど
会社にそういうのをちゃんと調べて
発信する担当の人がいまして
毎朝こういう最新情報を拾ってきて
行ってくれるんですよ
その中で拾ってくる時点です
と言いながら
なかなかいいお時間になったので
エンディングとイベント紹介
エンディングの方に参りましょうか
まず今回の気になるイベント勝手に紹介コーナーは
8月29日かまたである
オープンデベロッパーズカンファレンス2026
というのがございます
開発者の今を伝えるということで
インフラエンジニアの交流の場ですね
なるほどね
DevOps開発開発者とか
その辺りがキーワードだそうです
次
ゴーファスレイヤー
京都ですね
豪快でゲームを攻略
ゴーファスレイヤー
ゴーファ君の絵が描いてあるコンパスがありますけど
こちら8月30日日曜日1時から18時ですね
場所は?
場所京都なのこれ?
場所京都ですけど
まだ決まってないか
参加者向けだけに公表されるのか
どっちか
なるほど
言ったらいけない情報だったら
皆さん聞かなかったことにしてください
次
ドロイド会議が9月1日から3日
渋谷でありますね
こちらも東京の方
ぜひご興味ある方はお願いします
サイトがすごく緩い感じで可愛い
このイラスト好き
この次が9月4日金曜日
W3Cって読んでたっけ?
W3Cって読んでたっけ?
まだW3Cで
W3Cジャパン30周年記念イベントだそうです
WebTogether
こちらも気になる方は
ぜひ場所はどこだ?
こちらはサイボーズのオフィスさんですね
サイボーズさんのオフィスですね
今サイボーズのオフィスさんって言ったね私
何かが逆になっていた気がする
聞かなかったことにしてください
大阪ではそうなんですよ
大阪ではそうなんです
そうなんですよ
大阪ってのは常識なんだ
プロダクトエンジニアリングカンファレンス2026
というイベントがございます
こちらが9月5日ですね
中野セントラルパークカンファレンス
ペチパニオおなじみのところですね
で行われます
こちらもよろしくお願いします
最後XP祭りがある
9月5日横浜で開催とオンラインがあります
横浜のどこなんだろうな
横浜のどこなんだろうな
分からないけど横浜であるらしいです
あとはオンラインかな
ビビルドバトルLT参加
申し込みがまだやっているので
興味がある方はお願いします
横浜の三菱電機の会社のオフィスで
イノベーションハブっていうのがあってですね
時々イベントスペースとして
出るような場所があります
興味がある方はぜひお願いします
以上かな
何か言い残し事がなければ終わりますけど
大丈夫ですか
じゃあ終わりましょう
今回の配信はここまでです
このポッドキャストノープテックトップの感想は
ハッシュタグNOOPTT
ノープティーティーで
Twitterメッセージ2でポストお願いします
最後までお付き合いいただきありがとうございました
また来週
さよなら