ローカルLLM
コストと性能検証を理由にゲーム実況で利用したローカル動作の大規模言語モデル
拡大するとさらに表示 · 12,005 本
100: 人生2回目の産業革命 (hanhan1978)
趣味でOSSをやっている者だゲストのhanhan1978氏は、健康管理やローカルLLM・画像生成AIの実践、技術書の読み方について語りました。後半では、AIを早期導入した組織での活用やClaude CodeによるPoC、リモートワークの情報格差対策を扱いました。インターネット革命とAI革命を同時代に経験する感覚や、日本のソフトウェア開発への期待も述べられました。
#165 トルネコAI実況の遅延で学んだKVキャッシュの基本
からあげ帝国放送局トルネコの大冒険で初めて挑戦したAIゲーム実況について、xangi-avatarとローカルLLMを組み合わせた仕組みを紹介します。画面理解や音声での反応は動いた一方、長時間の会話履歴を単純に切り詰めたことでKVキャッシュが効かなくなり、実況が遅れていった原因を振り返ります。AIが修正を助けてくれる時代でも、基礎を知ることが問題発見と解決に...
#159 AstraとSolの使い分けから考えるAI組織のルール
からあげ帝国放送局Astraに切り替わったと思い込んでSolを使い続けていた失敗と、実際にAstraへ切り替えて感じた挙動やトークン消費量の違いを話します。高性能モデルには少ない制約を、安価なモデルやローカルLLMには細かなスキルやルールを与えるという使い分けを、会社組織のマネジメントになぞらえて考えます。 目次 00:00 オープニングと愛知の豪雨 01:07 Ast...
#104 職人芸に少し思いを馳せた回
Replay.fm今回のエピソードでは、AIを活用したフォレンジック調査の可能性と限界について議論しました。特に、ローカルLLMを用いてフォレンジック調査を進める「フォレンシアプロジェクト」に言及し、AIが情報整理や収集は得意とするものの、意思決定や分析といった高度な部分は人間が担当する方が良いという結論に至ったことが語られました。また、AIが...
#1926. 今週も毎日更新！ --- ari さん＆ykagata さんの最新
【本・再放送】英語の語源が身につくラジオ (heldio)【今日のひとこと】 日々 note 発信を続けるコアリスナーの ari さん＆ykagata さんによるシリーズの開始！ 【ハッシュタグ】 #heldio #hel活 #乾杯 #note #ドイツ語 #オープンマイク #なぜさんたんげんカウントダウン #英子さんたんげん #英語教育 【参照URL】 https://note.com/_heartyfluid ▼パーソナリティ、堀田隆一（ほったりゅういち）の...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…