ローカルLLM
コストと性能検証を理由にゲーム実況で利用したローカル動作の大規模言語モデル
拡大するとさらに表示 · 0 本
ローカルLLMとは？今から触る理由と小さいモデルに仕事を分ける使い方
おちつきAI 短編集〜生成AIのポイントを短く解説〜ローカルLLMを使う意義について、クラウドサービスへの依存や料金、セキュリティの観点から話します。大規模モデルを何でも使うのではなく、特化した小型モデルを手元の端末で小さなタスクごとに動かす考え方が示されます。RTX 4070搭載PCでは、クエン3.5の9ビリオン級モデルが動くという具体例や、文字起こしへの利用案も登場します。さらに、O...
AIって金かかり過ぎちゃうん？をテイダンする。【初心者の疑問】
グダグダAI鼎談最近AIを業務に取り入れはじめた人事のヤマモトが、Claudeの有料プランを契約。ところが、午前中で上限に届いてしまう。AIに毎月いくら払っているのかをヒライとナカソネに聞いてみると、出てきたのは桁の違う金額でした。月5000円しか出せないなら、どのAIをどう使うのがいいのか。そして、2人の答えとは？ 出演: ヒライ（AIエンジニア）・ナカ...
#211 AI界からの刺客、「からあげ先生」襲来！！【コラボ】
ものづくりnoラジオ-しぶちょー技術研究所製造業で電子回路設計をしていたからあげ先生が、遺伝的アルゴリズムからディープラーニングへ転じた経緯や、DGX SparkでローカルLLMを動かす実例を語ります。フィジカルAIやヒューマノイドの普及障壁、ROSでルンバを動かすロボット入門についても触れられています。
#165 トルネコAI実況の遅延で学んだKVキャッシュの基本
からあげ帝国放送局トルネコの大冒険で初めて挑戦したAIゲーム実況について、xangi-avatarとローカルLLMを組み合わせた仕組みを紹介します。画面理解や音声での反応は動いた一方、長時間の会話履歴を単純に切り詰めたことでKVキャッシュが効かなくなり、実況が遅れていった原因を振り返ります。AIが修正を助けてくれる時代でも、基礎を知ることが問題発見と解決に...
#159 AstraとSolの使い分けから考えるAI組織のルール
からあげ帝国放送局Astraに切り替わったと思い込んでSolを使い続けていた失敗と、実際にAstraへ切り替えて感じた挙動やトークン消費量の違いを話します。高性能モデルには少ない制約を、安価なモデルやローカルLLMには細かなスキルやルールを与えるという使い分けを、会社組織のマネジメントになぞらえて考えます。 目次 00:00 オープニングと愛知の豪雨 01:07 Ast...
#1926. 今週も毎日更新！ --- ari さん＆ykagata さんの最新
【本・再放送】英語の語源が身につくラジオ (heldio)【今日のひとこと】 日々 note 発信を続けるコアリスナーの ari さん＆ykagata さんによるシリーズの開始！ 【ハッシュタグ】 #heldio #hel活 #乾杯 #note #ドイツ語 #オープンマイク #なぜさんたんげんカウントダウン #英子さんたんげん #英語教育 【参照URL】 https://note.com/_heartyfluid ▼パーソナリティ、堀田隆一（ほったりゅういち）の...
新型Mac mini M6がAI時代に欠かせない理由と買うべき対象者。
AIで仕事をサボるラジオAppleが発表したM6チップ搭載の新型Mac miniは、ニューラルエンジンの増設とGPUへのAI回路搭載により、AI処理能力が大幅に向上しています。本エピソードでは、AI開発者や重い作業を家庭で実施するユーザーへの購入を推奨しています。一方で、ローカルLLMの本格的な利用には、M5 Pro/Maxチップを搭載したMac StudioやMacBook Proの検討が適してい...
#146 AIと共作するライブパフォーマンスへの挑戦
からあげ帝国放送局DJやVJへの憧れを入り口に、自分が本当にやりたいのは電子楽器・生成AI・リアルタイム映像を組み合わせたライブ表現だと気づいた経緯を話します。ZOOM LiveTrak L6や手持ちの楽器、自作ソフトを組み合わせた配信テストから、AIに助けてもらいながら人間らしいライブ感を作る構想まで紹介します。 目次 00:00 オープニングとローカルLLMの近況 03...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…