ローカルLLM
機密データを外部に送信せず、PC上で大規模言語モデルを実行する環境とその利点・選定方法。
拡大するとさらに表示 · 0 本
ローカルLLMとは？今から触る理由と小さいモデルに仕事を分ける使い方
おちつきAI 短編集〜生成AIのポイントを短く解説〜本エピソードでは、ローカルLLMの意義や小型モデルを活用する具体的な方法について解説しています。RTX 4070搭載PCでの動作例や、OpenCodeおよびLM Studioを用いた環境構築の手順についても触れています。
AIって金かかり過ぎちゃうん？をテイダンする。【初心者の疑問】
グダグダAI鼎談最近AIを業務に取り入れはじめた人事のヤマモトが、Claudeの有料プランを契約。ところが、午前中で上限に届いてしまう。AIに毎月いくら払っているのかをヒライとナカソネに聞いてみると、出てきたのは桁の違う金額でした。月5000円しか出せないなら、どのAIをどう使うのがいいのか。そして、2人の答えとは？ 出演: ヒライ（AIエンジニア）・ナカ...
#211 AI界からの刺客、「からあげ先生」襲来！！【コラボ】
ものづくりnoラジオ-しぶちょー技術研究所製造業で電子回路設計をしていたからあげ先生が、遺伝的アルゴリズムからディープラーニングへ転じた経緯や、DGX SparkでローカルLLMを動かす実例を語ります。フィジカルAIやヒューマノイドの普及障壁、ROSでルンバを動かすロボット入門についても触れられています。
#165 トルネコAI実況の遅延で学んだKVキャッシュの基本
からあげ帝国放送局トルネコの大冒険のAI実況で、KVキャッシュの仕組みを誤解していたため遅延が発生した体験談を共有しています。トークン数が増えるとキャッシュが効かなくなる原因と、要約によるコンパクションの重要性について説明しています。
ローカルLLM活用術：ローカルLLM導入完全ガイド2026：選定と機密保護
高見知英のAI音声解析チャンネル機密データ保護を目的に、クラウドAIからローカルLLMへの移行が加速している現状を解説しています。ローカルLLMの選定にはVRAM容量、タスク適合性、ライセンスの3つのゲートが重要であり、Qwen 3.6-27BやDeepSeek-R1が推奨されています。
#159 AstraとSolの使い分けから考えるAI組織のルール
からあげ帝国放送局OpenAIの新モデル「Astra」は性能が高い一方でトークン消費量が大きく、従来の「Sol」よりコスト面で注意が必要です。賢いモデルには厳密なルールが邪魔になり、安価なモデルには制約が重要であるため、AI組織では使い分けとルール設計が課題となります。
#1926. 今週も毎日更新！ --- ari さん＆ykagata さんの最新
【本・再放送】英語の語源が身につくラジオ (heldio)【今日のひとこと】 日々 note 発信を続けるコアリスナーの ari さん＆ykagata さんによるシリーズの開始！ 【ハッシュタグ】 #heldio #hel活 #乾杯 #note #ドイツ語 #オープンマイク #なぜさんたんげんカウントダウン #英子さんたんげん #英語教育 【参照URL】 https://note.com/_heartyfluid ▼パーソナリティ、堀田隆一（ほったりゅういち）の...
新型Mac mini M6がAI時代に欠かせない理由と買うべき対象者。
AIで仕事をサボるラジオAppleが発表したM6チップ搭載の新型Mac miniは、ニューラルエンジンの増設とGPUへのAI回路搭載により、AI処理能力が大幅に向上しています。本エピソードでは、AI開発者や重い作業を家庭で実施するユーザーへの購入を推奨しています。一方で、ローカルLLMの本格的な利用には、M5 Pro/Maxチップを搭載したMac StudioやMacBook Proの検討が適してい...
#146 AIと共作するライブパフォーマンスへの挑戦
からあげ帝国放送局本エピソードでは、AIと組み合わせてDJやVJのようなライブパフォーマンスを実現する挑戦についてお話ししています。Zoom L6や小型楽器などの機材を組み合わせ、生成AIでリアルタイムに音や映像を生成しながら、アナログ的なライブ感を重視した演奏スタイルを目指しています。最終的にはYouTubeライブから始まり、紅白出場やミリオンヒットを達成...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…