1. いっかくのAI仕事術チャネル
  2. ローカルLLMの7B・26Bとは?数..
ローカルLLMの7B・26Bとは?数字でPCに乗るか分かる
2026-11-11 15:56

ローカルLLMの7B・26Bとは?数字でPCに乗るか分かる

おたよりを送る
ローカルLLMのモデル名に付く「7B」「26B」の意味を、やさしく解説します。Bは10億のことで、7Bならパラメータが70億個。この数字が読めると、自分のPCで動くかの見当がつきます。4ビット版なら「Bの数字の半分」がギガバイトの目安になること、Gemma 4の「26B-A4B」や「8x7B」といったMoE型の見分け方、仕事でのモデルの選び方、環境構築をCodexやClaudeに任せるコツまでお話ししています。冒頭では、GMOあおぞらネット銀行のAPI一時停止にも触れています。

🕐タイムスタンプ
オープニング:7B・26Bってどういう意味?
本題の前に:GMOあおぞらネット銀行のAPI一時停止
今日のテーマ:モデル名の数字の読み方
結論:Bは10億、7Bならパラメータ70億個
Bはビリオン:7B・26B・70Bの読み方
パラメータとは何か
辞書の厚さにたとえると
大きさごとのざっくりした感覚
Bの数字から必要なメモリが分かる
4ビット版はBの半分のギガバイト
実際のファイルと、動かすときのメモリ
「乗る」と「快適」は別
B以外の数字:Gemma 4 26B-A4B
A4BはMoE型の目印
8x7BとQ4・4bitの意味
読み方のコツ
仕事ではどう選ぶか
選ぶ順番
分からなければClaudeに聞く
環境構築はCodexかClaudeに任せる
遅いときはMoE型、次に量子化を軽く
Dense型のQwenで秒間10トークンだった話
まとめ

AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/

#ローカルLLM #パラメータ #量子化 #AI活用
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c

感想

まだ感想はありません。最初の1件を書きましょう!

15:56

コメント

スクロール