同じ質問なのに、AIの答えが毎回違うのはなぜか。その理由のひとつ「温度(Temperature)」についてお話しします。AIが次の言葉を確率で選ぶしくみ、温度の上げ下げで何が変わるのか(織田信長の例)、名前の由来、温度0でも答えがそろわない理由、モデルごとの推奨値、そしてクラウドでは温度を変えられなくなってきた一方でローカルLLMなら手元で確かめられることまでをまとめています。冒頭では、Devinで軍艦島を探検する3Dを作った話もしています。
🕐タイムスタンプ
オープニング:AIの温度とは
雑談:Devinで軍艦島の3Dを作った話
本題:同じ質問で答えが変わるのはなぜか
温度は次の言葉のばらつきを決める設定
GPTのTはTransformer
スマホの予測変換のすごい版
次の言葉は確率のくじ引きで選ぶ
名前の由来は物理の温度
下げると近い候補、上げると遠い候補
例:「織田」の次に来る言葉
なぜばらつきを用意しているのか
温度0でも同じ答えにはならない
モデルごとのおすすめの温度
クラウドでは温度を変えられなくなってきた
ローカルLLMなら手元で確かめられる
まとめ
AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/
#Temperature #生成AI #ローカルLLM #AI活用
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c
🕐タイムスタンプ
オープニング:AIの温度とは
雑談:Devinで軍艦島の3Dを作った話
本題:同じ質問で答えが変わるのはなぜか
温度は次の言葉のばらつきを決める設定
GPTのTはTransformer
スマホの予測変換のすごい版
次の言葉は確率のくじ引きで選ぶ
名前の由来は物理の温度
下げると近い候補、上げると遠い候補
例:「織田」の次に来る言葉
なぜばらつきを用意しているのか
温度0でも同じ答えにはならない
モデルごとのおすすめの温度
クラウドでは温度を変えられなくなってきた
ローカルLLMなら手元で確かめられる
まとめ
AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/
#Temperature #生成AI #ローカルLLM #AI活用
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c
感想
まだ感想はありません。最初の1件を書きましょう!
スクロール