【サブスク不要】ローカルLLMはどこまで実用になったか検証した件 - ギリギリ開発会議 by ボイスアップラボ - LISTEN

ギリギリ開発会議 by ボイスアップラボ
【サブスク不要】ローカルLLM..

ローカルLLMがどこまで実用になったのか、Macで検証した回です。

医療や法務はクラウドにデータを出せず需要が伸びています。実測値をもとにエミュレーションすると167万円のMacは7秒、30万円のMacは41秒。精度はどちらも十分でした。

■ ボイスアップラボ株式会社 ■
👉 https://voiceapp-lab.com
・AI導入のご相談
・各種開発業務のご依頼
・Youtubeチャンネルについてのお問い合わせ
なんでもお気軽にお問い合わせください！

#ローカルLLM #AI #生成AI #MacStudio #Macmini #DGXSpark #オープンウェイト #個人情報 #ギリギリ開発会議

感想

まだ感想はありません。最初の1件を書きましょう！

15:31

コメント

スクロール