「アプリの中身が部品になる」。llama.cpp v1.0.0(非推奨APIを削除、FP8のKVキャッシュ、MoEの専門家をメインメモリに置くキャッシュ、llama-serverのセキュリティ強化(SSRF・CORS・DNSリバインディング対策)、OpenAI互換の音声合成エンドポイント /v1/audio/speech、作り直したWeb UI)、DeepSeekのアプリ機能のAPI提供(検索・ファイル・リンク読み込み・安全チェック・音声をパラメータで有効化。OCR・ASR・TTSは単体APIでも利用可。会話履歴を読み込めるオープンソースのデモも公開。デモの保存先はブラウザ内だが、送った内容はAPIに届く)、CognitionのDevin Apps(Devinのクラウドコンピューター上で動く非公開・安全・共有できるWebアプリ。社内ツール、プレビュー環境、Devin自体の拡張向け)。参考:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0 / https://huggingface.co/blog/ggml-org/llama-cpp-v1 / https://x.com/deepseek_ai/status/2121247896918253875 / https://api-docs.deepseek.com/guides/build_a_chatbot / https://github.com/deepseek-ai/chat-demo / https://x.com/cognition/status/2121255137914077300 。本番組は合成音声です。内容に誤りがある場合はコメントでお知らせください。
感想
まだ感想はありません。最初の1件を書きましょう!
スクロール