マイクロソフトの大髙さんに、LLMを活用したソフトウェアアーキテクチャ、langchain、LLM活用のコスト、代表的なユースケースなどについて語っていただいたエピソードです。
話したネタ
- LLMを活用したソフトウェアアーキテクチャ
- Copilot Stack
- Model/Orchestrator/Copilot
- 代表的なOrchestratorのフレームワーク
- langchaing
- semantic-kernel
- フレームワークの抽象度
- デグレ探し・リグレッションテスト大変問題
- GPT-4 のコストの話
- チャット検索である必要性
- クエリとチャットの逆転現象
- 検索の下地にあるデータが結局重要
- 参考：チャット検索やRAGの話
- エンベディングとコサイン類似度
- 参考：LangChain の Vectorstore として Azure Cache for Redis を使ってベクトルの格納と検索を行う
- 抽象化すると、LLMを活用したユースケースはどういうものが多い？
- 情報検索、情報分類、情報抽出
- 非構造化データから構造化データへ
- Azure OpenAI Service の GPT-4 を使ってギリシア神話に登場する神々の関係性を抽出してグラフデータベースに格納する
- Microsoft Build 2023
- Microsoft Build Japan
- ryohtakaのZenn
- ZennのMicrosoft Publication
- QiitaのMicrosoft Organization
公開収録
See Privacy Policy at https://art19.com/privacy and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info.
30:07
コメント
こちらもおすすめ
-
108. Azure Functions チームでの開発方法やマネージャの役割 w/ sandayuu
fukabori.fm
-
107. LLMをゼロから作るということ w/ Takahiro Omi
fukabori.fm
-
80.最近のLLMの動向、マルチモーダルモデルの仕組みとLLMの評価方法を解説
白金鉱業.FM
-
97. プロンプトエンジニアリング w/ ryohtaka
fukabori.fm
-
#154 DoorDashのLLMを用いた商品属性推定の話
Work In Progress
-
【2月6日】GAFAM四半期決算、増収増益相次ぐ。キーワードはレイオフ効果と生成AI
News Connect あなたと経済をつなぐ5分間 #ニュースコネクト
スクロール