白金鉱業.FM

86.実務における効果検証

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 学生時代に因果推論を使った研究に取り組む：仁さんは経済学、泉さんは心理学の分野 アカデミックな知識と実務とのギャップ SHAPで因果関係を説明できる？ 手法の選定基準 CausalImpactは実装によって中身に重大な差異がある - 渋谷駅前で働くデータサイエンティストのブログ 介入タイミングが複数あるときの差分の差分法：Staggered DiDの紹介 Staggered DiDのPythonライブラリ differences pyfixest 効果検証の難しさ：精度の高さを確認できない? 機械学習で因果推論 Meta-LearnerとEconML 機械学習で因果推論 Double Machine Learning 白金鉱業 Meetup Vol.15@六本木（効果検証） connpass

85.受託分析の歯痒さと限界、やっていて良かったこと

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes アサノ、辻さん、データサイエンティスト&コンサルユニットの副統括である田村さんの3人で話しました。 採用面接でもよく聞かれる「受託分析のやりがいと大変なところは？」の回答にもなっています。面接では話きれないこともたくさん語っていますのでぜひ聞いてください！ 参考：過去の田村さん出演回 59. 分析PM Three Essentials WITH Jun Tamura

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 人工知能学会(JSAI)(ジェーサイ) 第38回となる今年は浜松で開催、5/28～5/31の4日間 tomaさんの発表:大規模言語モデルの論理構造の把握能力と予測モデルの生成 ICLR ヨシュアペンジオとヤンルカンさんによって提案により2013年に設立したディープラーニングのカンファレンス 今年はオーストリア(ウィーン)開催、5/7〜5/11の5日間 79カ国から6,533人が参加 Protein Discovery with Discrete Walk-Jump Sampling タンパク質合成に拡散モデルが使われている Multi-Source Diffusion Models for Simultaneous Music Generation and Separation 拡散モデルによる楽曲生成と音源分離、音声のノイズを取り除くような手法 Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors 状態空間モデルなどが長いシーケンスにおいてTransormerを劇的に上回る結果が報告されているが、大幅に過大評価されており適切にTransformerモデルを学習するとS4(状態空間モデルの一つ)に匹敵することを示した Mastering Memory Tasks with World Models 強化学習が使われることが多い世界モデルの設計に状態空間モデルを利用している

84.2024年の人工知能学会とICLR (LLM、拡散モデル、世界モデル)

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 人工知能学会(JSAI)(ジェーサイ):第38回となる今年は浜松で開催、5/28～5/31の4日間 tomaさんの発表:大規模言語モデルの論理構造の把握能力と予測モデルの生成 ICLR:ヨシュアペンジオとヤンルカンさんによって提案により2013年に設立したディープラーニングのカンファレンス。今年はオーストリア(ウィーン)開催、5/7〜5/11の5日間、79カ国から6,533人が参加 Protein Discovery with Discrete Walk-Jump Sampling:タンパク質合成に拡散モデルが使われている Multi-Source Diffusion Models for Simultaneous Music Generation and Separation:拡散モデルによる楽曲生成と音源分離、音声のノイズを取り除くような手法 Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors:状態空間モデルなどが長いシーケンスにおいてTransformerを劇的に上回る結果が報告されているが、大幅に過大評価されており適切にTransformerモデルを学習するとS4(状態空間モデルの一つ)に匹敵することを示した Mastering Memory Tasks with World Models:強化学習が使われることが多い世界モデルの設計に状態空間モデルを利用している

83.言語処理学会 第30回(NLP2024)について 「大規模言語モデルによる予測モデルの生成」と「逆学習による言語モデルの解析」

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 言語処理学会、今年で30回目でスローガンは「30年のプロンプトから未来を創造する」 冬馬さんの発表：Inductive-bias Learning：大規模言語モデルによる予測モデルの生成 最優秀賞の研究:逆学習による言語モデルの解析 ある評価データセットにおける モデルの性能に対し、学習データセットが与える影響を推定 Chain of ThoughtsなどのLLMの能力を引き出す学習データの解明につながる JGLUEの論文、招待公演 Preferred Networksさんのプロンプトエンジニアリングの自動化、自動プロンプト最適化のソフトウェア設計 オフラインイベント、2024/4/25(木) 19:30〜21:30 白金鉱業 Meetup Vol.14@六本木（実務におけるLLM、あるある課題共感し合おう！）

82.MLOpsの役割とチーム内コミュニケーション

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes -　平木さん：ブレインパッドのアナリティクスエンジニア、MLOps含めシステム周りの業務を幅広く担当 - 【連載】エンジニアに聞く、AIシステム開発プロジェクトの魅力とは ～データ活用の社会実装と業務に繋げるアナリティクスアプリケーション開発～ 今回はMLOpsとは何かから始まり、DevOpsとの関連、機械学習プロジェクトにおけるMLOpsエンジニアとMLエンジニア間のコミュニケーション、MLOpsの実践における具体的な課題と解決策、MLエンジニアとの協力の重要性について話しました。 DevOpsについての参考記事：DevOpsとは？概要やアジャイル開発との違い、メリットなどを解説します MLOpsについての参考記事 ゆるふわMLOps入門 - Re:ゼロから始めるML生活 3大クラウド各社の MLOps 成熟度モデルの比較 #AdventCalendar2022 - Qiita MLOps: 機械学習における継続的デリバリーと自動化のパイプライン Google Cloud

81.【公開収録】受託分析から事業会社に転職してどうですか？（特別ゲスト：にのぴら、dhirooka、おおたまん）

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 会場：東中野雑談 ゲスト にのぴら：LINEヤフー （ep.26, ep.55:ユーザー属性推定） dhirooka：CADDi DRAWER SRE (ep.35, ep.60) おおたまん：Ubie ML Engineer (ep.6, ep.43) 公開収録の詳細 振り返りブログ: 「白金鉱業.FM」初の公開収録をしました！ にのぴらさんのpodcast：溶け込むラジオ - TOKECOM RADIO LINEヤフー CADDi Ubie Casual Optimization

80.最近のLLMの動向、マルチモーダルモデルの仕組みとLLMの評価方法を解説

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 目次 00:31〜：最近のLLMの動向 07:36〜：マルチモーダルモデル 17:20〜：LLMの評価方法 show notes 最近のLLMの動向（最後に辻さん、金さんが参加した収録は23年8月。そのあと世の中には何があったか？） 2023.08 OpenAI社 「GPT-3.5のファインチューニングサービス」を提供開始 2023.09 OpenAI社 「GPT-4V」の導入を発表 2023.09 Open Interpreter(ローカル環境で動作するCode Interpreter)が話題に 2023.10 ChatDevを含むAgentを用いた産業への応用の試み 2023.11 OpenAI社 DevDayの開催。ChatGPTの一年振り返りと色んな情報が公開された（GPTs, GPTstoreの情報もここで公開） 2023.12 Google社 「Gemini」を発表 2023.12 Google社 「VideoPoet(A large language model for zero-shot video generation)」発表 2024.01 Google社 「LUMIERE(A Space-Time Diffusion Model for Video Generation)」発表 金さんの解説論文：Generating Images with Multimodal Language Models 関連モデル ImageBindモデル by Meta CLIP: Connecting text and imagesモデル by OpenAI 辻さんの解説論文：Leveraging Large Language Models for NLG Evaluation: A Survey Lost in the Middle解説回：73.言語モデルは中間部分を見ていない？「Lost in the Middle」とテキストデータのaugmentation？「GReaT」の話 Chain Forge:プロンプトの仮説検証プロセスを高速化するプラットフォーム 関連論文：TrustLLM: Trustworthiness in Large Language Models

79.分析PM Three Essentials WITH Ryosuke Nakamichi

分析PM Three Essentialsは、ブレインパッド社で現在データサイエンティストとして分析プロジェクトをリードしているプロジェクトマネージャーをお招きし、「あなたが分析プロジェクトをよしなに遂行する上で大切にしている3つのことは？」をお聞きするインタビューシリーズです。 感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 中道さんの記事 銀行業務での適応領域を探索。りそな×ブレインパッドのLLM共同研究プロジェクトで見えてきた世界観とは？ DOORS DX 【シリーズ】リスキリング×データサイエンティスト　CASE2：中道亮介 DOORS DX 「《インタビュー》 「 #AI の進化は待ってくれない」 ハイクラス転職サイト「 ビズリーチ 」コラムに当社で活躍する社員が登場 中道さん出演過去回 -71. データ分析における「品質を考える会」 ~ 品質はコミュニケーション ~ 同シリーズのバックナンバー 第1回目: 47. 分析PM Seven Questions WITH Makoto Hyodo 第2回目: 48. 分析PM Seven Questions WITH Haruyuki Tsuji 第3回目: 54. 分析PM Three Essentials WITH Masahisa Taura 第4回目: 58. 分析PM Three Essentials WITH Hidenari Uoi 第5回目: 59. 分析PM Three Essentials WITH Jun Tamura 第6回目: 65. 分析PM Three Essentials WITH Moe Uchiike

78.白金鉱業FM、初の公開収録をやります！そして吉田さん（ysdyt）、転職してからどうですか？

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 公開収録の申し込みページ、ぜひお気軽にご参加ください！ 界隈.chatの公開収録@東中野の雑談 白金鉱業MeetUp 白金鉱業 Meetup - connpass データサイエンス系の勉強会を 1年間毎月開催したら何が起こるか？ / What happens if you continue the DS meetup - Speaker Deck 吉田さんの現職 10X,Inc データプロダクトとは何か 会議全部ふっとばして社員の集中力を10xした話(ビッグバン) - 10X Product Blog 10Xの全社会議 会社の勉強会について話した過去回 51. リモート時代でも勉強会が盛んな組織を作る「b2b」の紹介 74.勉強会が盛んな組織を作る「b2b」の紹介 その2 ~ FY2023の勉強会を振り返る ~

77.となりのデータ分析屋さんコラボ回！事業会社のデータサイエンティスト&アナリストのキャリアについて(DeNA & ソフトバンク)

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes データサイエンスpodcast番組「となりのデータ分析屋さん」 となりの席に「知らないことを気軽に聞けるデータ分析屋さんがいたらいいなぁ」を叶えるチャンネルです。現役のデータアナリストのりょっちとデータサイエンティストのたっちゃんが、まるでとなりにいるかのように、データ活用のあれこれをお話しします。（番組紹介文より） sporify apple podcast 白金鉱業FM初代パーソナリティー吉田さんゲスト回 浅野が好きな回:11. お金持ちはPodcastを聴く！朝日新聞の調査のデータを専門家目線で紐解く【オトナル】【アンケート】 ゲスト：佐々木亮 NASA・理研で研究をし博士号を取得後、株式会社ARISE analyticsでデータサイエンティストを経て現在は株式会社ディー・エヌ・エー(DeNA)でデータアナリスト兼Product Manager（PdM）。 Podcast「佐々木亮の宇宙ばなし」運営。第3回Japan Podcast AwardsでSpotify NEXTクリエイター賞を受賞。 個人HP :http://ryosasaki.net/ ゲスト：たっちゃん ソフトバンクの現役データサイエンティストとして、顧客データ分析及び新規事業立案などを担当。 KaggleのGoogle Smartphone Decimeter Challengeにおいて入賞経験あり。 X/Twitterアカウント：@tatsuki_2022 アジェンダ 00:00〜：イントロ（自己紹介&番組紹介） 04:25〜：亮さん：Ariseのデータサイエンティスト→DeNAのデータアナリストの仕事 13:23〜：たっちゃん：ソフトバンクのデータサイエンティストの仕事 17:05〜：事業会社で活躍するデータサイエンティストってどんな人？ 21:18〜：受託分析の案件 24:00〜：事業会社と受託分析のデータサイエンティストの違い 35:41〜：亮さんとたっちゃんのこれからのキャリア 43:55〜：「データの質」「吉田さんはバリュー中毒」 45:43〜：podcast何聴いていますか？ fukabori.fm(spotify、apple) 溶け込むラジオ(spotify、apple) FREE AGENDA by hikaru & yamotty(spotify、apple) 50:37〜：宣伝 データサイエンスpodcast番組：となりのデータ分析屋さん 2024年1月末に宇宙×データサイエンスのイベントに亮さんが登壇。六本木一丁目のブレインパッドのオフィスにて開催！（詳細は後日発表）

76.ブレインパッドのインターンの紹介(データサイエンティストコース)

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 原さん ブレインパッド新卒入社11年目、データサイエンティスト部署の副統括を担当 今までに様々な企業・案件を担当し、現在は組織マネジメントが主業務 データサイエンティストの採用にも関わっておりインターンも担当 インターンの模擬プロジェクトではクライアント役を担当 中島さん ブレインパッド新卒入社3年目、データサイエンティスト 学生時代はバイオインフォマティクスを専攻 入社後の最初の案件は学生時代と近い領域のマテリアルインフォマティクスを、直近はマーケティング系の案件を担当 修士1年の時にプレインパッドのインターンに参加（ブレインパッド以外にも2社参加） 現在はインターンのフォロワー（＝学生チームのアドバイザー）としてインターンにも協力 インターンについて ブレインパッドのインターンは3種類あるが、今回はデータサイエンティストコースの紹介 オフラインで六本木のオフィスにて6日間開催 SQLの研修やビジネス研修をしたのちに、4日間で模擬プロジェクトを進める 短期間で実践的なデータ分析模擬プロジェクトに取り組み、チームで分析結果を提案していく インターンはテクニカルなスキルだけでなく、ビジネスの要素も求められる 実際のオフィスの雰囲気を体験することができるのも魅力 2023年のブレインパッドのインターンページ データサイエンティストコース 【2022】SUMMER INTERNSHIPを開催しました！ ～テクノロジーコース開催レポート～ FYI:新卒データサイエンティスト1年目の過ごし方 ーアンケート結果から見える入社後の働き方ー

75.バンダイナムコネクサスのデータマネジメントについて（外部ゲスト回：BNXデータマネージャー井村さん）

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes 井村さん登壇LT デタマネFES 2023/08/23 ドメイン駆動データマネジメント#1 データマネジメントのはじめ方 2023/11/10 データ基盤業務のセクション長の吉村さんの記事 バンダイナムコネクサスの分析組織でデータエンジニア組織を立ち上げた話 (speaker deck) DMBOK2:データマネジメント知識体系ガイド　第二版 IP軸戦略 宣伝 採用情報 株式会社バンダイナムコネクサス バンダイナムコネクサスの自分に合う職種がわかるフローチャート（speaker deck） ↑のチャートが、ばんくしさんのポストを皮切りにX（Twitter）で盛り上がっていました 株式会社バンダイナムコネクサスの会社情報 - Wantedly

74.勉強会が盛んな組織を作る「b2b」の紹介 その2 ~ FY2023の勉強会を振り返る ~

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — show notes b2b過去回:51. リモート時代でも勉強会が盛んな組織を作る「b2b」の紹介 ルービンの統計的因果推論 田中仁さんが書いたDIDのブログ 金さん論文解説回 第68回 第70回 第72回 第73回 上半期1位の吉田さんの反応(X/Twiiter) 下半期1位の「非・卒業講演」についての過去回:69. 非・卒業講演　〜なぜ我々はブレインパッドを卒業しないのか〜

73.言語モデルは中間部分を見ていない？「Lost in the Middle」とテキストデータのaugmentation？「GReaT」の話

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 目次 00:27～：Lost in the Middle: How Language Models Use Long Contexts 12:43～：Language Models are Realistic Tabular Data Generators show notes 辻さんが紹介している論文：Lost in the Middle: How Language Models Use Long Contexts 関連する情報が入力コンテキストの先頭または末尾にある場合に性能が最も高くなることが多く、 長いコンテキストの途中で関連する情報にアクセスしなければならない場合に性能が著しく低下することがわかった さらに、入力コンテキストが長くなるにつれて、明示的に長いコンテキストを持つモデルであっても性能が大幅に低下する 金さんが紹介している論文:Language Models are Realistic Tabular Data Generators ICLR 2023 posterにて選定された 実際にKaggleのPraygroundコンペ用のデータに使われている Regression with a Crab Age Dataset Make Synthetic Crab Age Data GReaTのPythonパッケージ

72.「学習と推論の時間を劇的に減らせる？QLoRA」と「ユーザープライバシー保護に使いたいMachine Unlearning」の話

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 目次 00:00～：イントロ+LLMプロジェクトの振り返り 03:00～：QLoRAの話 12:30～：Machine Unlearningの話 show notes LLM研究プロジェクト　ブログ記事一覧 - Platinum Data Blog by BrainPad QLoRA：4ビット量子化したLLaMAモデルをベースに、Low-rank adapterを用いて微調整を行う手法 論文：QLoRA: Efficient Finetuning of Quantized LLMs PEFTのブログ：LLMを効率的に再学習する手法(PEFT)を解説 - Platinum Data Blog by BrainPad Machine Unlearning：学習済みモデルから学習データのサブセットの影響を除去する 提唱の背景：学習済みモデルの使用に伴う不公平なバイアス・ユーザープライバシーの保護などのリスクに上手く対応したい 論文：A Survey of Machine Unlearning

71. データ分析における「品質を考える会」 ~ 品質はコミュニケーション ~

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 目次 00:27〜：ゲスト紹介 04:24〜：品質を考える会とは 08:37〜：そもそも品質ってどうやって担保するんですかね？ 12:10〜：データサイエンス分野のテストについて 20:00〜：要望、要求、要件について 31:15〜：品質はコミュニケーション 46:32〜：判断と決断の違い 決断のコツ 52:17〜：アウトロ 余談：盛り上がりすぎて収録後に１時間のオフレコ延長戦をしました ※ podcastの各プラットフォームでは下記詳細が見切れることがあります。 　その場合は白金鉱業FMホームページをご参照ください。 00:27~：ゲスト紹介 川崎さん Doors オフィシャルブログ：機械学習プロジェクトの実地検証＆開発フェーズを推進するポイント 新卒のときに書いた書籍：現場で使える！Python深層強化学習入門 強化学習と深層学習による探索と制御 中道さん Doors オフィシャルブログ：【シリーズ】リスキリング×データサイエンティスト　CASE2：中道亮介 04:24〜：品質を考える会とは 川崎さんと中道さんの雑談から始まった活動 品質担保のノウハウを継続的にためて体系化していきたい 08:37〜：そもそも品質ってどうやって担保するんですかね？ 分析における品質は集計・可視化→PoC→システム運用の順で品質のレベルを上げなければいけない＝考えることが増えていく まずは「正しい状態がどういう状態かを言語化する」「テストしやすい状態にする」 12:10〜：データサイエンス分野のテストについて テストを書きたくなりがちだけれど、まずは処理ごとに出力結果を目視で確認しよう とはいえ将来的に新しいデータを処理するケースは定型的なテストを書いて品質担保を図る 「１回限りの分析のデータマートに対する品質担保」と「継続的な運用を見据えた品質担保」は求められるレベルが異なる 20:00〜：要望、要求、要件について 要望：〜したい。望んでいること、目的 要求：〜してほしい。要望に沿って具体化したもの ※ 要求する側が間違えていることもある 要件：〜でよいか。要求を実現するために決めること 要件に対しての正しさは例えばデータマートの品質担保＝テストで満たせる そもそもの話として「要望から真にしたいことに対する要求のすり合わせ」が必要 PoCとシステム運用の考え方の違い 31:15〜：品質はコミュニケーション クライアントと要件を握るためのコミュニケーション PMとメンバーで品質観点を合わせるためのコミュニケーション 人を信じてタスクを疑う：65. 分析PM Three Essentials WITH Moe Uchiike 品質を確認する粒度を徐々に大きくしていく ウォーターフォール開発におけるV字モデル 設計時＝分析開始時に「分析結果の中間ファイルを出力する」というコミュニケーションをメンバーとする 手戻りが少なくなるコントロールが大事 46:32〜：判断と決断の違い 決断のコツ 判断と決断の違いと決断のコツ - そーだいなるらくがき帳 小さく賭けろ！ 辻さんの過去回：48. 分析PM Seven Questions WITH Haruyuki Tsuji 52:17〜：アウトロ 余談：盛り上がりすぎて収録後に１時間のオフレコ延長戦をしました

70. LLM回2回目！ChatGPTプラグインとクレームっぽい名前の論文？そして世界中でバズったDrag Your GANなど！

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 目次 00:27~：ブレインパッドの「LLM/Generative AIに関する研究プロジェクト」 06:07〜：ChatGPTのプラグイン 24:00〜：プロンプトエンジニアリングの論文 30:36〜：Inverse Scaling Law(クレームっぽい名前?)の論文 42:38〜：世界中でバズったDrag Your GAN ※ podcastの各プラットフォームでは下記詳細が見切れることがあります。 　その場合は白金鉱業FMホームページをご参照ください。 00:27~：ブレインパッドの「LLM/Generative AIに関する研究プロジェクト」 LLM/Generative AIに関する研究プロジェクトの発信メディア ブレインパッド公式のプラチナデータブログ 社内プロジェクト発足を公式発表： LLM/Generative AIに関する研究プロジェクトを立ち上げます - Platinum Data Blog by BrainPad LLMブログ連載１回目の記事:【連載①】大規模言語モデル（LLM）のビジネス利用に関して注意すべき点-LLMの使用許諾条件- Platinum Data Blog by BrainPad doors（特にビジネス適用の記事はこちら！） 社内文書に特化したChatGPT ファインチューニング実践編 Open BrainPadのTwitterアカウントでも調査した論文について発表しています 06:07〜：ChatGPTのプラグイン 5/12に、有料版の「ChatGPT Plus」ユーザー向けに、Webブラウジング機能とサードパーティプラグインのベータ版が提供開始されました。早速いくつかのプラグインを試した金さんにお話を伺いました。 ブラウジング機能 → β版 Bing Chat 検索 → クリック → コンテンツを読む 回答のソースがわかるのでより信憑性のある会話ができる Code interpreter → α版 24:00〜：プロンプトエンジニアリングの論文 Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models CoTのようにstep-by-stepで考えるのではなく、一度小さいタスクを洗い出してから順に実行するPlan-and-Solve Promptを提案した論文 LLMも計画性がある思考の方が性能が出しやすい模様 https://blog.langchain.dev/plan-and-execute-agents/ 30:36〜：Inverse Scaling Law(クレームっぽい名前?)の論文 An Inverse Scaling Law for CLIP Training 従来の認識：画像/テキストエンコーダの規模が大きいほど、トレーニングに必要な画像/テキストトークンのシーケンス長も同様に長くなり、その結果、大規模な計算リソースが必要となると考えられていた 「Inverse Scaling Law」の発見で分かったこと：エンコーダの規模が大きくなるほど、トレーニングに適用できる画像/テキストトークンのシーケンスの長さを逆に短くできるということが明らかになった 今後期待できること：CLIPのトレーニングが計算リソースが限られた環境でも可能となりフィールドに新たな進歩をもたらす可能性がある OpenBPのTwitterアカウントで共有したWhisperをTPUとJAXで最適化したら70倍速くなった話 42:38〜：世界中でバズったDrag Your GAN Drag Your GAN: Interactive Point-based Manipulation on the Generative Image Manifold ハンドルポイントとターゲットポイントをクリックするだけで、画像を生成。 ライオンの口内の歯などの隠れたコンテンツも再現可能 馬の脚の曲げなどオブジェクトの剛性に従って変形することもできる

69. 非・卒業講演　〜なぜ我々はブレインパッドを卒業しないのか〜

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ — 内池さんの過去回： 65. 分析PM Three Essentials WITH Moe Uchiike 内池さんのスライド：機械学習を「社会実装」するということ 2023年版 非・卒業講演の元ネタになったメイドさん 月詠みことさんのTwitterアカウント ゆっくりの台本を作ったときのMoepyメソッド：【GPT-4】プロンプトエンジニアリング手法：ナレーション誘導型生成法の魅力をご紹介！ - Qiita

68. まだまだ続くよ白金鉱業FM！ChatGPTをはじめとした「基盤モデル・大規模言語モデル 社内タスクフォース」の話！

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！ 匿名でのお便りもgoogle formにてお待ちしております！ 本題のLLMの話は9:42~あたりからです！ — 吉田さん 吉田さんが主催していた輪読会の書籍：実践的データ基盤への処方箋 b2b（brainpad to brainpad）について語っている過去回 Open BrainPad Project 金さんが紹介している論文：A Survey of Large Language Models OpenAIが出している論文（スケーリングロウ）：Scaling Laws for Neural Language Models 論文を読むときに重宝するChatPDF 金さんが用意していた論文2つ目（podcastでは特に触れていませんがせっかくなので）：summary-of-chatgpt-gpt-4-research-and 金さんが用意していた論文3つ目（podcastでは特に触れていませんがせっかくなので）：llmmaps-a-visual-metaphor-for-stratified 辻さんが紹介している論文：Erasing Concept from Stable Diffusion