1. nocallスタートアップ日記
  2. 【第13回】プロンプトエンジニ..
2025-03-17 15:46

【第13回】プロンプトエンジニアリングにおける課題や苦労

CEO林さん再登場です。nocall.ai導入企業各社のユースケースに合わせたプロンプト作成を自ら手がける林さんに、業務としてプロンプトエンジニアリングを日々行う中で感じる難しさや手応えを聞いてみました。興味のあるエンジニアさん、大募集中です!!


nocallスタートアップ日記は毎週月曜日と木曜日に配信中です!

サマリー

プロンプトエンジニアリングでは、業務の多様性やクライアントの特定のニーズを理解することが重要であると強調されています。また、AI技術と直接対話しながらプロンプト設計を進めることの複雑さについても語られています。さらに、プロンプトエンジニアリングにおける課題や苦労について、生成AIサービスの活用や自動化の進展に関して話されています。加えて、プロンプトエンジニアの求人に関する具体的な情報や期待される役割にも言及されています。

プロンプトエンジニアリングの概要
残り、CEOの林と、マーケット担当の佐藤です。
今回は、次回予告でも言ったように、以前林さんが呟かれてた、
日本で初めてプロンプト打つになりそうっていうツイート。
これ私が持ち出した企画です。
今、海外でも結構プロンプトエンジニア、高い推進のオファーが出てるみたいで、
例えば、クラウドのアンソロフィックシャーとかでも、
日本円で2,300万から4,400万みたいな。
プロンプトエンジニアリングだけでもらえるんですか?
そうです。それで商売があって。
そんな、それくらいのオファーが出るプロンプトエンジニアリングを、
林さんどんな苦労をされてるんだろうっていうのを聞きたくて。
えー、転職しよっかな。
結構自信ありますよ、マジで。
日本で結構上位でプロンプト書いてる自信あるんで、
転職しよっかな。
いや、それは勘弁してもらって。
でもその、まずじゃあプロンプトが今のサービス、
ChatGPT電話、SSAI電話にとってどう必要なのかみたいなところを
前提としてお伺いしたいなと思ったんですけど。
そうですよね。どこでそもそもプロンプト書いてるのかって話ですよね。
多くの人は普通にそのChatGPTとかで調べ物したりだとか、
思考深ぼったりするときにプロンプト使うと思うんですけど、
私の場合普通に業務としてプロンプトが必要なちょっと特殊な業務でして、
で、ノーコールAIって何やってるかっていうとSSAIの電話のシステムを作ってますと。
で、このSSAIの電話の応答っていうのをSSAIのみで行っているので
SSAIの電話システムって言ってるんですね。
これでAI電話システムって言うと、
単純に相手の言った声に対して裏側ですごい分岐作ってその分岐ごとに流すとか、
SSAIって言っててもSSAIのLMMのみの制御によって動いてるわけではない電話とか
たくさんあったりするんですけど、
うちはマジでそのSSAIの制御のみによって電話をしているので、
結構プロンプトエンジニアリング重要ですみたいなところになってます。
管理画面上にもプロンプトを入れるところがあるので、
そこに作ったプロンプトを入れるっていう感じですね。
どんなふうに応答していってほしいかみたいなのを指示するってことですよね。
ハイスさんのプロンプトで。
そうですそうです。
なのでイメージで言うと、
新人の電話かける担当の人みたいな会社に入ってきた時に、
その人にこうやって電話するんだよって教えるのと同じようなものの指示書を
AA向けに作るっていう。
なるほど、だからそれを一社一社の用途に合わせて
ハイスさん一人で捌くから超大変ってことですよね。
はい、まさしく。
インターの江藤さんも結構手伝ってくれてるんですけど、
会社が増えるごとに、会社ごとにそれぞれ電話の用途が違うんですね。
例えば不動産とかの掘り起こししてるところだと、
1年前この物件を売ろうとされてまして、
その時いい条件なかったと思うんですけど、
最近こういう条件が出てきて、ご都合どうですかみたいなところで日程調整も
リアルタイムでグーグルカレンダーで取ってこれたりするんで、
そういうところでやったりだとか、
あとは自動車ディーラーさんで車検対応してるところとかは、
そろそろ車検の時期ですけど車いつ持ってこられますかみたいなところを
何百件何千件と月に電話してるんで、
それをアウトソースしたよねっていうところでAI使っていただいてますって感じですね。
本当にそれぞれで違うし、会社の中でもこの用途で使いたい、この用途で使いたいみたいな、
この商材で使いたい、この商材で使いたいみたいな別々のものが出てきたりするんで、
それごとに対応を今のうちの技術だとやらないといけないところがあり、大変ですと。
スキルの深化と課題
じゃあ具体的にそのプラントエンジニアリングにおいて、
どういう作業をして完成させるのかみたいな。
そうですね、オンボーディングは大体1ヶ月くらいいただいていて、
最初の1週間で大まかな全体的なものは決める、叩き台作るっていう感じですね。
叩き台作るために電話で対応したい内容についてのトークスクリプトと、
またFAQ情報と、電話の録音、実際に人がやってる電話の録音っていうのを3つをいただいて、
それからうちの方で私なり伊藤さんなりがこういうスクリプトがいいんじゃないかって叩き台作らせていただいて、
お客さんにはそれを実際に電話かけていただいたりだとかで体験していただいて、
大体調整が入るんで、もっとここはこういう形にしてくださいとか、
こういうふうに言われたらこういうふうに答えてくださいとか、そういったものが入ってくるんで、
それをできるだけその命令だけに答えるっていうよりかは、
より抽象的に命令をしてAIに対応させるっていうところをしてますね。
細かい指示が多すぎると性能も下がっちゃうみたいな感じですか?
そうですね、それのみに適用したりするんで、
より抽象的に関係ない質問をされたら担当者につなぐみたいなのは割と抽象的だと思うんですけど、
関係ないっていろんなね、そういうところをやってますって感じですね。
じゃあつまりはプロンプトエンジニアだけやってるだけじゃなくて、
お客さんとも対話して何が求められているのかみたいなのを汲み取る必要があるってことですか?
そうですね、あと業務も本当にうち多種多様な業務を受けてるんで、
業務について理解するの結構大変なんですよ。
確かに、そうですね。
そこってそんな仕事してたんだみたいな。
そんな人たちがそんな電話をそんなにかけてたんだみたいな。
電話じゃないとそこってデータ取れないんだみたいなことが面白いんですけど、
すごい個人的には好奇心かきたてられて面白いんですけど、
作業自体はなかなかタフですね。
その向いてる性格みたいなのはあるってことですか?
じゃあそういうタフな作業に耐える性格。
そうですね、性格はあると思います。
得意か不得意かで言うと自分は多分得意の方だと思うんですよね。
そうなんですか。
結構ボードゲームとかゲームやってるのに近い感じです。
いじって実験してみたいな感じ?
そう、謎解き解いてるって感じです。
どこに分岐してもちゃんと制御するようにプロンプト組むみたいな。
向いてるけどしんどいってことですよね。
それだけやってると単純作業ではないですけど、単純作業っぽくもなっていくところはあるので、
それだけに向き合ってガーってやり続けるのはちょっと自分の忍耐力ではしんどいなって感じてるところですね。
一社分作るのにどれくらい時間かかるんですか?
そうですね、本当に物によりますね。
もうすでに他でやってるユースケースでここ変えるだけじゃんみたいなところはもちろんすぐですけど、
それいいですね。
ほとんどそうはならないんで、
一社に対してフルで2、3日とかかかるんじゃないですかね。
結構かかるんですね。
でも配算じゃなくてもインターンでもできるってことですもんね。
できるとこはありますけど、分岐のチェックが甘いとかいろいろあるんで。
二重チェックで。
二重チェックしないといけないし、そこのコミュニケーション結構大変なんで。
確かに。
ここもAI化していきたいなっていうのはあるし、それこそフローチャートみたいな分岐を図式でUIで書いたら
そういうふうにプロンプト組まれるみたいなものも将来的には作ろうとしてるんで。
ただ、今ってそもそも電話として使い物になるものを作って、
ちゃんとアポイントメントだったり目的を達成するっていうところが主軸なんで、
それがそもそもできないところ、裏側いくら使いやすくしても意味ないんで。
確かに。
そこはちょっとライフで受けるって感じで。
将来的に。
頑張って。
ちなみにこの仕事してて身についたスキルみたいなんてあるんですか?
プロンプトエンジニアリングについたスキルですか?
いろんな業界に対する業界理解はマジで深まりましたね。
確かに。FAQとかも入力してたら深まりますよね。
そうですね。
お客さんからも結構協力していただいて、いろんな情報をいただくので。
その中ではそうだし、
プロンプトエンジニアリングの課題
結構、生成Aのサービスで、2Bでちゃんとマネタリズムできてるサービスって本当に多くないと思っていて、
お客さんのワークフローの中に、完全オートメーションみたいな生成Aのサービスを
いかにマージさせていくかっていう、
そこは割とうちならではの面白いところなんで。
そうですね。それはすごい、新しいお客さんに対応するたびにワクワクしてますね。
一番プロンプトエンジニアリング作ってて、電話の。
これはちょっと難しかったみたいな。
電話。
最近難しかったのは、これ2週間かかったんですけど。
やばい。
2週間かかったのが、料金表から対応表みたいなのを作って、
この製品の割引率、低下なんとかみたいなのを、料金表をラグとか別で出すんじゃなくて、
プロンプトの中で表を作って、それを正確に呼び出すみたいなことをやって、
なるほど。
結果できたんですけど、
すごい。
マジで難しかったし、特許取りたいですね。
本当に?
確かに。
それは前藤さんに最初お願いしたら、無理です、できませんって言われて、
ああ、できないんだって思って、
でもそれを一回、O1プロに投げたんですよ。
はい。
O1プロに投げたら、これでできますみたいな感じで出してきて、
で、やってみたら、8割くらい正解するみたいな感じだったんで、
自分の方で調整して、100%になりましたね。
じゃあもうO1プロ様様ってことですよね。
そうですね、はい。
やっぱ、AIのことはAIに聞けって感じですかね。
確かに。
じゃあ、今までよりも結構作りやすくはなってきてるって感じではあるんですか?
そうそうそう、O1プロとかマジで革命的で、
あれで、8割くらいのプロンプト自動で生成するみたいなのも、
詳細によってはできるんで。
あ〜。
結構、自動でプロンプトを生成するためのプロンプトっていうのも、
めちゃくちゃ長いやつを作ったんですよね。
え〜すごい。
それはさすがに外部公開しないですけど、
でもそういうのも作ったんで、
それをそもそもシステムで組み込んで、
お客さんだけでできる環境っていうのはやっていきたいことではありますね。
確かに。
エンジニアリングリソース不足してて、そこまで手が回ってないですけど、
そういうのをやりたいエンジニアの人にめっちゃ来てほしいです。
確かに。
これを聞いているそこのあなた、ぜひ来てください。
私的には、そのためにスキルとか楽しいこととか聞こうと思ったんですけど、
思ったよりしんどそうだったんで。
ずっとパズル解いてて面白い人もいると思うんで、
そういう人にとって面白いんじゃないですか。
確かに。
えとおさんはそんなにしんどくないんじゃないかな。
テストとかしんどいかもしれないですけど、
確かに。
割と向いてそうですけど。
本当に。
論理的思考みたいなところは、
大事ですね。
磨かれないんですか?大事ですか?
磨かれるのかもしれないです。
いいですね、それ。
ひゃんさん、求めてるものでしょうね。
はい、私今もっと絶賛。
求められ中だから。
でも私もちょっとやったことあります。
やらせていただいたことありますよね、プロンプトン。
あります。
もうマークダウンについてまず勉強してくださいって。
あって、ちょっと開業してるだけとか、
ちょっとピリオド入ってるとかでも、
もう狂っちゃうみたいな世界なので、
お客様に作っていただくみたいなのが、
結構難しいんじゃないかなと思いました。
そうですね。
最初の3つの状況だけ入れたら、
トークスクリプトとFAQと録音。
3つ入れたらもう自動で作っちゃうみたいな。
プロンプトン全部状況作って触んなくていいみたいなものが、
できるだろうなとは思ってるんで、
早くやりたいですって。
じゃあ日本で初めてプロンプトンエンジニアがいますかね、
採用みたいな、求人。
そうですね。
でも今求人はプロンプトンエンジニアをやるっていうところもあるし、
カスタマーサクセスとして結構その、
お客さんの課題解決みたいなところを、
そもそもやっていただくっていう形の求人を出してますね、うちが。
なるほど、その2軸。
2つかも。
2つが1つの役割です。
なるほど。
超優秀な方じゃないと無理ですね、これ。
いや、そうでもないと思いますけどね。
お客さんとちゃんとコミュニケーション取って、
相手の課題が何なのかっていうのを理解をして、
確かに。
で、そのためにプロンプトン作っていくみたいなところ、
私ももちろん手伝いますし、
もちろん優秀な方に来ていただきたいですけど、
そんな特別、IQ120ですみたいな、
そこまでは求めてないって感じですね。
じゃあこれ、お客さんとお話ができるが最重要ポイントですか、求人の。
そうですね。
そうなんですね。
じゃあ今回はそんなところで。
求人と役割の期待
そうですね。
じゃあハイスさんの苦労を知れたってところで、
でもプロンプトンエンジニアリングじゃなくて、
他の業務もあると思うんですけど、
ハイスさんCEOなので、
結構そこら辺の業務を爆速で進めてるイメージがあって、
で、次週はAIスタートアップの社長が、
業務効率化どんな風にしてるのかっていう、
コツを盗んじゃおうっていう企画です。
今日もご視聴いただきありがとうございました。
ありがとうございました。
また次回も聞いてください。
15:46

コメント