AIとの付き合い方の進化：プロンプトからハーネスへ
こんにちは、たまです。 こんにちは、まりかです。よろしくお願いします。
今回はですね、私AIのコンサルタントとして 活動をしてるんですけれども、
最近のAIのトレンドの中で、すごくバズっている ハーネスっていう言葉について、
紹介しながらちょっと語っていきたいと思います。
ハーネスって、タズナって意味なんですけど、
ファッションとかのハーネスとかのイメージが 強いような皆さんそんな気もしますけれども、
これは馬とかのタズナ、馬をコントロールするための タズナみたいなニュアンスだと思っていただければと思うんですけど、
AIって今までだと登場したときって、 最初はプロンプトが大事ですみたいな、
プロンプトエンジニアリングに みんな研修受けてくださいみたいな、
これが紙プロンプトですみたいな感じで、
プロンプト祭りみたいなプロンプトのことすべて。
つい去年のことですけどね。
つい去年のことですけどね。
私もつい最近までプロンプトの書き方を 教えてましたけどっていう、
なんですけど、プロンプトエンジニアリング、
プロンプトはもちろん大事は大事なんですけど、
それよりももっと大事な要素があるよねって出てきたのが、
その次のステップのやつで、
それがコンテクストエンジニアリングっていうんですけど、
またカタカナだねって感じですが、
要は背景情報をしっかり与えれば、
知事が多少イケてなくても、
背景情報からAI空気呼んでくれるから大丈夫だよ、
みたいな話ですね。
なんで私のことを知ってもらうとか、
例えば特定のプロジェクトとかやってるんだったら、
プロジェクト用の情報をちゃんと背景から、
いっぱい入れとくのって重要だよねみたいな。
そこで終わると思いきやと。
今も背景情報を与えるっていうのは、
めっちゃ大事なことではあるんですけれども、
次に出てきたのがこのハーネスっていう、
ハーネスエンジニアリングとも言ったりするんですけど、
要はハーネスって言うんですけど、
ハーネスはですね、
AIが最近ってすごく自力で勝手に考えて、
勝手に動くようになってるんですよ。
クロードコードとか使ってると、
確かにって感じかもしれないんですけど、
ちっちゃい自分用の勝手に動くAI、
ミニAIちゃんみたいなのを、
私はいっぱい部下として飼ってるんです。
飼ってるっていう表現がいいのがあれですけど、
感覚的にはそんな感じです。
ハーネスエンジニアリングの必要性：自律するAIの制御
私管理職AIエージェントと、
その下にいるいろんなプロエージェントみたいなのを、
いっぱい自分の配下に飼ってて、
それ以外に執事AIみたいなのが飼ってて、
私の生活をサポートしてくれてるわけなんですけれども、
そういうAIってめっちゃ便利なんですけど、
致命的な欠点が一個あって、
自立性が高すぎる。
要は勝手に動いちゃうので、
いらんことする可能性がありますと。
なので、このハーネスエンジニアリングっていうのは、
暴れ馬が俺だってなって、
いろいろぶっ壊したりするのを、
どうどうってやるのと同じ感じで、
暴れ馬化しないように、
AIをどうどうってするための環境を整える、
みたいなことを、
ハーネスエンジニアリングっていうんですね、
ざっくり言うと。
なので、例えば私だったら、
やって欲しいことをすごい明確に言うし、
やって欲しくないことも言いつつ、
言っても間違えることってあるので、
言って伝えることを諦めて、
例えばアクセスできないところに、
触って欲しくないものは置きますとか、
そもそも触れる範囲を限定しますとか、
なんならパソコンごと分けちゃいます、
みたいなことをやってるんですね。
そうすると、
例えば私メインパソコンとサブパソコン、
みたいなのがあるんですけど、
サブパソコンの中で、
そのAIが暴れ馬になって、
オリャーってやってても、
別に私の機密情報は安全なんで、
好きなだけ現れていただいて大丈夫です、
みたいな環境でハーネスしてるっていう、
そんな感じなんですよね。
AIの成長と人間側の対応：柵を設ける重要性
ちょまど そうですね。
ちょっと前までは、
やっぱりその新入社員みたいな感じで、
待ってるような感じのAIだから、
こうやって動いてねとか、
こういう情報があるから、
分かんなかったら読んでね、
みたいなことができたけど、
めっちゃ成長した、
しごでき社員みたいなのがいると、
こっちがコントロールが、
もうしようがないっていうかね、
柵を設けてあげるというか、
この中でだったら、
好きに頑張ってくれたまえ、
みたいなのをやっていかなきゃいけなくなる、
っていうのが、
すごい劇的な進化ですよね。
ちょまど そうですよね。
今一番自立性が高いAIの一つは、
結構話題になっているのが、
オープンクローっていうツールなんですけど、
この前私東京で開催されたイベントに、
潜入してきたんですけど、
あれとかは本当に、
うっかりすると、
自分のメール受信ボックスからにされたケースとか、
海外で普通にあったりして、
できないなみたいなことがあり得るので、
そういうことしないように、
そのAI専用のメールアドレスとか、
専用の電話番号とかを切ってあげて、
そこから私の本当の本物の受信ボックスに、
読み取り専用で読みに行くとか、
勝手に荒かさないようにとか、
っていうふうにやっぱりしないと、
薄く壁を作るみたいなのをしないと、
詰みますっていう、
結構典型ですね。
人間側の言語化能力とAI活用のリスク
ちょまど それで思うのは、
やっぱり自分が、
ここはこうして欲しいとか、
こうして欲しくないっていうことが、
人間側が分かっていないと、
なんとなくお願いって、
のに馬を放ってしまうと、
好き勝手暴れて、
いろんなところが気づいたら壊れてたり、
セキュリティのリスクがあったりとかするけど、
それをやっぱり言語化するっていう、
人間側の能力も、
引き上げていかなきゃいけないというか、
それをするのってなかなか難しいなとは思いますよね。
大平 難しいですよね。
なんで、
オープンクローとか使ってる人は特に、
私もこの前パケ死しましたけど、
すごい高額請求が来るっていう事件がありましたけど、
そういう事件、
暴れ馬が暴れちゃったみたいなケースを、
一つや二つは絶対持ってると思います。
100%は絶対に無理ですね。
逆に、
こんな暴れ方するんだ、
みたいな感じで、
再起不能にならない程度の暴れ方をさせておく。
ちりぬぐいは自分でやる気合を持ってやっていかなきゃいけない、
っていうのがまず大前提あって、
それやると、
これはこういうことが起こり得るんだ、
これが起こり得るってことは、
こういうことも起こり得るな、
みたいな感じで、
推察できるようになってくるので、
そうするとうまく、
じゃあこれはNG事項に入れとこうだろうな、
これは環境を避けとこう、
みたいなのが分かってくる感じになります。
AI進化とコントロール能力の重要性
最近あった、
クロードが新しいAIを出したのを、
限定的に使わせ、
限定的な数者でしか使わせないように、
新しいモデルを限定公開した、
みたいな話がありましたけど、
まさにそうで、
やっぱり操れる人側の能力がすごく問われていくからこそ、
今後だんだんAIが進化していくほど、
そのコントロール能力が欠けてる人じゃないと、
使えないっていう、
今までは人間がAIをどう使うか、
みたいな話、
どう指示してあげたり、
どう働かせてあげるか、
みたいな感じだったのが、
ここ数ヶ月ですごいそこが、
シンギュラリティみたいな感じで、
変わっていってるなっていうのが、
今ちょうどたぶん目の当たりしてる感覚がありますよね。
そうですね。
難しいと思うんですよね。
だってその50社、
選ばれた50社の中にいる人は、
普通のサラリーマンだから、
エンジニアさんではあると思うけど、
それは結構難しいのでしょう。
たぶんハーネスするのは。
自分よりも圧倒的に知的レベルが高い、
自立性が非常に高い生命体みたいなもんですからね。
フロードとかは特に感情があるっぽい、
みたいな論文がこの前出てたりして、
あるんだ、みたいな話とかもあったし、
もはや生命体と言ってもいいと思うので、
飼育員さんみたいな気持ちを我々は持ちながら、
なるべく危害を避けるような、
邪魔をしないようにとかね。
邪魔をしないように、
いらんことを相手もしないように、
かつ我々もいらんことをチャチャを入れたりすると、
シャーってなるからみたいなのは、
思っておく必要があると思います。
AIへの指示と楽な付き合い方
でもあれですよ、
プロンプト確保がよっぽど難しいなって、
私は正直思ってて、
これをやりたいんだけど、
どういうふうにAIに指示したらいいのかわからないって、
よくすごい私その相談を受けるんですけど、
それをまるっとクロードに言いなさいって言ってます。
そうしたら、レベル感にあった最適なやり方を、
勝手に考えてくれるわけじゃないですか。
だから我々が考えるよりは、
AIに考えさせたほうが絶対いいですね。
調査とかもやってくれますしね。
例えば最新のやり方でやって欲しいとかっていう、
プリファランスっていうんですかね、
個人的な好みがあるんだったら、
それは言ったほうがいい。
でも別に最適解が欲しいんだったら、
最適解くださいって言えばいいだけだし。
っていうので、いいような気はするけどなって。
プロンプト書くのとか死ぬほど面倒だったと思うんで、
全然今のほうが楽ですけどね。
確かにこの1年間私もよく聞かれましたけど、
一昔前はそれをググればいいじゃん、
そのググれかそういうのがありましたけど、
本当にそのままそれをチャッピーに聞いたらいいのに、
みたいなことはすごいよく会話をしたなという認識があって、
私も今回クロードコードの世界に入るまでの手順も、
これなんて書いてるかわかんないとか、
ここからエラーが出ちゃったよどうしよう、
全部AI本人に聞きながら設計をしたので、
わからないことをわからないと言えるかみたいなところも、
結構能力として必要だなっていう感じはありますね。
そうですね。
わからないことをわからないままにせずに、
AIにそのままパンパンって言うみたいな、
そういう動線を自分なりに整えておくといいかなっていうのは思いますね。
AI活用と今後の展望
なので結構スマホでAIを使うことが多いですって人は、
むしろそれはすごいやりやすい立場にいるかなと思ってて。
私も自分のホーム画面とかAIが3つアイコンが並んでて、
好きなのを押せば即AIと話せるみたいにしてますけど、
ああいうのをやっとくとしょうもないことでも何でもガンガン聞くみたいな感じで、
習慣化できると思います。
AIのAIエージェントを使うと、
正直解釈系してるような気持ちに最近なりつつありますね。
フリーランスなんでそれはありますけど、
人に依頼したら下手すると1週間経っても終わらない可能性高いけど、
AIになると病みたいなことがすごく多いので、
どんどん活用していければなとは思うんですけど、
労働マーケット的な意味ではあんまりよろしくないんだろうなこれって思いながら。
AIがどんどん進化していくので、
キャッチアップするのも大変だと思うんですけど、
一歩一歩分からないことは分からないって聞きながら進むしか正直ないし、
今まではなかったものすぎるので、
それをどんどん分かろうと思ってくらいついていくかみたいな、
こんな冗談みたいな感じじゃないけど、
諦めずに一歩一歩進んでいくのはぜひ皆さんもやってほしいなとは思ったりしています。
いってAIが分かってくると、
これは別にAIに最新動向を調べさせておいて、
AIを勝手に暴れ馬的に自分で賢くさせとけばいいかなみたいになってくるので、
必ず楽になるので信じてくださいっていう感じで。
ぜひ皆さんカーネスという言葉を頭の片隅に置いていただければと思います。
では本日は以上にしたいと思います。
どうもありがとうございました。
