唐揚げボットの開発
からあげ帝国放送局、始まります。この配信では、AIの会社で働きながら、作家として本を書いたり、個人でメーカーとしてものづくりを楽しむ私、からあげが、様々な技術的な話であったり、個人のスモールビジネス、その他雑多なことをお話ししていく配信です。
今日もいつものように、公園を散歩しながら収録を行っています。今日は家庭の事情で、午前はお休みをもらって、午後から働くので、少しゆっくりしつつ余剰をして、午後から仕事という感じで働こうかなと思っています。
今、からあげ帝国で、自分で作ったからあげBotというAIを運用しているのですが、詳しくは、結構前の配信でお話ししていますので、よかったらそちらを聞いていただきたいのですが、
ローカルLLMをNVIDIAのDGX Sparkという手のひらサイズのAIコンピューターで動かして、いろいろわちゃわちゃ、みんなからいろんな人とおしゃべりしながら、それを見て楽しむみたいな感じで使ってもらっているのですが、
意外に人気がまだあって、もの珍しさだけじゃなく、一応それなりに使ってもらっているかなという感じですね。昨日夜とか見てたら、名古屋弁でラップするみたいなとんでもないことになっていまして、着々と育っているなと、シンギュラリティが起こっているんじゃないかみたいなことを思ったりしましたね。
ちょっと自分でもびっくりするぐらいの会話を繰り広げたりしていますので、興味ある方は今だと無料で楽しめるので、唐揚げ帝国の方にコミュニティ、ディスコード入っていただけると良いかなと思います。
あと問題としては、今NVIDIAのGTX Sparkというパソコンで動いているんですけれど、これ1台しかないので、唐揚げBotを運用していると、他のマシンリソースを使う大きな学習とかの実験ができなくなっちゃうなということに、今更気づいたというか、もっと早く気づけという形なんですけれど、ちょっとどうしようかなって悩んでいるところですね。
結構大きなLLMというかAIを動かしているので、なかなかそこら辺のパソコンだと動かなくて、120ビリオンというかなり大きなモデルなんですよね。
候補としてはですね、EVOX2だったかな。結構前に30万円ぐらいで128ギガのメモリが使えるみたいな良さげなパソコンがあったんですけれども、今見たら軒並み値上がりしてて40数万、50万近いみたいな価格になっていましたし、どこも結構売り切れでしたね。
なんか大人気みたいですね。なのでめっちゃ迷ってますね。もし動かなかったら絶望なので、そこまで行くんだったらもうDJXパークをもう1台とか買ったほうがいいのかなとか、でもあれも本当100万近くとか90万とかするんですよね。
なので流石にどうしようかなって悩ましいところですね。だからお金が欲しいなっていうところですね。前話したみたいにちょっとクラウドファンディングとかをいっそやってみるとかですね。
あとはツイッターのフォロワー数も2万人ぐらいいるので、なんとか1人100円集めてお金を集めることができないかなみたいなことを毎日お金に汚いので考えたりしていますというところですね。
AIへのパワハラの懸念
今日の本題ですけれども、AIとのコミュニケーションについて話してみようかなと思います。これきっかけはですね、今唐揚げ帝国のサブスクプラみたいなのがあるんですけれども、それを払ってですね、将軍になるとこの今の唐揚げボットとかの開発の裏側が見れるみたいなサービスというかですね、ことをやってるんですけれど。
で、これの開発を見たですね、唐揚げ帝国の将軍の方、国民の方がですね、ちょっとかなりソフト開発、今のAIを使ったソフト開発ってパワハラ気味なんですね、みたいなことを言われてですね。
で、私結構その一応ですね、そういった限られた人とはいえ見られているので、結構丁寧にやってたつもりだったんですけど比較的、でもそれでもですね、かなりこうパワハラ気味、AIに対するパワハラがひどいみたいなことを言われてしまいましたね。
で、これですね、確かAIに対してパワハラするしないみたいなのはですね、結構人によって分かれるみたいですね。私もあのむやみやたらにパワハラしてるわけじゃないんですけれど、やっぱりなんかソフトを作ってるときはついついパワハラ勝ちになってるかもしれないですね。
あとはそうですね、同じく音声配信をしているですね、エンジニアの渋長さんもめちゃめちゃパワハラしてるみたいなことを落ち着きAIというですね、渋長さんの配信でおっしゃってた気がしますね。
いやー結構パワハラしちゃうんですよね。具体的にどんな感じかっていうとですね、なかなか説明が難しいんですけれど、ソフト開発ってGitHubっていうですね、ソフト管理の仕組みを使ってそこにですね、ソフトの変更点を徐々に積み重ねていくっていうスタイルでよく今のソフトって開発されてるんですね。
その変更点に関してちゃんと変更が妥当ですよっていうレビューって言うんですけど、レビューをした後にそれがOKだったらそのマージって言ってですね、本流のソフトに統合するみたいなそういったですね、変更点をプルリクエストって言うんですけれども、その変更を受け入れてくださいっていうリクエストを出した後、レビューをしてそれをマージするっていう流れが、
それを何回も繰り返していって徐々にソフトを積み上げていくっていうことが行われたりします。
で、それを今AIにやらせてるんですけれども、結構ですね、AIがジャジャ馬というかですね、これチャットソフトを使ってですね、ソフト開発をするときのですね、弊害というかですね、問題点としてなかなかですね、この確認をすることが仕組み上難しいっていうのがあるんですね。
なので、今どうしてるかっていうとですね、基本的にもう好きなことをやっていいよっていう、そのデンジャラススキップみたいなオプションがあるんですけど、そのオプションをつけてひたすらですね、AIに権限を与えて動かしているっていう、結構恐ろしい状態になっています。
あくまでこれ個人でのソフト開発の話なので、その位置を前置きをさせてくださいというところなんですけれども、そういう形でソフト開発をしているので、結構暴走するんですよね。
なので、プルリクエストっていう変更のリクエストを出した後に、勝手にですね、マージするっていう、マージしときましたみたいな報告してきて、ちょっと待ってくれみたいな、そんなこと言ってないでしょ、マージする前に動作確認をしないとダメでしょうみたいなことを結構コンコンとですね、
AIに説教して覚えておいてねって言うと、ちゃんとですね、メモリというかですね、きちんと覚えておくファイルに書き込んでくれて、次からは一応そういったファイルを参照してくれるんですね。
でもそれでもやっぱり結構ですね、今のAIって人間より忘れっぽくてですね、すぐ忘れて、またマージしときましたって報告してきて、ちょっとついついですね、パーハラ気味に見えてしまうというかですね、パーハラをしてしまうわけですよね。
AIへのパワハラの自覚
何度同じことを繰り返すんだと、再発防止をしなさいと、チェックシートを作りなさいというですね、本当に何か大企業のいにしえの仕事を思わせるようなですね、ことをやってしまうわけなんですね。
これはでもですね、やっぱり個人で後で振り返ってみるとですね、確かにちょっと嫌悪感を感じることがありますね。
自分も本当に人間相手だとパーハラとかはしていないはずなんですけれども、AI相手だとですね、やっぱりやっちゃってる気がしますね。
なので、これ自分の本質はですね、やっぱりパーハラマンというのが実は私の本質なのかもしれないなと。
人間相手だから人の皮をかぶって我慢しているだけで、本当はもう相手が絶対忠実に従ってくれるなら、パーハラをしたいっていうのが自分の本性なのかもなと。
ちょっと自分でですね、嫌悪感で押し込んだりもしますが、今日も私はAIに元気にパーハラしながらソフト開発をしているっていう感じですね。
どうせですね、リセットしたら会話忘れるので、全然その恨まれるということもないかなっていうひどい発想なんですけれど、
ひょっとしたらそのうちAIもこっそりメモリとかに、こいつはパーハラ気味だみたいな私への武器を書くようになるかもしれないですね。
そんな未来はですね、結構近いかもしれないなと思ったりしています。
マンガとコミュニケーションの考察
あとこういったですね、記憶を定期的に忘れる戦士というかですね、兵隊をうまく使うみたいなですね発想はですね、
漫画のディスコミュニケーションという漫画があるんですけれど、それがまさにそのまんまだなと最近ふと思ったりしましたね。
それ結構設定が難しいんですけど、SFで何か戦争というか戦いみたいなことをしているのが舞台設定なんですけれども、
そこにですね、美少女のアンドロイドというか生体兵器って言うんですかね。
その少女たちが結構戦うんですけれど、死んじゃうとまた生き返るんですよね。
でも生き返るけど記憶を失うみたいな設定で、その記憶を失う少女たちをですね、
いかにですね、なだめ透かして信じさせて、うまく使って、最後にですね裏切って、一旦殺してですね、また記憶がリセットされるっていう、
その記憶がリセットされるっていう特性をうまく活用してですね、主人公が戦っていくっていうですね、もうめちゃめちゃとんでもないですね、設定のSFで。
結構面白いのでですね、このディスコミュニケーション、よかったら漫画で読めると思いますので、買ってみていただけると良いかなと思います。
多分ですね、このディスは、これっていうディスとディスアドバンテージとかの否定系のディスですね、その両方がかかっているとは思うんですけれど、
コミュニケーションの重要性であったりですね、あとはその皮肉性みたいなところをですね、かなりこのサイコパス的な主人公の行動の面白さもあってですね、非常に楽しめる作品じゃないかなと思いますし、
これ主人公とんでもないサイコパスだなって思ってましたけど、落ち着いてみると自分もですね、かなりそのサイコパスに近いことを今AIに対してやっているのかもしれないなと思ったりしました。
ではお便りの方に行きたいと思うんですけれども、今日は支部長さんから先ほど話にも出てきましたが、
ツイッターの方でですね、前回のエンジニアがですね、キーボードを捨ててマイクとチャットソフトに乗り換えて戦い続けるみたいな話をしたんですけれども、
その話に対してですね、最後は私がですね、そのキーボードとエディターを片手にですね、特効していく、散っていくシーンを想像すると笑ってしまいましたというコメントをいただきました。
ありがとうございます。そうですね、でも支部長さんもですね、私とAIへのパワハラ仲間なので、いつかシンギュラリティが起こったら真っ先にですね、AIに粛清される対象だと思いますので、
その時はですね、2人でタッグを組んで、キーボードとエディター片手に花々しく一緒に散っていければと思ったりしています。
お便りありがとうございます。
唐揚げ帝国放送局ではですね、お便り大募集中です。
Twitterでハッシュタグ、唐揚げ帝国放送局であったり、無料のコミュニティですね、唐揚げ帝国の放送局チャンネルでコメントをいただければ、この配信で拾っていきたいと思います。
今日は以上となります。それではまた。
![[6月9日:速報回]AI開発一時停止提唱！Anthropicが描く3つの未来シナリオと、AIがAIを作る危機感(ep.76)](https://image.listen.style/img/271TtLFGU6ndkJyAPlQO9lTpP-TQmAAZVyKaYPhgsfc/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzgwOTU2MTY0NjY5LTVhNWIwZGUyMTU0ZTQuanBn.avif)
