1. jMatsuzaki
  2. プログラマーに400万円騙され..
2025-03-03 20:24

プログラマーに400万円騙された!生成AIで書いたコードを見抜けなかった実体験を語る

1 Comment

プログラマーに400万円騙された話を赤裸々に語ります。なぜ気づけなかったのか?採用から試用期間、実際の開発状況まで詳細に振り返ります。

エンジニア採用を考えている人、フリーランスと仕事をする人、AI技術の進化に興味がある人にとって必見のエピソードです。手口や対策を知り、同じ失敗を防ぎましょう!


▼プロフィール

●jMatsuzaki

システム系の専門学校を卒業後、システムエンジニアとして6年半の会社員生活を経て2011年に独立。会社員時代にjMatsuzakiの名で始めたブログが「熱くて有益」と人気を博し、最高で月間80万PVに達する。現在は時間管理サービス「TaskChute Cloud」の開発や執筆、講演活動をしている。著書に、『先送り0』(技術評論社)がある。1986年生まれ。埼玉県 春日部市出身、ドイツ バイエルン州在住

●佐々木正悟

ビジネス書作家、心理学ジャーナリスト。1973年北海道旭川市生まれ。97年獨協大学卒業後、ドコモサービスで働く。2001年アヴィラ大学心理学科に留学。2005年に帰国。著書に『イラスト図解 先送りせず「すぐやる人」になる100の方法』(KADOKAWA)、『不安ゼロで生きる技術』(知的生き方文庫)、『先送り0』(技術評論社)など。


● 時間管理ツール「TaskChute Cloud 2」 →⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.taskchute.cloud/⁠⁠⁠⁠⁠⁠⁠⁠

● 共著「先送り0」(技術評論社) →⁠⁠⁠⁠⁠⁠⁠⁠https://amzn.to/3RnwLIl⁠⁠⁠⁠⁠⁠⁠⁠

● X → ⁠⁠⁠⁠⁠⁠⁠⁠⁠https://x.com/jmatsuzaki⁠⁠⁠⁠⁠⁠⁠⁠⁠

● Voicy → ⁠⁠⁠⁠⁠⁠⁠⁠⁠https://voicy.jp/channel/1380⁠⁠⁠⁠⁠⁠⁠⁠⁠

● Facebook → ⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.facebook.com/Blog.jMatsuzaki⁠⁠⁠⁠⁠⁠⁠⁠⁠


👇 お仕事の依頼はコチラまで

 jmatsuzaki.com@gmail.com

サマリー

プログラマーに400万円を騙された実体験を通じて、業界の採用プロセスやエンジニアのスキルミスマッチについて語っています。また、Task Shoot Cloud 2の開発における試行錯誤やハードワークの重要性が浮き彫りになります。このエピソードでは、生成AIによるコード生成がもたらすリスクについて、著者が自身の経験を基に話しています。特に、AIコード生成に騙された結果、プロジェクトが炎上した経緯や、注意すべきポイントについて説明しています。

騙された経験
私の愛しいApple Pieへ。 今回から正面のライト、いつもよりちょっと大きいライトを買ってつけてるんですけど、
なんかすごいいつもより照明が綺麗な気がしてテンション上がってる、jMatsuzakiです。
前回、前回なのかわかんないけど、Tetris、Tet1取りましたっていうお話しました。
そうすると、Tetris 99 VIPっていうのが始まって、Tet1取った人だけのマッチになってですね、この世界がもう異様で、最初からやだらかいんだけど、異常で、それでもそこでちょっと奮闘していて、
また新しく何かを背負い込んじゃった、jMatsuzakiです。
頑張ってください。
はい、頑張ります。
忘れもしない、2023年12月の話なんですけど、今これ放送を収録してるのは2025年の2月なんで、もう1年半くらい前なんですけどね。
2023年の12月にですね、当時Task Shoot Cloud 2というサービス、今もうローンチされてますけど、
それをですね、まさに開発中でございまして、4ヶ月経ったくらいだったんですよね、開発始めて。
大体開発期間4ヶ月で形にしようと、とりあえず動くものを作ろうということで、4ヶ月経った後なんですけれども、その12月っていうのが。
その時にですね、よっしゃ、動かしてみようってなって、動かしてみてですね、その時にわかったのが、その時3人体制で僕を含めてですね、開発していたんですけれども、
3人のうちの1つが4ヶ月間全くコード書いてなかったっていうことがわかりまして、その方にはですね、当然4ヶ月分のお金っていうもの払ってるわけですよ。
もっと言うと、ちょっと契約期間もうちょっと長かったんで、最初に使用期間とかあったんでね。
多分6ヶ月以上払ってると思うんですけれども、この方が全くコード書いてなかったと、中身ハリボテのプログラムだったということがわかりまして、
ああ、騙されてたんだっていうことに気づいた。それが2013年12月。そこからね、これは別の放送で収録したんで聞いてほしいんですけれども、詳細はね。
計画ゼロで成果を出す、16ヶ月間にわたる炎上案件を乗り越えた超仕事術っていう放送があるんで、詳細はちょっとそっちを聞いてほしいんですけれども、
そっからね、もう本当にね、16ヶ月間、今よくサバイブしたなって思うくらいですね、ハードワーク続けまして、今落ち着いたんでね、この話できるんですけど。
大変でしたね、あの時は本当に。
大変そうでしたよね。
まさかね、こう、まあそういう話はいくらでもあるんでしょうけど、まさか自分がっていうかね、騙されてしまうのかと。
しかもちなみになんですけど、その方にはですね、弊社としても初めてお金を借り入れしてですね、せっかく新しいサービスを作るんでちょっとブーストをかけようということで、
日々の会社のキャッシュフローで上がってくる利益だけじゃなくて、お金を借り入れてですね、その借り入れたお金を新しくやったエンジニアの開発費に充てようということで、お支払いをしてたんですよ。
で、それが合計だいたい400万円。
だから2023年12月、全く何も中身がないプログラムっていうのを納品されて、その時に400万円使ってしまったんだなっていうことが分かったっていう。
ひどくないですか?
いや、ひどいですね。
採用プロセスの教訓
うーん、なるほどね。
それが、なんでね、じゃあそんなお金を払ってんのに騙されてしまうんだと。チェックはしてなかったんかっていう話になると思うんですよ。
当然ね、チェックとかも今思えばちゃんとしてなかったんですけど、一応はしてたんですよ。
なるほど。
で、何したかっていうと、まずだいたい6ヶ月間くらい前だったんですけれども、実際にそのことが発覚するまで前、6ヶ月前くらいにその方に入ってもらったんですよ。
で、どうやって入ってもらったかっていうと、弊社としてはこれまで結構人付でエンジニアを紹介してもらってたっていうことがあって、スポットで案件に入ってもらうみたいなことが多かったんですけど、
でもやっぱりこれだとスキルのミスマッチが結構あるんですよね。人付で声をかけられる範囲にどうしても限定されちゃうし、うちは別にそんなにエンジニアとすごく顔が広いわけじゃないんで、声かけられる人がすごく限られてくると。
そうなってくると、どうにか入ってもらうんだけれども、実際に弊社が求めているスキルっていうものを持ち合わせていなかったりとか、こういうミスマッチが結構あるんですよね。
なるほどね。
これってちょっとあんまり公開的じゃないんじゃないかなって思うっていうのがあって、普通の会社がやってるような感じで採用しようということで、初めて採用っていう活動に踏み切ったんですよ。
初めてだったわけですね。
そうなんですよ。採用条件みたいな、じゃあフルでコミットできる人を求めてます。
プログラミングの言語はこういう言語が必要で、システム的にはこうなってて、こういう知識がある人が欲しいですみたいな。
あんまり仕様とかに型にはまった開発だけじゃなくて、ちょっと柔軟にスタートアップできる人を求めてますとか、こういうことを書いてですね、一般に公開してですね。
5人くらいから申し込みあったんですよ。1ヶ月以内に。
なるほど。
結構あるなと思って。
5人の中で一人一人職務経歴書とかを見せてもらって、志望動機とかも送ってもらって、良さそうな人には直接面接もして、それも僕と共同代表の経営管理ともう一人のエンジニアとベテランのエンジニアさんですよね。
面接をして問題なさそうかっていうのを判断した上で採用しようということで決まったのが彼なんですよ。
寄りにも寄って。
まずなぜそこで決めてしまったかっていうと、結構有名な書を取ってたんです。学生の中では。
なるほど。
学生で取れる、しかも国が認めているなんとか書みたいのがあって、エンジニア界隈では結構知られてるものなんですけれども、その認定してる組織もすごく有名な組織で、国家試験とかも発行してるところなんですけど、
へー。
で、そこの章みたいのを取った実績があった。
じゃあ行動が汲めないってわけでは決してないはず。
ではないはず、はい。
なるほど。
プロジェクトの苦労
最低限のことは知ってるんですよね。それがちょっとまたややこしいんですけど、全く書けないわけじゃないと。最低限のなんとなく知識は持ってます。
で、実績も学生の中ではあるらしいと。正直大学も多分誰でも知ってるようなその手の理系の大学だったら、本当に大学受験やってない僕でも、あそこは結構頭いいらしいなっていうのを知ってるくらい。
なるほど。
大学だったと。
はい。
面接もしてみたら、いやね、タスクシュートクラウド日常的に使ってて、めちゃくちゃいいツールだなと思ってますと。
この日常、普段から使っているツールをね、自分で新しいバージョン使えるっていうのは、やっぱりお金に変えられない価値がありますっていうようなことを言ってくれて、僕はそういうの弱いんで、この人はいいんじゃないかと。
ということでですね、その人ですね、5人のうちの1人、最終的に選んだっていうのがまず採用。
他の人の意見としてはいかがだったんですか?
いや、でも他の人もあれですね、他の面接官というか、僕以外の2人ですよね。僕以外の2人も、5人の中だったらこの人がやっぱズバ抜けてというか一番いいんじゃないですかってことで、満場一致で決まったんですよね。
そうか。
そうなんですよ。
だからまずそこで見破れなかった、そこでは。
実際その後2ヶ月間くらいですね、それが6ヶ月前じゃないですか。
2ヶ月間くらいとはいえ、いきなりそんな弊社の主力になるであろうサービスの開発にフルで入ってもらってっていうのは怖いから、ちょっと案件やってもらおうっていうことになって、一応弊社で受注案件っていうものを受けてるんで、この受注案件っていうものにスポットで入ってもらったんですよ。
そこであんまりややこしいことは言わずに、細かいバグをいくつか直してもらうとか、そういう具体的な、かなり明確なこの機能のこういうエラーを直してくださいってことをお願いしてたんですよ。
それは結構問題なさそうだったんですよね。
そうなの?
そうなんですよ。
やっぱり一応基本的な知識はあるんです。
当然そういう大学も行ってるし、そういうほにゃららっていう賞も取ってるっていうだけあって、最低限の知識はあると。
このコードのここを直してくださいっていうことを言えばできるんですよ、たぶん。
なるほどね。
2ヶ月間くらいやって、まあまあまあいいんじゃないのっていう話になって、よっしゃじゃあね、ここはもう万を持してと、もう借り入れもしちゃってるからね、お金はね。
じゃあちょっと万を持して、自社のタスクシュートクラウド2、これが今後の事業の柱になるであろうから、ここにがっつりフルで入りましょうということになって、僕ともう一人とそのエンジニアさんですよね。
Aさんと仮にしておきますけど、このAさんに3人でタスクシュートクラウド2をとりあえずまずは4ヶ月でフルでコミットして入って形にしようと。
要するに丸1年ですよね、3人で4ヶ月なんで、一人がフルで1年入ったっていう感じの構成でたぶん作れるんじゃないかっていうことで、3人4ヶ月、これでいきましょうっていうことで始めたと。
8、9、8月くらいかな、9、10、11、12か、9、10、11、12みたいな感じで4ヶ月やって、いざ蓋を開けてみたらというか、騙されてたと、中身ないと。
その4ヶ月間もどうしてたかっていうと、一応心配なんで、こういう感じの方向性でコードを書きますとか、一応ざっくり設計みたいなものも作ってもらったんですよ、その方に関しては。
一応それも見て、ちょっと実際作ってみないとわかんないけど、とりあえずポイント押さえてるんじゃないの、って感じで入ってもらって。
コードも常に共有してるんで見れるんですよ、僕たちも。
その人にもキリがいいところで必ず共有してくださいっていうのは言ってあって、共有もしてあると。
それも僕たちも稀にですけど見てたりして。
で、一応ファイルもあると。
なんとなく適当にポチポチやってったら、なんとなくそこまでちょっと中身正直追ってなかったんですけど、関数がいくつか書いてある。
増えてるじゃん、コードみたいな。ファイル増えてる感じで、そこで結構信じちゃってたんでね。
大丈夫だろうみたいな感じで、12月になった。何も動いてないと。
なんならもうタスク仕事のことよくわかってないっていうこともその時わかったんですよ。
なんかタスク仕事って若干特殊なのがルーチンって作るんですけど、ルーチンって毎日それぞれ独立したものになっていくじゃないですか。
定期的にはやるんだけれども、でもその日やるやらないっていうのは決められる関係で、いざその日になったらその日のレコードになるっていうんですかね。
その日のタスクに個別化されるんですよね、タスク仕事。
ここは若干通常の習慣トラッカーとは別で、実際に設定された周期通りにやるわけじゃないと、その日になったらやらないっていうことも起こり得るっていうことがあるんですけど、
ここが結構普通の一般的な習慣系のサービスとは違うところで、そういうことわかってなかったんですよ。
なるほど。
その日になってやらないとか、その日になって追加するとか、そういうことも全く考慮されてないとか。
あれ、タスク仕事のルーチンこれ無理くないですかみたいなこと言ったら、え、え、みたいになって。
よくそれで今までタスク仕事やってたなみたいな。
そういうことがあるんだね。
そうなんですよ。
その時にタスク仕事っていうのも知らなかったんだと、タスク仕事クラウドも使ってなかったんだっていうことがその時にもわかったと。
で、一番ね、じゃあなぜそのコードとかですね、なんとなくあるんですよ、全くまっさらじゃないんですよ。
なんとなく書かれているものがあるんですよ。
AIコード生成のリスク
で、その前もこれ直してくださいって言ってバグフィックスみたいなやつはやってくれてたと、その使用期間的なところで。
じゃあそれがね、なぜできてたかっていうとAIなんですよ。
それがAIでできちゃうの?
できちゃうんですよ。だからこれがね、ややこしかった上に、しかも2023年の後半ってまだ、
あのエンジニア界隈でもちょっと出始めというか、いやそこまでがっつりAIに任せるのは怖いよねっていう感じで、
ちょっとした修正とかやってくれる時にはまあ使うか、いやでもな、AIかみたいな感じの温度感だったんですよね。
だからあんまりなんかがっつりAIでコード生成させて、ましてやそれを納品するって発想がなかったんです。
そんなことするやついないだろうっていうことにちょっとまだ頭の中がなってて。
でも実際見てみたらAI生成コードなんですよね、中身が。
だからよくわかってないけれどもそれっぽいものが作れちゃうっていう。
で僕たちはよくわかってないけれどもそれっぽいものが作られてるのを見て、
あ、なんとなく進んでんのねと。で、コードを書いてるってことは手を動かしてるってことだろうって思っちゃってるから、
AIが書いてるはずはないというか、そういう発想はそもそもなかったんで、
まあまあここまでコードがね、中が溜まってるんだったら大丈夫だろうみたいな感じで結構安心してたんですよね。
いやだから4ヶ月間ですね、結局見抜けずになってしまったと。
炎上案件の始まり
大変ですね。
あの時の4ヶ月経って、よっしゃと4ヶ月ね頑張ったぞと、よし形になって一段落だって思ってたら、
実はそこから炎上案件スタートだったっていうことに気づいた、あの時の絶望感。
ここからが本当の戦いだったんだっていう。
いやー。
よく無事でしたね。
いや本当ですよ、もうそれはね、その先ほど紹介した16ヶ月間のね、炎上案件を乗り換えた、超ハードワークを乗り越えたっていう話聞いてほしいんですけれども、
まあこれは幸いね本当に、作ってるのもタスクシュートだったんですけど、
僕はタスクシュートでそのタスクシュートを作ってたんでちょっとややこしいですけどね、
タスクシュートのメソッドを活かしながらコードも書いてたんで、
タスクシュートという時間管理によってね、どうにかこの超ハードワークも乗り越えられましたけど、
これタスクシュートを僕やってなかったら本当どうなってたんだろうっていうか、
もう本当に会社潰れてたかもなって思います。
注意喚起と信頼性
本当にね、あのIT系にね、もうこれからは限らないと思うんですけれども、
注意喚起の回でございます、今回。
これ第一にね、結構AIは見抜けない。
今はでも結構言われてきてるじゃないですか、AI生成でレポート作るなとか、大学生だったらね、
宿題をねAIにやらせるなとか、成果物ライターとかでもAIに書かせた文章納品するなとかね、
なんかそういうのがあったりとか、そういうのを予防するために契約書作るとかね、
そういうのも多分いろいろ始まってるとは思うんですけど、
とはいえ本当に騙そうとしてAI使ってくるやつっていうのはいるし、
騙そうとしてやられるとね、結構ね、
相手も虎爵なんで、割と見抜けないことあるんで、
気をつけてくださいっていうのがまず一つ。
もう一つはですね、僕はこのねタスクシュート界隈を中心に事業を作っていろいろやってきたじゃないですか、
で、このブログを書いて読んでくれている方とか、要するにアップルパイとかね、タスクシューターとかと一緒に仕事をすることも多いんで、
そのね、やっぱりいい人が多いわけですよ。
密度が高いわけですよ。このJ松崎ポッドキャストリスナーとか、
タスクシュート実践者とか、アップルパイとかの密度は高いから、
ちょっとこういうね、ある意味お花畑になってしまっていたというか、頭の中が。
みんなちゃんとしてるなあっていうね、すごく好きが生まれてしまったなって。
なるほど。
で、そこでいきなり採用っていう完全外務の人が入れるような口を儲けて入ってもらったじゃないですか。
で、その時に僕はもう完全に正前説というか、
いや、これでね、騙しに来る奴いないだろうって思っちゃってたところは多分あるんですよね。
なので、なんか親と、なんかおかしいなっていうポイントは今考えればいくつかあったんですけど。
なるほど。よく言うよね、そういう話って。
そうなんですよ。
でも前提が正前説。
その騙そうなんていう気持ちはないだろうと。
本人は頑張ってるんだろうっていう視点でも見ちゃってるんで、あれこれおかしくない?
あれこれタスクシュートやってたらこんな間違いしないよなとか、
なんかそういう、あとコードとかもペアプログラミングって一緒に書いてた時とかも、
なんかやたらと別の画面見てるなとかね。
コードが全然書かれてないと。全然書き進められてないと。
で、どっかのタイミングでなんかコピペでペッてコードがつくみたいな。
なんかなんでこんなにタイピングしないんだろう?この人みたいな。
親とか思う時はあったんですけど、やっぱ前提としてね、みんなちゃんとしてるなと。
正前説で考えちゃってたんで、ここにねちょっと隙が生まれちゃったなって。
なるほど。
この辺りかな。
で採用とかもなんかタスクシュートクラウド日常的に使ってて、すごく便利に使わせてもらってるんで、
僕の手でアップデートしたいですって言われたら、本当ですかって言えないじゃないですか。
どんくらい使ってます?みたいな。
じゃあタスクシュートどの機能が一番いいですか?とか、あんま踏み込めないというか。
そうですか?みたいな。
それは嬉しいですみたいになってしまう。そういうのは僕も弱いんで。
なるほどね。
いやーなんかわかるような気がしますし。
見てきたような話を聞いて、見てきたような気持ちに、実はその人の顔を見たことがあるわけじゃないんですけどね。
いやー。
まあ信じたいという認知の優雅さがね、そういうやつですよね。
それです、本当に。
あとAIがなかったら見抜けただろうなとか思いますけどね、正直ね。
確かにあの時期はね、だからAIって本当に急速でしたよね、普及もね。
急速でしたから。
出てきたばっかりで、なんかこうね、どっちかっていうとこう、アニメ系の絵を描いてみんながXに投稿して盛り上がるみたいな世界だったから。
確かにコードを書くみたいなのは言われてみればあるに決まってるんだけど、
僕みたいな部外者はもう、ああ、お絵かきツールで、感覚でしかなかった。
なるほど。
聞いて初めて、ああそうかAIってコードを書くんですね。
まあそれって考えてみると全然わからない話だわ。
確かに。
本当です。
ということで、今後もこういうことあるかもしれないんで、気をつけていきましょう。
そうですね。
はい、それではですね、これからね、AI詐欺的なやつとか、そういうね、騙しに来る人も中にはいるんだな、気をつけようって思ってくださったらですね、
このチャンネル登録と、それからね、Podcastをね、レビューをしていただけると非常にありがたいです。
そして感想コメントもね、ぜひいただけると幸いでございます。
これをモチベーションに放送しておりますんで、何卒応援よろしくお願いします。
よろしくお願いします。
はい、それでは田崎さん、今日もありがとうございました。
ありがとうございました。
あなたの従順なる下辺、松崎。
20:24

コメント

いやホント、生成AIでもそうじゃない方法でも詐欺する人はいますもんね。勉強になりました!

スクロール