AIツール利用のリスクと注意点
はい、おはようございます。今日も瞬殺エンジニアの加門です。 今日のテーマなんですけれども、今日はClaude Codeだったりとか、Codexでアプリを作られている方もいらっしゃるのかなと思って、それでちょっとそれについてお話ししていきたいなと思っております。
まず、正直素人が作ったアプリっていうのは本当に危険がいっぱいあるなと思っております。 自分自身で使ってるんだよっていうだけだったら全然いいんですけど、例えばそういったところに顧客情報を入れますよとか、個人情報を入れますよとか、契約情報を入れますよという風な場合ですね。
気をつけないととんでもない目に遭う可能性もありますので、ぜひそこら辺チェックしていただければなと思います。
この番組は業務瞬殺エンジニアの加門が業務効率化とITニュースを語るチャンネルです。
最近なかなかITニュース喋ってないですね。今度はITニュース喋ろうかな。ということで、Codexでアプリを作るといったときに注意点というものがございます。その注意点について今日お話ししていこうかなと思います。
AIによるゲーム開発の限界
Codexだったりクロードコードだったりとか、そういう風なシステム開発に使うようなAIというものが今世の中にあるんですけれども、Xとか見ててもクロードコードでポケモンみたいなゲーム作ったとか、そういうの結構見かけると思うんですが、
確かにすごいんですよ。確かにすごいんですけど、あれって言っても仕組みがあるわけなんですよね。
ぷよぷよだったらこういう風な仕様だよねみたいなとか、テトリスってこうだよねとか、ポケモンってこういう風な感じだよねみたいな感じになって結構決まっているわけなんですよ。
じゃあクロードコードでチョロンチョロンと指示しただけでポケットモンスター赤みたいなゲームを一発でできますかってちゃんとシナリオ入りでねって言うとできないんですね。ちゃんとやろうとすると結構大変なんですよ。
なので、ああいうXとかでポジショントークしている人いますけど、あれも面白半分で見とかないとちょっと痛い目にあるなと思っています。
実際にやってみていただきたいんですけどね、クロードコードでポケモン赤みたいなゲーム作ってって言って本当にポケモン赤みたいなゲームができるのかって言うとできないので、デザインから何まであんな151匹のポケモンなんて無理なわけで、
僕ポケモンって赤しか知らないんであれなんですけど、赤青黄色緑ですねくらいしか知らないんですけど、皆さんは何色やられましたか。僕は赤色なんですけど、ポケモンファースト初代ですね。やったーって方はですね、色を教えていただけると嬉しいです。
AI実装における穴と素人の盲点
話は戻るんですけど、クロードコードとかコーデックスで一番僕も使っていて思うところとしては、実装方法は結構すごいんですけど、穴が結構あるっていうところなんですね。
僕はやっぱりプロなのでこう進めていくと、あれそれってさーみたいな。さっきこういうふうなこと言ってたけど、そこら辺の抜けっていうのは実際問題だと思うんだけど、そこら辺どういうふうに考えてるのみたいなこと言うと鋭い指摘ですねみたいなこと言ってくるんですよ。
考慮に入れてませんでしたみたいな。いやいや考慮に入れなあかんやろみたいな感じなんですね。結構そういうセキュリティ上の穴というか、仕組み上の穴というか、そういったものが結構ボロボロボロボロ出てきます。
僕も自分が得意なプログラミングだったらすぐにわかるんですけど、僕がやったことないプログラミングの言語というのがあって、プログラミングって言語って言われるものがあってですね、英語、ドイツ語、フランス語、イギリスは英語か、日本語とか中国語とか、そういうふうに言語ってあるじゃないですか。
これと同じようにですね、コボルとかPHPとかJavaとかCシャープとかそういうふうな言語があるわけですね。
それってだいたい似通っている部分もあるんですけど、全然似ていない部分もあってですね、結構習得しないといけなかったりとかするわけなんですけど、
今僕がやってるやつってそういうよくわかんないなと思うやつをクロードコード使いながら今開発してるんですけど、便利ですよね。覚えなくていいっていうね。
でもそうすると穴がわからなかったりするんですね。言ってることをちゃんと見て、それは本当に正しいのかとか、あれそれってさっき言ってたことと矛盾が生じていないかとか、
使用からずれていないか、使用っていうのは設計書みたいな感じですね。とかそういうふうなものをちゃんと見ながらですね、システム開発をしているわけなんですけど、やっぱりどうしてもそういう抜け漏れっていうのはすごいあるなというふうに思います。
これが僕ではなくて完全に素人だったら本当にその抜け漏れって気がつかないし、クロードコードが言ってるんだったら正しいやろうと思って進めちゃうかなと思います。
実際クロードコードがこう言ってるなって思って進めてたら、え、それってこういうふうなやり方をしたらそこって解決すると思うけど、実際どうなんみたいなことを言うと、その方法の方が正しいからそっちにしましょうみたいなことを言ってくるぐらいなんで、
多分みなさんはやってる人はですね、素人のやってる人はそういうこともわからないので、多分クロードコードの言っている通りにやっちゃうと思うんですよね。
そうすると余計な実装だったりとか抜け漏れがあったりとか、本当はもっと効率的に開発ができたりとか、もっと効率的にシステムの堅牢性と言うんですけれども、
家で例えると地震が来ても大丈夫、台風が来ても大丈夫みたいな、いうふうにしないといけないんですけど、地震が来たら家が倒壊する、台風が来たら屋根が飛ぶみたいな、そういうふうなシステムになってしまっているんじゃないのかなというふうに思います。
なので本当に素人でも作れちゃうような世の中になってきたんですけど、その分そういったシステムの堅牢性というかセキュリティというか、そういったところが随分抜け漏れがあるシステムというのが世の中に大量生産されているなというふうに思いますので、ぜひここらへんちょっと気をつけていただければなと思います。
AIツールの賢い使い方とレビュー
どうやって気をつけたらいいのかって言われるとね、ちょっと困るんだけどね、経験値だから。
クロードコードの言っていることを信じるしかないと思うんです、素人の人って。
でも、例えばある程度進んだところに今までの内容を振り返って本当にこの方法しかなかったのか、改めてゼロベースで確認してくださいって言ってみたりとか、
あとはセキュリティの話で言うと、今開発しているもののやつをすべてゼロベースで見直して、セキュリティ上の欠点がないかどうかっていうのを確認してくださいって言ってみたりとか、
クロードコードを使っているよという方はコーデックスも使ってみていただいて、ソースコードすべて渡して、今こういうふうな感じでやってるんだけど、どう思うみたいなことを言ってレビューさせてみる。
レビューっていうのはチェックですね、チェックさせるっていうことなんですけど、レビューさせてみて、あ、レビューしてくださいみたいな、厳格にレビューしてくださいみたいな感じで言ってみて、そのレビュー内容をそのままクロードコードに投げる。
コーデックス使っている方はクロードコードにレビューさせて、レビューさせた内容をコーデックスに投げるみたいな感じにするのが一番いいんじゃないかなと思います。
この3つぐらいあればいいんじゃないかな。僕何つったっけ。今までの内容を振り返って、ゼロベースで振り返って、この内容が本当に正しいかどうかっていうのをセルフチェックしろっていうのと、セキュリティーの抜け漏れがないかどうかっていうのをセルフチェックしろっていうのと、
別のコーデックス使っているならクロードコード、クロードコード使っているならコーデックスに依頼してレビューしろと。レビューの内容を使っているやつに投げ返すという感じでチェックさせるといいんじゃないかなと思います。
ここまでしても抜け漏れがすぐ発生させるので気をつけて使っていただければと思います。結構しょっちゅうあるので気をつけていただければなと思います。
まとめと今後の放送
今日の放送はここまでとなります。今日の放送が面白かったな、ためになったなという方は、いいね、フォロー、シェアをお願いいたします。また次回の放送でお会いしましょう。カモンでした。バイバイ。
