AIによるアプリ開発の現状とリスク
はい、おはようございます。 今日も、詳細とエンジニアの加門です。
今日のテーマは、先日、AIで作るアプリについてお話しさせていただいたんですけれども、
今日は、続編というか、AIに支持すれば誰でもアプリが作れるんだよと言いつつも、
じゃあこれ、本当にそのアプリというのは安全なのかというところをね、
もう少し深掘ってお話ししていきたいなと思います。
これ、エンジニアの視点から、この前はそんなことないんだよみたいなことを話したんですが、
もう少しね、数字というところを出しながら、いかに危ないのかというところをお話ししていければ、
より感覚値というか、そんなにやばいんだみたいなところを想像できるんじゃないかなと思っておりますので、
ぜひね、最後まで聞いていっていただいて、
自らの会社だったりとか、お客さんだったりとか、あと従業員さんだったりとかね、
そういった取引先か、守る、そういうふうな対策ができると思いますので、
ぜひ最後まで聞いていってください。
この番組は業務瞬殺エンジニアの加紋が業務効率化とITニュースを語るチャンネルです。
さてね、本題に入っていこうかなと思うんですけれども、
例えばAIのチャットGPTとかだと音声で入力することができたりとかします。
そういうふうに喋るだけでアプリの開発ができるような時代になってきてるなというふうなのは思うんですけれども、
じゃあ本当に手放しで誰でもできるのかというふうな話になってくるとですね、
どうだろうかというふうなところがあります。
そこで前回は本当にエンジニアが作ったからこそ品質というものがちゃんと担保されてるんですよというお話をさせていただきました。
やっぱり1000万円かかるようなサービスを3時間で作れましたと言っても、
それがお客様に出していいクオリティなのかどうかというのはまた別のお話なんですね。
なのでそれについて前回お話しさせていただいて、
だからこそ手放しでアプリ作ったからと言ってですね、
それが安全であるというわけではないんだよというふうなお話をさせていただきました。
今回はじゃあ本当にそれは数字の上で見てもですね、
僕の言ってることは正しいのかというところをもう少し深掘ってお話をさせていただければと思っております。
AI生成コードのセキュリティ欠陥に関する調査結果
今日お話しさせていただくのがですね、セキュリティ会社のベラコードという会社があるんですけれども、
このベラコードがですね、150以上のAIにですね、4つの言語で80種類のプログラミングをさせたと。
かなりこの大きな調査を行ったんですが、その結果どういうふうな問題があったかということをレポートしているんですね。
で、その出来上がったプログラミングをチェックしたらですね、
約半分にセキュリティ上の欠陥があったというふうに報告をしています。
なので安全にかけてるねっていうのはもう約半分だと。
これは2年前の調査ではあるんですけれども、
この2年前の調査だから今安全だよねというふうになると、実はそうでもなくてですね、
結構あんまり変わらないんですね。
AIが賢くなったんだって言って、もう本当にもうあんまり変わらないです。
確かにその文章とか要約とか翻訳の精度が上がってきてはいるのかもしれないんですけれども、
この安全性という部分に関してを言うとですね、横ばいの状態であるというふうに言われておりまして、
なのでこうやってくれって言ったとて、
じゃあその半分は本当に安全なのですかというとどうなんでしょうねという状況になっているものになります。
プログラミングはプログラミング言語というものがあります。
言語って言ったらドイツ語とか英語とかフランス語とかあるじゃないですか。
これと同じようにプログラミングにも言語というものがあります。
このプログラミング言語によってですねやりたいことが違ってたりいろいろねできることが変わることが多いんですけれども、
この中でよく使われているJavaというプログラミング言語があるんですが、
これがですね約7割は不合格であったというふうなレポートもあるんですね。
Pythonとかが結構安全にかけてたようなんですが、これでも62%が安全だったというふうに言われていて、
約4割はですね全然安全じゃないようというふうになっていると形になります。
AI生成コードのレビューと人間のチェックの必要性
じゃあこれをですね安全にするためにはどうしたらいいんですかっていうとレビューをすればいいというふうな話になるんですね。
この時にですねよく言われるのがクロードで作ったんだったらChatGPTコーデックスというのがあるんですが、
コーデックスでレビューをさせればいいんだみたいな話が出てきたりとか、
そういうふうなテクニカルな話がね出てきたりはするんですけども、
使ってるとですねChatGPTにレビューをさせました、クロードにレビューをさせましたということを私もやってるんですけれども、
案外見逃すんですね。ここダメだよみたいなこと言ってくれるんですけど案外見逃してきます。
なので最終チェックといったところはやっぱり人間の目でしなければいけないなというのが現状ですね私が仕事をしている上での感覚になります。
もっと優秀な方がいればこういうふうにやればいいよみたいなことを言ってるかと思うんですけど、
僕が今使っている感じだとなかなかそんなに簡単じゃないなというふうに思っております。
結構ねAIを使っていて、僕はそんなことあんまり経験したことないんですけれども、
他の方とかの報告を見てるとですね、ありもしない、頼んでもいないソースコードを作っていて、
そのソースコードが故に不利益が生じてしまうみたいな、
例えば皆さんの個人情報が外部に流出するようなプログラミングが書かれていたとかね、
そういうふうな話があったりとかするという話もよく聞くので、
僕は今のところあったことないんですけどね、レビューして見ててもそういうことはないんですけど、
そういうことも起こり得るという話なので、ぜひ気をつけていただきたいんですけれども、
レビュー誰がするのって素人がするって言ったら結構厳しいと思うんですよね。
なので、なかなかそこら辺のチェックってのは難しいなと思います。
AI利用のリスク回避のための3つの対策
なので、今回3つどういうふうにするのかというところをお話ししていきたいなと思ってるんですが、
これね、AIの話じゃないんですね。
AIの話を言っちゃうと結構厳しいので、
そもそも皆さんのお仕事をもう一回見直しませんかっていうところです。
なんかよくね、業務アプリケーション作りましたっていうふうな話とか聞くんですけど、
その業務アプリケーションってそもそもあなたの仕事を見直した時っていらなくないですかみたいなこと結構多かったりとかします。
なので、それを言っちゃってすごいふてくされた顔をされることがあるんですけど、
でもこことここのプロセスいらんくない?みたいな、
ここ削ったらだいぶ効率化するけどそれでもこのアプリケーションいるんですか?みたいなケースってよくあるんですよ。
なので、その自分の業務のお仕事をですね、一回見直すということをやっていただきたいなと思っております。
2つ目がですね、データってどこにあるんですかということです。
AIを作るにしてもですね、IT化をするのでもですね、やっぱデータって重要なんですね。
なのでそのデータの流れというのをまず整理しましょうということになります。
だからさっきは業務の整理ですね。
次は情報の整理というのをやりましょうねということになります。
3つ目なんですけれども、半年間やってないとか半年間触ってないなというものがあったら、
これはもうね、一旦やめるっていうことをやりましょうって話です。
これはAIで作ったアプリケーションも含めてですね。
これ使ってないよねみたいなっていうのは、
市販機に1度がいいんで3ヶ月に1度ぐらいのチェックをして、
必ずね、使ってなかったら消すっていうことをやっていただきたいです。
3ヶ月に1回はちょっと厳しいって言うんだったらもう半年に1回ですね。
せめて半年に1回はですね、そういう触ってないよねとか、
これ作ったけどやってないよねとか、
そういうのって結構多いんですよ、そういうAIで作ったアプリケーション。
AI簡単に作っちゃうから。
だからそういうチェック体制というのをね、ぜひやってみていただければなと思います。
AI生成コードの利用における注意点と自己責任
AIのテクニックではなくて、もっともっと土台のテクニックっていうところをしっかりやることによってですね、
その後の作業っていうのはもっと楽になるので、ぜひやってみていただきたいなと思います。
AIで作るアプリケーションは結構難しいので、
本当にちゃんとセキュリティ大丈夫なのかというチェックとかもね、結構難しいところもあるので、
そこら辺はあんまり背伸びしないほうがいいんじゃないかなというふうには僕は思っています。
あとね、信用できる人からもらったものでも、
AIで作られたものってあんまり信用しないほうがいいですね。
エンジニアが作ってるって言ったらちょっと話変わりますけど、
あんまりプログラミングやってましたみたいな人じゃない限りは、
そういうセキュリティ上のエラーとか欠点とかそういうのってチェックできないので、
何があったとしてもその人の責任にはできないので、
使ってる人の責任なので、
そこら辺は自己責任でやっていただければなと思います。
ということで、本日の放送はここまでとなります。
今日の放送が面白かったな、ためになったなという方はぜひ、
いいね、フォロー、コメントをしていただけると幸いです。
それではまた次回の放送でお会いしましょう。
カバンでした。バイバイ。
