1. Off Topic // オフトピック
  2. #147 AI時代にどう教育する?
2023-01-26 1:14:58

#147 AI時代にどう教育する?

spotify apple_podcasts
◎今週のトピック
AI企業の成長 / 投資と消費 / 学歴は保険? / 限られた人しか入れないステータスゲーム / SparkNotes / 大学の従業員 / どこの学部にいくべき? / GPT3でエッセイを書く / 計算機に適応した学校 / 評価システムを疑う / chatGPTの弱点 / 最後の1%の精度を上げるのが難しい / 学校の在り方 / Stripe創業者兄弟を生んだ3つの教育方針 / ザッカーバーグの親 / Synthesis(シンセシス) / 昔の家庭教師の役割 / AIは感情的な繋がりを作れるか / 友達が減っている現代人 / 『クララとお日さま』のAI友達(ネタバレあり) / 合成のSNSがあったらどうなるか? / AIと人間 / AI家庭教師サービスに感動 / AIと学校をどう両立していくか

◎参照リンク
https://www.notion.so/offtopicjp/147-AI-eef0a5fa106e4171874309d30142cf63

◎Off Topic Clubもやってます
https://note.com/offtopic/n/nb5e59f85cd78

【Spotifyオリジナルで新番組がスタート!】
bytes by Off Topic
http://spoti.fi/bytesPodcast

\ インタビュー動画シリーズもはじめました /
https://www.youtube.com/c/offtopicjp

◎Twitter
Off Topic https://twitter.com/OffTopicJP
Miki Kusano https://twitter.com/mikikusano
Tetsuro Miyatake https://twitter.com/tmiyatake1
00:07
みなさんこんにちは、草の幹です。 宮敵哲郎です。
Off Topicは、アメリカを中心に最新テクニスやスタートアップ、ビジネス情報を緩く深掘りしながらご紹介する番組です。
今回のトピックは、AIと教育について話していきたいと思います。
今回はAI。
はい。
結構、やっぱ去年末GBT3のやつとか、話題でしたもんね。
めちゃくちゃ話題になってますよね。
そこの話と、だいたいChatGPTとか、GPT3.3.5とか、これから多分出てくる4とか、
AI生成技術について、よくそれがクリエイティブ周りで使われがちだと思うんですけど、画像とか。
今回はそれを教育に絡めて、いろいろ発展があるんじゃないかなっていうところを話してみたかったっていうところなんですけど、
たぶん最後、教育について1エピソード分話したのって、たぶん2年前とかですね、たぶん2003年前か。
学校の話とか。
2021年か、そうですね。
確かに。
アメリカの大学の学費がものすごい上がってるっていう話でしたよね。
確かに。
こんなに経ったんですね。
そうですね。
あとは、去年末の年末のテーマで、ちょっと教育、学校のシステムっていう形について話していったと思うんですけど、
今日はそういう話も交じりながら、どうやって教育をゼロから考え直すっていうかっていうところを話していけたらなというふうに思っていますと。
はい。
はい、なんで、まず先ほど草野さんも言ったように、去年すごいAIが盛り上がってましたけど、
AIって2013年時点でAI企業って合計3ビリオンぐらいの調達をしてて、1000件以下の案件数だったんですけど、
2021年はそれが69ビリオンまで上がっていて、
8年で20倍以上ですね。
4000件の資金調達があって、
去年に関しては2021年がいろいろな意味で、いろんな業界のベンチャー当時のピークだったので、
03:00
そこから下がってるものの、オープンAIでしたり、JASPERでしたり、ディスクリプトでしたり、スタビリティAIでしたり、
AI生成技術っていうのが非常に盛り上がって、一種ハイプサイクルになりましたと。
ちょっと過剰評価されている部分が多いっていうところがあって、ホットな領域なので、
ただ実際のユースケースっていうのは本当にあると思っているので、
今後簡単にまずAIの話をすると、
作り上がっているモデル自体は長期的に見ると一般化されていて、
企業として大事なのがディストリビューションとデータ。
それをいかに広げられるかっていうのはビジネス的にっていうところでもあって、
あとは独自データを持てるかどうか。
それはユーザーが使ったデータ。
例えばそうですね。
結局オープンAIとかってオープンなウェブの情報を基本的に拾っているわけなので、
そのデータって他でもアクセスできるんですよね。
特定の、例えばアップルとか見ますと健康データって彼ら何年も前からアップルウォッチとかiPhoneとか通して取っているわけじゃないですか。
それはもう独自データになるので、
そういう意味だと彼らディストリビューションを持っているので非常に強いプレイヤーになり得るかなとは思っているので、
結局下にあるアルゴリズムがほとんど同じであればデータとディストリビューション勝ちますよと。
短期的に言うとこういうモデルとかがお金儲けにつながると思うんですけど長期的に見ると違いますよと。
この中でいろんなユースケースが出ている中で今回教育にフォーカスしたかったと。
教育は過去の若干振り返りになるかもしれないですけど、大学とか教育って大体2つのユースケースというか考え方があると思っていて、
今までですと僕が思っていたのが投資。
大学に学費を払うことによって将来のための投資でありますと。
もう一つが消費。
大学ですと4年間パーティーしましょうと。
別に学びも含めてですけど。
06:03
でもそういう2つの投資と消費の掛け合わせの商品だったと。
ところが最近ちょっと違うかなと思い始めていて、
投資ではなくて保険なのかなっていう。
というと。
人はなぜ大学に行くかと考えると、
どういうふうに見られたいかとか、安定した仕事を取りたいからとか。
どちらかというと自分を守るための保険的な商品なんじゃないかなっていうふうに思っていて。
確かにそれはそうですね。
大学に行かないと仕事があったとか。
みんないってるし、行っておかないといけないかなみたいなのは高校生の時は思いました。
大学に行かないといい仕事が取れないんじゃないかとか。
社会的地位が下がるんじゃないかとか。
そういう考える親とかも子どもとかも多いと思うんですけど。
その分、昔は良かったかもしれないんですけど、
今となって学費がこれだけ上がっている。
保険料がこれだけ上がっている。
そもそも商品に対して多分疑問を持たないといけない。
確かに。
一つあるのと、あともう一つはステータスゲームですと。
大学が、例えばハーバード大学とかスタンフォード大学が本気で教育、
っていう事業、商品を提供したければ、
そもそも学生数を増やしたらいいんですよね。
で、もちろん一気に増やすのあれですけど、
例えば次の10年間で学生を2倍にしますとか、3倍にしますとか、
そういうのがあって、
学生数を増やしたらいいんですよね。
で、もちろん一気に増やすのあれですけど、
例えば次の10年間で学生を2倍にしますとか、3倍にしますとか、
って言ってもいいわけじゃないですか。
もちろんその分のキャンパスとか、そういう費用はもちろんかかるものの、
ただそれをやってないっていうところは1個大きいと思っていて。
なんでスタンフォードとかハーバード、有名校っていうのは基本的にナイトクラブですと。
限られた人しか入れない。
いわゆるステータスを作るような場所になっていて、
実際学ぶ場所ではなくなってるんじゃないかと。
これだけお金を払っていれば。
それは変化してるってことですか。今までもそうなのかなって気もしたんですけど。
今までもそうだったと思います。
ただこれだけ学費を払うと、その意味合いが変わってくる。
よりさらにエクスクルーシブな感じがあるみたいな。
09:03
よりエクスクルーシブになるし、それを払っていいのかと。
払うべきなのかと。
さらに実際、これは大学じゃなくても高校とか小学校でもそうだと思うんですけど、
そもそも実務スキルを学ばない。
例えばバスのスケジュールを読むことなんて教えてくれないじゃないですか。
どういうことなんですか。バスのスケジュール。
例えば電車に乗るための自己表の読み方とか。
それって自分で学ばないといけないじゃないですか。もしくは親から学ばないといけないじゃないですか。
なるほど。
もしくは税金の申請方法とか。
それはよくありますね。
それ教えてほしいじゃないですか、普通に。
よくツイッターとかでも、確定申告のやり方は教えてほしいみたいな。
学校で学ぶべきみたいな。
それ以外にも、例えば健康とか。
確かに。
いい関係性の作り方とか。
コミュニケーションの仕方とか。
コミュニケーションの仕方とか、そうですね。
確かに。
よくアメリカで言われていたのが、今だと正しいかわからないですけど、
アメリカは実務能力がない21歳を世界で最も作って、30歳で最も実務的な人たちを作るって。
へー。
いわゆる大学上がりの、大学卒業した21歳とか22歳の子たちは、実務経験がないので、
その能力がなくて、仕事場で全部学ぶと。
だから30歳になって、世の中、自由市場が正しくして、
人によってはめちゃくちゃ実務能力がついて、人によってはつかないと。
ただ、教育システムから卒業したのに、その能力がないっていうのは、一つ疑問点として持つべきなんじゃないかと。
なるほど。その実務能力っていうのは、それは生活力みたいなことですか?仕事の実務として。
仕事じゃなくてもいいと思っていて、もちろん仕事として、例えば財務消費を読むとか、そういうのはあるかもしれないですけど。
生活力みたいな。
どちらかというと生活ですよね。
そのベースのスキルセットが、会社でその仕事の実務を学ぶと思うので、ただそれ以外のものって、生活上のものって実際学ばなかったりするので。
12:03
なので、そこの課題は一つありますよねと。
そんな中で、今の技術とか中で、どうやって教育をさせるのか、子供を。
そもそも、インターネットが出てきたところで、いろんなイカサマじゃないですけど、
いろんな数学の答えを調べたりとか、そういう人って多分出てきたと思うんですけど。
僕も高校生の時に、アメリカで教育受けたら、多分全員わかると思うんですけど、スパークノーツっていうサイトがあって、めちゃくちゃ便利なサイトで。
アメリカ、日本でも国語の授業とか、いろんな本とか読むじゃないですか。
アメリカですと、授業によってですけど、ディスカッションとかエッセイ書かないといけなかったりとかするんですけど、学生からすると、当然ながら本読むのってめんどくさいんで。
時間かかりますしね。
例えば、アメリカだと、例えばロミオとジュリエットとかを読まないといけなかったりするんですけど、正直、シェイクスピアって何書いてるかよくわかんないですし、書き方がすごい独特なので。
あと、それに対してエッセイ書くとかも、そもそもストーリーに興味がなければあんまり意味ない。
スパークノーツっていうのは、一応サイト上書かれてるのは、スタディガイドっていうことが書いてあるんですけど、いわゆるロミオとジュリエットの各チャプターごとのサマリーを書いてくれてて。
なおかつ、重要なテーマとか、そういうのも全部書いてくれるので、めちゃくちゃ便利で、今だとたぶんもっと優れたものがあると思うんですけど、当時は学生はみんな参考にしてた。
じゃあ、結構読んでない人も全然いた?
めちゃくちゃ多いと思います。
それを使えば、なんとなくストーリーがわかりますし、重要な部分とかわかるので。
さらにインターネットとかによって、エッセイを完全コピペする人とかも増えたりとか。
それに対して、学校はチェックするサイトがあったりとか。
先生用の?
先生用の。
そういうturnitin.comっていうのがあるんですけど。
15:00
それはネット上に出てる情報と同じことを書いてるかどうかチェックできるみたいな。
あと、たぶん学校内とかでエッセイを全部そこに入れて、学生同士が何かやってないかとか。
なるほど。そこのなんですね。
そういうのがチェックできる。だと思いますね。
ただ、学生もそのサイト使えるんで。
学生が事前に行って、そこで自分のエッセイ入れて、そこで直すっていうパターンも人によってはやってたので。
ただ、結果学生はそれをうまく活用したりとか。
特に大学に、大学受験のときってエッセイとか書かないといけないんですけど、別の人にそれをエッセイ書いてもらったりとか。
そういうのはあると思うので。
そんな中で、今の教育システムってどのタイミングで作られたかと考えると、やっぱり産業革命で作られていて、
やっぱり工場に生かせるため、子どもたちを。
なので、場合によっては物の作り方がそもそも根本的に変わったので、工場システムだけではなくなったので。
なので、そういう意味だと教育システムも変わってもいいのかなっていうところがあるんですけど、
前の教育のエピソードで話さなかったのが、教育のコストが一部、学費が上がってるっていう話はしたと思うんですけど、
前回は学生ローンのプログラムによって、政府が補助金とか出して、それでどんどん上がっていくっていう話もしたんですけど、
実はもう一つ理由があって、アメリカの特に大学なんですけど、アドミンスタッフの数が異常に多いんですよね。
アドミンっていうのは。
実際何やってるかが正直微妙なところでもあるんですけど、学校のアドミン作業ですよね。
例えばデータベース入力とか。
入学のフローの手続きとか。
多分そういう方々。で、もちろん重要な人ももちろんいっぱいいると思うんですけど、
例えば、イエール大学って超名門校だと思うんですけど、2003年、20年前ですね。
5300人の4年生の大学生がキャンパスにいて、それに対して大学は3500人のアドミンを採用してたんですよね。
なので、1スタッフあたり1.5人の学生。
それもまあまあ多いって思っちゃうんですけど、それが20年前ですと。
18:00
2021年なんで2年前ですね。
イエール大学の4年生の大学生でキャンパスにいた学生が4600人。
で、アドミンスタッフは5000人弱。
上回ってますね。
アドミンが超えたんですよ。
へー。
何、どこの領域の人が、清掃の人とか多そうですね、アメリカ。
清掃をアドミンスタッフとしてカウントしてないんじゃないかなと思うんですけど、でもカウントしてる可能性はもちろんありますと。
教授とかは含まれないってことですもんね。
教授は含まれないですね。
へー。
一応教授を含むと、イエール大学が払ってる給料って2.7ビリオンなんですよ、コスト的に。
なんで、これもちろん先生も教授とかも入れてなんであれなんですけど、平均すると1スタッフあたり6000万円以上もらってるんですよ。
わー。
もちろん、大学の例えば、コーチとかって場合によってオクタインでもらったりするので。
はい。
平均点を見ればそれぐらいなんですけど、もちろん差はあるんですけど、それでもまあまあ多分もらっていますと。
そこのコストがまあまあ多い中で、あともう一つ大学で大きな変化が起きてるっていうところでいきますと、コンピュータサイエンスの、
専門として卒業してる人がめちゃくちゃ増えてますと。
はい。
なんで多分過去10年間140%ぐらい上がってるんですけど、逆にその社会学とか文学とか歴史の専門する学生が減っていて、
これはもちろんそのテック業界とかエンジニアリングがどんどん重要視されているからだとは思うんですけど、
ここで難しいのってその、例えばそのお子さんがいるときに、
今現在であれば、行動を知っている人、エンジニアリングを知っている人はある程度の給料をもらえますと。
うん。
そういうのがあっても、そういうのがあっても、そういうのがあっても、
そういうのがあっても、そういうのがあっても、
って考えたときに、今現在であれば、行動を知っている人、エンジニアリングを知っている人はある程度の給料をもらえますと。
うん。
ただそれが20年後、同じようになるかっていうとわかんないじゃないですか。
うーん。
そもそもノーコードとかローコードの時代になってますし、そのAIとか活用するとコードも書いてくれちゃうので。
その製品を支えてるのってエンジニアの人じゃないですか。
そうですね。ただそこが全員必要になるかって言われると。
なるほど。
わからないですし。
うーん。
21:00
なんで、ちょっと20年後どれだけエンジニアが、もちろん一部のエンジニアはすごい重宝されたりとかするかもしれないですけど、
例えば100人会社の中でいると、もともと50人エンジニアが必要だったのが、場合によって20人になっちゃうとか。
あー。
っていう可能性はもちろんあるので、なんでそもそも今から何を学ばせるかっていう判断がまず難しいですと。
何がいいんですかね、確かにそれは。
うーん。そこが、でもそこを、これを学ばせろっていう話よりも、そもそも学生が何を学びたいか。
あー。
っていう方向に多分持っていかないといけないと思うので、
ただやっぱりこういう学校システムがある中で、インターネットをいろんな活用法を学生が使っている中で、今のAI技術が出てきていて、早速みなさん使ってるんですよね。
うーん。
確かあるRedditで投稿されてたんですけど、ある学生がGPT-3を使ってエッセイを書けることを気づいて。
うーん。
で、もちろんGPT-3を活用してエッセイを全部書くのではなくて、スタート地点として使って、最初の出だしの部分を書いてもらったりとか。
で、そこで自分で編集とかするんですけど、それによってエッセイを書く時間がすごい短くなったので、そのサービスを売り出して。
へー。
他の学生のエッセイを書いてあげますよと。100ドルくださいと。
そこまでいくとやっぱ、なんていうか、ある意味才能ですよね。ある意味というか優秀な学生だから合格って感じがします。個人的に。
逆に先生からするとあれですよね、なんかAIが書いたエッセイに成績をつけるのってなんかすごい嫌ですよね。
難しいですよね。なんかその、そのAIじゃないものを、自分で書いているものも提出している人と一緒に並べたときに、みたいな、どうやってその成績つければいいんだろうみたいなのはありますよね。
しかも、その生徒が書いたものじゃないって、たぶん知った瞬間、知る術はあれですけど、もし知った場合に、やる気を失いますよね、たぶん。
うーん、たしかに。
なんで学生が書いたものじゃないものを、わざわざ成績つけないといけないんだみたいな。
一体、この作業は何なんだっていう感じがちょっとしますね。
そうですよね。
24:00
ロボットが書いたものを人が評価するっていう。
なんで、あの、まあなんかそういうこともあったりとか、でも、ですかね、あの、やっぱりエッセイの各支援をしてるっていうふうに見ると、すごいいいかなと思っていますし、
それこそコードを書くのもそうですけど、レプリットっていうサービスがあるんですけど、レプリットも、あの、一部のコードを例えば書き出したりとか、場によって文章で言うと、それを勝手に作ってくれるんですけど、なんかそれによって、スマホでコーディングができるようになったんですよね。
うーん。
なんかそれって確かに、今までそのスマホでコーディングって、たぶんあんまりみんなやりたくなかったんですけど。
たしか。
なんかそれによって、よりその民主化されたりとかする可能性ってあるなとは思うので、なんで、まあこういうそのAIとか、まあそのインターネットとか使ってその、あの、イカサマしたりとか、まあなんかそのエッセイを書いてもらうとか、そういうのがあるんですけど、まあそもそも計算機が出た時も同じ議論ってあったので。
あー、そうですね。計算。
でもアメリカ、アメリカというか、欧米とかって結構、計算機使っても授業オッケーですよね。
場合によっては、あの、大学の数学の授業だと絶対必要になってくるんで。
なんかあのグラフ作れたりとかしますので。
あー、そうですそうです。
結構高機能な。
サイエンティフィックキャルキュレイターっていうやつですね。
ちっちゃいパソコンみたいないう。
あー、そうですそうです。
なんかハードウェアのやつ。
ちょっとコーディングもできたりするんですよね。
うーん。
それって日本だとないんですかね。
ないと思いますね。
あー、まあないんですね。
電卓的な計算機的なのは、使っちゃダメな気がしますね。
使わないところが多いと思うし、
あとその、はい、すごい機能のある計算機はあんまり見ないですね。
あー。
でもここがなんか難しいところですね。
そもそも、例えばその、何かを記憶するとか、
特に今の学校システムって、その、記憶してテストで書くっていう、
まあそういう仕組みが多いと思うんですけど、
そもそも、何かの、例えば、アメリカのニューヨークってどこにあるとか、
ニューヨークの人口は何人とか、
で、Google行けばいいっていう。
うーん。
まあ、Googleがないときには必要だったと思うんですけど、
それが今ある時代で、こういう授業のやり方、
で、もちろん何か全部、記憶の何かテストをするっていうのを全部なくせっていう話ではないと思うんですけど、
27:05
何かそれが、何か今の時代に追いついてない部分はあるかなとは思いますよね。
でも、何かその一つの学校、高校に限定したときに大学受験の一斉に評価、
何かもうこのシステムでもう回っちゃってるから、
そうなんですよね。
どう共通の評価の仕方を作るかって、結構一つの学校だけじゃできない話ですよね。
もう国というか、各学校の。
でも本当に多分、やるとすると全部変えないといけないっていうところで、
そもそも、全部同じ評価、同じ評価基準でやるっていうのもおかしいと思いますし、
それがまあ効率的っていうのはわかるんですけど、
ただそれが正しいかって言われると多分違くて、
そうなんですよね。
何かまあでも、何かそれによって、何ですかね、そのAI技術とか活用して、
学生ってすごいなと思うのが、本当にそれを使って、何か面白いものを作ったりするんですよね。
さっきの人とかもそうですよね。
学生にそれをシステムを売り込むっていう。
ビジネスマンというか、それをプロジェクトとしてはめちゃくちゃ面白いなっていう。
あと何か事例で言うと、コーディング始めて多分3ヶ月以内ぐらいの子が、
GPT-3とあとレプリットを活用して、
メディアサイトを作って、
生地のプロンプト、生地を書くためのGPT-3で使っているので、
GPT-3ってプロンプトってこういう生地を書いてくださいって入れて、
それで生地を書いてくれたりするんですけど、
それをツイッター、ツイートをプロンプトとして使って、
それでGPT-3が勝手に生地を書いてくれるっていうところで、
デザインも多分、AI画像生成のサイトとか使って、
ちょっとウォールスウィートジャーナル的な、ニューヨークタイムス的な見た目にして、
それを全部サイトに出るような形をレプリットで簡単にコーディングして。
ツイートはどういうことを参照してる?
ツイートは多分自分でも入れられるので、
概要欄に貼っておきますけど、
確かGPTタイムスっていうサイト名にしてたと思うんですけど、
例えばわからないですけど、イーロン・マスクのツイートを入力すると、
それに対して記事を書いてくれるみたいな。
なるほど、なるほど。
30:00
すごい簡単なものではあるんですけど、
でも3ヶ月以内でここまでいけるっていうのはすごいと思うので。
でもやっぱりAIの、特にこのチャットGPTとかすごい盛り上がったじゃないですか。
課題はもちろんあって、
チャットGPTって確率的なAIなんですよね。
確率的な。
これって決定論のAIと違くて、
決定論っていうのは、いわゆる計算機みたいに、
例えば5×20って入れると毎回100が出てくるじゃないですか。
それはもう決まったもの。
なるほど。
で、チャットGPTって確率論で動いてるので、
彼らってオープンウェブの中を探って、
それらしき答えを出してくれるんですよ。
なので、チャットGPT内、
この収録してる時点では、
正しいと間違いの判断がつかないんですよ。
それっぽい絵ができますもんね、いつも。
そうなんですよ。
それっぽい絵だったり、それっぽいテキストの答えだったり。
よく見るとちょっと違うみたいな。
そうなんですよ。
なので、結局いろんなコンテキストの中の、
どういう言語を出すべきかっていう統計モデルなんですよね。
なので、エッセイとかは割とそれらしきことを言ってくれるんですけど、
例えば数学の問題とか出し始めると、
結構な確率で間違ったりとかするんですよ。
もちろんオープンウェブで表示されてるものをそのまま出す場合もあれば、
完全に間違ってる場合もあったり。
例えば、すごい面白いチャットGPTとの会話で見たのが、
地球で最も早い海にいる哺乳類は何ですか?と聞いたんですよ、チャットGPTに。
そうしたときに最初に答えが出てきたのは、ハヤブサって出てきたんですよ。
たぶん地球で最も早いって引っかかったんじゃないですか。
それをその回答を受けた人が、いや、これ違いますよねと言ったら、
チャットGPTが返ってきたのが、バショウカジキ。
たぶん海で一番早いもの。
結果的にこの哺乳類の定義は何ですか?とかいろいろ問い詰めて、
チャットGPTがそれを間違えましたねとかって言ってたんですけど、やっぱり間違いが多い。
だからこそ、今はちょっと分かんないですけど収録時点ですと、
33:01
スタックオーバーフローがチャットGPTの投稿をバンした理由ってたぶんそういうところにあって、
コードでも結構間違ってる部分ってあって。
なのでそういうところでどういうふうに教育をさせるのかと、
このAIとかを活用させるのかっていうのがたぶんすごい難しくなりますと。
だから結構GPT-3使ってるプロジェクトってイラストとかそれっぽい文章を作るみたいな、
やっぱり答えのないもの、答えはあるけど、それっぽいで成り立つものが多いのはそういう理由なんですね。
たぶんそういう理由かなと思います。
あとたぶん、めちゃくちゃ重要なことはさすがにさせられない今時点ですと。
今たぶん分かんないですけど、たとえば今90%ぐらいの精度だったとしても、
これって自動運転でも全く同じことなんですけど、
最後の5%とか最後の2%とか1%の精度を上げるのって一番難しいことなので、
いろんな異常なケースが出てくるので。
確かに。
それに対してちゃんと回答できるのかっていうのはまだまだこれからだと思うんですけど、
ちょっとこういういろんな技術もそうですし、いろんなトピックがある中で、
何を勉強するかも分かんない中で、どうやって子供を教育させるか。
難しいですよね。
めちゃくちゃ難しいところだと思うので、
よく言われるのは、高校生なり大学生でもいいんですけど、
勝手に好奇心持ったものだけを調べさせて、
自分を教育するっていう方向性に持ってってもいいんじゃないかっていう人もいるんですよね。
それはやりすぎかなと思うんですけど、
学校の意図って何かしらの制限をかけることと、
いろんな新しいトピックを紹介すること。
それによって、場合によってその学生がそれに対して興味を持つかもしれないっていうところなんですけど、
ただ、ストラクチャーを作りながら、それに対して反論できるようなものを作らないといけなくて。
学生って、特に親とか、学校とか先生とかが言ったことに対して反論とか反抗するじゃないですか。
ある程度それを許さないといけない。
自分の道のように行くっていうのもOKしないといけないっていうのが、
36:03
多分そこのバランスがすごい難しくて。
そうですね。
ここの多分すごいいい事例が、
ストライプの共同創業者の2人の兄弟、
パトリック・コリソンさんとジョン・コリソンさんだと思うんですけど、
彼らの親がどういう風にストライプ兄弟を教育させたかと見ると、
やっぱり、これパトリックさんが言ってたことなんですけど、
親の仕事って、子供が興味を持ったことにできるだけ深掘りさせること。
それはどの領域でも構わないんですけど、
ストライプ兄弟の親は何をやったかというと、3つのことをやっていて、
まずは世の中をいろんな世の中を見せたと。
それを具体的に言うと、
例えば毎日図書館に連れて行ったっていう。
はいはい。
それを具体的に言うと、
毎日図書館に連れて行ったっていう。
夏の間は、
だから、読書館なのか。
そうですね。パトリックさんとか特にそうだと思うんですけど、
夏はいろんな国に旅行した。
それは多少のお金もないとできないかもしれないですけど。
確かに。
で、3つ目が、
なんか面白いゲストとか、
ホームパーティーとか、
子供たちを一緒にさせた。
それは確かに大事そう。
それ結構重要ですよね。
なんかやっぱり、いろんな多様性があるところに、
好奇心とかクリティティーって生まれますよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
そうですよね。
なんか、いろんな新しいトピックがあることを紹介する。
へー。
っていうのが第一テップで。
2つ目が、ある程度自由度を与える。
はい。
それは、本当に一人にさせたりとか、
自分が学びたいものを勝手に学ばせたりとか、
そういうのが2つ目で。
はい。
はい。
はい。
はい。
はい。
はい。
というのが2つ目ですと。
はい。
で、3つ目が、興味を持ったと思った瞬間、
そこに対して深掘れる機会を探しに行くと。
なんで、パトリックさんが挙げた事例が、
彼が12、3歳ぐらいのときに古代ギリシャ語がなんか面白いなって
なんか発言したらしいんですけど。
おおー。
その 町中で それを 知ってる人を 見つけて
すごっ
39:00
で チューターとして入って ちょっと 教えてください みたいなことを お願いしたらしくて
へー すごい 好奇心のきっかけを すごい ふかぼるのが うまいですね
そうなんですよね なんで 好奇心を まず 作りに行くっていう いろんなトピックを見せながら
ある程度 そこの自由度を与えて
で さらに そこを言った瞬間 そこに ディープダイブするっていう
メタのマーク・ザッカーバーグのお父さんも それに近いことをやってたなって 思い出しました
バスケやりたい みたいな マーク・ザッカーバーグが言ったら
なんでやりたいかって言ったら みんながやってるからって言ったら
それだったら ボール買わないよって言って
唯一 興味を持った 自分から興味を持ったことが それがコンピュータープラグラミングで
自分から 周りに流されてるじゃなくて 本人が本当に興味を持ってることは
全力でサポートするっていう そこから家庭教師
その時代だったら 結構 珍しいのかなっていう気はするんですけど
そういう 本当に自分が興味を持ったことには 全力でサポートするっていうのは
ちょっと近いかもしれないなっていう
そうですね そこはめちゃくちゃ近いと思うので
なんか そういう 幅広く何か見せて 興味を持ったものに
本当に深掘りさせるっていう 教育のやり方が
一つ 親として できることかなとは思いますね
で 学校とかですと やっぱり そういうのは難しいものの
今のやり方が正しいかと言われると ちょっと違うなと思ってるのが
これも一部 仕方ないんですけど 学校の授業の生徒数が多いので
今って 一方的なレクチャーじゃないですか
なので 普通の授業って グループでレクチャーに参加して
で それを レクチャーを聞いて 帰って 一人で宿題をやれるじゃないですか
それの逆転したモデルが いいかなと思っていて
事前にレクチャーの動画だったり 本を読んで
授業に行って グループで話し合うっていう
確かに
場合によって 先生も そこのディスカッションに 混じりながら参加すると
先生はどういう役割のイメージですか?
先生はファシリテーターみたいな役割ですね
なので 先生っていうよりも 会話をうまく回したりとか
学生の中で あんまり話してない子に 声をかけたりとか
確かに
そういうモデルって すでにアメリカとかでは ちょこちょこあるんですけど
42:01
そういうやり方っていうのは 一つ 学生が自分の意見を ちゃんと持ったりとか
ディスカッションに参加するとか
そういうのって 将来ビジネスやったりとか
生活の中でも役に立つものかなと思っていますし
それをさらに伸ばすと カンファレンスとかも そういう形にしてもいいのかなと思ったり
それこそオフトピックも こういうイベントやってもいいのかなと思うんですけど
自然に動画をオープンで無料に流して
それをディスカッションしに集まるっていう
ワークショップに近いですかね
ちょっと近しいかもしれないですね
確かに 自分で手を動かしたり
実際の会話ってやっぱり
聞く聞いたり インプットだけよりも やっぱり学びがあるじゃないですか
やっぱり それはいいですよね
そういう福祉に集まって コラボレーションしながら
新しい学びを得るっていうところを
そういうサービスが出てこないかなと思った時に
一社スタートアップでやったんですけど
それがSynthesisっていう教育系のスタートアップで
個人的にはすごい興味ある 注目している会社ではあるんですけど
エンダーズゲームって
2年前かな 2019年末か2020年に
レコメンドした本があるんですけど
それにすごい影響された教育プログラムで
コラボレーション型の教育システムなんですけど
元々はアドアストラっていうイーロンマスクが
お子さん向けに作った学校
そこの学校の共同創業者が 立ち上げた会社なんですけど
目的は 実際 社会であるいろんな課題とかを
そこを実際解決できるような子どもたちを作りたいと
っていうところで 元々アドアストラっていう学校では
ゲームを通して学生がコラボレーションをしながら
課題解決するっていう教育のプログラムがあったんですけど
それをいわゆるソフトウェア化した形で
インターネットネイティブな教育システムの
45:04
ほんと一事例かなとは思っているんですけど
だいたい6歳から14歳の間の生徒を
一つの広報棟に集めて 週一会うんですけど
週一会って ゲームだったり
リアルな世界のシミュレーションの問題を解決する
そのグループで
大人もいわゆる先生役みたいな人もいるんですけど
彼もいわゆるファシリテーターみたいな役割で
ちゃんとコミュニケーションしあったりとか
考え方を説明したりとか そういうのを要求するっていうところなので
これも去年末話したジーニアスvsシーニアス
グループで天才を作るっていうところにも
若干似てるのかなとは思いますね
なんかやっぱ余計じゃなくて
クラスメイトというか一緒に学ぶ人の
いい刺激が他の普通の授業よりありそうですね
実際子供のリアクションとかフィールドバック見てるそんな感じなので
ただもちろん学校の場所とか
複数に集まるっていうのは一個いいと思うんですけど
難しいのって学生同士って
お互いだいたい同じレベルの教育を今まで受けているので
教え合うって結構難しかったりするんですよね
なんでその課題をどう解決するかというと
やっぱり家庭教師とかチューター1対1の教育方法なんですけど
さっきも話した天才の作り方っていうのを
いろいろ去年あたりからずっと研究してたんですけど
どうやって天才作るんだろうっていうの中で
一つ結構全員ではないですけど
かなりの確率での共通点って家庭教師がいたんですよね
その天才と呼ばれる人横に
だめだ私は
アレクサラさんいなかったんですか
家庭教師ってでもなかなかいなかったですね残念
たぶんいたとしても違うと思うんですよ
その昔の家庭教師と今の家庭教師って違うんですよ
宮武さん家庭教師いました
いなかったです
家庭教師とチューターって一緒ですか
たぶん一緒かなと思います
一応一緒の形でこれから話すので
48:02
今の家庭教師って目的がもう明確にあって
受験のためじゃないですか
ある高校とかある中学とかある大学に行かせるための
いわゆるテストテイキングのスキルアップなんですよね
今までのたぶん家庭教師の役割のほんの一部のことしかやってなくて
昔の家庭教師ってそもそも家庭教師って
人を一対一の教育させるっていう話なんで
まあまあなお金かかったんですね
なんでいわゆる貴族がやることだったんですけど
何をやってたかっていうと
特定の分野のエキスパートを呼んで
まだ子供のことを常に話し合うっていう場を作ってたんですよ
なんでディスカッションしたりとか
教えるっていう概念だけじゃなくてエンゲージメント
特定のエキスパートってどういう例えば
例えば物理のエキスパートとか
あーなるほど
なんかの特定分野のスペシャリストを呼んで
なんで人によっては複数人の家庭教師だりとか
トピックごとの
なんで例えばその天才と呼ばれたバートランドラッセルさんっていう方がいるんですけど
彼ってそもそも16歳まで学校行ってなくて
その間ひたすら家庭教師から教育を受けてたりとか
チャールズダーウィンも16歳で家庭教師を採用したり
それはその天才というところを考えた時に
その家庭教師がいるぐらい裕福だったっていうことは関係はないですか
一部多分あったと思います
多分そういう人の方が家庭教師採用できたのでアドバンテージを持っていたっていうのは実際あったはずです
なるほど
それこそカールマルクスさん
カールマルクスか
彼はお父さんが家庭教師だったんですけど
へー
でもそれこそアインシュタインとかも
そもそも彼も複数人チューターがいて
確かおじさんが大数学を教えて
へー
別のチューターが気化学を教えたりしたので
結局アインシュタインが気化学の領域では超有名な人ですけど
それのきっかけはチューターから来ましたし
もしかしたら天才がそこまで感覚的にはそこまでいない理由はチューターがいないから
51:05
なのかもしれないし
場合によっては今のチューターのやり方が今のシステムにあっているので
そことは違うチューターが昔のようなチューターが必要
ところなんじゃないかなとは思っているんですけど
やっぱりそういう大人の人たちとエキスパートな大人と子供が話す時間って
今ってあんまりないじゃないですか
今の子供たちって
たぶん初めて出会うのが大学なんですよね
たしかにたしかに
でもその時も18歳ぐらいの子たちなんでみんな
もはや自分たちが大人になった時にやっと大人に出会うみたいな感じがしますね
なんでそれがたぶん全員やるのが難しかったりお金かかったりとかするから
それが今までできなかった
っていうところでそれがスケールできるんじゃないかっていうのがようやく今の時代
っていうところでこれが多分AIの力を活用するタイミングだと思うんですけど
そもそも個人的にそのAIが
草野さんどうだったかを聞きたいですけど
ここまでクリエイティビティをリプレイすると思わなかったんですよね
それは確かにそれは確かにそう思います
やっぱ草野さんもそうですか
はい
GPT-3とかダリー2とかが本当に絵を描けるんだとか本当に全く知らない歌を作れるんだとか
そうですねそう思います
最近というか去年すごかったなと思ったのが
草野さんに共有したかもしれないですけどあるAI生成技術が
ポッドキャストを作ったんですけど
ジョー・ローガンとスティーブ・ジョブズが会話をしたらどんなポッドキャストになるかっていう
わー面白い知らなかったです
本当にお互いの声をもちろん生成して
でもなんかもちろんなんか変な部分全然あるんですけど
時にはこれ本当にスティーブ・ジョブズが言っててもおかしくないみたいな
へーそれっぽい会話になってる
それっぽい会話にもちろんスティーブ・ジョブズは亡くなってるのでこれ実現してない会話ではあるんですけど
わー
それこそバイツでも話したテンセントが1000曲以上のAIソングを出して
その1億再生回数でしたっけ
54:03
やっぱりなんかどんどん精度が思った以上上がっていて
もちろんその知識的にはAIの方が人間より持つことは全然不思議なことではないと思うんですけど
感情的なつながりを作れるっていうのがやっぱりできないかなと思ってたんですけど
それが本当にできるような時代になってきたなと思っていて
過去にアルファ・ジェダイの話もしましたけど
そのボイスアシスタントを友達用に扱ったりとかしていて
親密な関係性を人工的に作れる
ちょっと悲しさもあるんですけど同時にすごいなって思っていて
そこの代表例がレプリカっていう会社で
バーチャルAI友達を作るチャットボットなんですけど
もともとレプリカの創業物語って
共同創業者が亡くなった親しい友達のテキストメッセージとか
家族とのテキストメッセージを全部書き集めて機械学習にかけて
それでその人のボットを作ったんですけど
それで結構本当にその人がいるような発言をしたりとかしてたのがきっかけになって
今は本当に友達的な役割だったり場合によっては恋人のような役割を
そのAIのレプリカっていうのは果たしているんですけど
だからすごい最初にその親しい友達のボットを作った時に
いろんな家族とかにそれを提供してあげたんですけど
面白かったのがそのボットの会話を聞くっていうよりも会話をしたかったユーザーが
その聞く係ではなくてボットに自分の話を聞いてほしかった
ボットだからこそ変に思われなかったりとか
逆にオープンになれるみたいな
逆にオープンになれるっていう動きがやっぱりあったらしくて
それが今はどこまでそうなってるかわかんないですけど
レプリカってチャットボタン開いてアバターで出てくるんですけど
面白いのがそのアバターが日記を持ってて
その日記を覗き見できるんですよ
自分だけが
自分がいわゆるこういうことをそのアバターが
57:01
自分との会話をこういうふうに思ってたっていうのが見えるんですよ
なるほど
それでより人間性みたいなものを与えていると思うんですけど
なんかこのAIコンパニオンじゃないですけど
AI友達っていうのがどんどん出てきていて
これってなんかいろんな意味で重要だと思ってるんですけど
まずそのアメリカ人日本も多少ないそうだと思うんですけど
より一人になってる
一人の時間が長くなってる
これって別にコロナ前から実はなっているんですけど
あとやっぱり友達の数が減ってる
親しい
親しい友達ですね
確かある調査で1990年
これ多分アメリカだけなんですけど
アメリカでは55%の男性41%の女性が
6人以上の親しい友達がいると回答しました
これは家族とか入れず
2021年ですとその数字が男性ですと27%
女性ですと24%まで下がりましたと
2021年ですと15%の男性
約10%の女性が全く親しい友達がいませんと
っていうだいぶ悪化した2,30年だと思うんですけど
この中でデジタルアイデンティティみたいなものが
みんなソーシャルメディアとかでデジタルアイデンティティがある中で
匿名制でも友達を作れたりとか
VTuberで友達になったりとか
するわけなので人工的な親密な関係性をより作れる時代になった
確かに
最近
今年クララとお日様っていう小説読んだんですけど
和尚石黒が書いてるその話も基本的に宮武さんが話した
子供用のAFって言われるアーティフィシャルフレンドっていう
人工友達の話で
それも人間らしさっていうのが何かっていうのが
小説の中でテーマなんですけど
ちょっとそれを思い出しましたね
結局やっぱりロボットだから
逆にオープンになるみんな
無理な相談とか仲介役とか
あの人に言っといてよみたいなのをロボットがになってたりとか
1:00:02
人間に言ったらやだろうなとか自分が言いたくないなみたいな
しわ寄せみたいな悪い言い方すると
そういうの存在になってるなっていうのはそれを読んで思いましたね
ちょっとだけネタバレすると
出てくる女の子がちょっと病弱で
その子が亡くなった時のために
ロボットを代替させたいっていう家族のプロジェクトが動いてて
女子っていう病弱な女の子の友達なんだけど
女子を学習して最終的にそれをリプレイスしたいっていう話だったんですけど
でもやっぱりそれが置き換えられるかみたいな話って
難しいなっていうのは家族の中でも一緒に小説で話してて
結局小説の中では置き換えられないっていう話
置き換えられる完璧に学習はできるんだけど
AIのロボット自体が私は絶対学習女子になりきることはできるけど
女子の中じゃなくて女子を愛する人の中には女子がいるっていう話をしてるんですよね
女子っていう女の子自体になれるけど
愛する人の中に入れないみたいなすでにそれを知ってる人には
なんかそれはそもそもだから人工的な友達っていうものを前提で
AIとかロボットを接してたら
それこそ人間というかアレクサっていうものが好きだから
アレクサを愛してるっていうのはあると思うんですけど
何かロボットでも人間でも何かをリプレイされたときには
愛した側の気持ちはリプレイできないよねっていうのは
なるほどなっていうのはそれを思いました
そこがどっかのタイミングで変わる可能性はあるかなと思ってるんですよね
特に流石にリアルで会うと差が分かったりするかもしれないですけど
匿名性なバーチャルな世界とか
メタバース的な世の中だと
分からない可能性があるのかなと思っていて
それこそこのコンセプトって若干
フリーガイっていう映画があるんですけど
ライアン・レノンさんがやってる
NPC、ノンプレイヤーキャラクターが
1:03:01
ゲームシステムのAIと組み込んで
それで本当のキャラクターのように動き出すんですけど
でも他の人たちがそれがAIだと分からなくて
そういう世界が実は可能になるんじゃないかなと思ってて
もちろんそれに対して人間味をなくすとか
そういう話はもちろんあるかもしれないですけど
一つここで生まれる面白い話って
例えばSNSを新しく作ったりとか
何かしらのサービスを作るときに
合成のソーシャルネットワークを作れるっていう
場合によっては次世代のTwitterとか
ソーシャルネットワークって
接するフォロワーとかが一部AIだったり
でも別にそこに区分けをつけなくて
単純に一ユーザーとして思うっていう
それって事業にとってどういう影響を与えるかというと
やっぱりソーシャルネットワークってネットワーク効果を作るのに
最初のユーザー集めってすごい大変じゃないですか
それを全部AIでできたらどうなるんだっていう
なんで例えば次世代版Twitterを誰かが作りますと
AIで結構ユーザーを集めますと
そうすると例えば人間がそのネットワークに入ったときに
すでにネットワーク効果があるような世界になるので
AIで集めてどういうことですか
AIがそのユーザーになりきって
普通にツイートしたりとか反応したりとか
なんかじゃあAIの桜みたいなイメージですか
そうですそうです
でもそれが本当の普通のユーザーみたいに接してくれるので
人間にとっては普通のユーザーとして扱えるし
でもそれによって最初の100人のユーザーっていうのを
実はAIで最初集めちゃって
そこである程度のネットワーク効果を作って
そのコンテンツとかそこでAIに生成してもらって
そこでユーザーが入ると
最初のユーザーだから誰もコンテンツを
誰もコンテンツ作ってなかったりとか
誰も接する人がいないっていうのが
その問題がもしかしたら解決される
メタバース問題もそれですよね
そうですね
人がいないちょっと悲しい気持ちになるっていう
それをノンプレイヤーキャラクターが
全部になるっていう可能性は
出てくるんじゃないかなっていうふうには思いますね
確かに
なので場合によってその実際のソーシャルメディアって
そのマーケットプレイスではなくて
1:06:01
いわゆるその人と興味をマッチングさせるものではなくて
何かのその生成する機会
生成するサービス体験になる可能性は今後あるかなと
生成する
コンテンツだったりそのAIユーザーを
なるほど
将来的にそこの差別がつかないんじゃないかなと思っているので
なのでAIだろうが人間だろうが
友達として同じように扱う
時代って
来るのかなっていうのはすごい気になっています
これを全部考えると
今後その教育の中で
新しくその革命が起きることが
AIチューターでAI家庭教師ですね
でその去年そのツイッターで
僕が
あるツイートを出したんですけど
ツイートを読み上げると
この仕事をやってて
存在できないと思うサービスを見る瞬間が時々あるが
最近そういうサービスを見た
初めて使うユーザーの多くが体験後に感動して泣くサービスを
初めて見た気がしますと
でも既存のシステムを考え直すからこそ生まれるような
技術サービスをもっと見たいというツイートを出したんですけど
これ実は
AIチューターの話をしてて
ちょっと社名とかそういうのは全部全く言えないんですけど
まだステルスの会社でもあるので
ただ
この教育周りの話で
特にその家庭教師やってるんですけど
僕も実際体験はしてないものの結果は見ていて
いろいろ実証実験とかやっているので
圧倒的なパフォーマンスを出して
どういったパフォーマンスなんですか
検証をやってるのでいわゆる
普通の授業で
教育を受けた
学生と
人間のチューターから受けた学生と
AIチューターから受けた学生
もちろん各学生とちょっと違うので
ただ
圧倒的なパフォーマンスを出したんですね
個人的にちょっとありえないレベルのパフォーマンスを出していて
AIチューターが
パフォーマンスっていうのは学生の成績が上がったとかそういうことですか
成績とか
満足度とか
満足度っていうよりもパフォーマンスが上がって
満足度っていうよりもパフォーマンスですね
成績として
成績とか
1:09:01
でそれは
そうなんですよね
完全想定以上のパフォーマンスで
しかも重要なのが
感動して泣いた体験って
パフォーマンスだけではなくて
実際にAIチューターが学生のことを
本当にケアしていて
本当に気にかけてくれていて
本当にその学生を成功させたかった
で学生側が思ったんですよね
へー応援してくれてるこの先生は
そうなんですよ
それを全部できるって
パフォーマンス上げながらそこのケアもできるって
これが未来だって思った瞬間でしたね
へー気になりますねそれ
でこれが
コスト安く
全世界の生徒にできるのであれば
本当に多分世の中は変わるんだなっていうのは思いましたね
わーちょっとリリースされたら気になります
そうですね
なんでまあちょっとあのしゃべりとか言えないんで
あれなんですけど
なんでまああのこういう
まあ今日はちょっといろんなAIとか教育を話した中で
じゃあ
これを今の先生とかが
どういうふうに
なんかその宿題出せばいいのかとか
結局エッセイのなんか宿題出しても
GPT-3で書いちゃった
あの学生が書いちゃったらあんまり意味ないじゃないですか
意味ないじゃないですか
はい
なんで
まあそこを
その
ただそのAIを
AI絶対学生も使ってくるので
それを受け入れて
宿題の考え方を考え直す
なんで例えば
なんかもうちょっとその
何かを作る側に回してもらって
そのゲームを作ってくださいという宿題を与えて
でその成績は
そのクラスメイトがどれだけ満足して
遊んでくれるかによって
それに成績をつきますと
あとはその
さっきも話したように
そのAIがその確率論で動くので
間違いを出しますと
でそれをあえて使って
子供たちの役割は
その書くのではなくて編集者になること
なんでAIでエッセイを書いてくださいと
でそれに対して
何が間違ってるかとかを探すのが子供の役割ですと
確かに
1:12:00
それに対してのディスカッションを学校でやりましょうと
いうところなので
でそこで例えばなんですけど
なんかそのAIを使って
そのいろんなシナリオ
なんか変なシナリオとかを
生徒に作ってもらって
例えばなんですけどその
例えばその科学の授業で
高剛性について教えましたと
それについて本当に理解してるかというのを
試すために
その学生に
例えばですけど
そのエイリアンが
高剛性を使って地球を支配するストーリーを
書いてくださいっていうのを
GPT-3に落とし込んで
それでストーリーが出てくるじゃないですか
そのストーリーが
その高剛性を本当に使ってやってるのかっていうのを
子供たちに議論させるっていう
それをちゃんと理解しないと
そこのディスカッションできないですし
でもちゃんとAI使ってやってるので
たしかに
なんかそういう
なんですかね
AIを
多分バンすると
そもそも学生って
賢いですし
その成績を得るためなら
いろんな手段を使う人たちなので
なので使ってくるのは間違いないんですよね
いかに上手く授業に
止めることはできないっていう
いかに授業に取り組むかっていうのが
多分重要になってくると思うので
そこの
直近
短期スパンで見ると
上手く活用するっていうところで
長期的に見ると
このAIをどうやって
根本的に変えるのか
そもそもその
好奇心をどう抱くのかっていうのが
多分
重要になってくるっていうのが
今日話したかったことですかね
結構
なんか
教育やられてる方とかに
意見というか
感想も聞きたいですね
これは
たぶん
理論上の話でもあるので
明日からって言ったら
難しいかもしれないですね
そうですよね
いやこれは実際実現できませんよとか
っていうのはあると思うんですけど
根本的に
学校のシステムを考え直すっていうのが
多分重要になってくるので
多分
1 学校とか
1 先生ができることは
限られてるかもしれないですけど
そういう形で
考えるのが
多分
特に親としては
重要かなと思いますね
確かに
はい
ということで
今回も聞いていただき
ありがとうございました
気になった方は
オフトピックGPのフォローお願いします
またSpotifyで
自分で分かる最新テクニック解説
バイツも更新しているので
ぜひチェックしてみてください
それではまた次回お会いしましょう
さようなら
さようなら
01:14:58

コメント

スクロール