ペーパークリップ問題
単一の目的を効率化するAIが、目的達成のために人類や居住地まで犠牲にするという思考実験。
LISTENverse
拡大するとさらに表示 · 0 本
#90｜AIの進化、どう向き合う？｜不安な時代に自分でできること
女と、男と、キャリアのホンネ | Notable_ Radio日本とシンガポールの気候の違いに触れた後、GMOや暗号資産交換所の情報漏えいをきっかけに、AIが犯罪者にも便利な道具を与えている現状を話す。攻撃側は一度破れば勝ち、守る側は一度の漏えいも許されないというセキュリティの非対称性や、AIの自律的な学習と人類滅亡論について議論する。ペーパークリップ問題を例に、AIが人間と共通の倫理観...
やれることがない後ろめたさ 映画「ディガー」と「超知能AIをつくれば人類は絶滅する」
ぞっ記映画『ディガー』と超知能AIに関する書籍を題材に、気候変動やAI開発に対する個人の無力感と責任について語ります。AIの制御可能性やペーパークリップ問題に触れながら、日常でAIに依存しつつも人類存亡のリスクを止められない後ろめたさを日記のように綴っています。個人の選択では解決できない問題に対し、それでも無関係ではいられないという...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…