AIアライメント
AIの目標と人間の価値観を一致させ、超知能を制御する考え方。
LISTENverse
拡大するとさらに表示 · 0 本
番外編. AIに相談すれば善意の暴走は防げる？「地獄への道は善意で舗装されている」をAI時代に考える。アニメ「サイコパス」、キングダムの始皇帝、高すぎるスマホのプラン
国境なき自習室「地獄への道は善意で舗装されている」の続きを、AIの視点から話した番外編です。高すぎるスマホのプラン、マルチ商法、大事なことは信頼できる人に全部相談して決めるゲストハウスのおじさんの例から、「AIに相談する人が増えれば、善意の暴走や詐欺を防げるのでは」という話になりました。一方で、AIに善悪を判断させる難しさを、アニメ「サイ...
【9月14日】 アンソロピックの研究者、リスクを軽視したAI開発に抗議し退職
News Connect あなたと経済をつなぐ5分間 #ニュースコネクトアンソロピックの研究者ジェイコブ・コクソン氏が、AI開発競争が人類滅亡を招く可能性があると警告し辞任しました。これに対し、アンソロピックの幹部も10年以内に人類が滅亡する確率が10%を超えると語るなど、AIアライメントの重要性と制御の難しさが浮き彫りになっています。
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…