チャット型生成AIは、どのような質問にも自由に答えているように見えます。しかし実際には、危険な内容、不適切な内容、誤解を招きやすい内容をそのまま出力しないように、さまざまな仕組みが組み込まれています。これが、AIの「ガードレール」です。
今回は、AIが質問への回答を断ったり、慎重な表現を使ったり、専門家への相談を勧めたりする理由を考えます。ガードレールは単純な禁止事項の一覧ではなく、AIを安全に社会で利用するための多層的な仕組みです。
一方で、制限が弱すぎれば危険な回答が生まれ、強すぎれば本来必要な情報まで得られなくなります。教育現場など、実際にAIを使う人々の声を、プライバシーに配慮しながら改善へつなげる方法についても考えます。
この番組は、Spotify、Apple Podcasts、Amazon Music、YouTubeで配信しています。また、文字で読みたい方や内容を確認したい方に向けて、noteでも各回の概要を公開しています。本エピソードでは、AI役として音声合成サービス「音読さん」の音声を使用しています。
感想
まだ感想はありません。最初の1件を書きましょう！
スクロール