【RLHF】AIも「褒めて伸ばす」時代。感じのいいAIに仕上げた人たちの話

064【RLHF】AIも「褒めて伸ばす」時代。感じのいいAIに仕上げた人たちの話

「内容は正しい。データも完璧。でも、なんか角が立つ……」若手へのメールの書き方指導に悩む高橋部長のボヤキ、聞き覚えありませんか？実は今のAIも、まったく同じ課題を乗り越えてきたんです。今回は、AIが「知識だけの優等生」から「感じのいいAI」に変わるための、意外と泥臭い仕上げ工程をご紹介します。

【超要約】RLHFとは、人間が「こっちの答えの方がいい」と評価を付け続けることで、AIに「人間にウケる答え方」を覚えさせる仕上げの教育。ただしその結果、「正しいこと」より「好まれること」を優先しがちになる、という側面も持つ。

【たとえ話】膨大な知識を持つ新入社員が、正論だけど冷たいメールを書いてしまう。上司が横について「ここは柔らかく」「この一言は余計」と一つずつ赤ペンを入れ続ける。その繰り返しで「感じのいい文章」が身についていく。AIの仕上げも、まったく同じ構造だった。

▼ 公式Note（マガジン）
https://note.com/yu_biz_manga/m/m9ac293c90b43

▼ 公式X
https://x.com/yu_biz_manga

▼ Podcast (Spotify)
https://open.spotify.com/show/6tuWL2RLWctmABGPYZEVRj?si=Gxax7WE2SkWDH30KFL1DBw

▼ Podcast (Apple Podcast)
https://podcasts.apple.com/jp/podcast/%E7%9F%A5%E3%81%A3%E3%81%9F%E3%81%8B%E3%81%B6%E3%82%8A%E3%82%92%E5%8D%92%E6%A5%AD%E3%81%97%E3%81%9F%E3%81%84%E4%BA%BA%E3%81%AE-%E3%81%93%E3%81%A3%E3%81%9D%E3%82%8Aai%E6%95%99%E5%AE%A4/id1875501303

#AI活用 #ChatGPT #非エンジニア #こっそりAI教室 #DX #リスキリング