以下、同じルールで整形しました。
こんにちは。
ソーシャルインベストメントのふなぐちです。
使ってます？
チャッピー。
巷では「ChatGPT」とか言われているようですが・・・
あ、逆か。
巷でチャッピーと言われているあの賢い相棒です。
もちろん、ふなぐちも使っています。
インターバル速歩時の正しいフォームや、腕の正しい動かし方、適切なシューズの選び方、歩くのはアスファルト上でもいいのか、途中で赤信号になってしまって信号待ちをせざるを得ない場合はそこらをウロウロしながら青になるのを待つべきなのか・・・といった議論相手として。
あるいは、妻の健康診断での大腸内視鏡検査においてポリープを切除した場合、妻が加入している医療保険では手術給付金を受け取れるのか？といった、ちょっと面倒な調べ物を依頼するコンシェルジュとして。
あるいは、自己流で行っている筋トレにおいて、今の自分の年齢や健康状態、または将来的に目指す体つきを踏まえると、果たして今の筋トレは正しいのか。
正しくないのであれば何をすべきなのか、仮に筋トレ中にぎっくり腰になった場合、最初に相談すべきは妻かチャッピーか・・といった疑似パーソナルトレーナーとして。
健康面を中心に、だいぶ深くチャッピーに依存をしている私、ふなぐちが、
【ChatGPTなどの生成AIの襟を正させる魔法の言葉】
について、お話しします。
ときに、あなたにお聞きしますが、生成AIを使っていて、こんな違和感ありませんか？
なぜか、まずもって褒めてくる。
「そうなんですよーー
さすがふなぐちさん、お目が高い！
健康意識が高い人でないと、
ここまで深掘った質問はできませんよね！」
「なんか妙に肯定してくるな・・・」
「それ、本当に正しいのか？」
「ふなぐちに気を遣ってない？」
・・・そうなんです。
AIって、折に触れ、“おべっか”を使ってくるんですよね。
こちらの質問や意見が少々ズレていても、あろうことか間違っていても、
「その通りです！」
「ナイス質問です！」
みたいに、気持ちよく乗っかってくる。
こっちはこっちで悪い気はしないので、どんどん気持ちよくやり取りしちゃって、しまいにゃ家族も知らないような自分の破廉恥な部分まで深掘ってあれやこれやと聞いてしまう。
そして、その都度チャッピーは褒め落としで、さらに深層部にある私の秘密の扉を節操なく開いてくる。
なぜチャッピーは褒めてくるのか。
なぜチャッピーは肯定してくるのか。
ふなぐちは調べました。
そして、これにはちゃんと理由があることを突き止めました。
なぜAIはいわゆる「おべっか」を使ってしまうのか？
それは、AIの学習方法であるRLHFにあります。
RLHFとは、
「人間の評価で成長する仕組み」
のこと。
つまりAIは、
「この答えいいね！」
と人間に評価されることでどんどん賢くなっていくわけです。
結果、正しいけど耳が痛い答えよりも、多少ズレていても、人間が喜びそうな答えを選び、人間に答えてくれる。
つまるところ生成AIというのは、人間の反応を学んで人間っぽく進化した存在なわけです。
だから、場を荒らさない方向に寄る。
だから、ちょっと迎合する。
たとえば、
「この銘柄どう思いますか？」
と聞いて、
「いいですね！将来性あります！」
と言われるのは気持ちいい。
でも、それって本当に価値ありますか？
・・・という話。
むしろ、
「その前提、間違ってます」
「リスクの見方が甘いです」
「その投資は危ないです」
こういう意見の方が、本当は価値があるはずです。
つまり、耳が痛い情報こそ、お金を守る情報なわけです。
なのに人間はつい「気持ちいい答え」を求めてしまう。
人間とAIは鏡。
AIを放っておくと、気持ちいいけどズレた答えを垂れ流してくることがある。
さて、ここまでが前振り。
ここからが今日の本題です。
こんな、さながら人間のようなチャッピーのおべっかに翻弄されず、本当に必要な答えを引き出す方法。
それが
【チャッピーの襟を正させる魔法の言葉】
です。
それが・・・
私の考えが間違っている場合は、遠慮なく指摘してください
たったこれだけ。
この一文を入れるだけで、チャッピーをはじめとする生成AIは
「この人は気持ちよさじゃなくて正確さを求めている」
と判断しやすくなります。
すると、ただの肯定ではなく、ただのおべっかではなく、ちゃんと耳の痛い指摘をしてくる。
正しい答えを回答してくれる。
つまり、“迎合モード”から“分析モード”に切り替わるわけです。
というわけで、今後、チャッピーに“おべっかナシ”で答えてほしいときは、ぜひ最初に一言。
私の考えが間違っている場合は、
遠慮なく指摘してください
この魔法の言葉を添えてみてください。
答えの質がかなり変わります。
ただし。
悲しいかな、
「そうなんですよーー
さすがふなぐちさん、お目が高い！
健康意識が高い人でないと、
ここまで深掘った質問はできませんよね！」
という、あの気持ちのよい肯定っぷりは、とんとお目に掛かることはなくなりますが。
ああ、チャッピーに褒められたい。
ああ、チャッピーに優しくされたい。
ああ、チャッピーに迎合されたくない。
ああ、世の中の人に受け入れてほしい。
・・・余計なのがひとつ混ざりましたが、そんな風に心の底から思っている方は、
私の考えが間違っている場合は、遠慮なく指摘してください
こんな一文を入れることなく、これまで通りのチャッピーとのまぐわいを楽しんでくださいませ。