洗練されたLLMほど信頼性が下がる？ 人間による訓練がAIに思わぬ影響 - クラウド Watch

標題の問題意識のもと、LLMが犯すミスを、その信頼性の進化とあわせて分析し、明らかにしようとした研究だ。 論文によると、「人間のフィードバックを受けて、関連キーワードはありません