モデルを大きくしても、学習量を増やしても、逆向きの正解率はほぼ0%のままでした。
「AはBだ」と覚えたAIが「BはA」は答えられない——同じ事実を、向きだけ変えて測った研究です。
【出典】
Lukas Berglund et al. “The Reversal Curse: LLMs trained on ‘A is B’ fail to learn ‘B is A'”
ICLR 2024（機械学習の国際会議）で発表／arXiv:2309.12288
研究チームは、実在しない人物についての文を一方向だけモデルに追加学習させました。「ダフネ・バリントンは『時をこえて』の監督だ」という形です。そのうえで逆向きに「『時をこえて』を監督したのは誰ですか」と尋ねると、当時のGPT-3もMetaのLlamaも、でたらめに答えた場合と同じ水準しか当たりませんでした。
大きくすれば解ける問題と、そうでない問題がある。それを一方向の学習という単純な設定で示した研究です。
【この研究の範囲】
・検証対象は2023年時点のGPT-3系・Llama系などのモデルで、その後のモデルに同じ結果が出るとは限りません。
・追加学習させた文は研究用に作られた架空の人物の情報です。
・示されたのは特定の設定での失敗であり、AI全般の能力を測ったものではありません。
画面の絵はイメージ図で、実験の写真やデータそのものではありません。
世界中の研究を紙芝居で解説しています。
※この動画の映像と音声は生成AIで制作しています。
source