はとはとブログ

大規模言語モデル（LLM）のパラメータ数を増やすと、小さなモデルには見られなかった能力が突然出現する――この「創発（emergence）」と呼ばれる現象は、AI研究において最も議論の的となっているテーマの一つです。本当に新しい能力が生まれているのか、それとも測定方法が生んだ錯覚に過ぎないのか。本記事では、創発の定義から論争の核心、そして最新の展開までを調査・考察してみました。参考になれば幸いです。

大規模言語モデル（LLM）は自分自身の内部状態を認識できるのか。自らの知識の限界を理解しているのか。2024〜2025年にかけて、LLMのメタ認知能力（自己モニタリング、不確実性認識、内省）に関する画期的な研究が相次いで発表されています。最新の知見を調査・考察してみました。AI研究の最前線を理解する参考になれば幸いです。