LLMは文分類を抽象的に学ぶことはできるか？

メディア研究開発センターの新妻です。 LLMのブーム、すごいっすよね。 （この記事においては、LLMは大規模なdecoder onlyな言語モデルを指して使います。） 自分も最近は継続事前学習とか頑張ってます。 NLPには文分類(sentence classification)という基礎的なタスクがあります。 具体的なタスクで言えば、含意関係認識や感情解析などの与えられた文に対して限られた選択肢からラベルを付与するようなタスクです。 この文分類については、既存のBERTな