Construction and Validation of a Financial LLMs [in Japanese]

Masanori HIRANO, Kentaro IMAJO, Shuta SAITO, Shintarou OKADA, Kazuki MATOYA, Toru TANIGUCHI, Yoshiaki OTA

The 33rd meeting of Special Interest Group on Financial Informatics of Japanese Society for Artificial Intelligence, pp. 142-149, Oct. 20, 2024

Conference

The 33rd meeting of Special Interest Group on Financial Informatics of Japanese Society for Artificial Intelligence (SIG-FIN)

Abstract

本研究では､金融に特化したLLMの構築に取り組んだ｡まず､ﾄﾞﾒｲﾝ特化のｺｰﾊﾟｽを構築し､そのｺｰﾊﾟｽを用いた継続事前学習を実施した｡その上で､金融に特化した金融知識の有無を確認するﾍﾞﾝﾁﾏｰｸを使用し､性能を評価した｡さらに､ﾓﾃﾞﾙﾏｰｼﾞを行い､ｲﾝｽﾄﾗｸｼｮﾝへの対応能力をﾓﾃﾞﾙに付与することで､金融のｲﾝｽﾄﾗｸｼｮﾝﾓﾃﾞﾙを構築した｡ｲﾝｽﾄﾗｸｼｮﾝﾓﾃﾞﾙの性能を評価するために､金融に特化した生成の良さを確認するﾍﾞﾝﾁﾏｰｸを使用し､その性能を比較した｡これらの取り組みを通じてLLMを金融に適合させることができることを示した｡

Keywords

LLM; Finance; Continual Pretraining; Model Merging; Benchmark;

doi

10.11517/jsaisigtwo.2024.FIN-033_142

bibtex

@inproceedings{Hirano2024-sigfin33,
  title={{Construction and Validation of a Financial LLMs [in Japanese]}},
  author={Masanori HIRANO and Kentaro IMAJO and Shuta SAITO and Shintarou OKADA and Kazuki MATOYA and Toru TANIGUCHI and Yoshiaki OTA},
  booktitle={The 33rd meeting of Special Interest Group on Financial Informatics of Japanese Society for Artificial Intelligence},
  pages={142-149},
  doi={10.11517/jsaisigtwo.2024.FIN-033_142},
  year={2024}
}