大型语言模型（LLMs）在各种自然语言处理（NLP）任务中展现了显著的能力，并吸引了包括金融服务在内的多个领域的关注。尽管对通用领域LLMs的研究广泛，且它们在金融领域具有巨大的潜力，但金融LLM（FinLLM）的研究仍然有限。本综述提供了FinLLMs的全面概览，包括它们的历史、技术、性能以及机遇和挑战。首先，我们通过对通用领域预训练语言模型（PLMs）的时间顺序概览，到当前的FinLLMs，包括GPT系列、选定的开源LLMs和金融LMs。其次，我们比较了财务PLMs和FinLLMs中使用的五种技术，包括训练方法、训练数据和微调方法。第三，我们总结了六个基准任务和数据集的性能评估。此外，我们提供了八个高级金融NLP任务和数据集，以开发更复杂的FinLLMs。最后，我们讨论了FinLLMs面临的机会和挑战，如幻觉、隐私和效率。为了支持金融领域的AI研究，我们在GitHub上编译了一系列可访问的数据集和评估基准。