大语言模型在专业领域的应用——医疗场景下的大语言模型

医疗是与人类生活密切相关的重要领域之一。由于具有较强的通用任务解决能力，大语言模型被广泛用于辅助医生处理各种相关医疗任务，例如医疗诊断、临床报告生成、医学语言翻译、心理健康分析等。为了充分发挥大语言模型在医疗领域的作用，研发医疗相关的大语言模型非常重要。

构建面向医疗的大语言模型

已有的医疗大语言模型主要以通用大语言模型为基础，通过继续预训练技术或者指令微调方法，让其充分适配医疗领域，从而更好地完成下游的医疗任务。在继续预训练阶段，医疗大语言模型可以利用医学领域丰富的数据资源（如医学教材、诊断报告等），学习医学领域的专业知识与相关技术，进而准确理解医学文本数据的语义信息。为了解决复杂且多样的医疗任务，还需要进一步构建特定的指令集合对模型进行指令微调。在真实场景中，医疗相关指令数据相对较少，可以通过收集医患对话数据或医学问答数据集，在此基础上设计指令模板，来构造面向不同医疗任务的指令数据。Med-PaLM 模型是谷歌推出的医疗大语言模型，其通过医疗相关的指令数据对 FLAN-PaLM 进行微调，在回答医疗问题时获得了专业医生的认可。为了增强模型回答的准确性和可信程度，还可以将医疗大语言模型和医学数据库进行结合，利用检索增强等方法来提升模型在处理复杂医疗任务时的能力。

此外，现有的医疗大语言模型通常基于英文语料进行训练，可能无法充分覆盖中医相关的知识体系。为了研发中医相关的医疗大语言模型，可以利用现有中医语料库构造预训练数据和微调指令，进而提升对于传统中医理论的理解与应用能力。进一步，在医疗领域中，影像信息具有重要的数据价值（X 光片、MRI 光片等），能够提供关于患者病情的直观信息。因此，构建能够理解医疗文本和视觉信息的多模态大语