2025_NIPS_LLM Meets Diffusion: A Hybrid Framework for Crystal Material Generation

一、文章主要内容总结本文针对晶体材料生成中离散原子类型与连续结构特征难以同时精准建模的问题，提出了一种融合大型语言模型（LLM）与扩散模型的混合框架CrysLLMGen，用于高效生成新型、稳定的周期性晶体材料。研究背景：晶体材料的发现对电池、太阳能电池等领域创新至关重要，但传统方法（如DFT模拟、实验）成本高、效率低。现有生成模型分为两类：LLM擅长处理离散原子类型（高成分有效性），但难以精准生成原子坐标、晶格参数等连续特征（低结构有效性）；去噪模型（含扩散模型）擅长建模连续变量（高结构有效性），但原子类型预测精度不足（低成分有效性）。框架设计：第一阶段：使用微调后的LLM（基于LLaMA-2-7B）生成晶体的中间表示，包括原子类型（A）、原子坐标（X）和晶格结构（L），保留LLM预测的原子类型（利用其离散信息建模优势）。第二阶段：将LLM生成的坐标和晶格结构输入预训练的等变扩散模型，通过去噪过程优化连续特征，确保结构有效性和稳定性。训练与采样：LLM和扩散模型独立并行训练，采样时将LLM的中间表示注入扩散模型的中间时间步启动去噪，最终输出完整晶体结构（A^,X0,L0\hat{A}, X_0, L_0