← NeurIPS 各届
NeurIPS 2023· Neural Information Processing Systems
NeurIPS 2023
亮点精读
8 篇 · 获奖 / oral / 高引🌟 OutstandingOral
Are Emergent Abilities of Large Language Models a Mirage?
本文通过实验证明大语言模型的能力并非突然涌现，而是随规模连续、可预测地提升。
💡 挑战了LLM能力突现的普遍认知，影响模型评估与研究方向。
Oral📈 9.9k 引用
Visual Instruction Tuning
提出LLaVA模型，通过语言模型生成视觉指令数据微调多模态模型。
💡 首次实现纯语言数据驱动的视觉指令微调，性能媲美GPT-4。
arXiv
Oral📈 9.2k 引用
Direct Preference Optimization: Your Language Model is Secretly a Reward Model
提出直接偏好优化（DPO），无需强化学习即可从偏好数据微调语言模型。
💡 简化了RLHF流程，使偏好对齐更稳定高效。
arXiv
Oral📈 4.8k 引用
QLoRA: Efficient Finetuning of Quantized LLMs
提出QLoRA方法，通过量化低秩适配器高效微调大型语言模型。
💡 大幅降低微调LLM的内存需求，使消费级GPU可行。
arXiv
Oral📈 4.3k 引用
Toolformer: Language Models Can Teach Themselves to Use Tools
提出让语言模型自学使用外部工具（如计算器、搜索引擎）的方法。
💡 使模型能自主扩展能力，无需人工标注工具使用数据。
arXiv
Oral📈 4.3k 引用
Tree of Thoughts: Deliberate Problem Solving with Large Language Models
提出Tree of Thoughts框架，让LLM通过多路径探索与自我评估进行深思熟虑的问题求解。
💡 显著提升LLM在需要规划与搜索的任务上的推理能力。
arXiv
Spotlight
Information Maximization Perspective of Orthogonal Matching Pursuit with Applications to Explainable AI
从信息最大化角度解释正交匹配追踪，并应用于可解释AI。
💡 连接了稀疏编码与可解释性。
Spotlight
STEVE-1: A Generative Model for Text-to-Behavior in Minecraft
提出STEVE-1，一种通过指令生成Minecraft行为的生成模型。
💡 首次实现文本到行为的通用生成，无需任务特定训练。
全部论文
加载中…正在从 DBLP 加载全量论文…
全量索引来自 DBLP · 完整 proceedings 见 官方站点