大语言模型
大语言模型
SPAR:融合自对弈与树搜索的高性能指令优化框架
大语言模型的指令遵循能力需要模型能够准确识别指令中的细微要求,并在输出中精确体现这些要求。现有方法通
ORCA:基于持续批处理的LLM推理性能优化技术详解
大语言模型(LLMs)推理过程中的批处理优化面临显著挑战,这主要源于其推理过程的迭代特性。核心问题在
68    2024-12-09
大语言模型在推荐系统中的探索与应用
大语言模型为推荐系统的优化提供了新的思路和方法,我们期待在未来的研究和实践中,能够进一步挖掘其潜力,
通过多样本学习加速LLM应用开发
本文通过将持续样本ICL与RAG比较,讨论了具有长上下文LLM的ICL,如何帮助产品团队创建原型和完
高性能 LLM 推理框架的设计与实现
本文将分享大语言模型推理相关工作,以及大语言模型性能优化的一些关键点。在大语言模型推理中常会用到四个
确保贵企业的数据为生成式AI做好准备的七个方法
大家都想利用生成式AI和大语言模型的力量,但这里有一个难题。让AI满足很高的期望需要高质量的实用数据
大语言模型在推荐系统的实践应用
本文从应用视角出发,尝试把大语言模型中的一些长处放在推荐系统中。本文视角是将大模型引入传统的推荐流程
1