专题

大模型

追踪大语言模型技术前沿与工程实践,包括模型架构演进、训练推理优化、Prompt工程、RAG应用开发、Agent智能体、模型微调等,深入大模型应用落地的全流程技术栈。

65 篇文章 65 累计收录 专题归档

文章列表

MHA、MQA 与 GQA 深度对比:大模型注意力机制演进全解析

深度解析大模型注意力机制的三种核心变体:MHA(多头注意力)、MQA(多查询注意力)和 GQA(分组查询注意力),从 Query/Key/Value 头数设计、KV Cache 显存占用、推理速度、模型精度等维度全面对比,助你理解 LLaMA、GPT 等模型的架构选择。

AILLM
47

LlamaIndex 核心概念:索引类型、检索策略与查询引擎全解析

深入解析 LlamaIndex 三大核心概念:索引(VectorStore/Summary/Tree/KeywordTable/KnowledgeGraph)是数据的结构化存储形态,检索策略(语义/关键词/混合/分层/路由)是从索引中查找内容的方法,查询引擎是封装检索与生成的完整问答接口,三者共同构成 RAG 流程的核心链条。

AIRAGLLM
33

LlamaIndex 大厂面试 25 道核心题型全解析

LlamaIndex 大厂面试 25 道灵魂痛点题全解析,涵盖核心架构与数据流、高级 RAG 优化(混合检索/重排序/查询改写)、Agent 编排与工具调用、生产环境避坑指南四大模块,助你高效突击大厂 AI 工程师面试。

AIRAGLLM
42

LlamaIndex 核心包 15 种分块策略完全指南

全面详解 LlamaIndex 核心包中 15 种分块策略,涵盖基础文本分块(Token/Sentence/Code)、语义分块(SemanticSplitter/SemanticDoubleMerging)、文件格式感知(HTML/Markdown/JSON)、关系层级分块(SentenceWindow/Hierarchical/MarkdownElement),附选择指南与代码示例。

AIRAGLLM
29

LLM 应用开发面试 50 道模拟题及答案

LLM 应用开发面试 50 道核心模拟题及详细答案,覆盖 RAG 检索与评估、文本分块策略、多路召回、Agent 架构设计、LangGraph 编排、模型部署与推理优化、LLMOps 工程化等七大专题,助你全面备战大模型应用岗面试。

AILLMAgent
44

大模型应用开发工程师模拟面试笔记

大模型应用开发工程师模拟面试完整记录,包含自我介绍、RAG 系统搭建、Embedding 选型、文本分块策略、多路召回、Agent 架构设计、LangGraph 编排、模型微调部署等核心面试题的候选人回答与参考答案对比分析。

AILLMAgent
34