专题

AI

探索人工智能前沿技术与应用落地,涵盖机器学习、深度学习、自然语言处理、计算机视觉、AIGC等热点领域,分享模型训练优化、推理部署、AI工程化建设及大模型应用开发的实战经验与最佳实践。

4 篇文章 4 累计收录 专题归档

文章列表

Apache Flink Agents 0.3 学习教程

基于Apache Flink Agents 0.3官方文档,系统讲解Flink Agents的设计原理、核心架构(事件驱动编排模型)与关键概念(Action、Event、Chat Model、Tool、Memory、Skills),涵盖Workflow Agent与ReAct Agent两种范式、Flink DataStream/Table API集成实战,从环境搭建到生产部署的完整学习教程。

FlinkAgentAI流处理实时计算
13

vLLM 从入门到生产部署学习教程

vLLM高性能大语言模型推理引擎完整教程,从PagedAttention核心原理到生产部署实践。覆盖环境安装、离线批量推理、API服务部署、性能优化(显存/吞吐量/延迟)、量化、LoRA、多模态、张量并行等核心功能,以及Docker Compose高可用部署、Prometheus监控告警等生产级方案。

vLLM大模型推理PagedAttentionLLM部署AI引擎
30