neng8科技快讯网AI人工智能前沿资讯_汽车数码相机评测_手机电脑硬件百科

利用OpenVINO和LlamaIndex工具构建多模态RAG应用

利用OpenVINO和LlamaIndex工具构建多模态RAG应用

Retrieval-Augmented Generation (RAG) 系统可以通过从知识库中过滤关键信息来优化 LLM 任务的内存占用及推理性能。归功于文本解析、索引和检索等成熟工具的应用,为文本内容构建 RAG 流水线已经相对成熟。然而为视频内容构建 RAG 流水线则困难得多。由于视频结合了图像,音频和文本元素,因此需要更多和更复杂的数据处理能力。本文将介绍如何利用 OpenVINO 和 LlamaIndex 工具构建应用于视频理解任务的RAG流水线。
25 0 2025-08-28
利用OpenVINO GenAI解锁LLM极速推理

利用OpenVINO GenAI解锁LLM极速推理

随着 DeepSeek、 GPT 和 Llama 等大语言模型(LLMs)不断推动人工智能的边界,它们在高效部署方面也带来了重大挑战。这些模型在生成类似人类的文本方面具有革命性,但每生成一个 token 都需要耗费巨大的计算资源。这不仅导致成本上升、能耗增加,还使响应速度变慢。在实时应用场景,如聊天机器人、虚拟助手和创意内容生成工具等场景中,这些挑战尤为突出。
24 0 2025-08-28
利用NVIDIA Cosmos模型训练通用机器人

利用NVIDIA Cosmos模型训练通用机器人

机器人领域的一大核心挑战在于如何让机器人掌握新任务,而无需针对每个新任务和环境耗费大量精力收集和标注数据集。NVIDIA 的最新研究方案通过生成式 AI、世界基础模型(如 NVIDIA Cosmos)以及数据生成蓝图(如 Isaac GR00T-Mimic 与 GR00T-Dreams)来克服这一挑战。
22 0 2025-08-28
利用NVIDIA Isaac平台构建、设计并部署机器人应用

利用NVIDIA Isaac平台构建、设计并部署机器人应用

机器人在智能制造设施、商业厨房、医院、仓库物流和农业领域等不同环境中的应用正在迅速扩展。该行业正在向智能自动化转变,这需要增强的机器人功能来执行感知、地图构建、导航、负载处理、物体抓取和复杂的装配任务等功能。 AI 在这一变革中发挥着关键作用,提高了机器人的性能。通过集成 NVIDIA AI 加速,机器人可以更高的精度和效率处理复杂的任务,在各种应用中充分发挥自己的潜力。
21 0 2025-08-28