概述

NGraphX 是一个大语言模型（LLM）智能体原型创意开发工具，结合了后端即服务（Backend as Service）和 LLMOps 的理念。允许开发者快速构建生产级的生成式AI应用，支持多种大型语言模型，如OpenAI、文心一言、智谱清言、通义千问及本地模型服务(Ollama,vLLM,LlamaCpp)等。通过可视化流程节点编排简化了应用开发，大大降低了复杂度。

NGraphX 的用途非常广泛，其特点包括：

• 快速原型开发：帮助开发者快速构建和实验不同NLP应用的原型。
• 集成至现有业务：提供了详细的API远程调用方法，方便开发者根据自己的需求进行定制和集成，以增强应用的NLP能力。
• 插件定制：除了能够增加 AI 相关功能节点(如：语言模型、智能体等节点)，还可以创建非AI功能节点，如数据清洗、运维部署、机器学习、图像、视频/音频、3D建模等通过节点连接的形式进行逻辑编排的应用。
• 部署简单：主要通过Python的PIP工具进行。同时也提供一键安装脚本。
• 迁移快捷：NGraphX的核心理念是通过可声明式的JSON格式定义AI应用及非AI应用的各个方面，在多个环境中能通过导入导出进行快速迁移。