AG体育太平洋时间 2024 年 3 月 18 日，NVIDIA 于今日推出数十项企业级生成式 AI 微服务，企业可以利用这些微服务在自己的平台上创建和部署定制应用，同时保留对知识产权的完整所有权和控制权。

　　这些云原生微服务目录在 NVIDIA CUDA 平台上开发，其中包括 NVIDIA NIM 微服务，可适用于 NVIDIA 及合作伙伴生态系统中 20 多个热门的 AI 模型进行推理优化。此外，用户现能够以 NVIDIA CUDA-X 微服务的形式使用 NVIDIA 加速软件开发套件、库和工具，用于检索增强生成（RAG）、护栏、数据处理、HPC 等。NVIDIA 还发布了 20 多项医疗 NIM 和 CUDA-X 微服务。

　　这些精心挑选的微服务为 NVIDIA 全栈计算平台增添了新的一层，连接起了由模型开发人员、平台提供商和企业组成的 AI 生态系统，使其能够通过标准化的路径来运行针对 NVIDIA CUDA 安装基础（在云、数据中心、工作站和 PC 中的数以亿计的 GPU）优化的定制 AI 模型。

　　NVIDIA 创始人兼首席执行官黄仁勋表示：“成熟的企业平台坐拥数据金矿，这些数据可以转化为生成式 AI 助手。我们与合作伙伴生态系统一起创建的这些容器化 AI 微服务AG体育，是各行业企业成为 AI 公司的基石。”

　　NIM 微服务提供基于 NVIDIA 推理软件的预构建容器，包括 Triton 推理服务器 和 TensorRT -LLM，使开发者能够将部署时间从几周缩短至几分钟。

　　它们为语言、语音和药物发现等领域提供行业标准 API，使开发者能够使用安全托管在自己的基础设施中的专有数据，来快速构建 AI 应用。这些应用可按需扩展，从而为在 NVIDIA 加速计算平台上运行生产级生成式 AI 提供灵活性和性能。

　　ServiceNow 于今日宣布AG体育AG体育，其正在使用 NIM 来更快、更经济地开发和部署针对特定领域的全新助手和其它生成式 AI 应用。

　　CUDA-X 微服务为数据准备、定制和训练提供端到端的构建模块，助力各行各业加快开发生产级 AI。

　　NeMo Retriever 微服务可让开发者将其 AI 应用链接到业务数据，包括文本、图像以及条形图、折线图和饼图等可视化内容，以生成高度准确AG体育、与上下文相关的结果。借助这些 RAG 功能，企业可以向助手、聊天机器人和生成式 AI 生产力工具提供更多数据，从而提高准确性和洞察力。

　　除了领先的应用提供商外，NVIDIA 生态系统中的数据、基础设施和计算平台提供商也在使用 NVIDIA 微服务，为企业带来生成式 AI。

　　超过 400 个 NVIDIA 认证系统也支持 NVIDIA 微服务，包括思科、戴尔科技AG体育、慧与（HPE）、惠普、联想和超微的服务器和工作站。此外，慧与于今日宣布推出面向生成式 AI 的企业计算解决方案，计划将 NIM 和 NVIDIA AI Foundation 模型集成到其 AI 软件中。

　　投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划

　　不良信息举报电话举报邮箱：增值电信业务经营许可证：B2-20090237