网站首页 技术文章 第987页

• 

  获TensorRT加持的TensorFlow有哪些新的神通?

  TensorFlow新版本发布还不到一个月的时间，这个互联网上最受欢迎的机器学习项目却取得了众多进展，刚刚TensorFlow宣布，他们将与TensorRT公司完全整合。TensorRT是一个优化深度学习模型的库，用于在生产环境中的GPU上...

  2024-09-10 btikc 技术文章 11 ℃ 0 评论
• 

  NVIDIA TensorRT助力腾讯加速“开悟”AI开放研究平台

  腾讯一直积极地推动强化学习在游戏AI领域的发展，并在2019年推出了“开悟”AI开放研究平台，提供不同游戏的训练场景、支撑AI进行强化训练的大规模算力、统一的强化学习框架以加速研发速度、通用的训练与推理服务，加快AI训练速度。...

  2024-09-10 btikc 技术文章 10 ℃ 0 评论
• 

  Stable Diffusion测试:Tensor RT插件带来多大的效能提升?

  以StableDiffusion为代表的AI绘图工具，正快速席卷设计、绘画、动漫、游戏等行业。创新的“文生图”功能：您只需要输入特定的关键字，就能生成您想要的图像作品。海量的AI绘图模型，充满着无穷的创作力，呈现出无数令人震撼的作品，并且...

  2024-09-10 btikc 技术文章 13 ℃ 0 评论
• 

  惊人的性能:于 Windows 的 TensorRT-LLM，RTX 语言模型速度提高 4 倍

  TensorRT现在还加速稳定扩散，以及RTX视频超分辨率更新版本。...

  2024-09-10 btikc 技术文章 11 ℃ 0 评论
• 

  TensorFlow 携手 NVIDIA，使用 TensorRT 优化 TensorFlow Serving 性能

  雷锋网AI科技评论按：日前，TensorFlow团队与NVIDIA携手合作，将NVIDIA用来实现高性能深度学习推理的平台——TensorRT与TensorFlowServing打通结合，使用户可以轻松地实现最佳性能的...

  2024-09-10 btikc 技术文章 10 ℃ 0 评论
• 

  NVIDIA Jetson Xavier性能首测:AI性能碾压苹果A12，自研CPU架构看齐骁龙845

  NVIDIA对SoC的设计并不陌生，到目前为止他们已经发布了7代Tegra系列SoC。在过去几年中，NVIDIA逐渐从消费级的Tegra产品转换到更专业的AI等高性能移动计算平台。经历了TegraK1和TegraX1的过渡，Tegra...

  2024-09-10 btikc 技术文章 13 ℃ 0 评论
• 

  RTX AI大算力!GeForce RTX AI PC推动AI变革新时代

  近年来，人工智能AI的迅猛发展使得AI助手逐渐成为人们日常生活中的重要组成部分。小到智能家居的管理，大到复杂的数据分析，AI助手已经在各个领域之中都展现出了巨大的潜力。而作为图形处理领域的领导者NVIDIA通过其GeForceRTXAI...

  2024-09-10 btikc 技术文章 12 ℃ 0 评论
• 

  业界 | TensorFlow 携手 NVIDIA，使用 TensorRT 优化 TensorFlow Serving 性能

  AI科技评论按：日前，TensorFlow团队与NVIDIA携手合作，将NVIDIA用来实现高性能深度学习推理的平台——TensorRT与TensorFlowServing打通结合，使用户可以轻松地实现最佳性能的GPU...

  2024-09-10 btikc 技术文章 14 ℃ 0 评论
• 

  TensorRT LLM加速Gemma!NVIDIA与谷歌牵手，RTX助推AI聊天

  NVIDIA日前在其官方博客中表示，与谷歌合作在所有NVIDIAAI平台上为Gemma推出了优化。Gemma是谷歌最先进的新轻量级2B(20亿)和7B(70亿)参数开放语言模型，可以在任何地方运行，降低了成本，加快了特定领域用例的创新工作...

  2024-09-10 btikc 技术文章 10 ℃ 0 评论
• 

  NVIDIA TensorRT

  NVIDIATensorRT-LLM是一个用于优化大型语言模型（LLM）在NVIDIAGPU上的推理部署的工具。结合TritonInferenceServer，可以构建一个高效的推理服务系统。以下是实现优化部署的步骤：环境...

  2024-09-10 btikc 技术文章 12 ℃ 0 评论