跳到正文
热点事件持续更新

黄仁勋称模型提速可在超算力需求时使AI实验室收入翻倍

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

英伟达首席执行官黄仁勋表示,当市场需求超过算力产能时,通过软件或内核优化将AI模型推理速度提升一倍,可以在零新增资本支出的情况下,使AI实验室的营收实现翻倍。 这一增收效果基于“推理营收等于服务token数量乘以单价”的计算逻辑,在相同GPU、功耗和场地条件下,更快的内核能够提高每秒token吞吐量,前提是额外增加的token在当前价格下均能全部售出。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Rohan Paul
    黄仁勋谈软件与内核优化如何实现AI推理翻倍增收

    黄仁勋表示,通过软件或内核优化将AI模型推理速度提升一倍,在需求超过产能的情况下可使AI实验室的营收翻倍。推理营收等于服务token数量乘以单价,更快的内核能在相同GPU、功耗和场地条件下提高每秒token吞吐量。若额外增加的token在当前价格下均能售出,2倍的速度提升即可在零新增资本支出的情况下实现营收翻倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。