Deepgram 如何利用 AWS Trainium 优化大规模语音 AI

Deepgram 与 AWS 合作将 Nova-3 语音识别模型适配至 AWS Trainium2 芯片，在离线批处理工作负载中实现了每美元处理音频量提升 11% 至 70% 的吞吐量。双方通过 PyTorch、Neuron 软件栈以及内核级调优完成了此次推理优化。