![]()
TPU(张量处理单元)是谷歌于2015年内部部署的一款专有人工智能加速器,旨在处理人工智能和机器学习工作负载所需的复杂数学计算,主要应用于云端数据中心场景。
TPU的工作原理与架构优势在于其专用硬件布局。TPU采用脉动阵列(systatic array)架构,允许数据在二维乘法器网格中从一个单元传递到下一个单元,从而消除潜在的处理瓶颈。与GPU需要不断在计算单元和高带宽内存之间读写数据不同,TPU的计算输出可直接作为下一单元的输入,无需反复访问内存。这一特性使TPU在训练大规模神经网络和处理海量工作负载时具有更高的效率和更低的能耗。
TPU与NPU的应用场景存在差异。NPU(神经网络处理单元)是目前现代智能手机、Mac和PC中常见的芯片,负责处理生成式AI和智能代理任务,如照片处理和本地AI应用。在谷歌最新发布的Pixel 11系列智能手机中,其搭载的Tensor G6芯片集成了TPU模块,谷歌声称该TPU计算性能提升了50%,AI处理速度最高可达前代的3.5倍,同时能耗降低至原先的三分之一左右。手机端TPU本质上是谷歌对NPU的另一种称呼,主要负责摄像头与图像处理以及本地AI任务。
TPU与GPU的定位各有侧重。GPU(图形处理单元)在AI时代之前主要用于运行高画质游戏,AI时代到来后,GPU还承担AI训练和加密货币挖矿等任务,是一款多用途芯片。TPU则凭借规模和效率优势,成为服务Anthropic、Midjourney等大型AI公司的算力支柱,帮助这些公司应对每天数十亿次的AI请求。三类芯片各有其最佳应用场景:NPU和设备端TPU擅长处理低功耗的主流AI任务;TPU是运行大规模AI、机器学习和深度学习模型的高性价比解决方案;GPU则凭借灵活性,既能运行游戏、编辑视频和模拟程序,也能处理各种规模的AI工作负载。
参考链接:
https://www.engadget.com/2242759/tpu-vs-gpu-difference-between-processsors/
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.