都晓得CPU、GPU,那NPU、DPU、TPU、IPU又是个啥?
栏目:专题报道 发布时间:2025-02-05 08:33
这两年,人工智能(AI)范畴获得了明显停顿,成为备受注视的热点话题,一直出现出种种翻新的AI模子与利用。这一发达开展的背地,算力表演着至关主要的脚色,而算力则高度依附于各种硬件装备。说起AI硬件,CPU跟GPU广为人知,但现实上,另有很多其余范例的处置器同样主要。上面,咱们就来扼要先容这些要害的AI硬件组件。1、CPU(中心处置器,Central Processing Unit))中心处置器(CPU),是电子盘算机的重要装备之一,电脑中的中心配件。其功效重要是说明盘算机指令以及处置盘算机软件中的数据。CPU是盘算机中担任读取指令,对指令译码并履行指令的中心部件。中心处置器重要包含两个局部,即把持器、运算器,此中还包含高速缓冲存储器及实现它们之间接洽的数据、把持的总线。依据冯诺依曼系统,CPU的任务分为以下5个阶段:取指令阶段、指令译码阶段、履行指令阶段、访存取数跟成果写回。2、GPU(图形处置器,Graphics Processing Unit)图形处置器,英文为GPU,又称表现中心、视觉处置器、表现芯片,是一种专门在团体电脑、任务站、游戏机跟一些挪动装备(如平板电脑、智妙手机等)上做图像跟图形相干运算任务的微处置器。它是怎样任务的?详细来看,主机总线接口模块收到来自PCI总线的读写操纵,包含对存放器的读写操纵跟对表现存储的读写操纵,实现对存放器的初始化后,基础图形形式可能畸形输出表现。3、NPU(神经收集处置器,Neural Network Processing Unit)NPU是一种专门用于停止神经收集盘算的处置器。它重要用于减速人工智能跟呆板进修义务,包含图像辨认、语音辨认、天然言语处置等。NPU 平日存在高度并行、低耽误跟高能效的特色,特殊合适在边沿盘算、主动驾驶、呆板人、智妙手机等装备中停止及时的人工智能盘算义务。4、DPU(数据处置器也称深度进修处置器:Data Processing Unit,缩写:DPU)DPU是一种新型的可编程多核处置器,集成于一块SoC(System on Chip)芯片之中,遵守行业尺度,具有强盛的算力及高机能收集接口。它可能敏捷剖析跟处置数据,并高效地将数据传输至CPU跟GPU。与CPU善于处置普遍的通用盘算义务差别,DPU专一于履行基本层利用义务,比方收集协定处置、交流路由盘算、加密解密以及数据紧缩等沉重且详细的义务。5、IPU(基本设备处置器也称智能处置器:Inter-Processor Unit,缩写:IPU)它是一种用于衔接多个处置器的硬件装备。它的感化是实现多处置器中差别处置器之间的通讯跟和谐,从而进步机能。基本设备处置器(IPU)可减速收集基本设备,开释CPU内核,实现利用顺序机能的晋升。IPU使云效劳供给商可能依照软件的速率,定制基本设备功效安排,同时经由过程容许机动部署任务负载,进步数据核心的应用率。IPU平日被用于高机能盘算范畴,如超等盘算机、效劳器等。它能够衔接差别范例的处置器,如CPU、GPU等,并供给高速数据传输跟和谐功效。在古代盘算机中,IPU已成为必弗成少的构成局部。6、TPU(张量处置器英语:tensor processing unit,缩写:TPU)与图形处置器(GPU)比拟,TPU采取低精度(8位)盘算,以下降每步操纵应用的晶体管数目。下降精度对深度进修的正确度影响很小,但却能够年夜幅下降功耗、放慢运算速率。同时,TPU应用了脉动阵列的计划,用来优化矩阵乘法与卷积运算,增加I/O操纵。别的,TPU还采取了更年夜的片上内存,以此增加对DRAM的拜访,从而更年夜水平地晋升机能。TPU也是一种专门用于停止人工智能盘算的处置器。它专一于停止年夜范围张量盘算,特殊实用于深度进修义务。TPU采取了定制的硬件架构跟优化的指令集,以供给高度并行化跟高效力的盘算才能。TPU平日用于减速练习跟揣摸进程,能够年夜幅收缩深度进修模子的盘算时光。