二高性能 AI 芯片的测试需求对于高性能 AI 芯片来说, 其典型的外部互联接口主要分为以下几类 : 高性能存储接口 : 用于海量数据高速存取, 目前以 DDR4/GDDR5 内存为主, 未来会采用 DDR5/GDDR6/HBM 等内存方式下图展示了高性能内存技术的发展高性能互联接口 : 用

Size: px

Start display at page:

Download "二高性能 AI 芯片的测试需求对于高性能 AI 芯片来说, 其典型的外部互联接口主要分为以下几类 : 高性能存储接口 : 用于海量数据高速存取, 目前以 DDR4/GDDR5 内存为主, 未来会采用 DDR5/GDDR6/HBM 等内存方式下图展示了高性能内存技术的发展高性能互联接口 : 用"

胃闻
5 years ago
Views:

高性能 AI 芯片测试建议书是德科技 ( 中国 ) 有限公司李凯一高性能 AI 芯片的特点云计算 (Cloud Computing) 已经成为现代互联网时代的基础设施, 由此催生的大数据 (Big Data) 及人工智能 (AI) 应用成为资本追逐的热点, 并上升到国家战略层面 AI 芯片是 AI 技术实现的核心技术, 从应用场景上,AI 芯片主要分为云端 (Cloud) 与终端

1 高性能 AI 芯片测试建议书是德科技 ( 中国 ) 有限公司李凯一高性能 AI 芯片的特点云计算 (Cloud Computing) 已经成为现代互联网时代的基础设施, 由此催生的大数据 (Big Data) 及人工智能 (AI) 应用成为资本追逐的热点, 并上升到国家战略层面 AI 芯片是 AI 技术实现的核心技术, 从应用场景上,AI 芯片主要分为云端 (Cloud) 与终端 (Device) 芯片两类 ; 从功能上, 也主要分为训练 (Training) 和判决 (Inference) 两类其中, 针对云端训练的芯片需要用到海量数据对其深度神经网络模型进行训练, 对性能的要求最为苛刻云端的训练芯片由于性能要求高, 实现难度大, 目前主要分为以 nvidia 为代表的 GPU 阵营和以 Google 为代表的 ASIC 阵营其中 ASIC 的芯片的发展呈现逐渐上升的趋势, 也是最有可能实现芯片技术突破的领域下图是以 IBM 的 Power 系列 CPU 和 nvidia 的 GPU 为例构建的一个针对 AI 计算的异构服务器可以看到, 对于针对云端训练的 AI 芯片来说, 除了为了适应 AI 算法的要求而芯片自身架构的变化以外, 由于需要随时进行海量数据的存取和交换, 因此对于内存总线和外设接口的吞吐率要求非常高

以集群的方式提升计算能力, 主要以 NVLink CCIX 100G/400G 以太网为主下表展示了主流异构计算总线的发展趋势高性能任务调度接口 : 专用的 AI 芯片如 GPU

2 二高性能 AI 芯片的测试需求对于高性能 AI 芯片来说, 其典型的外部互联接口主要分为以下几类 : 高性能存储接口 : 用于海量数据高速存取, 目前以 DDR4/GDDR5 内存为主, 未来会采用 DDR5/GDDR6/HBM 等内存方式下图展示了高性能内存技术的发展高性能互联接口 : 用于多块 AI 芯片间高速低延时互联, 以集群的方式提升计算能力, 主要以 NVLink CCIX 100G/400G 以太网为主下表展示了主流异构计算总线的发展趋势高性能任务调度接口 : 专用的 AI 芯片如 GPU ASIC 一般难以单独组成 AI 计算平台, 很多时候还需要 CPU 的配合进行任务调度, 与 CPU 的互联以 PCIe3.0/4.0 为主, 未来会用 PCIe5.0 下图展示了 PCIe 总线的发展路线图

3 三高性能 AI 芯片的测试平台针对以上测试需求,Keysight 公司提供了针对高性能 AI 芯片的测试平台主要包括 : 高速互联通道分析平台 ; 高速信号质量验证平台 ; 高速接口容限测试平台 ; 高速存储总线性能分析平台下面一一介绍高速互联通道分析平台高速 PCB 连接器背板电缆等是承载高性能 AI 芯片互联的基础下图是 Google 公司的基于 TPU 的 AI 计算集群, 可以看到, 其由大量高速的电缆背板连接在一起

4 对于这些非常高速的 PCB 连接器电缆, 甚至芯片封装来说, 由于制作工艺及综合设计等原因, 可能会造成实物与仿真期望的不符, 所以细致的实物性能验证必不可少 Keysight 公司不但提供了传统的 TDR/TDT( 时域反射 / 时域传输 ) 以及矢量网络分析仪 (VNA), 还针对信号完整性的应用, 专门推出了基于 TDR/TDT( 时域反射 / 时域传输 ) 以及矢量网络分析仪 (VNA) 的物理层测试系统 ( Physical Layer Test System PLTS)

基于矢量网络分析仪 (VNA) 的测试系统大大提高了带宽幅度和相位精度相位稳定性动态范围 ( 信噪比 ) 和先进的校准技术在很多情况下高动态范围是非常重要的, 使用大的动态范围就有可能把非常低的信号串扰测试出来, 对于差分器件来说高的动态范围可以识别非常小的模式转换, 如由于差分器件设计不对称造成差分信号转换成共模干扰而 PLTS( 物理层测试系统 ) 扩展了 VNA 的分析功能,

5 基于矢量网络分析仪 (VNA) 的测试系统大大提高了带宽幅度和相位精度相位稳定性动态范围 ( 信噪比 ) 和先进的校准技术在很多情况下高动态范围是非常重要的, 使用大的动态范围就有可能把非常低的信号串扰测试出来, 对于差分器件来说高的动态范围可以识别非常小的模式转换, 如由于差分器件设计不对称造成差分信号转换成共模干扰而 PLTS( 物理层测试系统 ) 扩展了 VNA 的分析功能, 其可实现的主要功能包括以下几个方面 : 频域差分 / 单端 S 参数测试, 阻抗测试, 通过去嵌入功能, 得到被测件的真实参数 ; 时域单端 / 差分 TDT/TDR 抗测量 ; 前向反向测试, 传输, 反射测量, 单端, 差模, 共模和模式转换测量 ;TDR 或 VNA 测得的数据与 PLTS 的虚拟眼图发生器产生的码型进行卷积运算得出仿真眼图高速信号质量验证平台无源阶段的测试完成后, 进入下一个研发阶段, 将相应芯片等器件安装在电路板上, 建立起可工作的系统之后, 可采用 Keysight 的高带宽数字示波器对实际的活的信号进行测试分析, 包括波形参数测量, 抖动测量, 一致性测量等若是针对大量的信号如高速并行总线需要同时测试, Keysight 的高速逻辑分析系统可对总线进行眼图扫描和分析, 观察总线及每个通道的眼图质量高带宽实时采样数字示波器是用于在时域观察高速信号波形质量的必不可少的工具 Keysight 公司推出的 UXR 系列示波器由于创新地采用了 InP 材料使其硬件带宽高达 110GHz, 是业内最高硬件带宽的实时示波器, 而且其革命性的 10bit 256Gsa/s ADC 技术, 使得其在高速采样的同

时底噪声比传统示波器下降 10 个 db 左右, 同时时钟抖动只有 30fs, 特别适合与高速总线的测量高速示波器的主要特点有 :1 实时示波器带宽做到 110GHz InP 材料高反向击穿电压的特点提供了更高可靠性和抗 ESD 能力 2 最低的底噪声: 创新的 10bit ADC 技术, 底噪声约为其它 8bit 示波器相同带宽的 1/3 左右 3 最大采样率 256G/s:

6 时底噪声比传统示波器下降 10 个 db 左右, 同时时钟抖动只有 30fs, 特别适合与高速总线的测量高速示波器的主要特点有 :1 实时示波器带宽做到 110GHz InP 材料高反向击穿电压的特点提供了更高可靠性和抗 ESD 能力 2 最低的底噪声: 创新的 10bit ADC 技术, 底噪声约为其它 8bit 示波器相同带宽的 1/3 左右 3 最大采样率 256G/s: 在提高采样率的同时减少时钟抖动, 抖动测量本底做到 30fs 4 最大内存深度 2G 样点 : 最深的存储深度, 是业内最高水平的的 4~ 5 倍 5 提供 30GHz 的探头 : 业内最高带宽的探头独有的频响校准技术可直接修正由于电缆探头频响带来的误差同时提供精准的快沿信号发生器用于计量 6 丰富灵活的应用软件可以在线分析, 也可以离线分析 6. 易于使用的曾获业界大奖的基于的用户界面, 同时可以提供脱机的信号分析软件 ;7. 针对高速总线的分析和一致性测试, 提供了多种分析软件, 包括 : 抖动分析软件 ( 常用型, 先进型 ), 高速串行数据分析软件 (SDA),PCI-E 3.0/4.0/5.0, CCIX NvLink USB3.0/3.1 等多种信号分析功能高速接口容限测试平台对于高速数字通信系统来说, 系统在恶劣环境下接收信号的能力是衡量系统可靠性的关键指标虽然在研发阶段可以用示波器或逻辑分析仪等工具验证高速数字信号的质量或时序逻辑关系, 但是并不能直观定量地反映出传输系统的可靠性要定量反映出数字传输系统接收恶劣信号的能力, 就需要用到相应的误码仪进行高速通信系统误码率的测试下图是用高性能误码仪进行芯片接收容限测试的原理框图

是德科技的 M8040A 误码仪是目前市面上集成度最高功能最灵活扩展性最好的 PAM4 误码仪, 可以支持到单路 64G 波特率的 NRZ/PAM4 信号的生成以及误码检测, 具备兼容未来 PCIe5.

0 测试 ;CCIX/NvLink 测试 ;IEEE 802.3bs 200G/400G 以太网 ;IEEE 802.3bj 100G 以太网 ;IEEE 802.

7 是德科技的 M8040A 误码仪是目前市面上集成度最高功能最灵活扩展性最好的 PAM4 误码仪, 可以支持到单路 64G 波特率的 NRZ/PAM4 信号的生成以及误码检测, 具备兼容未来 PCIe G 以太网等接口速率的能力同时后端具备和传统误码仪类似的抖动注入实时硬件 PRBS 码型生成抖动容限测试等能力, 大大方便了接收容限的测试 M8040A 主要应用场合有 :PCIe 4.0/5.0 测试 ;CCIX/NvLink 测试 ;IEEE 802.3bs 200G/400G 以太网 ;IEEE 802.3bj 100G 以太网 ;IEEE 802.3cd 50G/100G/200G 以太网 ;OIF CEI - 56G /112G(NRZ/PAM-4) ;64G/112G Fibre Channel ;Infiniband-HDR; 专用的芯片 - 芯片芯片 - 模块背板中继器 AOC 等接口 NRZ/PAM4 信号测试等

高速存储总线性能分析平台内存总线的可靠性和效率对于 AI 平台至关重要由于 DDR 的总线宽度很宽, 即使一个 16 位的数据总线加上地址时钟控制信号等也有 30 多根线, 更宽位数的总线甚至会用到上百根线, 为了能够对这么多根线上的数据进行同时捕获以进行协议分析, 最适合的工具就是逻辑分析仪 DDR 的协议测试的基本方法是通过相应的探头把被测信号引到逻辑分析仪,

8 高速存储总线性能分析平台内存总线的可靠性和效率对于 AI 平台至关重要由于 DDR 的总线宽度很宽, 即使一个 16 位的数据总线加上地址时钟控制信号等也有 30 多根线, 更宽位数的总线甚至会用到上百根线, 为了能够对这么多根线上的数据进行同时捕获以进行协议分析, 最适合的工具就是逻辑分析仪 DDR 的协议测试的基本方法是通过相应的探头把被测信号引到逻辑分析仪, 逻辑分析仪里再运行解码软件进行协议验证和分析由于 DDR4 的数据速率更是会达到 3.2GT/s 以上, 所以对分析仪的要求也很高对于 DDR3/4 的协议测试, 可以采用 Keysight 的高速逻辑分析模块 U4164 加相应机箱的配置方式 U4164 在全通道模式下可以支持高达 2.5GHz 的时钟速率, 或者在双采样模式下支持 4Gbps 的数据速率, 这个指标比目前业内最高水平高出 50% 以上 DDR4 的主流数据速率在 2666Mbps 或 3200Mbps, 可见 U4164 为支持 DDR4 的最高速率甚至 DDR5 的部分标准都留下了充分的裕量下图是 U4164 逻辑分析仪及使用的 DDR 测试探头除了相应的硬件以外, 要进行 DDR 的协议分析, 还需要相应的解码软件, 因为仅仅捕获数据的原始逻辑状态对于读写的数据内容分析还是不太直观为此,Keysight 提供了两种软件用于相关测试, 一种是解码软件, 另一种是协议一致性测试软件解码软件可以用于把 DDR 总线上的数据进行协议解码, 主要用于总线的协议分析和调试下图是对 DDR 总线解码的一个例子

9 如果用户需要快速简单地判断总线上是否有明显的协议违规, 还可以使用协议检查工具这个软件可以对逻辑分析仪捕获的数据进行分析和统计, 并快速检查总线上是否有协议错误

10 四测试方案总结综上所述, 高性能 AI 芯片对于体系结构内存带宽互联带宽都有完全不同于传统芯片的极端要求, 只有从内到外进行细致可靠的设计和测试, 才能够发挥出期望的性能, 为人工智能时代的到来提供充足的计算能力下图是 Keysight 公司针对 AI Big Data Cloud 的综合解决方案

安捷伦开放实验室测试技术应用报告（七）

安捷伦开放实验室测试技术应用报告（七）信号完整性分析平台孙灯亮 Agilent AEO 众所周知, 当今世界数字技术飞速发展, 无论是一位从事有限通信系统, 计算机系统, 雷达和卫星通信系统, 或是高速半导体集成电路设计, 高速光电收发模块, 高速信号处理, 高速互连器件 ( 诸如高速接插件, 高速数字传输电缆 ) 等领域的研发及测试工程师都会面临着一个共同的挑战 Signal Integrity ( SI) 信号完整性 10 年前我们所提到的数字产品,