Zyphra 发布 ZYFA 加速 AMD MI355X
← 返回今日版面来源
1 条Zyphra 发布了 ZYFA，为 AMD Instinct MI355X 提供了 FP8 和 BF16 预填充注意力内核。在实际模型激活中，其 FP8 内核比 AMD 的 AITER 快 1.16-1.76 倍，误差率降低了 62-78%。
Zyphra 发布了 ZYFA，为 AMD Instinct MI355X 提供了 FP8 和 BF16 预填充注意力内核。在实际模型激活中，其 FP8 内核比 AMD 的 AITER 快 1.16-1.76 倍，误差率降低了 62-78%。