CANN/ops-transformer BlockSparseAttention测试套件

BlockSparseAttention 测试套件【免费下载链接】ops-transformer本项目是CANN提供的transformer类大模型算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-transformer概述本目录包含BlockSparseAttention算子的完整测试套件。测试用例1. TND格式测试基础TND格式测试: 验证标准TND [T,N,D]格式的正确性配置: batch1, qSeq256, kvSeq512, heads82. 不同blockShape配置测试小块测试 (32x32): 验证小块稀疏模式大块测试 (128x128): 验证大块稀疏模式非对称块测试 (64x128): 验证非对称块配置3. 边界条件测试非对齐序列长度: qSeq250, kvSeq500 (不能被64整除)小序列长度: qSeq64, kvSeq128 (极小序列)单头配置: numHeads1 (边界情况)多batch: batch2 (多batch处理)4. 稀疏度测试高稀疏度: sparsity0.1 (10%极稀疏)低稀疏度: sparsity0.8 (80%接近密集)编译和运行# 编译测试 cd /path/to/ops-transformer-dev bash build.sh --socAscend910B3 # 运行测试 ./test_rain_fusion_attention测试输出测试会输出每个用例的执行结果--- Test: Basic TND Format --- Config: batch1, qSeq256, kvSeq512, heads8, blockShape[64,64] Result: PASS Test Summary Total tests: 10 Passed: 10 (100%) Failed: 0 Skipped: 0 添加新测试在test_rain_fusion_attention.cpp的tests向量中添加新的TestConfig:tests.push_back({ batch, // batch size qSeqlen, // Q sequence length kvSeqlen, // KV sequence length numHeads, // number of heads numKvHeads, // number of KV heads headDim, // head dimension blockShapeX, // block shape X blockShapeY, // block shape Y sparsity, // sparsity ratio Test Name // test name });注意事项测试需要在有昇腾设备的环境中运行确保CANN环境已正确配置测试使用固定随机种子以保证结果可复现当前仅支持TND格式BNSD格式测试会被跳过【免费下载链接】ops-transformer本项目是CANN提供的transformer类大模型算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-transformer创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考