突破Excel百万数据导出瓶颈：全链路优化实战指南
当前位置：点晴教程→知识管理交流
→『 技术文档交流 』
在日常工作中，Excel数据导出是一个常见的需求。 然而，当数据量较大时，性能和内存问题往往会成为限制导出效率的瓶颈。 当用户点击"导出"按钮时，后台系统往往会陷入三重困境：
我们结合 EPPlus、MiniExcel 和 NPOI 的 C# 高性能 Excel 导出方案对比及实现研究一下怎么提高导出效率。 一、技术方案核心对比
二、各方案选型建议
三、性能对比数据
四、核心代码实现1. MiniExcel 流式写入（推荐方案）// 配置优化参数 var config = new OpenXmlConfiguration { EnableSharedStrings = false, // 关闭共享字符串表 AutoFilterMode = AutoFilterMode.None, // 禁用自动筛选 FillMergedCells = false // 不处理合并单元格 }; // 分页流式写入 await MiniExcel.SaveAsAsync("output.xlsx", GetDataChunks(), configuration: config); IEnumerable<IDictionary<string, object>> GetDataChunks() { var pageSize = 50000; for (int page = 0; ; page++) { var data = QueryDatabase(page * pageSize, pageSize); if (!data.Any()) yield break; foreach (var item in data) { yield return new Dictionary<string, object> { ["ID"] = item.Id, ["Name"] = item.Name, ["CreateTime"] = item.CreateTime.ToString("yyyy-MM-dd") }; } } } 优化点：
2. EPPlus 混合写入方案using (var package = new ExcelPackage()) { var sheet = package.Workbook.Worksheets.Add("Data"); int row = 1; // 批量写入头信息 sheet.Cells["A1:C1"].LoadFromArrays(new[] { new[] { "ID", "Name", "CreateTime" } }); // 分块写入（每50000行保存一次） foreach (var chunk in GetDataChunks(50000)) { sheet.Cells[row+1, 1].LoadFromCollection(chunk); row += chunk.Count; if (row % 50000 == 0) { package.Save(); // 分段保存 sheet.Cells.ClearFormulas(); } } package.SaveAs(new FileInfo("output_epplus.xlsx")); } 3. 性能对比测试代码[BenchmarkDotNet.Attributes.SimpleJob] public class ExcelBenchmarks { private List<DataModel> _testData = GenerateTestData(1_000_000); [Benchmark] public void MiniExcelExport() => MiniExcel.SaveAs("mini.xlsx", _testData); [Benchmark] public void EPPlusExport() { using var pkg = new ExcelPackage(); var sheet = pkg.Workbook.Worksheets.Add("Data"); sheet.Cells.LoadFromCollection(_testData); pkg.SaveAs("epplus.xlsx"); } [Benchmark] public void NPOIExport() { var workbook = new XSSFWorkbook(); var sheet = workbook.CreateSheet("Data"); for (int i = 0; i < _testData.Count; i++) { var row = sheet.CreateRow(i); row.CreateCell(0).SetCellValue(_testData[i].Id); row.CreateCell(1).SetCellValue(_testData[i].Name); } using var fs = new FileStream("npoi.xlsx", FileMode.Create); workbook.Write(fs); } } 五、混合方案实现1. EPPlus + MiniExcel 组合方案// 先用 EPPlus 创建带样式的模板 using (var pkg = new ExcelPackage(new FileInfo("template.xlsx"))) { var sheet = pkg.Workbook.Worksheets[0]; sheet.Cells["A1"].Value = "动态报表"; pkg.Save(); } // 用 MiniExcel 填充大数据量 var data = GetBigData(); MiniExcel.SaveAsByTemplate("output.xlsx", "template.xlsx", data); 2. 分片异步导出方案public async Task ExportShardedDataAsync() { var totalRecords = 5_000_000; var shardSize = 100_000; var shards = totalRecords / shardSize; var tasks = new List<Task>(); for (int i = 0; i < shards; i++) { var start = i * shardSize; tasks.Add(Task.Run(async () => { using var stream = new FileStream($"shard_{i}.xlsx", FileMode.Create); await MiniExcel.SaveAsAsync(stream, QueryData(start, shardSize)); })); } await Task.WhenAll(tasks); MergeShardFiles(shards); } private void MergeShardFiles(int shardCount) { using var merger = new ExcelPackage(); var mergedSheet = merger.Workbook.Worksheets.Add("Data"); int row = 1; for (int i = 0; i < shardCount; i++) { var shardData = MiniExcel.Query($"shard_{i}.xlsx"); mergedSheet.Cells[row, 1].LoadFromDictionaries(shardData); row += shardData.Count(); } merger.SaveAs(new FileInfo("final.xlsx")); } 六、高级优化策略1. 内存管理配置// Program.cs 全局配置 AppContext.SetSwitch("System.Buffers.ArrayPool.UseShared", true); // 启用共享数组池 // 运行时配置（runtimeconfig.template.json） { "configProperties": { "System.GC.HeapHardLimit": "0x100000000", // 4GB 内存限制 "System.GC.HeapHardLimitPercent": "70", "System.GC.Server": true } } 2. 数据库优化// Dapper 分页优化 public IEnumerable<DataModel> GetPagedData(long checkpoint, int size) { return _conn.Query<DataModel>( @"SELECT Id, Name, CreateTime FROM BigTable WHERE Id > @Checkpoint ORDER BY Id OFFSET 0 ROWS FETCH NEXT @Size ROWS ONLY OPTION (RECOMPILE)", // 强制重新编译执行计划 new { checkpoint, size }); } 3. 异常处理增强try { await ExportDataAsync(); } catch (MiniExcelException ex) when (ex.ErrorCode == "DISK_FULL") { await CleanTempFilesAsync(); await RetryExportAsync(); } catch (SqlException ex) when (ex.Number == 1205) // 死锁重试 { await Task.Delay(1000); await RetryExportAsync(); } finally { _semaphore.Release(); // 释放信号量 } 七、最佳实践总结1、数据分页策略
// 优化分页查询 var lastId = 0; while (true) { var data = Query($"SELECT * FROM Table WHERE Id > {lastId} ORDER BY Id FETCH NEXT 50000 ROWS ONLY"); if (!data.Any()) break; lastId = data.Last().Id; } 2、内存控制三位一体
3、异常处理金字塔 try { // 核心逻辑 } catch (IOException ex) when (ex.Message.Contains("磁盘空间")) { // 磁盘异常处理 } catch (SqlException ex) when (ex.Number == 1205) { // 数据库死锁处理 } catch (Exception ex) { // 通用异常处理 }
八、避坑指南常见陷阱EPPlus的内存泄漏 // 错误示例：未释放ExcelPackage var pkg = new ExcelPackage(); // 必须包裹在using中 pkg.SaveAs("leak.xlsx"); // 正确用法 using (var pkg = new ExcelPackage()) { // 操作代码 } NPOI的文件锁定 // 错误示例：未正确释放资源 var workbook = new XSSFWorkbook(); // 正确用法 using (var fs = new FileStream("data.xlsx", FileMode.Create)) { workbook.Write(fs); } 异常处理最佳实践try { await ExportAsync(); } catch (MiniExcelException ex) when (ex.ErrorCode == "DISK_FULL") { _logger.LogError("磁盘空间不足: {Message}", ex.Message); await CleanTempFilesAsync(); throw new UserFriendlyException("导出失败，请联系管理员"); } catch (DbException ex) when (ex.IsTransient) { _logger.LogWarning("数据库暂时性错误，尝试重试"); await Task.Delay(1000); await RetryExportAsync(); } finally { _exportSemaphore.Release(); } 九、典型场景建议
通过合理的方案选择和优化配置，可实现：
转自https://www.cnblogs.com/xiongze520/p/18866690 该文章在 2025/5/9 9:06:12 编辑过 |
关键字查询
相关文章
正在查询... 
|
400 186 1886
