feat(处理器): 增强变量处理链并实现批量更新

- 新增 UpdateDbVariableProcessor 处理器,通过队列和定时器实现数据库的批量更新,以降低负载。
  - 重构 ValueConvertProcessor 处理器,使其能够解析 ConversionFormula 公式,计算出最终的 DisplayValue。
  - 扩展 IVariableRepository 仓储接口,添加 UpdateBatchAsync 方法,并使用SqlSugar实现高效的批量更新。
  - 优化 VariableContext 模型,将 NewValue 类型统一为 string,简化了数据流并提升了类型安全。
This commit is contained in:
2025-10-02 17:35:35 +08:00
parent 2a98b40bfe
commit cdfb906112
8 changed files with 169 additions and 50 deletions

View File

@@ -1,29 +1,103 @@
using System.Threading.Tasks;
using System.Collections.Concurrent;
using AutoMapper;
using DMS.Application.DTOs;
using DMS.Application.Interfaces;
using DMS.Application.Models;
using DMS.Core.Interfaces;
using DMS.Core.Models;
using Microsoft.Extensions.Logging;
namespace DMS.Application.Services.Processors;
public class UpdateDbVariableProcessor : IVariableProcessor
/// <summary>
/// 负责将变量的当前值批量更新到数据库。
/// </summary>
public class UpdateDbVariableProcessor : IVariableProcessor, IDisposable
{
private readonly ILogger<UpdateDbVariableProcessor> _logger;
private const int BATCH_SIZE = 50; // 批量更新的阈值
private const int TIMER_INTERVAL_MS = 30 * 1000; // 30秒
public UpdateDbVariableProcessor(ILogger<UpdateDbVariableProcessor> logger)
private readonly ConcurrentQueue<VariableDto> _queue = new();
private readonly Timer _timer;
private readonly IRepositoryManager _repositoryManager;
private readonly ILogger<UpdateDbVariableProcessor> _logger;
private readonly IMapper _mapper;
public UpdateDbVariableProcessor(IRepositoryManager repositoryManager, ILogger<UpdateDbVariableProcessor> logger, IMapper mapper)
{
_repositoryManager = repositoryManager;
_logger = logger;
_mapper = mapper;
_timer = new Timer(async _ => await FlushQueueToDatabase(), null, Timeout.Infinite, Timeout.Infinite);
_timer.Change(TIMER_INTERVAL_MS, TIMER_INTERVAL_MS); // 启动定时器
_logger.LogInformation("UpdateDbVariableProcessor 初始化,批量大小 {BatchSize},定时器间隔 {TimerInterval}ms", BATCH_SIZE, TIMER_INTERVAL_MS);
}
public async Task ProcessAsync(VariableContext context)
{
try
// 检查新值是否有效,以及是否与旧值不同
if (context.NewValue == null || Equals(context.Data.DataValue, context.NewValue?.ToString()))
{
return; // 值未变或新值无效,跳过
}
catch (Exception ex)
// 用新值更新上下文中的数据,确保处理链的后续环节能看到最新值
context.Data.DataValue = context.NewValue?.ToString();
_queue.Enqueue(context.Data);
if (_queue.Count >= BATCH_SIZE)
{
_logger.LogError(ex, $"更新数据库变量 {context.Data.Name} 失败: {ex.Message}");
_logger.LogInformation("达到批量大小 ({BatchSize}),正在刷新队列到数据库", BATCH_SIZE);
await FlushQueueToDatabase();
}
}
private async Task FlushQueueToDatabase()
{
// 停止定时器,防止在写入过程中再次触发
_timer.Change(Timeout.Infinite, Timeout.Infinite);
var itemsToProcess = new List<VariableDto>();
while (_queue.TryDequeue(out var item))
{
itemsToProcess.Add(item);
}
if (itemsToProcess.Any())
{
// 去重:对于同一个变量,我们只关心其在本次批次中的最后一次更新值
var uniqueItems = itemsToProcess
.GroupBy(v => v.Id)
.Select(g => g.Last())
.ToList();
try
{
// **依赖于仓储层实现真正的批量更新**
var variableModels = _mapper.Map<IEnumerable<Variable>>(uniqueItems);
await _repositoryManager.Variables.UpdateBatchAsync(variableModels);
_logger.LogInformation("成功批量更新 {Count} 条变量记录到数据库", uniqueItems.Count);
}
catch (Exception ex)
{
_logger.LogError(ex, "批量更新 {Count} 条变量记录时发生错误: {ErrorMessage}", uniqueItems.Count, ex.Message);
// 错误处理策略:可以考虑将未成功的项重新入队,或记录到死信队列
}
}
// 重新启动定时器
_timer.Change(TIMER_INTERVAL_MS, TIMER_INTERVAL_MS);
}
public void Dispose()
{
_logger.LogInformation("正在释放 UpdateDbVariableProcessor刷新队列中剩余的 {Count} 个项目", _queue.Count);
_timer?.Dispose();
// 在 Dispose 时,尝试将剩余数据写入数据库
FlushQueueToDatabase().Wait();
_logger.LogInformation("UpdateDbVariableProcessor 已释放");
}
}