C# 内存映射文件持久化 C#如何使用MemoryMappedFile实现一个简单的持久化队列

5次阅读

不能。memorymappedfile仅提供内存映射能力,需自行实现环形缓冲区、偏移管理、并发同步及结构化消息布局,否则易致数据覆盖、错位或撕裂。

C# 内存映射文件持久化 C#如何使用MemoryMappedFile实现一个简单的持久化队列

MemoryMappedFile 能不能直接当队列用

不能。它只是把一段磁盘文件映射成内存视图,本身不提供入队/出队逻辑、游标管理、并发控制或结构化数据布局——你得自己实现环形缓冲区、读写偏移、长度校验这些。直接拿 MemoryMappedFile 当队列,大概率遇到数据覆盖、读写错位、线程撕裂等问题。

常见错误现象:System.IO.IOException: The process cannot access the file because it is being used by another process(多个进程同时 CreateOrOpen 但没设好 MemoryMappedFileRights);或读到全零、乱码、截断数据(没维护好 readOffsetwriteOffset)。

  • 必须手动划分文件区域:头部存元数据(如 readOffsetwriteOffsetcapacity),后面才是数据槽位
  • 所有偏移操作必须用 Interlockedlock 保护,尤其跨进程时推荐用命名 EventWaitHandle 同步
  • 每次写入前检查剩余空间:若 (writeOffset + itemSize) % capacity ,说明已满(环形判断)

如何组织消息结构并避免序列化开销

别用 BinaryFormatterjson 序列化——它们动态分配内存,违背“持久化+零拷贝”初衷。正确做法是把消息定义为 Struct,用 Marshal.PtrToStructure / Marshal.StructureToPtr 直接读写内存视图。

使用场景:日志采集、传感器数据缓存、IPC 高频小消息(≤4KB)。超过 8KB 建议分块或换方案,否则 MemoryMappedViewAccessor 映射成本上升。

  • struct 必须加 [StructLayout(LayoutKind.Sequential, Pack = 1)],禁用字段对齐优化
  • 字符串字段不能直接放 struct 里,改用固定长度 fixed byte message[256],写入前用 Encoding.UTF8.GetBytes() 拷入
  • 写入时先 view.Write(offset, ref item),再原子更新 writeOffset;读取同理,且要先检查该位置是否有效(比如首字节非 0xFF 才认为已写入)

跨进程访问时权限与生命周期怎么管

windows 下默认创建的 MemoryMappedFile 是进程内私有对象。要跨进程,必须显式指定安全描述符和名称,并统一使用 MemoryMappedFileRights.ReadWrite 权限;linux/macos(.NET 6+)需用 MemoryMappedFileOptions.DelayAllocatePages 避免 mmap 失败。

容易踩的坑:CreateOrOpen 成功不代表能读写——另一进程可能只开了 Read 权限;或者进程崩溃后没调 Dispose(),导致句柄泄漏,下次 CreateOrOpenUnauthorizedAccessException

  • 始终用带名称的构造: MemoryMappedFile.CreateOrOpen("MyQueue", fileSize, MemoryMappedFileAccess.ReadWrite)
  • 配合 EventWaitHandle 做信号同步:比如用 "MyQueue_WriteReady" 通知消费者有新数据
  • 不要依赖 using 自动释放——进程意外退出时资源不会自动清理,建议在程序启动时先尝试 Open,失败再 Create,并记录 PID 到共享头区做存活检测

为什么不用 ConcurrentQueue + 文件备份替代

因为 ConcurrentQueue<t></t> 完全在托管堆上,重启即丢;而内存映射文件本质是“把磁盘当内存用”,只要文件没删,数据就一直存在。但代价是:你得处理字节序、大小端、结构变更兼容性(比如 v2 版本 struct 多了一个字段,v1 进程读会越界)。

性能影响明显的地方:频繁小消息(如每毫秒 100 条)下,MemoryMappedViewAccessorWrite() 调用比直接指针操作慢约 2–3 倍;这时应批量写入或改用 Span<byte>.GetPinnableReference()</byte> + unsafe 操作视图指针。

  • 版本升级必须加 Magic number 和 Version 字段到头部,读取时先校验再解析
  • 不要假设文件大小永远够用——扩容需要重新 CreateOrOpen 并迁移旧数据,期间需暂停写入
  • 测试时务必关掉杀毒软件,某些实时扫描会锁住映射文件,导致 IOException

真正麻烦的是结构演进和跨平台路径差异——Windows 上文件名区分大小写但映射名不区分,Linux 上两者都区分。一个叫 "myqueue" 的映射,在两边可能被当成两个不同对象。

text=ZqhQzanResources