百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

C 配置文件存储 各种序列化算法性能比较

bigegpt 2024-08-07 17:47 6 浏览

本文比较多个方式进行配置文件的存储,对比各个不同算法的读写性能。

在应用软件启动的时候,需要读取配置文件,但是启动的性能很重要,所以需要有一个很快的读取配置文件的方法。

如果你不想看过程,那么请看拖动滚动条

本文将会比较三个世界上最好的序列化算法,一个是 json 、一个是 ProtoBuf 、一个是 wire

原来我的软件在启动的时候是需要读取很多个文件,因为每个模块的配置都不同,所有模块的配置都是模块自己查找配置文件读取,然而大家都知道,在机械硬盘,随机读取文件的性能很差。现在虽然很多用户都是使用固态硬盘,但是对于启动性能优化,还是要尽量减少在软件启动过程的读取文件。

我询问了奎爷,他是一位强大的程序员,他告诉我,谷歌浏览器把很多零碎的文件,如历史记录和密码都压缩为一个文件,这样的启动时候,顺序读取性能很快,所以浏览器才可以快速启动。

于是我就开始了准备把所有的模块的配置文件合为一个,在合并的时候需要做序列化,因为存在很多模块都是使用自己实现的方式进行序列化。

下面就是我进行对比各个算法的性能。

需要注意,在软件启动的时候,还需要计算 dll 加载的性能,也就是如果有一个dll可以提高序列化性能,但是这个 dll 加载性能很差,也是不能使用这个dll的。

定义

先定义一个简单的类,这个类用来存放数据,只有 key-value 的数据

 [ProtoContract]
 [Serializable]
 public class Foo
 {
 [ProtoMember(1)]
 public Dictionary<string, string> CurmobeKallbu { set; get; }
 }
1
2
3
4
5
6
7

在启动之前就需要读取这个文件作为配置,所以需要找到一个很快的方法从文件读取,然后反序列化。

为了方便序列化,我写了一个方法Foo.BegaymouniWaloujijou用来创建 1000 个随机的 key-value 为数据。因为代码很多,我就不写了,下面就是函数的定义,需要大家写入随机的值

 public static Foo BegaymouniWaloujijou()
 {
 return new Foo()
 {
 CurmobeKallbu = new Dictionary<string, string>()
 {
 // 这里写入随机的值
 }
 };
 }
1
2
3
4
5
6
7
8
9
10

json

首先是使用最有名的 json 来进行序列化,安装 Nuget 第一个,点击管理nuget,然后点击浏览,现在看到的第一个是不是 json 库?如果不是,那么说明本文已经过期

在看本文的时候,如果要运行本文的代码,需要先在自己的 E 盘创建一个叫回收站的文件夹。因为我在代码会对这个文件夹写入。

 var fileInfo = new FileInfo(@"E:\回收站\xx5");
 if (!fileInfo.Exists)
 {
 var foo = Foo.BegaymouniWaloujijou();
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 using (var stream = new StreamWriter(fileInfo.OpenWrite()))
 {
 var str = JsonConvert.SerializeObject(foo, Formatting.Indented);
 stream.Write(str);
 }
 stopwatch.Stop();
 Console.WriteLine("写入" + stopwatch.ElapsedMilliseconds);
 }
 else
 {
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenText();
 using (stream)
 {
 var foo = JsonConvert.DeserializeObject<Foo>(stream.ReadToEnd());
 }
 stopwatch.Stop();
 Console.WriteLine("读取时间" + stopwatch.ElapsedMilliseconds);
 fileInfo.Delete();
 }
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34

上面的代码很简单,就是使用这个方式保存

那么性能怎样?请看下面

 读取 写入
 170 188
 161 150
 191 168
 166 164
 230 156
1
2
3
4
5
6

数据的单位是毫秒,平均时间是读取 183.6 毫秒,写入165.2毫秒

ProtoBuf

这是 谷歌的一个库,我安装了 protobuf-net ,然后进行序列化

 var fileInfo = new FileInfo(@"E:\回收站\xx2");
 if (!fileInfo.Exists)
 {
 var foo = Foo.BegaymouniWaloujijou();
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenWrite();
 using (stream)
 {
 Serializer.Serialize(stream, foo);
 }
 stopwatch.Stop();
 Console.WriteLine("写入" + stopwatch.ElapsedMilliseconds);
 }
 else
 {
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenRead();
 using (stream)
 {
 stream.Seek(0, SeekOrigin.Begin);
 var foo = Serializer.Deserialize<Foo>(stream);
 }
 stopwatch.Stop();
 Console.WriteLine("读取时间" + stopwatch.ElapsedMilliseconds);
 fileInfo.Delete();
 }
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36

我尝试在 ssd 和 机械硬盘读写,比较两个的性能

下面是在 ssd 的读写性能,平均时间是读取 91.8 毫秒,写入 119.4 毫秒

 读取 写入
 90 108
 84 115
 93 142
 80 109
 112 123
1
2
3
4
5
6

我尝试在机械硬盘读写,平均时间是读取104.4毫秒,写入140.2毫秒

 读取 写入
 95 127
 115 163
 107 168
 98 128
 107 115
1
2
3
4
5
6

wire

这是传说中最快的序列化库,我安装了 Wire 然后使用下面的代码,运行 5 次计算读写时间

 var fileInfo = new FileInfo(@"E:\回收站\xx3");
 if (!fileInfo.Exists)
 {
 var foo = Foo.BegaymouniWaloujijou();
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenWrite();
 using (stream)
 {
 var serializer = new Wire.Serializer();
 serializer.Serialize(foo, stream);
 }
 stopwatch.Stop();
 Console.WriteLine("写入" + stopwatch.ElapsedMilliseconds);
 }
 else
 {
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenRead();
 using (stream)
 {
 var serializer = new Wire.Serializer();
 var foo = serializer.Deserialize<Foo>(stream);
 }
 stopwatch.Stop();
 Console.WriteLine("读取时间" + stopwatch.ElapsedMilliseconds);
 fileInfo.Delete();
 }
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38

虽然小伙伴说他是最快的,但是在我的设备,平均读取125.8毫秒,写入101.2毫秒

 读取 写入
 109 104
 106 94
 111 92
 190 90
 113 126
1
2
3
4
5
6

自己写的

最后我尝试自己写了简单的序列化,因为存放的信息是key-value,我可以控制包含的字符串都是不带换行,也就是我可以一行放 value 一行放关键字。

 var fileInfo = new FileInfo(@"E:\回收站\xx7");
 if (!fileInfo.Exists)
 {
 var foo = Foo.BegaymouniWaloujijou();
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 using (var stream = new StreamWriter(fileInfo.OpenWrite()))
 {
 foreach (var temp in foo.CurmobeKallbu)
 {
 stream.WriteLine(temp.Key);
 stream.WriteLine(temp.Value);
 }
 }
 stopwatch.Stop();
 Console.WriteLine("写入" + stopwatch.ElapsedMilliseconds);
 }
 else
 {
 var stopwatch = new Stopwatch();
 stopwatch.Start();
 var stream = fileInfo.OpenText();
 using (stream)
 {
 var str = stream.ReadToEnd().Split('\n');
 var foo = new Foo();
 foo.CurmobeKallbu = new Dictionary<string, string>(str.Length / 2);
 string key = null;
 foreach (var temp in str)
 {
 if (key == null)
 {
 key = temp;
 }
 else
 {
 foo.CurmobeKallbu.Add(key, temp);
 key = null;
 }
 }
 }
 stopwatch.Stop();
 Console.WriteLine("读取时间" + stopwatch.ElapsedMilliseconds);
 fileInfo.Delete();
 }
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51

我发现在 ssd 和在机械硬盘读写性能几乎没有相差,有时候相同程序在 ssd 运行的时间比在机械硬盘多。在我测试了自己写的程序才知道,最多的时间在序列化,读取文件的时间反而可以被忽略。使用自己写的序列化读取1毫秒,写入7.2毫秒,所以这么简单的配置文件还是自己做序列化比较快。

 读取 写入
 1 6
 1 8
 1 8
 1 5
 1 9
1
2
3
4
5
6

建议

在软件启动的时候,还有一个读取文件是加载库,如果我使用了第三方的 dll ,那么在启动的时候我就需要加载这个 dll ,但是我读取的配置文件只有不到 100 k 但是我加载的几个库都是很大。加载库的时间已经足够我自己写的序列化读取完成,需要知道,在启动程序的时候不是把所有程序的库都加载,只有在用到的时候才去读取库,读取库也是需要时间,所以程序启动的时候尽量不要引用不相关的库。

所以在启动的过程如果需要读取配置文件,还是使用自己写序列化,而且要求自己写的配置文件很稳定,不要在启动的时候出现异常。

自己写配置文件可以在一个线程进行读取,然后把整个程序所有在启动过程使用配置文件的地方都删除,只有软件启动的过程读取的文件只有很少的几个,最好是一个,这样才能保证软件启动的性能。

代码:C# 配置文件存储 各种序列化算法性能比较 程序1.1-CSDN下载

如果没有积分需要代码请联系我

相关推荐

pyproject.toml到底是什么东西?(py trim)

最近,在Twitter上有一个Python项目的维护者,他的项目因为构建失败而出现了一些bug(这个特别的项目不提供wheel,只提供sdist)。最终,发现这个bug是由于这个项目使用了一个pypr...

BDP服务平台SDK for Python3发布(bdp数据平台)

下载地址https://github.com/imysm/opends-sdk-python3.git说明最近在开发和bdp平台有关的项目,用到了bdp的python的sdk,但是官方是基于p...

Python-for-Android (p4a):(python-for-android p4a windows)

一、Python-for-Android(p4a)简介Python-for-Android(p4a),一个强大的开发工具,能够将你的Python应用程序打包成可在Android设备上运行...

Qt for Python—Qt Designer 概览

前言本系列第三篇文章(QtforPython学习笔记—应用程序初探)、第四篇文章(QtforPython学习笔记—应用程序再探)中均是使用纯代码方式来开发PySide6GUI应用程序...

Python:判断质数(jmu-python-判断质数)

#Python:判断质数defisPrime(n):foriinrange(2,n):ifn%i==0:return0re...

为什么那么多人讨厌Python(为什么python这么难)

Python那么棒,为什么那么多人讨厌它呢?我整理了一下,主要有这些原因:用缩进替代大括号许多人抱怨Python完全依赖于缩进来创建代码块,代码多一点就很难看到函数在哪里结束,那么你就需要把一个函数拆...

一文了解 Python 中带有 else 的循环语句 for-else/while-else

在本文中,我们将向您介绍如何在python中使用带有else的for/while循环语句。可能许多人对循环和else一起使用感到困惑,因为在if-else选择结构中else正常...

python的numpy向量化语句为什么会比for快?

我们先来看看,python之类语言的for循环,和其它语言相比,额外付出了什么。我们知道,python是解释执行的。举例来说,执行x=1234+5678,对编译型语言,是从内存读入两个shor...

开眼界!Python遍历文件可以这样做

来源:【公众号】Python技术Python对于文件夹或者文件的遍历一般有两种操作方法,一种是至二级利用其封装好的walk方法操作:import osfor root,d...

告别简单format()!Python Formatter类让你的代码更专业

Python中Formatter类是string模块中的一个重要类,它实现了Python字符串格式化的底层机制,允许开发者创建自定义的格式化行为。通过深入理解Formatter类的工作原理和使用方法,...

python学习——038如何将for循环改写成列表推导式

在Python里,列表推导式是一种能够简洁生成列表的表达式,可用于替换普通的for循环。下面是列表推导式的基本语法和常见应用场景。基本语法result=[]foriteminite...

详谈for循环和while循环的区别(for循环语句与while循环语句有什么区别)

初九,潜龙勿用在刚开始使用python循环语句时,经常会遇到for循环和while循环的混用,不清楚该如何选择;今天就对这2个循环语句做深入的分析,让大家更好地了解这2个循环语句以方便后续学习的加深。...

Python编程基础:循环结构for和while

Python中的循环结构包括两个,一是遍历循环(for循环),一是条件循环(while循环)。遍历循环遍历循环(for循环)会挨个访问序列或可迭代对象的元素,并执行里面的代码块。foriinra...

学习编程第154天 python编程 for循环输出菱形图

今天学习的是刘金玉老师零基础Python教程第38期,主要内容是python编程for循环输出菱形※。(一)利用for循环输出菱形形状的*号图形1.思路:将菱形分解为上下两个部分三角形图案,分别利用...

python 10个堪称完美的for循环实践

在Python中,for循环的高效使用能显著提升代码性能和可读性。以下是10个堪称完美的for循环实践,涵盖数据处理、算法优化和Pythonic编程风格:1.遍历列表同时获取索引(enumerate...