0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Python中三个json组件的安装方式

马哥Linux运维 来源:博客 作者:隔叶黄莺 2021-09-23 14:35 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Python 使用用 json.dumps(data) 时突然发现特别慢,data 本身不大,但是一个包含很多元素的列表,所以促使本人寻找一个替代的 JSON 处理库。大概对比了一个 ujson(UtltraJSON), python-rapidjson(RapidJSON) 和 Python 自带的 json 库。还有一个 simplejson 是为兼容 Python 2.6 以前用的(json 是 Python 2.6 新加入的 API),性能有些差。基本上姜还是老的辣,想要收获更好的性能,还得仰赖传统的 C/C++ 语言,ujson 是用纯 C 写的,RapidJSON 是 C++ 写的,后者还是十美分的开源产品。json, ujson, rapidjson 三者 loads() 方法的性能差别不太明显,但 dumps() 大对象时 Python 自带的 json 库就要考验用户的耐心了。注:最开始本来认定了 ujson 为最佳选择, 所以先从 usjon 和 rapidjson 切入的,后来写作本文的过程中,从 usjon 的自我介绍中发现了 Rust 写的 orjson 很显眼,才加入了 orjson 的测试,看来 orjson 更值得拥有。以上三个 json 组件的安装方式分别为

pip install python-rapidjson

$ pip install simplejson

自己测试了一个 ujson 和 rapidjson 与 Python json 库的 dumps() 的性能,simpejson 不太考虑了。测试代码如下

# test.py

from time import timeimport sysimport string

num = int(sys.argv[1])lib = sys.argv[2]

items = []for i in range(num): items.append({c:c for c in string.ascii_letters})start = time()if lib == ‘ujson’: import ujson ujson.dumps(items)elif lib == ‘rapidjson’: import rapidjson rapidjson.dumps(items)else: import json json.dumps(items)

print(time() - start)

执行 python 1000|10000|100000|1000000 json|ujson|rapidjson, 试结果统计如下(数字为不同情况下的耗时):

31709712-0fb2-11ec-8fb8-12bb97331649.png

基本上测试的性能和 Benchmark of Python JSON libraries 中的是一致的。从原文中截取了两张图如下:

317e661c-0fb2-11ec-8fb8-12bb97331649.png

在 UltraJSON 的 Github 项目页面中也有对比 ujson, nujson, orjson, simplejson, json 的 Benchmarks。其中列出的 orjson(pip install orjson) 和 nujson(pip install nujson, Fork 了 UltraJSON 来支持 Numpy 序列化的) 性能表现上不错,orjson 表现上比 ujson 还更为卓越。

看到了 orjson 后,赶紧做个对比测试,在上面的 test.py 代码中再加上

elif lib == ‘orjson’: import orjson orjson.dumps(items)

再列出完整的对比数据

319ddc4a-0fb2-11ec-8fb8-12bb97331649.png

继续翻看 orjson 的 Github 主页面 ijl/orjson, 它既非用 C 也不是用 C++ 写的,而是 Rust 语言,真是让我眼前一亮,Rust 程序运行速度真的能与 C/C++ 相媲美的。写到这里我要开始改变当初只认 ujson 的主意了,orjson 或许是更佳的选择, 本文的标题也由最初拟定的 “Python 处理 JSON 必要时我选择 ujson(UltraJSON)” 变成了 “Python 处理 JSON 必要时我选择 ujson 和 orjson”。这也是写博客时,尽可能收集更多的素材多的魅力。

补充一下,orjson 的 dumps() 函数使用略有不同,不再用 indent 参数,并且返回值是 bytes,所以格式化成字符串的写法如下

import orjson

json_str = orjson.dumps(record, option=orjson.OPT_INDENT_2).decode()

另外,在使用 ujson 时碰到的一个 bug 也顺便记录在此,就不立新篇了,反正现在找东西都不太看标题,而是 Google 到其中的内容。ujson 3.0.0 和 3.1.0 版本的 dumps() 的 indent 参数工作不正常,有个未关闭的 ticket ‘indent’ parameter for dumps doesn‘t indent properly in 3.0.0 #415。比如使用 ujson 3.1.0 时的现像是

》》》 import ujson》》》 ujson.dumps({’a‘: 1, ’b‘: 2})’{“a”:1,“b”:2}‘

》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=0)’{“a”:1,“b”:2}‘

》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=1)’{

“a”: 1,

“b”: 2

}‘

》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=2)’{

“a”: 1,

“b”: 2

}‘

》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=8)’{

“a”: 1,

“b”: 2

}‘

indent 大于 1 时都当作 1。

换回到 ujson 2.0.3 版本时没问题

》》》 import ujson》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=2)’{

“a”: 1,

“b”: 2

}‘

》》》 ujson.dumps({’a‘: 1, ’b‘: 2}, indent=8)’{

“a”: 1,

“b”: 2

}‘

在这个问题未解决之前就暂时用 pip install ujson==2.0.3 安装 ujson 2.0.3 吧,但是这个版本无法序列化 datetime 类型。

原文链接:https://yanbin.blog/python-json-choose-ujson-if-necessary/

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • python
    +关注

    关注

    57

    文章

    4857

    浏览量

    89586
  • JSON
    +关注

    关注

    0

    文章

    125

    浏览量

    7703

原文标题:Python 处理 JSON 我选择 ujson 和 orjson

文章出处:【微信号:magedu-Linux,微信公众号:马哥Linux运维】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    未来工业AI发展的三个必然阶段

    与优化 能力的深层革命。 未来十年,工业AI的发展将经历三个清晰的阶段:  智能辅助 → 智能决策 → 自主优化 。这次进化,构成了工业从“人控机器”到“机器共智”的核心路径。 一、第一阶段:智能辅助(AI for Assistance) 时间窗口:
    的头像 发表于 10-27 15:47 236次阅读
    未来工业AI发展的<b class='flag-5'>三个</b>必然阶段

    MA35-RTT如何安装 Python 和 Libusb (Windows) ?

    MA35-RTT:如何安装 Python 和 Libusb (Windows) ?
    发表于 09-03 08:30

    termux如何搭建python游戏

    模拟器,支持通过APT包管理器安装软件。搭建Python游戏开发环境前需完成以下基础配置: 1. 更换国内源 为提升下载速度,需替换Termux默认源为清华源,执行以下命令: ```bash
    发表于 08-29 07:06

    鸿蒙NEXT-鸿蒙老版本迁移最新版本(API19,modelVersion5.1.1)

    摘要:本文介绍鸿蒙(HarmonyOS)最新API19的迁移更新教程。首先需修改三个配置文件(hvigor-config.json5、build-profile.json
    的头像 发表于 06-30 22:15 802次阅读
    鸿蒙NEXT-鸿蒙老版本迁移最新版本(API19,modelVersion5.1.1)

    迅为RK3568开发板编写bundle.json文件

    :led_test\"] - 构建时包含的子组件路径,这里指定了一具体的构建目标。 这个 JSON 配置文件提供了关于如何构建、部署和管理这个名为\"demos\"的组件的详细信息。
    发表于 06-05 15:38

    python入门圣经-高清电子书(建议下载)

    和Pygal 等强大的Python 库和工具介绍,以及列表、字典、if 语句、类、文件与异常、代码测试等内容; 第二部分将理论付诸实践,讲解如何开发三个项目,包括简单的Python 2D 游戏开发如何利用数据
    发表于 04-10 16:53

    ​如何在虚拟环境中使用 Python,提升你的开发体验~

    。RaspberryPiOS预装了Python3。干扰系统Python安装可能会给你的操作系统带来问题。安装
    的头像 发表于 03-25 09:34 629次阅读
    ​如何在虚拟环境中使用 <b class='flag-5'>Python</b>,提升你的开发体验~

    如何检测极管的三个

    可以用万用表来初步确定极管的好坏及类型 (NPN 型还是 PNP 型 ),并辨别出e(发射极)、b(基极)、c(集电极)三个电极。
    发表于 03-08 16:40

    如何区分场效应管mos管三个引脚

    场效应管mos管三个引脚怎么区分
    发表于 03-07 09:20 0次下载

    Linux系统中最重要的三个命令

    Linux剑客是Linux系统中最重要的三个命令,它们以其强大的功能和广泛的应用场景而闻名。这三个工具的组合使用几乎可以完美应对Shell中的数据分析场景,因此被统称为Linux
    的头像 发表于 03-03 10:37 798次阅读

    使用DDS生成三个信号并在Vivado中实现低通滤波器

    本文使用 DDS 生成三个信号,并在 Vivado 中实现低通滤波器。低通滤波器将滤除相关信号。
    的头像 发表于 03-01 14:31 2444次阅读
    使用DDS生成<b class='flag-5'>三个</b>信号并在Vivado中实现低通滤波器

    ADS828的GND引脚有三个,这三个引脚的接地是哪个接数字地,哪个接模拟地?

    在贵公司的这款AD转换芯片ADS828的GND引脚有三个(1、16、26)想咨询一下这三个引脚的接地是哪个接数字地,哪个接模拟地,还是不用考虑这方面;还有就是在输出偏置电压的时候,在为2.5V的时候,是用CM输出端好,还是用REFT和REFB电阻分压好?
    发表于 02-14 08:27

    使用Python实现xgboost教程

    使用Python实现XGBoost模型通常涉及以下几个步骤:数据准备、模型训练、模型评估和模型预测。以下是一详细的教程,指导你如何在Python中使用XGBoost。 1. 安装XG
    的头像 发表于 01-19 11:21 2215次阅读

    永磁同步电机FOC控制策略中三相相电流采样思路分析

    做FOC控制时,需要进行相电流的采样,而采样的方式有很多,比较常见的低成本采样方案是放置三个检流电阻在逆变桥下管下方,也就是我们常说的电阻采样,那么电阻采样的思路是什么呢?大家可以
    发表于 01-17 19:40

    think-cell——使用JSON数据实现自动化(一)

    think-cell 安装目录的子文件夹中的文件中找到。JSON 指定要从模板串联创建的演示文稿。它符合 的架构 。sample.ppttcppttcppttc/ppttc-schema.json
    的头像 发表于 01-02 13:37 729次阅读
    think-cell——使用<b class='flag-5'>JSON</b>数据实现自动化(一)