|
|
51CTO旗下网站
|
|
移动端

如何用Linux命令行工具解析和格式化输出JSON

在这里,我们将使用 Linux 上的命令行工具解析并格式化打印 JSON。它对于在 shell 脚本中处理大型 JSON 数据或在 shell 脚本中处理 JSON 数据非常有用。

作者:Ostechnix来源:Linux中国|2019-08-08 14:47

https://s3.51cto.com/oss/201908/08/2cba27d0c28dd9c7a043b299b972c0dd.png-wh_651x-s_3835267523.png

JSON 是一种轻量级且与语言无关的数据存储格式,易于与大多数编程语言集成,也易于人类理解 —— 当然,如果格式正确的话。JSON 这个词代表 Java Script Object Notation,虽然它以 JavaScript 开头,而且主要用于在服务器和浏览器之间交换数据,但现在正在用于许多领域,包括嵌入式系统。在这里,我们将使用 Linux 上的命令行工具解析并格式化打印 JSON。它对于在 shell 脚本中处理大型 JSON 数据或在 shell 脚本中处理 JSON 数据非常有用。

什么是格式化输出?

JSON 数据的结构更具人性化。但是在大多数情况下,JSON 数据会存储在一行中,甚至没有行结束字符。

显然,这对于手动阅读和编辑不太方便。

这是格式化输出pretty print就很有用。这个该名称不言自明:重新格式化 JSON 文本,使人们读起来更清晰。这被称为 JSON 格式化输出

用 Linux 命令行工具解析和格式化输出 JSON

可以使用命令行文本处理器解析 JSON 数据,例如 awksedgerp。实际上 JSON.awk 是一个来做这个的 awk 脚本。但是,也有一些专用工具可用于同一目的。

  1. jqjshon,shell 下的 JSON 解析器,它们都非常有用。
  2. Shell 脚本,如 JSON.shjsonv.sh,用于在 bash、zsh 或 dash shell 中解析JSON。
  3. JSON.awk,JSON 解析器 awk 脚本。
  4. json.tool 这样的 Python 模块。
  5. undercore-cli,基于 Node.js 和 javascript。

在本教程中,我只关注 jq,这是一个 shell 下的非常强大的 JSON 解析器,具有高级过滤和脚本编程功能。

JSON 格式化输出

JSON 数据可能放在一行上使人难以解读,因此为了使其具有一定的可读性,JSON 格式化输出就可用于此目的的。

示例:来自 jsonip.com 的数据,使用 curlwget 工具获得 JSON 格式的外部 IP 地址,如下所示。

  1. $ wget -cq http://jsonip.com/ -O -

实际数据看起来类似这样:

  1. {"ip":"111.222.333.444","about":"/about","Pro!":"http://getjsonip.com"}

现在使用 jq 格式化输出它:

  1. $ wget -cq http://jsonip.com/ -O - | jq '.'

通过 jq 过滤了该结果之后,它应该看起来类似这样:

  1. {
  2. "ip": "111.222.333.444",
  3. "about": "/about",
  4. "Pro!": "http://getjsonip.com"
  5. }

同样也可以通过 Python json.tool 模块做到。示例如下:

  1. $ cat anything.json | python -m json.tool

这种基于 Python 的解决方案对于大多数用户来说应该没问题,但是如果没有预安装或无法安装 Python 则不行,比如在嵌入式系统上。

然而,json.tool Python 模块具有明显的优势,它是跨平台的。因此,你可以在 Windows、Linux 或 Mac OS 上无缝使用它。

如何用 jq 解析 JSON

首先,你需要安装 jq,它已被大多数 GNU/Linux 发行版选中,并使用各自的软件包安装程序命令进行安装。

在 Arch Linux 上:

  1. $ sudo pacman -S jq

在 Debian、Ubuntu、Linux Mint 上:

  1. $ sudo apt-get install jq

在 Fedora 上:

  1. $ sudo dnf install jq

在 openSUSE 上:

  1. $ sudo zypper install jq

对于其它操作系统或平台参见官方的安装指导

jq 的基本过滤和标识符功能

jq 可以从 STDIN 或文件中读取 JSON 数据。你可以根据情况使用。

单个符号 . 是最基本的过滤器。这些过滤器也称为对象标识符-索引jq 使用单个 . 过滤器基本上相当将输入的 JSON 文件格式化输出。

  • 单引号:不必始终使用单引号。但是如果你在一行中组合几个过滤器,那么你必须使用它们。
  • 双引号:你必须用两个双引号括起任何特殊字符,如 @$,例如 jq .foo.”@bar”
  • 原始数据打印:不管出于任何原因,如果你只需要最终解析的数据(不包含在双引号内),请使用带有 -r 标志的 jq 命令,如下所示:jq -r .foo.bar

解析特定数据

要过滤出 JSON 的特定部分,你需要了解格式化输出的 JSON 文件的数据层次结构。

来自维基百科的 JSON 数据示例:

  1. {
  2. "firstName": "John",
  3. "lastName": "Smith",
  4. "age": 25,
  5. "address": {
  6. "streetAddress": "21 2nd Street",
  7. "city": "New York",
  8. "state": "NY",
  9. "postalCode": "10021"
  10. },
  11. "phoneNumber": [
  12. {
  13. "type": "home",
  14. "number": "212 555-1234"
  15. },
  16. {
  17. "type": "fax",
  18. "number": "646 555-4567"
  19. }
  20. ],
  21. "gender": {
  22. "type": "male"
  23. }
  24. }

我将在本教程中将此 JSON 数据用作示例,将其保存为 sample.json

假设我想从 sample.json 文件中过滤出地址。所以命令应该是这样的:

  1. $ jq .address sample.json

示例输出:

  1. {
  2. "streetAddress": "21 2nd Street",
  3. "city": "New York",
  4. "state": "NY",
  5. "postalCode": "10021"
  6. }

再次,我想要邮政编码,然后我要添加另一个对象标识符-索引,即另一个过滤器。

  1. $ cat sample.json | jq .address.postalCode

另请注意,过滤器区分大小写,并且你必须使用完全相同的字符串来获取有意义的输出,否则就是 null。

从 JSON 数组中解析元素

JSON 数组的元素包含在方括号内,这无疑是非常通用的。

要解析数组中的元素,你必须使用 [] 标识符以及其他对象标识符索引。

在此示例 JSON 数据中,电话号码存储在数组中,要从此数组中获取所有内容,你只需使用括号,像这个示例:

  1. $ jq .phoneNumber[] sample.json

假设你只想要数组的第一个元素,然后使用从 0 开始的数组对象编号,对于第一个项目,使用 [0],对于下一个项目,它应该每步增加 1。

  1. $ jq .phoneNumber[0] sample.json

脚本编程示例

假设我只想要家庭电话,而不是整个 JSON 数组数据。这就是用 jq 命令脚本编写的方便之处。

  1. $ cat sample.json | jq -r '.phoneNumber[] | select(.type == "home") | .number'

首先,我将一个过滤器的结果传递给另一个,然后使用 select 属性选择特定类型的数据,再次将结果传递给另一个过滤器。

解释每种类型的 jq 过滤器和脚本编程超出了本教程的范围和目的。强烈建议你阅读 jq 手册,以便更好地理解下面的内容。

资源:

【编辑推荐】

  1. 如何查找Linux上的硬件规格?
  2. Window下不用安装虚拟机,也可以玩转Linux,玩转最新Redis
  3. Linux是如何创建进程的?为什么说Linux与其他操作系统不同?
  4. 5个免费的Linux分区管理器
  5. Linux和Windows两种风格的操作系统,创建线程的方式有何不同?
【责任编辑:庞桂玉 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

16招轻松掌握PPT技巧

16招轻松掌握PPT技巧

GET职场加薪技能
共16章 | 晒书包

343人订阅学习

20个局域网建设改造案例

20个局域网建设改造案例

网络搭建技巧
共20章 | 捷哥CCIE

666人订阅学习

WOT2019全球人工智能技术峰会

WOT2019全球人工智能技术峰会

通用技术、应用领域、企业赋能三大章节,13大技术专场,60+国内外一线人工智能精英大咖站台,分享人工智能的平台工具、算法模型、语音视觉等技术主题,助力人工智能落地。
共50章 | WOT峰会

0人订阅学习

读 书 +更多

《广域网》

在开始学习WAN资料时,我经常面对资料深度不够或者为电气工程师编写的书。另外,在看了几本书,并且对Internet进行了研究以后,我觉得应当...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO播客