GitHub 项目:移液器
仓库地址:https://github.com/bjesus/pipet
星级:4770 | 作者:bjesus
项目描述:瑞士军队为黑客设计的用于从在线资产中抓取和提取数据的工具
===================================================
自述文件内容:
移液器
瑞士军队的工具,用于从在线资产中抓取和提取数据,专为黑客而设计
Pipet 是一个基于命令行的网络抓取工具。它支持 3 种操作模式 - HTML 解析、JSON 解析和客户端 JavaScript 评估。它严重依赖于curl等现有工具,并使用unix管道来扩展其内置功能。
您可以使用 Pipet 跟踪货件、在音乐会门票可用时收到通知、股票价格变化以及在线显示的任何其他类型的信息。
# 尝试一下!
1. 创建一个包含以下内容的 `hackernews.pipet` 文件:
````
卷曲 https://news.ycombinator.com/
.标题 .标题行
跨度>a
.sitebit a
````
2. 运行 `go run github.com/bjesus/pipet/cmd/pipet@latest hackernews.pipet` 或安装 Pipet 并运行 `pipet hackernews.pipet`
3. 在您的终端中查看所有最新的黑客新闻!
使用自定义分隔符
使用“--separator”(或“-s”)标志指定文本输出的自定义分隔符。 例如,运行 `pipet -s "\n" -s "->" hackernews.pipet` 以查看新行中的每个项目,标题和域之间有 `->` 。
获取 JSON
使用 `--json` 标志让 Pipet 将结果收集到一个漂亮的 JSON 中。 例如,运行“pipet --json hackernews.pipet”以获取上述结果的 JSON 表示形式。
渲染到模板
在“hackernews.pipet”文件旁边添加一个名为“hackernews.tpl”的模板文件,其中包含以下内容:
````
{{范围 $index, $item := 索引 (index . 0) 0}}
- {{index $item 0}} ({{index $item 1}})
{{结束}}
````
现在再次运行“pipet hackernews.pipet”,Pipet 将自动检测您的模板文件,并将结果呈现给它。
详情>
使用管道
在查询后使用 Unix 管道,就像它们在您的 shell 中运行一样。例如,计算每个标题中的字符数(使用 `wc`)并提取完整的文章 URL(使用 [htmlq](https://github.com/mgdm/htmlq)):
````
卷曲 https://news.ycombinator.com/
.标题 .标题行
跨度>a
跨度 > 一个 |厕所-c
.sitebit a
.sitebit a | htmlq --属性 href a
````
详情>
监控变化
设置一个时间间隔和一个在更改时运行的命令,并让 Pipet 在发生某些情况时通知您。例如,只要 Hacker News #1 的报道有所不同,您就会收到通知: