Skip to content
forked from Ecalose/gospider

🚀gospider 是一个golang 爬虫神器,拥有python到golang爬虫过渡的所有必需库。用于python爬虫从业者快速且无坑的过渡到golang

License

Notifications You must be signed in to change notification settings

kirinsir/gospider

 
 

Repository files navigation

简介

gospider 是一个golang 爬虫神器,拥有python到golang爬虫过渡的所有必需库。用于python爬虫从业者快速且无坑的过渡到golang

  1. 请求库:ja3指纹,主流代理协议,类型自动转换,覆盖python requests 所有的功能
  2. 代理库:ja3指纹代理,数据抓包,链式代理,客户端协议自动转换
  3. 并发库:自实现高性能并发库
  4. 执行js,py: 通过管道调用js,python 中的方法
  5. 操控浏览器的库:建议直接用这个库,基于cdp 协议操控浏览器,干净,快速
  6. 更多功能...

依赖

  • go1.20 (不要低于这个版本)

安装 (不要拉github的包,go包路径只能在gitee和github选一个,拉github包会出现路径问题)

go get -u gitee.com/baixudong/gospider

使用本项目已完成的爬虫

  • 五秒盾,瑞数,akamai,PerimeterX 爬虫
  • 快手滑块,淘宝滑块,抖音滑块,抖音视频,评论抓取爬虫
  • 百度地图爬虫,高德地图爬虫,腾讯地图爬虫,大众点评爬虫,小红书,百度翻译爬虫,百度ai 爬虫
  • 企查查爬虫爬虫,天眼查爬虫爬虫,钉钉爬虫
  • 德州仪器下单,监控,欧时rs自动下单,贸泽自动下单爬虫
  • 微软文字转语音,火山文字转语音爬虫,迅捷语言识别爬虫,网易见外爬虫,阿里云长文本实时转语音SDK爬虫
  • b站,知乎,好看,抖音,快手,西瓜,火山的视频解析爬虫
  • 为全国招投标上万个网站的爬虫提供渲染服务,dns 缓存服务
  • 知乎数据抓取和数据分析,知乎自动化点赞爬虫
  • 掌声高考爬虫,百度高考爬虫,夸克高考爬虫
  • 114黄页,88黄页,顺企网,慧聪网,爱采购,258.com,百姓网,51网,金泉网,传众网,八方资源网,阿拉伯网站,顺时网,1688 爬虫
  • 微擎爬虫,狂团,办公资源网,古诗词数据,国内会展,押韵助手,chegg,csdn ,new bing爬虫

商业合作

微信.手机 17626043715
qq 2216403312

博客

  1. 知乎
  2. 掘金
  3. csdn

About

🚀gospider 是一个golang 爬虫神器,拥有python到golang爬虫过渡的所有必需库。用于python爬虫从业者快速且无坑的过渡到golang

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Go 98.9%
  • Other 1.1%