前言
本文主要給大家介紹了關(guān)于golang解析網(wǎng)頁利器goquery使用的相關(guān)內(nèi)容，分享出來供大家參考學(xué)習(xí)，下面話不多說了，來一起看看詳細(xì)的介紹吧。
java里用Jsoup，nodejs里用cheerio，都可以相當(dāng)方便的解析網(wǎng)頁，在golang語言里也找到了一個(gè)網(wǎng)頁解析的利器，相當(dāng)?shù)暮糜?，選擇器跟jQuery一樣
安裝
go get github.com/PuerkitoBio/goquery
使用
其實(shí)就是項(xiàng)目的readme.md里的demo
package main
import (
"fmt"
"log"
"github.com/PuerkitoBio/goquery"
)
func ExampleScrape() {
doc, err := goquery.NewDocument("http://metalsucks.net")
if err != nil {
log.Fatal(err)
}
// Find the review items
doc.Find(".sidebar-reviews article .content-block").Each(func(i int, s *goquery.Selection) {
// For each item found, get the band and title
band := s.Find("a").Text()
title := s.Find("i").Text()
fmt.Printf("Review %d: %s - %s\n", i, band, title)
})
}
func main() {
ExampleScrape()
}
亂碼問題
中文網(wǎng)頁都會(huì)有亂碼問題，因?yàn)樗J(rèn)是utf8編碼，這時(shí)候就要用到轉(zhuǎn)碼器了
安裝 iconv-go
go get github.com/djimenez/iconv-go
使用方法
func ExampleScrape() {
res, err := http.Get(baseUrl)
if err != nil {
fmt.Println(err.Error())
} else {
defer res.Body.Close()
utfBody, err := iconv.NewReader(res.Body, "gb2312", "utf-8")
if err != nil {
fmt.Println(err.Error())
} else {
doc, err := goquery.NewDocumentFromReader(utfBody)
// 下面就可以用doc去獲取網(wǎng)頁里的結(jié)構(gòu)數(shù)據(jù)了
// 比如
doc.Find("li").Each(func(i int, s *goquery.Selection) {
fmt.Println(i, s.Text())
})
}
}
}
進(jìn)階
有些網(wǎng)站會(huì)設(shè)置Cookie, Referer等驗(yàn)證，可以在http發(fā)請求之前設(shè)置上請求的頭信息
這個(gè)不屬于goquery里的東西了，想了解更多可以查看golang里的 net/http 包下的方法等信息
baseUrl:="http://baidu.com"
client:=http.Client{}
req, err := http.NewRequest("GET", baseUrl, nil)
req.Header.Add("User-Agent", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36")
req.Header.Add("Referer", baseUrl)
req.Header.Add("Cookie", "your cookie") // 也可以通過req.Cookie()的方式來設(shè)置cookie
res, err := client.Do(req)
defer res.Body.Close()
//最后直接把res傳給goquery就可以來解析網(wǎng)頁了
doc, err := goquery.NewDocumentFromResponse(res)
總結(jié)
以上就是這篇文章的全部內(nèi)容了，希望本文的內(nèi)容對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，如果有疑問大家可以留言交流，謝謝大家對腳本之家的支持。
參考
- https://github.com/PuerkitoBio/goquery
- https://github.com/PuerkitoBio/goquery/issues/185
- https://github.com/PuerkitoBio/goquery/wiki/Tips-and-tricks#handle-non-utf8-html-pages
您可能感興趣的文章:- golang使用正則表達(dá)式解析網(wǎng)頁
- Go語言通過http抓取網(wǎng)頁的方法
- golang解析html網(wǎng)頁的方法
