golang中怎么抓取网页并分析页面包含的链接-创新互联

golang中怎么抓取网页并分析页面包含的链接，相信很多没有经验的人对此束手无策，为此本文总结了问题出现的原因和解决方法，通过这篇文章希望你能解决这个问题。

1. 下载非标准的包,"golang.org/x/net/html"

2. 先安装git，使用git命令下载

git clone https://github.com/golang/net

3. 将net包，放到GOROOT路径下

比如：

我的是：GOROOT = E:\go\

所以最终目录是：E:\go\src\golang.org\x\net

注意：如果没有golang.org和x文件夹，就创建

4. 创建fetch目录，在其下创建main.go文件，main.go文件代码内容如下：

package main
 
import (
 "os"
 "net/http"
 "fmt"
 "io/ioutil"
)
 
func main() {
 for _, url := range os.Args[1:] {
 resp, err := http.Get(url)
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: %v\n", err)
 }
 b, err := ioutil.ReadAll(resp.Body)
 resp.Body.Close()
 if err != nil {
  fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err)
  os.Exit(1)
 }
 fmt.Printf("%s",b)
 }
}

5. 编译fetch

go build test.com\justin\demo\fetch

注意：test.com\justin\demo\ 是我的项目路径，具体编译根据自己项目路径编译。

6. 执行fetch.exe 文件

fetch.exe https://www.qq.com

注意：https://www.qq.com是要爬的网址，配置正确的话，会打印出网址的HTML内容。如果没有，请检查以上步骤是否正确。

7. 网页已经抓取了，那么剩下就分析页面包含的链接了，创建findlinks目录，在其下创建main.go文件，main.go文件代码内容如下：

package main
 
import (
 "os"
 "fmt"
 "golang.org/x/net/html"
)
 
func main() {
 doc, err := html.Parse(os.Stdin)
 if err != nil {
 fmt.Fprint(os.Stderr, "findlinks: %v\n", err)
 os.Exit(1)
 }
 for _, link := range visit(nil, doc) {
 fmt.Println(link)
 }
}
 
func visit(links []string, n *html.Node) []string {
 if n.Type == html.ElementNode && n.Data == "a" {
 for _, a := range n.Attr {
  if a.Key == "href" {
  links = append(links, a.Val)
  }
 }
 }
 for c := n.FirstChild; c != nil; c = c.NextSibling {
 links = visit(links, c)
 }
 return links
}

8. 编译findlinks

go build test.com\justin\demo\findlinks

注意：test.com\justin\demo\ 是我的项目路径，具体编译根据自己项目路径编译。

9. 执行findlinks.exe 文件

fetch.exe https://www.qq.com | findlinks.exe

> 10. 执行后结果：获取到各种不同形式的超链接

看完上述内容，你们掌握golang中怎么抓取网页并分析页面包含的链接的方法了吗？如果还想学到更多技能或想了解更多相关内容，欢迎关注创新互联成都网站设计公司行业资讯频道，感谢各位的阅读！

另外有需要云服务器可以了解下创新互联scvps.cn，海内外云服务器15元起步，三天无理由+7*72小时售后在线，公司持有idc许可证，提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案，具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势，专为企业上云打造定制，能够满足用户丰富、多元化的应用场景需求。