go语言实现并发网络爬虫的示例代码_开发_开发者

我们想从我们的起始页中提取所有的URL，将这些URL保存到一个列表中，然后对列表中的每个URL做同样的处理。页面的图很可能是循环的，所以我们需要记住哪些页面已经经历了这个过程（或者在使用并发时，处于这个过程的中间）。

go语言实现并发网络爬虫的示例代码

串行爬虫首先检查我们是否已经在获取地图中获取了该页面。如果我们没有，那么它就在页面上找到的每个URL上调用自己。注意：map 在Go中是引用类型，所以每次调用都会得到相同的 map。

func Serial(url string, fetcher Fetcher, fetched map[string]bool) {
    if fetched[url] {
        return
    }
    fetched[url] = true
    urls, err := fetcher.Fetch(url)
    if err != nil {
        return
    }
    for _, u := range urls {
        Serial(u, fetcher, fetched)
    }
    return
}
func main() {
    Serial(<page>, fetcher, make(map[string]bool))
}

fetcher将包含提取URLs到列表中的逻辑（也可以对页面的内容做一些处理）。这个实现不是本讲的重点。

由于网络速度很慢，我们可以使用并发性来加快这个速度。为了实现这一点，我们需要使用锁（在读/写时锁定已经获取的页面地图）和 waitgroup（等待所有的goroutine完成）。

已经获取的页面的 map 只能由持有锁的线程访问，因为我们不希望多个线程开始处理同一个URL。如果在一个线程的读和写之间，另一个线程在第一个线程更新之前从 ma开发者_Python入门p 上得到了相同的读数，这就可能发生。

我们定义了fetchState结构，将 map 和锁组合在一起，并定义了一个方法来初始化它。

爬虫程序的开始是一样的，检查我们是否已经获取了URL，但这次使用sync.Mutex来锁定 map，如前所述。然后，对于页面上发现的每个URL，我们在一个新的goroutine中启动相同的函数。在启动之前，我们将WaitGroup的计数器增加1，done.Wait()在退出之前等待所有的抓取工作完成。

func ConcurrentMutex(url string, fetcher Fetcher, f *fetchState) {
    f.mu.Lock()
    already := f.fetched[url]
    f.fetched[url] = true
    f.mu.Unlock()
    if already {
        return
    }
    urls, err := fetcher.Fetch(url)
    if err != nil {
        return
    }
    var done sync.WaitGroup
    for _, u := range urls {
        done.Add(1)
        go func(u string) {
            defer done.Done()
            ConcurrentMutex(u, fetcher, f)
        }(u)
    }
    done.Wait()
    return
}
type fetchState struct {
    mu      sync.Mutex
    fetched map[string]bool
}
func makeState() *fetchState {
    f := &fetchState{}
    f.fetched php= make(map[string]bool)
    return f
}
func main() {
    ConcurrentMutex(<page>, fetcher, makeState())
}

注意：

[1] done.Done()的调用被推迟了，以防我们在其中一个调用中出现错误，在这种情况下，我们仍然要递减WaitGroup的计数器。

[2] 这段代码的一个问题是，我们没有限制android线程的数量。但值得一提的是，goroutines比其他语言的线程更轻量级，并且由Go运行时管理，系统调用更少。

[3] 我们把字符串u传给立即函数，以便制作一个URL的副本，然后才把它送到goroutine，因为变量u在外层for循环中发生了变化。要理解这样做的必要性，一个更简单的例子是，在没有WaitGroup的情况下。

func checkThisOut() {
  s :=MHjeOZy "abc"
  sec := time.Second
  go func() {time.Sleep(sec); fmt.Printf("s = %v\n", s)}()
  go func(u string) {time.Sleep(sec); fmt.Printf("u = %v\n", u)}(s)
  s = "def"
  time.Sleep(2 * sec)
}
// this prints out: u = abc, s = def

[4] 我们可以运行内置的数据竞赛检测器，通过运行go run -race .来帮助检测竞赛条件。它在这个例子中非常有效。

下一个并发版本在线程之间完全不共享内存！嗯，这并不准确。我们只是不会自己同步访问共享数据。相反，我们使用一个通道在goroutine之间进行通信。

在这个最后的版本中，我们有一个主函数在主线程上运行。只有这个函数能看到 map 并从通道中读取。channel ，像 map 一样，也是引用类型。所以这里只有一个通道。

在启动时，我们将第编程客栈一个URL写到通道上。这是在一个goroutine中完成的，因为向一个没有缓冲的通道的写入会导致goroutine暂停，直到该值被另一个goroutine读取。

我们在一个for循环中从通道中读取URL的列表（从一个没有缓冲的通道中读取也会阻塞）。然后，我们以与之前的实现类似的方式浏览该列表。通过使用一个计数器，一旦没有更多的工作者，这个循环就会中断。

工作者获取URL的列表，将它们传递给通道。如果出现错误，会传递一个空列表，这样从通道读取的for循环最终会退出（计数器的设置方式是，我们等待从每个goroutine读取一个值）。

func ConcurrentChannel(url string, fetcher Fetcher) {
    ch := make(chan []string)
    go func() {
        ch <- []string{url}
    }()
    master(ch, fetcher)
}
func master(ch chan []string, fetcher Fetcher) {
    n := 1
    fetched := make(map[string]bool)
    for urls := range ch {
        for _, u := range urls {
            if fetched[u] == false {
  python              fetched[u] = true
                n += 1
                go worker(u, ch, fetcher)
            }
        }
        n -= 1
        if n == 0 {
            break
        }
    }
}
func worker(url string, ch chan []string, fetcher Fetcher) {
    urls, err := fetcher.Fetch(url)
    if err != nil {
        ch <- []string{}
    } else {
        ch <- urls
    }
}

到此这篇关于go语言实现并发网络爬虫的示例代码的文章就介绍到这了,更多相关go语言并发网络爬虫内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！