主頁(yè) > 知識(shí)庫(kù) > Golang 使用http Client下載文件的實(shí)現(xiàn)方法

Golang 使用http Client下載文件的實(shí)現(xiàn)方法

熱門(mén)標(biāo)簽:西部云谷一期地圖標(biāo)注 廣州呼叫中心外呼系統(tǒng) 高德地圖標(biāo)注口訣 地圖標(biāo)注的汽車(chē)標(biāo) 中國(guó)地圖標(biāo)注省會(huì)高清 南通如皋申請(qǐng)開(kāi)通400電話 江西轉(zhuǎn)化率高的羿智云外呼系統(tǒng) 學(xué)海導(dǎo)航地圖標(biāo)注 浙江高速公路地圖標(biāo)注

之前使用beego的http庫(kù)的時(shí)候,有的情況需要下載文件。beego是能實(shí)現(xiàn),但就是有點(diǎn)問(wèn)題:不支持回調(diào),沒(méi)法顯示下載速度,這在日常開(kāi)發(fā)中是不可忍受的。

看了下beego的實(shí)現(xiàn)主要是使用了io.copy函數(shù),于是就深入的看了下實(shí)現(xiàn)原理,發(fā)現(xiàn)挺簡(jiǎn)單的,于是就根據(jù)io.copy原理實(shí)現(xiàn)的一個(gè)簡(jiǎn)單的下載器

//定義要下載的文件
var durl = "https://dl.google.com/go/go1.10.3.darwin-amd64.pkg";
//解析url
uri, err := url.ParseRequestURI(durl)
if err != nil {
 panic("網(wǎng)址錯(cuò)誤")
}

正常的一個(gè)流程先看看Url有沒(méi)有錯(cuò)誤

filename := path.Base(uri.Path)
log.Println("[*] Filename " + filename)

使用path.Base取出url的文件名稱,這里有個(gè)可能會(huì)出現(xiàn)bug的地方:如果這個(gè)網(wǎng)址是302跳轉(zhuǎn)過(guò)去的話是沒(méi)法取出跳轉(zhuǎn)過(guò)后的文件名稱。

取文件名稱這步可以再發(fā)送http請(qǐng)求的時(shí)候 client.CheckRedirect定義一個(gè)函數(shù)取出文件名次即可。

client := http.DefaultClient;
client.Timeout = time.Second * 60 //設(shè)置超時(shí)時(shí)間
resp, err := client.Get(durl)

創(chuàng)建一個(gè)httpClient,另外這個(gè)客戶端的Timeout是設(shè)置讀取數(shù)據(jù)的時(shí)候多少時(shí)間算超時(shí)。

我這里比較推崇用Do方法傳遞一個(gè)Reqeust過(guò)去,應(yīng)為有的url需要校驗(yàn)http頭之類的,你問(wèn)我為啥不用一個(gè)字懶。

raw := resp.Body
defer raw.Close()
reader := bufio.NewReaderSize(raw, 1024*32);

其實(shí)說(shuō)實(shí)話不太清楚bufio能不能真正的加快htpp讀取速度,沒(méi)有做過(guò)跟不用bufio的對(duì)比。但是為了心理上的安心就加上去了

file, err := os.Create(filename)
if err != nil {
 panic(err)
}
writer := bufio.NewWriter(file)

同上也不太確定bufio能對(duì)文件寫(xiě)入增加多少速度

buff := make([]byte, 32*1024)
written := 0
go func() {
 for {
  nr, er := reader.Read(buff)
  if nr > 0 {
   nw, ew := writer.Write(buff[0:nr])
   if nw > 0 {
    written += nw
   }
   if ew != nil {
    err = ew
    break
   }
   if nr != nw {
    err = io.ErrShortWrite
    break
   }
  }
  if er != nil {
   if er != io.EOF {
    err = er
   }
   break
  }
 }
 if err != nil {
  panic(err)
 }
}()

這個(gè)源碼是我直接復(fù)制io.copyBuffer函數(shù)的只是做了一些簡(jiǎn)單的修改理解大概意思就行

//間隔時(shí)間
spaceTime := time.Second * 1
//定時(shí)器
ticker := time.NewTicker(spaceTime)
//上次讀取數(shù)據(jù)大小
lastWtn := 0
stop := false

for {
 select {
 case -ticker.C:
  //這次讀取的文件大小-上次讀取的數(shù)據(jù)大小=速度
  speed := written - lastWtn
  log.Printf("[*] Speed %s / %s \n", bytesToSize(speed), spaceTime.String())
  if written-lastWtn == 0 {
   ticker.Stop()
   stop = true
   break
  }
  lastWtn = written
 }
 if stop {
  break
 }
}

這段代碼堵塞住程序,然后定時(shí)器按照間隔時(shí)間來(lái)計(jì)算速度。這里可能會(huì)出現(xiàn)bug的地方就是在間隔時(shí)間內(nèi)沒(méi)有讀取到數(shù)據(jù)的時(shí)候回直接跳出循環(huán)?,F(xiàn)在這個(gè)時(shí)間點(diǎn)非常困,寫(xiě)個(gè)blog已經(jīng)困的要死了以后有空把這個(gè)bug解決了吧

func bytesToSize(length int) string {
 var k = 1024 // or 1024
 var sizes = []string{"Bytes", "KB", "MB", "GB", "TB"}
 if length == 0 {
  return "0 Bytes"
 }
 i := math.Floor(math.Log(float64(length)) / math.Log(float64(k)))
 r := float64(length) / math.Pow(float64(k), i)
 return strconv.FormatFloat(r, 'f', 3, 64) + " " + sizes[int(i)]
}

這個(gè)函數(shù)是我從我個(gè)人的php項(xiàng)目中轉(zhuǎn)換過(guò)來(lái)的

2018/08/17 00:24:50 [*] Filename go1.10.3.darwin-amd64.pkg
2018/08/17 00:24:51 [*] Speed 9.000 MB / 1s 
2018/08/17 00:24:52 [*] Speed 11.125 MB / 1s 
2018/08/17 00:24:53 [*] Speed 11.125 MB / 1s 
2018/08/17 00:24:54 [*] Speed 10.562 MB / 1s 
2018/08/17 00:24:55 [*] Speed 11.187 MB / 1s 
2018/08/17 00:24:56 [*] Speed 11.109 MB / 1s 
2018/08/17 00:24:57 [*] Speed 11.109 MB / 1s 
2018/08/17 00:24:58 [*] Speed 11.141 MB / 1s 
2018/08/17 00:24:59 [*] Speed 11.172 MB / 1s 
2018/08/17 00:25:00 [*] Speed 11.141 MB / 1s 
2018/08/17 00:25:01 [*] Speed 8.453 MB / 1s 
2018/08/17 00:25:02 [*] Speed 6.385 MB / 1s 
2018/08/17 00:25:03 [*] Speed 0 Bytes / 1s 

這是最終的運(yùn)行結(jié)果,然后我再把全部的源碼放在下面就去睡了。

package main

import (
 "net/http"
 "log"
 "time"
 "net/url"
 "path"
 "os"
 "io"
 "bufio"
 "math"
 "strconv"
)

var durl = "https://dl.google.com/go/go1.10.3.darwin-amd64.pkg";

func main() {
 uri, err := url.ParseRequestURI(durl)
 if err != nil {
  panic("網(wǎng)址錯(cuò)誤")
 }

 filename := path.Base(uri.Path)
 log.Println("[*] Filename " + filename)

 client := http.DefaultClient;
 client.Timeout = time.Second * 60 //設(shè)置超時(shí)時(shí)間
 resp, err := client.Get(durl)
 if err != nil {
  panic(err)
 }
 if resp.ContentLength = 0 {
  log.Println("[*] Destination server does not support breakpoint download.")
 }
 raw := resp.Body
 defer raw.Close()
 reader := bufio.NewReaderSize(raw, 1024*32);


 file, err := os.Create(filename)
 if err != nil {
  panic(err)
 }
 writer := bufio.NewWriter(file)

 buff := make([]byte, 32*1024)
 written := 0
 go func() {
  for {
   nr, er := reader.Read(buff)
   if nr > 0 {
    nw, ew := writer.Write(buff[0:nr])
    if nw > 0 {
     written += nw
    }
    if ew != nil {
     err = ew
     break
    }
    if nr != nw {
     err = io.ErrShortWrite
     break
    }
   }
   if er != nil {
    if er != io.EOF {
     err = er
    }
    break
   }
  }
  if err != nil {
   panic(err)
  }
 }()

 spaceTime := time.Second * 1
 ticker := time.NewTicker(spaceTime)
 lastWtn := 0
 stop := false

 for {
  select {
  case -ticker.C:
   speed := written - lastWtn
   log.Printf("[*] Speed %s / %s \n", bytesToSize(speed), spaceTime.String())
   if written-lastWtn == 0 {
    ticker.Stop()
    stop = true
    break
   }
   lastWtn = written
  }
  if stop {
   break
  }
 }
}

func bytesToSize(length int) string {
 var k = 1024 // or 1024
 var sizes = []string{"Bytes", "KB", "MB", "GB", "TB"}
 if length == 0 {
  return "0 Bytes"
 }
 i := math.Floor(math.Log(float64(length)) / math.Log(float64(k)))
 r := float64(length) / math.Pow(float64(k), i)
 return strconv.FormatFloat(r, 'f', 3, 64) + " " + sizes[int(i)]
}

以上這篇Golang 使用http Client下載文件的實(shí)現(xiàn)方法就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • golang語(yǔ)言實(shí)現(xiàn)的文件上傳與文件下載功能示例
  • Golang實(shí)現(xiàn)異步上傳文件支持進(jìn)度條查詢的方法
  • Golang+Android基于HttpURLConnection實(shí)現(xiàn)的文件上傳功能示例
  • golang簡(jiǎn)單獲取上傳文件大小的實(shí)現(xiàn)代碼
  • 如何使用大學(xué)教育郵箱下載golang等軟件(推薦)
  • 解決 Golang VS Code 插件下載安裝失敗的問(wèn)題
  • golang實(shí)現(xiàn)http server提供文件下載功能
  • golang并發(fā)下載多個(gè)文件的方法
  • 下載golang.org/x包的操作方法
  • golang實(shí)現(xiàn)的文件上傳下載小工具

標(biāo)簽:保定 常州 貴州 東營(yíng) 德宏 曲靖 許昌 吐魯番

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Golang 使用http Client下載文件的實(shí)現(xiàn)方法》,本文關(guān)鍵詞  Golang,使用,http,Client,下載,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Golang 使用http Client下載文件的實(shí)現(xiàn)方法》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于Golang 使用http Client下載文件的實(shí)現(xiàn)方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章