百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

python编程实践:下载文件模块wget的使用

bigegpt 2024-08-06 12:02 3 浏览

wget是Linux中的一个下载文件的工具,是在Linux下开发的开放源代码的软件,后来被移植到包括Windows在内的各个平台上,也就是wget目前是跨平台的下载软件了。wget工具体积小但功能完善,它支持断点下载功能,同时支持http,https,ftp协议下载方式,支持http代理服务器和设置起来方便简单。

本教程,不是介绍wget软件的如何使用,而是介绍如何在 Python 中使用 wget 模块进行文件下载。通过使用 wget 库,我们可以轻松地从网络上下载各种文件,如文本、图像、视频、音频、压缩、grib2等文件,也就是说所有文件都能下载,当然需要服务器支持,服务器不支持下载的文件,你也下载不了。

网络上有wget模块的讲解,但是大多不系统、不全面。应粉丝的要求,本人通过网络搜索整理、查看源代码、加上自己的理解和实践,形成本教程。

一、安装wget模块

pip install wget

目前wget的版本是3.2。

二、wget模块参数说明

wget.download(url, out=None, bar=bar_adaptive)
  • url:要下载的url。下载url到系统的临时目录中,然后从URL或HTTP headers自动检测文件名并命名,如果当前有相同的名字,则自动改名,添加“(1)(2)”等字符。
  • out:输出文件名或目录
  • bar:跟踪下载进度的函数(可视化等)
  • return:返回url被下载到的文件名

三、下载文件

下载文件实例1:

url:是我随便在网上找的一个链接。它是一个压缩软件执行程序。

import wget
url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = wget.download(url)
print(localfile)  #win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528 1.exe

返回的是:win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528 1.exe,也就是下载的文件名。
下载文件实例2:

下载文件并保存在当前目录下。

import wget
url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'
wget.download(url,out=localfile)

运行的效果下图所示。

它有一个默认的下载进度栏,非常直观和方便。

三、设置代理

有时,我们下载文件的过程中,需要用到http代理服务器来下载文件,这时怎么办,wget 模块也提供了相应的功能。这时我们可以使用 proxy参数来指定http代理服务器的地址。示例如下:

import wget
url = 'https://xxx.xxx.com/test.rar'
localfile = './test.rar'
proxy = 'http://proxy.xxx.xxx.com:20080'
wget.download(url, localfile, proxy=proxy)

四、下载进度

翻看wget的源程序,bar_adaptive函数就是它下载文件的进度显示的函数。它有三个参数,current:当前已经下载文件的大小, total:文件的大小, width=80:显示字符的宽度。

这个例子我就不具体讲解了,有兴趣的可以仔细学习一下。

def bar_adaptive(current, total, width=80):
    """Return progress bar string for given values in one of three
    styles depending on available width:

        [..  ] downloaded / total
        downloaded / total
        [.. ]

    if total value is unknown or <= 0, show bytes counter using two
    adaptive styles:

        %s / unknown
        %s

    if there is not enough space on the screen, do not display anything

    returned string doesn't include control characters like \r used to
    place cursor at the beginning of the line to erase previous content.

    this function leaves one free character at the end of string to
    avoid automatic linefeed on Windows.
    """

    # process special case when total size is unknown and return immediately
    if not total or total < 0:
        msg = "%s / unknown" % current
        if len(msg) < width:    # leaves one character to avoid linefeed
            return msg
        if len("%s" % current) < width:
            return "%s" % current

    # --- adaptive layout algorithm ---
    #
    # [x] describe the format of the progress bar
    # [x] describe min width for each data field
    # [x] set priorities for each element
    # [x] select elements to be shown
    #   [x] choose top priority element min_width < avail_width
    #   [x] lessen avail_width by value if min_width
    #   [x] exclude element from priority list and repeat
    
    #  10% [.. ]  10/100
    # pppp bbbbb sssssss

    min_width = {
      'percent': 4,  # 100%
      'bar': 3,      # [.]
      'size': len("%s" % total)*2 + 3, # 'xxxx / yyyy'
    }
    priority = ['percent', 'bar', 'size']

    # select elements to show
    selected = []
    avail = width
    for field in priority:
      if min_width[field] < avail:
        selected.append(field)
        avail -= min_width[field]+1   # +1 is for separator or for reserved space at
                                      # the end of line to avoid linefeed on Windows
    # render
    output = ''
    for field in selected:

      if field == 'percent':
        # fixed size width for percentage
        output += ('%s%%' % (100 * current // total)).rjust(min_width['percent'])
      elif field == 'bar':  # [. ]
        # bar takes its min width + all available space
        output += bar_thermometer(current, total, min_width['bar']+avail)
      elif field == 'size':
        # size field has a constant width (min == max)
        output += ("%s / %s" % (current, total)).rjust(min_width['size'])

      selected = selected[1:]
      if selected:
        output += ' '  # add field separator

    return output

下面我给出了三个小例子,希望给大家以启迪。

例子1,显示直接用sys.stdout.write,而且用了"\r"符号,只回车不换行。也就是从头开始显示,但不换新行。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def bar_progress(current, total, width=80):
     progress_message = "Downloading: %d%% [%d / %d] bytes" % (current / total * 100, current, total)
     # 不要使用print(),因为它显示,总是会另起新的一行显示。
     sys.stdout.write("\r" + progress_message)
     sys.stdout.flush()

wget.download(url,out=localfile,bar=bar_progress)

运行效果如下:

例子2,和例子1类似,但是实现了下载的进度条。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def progress_bar(current, total, width=80):
    progress = current / total
    bar = '#' * int(progress * width)
    percentage = round(progress * 100, 2)
    tempstr = f'[{bar:<{width}}] {percentage}%'
    sys.stdout.write("\r" + tempstr)
    sys.stdout.flush()

wget.download(url,out=localfile,bar=progress_bar)

运行效果如下:

例子3,是在和例子2基础上改写,进度条从“######”改为“..........”,没有使用sys.stdout.write,而是直接返回要显示的字符串。

这就是直接仿照官方源代码改写的。也就是说,自定义的进度条,只需要返回要显示的字符串即可。

import sys
import wget

url = 'https://motzdown.mydown.com/package/wincompress_1/win%E8%A7%A3%E5%8E%8B%E7%BC%A9_1800_1_31_2528.exe'
localfile = './win解压缩_1800_1_31_2528.exe'

def progress_bar(current, total, width=80):
    progress = current / total
    bar = '.' * int(progress * width)
    percentage = round(progress * 100, 2)
    tempstr = f'[{bar:<{width}}] {percentage}%'
    return tempstr 

wget.download(url,out=localfile,bar=progress_bar)

运行效果如下:

需要说明的是,有时您下载的文件大小,服务器没有给出,这时total的数值就不知道。对于这一点,bar_adaptive的代码考虑得非常全面。本教程给的三个自定义进度函数,没有考虑这种情况,如果遇见这种情况,程序会出错退出的。有兴趣的粉丝,可以参照bar_adaptive的代码进行完善。有不懂的,可以在评论区讨论。

五、异常处理

在使用 wget 进行文件下载时,不可避免地会遇到一些异常的情况,如连接到服务器出现问题、下载过程中出现中断或出现错误等。为了确保程序的不意外中断、能继续执行后面的任务,我们可以使用异常处理来处理这些异常情况,这样我们可以根据日志来判断程序执行的情况,从而采取具体的处理措施。当然这种异常处理是一般程序的处理方法,这里只是介绍,非wget所独有。示例如下:

try:
    wget.download(url,  localfile)
except Exception as e:
    print(f'An error occurred: {e}')

相关推荐

Linux 系统启动完整流程

一、启动系统流程简介如上图,简述系统启动的大概流程:1:硬件引导UEFi或BIOS初始化,运行POST开机自检2:grub2引导阶段系统固件会从MBR中读取启动加载器,然后将控制权交给启动加载器GRU...

超专业解析!10分钟带你搞懂Linux中直接I/O原理

我们先看一张图:这张图大体上描述了Linux系统上,应用程序对磁盘上的文件进行读写时,从上到下经历了哪些事情。这篇文章就以这张图为基础,介绍Linux在I/O上做了哪些事情。文件系统什么是...

linux入门系列12--磁盘管理之分区、格式化与挂载

前面系列文章讲解了VI编辑器、常用命令、防火墙及网络服务管理,本篇将讲解磁盘管理相关知识。本文将会介绍大量的Linux命令,其中有一部分在“linux入门系列5--新手必会的linux命令”一文中已经...

Linux环境下如何设置多个交叉编译工具链?

常见的Linux操作系统都可以通过包管理器安装交叉编译工具链,比如Ubuntu环境下使用如下命令安装gcc交叉编译器:sudoapt-getinstallgcc-arm-linux-gnueab...

可算是有文章,把Linux零拷贝技术讲透彻了

阅读本文大概需要6.0分钟。作者:卡巴拉的树链接:https://dwz.cn/BaQWWtmh本文探讨Linux中主要的几种零拷贝技术以及零拷贝技术适用的场景。为了迅速建立起零拷贝的概念...

linux软链接的创建、删除和更新

大家都知道,有的时候,我们为了省下空间,都会使用链接的方式来进行引用操作。同样的,在系统级别也有。在Windows系列中,我们称其为快捷方式,在Linux中我们称其为链接(基本上都差不多了,其中可能...

Linux 中最容易被黑客动手脚的关键目录

在Linux系统中,黑客攻击后常会针对关键目录和文件进行修改以实现持久化、提权或隐藏恶意活动。本文介绍下黑客最常修改的目录及其手法。一、/etc目录关键文件有:/etc/passwd和/et...

linux之间传文件命令之Rsync傻瓜式教程

1.前言linux之间传文件命令用什么命令?本文介绍一种最常用,也是功能强大的文件同步和传输工具Rsync,本文提供详细傻瓜式教程。在本教程中,我们将通过实际使用案例和最常见的rsync选项的详细说...

Linux下删除目录符号链接的方法

技术背景在Linux系统中,符号链接(symlink)是一种特殊的文件,它指向另一个文件或目录。有时候,我们可能需要删除符号链接,但保留其指向的目标目录。然而,在删除符号链接时可能会遇到一些问题,例如...

阿里云国际站注册教程:aa云服务器怎么远程链接?

在全球化的今天,互联网带给我们无以计数的便利,而云服务器则是其中的重要基础设施之一。这篇文章将围绕阿里云国际站注册、aa云服务器如何远程链接,以及服务器安全防护如Ddos防火墙、网站应用防护waf防火...

Linux 5.16 网络子系统大范围升级 多个新适配器驱动加入

Linux在数据中心中占主导地位,因此每个内核升级周期的网络子系统变化仍然相当活跃。Linux5.16也不例外,周一最新与网络相关的更新加入了大量的驱动和新规范的支持。一个较新硬件的驱动是Realt...

搭建局域网文件共享服务(Samba),手机电脑都能看喜欢的影视剧

作为一名影视爱好者,为了方便地观看自己喜欢的影视作品,在家里搞一个专门用来存放电影的服务器是有必要的。蚁哥选则用一台Ubuntu系统的电脑做为服务器,共享影音文件,其他同一个局域网内的电脑或手机可以...

分享一个实用脚本—centos7系统巡检

概述这周闲得慌,就根据需求写了差不多20个脚本(部分是之前分享过的做了一些改进),今天主要分享一个给平时运维人员用的centos7系统巡检的脚本,或者排查问题检查系统情况也可以用..实用脚本#!/bi...

Linux 中创建符号链接的方法

技术背景在Linux系统里,符号链接(SymbolicLink),也被叫做软链接(SoftLink),是一种特殊的文件,它指向另一个文件或者目录。符号链接为文件和目录的管理带来了极大的便利,比...

一文掌握 Linux 符号链接

符号链接(SymbolicLink),通常被称为“软链接”,是Linux文件系统中一种强大而灵活的工具。它允许用户创建指向文件或目录的“快捷方式”,不仅简化了文件管理,还在系统配置、软件开发和日...