百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

使用Python进行基础到高级日志记录

bigegpt 2025-01-02 14:41 28 浏览


在 Python 项目中,使用打印语句和堆栈跟踪很容易跟踪代码进度和调试。但是,日志记录提供了使用时间戳、文件名、代码行数等进行跟踪和调试的附加功能,区分不同类型的打印语句,甚至可以选择将打印语句保存到日志文件或其他位置,而不是只能在控制台或命令行上查看。

本文将介绍日志记录的组件,如何在文件中执行日志记录,以及如何使用配置以可重用和可扩展的方式跨多个文件执行日志记录。

目录

  • 日志记录的组件:文件、级别、格式
  • 文件中的基本日志记录
  • 日志记录的高级组件:记录器、处理程序、过滤器、格式化程序
  • 带有配置文件的高级日志记录
  • 常见问题:日志配置覆盖、继承

日志记录的组件

在深入研究代码实现之前,一些组件对于有效使用日志记录是不可或缺的。

日志文件——在哪里记录?

建议将日志保存到日志文件中,而不是在控制台或命令行上查看它们,因为一旦控制台或终端关闭,信息就会消失。我们可以指定要存储日志的项目的相对路径。

您还可以定义保存模式。默认情况下,日志以追加模式保存,但可以更改为写入模式以覆盖以前的日志。

日志级别——何时记录?

根据所跟踪事件的任务和严重性,有 5 种日志记录级别。按照严重程度递增的顺序,

  • DEBUG:记录详细信息,用于诊断问题,即故障调查
  • INFO:记录详细信息,在程序正常运行时使用,即状态监控
  • WARN:记录未来的意外事件或潜在问题,当代码尽管发生意外事件仍能按预期工作时使用
  • ERROR:记录严重问题,当代码无法执行某些功能时使用
  • CRITICAL:记录严重错误,在代码无法继续运行时使用

有疑问时,我总是INFO在正常操作时使用水平仪,WARN或者ERROR在遇到小问题和主要问题时使用水平仪。

默认情况下,日志级别为WARN,表示低于该级别的日志级别,即DEBUGINFO,除非更改默认日志级别,否则不会记录。

日志格式——记录什么?

可以设置日志格式,并将此格式应用于所有日志条目——这意味着您不必手动将相同的格式标准化到每个日志调用!默认情况下,日志条目遵循格式levelname:name:message,例如,DEBUG:root:This is a log entry但可以自定义以包含更多信息,

  • asctime:日志时间,具有默认格式%Y-%m-%d %H:%M:%S,%f,但可以按照 Python 日期时间模块格式代码进行更改
  • levelname:日志级别,即DEBUG,,INFO
  • name:记录器的名称,默认为root
  • filename: 包含日志调用的文件名,即file.py
  • module:文件名的名称部分,即file
  • funcName:包含日志调用的函数名称,即function_name
  • lineno: 发出日志调用的文件的行号
  • message: 日志信息,如This is a log entry
  • 更多格式属性可以在这里找到

要指定格式,我们使用"%(component)s"约定,例如"%(levelname)s". 例如,默认格式表示为"%(levelname)s:%(name)s:%(message)s". 这将在下一节中详细说明。

文件中的基本日志记录

在了解了日志记录组件之后,我们准备记录一些信息!日志记录可以这样完成,

import logging
logging.basicConfig(
    filename="output.log",
    filemode="w",
    level=logging.DEBUG,
    format="%(asctime)s:%(levelname)s:%(message)s",
    datefmt="%Y-%m-%d %I:%M:%S%p",
)

logging.debug("Log with debug-level severity")
logging.info("Log with info-level severity")
logging.warning("Log with warning-level severity")
logging.error("Log with error-level severity")
logging.critical("Log with error-level severity")

try:
    raise Exception("Throw exception")
except Exception as e:
    logging.error("Exception occurred", exc_info=True)

在上面的例子中,我们使用basicConfig来指定日志配置,

  • filename: 日志文件,项目的相对路径
  • filemode:保存模式,"a"追加(默认),"w"写入
  • level: 日志级别,DEBUG表示每一项与级别相同或更严重的项目都DEBUG将被记录
  • format: 日志格式
  • datefmt:asctime日志格式的日期格式
  • encoding: 指定编码,仅适用于 Python 3.9 版本

指定配置后,我们可以在代码中插入日志调用等logging.info()来执行日志记录。默认情况下,只会记录日志消息,但我们也可以设置exc_info=True捕获堆栈跟踪,如第 19 行所示。

话虽如此,使用basicConfig实现日志记录需要在不同的文件中定义配置,这会导致重复的代码。在下一节中,我们将使用配置文件以可重用和可扩展的方式实现日志记录。

日志记录的高级组件

对于日志的高级用法,我们可以在配置文件中定义日志配置,使其可重复用于跨多个 Python 文件进行日志记录。如果以这种方式实现日志记录,则可以完成更多项目和自定义,并且它建立在上一节中的基本组件之上。

记录器

记录器公开应用程序代码直接使用的接口

记录器对应name于日志条目中的属性。默认情况下root选择记录器,其设置(例如保存路径、保存模式、格式等)由处理程序处理(下一节)。

使用模块级记录器是一个很好的约定,这样模块名称而不是root将显示为name日志条目的属性。

如果存在需要多个设置的情况,可以定义并使用自定义记录器来代替root记录器。

模块级记录器和自定义记录器可以这样实现,

import logging
logging.basicConfig(...)

logger = logging.getLogger(__name__)

logger = logging.getLogger("custom_logger")

logger.info("Log with info-level severity")

请注意,日志调用现在使用logger.info()而不是logging.info()!

处理程序

处理程序将日志记录发送到适当的目的地(类似于日志文件)

处理程序指定如何保存日志。在前面的部分中,我们仅将日志保存到日志文件中,但还有更多处理日志的方法。这可以通过使用已经为您实现的相关处理程序类来完成。常见的处理程序类包括,

  • StreamHandler: 将消息发送到流,即控制台
  • FileHandler: 发送消息到磁盘文件
  • RotatingFileHandler:支持最大日志文件大小和日志文件轮换的 FileHandler
  • 可以在logging官方文档:https://docs.python.org/3/howto/logging.html#useful-handlers,找到更多处理程序类型。

模块化:处理程序以模块化方式实现,因此可以定义处理程序名称并在不同的记录器(root或自定义记录器)之间重用。

多对一:一个记录器可以由多个处理程序组成,例如,如果我们希望日志同时出现在控制台上,StreamHandler使用FileHandler.

过滤器

过滤器根据严重性确定输出哪些日志记录(类似于日志级别)

过滤器设置日志严重级别并记录指定严重级别及以上的所有内容。过滤器与处理程序一起在字段下定义level

如果需要更多自定义,例如仅过滤一个特定的严重级别,则必须编写一个 Python 类,并且此过滤器将与处理程序一起定义,但现在位于 field 下filters

模块化:过滤器以模块化的方式实现,这样过滤器名称可以在不同的处理程序中定义和重用。

多对一:一个处理程序可以由多个过滤器组成。

格式化程序

Formatters 指定日志记录的格式(类似于日志格式)

格式化程序设置日志条目的格式。格式化程序与处理程序一起定义,在字段下formatter

模块化:格式化程序以模块化方式实现,这样格式化程序名称可以在不同的处理程序中定义和重用。

一对一:每个处理程序只能有一种日志格式。

每个处理程序都有一个唯一的文件过滤器格式设置

由于过滤器和格式化程序是与处理程序一起定义的,因此每个处理程序都有一个唯一的文件过滤器格式设置。如果需要另一个文件(StreamHandlerFileHandler)、过滤器(DEBUGWARN级别)或格式,则应定义单独的处理程序。

带有配置文件的高级日志记录

我们现在将使用配置文件实现日志记录——它比使用basicConfig. 可以在.conf文件或字典中定义配置.py.yml文件

字典配置可以这样定义,

import logging.config


class LevelOnlyFilter:
    def __init__(self, level):
        self.level = level

    def filter(self, record):
        return record.levelno == self.level


LOGGING_CONFIG = {
    "version": 1,
    "loggers": {
        "": {  # root logger
            "level": "DEBUG",
            "propagate": False,
            "handlers": ["stream_handler", "file_handler"],
        },
        "custom_logger": {
            "level": "DEBUG",
            "propagate": False,
            "handlers": ["stream_handler"],
        },
    },
    "handlers": {
        "stream_handler": {
            "class": "logging.StreamHandler",
            "stream": "ext://sys.stdout",
            "level": "DEBUG",
            "filters": ["only_warning"],
            "formatter": "default_formatter",
        },
        "file_handler": {
            "class": "logging.FileHandler",
            "filename": "output.log",
            "mode": "w",
            "level": "DEBUG",
            "formatter": "default_formatter",
        },
    },
    "filters": {
        "only_warning": {
            "()": LevelOnlyFilter,
            "level": logging.WARN,
        },
    },
    "formatters": {
        "default_formatter": {
            "format": "%(asctime)s-%(levelname)s-%(name)s::%(module)s|%(lineno)s:: %(message)s",
        },
    },
}

logging.config.dictConfig(LOGGING_CONFIG)
logger = logging.getLogger(__name__)

我们可以观察到字典配置被分成几个部分

  • version(第 13 行):将版本号表示为整数
  • loggers((第 14-25 行):定义根和自定义记录器,由一个或多个处理程序组成
  • handlers(第 26-41 行):定义记录器中使用的自定义处理程序,包括特定的文件过滤器格式设置
  • filters(第 42-47 行):定义在处理程序中使用的自定义过滤器
  • formatters(第 48-53 行):定义在处理程序中使用的自定义格式化程序

具有.conf文件的等效实现可以是这样的,

[loggers]
keys=root,customLogger

[handlers]
keys=streamHandler,fileHandler

[formatters]
keys=defaultFormatter

[logger_root]
level=DEBUG
propagate=0
handlers=streamHandler,fileHandler

[logger_customLogger]
level=DEBUG
propagate=0
handlers=streamHandler
qualname=customLogger

[handler_streamHandler]
class=StreamHandler
args=(sys.stdout,)
level=DEBUG
formatter=defaultFormatter

[handler_fileHandler]
class=FileHandler
args=("output.log", "w")
level=DEBUG
formatter=defaultFormatter

[formatter_defaultFormatter]
format=%(asctime)s:%(levelname)s:%(name)s:%(module)s:%(funcName)s:%(lineno)s:%(message)s

要使用中定义的配置初始化记录器logging.conf

import logging.config 
logging.config .fileConfig("logging.conf") 
logger = logging.getLogger(__name__)

比较dictConfigfileConfig,字典实现是首选,因为它更新并且能够支持更多功能,例如使用自定义过滤器。

比较logging.configlogging.basicConfig,使用配置文件可以减少重复代码的数量,并将配置抽象到单独的字典或配置文件中,这是跨多个文件执行日志记录的首选方式。

常见问题

在本节中,我将讨论使用配置文件实现日志记录的一些常见问题和注意事项。

日志配置覆盖

有几种方式可以发生日志配置覆盖。

№1:同时使用logging.basicConfiglogging.config

如果不同的文件使用不同的方法来实例化记录器,并且在这些文件之间进行了一些导入,使得日志配置中存在冲突,则logging.config实现优先logging.basicConfig并被覆盖。

№2:在记录器级别与处理程序级别定义的日志级别

如果您在字典和logging.conf文件中注意到,日志级别被定义了两次,一次在记录器定义中,另一次在处理程序定义中。较高的严重级别优先,其次是记录器级别优先于处理程序级别。

为了使这项工作对您有利,我们可以将记录器级别设置为最低严重性,DEBUG并使用处理程序级别来控制级别。如果一个级别应该跨多个处理程序标准化,请随意在记录器定义中定义级别。

继承

在继承期间,日志将被传递给记录器及其高级(祖先)记录器,从而导致日志条目重复。默认情况下,所有自定义记录器都从root记录器继承。

为了防止继承导致重复日志,我们可以在配置中定义记录器时指定propagate字段。False

希望您对日志记录的组件以及如何使用配置文件以可重用和可扩展的方式实现它有更多的了解!与普通的打印语句相比,日志记录有助于开发人员更好地控制和理解代码库,并且在调试大型项目中的代码时特别有用。

感谢您的阅读!如果您喜欢这篇文章,请随时分享

相关推荐

数据中台与业务中台总体技术架构设计方案

《数据中台与业务中台总体技术架构设计方案》提出**“开放、稳定、滋养”三原则**,强调通过统一技术架构与框架破除烟囱式系统,构建**“业务中台+数据中台”闭环体系**。方案主张从单体架...

三分钟摸清楚什么叫前后端分离(什么是前后端分离架构?)

什么叫前后端分离?其实,前后端分离的初衷是为了分离前后端开发人员的职责,解决开发模式的问题。说到底,前后端分离就是将前端视图和后端数据进行分离,这样,后端只需要提供接口(后端数据)给前端,而前端也可以...

刚刚,给学妹普及了登录的两大绝学

今天跟大家聊一个比较基础的话题,就是实现登录的方式有哪些?适合刚入行的朋友。华山之Session绝学Session我们称之为会话控制,是一种在服务器端保持会话状态的解决方案。通俗点来讲就是客户...

6种微服务RPC框架,你知道几个?(grpc是微服务框架吗)

开源RPC框架有哪些呢?一类是跟某种特定语言平台绑定的,另一类是与语言无关即跨语言平台的。跟语言平台绑定的开源RPC框架主要有下面几种。Dubbo:国内最早开源的RPC框架,由阿里巴巴公司...

微服务中,Spring Cloud 有哪些注册中心?

SpringCloud是微服务架构中经常使用的一个框架,它提供了一系列工具来帮助开发者构建和管理分布式系统,而服务注册中心又是微服务架构中一个关键组件。那么,SpringCloud支持哪些注册...

Eureka的自我保护机制(eureka自我保护机制原理)

最近遇到一个问题,服务之间调用报错,显示无法路由到指定服务,但是对应的服务是启动的,查询eureka,结果eureka上显示如下,所有实例均消失,我个人对注册中心并没有什么研究,进行正好借此机会简单总...

eureka、zookepeer、nacos的区别(eureka和nacos哪个更好)

前言随着微服务被各大企业应用在项目中,微服务的框架也被更多人学习和使用,但是大部分情况下都是停留在应用层。一、演变过程1.1服务注册和发现基本概念服务注册:将某个或者某些服务的信息(模块的ip和...

40K+Star!Mall电商实战项目开源,附源码、教程合集

最近看了下我的Github,发现mall项目已经突破40K+Star,有点小激动!记得去年8月的时候mall项目刚过20K+Star,时隔1年多已经增长到了40K+Star。今天跟大家聊聊mall项目...

SpringCloud 常见注册中心的比较(springcloud注册过程)

一、概述springcloud是一个非常优秀的微服务框架,要管理众多的服务,就需要对这些服务进行治理,也就是我们说的服务治理,服务治理的作用就是在传统的rpc远程调用框架中,管理每个服务与每个服务之间...

简单介绍Nacos服务注册中心(nacos注册中心有什么用)

Nacos是阿里开源的一个新框架,在分布式的架构中,Nacos同时扮演着服务注册中心和配置中心的角色。今天主要讲的是Nacos作为服务注册中心。分布式中著名的CAP理论,任何一种服务注册中心都只能实现...

入门注册中心——consul(注册中心怎么注册)

基础概念什么是注册中心随着微服务理论发展的成熟,越来越多互联网公司采用微服务架构来支持业务发展。各个微服务之间都需要通过注册中心来实现自动化的注册和发现。注册中心主要有三种角色:服务提供者(RPCS...

08 Eureka的基础知识(eureka replication)

Eureka是Netflix开发的服务发现框架,SpringCloud将它集成在自己的子项目spring-cloud-netflix中,实现SpringCloud的服务发现功能。上图简要描述了Eur...

微服务架构中的服务注册与发现有哪些?Zookeeper、Eu

“大家好,我是码哥,《Redis高手心法》作者,本章节选自《Java面试高手心法58讲》专栏。随着单体应用的拆分,我们面临的首要问题就是采用哪种方式实现服务间的调用,像之前单体应用可能直接在配...

Eureka 都挂了,微服务还能调通吗?

如果你做过微服务开发,这个面试题应该能够立马答出来,如果你没做过微服务开发,但是学过一些SpringCloud组件的用法,这个问题可能要稍微想一下,但是也应该能够答出来。今天就来和大家说说这个问...

ZooKeeper、Eureka、Consul 、Nacos微服务注册中心对比

注册中心前言服务注册中心本质上是为了解耦服务提供者和服务消费者。对于任何一个微服务,原则上都应存在或者支持多个提供者,这是由微服务的分布式属性决定的。更进一步,为了支持弹性扩缩容特性,一个微服务的提供...