深入理解python虚拟机:黑科技的幕后英雄——描述器(代码片段)

Chang-LeHung Chang-LeHung     2023-05-07     649

关键词:

在本篇文章当中主要给大家介绍一个我们在使用类的时候经常使用但是却很少在意的黑科技——描述器,在本篇文章当中主要分析描述器的原理,以及介绍使用描述器实现属性访问控制和 orm 映射等等功能!

深入理解python虚拟机:黑科技的幕后英雄——描述器

在本篇文章当中主要给大家介绍一个我们在使用类的时候经常使用但是却很少在意的黑科技——描述器,在本篇文章当中主要分析描述器的原理,以及介绍使用描述器实现属性访问控制和 orm 映射等等功能!在后面的文章当中我们将继续去分析描述器的实现原理。

描述器的基本用法

描述器是一个实现了 __get____set____delete__ 中至少一个方法的 Python 类。这些方法分别用于在属性被访问、设置或删除时调用。当一个描述器被定义为一个类的属性时,它可以控制该属性的访问、修改和删除。

下面是一个示例,演示了如何定义一个简单的描述器:

class Descriptor:
    def __get__(self, instance, owner):
        print(f"Getting self.__class__.__name__")
        return instance.__dict__.get(self.attrname)

    def __set__(self, instance, value):
        print(f"Setting self.__class__.__name__")
        instance.__dict__[self.attrname] = value

    def __delete__(self, instance):
        print(f"Deleting self.__class__.__name__")
        del instance.__dict__[self.attrname]

    def __set_name__(self, owner, name):
        self.attrname = name

在这个例子中,我们定义了一个名为 Descriptor 的描述器类,它有三个方法:__get____set____delete__。当我们在另一个类中使用这个描述器时,这些方法将被调用,以控制该类的属性的访问和修改。

要使用这个描述器,我们可以在另一个类中将其定义为一个类属性:

class MyClass:
    x = Descriptor()

现在,我们可以创建一个 MyClass 对象并访问其属性:

>>> obj = MyClass()
>>> obj.x = 1
Setting Descriptor
>>> obj.x
Getting Descriptor
1
>>> del obj.x
Deleting Descriptor
>>> obj.x
Getting Descriptor

在这个例子中,我们首先创建了一个 MyClass 对象,并将其 x 属性设置为 1。然后,我们再次访问 x 属性时,会调用 __get__ 方法并返回 1。最后,我们删除了 x 属性,并再次访问它时,会调用 __get__ 方法并返回 None。从上面的输出结果可以看到对应的方法都被调用了,这是符合上面对描述器的定义的。如果一个类对象不是描述器,那么在使用对应的属性的时候是不会调用__get____set____delete__三个方法的。比如下面的代码:

class NonDescriptor(object):
    pass


class MyClass():

    nd = NonDescriptor()


if __name__ == \'__main__\':
    a = MyClass()
    print(a.nd)

上面的代码输出结果如下所示:

<__main__.NonDescriptor object at 0x1012cce20>

从上面程序的输出结果可以知道,当使用一个非描述器的类属性的时候是不会调用对应的方法的,而是直接得到对应的对象。

描述器的实现原理

描述器的实现原理可以用以下三个步骤来概括:

  • 当一个类的属性被访问时,Python 解释器会检查该属性是否是一个描述器。如果是,它会调用描述器的 __get__ 方法,并将该类的实例作为第一个参数,该实例所属的类作为第二个参数,并将属性名称作为第三个参数传递给 __get__ 方法。

  • 当一个类的属性被设置时,Python 解释器会检查该属性是否是一个描述器。如果是,它会调用描述器的 __set__ 方法,并将该类的实例作为第一个参数,设置的值作为第二个参数,并将属性名称作为第三个参数传递给 __set__ 方法。

  • 当一个类的属性被删除时,Python 解释器会检查该属性是否是一个描述器。如果是,它会调用描述器的 __delete__ 方法,并将该类的实例作为第一个参数和属性名称作为第二个参数传递给 __delete__ 方法。

在描述器的实现中,通常还会使用 __set_name__ 方法来在描述器被绑定到类属性时设置属性名称。这使得描述器可以在被多个属性使用时,正确地识别每个属性的名称。

现在来仔细了解一下上面的几个函数的参数,我们以下面的代码为例子进行说明:


class Descriptor(object):

    def __set_name__(self, obj_type, attr_name):
        print(f"__set_name__ : obj_type  attr_name = ")
        return "__set_name__"

    def __get__(self, obj, obj_type):
        print(f"__get__ : obj =   obj_type = ")
        return "__get__"

    def __set__(self, instance, value):
        print(f"__set__ : instance =  value = ")
        return "__set__"

    def __delete__(self, obj):
        print(f"__delete__ : obj = ")
        return "__delete__"


class MyClass(object):

    des = Descriptor()


if __name__ == \'__main__\':
    a = MyClass()
    _ = MyClass.des
    _ = a.des
    a.des = "hello"
    del a.des

上面的代码输入结果如下所示:

__set_name__ : <class \'__main__.MyClass\'> attr_name = \'des\'
__get__ : obj = None  obj_type = <class \'__main__.MyClass\'>
__get__ : obj = <__main__.MyClass object at 0x1054abeb0>  obj_type = <class \'__main__.MyClass\'>
__set__ : instance = <__main__.MyClass object at 0x1054abeb0> value = \'hello\'
__delete__ : obj = <__main__.MyClass object at 0x1054abeb0>
  • __set_name__ 这个函数一共有两个参数传入的参数第一个参数是使用描述器的类,第二个参数是使用这个描述器的类当中使用的属性名字,在上面的例子当中就是 "des" 。
  • __get__,这个函数主要有两个参数,一个是使用属性的对象,另外一个是对象的类型,如果是直接使用类名使用属性的话,obj 就是 None,比如上面的 MyClass.des 。
  • __set__,这个函数主要有两个参数一个是对象,另外一个是需要设置的值。
  • __delete__,这函数有一个参数,就是传入的对象,比如 del a.des 传入的就是对象 a 。

描述器的应用场景

描述器在 Python 中有很多应用场景。以下是其中的一些示例:

实现属性访问控制

通过使用描述器,可以实现对类属性的访问控制,例如只读属性、只写属性、只读/只写属性等。通过在 __get____set__ 方法中添加相应的访问控制逻辑,可以限制对类属性的访问和修改。

class ReadOnly:
    def __init__(self, value):
        self._value = value
    
    def __get__(self, instance, owner):
        return self._value
    
    def __set__(self, instance, value):
        raise AttributeError("Read only attribute")
        
class MyClass:
    read_only_prop = ReadOnly(42)
    writeable_prop = None
    
my_obj = MyClass()
print(my_obj.read_only_prop)  # 42
my_obj.writeable_prop = "hello"
print(my_obj.writeable_prop)  # hello
my_obj.read_only_prop = 100  # raises AttributeError

在上面的例子中,ReadOnly 描述器只实现了 __get__ 方法,而 __set__ 方法则抛出了 AttributeError 异常,从而实现了只读属性的访问控制。

实现数据验证和转换

描述器还可以用于实现数据验证和转换逻辑。通过在 __set__ 方法中添加数据验证和转换逻辑,可以确保设置的值符合某些特定的要求。例如,可以使用描述器来确保设置的值是整数、在某个范围内、符合某个正则表达式等。

class Bounded:
    def __init__(self, low, high):
        self._low = low
        self._high = high
    
    def __get__(self, instance, owner):
        return self._value
    
    def __set__(self, instance, value):
        if not self._low <= value <= self._high:
            raise ValueError(f"Value must be between self._low and self._high")
        self._value = value

class MyClass:
    bounded_prop = Bounded(0, 100)

my_obj = MyClass()
my_obj.bounded_prop = 50
print(my_obj.bounded_prop)  # 50
my_obj.bounded_prop = 200  # raises ValueError

在上面的例子中,Bounded 描述器在 __set__ 方法中进行了数值范围的检查,如果值不在指定范围内,则抛出了 ValueError 异常。

实现延迟加载和缓存

描述器还可以用于实现延迟加载和缓存逻辑。通过在 __get__ 方法中添加逻辑,可以实现属性的延迟加载,即当属性第一次被访问时才进行加载。此外,还可以使用描述器来实现缓存逻辑,以避免重复计算。

class LazyLoad:
    def __init__(self, func):
        self._func = func

    def __get__(self, instance, owner):
        if instance is None:
            return self
        value = self._func(instance)
        setattr(instance, self._func.__name__, value)
        return value


class MyClass:
    def __init__(self):
        self._expensive_data = None

    @LazyLoad
    def expensive_data(self):
        print("Calculating expensive data...")
        self._expensive_data = [i ** 2 for i in range(10)]
        return self._expensive_data


my_obj = MyClass()
print(my_obj.expensive_data)  # Calculating expensive data... 
print(my_obj.expensive_data)

上面的程序的输出结果如下所示:

Calculating expensive data...
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]

从上面的结果可以看到,只有在第一次使用属性的时候才调用函数,后续再次调用函数将不会再调用函数而是直接返回缓存的结果。

实现 ORM 映射

ORM 的主要作用是把数据库中的关系数据转化为面向对象的数据,让开发者可以通过编写面向对象的代码来操作数据库。ORM 技术可以把面向对象的编程语言和关系数据库之间的映射关系抽象出来,开发者可以不用写 SQL 语句,而是直接使用面向对象的语法进行数据库操作。

我们现在需要实现一个功能,user.name 直接从数据库的 user 表当中查询 name 等于 user.name 的数据,user.name = "xxx" 根据 user 的主键 id 进行更新数据。这个功能我们就可以使用描述器实现,因为只需要了解如何使用描述器的,因此在下面的代码当中并没有连接数据库:

conn = dict()


class Field:

    def __set_name__(self, owner, name):
        self.fetch = f\'SELECT name FROM owner.table WHERE owner.key=?;\'
        print(f"self.fetch = ")
        self.store = f\'UPDATE owner.table SET name=? WHERE owner.key=?;\'
        print(f"self.store = ")

    def __get__(self, obj, objtype=None):
        return conn.execute(self.fetch, [obj.key]).fetchone()[0]

    def __set__(self, obj, value):
        conn.execute(self.store, [value, obj.key])
        conn.commit()


class User:
    table = \'User\'                    # Table name
    key = \'id\'                       # Primary key
    name = Field()
    age = Field()

    def __init__(self, key):
        self.key = key


if __name__ == \'__main__\':
    u = User("Bob")

上面的程序输出结果如下所示:

self.fetch = \'SELECT name FROM User WHERE id=?;\'
self.store = \'UPDATE User SET name=? WHERE id=?;\'
self.fetch = \'SELECT age FROM User WHERE id=?;\'
self.store = \'UPDATE User SET age=? WHERE id=?;

从上面的输出结果我们可以看到针对 name 和 age 两个字段的查询和更新语句确实生成了,当我们调用 u.name = xxx 或者 u.age = xxx 的时候就执行 __set__ 函数,就会连接数据库进行相应的操作了。

总结

在本篇文章当中主要给大家介绍了什么是描述器以及我们能够使用描述器来实现什么样的功能,事实上 python 是一个比较随意的语言,因此我们可以利用很多有意思的语法做出黑多黑科技。python 语言本身也利用描述器实现了很多有意思的功能,比如 property、staticmethod 等等,这些内容我们在后面的文章当中再进行分析。


本篇文章是深入理解 python 虚拟机系列文章之一,文章地址:https://github.com/Chang-LeHung/dive-into-cpython

更多精彩内容合集可访问项目:https://github.com/Chang-LeHung/CSCore

关注公众号:一无是处的研究僧,了解更多计算机(Java、Python、计算机系统基础、算法与数据结构)知识。

深入理解java虚拟机-常用vm参数分析

Java虚拟机深入理解系列全部文章更新中...深入理解Java虚拟机-Java内存区域透彻分析深入理解Java虚拟机-常用vm参数分析深入理解Java虚拟机-JVM内存分配与回收策略原理,从此告别JVM内存分配文盲深入理解Java虚拟机-如何利用JDK自带... 查看详情

深入理解java虚拟机

引用计数法高效率,但无法解决循环引用的问题,Python语言在使用可达性分析主流商用程序语言在使用,比如C#,Java,以及Lisp。通过一系列被称为GCRoots的对象作为起点,从这些节点开始向下搜索,搜索所走过的路径称为引用链... 查看详情

深入理解java虚拟机---虚拟机工具jps与jstat(十四)

 jps-javaprocessstatusjps类似于linux的ps命令,用于查看进程.JPS名称: jps-JavaVirtualMachineProcessStatusTool命令用法: jps[options][hostid]       options:命令选项,用来对输出格式进行控制& 查看详情

深入理解java虚拟机-如何利用visualvm对高并发项目进行性能分析

Java虚拟机深入理解系列全部文章更新中...深入理解Java虚拟机-Java内存区域透彻分析深入理解Java虚拟机-常用vm参数分析深入理解Java虚拟机-JVM内存分配与回收策略原理,从此告别JVM内存分配文盲深入理解Java虚拟机-如何利用JDK自带... 查看详情

深入理解java虚拟机类加载机制

本文内容来源于《深入理解Java虚拟机》一书,非常推荐大家去看一下这本书。本系列其他文章:【深入理解Java虚拟机】Java内存区域模型、对象创建过程、常见OOM【深入理解Java虚拟机】垃圾回收机制1、类加载机制概述虚拟机把... 查看详情

深入理解python虚拟机:令人拍案叫绝的字节码设计(代码片段)

...在调试过程当中一个比较重要的字段co_lnotab的设计原理!深入理解python虚拟机:令人拍案叫绝的字节码设计在本篇文章当中主要给大家介绍cpython虚拟机对于字节码的设计以及在调试过程当中一个比较重要的字段co_lnotab的设计原... 查看详情

深入理解python虚拟机:调试器实现原理与源码分析(代码片段)

...理,通过了解一个语言的调试器的实现原理我们可以更加深入的理解整个语言的运行机制,可以帮助我们更好的理解程序的执行。深入理解python虚拟机:调试器实现原理与源码分析调试器是一个编程语言非常重要的部分,调试器... 查看详情

深入理解java虚拟机

title:深入理解Java虚拟机date:2020-05-1410:58:24tags:JVM,虚拟机目录title:深入理解Java虚拟机date:2020-05-1410:58:24tags:JVM,虚拟机1.运行时数据区域2.GC垃圾回收3.内存分配与回收策略4.类加载机制1.加载2.验证3.准备4.解析5.初始化5.类与类加载器1.... 查看详情

深入理解jvm——虚拟机gc

对象是否存活Java的GC基于可达性分析算法(Python用引用计数法),通过可达性分析来判定对象是否存活。这个算法的基本思想是通过一系列"GCRoots"的对象作为起始点,从这些节点开始向下搜索,搜索所走过的路径称为引用链... 查看详情

深入理解python虚拟机:字典(dict)的优化(代码片段)

...,在本篇文章当中主要介绍在后续对于字典的内存优化。深入理解Python虚拟机:字典(dict)的优化在前面的文章当中我们讨论的是python3当中早期的内嵌数据结构字典的实现,在本篇文章当中主要介绍在后续对于字典的内存优化... 查看详情

深入理解jvm——虚拟机gc

对象是否存活Java的GC基于可达性分析算法(Python用引用计数法),通过可达性分析来判定对象是否存活。这个算法的基本思想是通过一系列"GCRoots"的对象作为起始点,从这些节点开始向下搜索,搜索所走过的路径称为引用链,当一... 查看详情

《深入理解jvm虚拟机》读书笔记

前言:《深入理解JVM虚拟机》是JAVA的经典著作之一,因为内容更偏向底层,比较枯燥难啃,所以之前一直没有好好的阅读过。最近因为刚好有空,又有了新目标。所以打算和《构架师的12项修炼》一起看,这样荤素搭配,吃饭不... 查看详情

《深入理解jvm——虚拟机类加载机制》

JVM深入理解JVM(5)——虚拟机类加载机制 PostedbyCrowonAugust21,2017在Class文件中描述的各种信息,最终都需要加载到虚拟机中之后才能运行和使用。而虚拟机中,而虚拟机如何加载这些Class文件?Class文件中的信息进入到虚拟... 查看详情

深入理解java虚拟机(类文件结构)

深入理解Java虚拟机(类文件结构)欢迎关注微信公众号:BaronTalk,获取更多精彩好文!之前在阅读ASM文档时,对于已编译类的结构、方法描述符、访问标志、ACC_PUBLIC、ACC_PRIVATE、各种字节码指令等等许多概念听起来都是云山雾... 查看详情

深入理解java虚拟机走进java

1.JDK:java程序设计语言、java虚拟机、javaAPI二、自动内存管理机制-----------------------------------------------------  1.运行时数据区域:    (1)java虚拟机在执行java程序的过程中会把所管理的内存划分为若干个不同的数据区域。这些... 查看详情

深入理解python虚拟机:描述器实现原理与源码分析(代码片段)

...节码的指令,我们就可以真正了解到描述器背后的原理!深入理解python虚拟机:描述器实现原理与源码分析在本篇文章当中主要给大家介绍描述器背后的实现原理,通过分析cpython对应的源代码了解与描述器相关的字节码的指令... 查看详情

深入理解java虚拟机

 让我们开启java虚拟机的愉快之旅。一、java虚拟机的特点1、支持跨平台。2、支持多种语言,不止只有java语言,只有语言支持的相应的规范,即可java虚拟机中运行。二、java的发展版本说明java在不断更新和优化,其中有很多... 查看详情

深入理解java虚拟机到底是什么?

好文转载:http://blog.csdn.net/zhangjg_blog/article/details/20380971什么是Java虚拟机 作为一个Java程序员,我们每天都在写Java代码,我们写的代码都是在一个叫做Java虚拟机的东西上执行的。但是如果要问什么是虚拟机,恐怕很多人就会模... 查看详情