10.2. functools — 可调用对象上的高阶函数和操作 — Python 文档

来自菜鸟教程
Python/docs/3.6/library/functools
跳转至:导航、​搜索

10.2. 功能工具 — 可调用对象上的高阶函数和操作

源代码: :source:`Lib/functools.py`



functools 模块用于高阶函数:作用于或返回其他函数的函数。 通常,出于此模块的目的,任何可调用对象都可以视为函数。

functools 模块定义了以下函数:

functools.cmp_to_key(func)

将旧式比较函数转换为 键函数 。 与接受关键函数的工具一起使用(例如 sorted()min()max()heapq.nlargest() ]、heapq.nsmallest()itertools.groupby())。 此函数主要用作从支持使用比较函数的 Python 2 转换而来的程序的转换工具。

比较函数是任何可调用的函数,它接受两个参数,对它们进行比较,并在小于时返回负数,相等时返回零,或大于时返回正数。 键函数是一个可调用的函数,它接受一个参数并返回另一个用作排序键的值。

例子:

sorted(iterable, key=cmp_to_key(locale.strcoll))  # locale-aware sort order

有关排序示例和简短的排序教程,请参阅 Sorting HOW TO

3.2 版中的新功能。

@functools.lru_cache(maxsize=128, typed=False)

装饰器用记忆调用来包装函数,最多保存 maxsize 最近的调用。 当使用相同的参数定期调用昂贵的或 I/O 绑定的函数时,它可以节省时间。

由于字典用于缓存结果,因此函数的位置和关键字参数必须是可散列的。

如果maxsize设置为None,LRU特性被禁用,缓存可以无限制增长。 当 maxsize 是 2 的幂时,LRU 特性表现最佳。

如果 typed 设置为 true,不同类型的函数参数将被分别缓存。 例如,f(3)f(3.0) 将被视为具有不同结果的不同调用。

为了帮助衡量缓存的有效性并调整 maxsize 参数,包装函数使用 cache_info() 函数进行检测,该函数返回一个名为 的元组 显示 命中未命中maxsizecurrsize。 在多线程环境中,命中和未命中是近似的。

装饰器还提供了一个 cache_clear() 函数来清除或使缓存失效。

原始底层函数可通过 __wrapped__ 属性访问。 这对于内省、绕过缓存或使用不同的缓存重新包装函数很有用。

LRU(最近最少使用)缓存 在最近的调用是即将到来的调用的最佳预测指标时效果最好(例如,新闻服务器上最流行的文章往往每天都在变化)。 缓存的大小限制确保缓存不会在不受长时间运行的进程(例如 Web 服务器)的限制的情况下增长。

一般来说,LRU 缓存应该只在您想要重用以前计算的值时使用。 因此,缓存具有副作用的函数、需要在每次调用时创建不同可变对象的函数或诸如 time() 或 random() 之类的不纯函数是没有意义的。

静态网页内容的 LRU 缓存示例:

@lru_cache(maxsize=32)
def get_pep(num):
    'Retrieve text of a Python Enhancement Proposal'
    resource = 'http://www.python.org/dev/peps/pep-%04d/' % num
    try:
        with urllib.request.urlopen(resource) as s:
            return s.read()
    except urllib.error.HTTPError:
        return 'Not Found'

>>> for n in 8, 290, 308, 320, 8, 218, 320, 279, 289, 320, 9991:
...     pep = get_pep(n)
...     print(n, len(pep))

>>> get_pep.cache_info()
CacheInfo(hits=3, misses=8, maxsize=32, currsize=8)

使用缓存高效计算 斐波那契数 以实现 动态规划 技术的示例:

@lru_cache(maxsize=None)
def fib(n):
    if n < 2:
        return n
    return fib(n-1) + fib(n-2)

>>> [fib(n) for n in range(16)]
[0, 1, 1, 2, 3, 5, 8, 13, 21, 34, 55, 89, 144, 233, 377, 610]

>>> fib.cache_info()
CacheInfo(hits=28, misses=16, maxsize=None, currsize=16)

3.2 版中的新功能。

3.3 版更改: 添加 类型 选项。

@functools.total_ordering

给定一个定义一个或多个丰富的比较排序方法的类,这个类装饰器提供其余的。 这简化了指定所有可能的丰富比较操作所涉及的工作:

该类必须定义 __lt__()__le__()__gt__()__ge__() 之一。 此外,该类应提供 __eq__() 方法。

例如:

@total_ordering
class Student:
    def _is_valid_operand(self, other):
        return (hasattr(other, "lastname") and
                hasattr(other, "firstname"))
    def __eq__(self, other):
        if not self._is_valid_operand(other):
            return NotImplemented
        return ((self.lastname.lower(), self.firstname.lower()) ==
                (other.lastname.lower(), other.firstname.lower()))
    def __lt__(self, other):
        if not self._is_valid_operand(other):
            return NotImplemented
        return ((self.lastname.lower(), self.firstname.lower()) <
                (other.lastname.lower(), other.firstname.lower()))

笔记

虽然这个装饰器可以很容易地创建表现良好的全序类型,但它 确实 以执行较慢和派生比较方法的更复杂堆栈跟踪为代价。 如果性能基准测试表明这是给定应用程序的瓶颈,那么实现所有六种丰富的比较方法可能会提供简单的速度提升。

3.2 版中的新功能。

3.4 版更改: 现在支持从无法识别的类型的底层比较函数返回 NotImplemented。

functools.partial(func, *args, **keywords)

返回一个新的 部分对象 ,它在调用时的行为类似于使用位置参数 args 和关键字参数 keywords 调用的 func。 如果为调用提供了更多参数,则将它们附加到 args。 如果提供了额外的关键字参数,它们将扩展并覆盖 keywords。 大致相当于:

def partial(func, *args, **keywords):
    def newfunc(*fargs, **fkeywords):
        newkeywords = keywords.copy()
        newkeywords.update(fkeywords)
        return func(*args, *fargs, **newkeywords)
    newfunc.func = func
    newfunc.args = args
    newfunc.keywords = keywords
    return newfunc

partial() 用于部分函数应用程序,它“冻结”函数参数和/或关键字的某些部分,从而产生具有简化签名的新对象。 例如, partial() 可用于创建一个可调用的,其行为类似于 int() 函数,其中 base 参数默认为两个:

>>> from functools import partial
>>> basetwo = partial(int, base=2)
>>> basetwo.__doc__ = 'Convert base 2 string to an int.'
>>> basetwo('10010')
18
class functools.partialmethod(func, *args, **keywords)

返回一个新的 partialmethod 描述符,它的行为类似于 partial,除了它被设计用作方法定义而不是直接调用。

func 必须是一个 描述符 或一个可调用对象(与普通函数一样的对象都作为描述符处理)。

func 是一个描述符时(比如一个普通的 Python 函数,classmethod(), staticmethod(), abstractmethod() 的另一个实例X152X]partialmethod),对 __get__ 的调用被委托给底层描述符,并返回一个适当的 部分对象 作为结果。

func 是非描述符可调用时,会动态创建适当的绑定方法。 这在用作方法时表现得像一个普通的 Python 函数: self 参数将作为第一个位置参数插入,甚至在提供的 argskeywords 之前到 partialmethod 构造函数。

例子:

>>> class Cell(object):
...     def __init__(self):
...         self._alive = False
...     @property
...     def alive(self):
...         return self._alive
...     def set_state(self, state):
...         self._alive = bool(state)
...     set_alive = partialmethod(set_state, True)
...     set_dead = partialmethod(set_state, False)
...
>>> c = Cell()
>>> c.alive
False
>>> c.set_alive()
>>> c.alive
True

3.4 版中的新功能。

functools.reduce(function, iterable[, initializer])

将两个自变量的函数从左到右累加到序列的项上,从而将序列缩减为单个值。 例如,reduce(lambda x, y: x+y, [1, 2, 3, 4, 5]) 计算 ((((1+2)+3)+4)+5)。 左边的参数 x 是累积值,右边的参数 y 是来自 序列 的更新值。 如果存在可选的 initializer,则在计算中将其放置在序列的项之前,并在序列为空时作为默认值。 如果未给出 initializersequence 仅包含一项,则返回第一项。

大致相当于:

def reduce(function, iterable, initializer=None):
    it = iter(iterable)
    if initializer is None:
        value = next(it)
    else:
        value = initializer
    for element in it:
        value = function(value, element)
    return value
@functools.singledispatch

将函数转换为 单调度 泛型函数

要定义通用函数,请使用 @singledispatch 装饰器对其进行装饰。 请注意,调度发生在第一个参数的类型上,相应地创建您的函数:

>>> from functools import singledispatch
>>> @singledispatch
... def fun(arg, verbose=False):
...     if verbose:
...         print("Let me just say,", end=" ")
...     print(arg)

要向函数添加重载实现,请使用通用函数的 register() 属性。 它是一个装饰器,接受一个类型参数并装饰一个实现该类型操作的函数:

>>> @fun.register(int)
... def _(arg, verbose=False):
...     if verbose:
...         print("Strength in numbers, eh?", end=" ")
...     print(arg)
...
>>> @fun.register(list)
... def _(arg, verbose=False):
...     if verbose:
...         print("Enumerate this:")
...     for i, elem in enumerate(arg):
...         print(i, elem)

要启用注册 lambdas 和预先存在的函数,可以以函数形式使用 register() 属性:

>>> def nothing(arg, verbose=False):
...     print("Nothing.")
...
>>> fun.register(type(None), nothing)

register() 属性返回未装饰的函数,该函数启用装饰器堆叠、酸洗以及为每个变体独立创建单元测试:

>>> @fun.register(float)
... @fun.register(Decimal)
... def fun_num(arg, verbose=False):
...     if verbose:
...         print("Half of your number:", end=" ")
...     print(arg / 2)
...
>>> fun_num is fun
False

调用时,泛型函数根据第一个参数的类型进行调度:

>>> fun("Hello, world.")
Hello, world.
>>> fun("test.", verbose=True)
Let me just say, test.
>>> fun(42, verbose=True)
Strength in numbers, eh? 42
>>> fun(['spam', 'spam', 'eggs', 'spam'], verbose=True)
Enumerate this:
0 spam
1 spam
2 eggs
3 spam
>>> fun(None)
Nothing.
>>> fun(1.23)
0.615

如果特定类型没有注册实现,则使用其方法解析顺序来查找更通用的实现。 用 @singledispatch 修饰的原始函数是为基本 object 类型注册的,这意味着如果找不到更好的实现,则使用它。

要检查泛型函数将为给定类型选择哪种实现,请使用 dispatch() 属性:

>>> fun.dispatch(float)
<function fun_num at 0x1035a2840>
>>> fun.dispatch(dict)    # note: default implementation
<function fun at 0x103fe0000>

要访问所有已注册的实现,请使用只读 registry 属性:

>>> fun.registry.keys()
dict_keys([<class 'NoneType'>, <class 'int'>, <class 'object'>,
          <class 'decimal.Decimal'>, <class 'list'>,
          <class 'float'>])
>>> fun.registry[float]
<function fun_num at 0x1035a2840>
>>> fun.registry[object]
<function fun at 0x103fe0000>

3.4 版中的新功能。

functools.update_wrapper(wrapper, wrapped, assigned=WRAPPER_ASSIGNMENTS, updated=WRAPPER_UPDATES)

wrapper 函数更新为 wrapped 函数。 可选参数是元组,用于指定将原始函数的哪些属性直接分配给包装函数上的匹配属性,以及使用原始函数的相应属性更新包装函数的哪些属性。 这些参数的默认值是模块级常量 WRAPPER_ASSIGNMENTS(分配给包装函数的 __module____name____qualname____annotations__ ] 和 __doc__,文档字符串)和 WRAPPER_UPDATES(更新包装函数的 __dict__,即 实例字典)。

允许出于内省和其他目的访问原始函数(例如 绕过缓存装饰器,例如 lru_cache()),该函数会自动将 __wrapped__ 属性添加到引用被包装函数的包装器。

此函数的主要用途是在 decorator 函数中,这些函数包装装饰函数并返回包装器。 如果包装函数没有更新,返回函数的元数据将反映包装定义而不是原始函数定义,这通常没有帮助。

update_wrapper() 可以与函数以外的可调用对象一起使用。 assignedupdated 中命名的任何属性在被包装的对象中缺失的都将被忽略(即 此函数不会尝试在包装函数上设置它们)。 如果包装函数本身缺少 updated 中命名的任何属性,仍会引发 AttributeError

3.2新功能:自动添加__wrapped__属性。

3.2 新功能:默认复制 __annotations__ 属性。

3.2 版更改: 缺少属性不再触发 AttributeError

3.4 版更改: __wrapped__ 属性现在总是指包装的函数,即使该函数定义了 __wrapped__ 属性。 (见 :issue:`17482`

@functools.wraps(wrapped, assigned=WRAPPER_ASSIGNMENTS, updated=WRAPPER_UPDATES)

这是一个方便的函数,用于在定义包装函数时调用 update_wrapper() 作为函数装饰器。 相当于partial(update_wrapper, wrapped=wrapped, assigned=assigned, updated=updated)。 例如:

>>> from functools import wraps
>>> def my_decorator(f):
...     @wraps(f)
...     def wrapper(*args, **kwds):
...         print('Calling decorated function')
...         return f(*args, **kwds)
...     return wrapper
...
>>> @my_decorator
... def example():
...     """Docstring"""
...     print('Called example function')
...
>>> example()
Calling decorated function
Called example function
>>> example.__name__
'example'
>>> example.__doc__
'Docstring'

如果不使用这个装饰器工厂,示例函数的名称将是 'wrapper',原始 example() 的文档字符串将丢失。

10.2.1. 部分的对象

partial 对象是由 partial() 创建的可调用对象。 它们具有三个只读属性:

partial.func
一个可调用的对象或函数。 对 partial 对象的调用将使用新的参数和关键字转发到 func
partial.args
最左边的位置参数将被添加到提供给 partial 对象调用的位置参数之前。
partial.keywords
调用 partial 对象时将提供的关键字参数。

partial 对象类似于 function 对象,因为它们是可调用的、弱可引用的,并且可以具有属性。 有一些重要的区别。 例如,__name____doc__ 属性不是自动创建的。 此外,在类中定义的 partial 对象的行为类似于静态方法,并且在实例属性查找期间不会转换为绑定方法。