Python中的Deque: 實作高效的佇列與堆疊-Python教學-PHP中文網

開始使用Deque

有效地彈出和追加元素

访问Deque中的任意元素

用Deque构建高效队列

总结

首頁

後端開發

Python教學

Python中的Deque: 實作高效的佇列與堆疊

WBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWB

Apr 12, 2023 pm 09:46 PM

python 堆疊佇列

Python 中的 deque 是一個低階的、高度最佳化的雙端佇列，對於實現優雅、高效的Pythonic 佇列和堆疊很有用，它們是計算中最常見的列表式資料類型。

本文中，雲朵君將和大家一起學習如下：

開始使用deque
有效地彈出和追加元素
訪問deque中的任意元素
用deque建立高效能佇列

開始使用Deque

向Python 清單的右端追加元素和彈出元素的操作，一般非常有效率。如果用大 O 表示時間複雜性，那麼可以說它們是 O(1)。而當 Python 需要重新分配記憶體來增加底層列表以接受新的元素時，這些操作就會變慢，時間複雜度可能變成 O(n)。

此外，在 Python 清單的左端追加和彈出元素的操作，也是非常低效的，時間複雜度為O(n)。

由於清單提供了 .append() 和 .pop() 這兩個操作，它們可以作為堆疊和佇列使用。而清單的左右端追加和彈出操作的效能問題會大大影響應用程式的整體效能。

Python 的 deque 是早在 Python 2.4 中加入到 collections 模組的第一個資料類型。這個資料型別是專門為克服 Python list 中的 .append()和 .pop() 的效率問題而設計的。

Deques是類似序列的資料類型，被設計為堆疊和佇列的一般化，它們在資料結構的兩端支援高效的記憶體和快速的追加和彈出操作。

在 deque 物件兩端的追加和彈出操作是穩定的，而且同樣有效，因為 deque 是作為雙連結列表實現。此外，deque 上的追加和彈出操作也是線程安全的和記憶體高效的。這些特性使得 deque 在Python中建立自訂堆疊和佇列時特別有用。

如果需要儲存最後看到的元素列表，也可以使用 deque，因為可以限制 deque 的最大長度。如果我們這樣做了，那麼一旦 deque 滿了，當我們在另一端添加新的元素時，它會自動丟棄一端的元素。

以下是deque 的主要特點的總結：

儲存任何資料類型的元素
是可變資料類型
支援帶in運算子的成員運算
支援索引，例如a_deque[i]
不支援切片，例如a_deque[0:2]
支援對序列和可迭代物件進行操作的內建函數，如 len() ，sorted() ，reversed() 等
不支援inplace 排序
支援正常迭代和反向迭代
#支援使用pickle
確保在兩端快速、記憶體高效和線程安全的彈出和追加操作

#建立deque 實例比較簡單。只需要從 collection 匯入 deque，然後用一個可選的迭代器作為參數來呼叫它。

>>> from collections import deque

>>> # 创建一个空的 deque
>>> deque()
deque([])

>>> # 使用不同的迭代器来创建 deque
>>> deque((1, 2, 3, 4))
deque([1, 2, 3, 4])

>>> deque([1, 2, 3, 4])
deque([1, 2, 3, 4])

>>> deque(range(1, 5))
deque([1, 2, 3, 4])

>>> deque("abcd")
deque(['a', 'b', 'c', 'd'])

>>> numbers = {"one": 1, "two": 2, "three": 3, "four": 4}
>>> deque(numbers.keys())
deque(['one', 'two', 'three', 'four'])

>>> deque(numbers.values())
deque([1, 2, 3, 4])

>>> deque(numbers.items())
deque([('one', 1), ('two', 2), ('three', 3), ('four', 4)])

登入後複製

如果實例化 deque 時沒有提供 iterable 作為參數，那麼就會得到一個空的 deque。如果提供並輸入 iterable ，那麼 deque 會用它的資料初始化新實例。初始化使用 deque.append() 由左至右進行。

Deque 初始化器需要以下兩個可選參數。

iterable一個提供初始化資料的迭代器。
maxlen一個整數，指定deque的最大長度。

如前所述，如果不提供一個 iterable ，那麼你會得到一個空的 deque。如果提供 maxlen 一個值，那麼你的 deque 只會儲存最多的 maxlen 項。

最後，也可以使用無序的可迭代對象，如 collections 來初始化 deque。在這些情況下，不會有最終 deque 中元素的預定義順序。

有效地彈出和追加元素

Deque 和 List 之間最重要的區別是，前者可以在序列的兩端進行有效的追加和彈出操作。 Deque 類別實作了專門的 .popleft() 和 .appendleft() 方法，直接對序列的左端進行操作。

>>> from collections import deque

>>> numbers = deque([1, 2, 3, 4])
>>> numbers.popleft()
1
>>> numbers.popleft()
2
>>> numbers
deque([3, 4])

>>> numbers.appendleft(2)
>>> numbers.appendleft(1)
>>> numbers
deque([1, 2, 3, 4])

登入後複製

在這裡，使用 .popleft() 和 .appendleft() 來分別彈出並增加 numbers的左端值。這些方法是針對deque的設計的，而 list 沒有這樣的方法。

Deque也提供了像list一樣的 .append() 和 .pop() 方法來操作序列的右端。然而，.pop() 的行為是不同的。

>>> from collections import deque

>>> numbers = deque([1, 2, 3, 4])
>>> numbers.pop()
4

>>> numbers.pop(0)
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
TypeError: pop() takes no arguments (1 given)

登入後複製

在這裡，.pop() 刪除並傳回 deque 容器中的最後一個元素。此方法不接受索引作為參數，因此不能使用它從 deque 中刪除任意項。只能使用它來刪除並傳回最右邊的項目。

我們認為 deque 是一個雙鍊錶。因此，給定 deque 容器中的每一項都保存著序列中上下一項的引用(指標)。

雙鍊錶使得從兩端添加和彈出元素的操作變得簡單而高效，因為只有指針需要更新，因此，這兩個操作具有相似的性能，均為O(1)。它們在效能方面也是可預測的，因為不需要重新分配記憶體和移動現有項來接受新項。

从常规 Python 列表的左端追加和弹出元素需要移动所有元素，这最终是一个 O(n) 操作。此外，将元素添加到列表的右端通常需要Python重新分配内存，并将当前项复制到新的内存位置，之后，它可以添加新项。这个过程需要更长的时间来完成，并且追加操作从 O(1)传递到 O(n)。

考虑以下关于在序列左端添加项的性能测试，deque vs list。

# time_append.py

from collections import deque
from time import perf_counter

TIMES = 10_000
a_list = []
a_deque = deque()

def average_time(func, times):
total = 0.0
for i in range(times):
start = perf_counter()
func(i)
total += (perf_counter() - start) * 1e9
return total / times

list_time = average_time(lambda i: a_list.insert(0, i), TIMES)
deque_time = average_time(lambda i: a_deque.appendleft(i), TIMES)
gain = list_time / deque_time

print(f"list.insert(){list_time:.6} ns")
print(f"deque.appendleft() {deque_time:.6} ns({gain:.6}x faster)")

登入後複製

在这个脚本中，average_time() 计算了执行一个给定次数的函数（func）的平均时间。如果我们在命令行中运行该脚本，那么我们会得到以下输出。

$ python time_append.py
list.insert()3735.08 ns
deque.appendleft() 238.889 ns(15.6352x faster)

登入後複製

在这个例子中，deque 上的 .appendleft() 要比 list 上的 .insert() 快几倍。注意 deque.appendleft() 执行时间是常量O(1)。但列表左端的 list.insert() 执行时间取决于要处理的项的数量O(n)。

在这个例子中，如果增加 TIMES 的值，那么 list.insert() 会有更高的时间测量值，而 deque.appendleft() 会得到稳定(常数)的结果。如果对 deque 和 list 的 pop 操作进行类似的性能测试，那么可以展开下面的练习块。

Exercise：测试 deque.popleft() 与 list.pop(0) 的性能

可以将上面的脚本修改为时间deque.popleft()与list.pop(0)操作并估计它们的性能。

Solution：测试 deque.popleft() 与 list.pop(0) 的性能

# time_pop.py

from collections import deque
from time import perf_counter

TIMES = 10_000
a_list = [1] * TIMES
a_deque = deque(a_list)

def average_time(func, times):
total = 0.0
for _ in range(times):
start = perf_counter()
func()
total += (perf_counter() - start) * 1e9
return total / times

list_time = average_time(lambda: a_list.pop(0), TIMES)
deque_time = average_time(lambda: a_deque.popleft(), TIMES)
gain = list_time / deque_time

print(f"list.pop(0) {list_time:.6} ns")
print(f"deque.popleft() {deque_time:.6} ns({gain:.6}x faster)")

登入後複製

list.pop(0) 2002.08 ns
deque.popleft() 326.454 ns(6.13282x faster)

同样，它deque比list从底层序列的左端删除元素要快。
尝试更改TIMES的值，看看会发生什么

登入後複製

Deque 数据类型的设计是为了保证在序列的两端进行有效的追加和弹出操作。它是处理需要在 Python 中实现队列和堆栈数据结构的问题的理想选择。

访问Deque中的任意元素

Python 的 deque 返回可变的序列，其工作方式与列表相当类似。除了可以有效地从其末端追加和弹出元素外，deque 还提供了一组类似列表的方法和其他类似序列的操作，以处理任意位置的元素。下面是其中的一些。

选项	描述
.insert(i, value)	在索引为i的deque容器中插入一个名为value的元素。
.remove (value)	删除第一个出现的 value ，如果 value 不存在则引发ValueError
a_deque[i]	从一个deque容器中检索索引为 i 的项。
del a_deque[i]	#從deque容器移除索引為 i 的項目。

我们可以使用这些方法和技术来处理 deque 对象内部任何位置的元素。下面是如何做到这一点的。

>>> from collections import deque
>>> letters = deque("abde")
>>> letters.insert(2, "c")
>>> letters
deque(['a', 'b', 'c', 'd', 'e'])

>>> letters.remove("d")
>>> letters
deque(['a', 'b', 'c', 'e'])

>>> letters[1]
'b'

>>> del letters[2]
>>> letters
deque(['a', 'b', 'e'])

登入後複製

在这里，首先将"c"插入到位置 2的letters中。然后使用 .remove() 从deque容器中移除"d"。Deque 还允许索引来访问元素，在这里使用它来访问索引1处的b。最后，你可以使用 del 关键字从 deque 中删除任何存在的项。请注意， .remove() 允许按值删除项，而del则按索引删除项。

尽管 deque 对象支持索引，但它们不支持切片，即不能像常规列表一样使用切片语法， [start:stop:step] 从现有的 deque 中提取：

>>> from collections import deque
>>> numbers = deque([1, 2, 3, 4, 5])
>>> numbers[1:3]
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
TypeError: sequence index must be integer, not 'slice'

登入後複製

Deque支持索引，却不支持分片。通常来说在一个链表上执行切片非常低效。

虽然 deque 与 list 非常相似，但 list 是基于数组的，而 deque 是基于双链表的。

Deque 基于双链表，在访问、插入和删除任意元素都是无效操作。如果需要执行这些操作，则解释器必须在deque中进行迭代，直到找到想要的元素。因而他们的时间复杂度是O(n)而不是O(1)。

下面演示了在处理任意元素时 deques 和 list 的行为。

# time_random_access.py

from collections import deque
from time import perf_counter

TIMES = 10_000
a_list = [1] * TIMES
a_deque = deque(a_list)

def average_time(func, times):
total = 0.0
for _ in range(times):
start = perf_counter()
func()
total += (perf_counter() - start) * 1e6
return total / times

def time_it(sequence):
middle = len(sequence) // 2
sequence.insert(middle, "middle")
sequence[middle]
sequence.remove("middle")
del sequence[middle]

list_time = average_time(lambda: time_it(a_list), TIMES)
deque_time = average_time(lambda: time_it(a_deque), TIMES)
gain = deque_time / list_time

print(f"list{list_time:.6} μs ({gain:.6}x faster)")
print(f"deque {deque_time:.6} μs")

登入後複製

这个脚本对插入、删除和访问一个 deque 和一个 list 中间的元素进行计时。如果运行这个脚本，得到如下所示的输出:

$ python time_random_access.py
list63.8658 μs (1.44517x faster)
deque 92.2968 μs

登入後複製

Deque并不像列表那样是随机访问的数据结构。因此，从 deque 的中间访问元素的效率要比在列表上做同样的事情低。这说明 deque 并不总是比列表更有效率。

Python 的 deque 对序列两端的操作进行了优化，所以它们在这方面一直比 list 好。另一方面，列表更适合于随机访问和固定长度的操作。下面是 deque 和 list 在性能上的一些区别。

运作	`deque`	`list`
通过索引访问任意的元素	O(n)	O(1)
在左端弹出和追加元素	O(1)	O(n)
#在右端彈出和追加元素	##O (1)	O(1) 重新指派

############### #######O(n)############O(n)################

对于列表，当解释器需要扩大列表以接受新项时，.append()的性能优势受到内存重新分配的影响而被降低。此操作需要将所有当前项复制到新的内存位置，这将极大地影响性能。

此总结可以帮助我们为手头的问题选择适当的数据类型。但是，在从列表切换到 deque 之前，一定要对代码进行剖析，它们都有各自的性能优势。

用Deque构建高效队列

Deque 是一个双端队列，提供了堆栈和队列的泛化。在本节中，我们将一起学习如何使用deque以优雅、高效和Pythonic的方式在底层实现我们自己的队列抽象数据类型（ADT）。

注意：在 Python 标准库中，queue 模块实现了多生产者、多消费者的队列，可以在多个线程之间安全地交换信息。

如果你正在处理队列，那么最好使用那些高级抽象而不是 deque ，除非你正在实现自己的数据结构。

队列是元素的collections，可以通过在一端添加元素和从另一端删除元素来修改队列。

队列以先入先出（FIFO）的方式管理元素，像一个管道一样工作，在管道的一端推入新元素，并从另一端弹出旧元素。向队列的一端添加一个元素称为 enqueue 操作；从另一端删除一个元素称为 dequeue。

为了更好地理解队列，以餐厅为例，餐馆里有很多人在排队等着点餐。通常情况下，后来的人将排在队列的末端。一旦有了空桌子，排在队伍开头的人就会离开队伍进去用餐。

下面演示了使用一个原始的deque对象来模拟这个过程。

>>> from collections import deque

>>> customers = deque()

>>> # People arriving
>>> customers.append("Jane")
>>> customers.append("John")
>>> customers.append("Linda")

>>> customers
deque(['Jane', 'John', 'Linda'])

>>> # People getting tables
>>> customers.popleft()
'Jane'
>>> customers.popleft()
'John'
>>> customers.popleft()
'Linda'

>>> # No people in the queue
>>> customers.popleft()
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
IndexError: pop from an empty deque

登入後複製

首先创建一个空的 deque 对象来表示到达餐厅的人的队列。person排队放入队列，可以使用.append()，将单个条目添加到右端。要从队列中取出一个person，可以使用.popleft() ，删除并返回deque容器左侧的各个条目。

用队列模拟工作，然而，由于deque是一个泛化，它的API]不匹配常规的队列API。例如，不是.enqueue()，而是.append()。还有.popleft() 而不是.dequeue()。此外，deque 还提供了其他一些可能不符合特定需求的操作。

我们可以创建具有特定功能的自定义队列类。可以在内部使用 deque 来存储数据，并在自定义队列中提供所需的功能。我们可以把它看作是适配器设计模式的一个实现，在这个模式中，把 deque 的接口转换成看起来更像队列接口的东西。

例如，需要一个自定义的队列抽象数据类型，提供以下功能。

排列元素
去排队的元素
返回队列的长度
支持成员资格测试
支持正常和反向迭代
提供一个方便用户的字符串表示法

此时可以写一个Queue类。

# custom_queue.py

from collections import deque

class Queue:
def __init__(self):
self._items = deque()

def enqueue(self, item):
self._items.append(item)

def dequeue(self):
try:
return self._items.popleft()
except IndexError:
raise IndexError("dequeue from an empty queue") from None

def __len__(self):
return len(self._items)

def __contains__(self, item):
return item in self._items

def __iter__(self):
yield from self._items

def __reversed__(self):
yield from reversed(self._items)

def __repr__(self):
return f"Queue({list(self._items)})"

登入後複製

._items 是一个 deque 对象，可以存储和操作队列中的元素。Queue使用 deque.append() 实现了 .enqueue()，将元素添加到队列的末端。还用 deque.popleft() 实现了 .dequeue()，以有效地从队列的开头删除元素。

支持以下特殊方法

##常規迭代#反向迭代字串表示形式

Method	Support
`.__len__ ()`	長度的 `#len()`
`#.__contains__( )`	帶有`in`的成員測試
`##常規迭代`
.__reversed__()
	# .__repr__()

############

理想情况下，.__repr__()返回一个字符串，代表一个有效的 Python 表达式。可以用这个表达式以相同的值重新创建这个对象。

然而，在上面的例子中，目的是使用方法的返回值在 interactive shell 上优雅地显示对象。可以通过接受初始化可迭代对象作为.__init__() 的参数并从中构建实例，从而从这个特定的字符串表示形式构建 Queue 实例。

有了这些补充，Queue 类就完成了。要在我们的代码中使用这个类，我们可以做如下事情。

>>> from custom_queue import Queue
>>> numbers = Queue()
>>> numbers
Queue([])

>>> # Enqueue items
>>> for number in range(1, 5):
... numbers.enqueue(number)
...
>>> numbers
Queue([1, 2, 3, 4])

>>> # Support len()
>>> len(numbers)
4

>>> # Support membership tests
>>> 2 in numbers
True
>>> 10 in numbers
False

>>> # Normal iteration
>>> for number in numbers:
... print(f"Number: {number}")
...
1
2
3
4

登入後複製