This commit is contained in:
krahets
2023-08-20 14:52:42 +08:00
parent 96fded547b
commit 26a2e7f171
42 changed files with 234 additions and 230 deletions

View File

@ -3522,22 +3522,22 @@
<h1 id="23">2.3 &nbsp; 空间复杂度<a class="headerlink" href="#23" title="Permanent link">&para;</a></h1>
<p>「空间复杂度 Space Complexity」用于衡量算法占用内存空间随着数据量变大时的增长趋势。这个概念与时间复杂度非常类似只需将“运行时间”替换为“占用内存空间”。</p>
<p>「空间复杂度 space complexity」用于衡量算法占用内存空间随着数据量变大时的增长趋势。这个概念与时间复杂度非常类似只需将“运行时间”替换为“占用内存空间”。</p>
<h2 id="231">2.3.1 &nbsp; 算法相关空间<a class="headerlink" href="#231" title="Permanent link">&para;</a></h2>
<p>算法运行过程中使用的内存空间主要包括以下几种</p>
<p>算法运行过程中使用的内存空间主要包括以下几种</p>
<ul>
<li><strong>输入空间</strong>:用于存储算法的输入数据。</li>
<li><strong>暂存空间</strong>:用于存储算法运行过程中的变量、对象、函数上下文等数据。</li>
<li><strong>暂存空间</strong>:用于存储算法运行过程中的变量、对象、函数上下文等数据。</li>
<li><strong>输出空间</strong>:用于存储算法的输出数据。</li>
</ul>
<p>一般情况下,空间复杂度的统计范围是“暂存空间”加上“输出空间”。</p>
<p>暂存空间可以进一步划分为三个部分</p>
<p>暂存空间可以进一步划分为三个部分</p>
<ul>
<li><strong>暂存数据</strong>:用于保存算法运行过程中的各种常量、变量、对象等。</li>
<li><strong>栈帧空间</strong>:用于保存调用函数的上下文数据。系统在每次调用函数时都会在栈顶部创建一个栈帧,函数返回后,栈帧空间会被释放。</li>
<li><strong>指令空间</strong>:用于保存编译后的程序指令,在实际统计中通常忽略不计。</li>
</ul>
<p>因此在分析一段程序的空间复杂度时,<strong>我们通常统计暂存数据、输出数据、栈帧空间三部分</strong></p>
<p>在分析一段程序的空间复杂度时,<strong>我们通常统计暂存数据、栈帧空间和输出数据三部分</strong></p>
<p><img alt="算法使用的相关空间" src="../space_complexity.assets/space_types.png" /></p>
<p align="center"> 图:算法使用的相关空间 </p>
@ -3786,7 +3786,7 @@
</div>
</div>
<h2 id="232">2.3.2 &nbsp; 推算方法<a class="headerlink" href="#232" title="Permanent link">&para;</a></h2>
<p>空间复杂度的推算方法与时间复杂度大致相同,只需将统计对象从“计算操作数量”转为“使用空间大小”。</p>
<p>空间复杂度的推算方法与时间复杂度大致相同,只需将统计对象从“操作数量”转为“使用空间大小”。</p>
<p>而与时间复杂度不同的是,<strong>我们通常只关注「最差空间复杂度」</strong>。这是因为内存空间是一项硬性要求,我们必须确保在所有输入数据下都有足够的内存空间预留。</p>
<p>观察以下代码,最差空间复杂度中的“最差”有两层含义。</p>
<ol>
@ -3902,7 +3902,7 @@
</div>
</div>
</div>
<p><strong>在递归函数中,需要注意统计栈帧空间</strong>。例如以下代码:</p>
<p><strong>在递归函数中,需要注意统计栈帧空间</strong>。例如以下代码</p>
<ul>
<li>函数 <code>loop()</code> 在循环中调用了 <span class="arithmatex">\(n\)</span><code>function()</code> ,每轮中的 <code>function()</code> 都返回并释放了栈帧空间,因此空间复杂度仍为 <span class="arithmatex">\(O(1)\)</span></li>
<li>递归函数 <code>recur()</code> 在运行过程中会同时存在 <span class="arithmatex">\(n\)</span> 个未返回的 <code>recur()</code> ,从而占用 <span class="arithmatex">\(O(n)\)</span> 的栈帧空间。</li>
@ -4107,23 +4107,23 @@
</div>
</div>
<h2 id="233">2.3.3 &nbsp; 常见类型<a class="headerlink" href="#233" title="Permanent link">&para;</a></h2>
<p>设输入数据大小为 <span class="arithmatex">\(n\)</span> ,常见的空间复杂度类型(从低到高排列)</p>
<p>设输入数据大小为 <span class="arithmatex">\(n\)</span> 下图展示了常见的空间复杂度类型(从低到高排列)</p>
<div class="arithmatex">\[
\begin{aligned}
O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
\text{常数阶} &lt; \text{对数阶} &lt; \text{线性阶} &lt; \text{平方阶} &lt; \text{指数阶}
\end{aligned}
\]</div>
<p><img alt="空间复杂度的常见类型" src="../space_complexity.assets/space_complexity_common_types.png" /></p>
<p align="center"> 图:空间复杂度的常见类型 </p>
<p><img alt="常见的空间复杂度类型" src="../space_complexity.assets/space_complexity_common_types.png" /></p>
<p align="center"> 图:常见的空间复杂度类型 </p>
<div class="admonition tip">
<p class="admonition-title">Tip</p>
<p>部分示例代码需要一些前置知识,包括数组、链表、二叉树、递归算法等。如果你遇到看不懂的地方,可以在学完后面章节后再来复习。</p>
<p>部分示例代码需要一些前置知识,包括数组、链表、二叉树、递归算法等。如果你遇到看不懂的地方,可以在学完后面章节后再来复习。</p>
</div>
<h3 id="1-o1">1. &nbsp; 常数阶 <span class="arithmatex">\(O(1)\)</span><a class="headerlink" href="#1-o1" title="Permanent link">&para;</a></h3>
<p>常数阶常见于数量与输入数据大小 <span class="arithmatex">\(n\)</span> 无关的常量、变量、对象。</p>
<p>需要注意的是,在循环中初始化变量或调用函数而占用的内存,在进入下一循环后就会被释放,即不会累积占用空间,空间复杂度仍为 <span class="arithmatex">\(O(1)\)</span> </p>
<p>需要注意的是,在循环中初始化变量或调用函数而占用的内存,在进入下一循环后就会被释放,即不会累积占用空间,空间复杂度仍为 <span class="arithmatex">\(O(1)\)</span> </p>
<div class="tabbed-set tabbed-alternate" data-tabs="4:12"><input checked="checked" id="__tabbed_4_1" name="__tabbed_4" type="radio" /><input id="__tabbed_4_2" name="__tabbed_4" type="radio" /><input id="__tabbed_4_3" name="__tabbed_4" type="radio" /><input id="__tabbed_4_4" name="__tabbed_4" type="radio" /><input id="__tabbed_4_5" name="__tabbed_4" type="radio" /><input id="__tabbed_4_6" name="__tabbed_4" type="radio" /><input id="__tabbed_4_7" name="__tabbed_4" type="radio" /><input id="__tabbed_4_8" name="__tabbed_4" type="radio" /><input id="__tabbed_4_9" name="__tabbed_4" type="radio" /><input id="__tabbed_4_10" name="__tabbed_4" type="radio" /><input id="__tabbed_4_11" name="__tabbed_4" type="radio" /><input id="__tabbed_4_12" name="__tabbed_4" type="radio" /><div class="tabbed-labels"><label for="__tabbed_4_1">Java</label><label for="__tabbed_4_2">C++</label><label for="__tabbed_4_3">Python</label><label for="__tabbed_4_4">Go</label><label for="__tabbed_4_5">JS</label><label for="__tabbed_4_6">TS</label><label for="__tabbed_4_7">C</label><label for="__tabbed_4_8">C#</label><label for="__tabbed_4_9">Swift</label><label for="__tabbed_4_10">Zig</label><label for="__tabbed_4_11">Dart</label><label for="__tabbed_4_12">Rust</label></div>
<div class="tabbed-content">
<div class="tabbed-block">
@ -4432,7 +4432,7 @@ O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
</div>
</div>
<h3 id="2-on">2. &nbsp; 线性阶 <span class="arithmatex">\(O(n)\)</span><a class="headerlink" href="#2-on" title="Permanent link">&para;</a></h3>
<p>线性阶常见于元素数量与 <span class="arithmatex">\(n\)</span> 成正比的数组、链表、栈、队列等</p>
<p>线性阶常见于元素数量与 <span class="arithmatex">\(n\)</span> 成正比的数组、链表、栈、队列等</p>
<div class="tabbed-set tabbed-alternate" data-tabs="5:12"><input checked="checked" id="__tabbed_5_1" name="__tabbed_5" type="radio" /><input id="__tabbed_5_2" name="__tabbed_5" type="radio" /><input id="__tabbed_5_3" name="__tabbed_5" type="radio" /><input id="__tabbed_5_4" name="__tabbed_5" type="radio" /><input id="__tabbed_5_5" name="__tabbed_5" type="radio" /><input id="__tabbed_5_6" name="__tabbed_5" type="radio" /><input id="__tabbed_5_7" name="__tabbed_5" type="radio" /><input id="__tabbed_5_8" name="__tabbed_5" type="radio" /><input id="__tabbed_5_9" name="__tabbed_5" type="radio" /><input id="__tabbed_5_10" name="__tabbed_5" type="radio" /><input id="__tabbed_5_11" name="__tabbed_5" type="radio" /><input id="__tabbed_5_12" name="__tabbed_5" type="radio" /><div class="tabbed-labels"><label for="__tabbed_5_1">Java</label><label for="__tabbed_5_2">C++</label><label for="__tabbed_5_3">Python</label><label for="__tabbed_5_4">Go</label><label for="__tabbed_5_5">JS</label><label for="__tabbed_5_6">TS</label><label for="__tabbed_5_7">C</label><label for="__tabbed_5_8">C#</label><label for="__tabbed_5_9">Swift</label><label for="__tabbed_5_10">Zig</label><label for="__tabbed_5_11">Dart</label><label for="__tabbed_5_12">Rust</label></div>
<div class="tabbed-content">
<div class="tabbed-block">
@ -4675,7 +4675,7 @@ O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
</div>
</div>
</div>
<p>以下递归函数会同时存在 <span class="arithmatex">\(n\)</span> 个未返回的 <code>algorithm()</code> 函数,使用 <span class="arithmatex">\(O(n)\)</span> 大小的栈帧空间</p>
<p>以下递归函数会同时存在 <span class="arithmatex">\(n\)</span> 个未返回的 <code>algorithm()</code> 函数,使用 <span class="arithmatex">\(O(n)\)</span> 大小的栈帧空间</p>
<div class="tabbed-set tabbed-alternate" data-tabs="6:12"><input checked="checked" id="__tabbed_6_1" name="__tabbed_6" type="radio" /><input id="__tabbed_6_2" name="__tabbed_6" type="radio" /><input id="__tabbed_6_3" name="__tabbed_6" type="radio" /><input id="__tabbed_6_4" name="__tabbed_6" type="radio" /><input id="__tabbed_6_5" name="__tabbed_6" type="radio" /><input id="__tabbed_6_6" name="__tabbed_6" type="radio" /><input id="__tabbed_6_7" name="__tabbed_6" type="radio" /><input id="__tabbed_6_8" name="__tabbed_6" type="radio" /><input id="__tabbed_6_9" name="__tabbed_6" type="radio" /><input id="__tabbed_6_10" name="__tabbed_6" type="radio" /><input id="__tabbed_6_11" name="__tabbed_6" type="radio" /><input id="__tabbed_6_12" name="__tabbed_6" type="radio" /><div class="tabbed-labels"><label for="__tabbed_6_1">Java</label><label for="__tabbed_6_2">C++</label><label for="__tabbed_6_3">Python</label><label for="__tabbed_6_4">Go</label><label for="__tabbed_6_5">JS</label><label for="__tabbed_6_6">TS</label><label for="__tabbed_6_7">C</label><label for="__tabbed_6_8">C#</label><label for="__tabbed_6_9">Swift</label><label for="__tabbed_6_10">Zig</label><label for="__tabbed_6_11">Dart</label><label for="__tabbed_6_12">Rust</label></div>
<div class="tabbed-content">
<div class="tabbed-block">
@ -4799,7 +4799,7 @@ O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
<p align="center"> 图:递归函数产生的线性阶空间复杂度 </p>
<h3 id="3-on2">3. &nbsp; 平方阶 <span class="arithmatex">\(O(n^2)\)</span><a class="headerlink" href="#3-on2" title="Permanent link">&para;</a></h3>
<p>平方阶常见于矩阵和图,元素数量与 <span class="arithmatex">\(n\)</span> 成平方关系</p>
<p>平方阶常见于矩阵和图,元素数量与 <span class="arithmatex">\(n\)</span> 成平方关系</p>
<div class="tabbed-set tabbed-alternate" data-tabs="7:12"><input checked="checked" id="__tabbed_7_1" name="__tabbed_7" type="radio" /><input id="__tabbed_7_2" name="__tabbed_7" type="radio" /><input id="__tabbed_7_3" name="__tabbed_7" type="radio" /><input id="__tabbed_7_4" name="__tabbed_7" type="radio" /><input id="__tabbed_7_5" name="__tabbed_7" type="radio" /><input id="__tabbed_7_6" name="__tabbed_7" type="radio" /><input id="__tabbed_7_7" name="__tabbed_7" type="radio" /><input id="__tabbed_7_8" name="__tabbed_7" type="radio" /><input id="__tabbed_7_9" name="__tabbed_7" type="radio" /><input id="__tabbed_7_10" name="__tabbed_7" type="radio" /><input id="__tabbed_7_11" name="__tabbed_7" type="radio" /><input id="__tabbed_7_12" name="__tabbed_7" type="radio" /><div class="tabbed-labels"><label for="__tabbed_7_1">Java</label><label for="__tabbed_7_2">C++</label><label for="__tabbed_7_3">Python</label><label for="__tabbed_7_4">Go</label><label for="__tabbed_7_5">JS</label><label for="__tabbed_7_6">TS</label><label for="__tabbed_7_7">C</label><label for="__tabbed_7_8">C#</label><label for="__tabbed_7_9">Swift</label><label for="__tabbed_7_10">Zig</label><label for="__tabbed_7_11">Dart</label><label for="__tabbed_7_12">Rust</label></div>
<div class="tabbed-content">
<div class="tabbed-block">
@ -5134,7 +5134,7 @@ O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
<p align="center"> 图:递归函数产生的平方阶空间复杂度 </p>
<h3 id="4-o2n">4. &nbsp; 指数阶 <span class="arithmatex">\(O(2^n)\)</span><a class="headerlink" href="#4-o2n" title="Permanent link">&para;</a></h3>
<p>指数阶常见于二叉树。高度为 <span class="arithmatex">\(n\)</span> 的「满二叉树」的节点数量为 <span class="arithmatex">\(2^n - 1\)</span> ,占用 <span class="arithmatex">\(O(2^n)\)</span> 空间</p>
<p>指数阶常见于二叉树。高度为 <span class="arithmatex">\(n\)</span> 的「满二叉树」的节点数量为 <span class="arithmatex">\(2^n - 1\)</span> ,占用 <span class="arithmatex">\(O(2^n)\)</span> 空间</p>
<div class="tabbed-set tabbed-alternate" data-tabs="9:12"><input checked="checked" id="__tabbed_9_1" name="__tabbed_9" type="radio" /><input id="__tabbed_9_2" name="__tabbed_9" type="radio" /><input id="__tabbed_9_3" name="__tabbed_9" type="radio" /><input id="__tabbed_9_4" name="__tabbed_9" type="radio" /><input id="__tabbed_9_5" name="__tabbed_9" type="radio" /><input id="__tabbed_9_6" name="__tabbed_9" type="radio" /><input id="__tabbed_9_7" name="__tabbed_9" type="radio" /><input id="__tabbed_9_8" name="__tabbed_9" type="radio" /><input id="__tabbed_9_9" name="__tabbed_9" type="radio" /><input id="__tabbed_9_10" name="__tabbed_9" type="radio" /><input id="__tabbed_9_11" name="__tabbed_9" type="radio" /><input id="__tabbed_9_12" name="__tabbed_9" type="radio" /><div class="tabbed-labels"><label for="__tabbed_9_1">Java</label><label for="__tabbed_9_2">C++</label><label for="__tabbed_9_3">Python</label><label for="__tabbed_9_4">Go</label><label for="__tabbed_9_5">JS</label><label for="__tabbed_9_6">TS</label><label for="__tabbed_9_7">C</label><label for="__tabbed_9_8">C#</label><label for="__tabbed_9_9">Swift</label><label for="__tabbed_9_10">Zig</label><label for="__tabbed_9_11">Dart</label><label for="__tabbed_9_12">Rust</label></div>
<div class="tabbed-content">
<div class="tabbed-block">
@ -5284,12 +5284,12 @@ O(1) &lt; O(\log n) &lt; O(n) &lt; O(n^2) &lt; O(2^n) \newline
<h3 id="5-olog-n">5. &nbsp; 对数阶 <span class="arithmatex">\(O(\log n)\)</span><a class="headerlink" href="#5-olog-n" title="Permanent link">&para;</a></h3>
<p>对数阶常见于分治算法和数据类型转换等。</p>
<p>例如归并排序算法,输入长度为 <span class="arithmatex">\(n\)</span> 的数组,每轮递归将数组从中点划分为两半,形成高度为 <span class="arithmatex">\(\log n\)</span> 的递归树,使用 <span class="arithmatex">\(O(\log n)\)</span> 栈帧空间。</p>
<p>再例如数字转化为字符串,输入任意正整数 <span class="arithmatex">\(n\)</span> ,它的位数为 <span class="arithmatex">\(\log_{10} n\)</span> ,即对应字符串长度为 <span class="arithmatex">\(\log_{10} n\)</span> ,因此空间复杂度为 <span class="arithmatex">\(O(\log_{10} n) = O(\log n)\)</span></p>
<p>例如归并排序算法,输入长度为 <span class="arithmatex">\(n\)</span> 的数组,每轮递归将数组从中点划分为两半,形成高度为 <span class="arithmatex">\(\log n\)</span> 的递归树,使用 <span class="arithmatex">\(O(\log n)\)</span> 栈帧空间。</p>
<p>再例如数字转化为字符串,输入任意正整数 <span class="arithmatex">\(n\)</span> ,它的位数为 <span class="arithmatex">\(\log_{10} n + 1\)</span> ,即对应字符串长度为 <span class="arithmatex">\(\log_{10} n + 1\)</span> ,因此空间复杂度为 <span class="arithmatex">\(O(\log_{10} n + 1) = O(\log n)\)</span></p>
<h2 id="234">2.3.4 &nbsp; 权衡时间与空间<a class="headerlink" href="#234" title="Permanent link">&para;</a></h2>
<p>理想情况下,我们希望算法的时间复杂度和空间复杂度都能达到最优。然而在实际情况中,同时优化时间复杂度和空间复杂度通常是非常困难的。</p>
<p><strong>降低时间复杂度通常需要以提升空间复杂度为代价,反之亦然</strong>。我们将牺牲内存空间来提升算法运行速度的思路称为“以空间换时间”;反之,则称为“以时间换空间”。</p>
<p>选择哪种思路取决于我们更看重哪个方面。在大多数情况下,时间比空间更宝贵,因此以空间换时间通常是更常用的策略。当然,在数据量很大的情况下,控制空间复杂度也是非常重要的。</p>
<p>选择哪种思路取决于我们更看重哪个方面。在大多数情况下,时间比空间更宝贵,因此以空间换时间通常是更常用的策略。当然,在数据量很大的情况下,控制空间复杂度也是非常重要的。</p>