# Heading
# 算法的基本概念
算法是对特定问题求解步骤的一种描述,它是指令的有限序列,其中的每条指令表示一个或多个操作。包含5个重要特性:
- 有穷性 一个算法必须总在执行有穷步之后结束,且每一步都可在有穷时间内完成。
- 确定性 算法中每条指令必须有确切的含义,对于相同的输入只能得出相同的输出。
- 可行性 算法中描述的操作都可以通过已经实现的基本运算执行有限次来实现。
- 输入 一个算法有零个或多个输入,这些输入取自于某个特定的对象的集合。
- 输出 一个算法有一个或多个输出,这些输出是与输入有着某种特定关系的量。
通常一个好的算法应考虑达到以下目标:
- 正确性 正确解决问题。
- 可读性 开发人员容易理解。
- 健壮性 输出非法数据时,算法能适当地作出反应或进行处理,而不是产生莫名其妙的输出结果。
- 效率与低存储量需求 效率是指算法执行的时间,存储量需求是指算法执行过程中所需要的最大存储空间,这两者都与问题的规模相关。
# 算法效率的度量
# 时间复杂度
一个语句的频度是指该语句在算法中被重复执行的次数。算法中所有语句的频度之和记为 T(n),它是该算法问题规模n的函数,时间复杂度主要分析 T(n) 的数量级。算法中基本运算(最深层循环内的语句)的频度与 T(n) 同数量级,因此通常采用算法中基本运算的频度 f(n) 来分析算法的时间复杂度。记为:
T(n) = O(f(n))
- O: T(n) 的数量级。
- 最坏时间复杂度:最坏情况下,算法的时间复杂度。
- 平均时间复杂度:所有可能输入实例在等概率出现的情况下,算法的期望运行时间。
- 最好时间复杂度:最好情况下,算法的时间复杂度。 一般总是考虑最坏时间复杂度,以保证算法的运行时间不会比它更长。分析时有以下两条规则:
- 加法规则
T(n) = T1(n) + T2(n) = O(f(n)) + O(g(n)) = O(max(f(n),g(n))) - 乘法规则
T(n) = T1(n) * T2(n) = O(f(n)) * O(g(n)) = O(f(n) * g(n))
常用的渐进时间复杂度
O(1) < O(log_2n) < O(n) < O(nlog_2n) < O(n^2) < O(n^3) < O(2^n) < O(n!) < O(n^n)
# 空间复杂度
空间复杂度S(n)定义为该算法所耗费的存储空间,它是问题规模n的函数,记为: S(n) = O(g(n))
一个算法在执行时除需要存储空间来存放本身所用的指令、常数、变量和输入数据外,还需要一些对数据进行操作的工作单元和存储一些为实现计算所需要信息的辅助空间。若输入数据所占用空间只取决于问题本身,和算法无关,则只需要分析除输入和程序之外的额外空间。
算法原地工作是指算法所需要的辅助空间为常量,即O(1)。