【算法】退火算法 Simulated Annealing
退火算法（Simulated Annealing, SA）是一种基于热力学模拟的优化算法，用于求解全局优化问题。它通过模拟物理退火过程来寻找全局最优解。以下是退火算法的基本原理和步骤：
一、基本原理
退火算法的灵感来源于金属在高温下缓慢冷却至低温的过程，这一过程中，金属原子逐渐排列成能量最低的晶格结构。类似地，退火算法通过模拟这一过程，在解空间中逐渐收敛到全局最优解。
二、算法步骤
-
初始解与温度设定：
- 随机生成一个初始解。
- 设定初始温度 T 。
-
循环过程：
- 在当前解的邻域内随机生成一个新解。
- 计算新解与当前解的目标函数值差异ΔE。
- 如果 ΔE≤0，接受新解（新解更优）。
- 如果 ΔE>0，以概率 P=exp(−ΔE/T) 接受新解（防止陷入局部最优）。
- 逐步降低温度 T（根据某个降温函数，如T=T×α，其中 α 为冷却速率，通常 0.8≤α≤0.99）。
-
终止条件：
- 当温度 T 低于某一阈值时，停止循环。
- 或者达到预设的最大迭代次数时，停止循环。
伪代码
function SimulatedAnnealing(InitialSolution, InitialTemperature, CoolingRate, StoppingTemperature):currentSolution = InitialSolutioncurrentTemperature = InitialTemperaturewhile currentTemperature > StoppingTemperature:newSolution = GenerateNeighbor(currentSolution)deltaE = Evaluate(newSolution) - Evaluate(currentSolution)if deltaE < 0:currentSolution = newSolutionelse if exp(-deltaE / currentTemperature) > random():currentSolution = newSolutioncurrentTemperature = currentTemperature * CoolingRatereturn currentSolution
三、应用领域
退火算法在许多领域得到了广泛应用，包括但不限于：
- 组合优化问题，如旅行商问题（TSP）。
- 连续优化问题，如函数最优化。
- 工程设计优化，如电路设计、结构优化等。
应用举例：旅行商问题（Traveling Salesman Problem, TSP）
旅行商问题是经典的组合优化问题，描述的是一名旅行商需要访问若干城市并返回出发城市，要求访问每个城市一次且总距离最短。
问题描述
给定若干城市和城市间的距离矩阵，找到一个访问所有城市的最短路径。
退火算法求解TSP步骤
-
初始解与温度设定：
- 随机生成一个初始路径作为初始解。
- 设定初始温度 T 和降温速率 α。
-
生成邻域解：
- 在当前路径中随机交换两个城市的位置，生成一个新路径。
-
目标函数：
- 计算路径的总距离。
-
接受新解的准则：
- 根据退火算法的准则接受或拒绝新解。
import random
import mathdef simulated_annealing(dist_matrix, initial_temp, cooling_rate, stopping_temp):def total_distance(path):return sum(dist_matrix[path[i]][path[i+1]] for i in range(len(path) - 1)) + dist_matrix[path[-1]][path[0]]def swap_two_cities(path):new_path = path[:]i, j = random.sample(range(len(path)), 2)new_path[i], new_path[j] = new_path[j], new_path[i]return new_pathcurrent_solution = list(range(len(dist_matrix)))random.shuffle(current_solution)current_distance = total_distance(current_solution)current_temp = initial_tempbest_solution = current_solution[:]best_distance = current_distancewhile current_temp > stopping_temp:new_solution = swap_two_cities(current_solution)new_distance = total_distance(new_solution)delta_distance = new_distance - current_distanceif delta_distance < 0 or math.exp(-delta_distance / current_temp) > random.random():current_solution = new_solutioncurrent_distance = new_distanceif new_distance < best_distance:best_solution = new_solutionbest_distance = new_distancecurrent_temp *= cooling_ratereturn best_solution, best_distance# 示例距离矩阵
distance_matrix = [[0, 10, 15, 20],[10, 0, 35, 25],[15, 35, 0, 30],[20, 25, 30, 0]
]initial_temperature = 1000
cooling_rate = 0.95
stopping_temperature = 0.01best_path, best_path_distance = simulated_annealing(distance_matrix, initial_temperature, cooling_rate, stopping_temperature)print("最短路径:", best_path)
print("最短路径距离:", best_path_distance)
解释
- total_distance: 计算路径的总距离。
- swap_two_cities: 在路径中随机交换两个城市的位置，生成一个新路径。
- simulated_annealing: 退火算法的主函数，接受距离矩阵、初始温度、冷却速率和停止温度作为参数。
- distance_matrix: 一个示例距离矩阵，定义了各个城市之间的距离。
- initial_temperature, cooling_rate, stopping_temperature: 退火算法的参数。
运行此代码将输出最短路径及其对应的总距离。
结果示例
最短路径: [0, 2, 3, 1]
最短路径距离: 80
四、优缺点
优点：
- 能够逃避局部最优，找到全局最优解。
- 适用于各种复杂优化问题。
- 实现相对简单，参数可调节性强。
缺点：
- 计算量较大，尤其在早期迭代阶段。
- 参数设置（初始温度、冷却速率、停止温度等）对算法性能影响较大，需要实验调整。
总之，退火算法通过模拟物理退火过程，有效地解决了许多复杂的全局优化问题，是一种通用且强大的优化算法。