动态规划-01背包问题

在M件物品取出若干件放在空间为W的背包里，每件物品的体积为W1，W2……Wn，与之相对应的价值为P1,P2……Pn。求出获得最大价值的方案。

注意：在本题中，所有的体积值均为整数。01的意思是，每个物品都是一个整体，要么整个都要，要么都不要。

1）最优子结构

考虑所有物品的子集合，考虑第n个物品都有两种情况: 1. 包括在最优方案中  2. 不在最优方案中

因此，能获得的最大价值，即为以下两个值中较大的那个

1) 在剩下 n-1 个物品中(剩余 W 重量可用)的情况能得到的最大价值 (即排除了 第n个物品)

2)  第n个物品的价值 加上 剩下   剩下的 n-1 个物品(剩余W- wn的重量)能得到的最大价值。(即包含了第n个物品)

如果第n个物品的重量，超过了当前的剩余重量W，那么只能选情况1)， 排除第n个物品。

2) 重叠子问题

下面是一个递归的实现，按照上面的最优子结构。

01 /* 朴素的递归实现  0-1 背包 */
02 #include<stdio.h>
03
04 int max(int a, int b) { return (a > b)? a : b; }
05
06 // 返回  前n个物品在容量为W时，能得到的最大价值
07 int knapSack(int W, int wt[], int val[], int n)
08 {
09    // 没有物品了
10    if (n == 0 || W == 0)
11        return 0;
12
13    // 如果当前第n个物品超重了，就排除在外
14    if (wt[n-1] > W)
15        return knapSack(W, wt, val, n-1);
16
17    //返回两种情况下最大的那个 (1) 包括第n个物品 (2) 不包括第n个物品
18    else return max( val[n-1] + knapSack(W-wt[n-1], wt, val, n-1),
19                     knapSack(W, wt, val, n-1)
20                   );
21 }
22
23 // 测试
24 int main()
25 {
26     int val[] = {60, 100, 120};
27     int wt[] = {10, 20, 30};
28     int  W = 50;
29     int n = sizeof(val)/sizeof(val[0]);
30     printf("%d", knapSack(W, wt, val, n));
31     return 0;
32 }

这种方法其实就是搜索了所有的情况，但是有很多重复的计算。时间复杂度是指数级的 O(2^n)。

01 在下面的递归树中 K() 代表 knapSack().
02 输入数据如下：
03 wt[] = {1, 1, 1}, W = 2, val[] = {10, 20, 30}
04
05                        K(3, 2)         ---------> K(n, W)
06                    /            \
07                  /                \
08             K(2,2)                  K(2,1)
09           /       \                  /    \
10         /           \              /        \
11        K(1,2)      K(1,1)        K(1,1)     K(1,0)
12        /  \         /   \          /   \
13      /      \     /       \      /       \
14 K(0,2)  K(0,1)  K(0,1)  K(0,0)  K(0,1)   K(0,0)

可见相同的子问题被计算多次。01背包满足动态规划算法的两个基本属性(重叠子问题和最优子结构)。可以通过自下而上的打表，存储中间结果，来避免重复计算。动态规划解法如下：

01 #include<stdio.h>
02 int max(int a, int b) { return (a > b)? a : b; }
03
04 int knapSack(int W, int wt[], int val[], int n)
05 {
06    int i, w;
07    int dp[n+1][W+1];
08
09    for (i = 0; i <= n; i++)
10    {
11        for (w = 0; w <= W; w++)
12        {
13            if (i==0 || w==0)
14                dp[i][w] = 0;
15            else if (wt[i-1] <= w)
16                  dp[i][w] = max(val[i-1] + dp[i-1][w-wt[i-1]],  dp[i-1][w]);
17            else
18                  dp[i][w] = dp[i-1][w];
19        }
20    }
21    return dp[n][W];
22 }
23
24 int main()
25 {
26     int val[] = {60, 100, 120};
27     int wt[] = {10, 20, 30};
28     int  W = 50;
29     int n = sizeof(val)/sizeof(val[0]);
30     printf("%d", knapSack(W, wt, val, n));
31     return 0;
32 }

空间复杂度和时间复杂度都为 O(Wn).  由于打表的过程中，计算的当前行只依赖上一行，空间复杂度可以优化为O(W);

参考：http://www.geeksforgeeks.org/dynamic-programming-set-10-0-1-knapsack-problem/

更多关于算法分析的文章：http://www.acmerblog.com/category/zhuanti/algorithm