IT博客-魔のkyo的工作室-随笔分类-Algorithm

如何成为一名优秀的程序员

魔のkyo — Fri, 28 Mar 2014 03:51:00 GMT

转载请保留原帖地址：http://www.cnitblog.com/luckydmz/archive/2014/03/28/89364.html

我曾经是一名黑客，我购买黑客杂志期刊，关注最新的漏洞利用，那时候电脑安装的操作系统主要是WinXP和Win2000，很多人使用弱口令甚至空口令，随便选一个网段用扫描软件一扫就一堆肉鸡（黑客对可以被远程控制的机器的称呼），再加上各种服务的缓冲区溢出漏洞，SQL注入漏洞，网络环境安全当时可谓一塌糊涂，我入侵过很多个人电脑，也入侵过一些服务器，甚至通过键盘记录器得到过一些人的账户和密码甚至是ADSL密码，当时是可以通过ADSL进行某些购买的，不过我从未利用这些获取过任何利益，也没有进行过任何破坏行动，我只是觉得很有成就感，当时的我就沉浸在这所谓的黑客技术中。逐渐不再满足于使用别人提供的工具，我想搞清楚他们的原理以便可以利用最新的漏洞，我接触到一些漏洞的溢出源代码，它们一般是用C语言描述的，而我不知道如何使用它，还有一些论坛上会讨论如何使用反汇编对软件进行破解或者找到其中的漏洞，而我对这些一窍不通，我发现我根本不懂什么真正的技术，如果没有别人的工具我什么都不会，制作工具的那些人才是真正的黑客，他们掌握的才是真正的技术。从那时起我就认识到要学习编程，编程才是真正的技术，然后我便从书店买了一本《C++捷径教程》并开始了我的编程生涯，那一年我在读高二。

……

之后我一直在学习编程，不过却再没踏上黑客之路，如今我已从计算机专业毕业，并在游戏开发行业从业近5年了，算起来我学习和使用C/C++已经10年有余了。

好吧，这个引子有点可能长了，我只想说明相比刚刚学会写图形界面的妄自尊大的初学者就在论坛上侃侃而谈指点他人或许我的意见更具说服力。
现在我经常看到一些初学者在编程论坛和QQ群里询问该如何学习编程，有人问已经已经学了C还要不要学C++，已经学了C++还要不要学JAVA，要不要学C#，诸如此类要学习哪些语言的问题，有人会回答他们“是的，你需要学习Java，C语言已经过时了。”，“现在学习C语言已经找不到工作了，你还是学习C#吧”，可能还有更多人有类似疑问我根本没有遇到，这些初学者可能将花费大量时间在肤浅的层面徘徊，有时我会去指导他们，但是遇到得多了我也疲于指导了。
我并不是说多学习一些不同的语言不好，相反，学习不同的语言确实可以开拓思路，但我不提倡初学者接连甚至同时学习不同的语言，因为编程的精髓不在语言，语言只是对思想的一种描述形式，事实上除了上面提到的C++我也接触和使用过很多其他语言，C, VB, FORTRAN, JAVA, C#, PHP, Javascript, SQL, ASP.NET, LUA, RUBY, 而我学习这些语言的时间越晚我就学习得越快，只要花几天学习一下基础语法，然后写一些DEMO，一边写一边查文档学习使用标准库，用不了一个月就可以基本掌握这门语言。因为我已经掌握了一些编程本质的东西。

如果说语言是肤浅的，那编程的内在究竟是什么呢？我们应该如何修炼编程“内功”呢？
我将这些知识划分为3个方面
1. 数学、算法和数据结构
2. 编码规范和设计模式
3. 开发实践和团队领导
其中2个方面有关个人能力的培养，1个方面有关团队建设和开发管理。

接下来我将通过3篇BLOG将分别就这三方面的能力培养和相关书籍分别阐述 (超链接和BLOG以后将慢慢补全)

如何成为一名优秀的程序员——数学&算法篇
 如何成为一名优秀的程序员——编码&设计篇
如何成为一名优秀的程序员——开发实践&团队领导篇

魔のkyo 2014-03-28 11:51 发表评论

几种限定界的二分算法

魔のkyo — Mon, 13 Dec 2010 14:42:00 GMT

其实类似的东西我写过很多次了，从来不留模板，这次也在想要不要发上来存一下呢？
我觉得这种小东西应该时常写一下可以锻炼一下对算法的敏感，又一想不如发上来抹杀各位读者对算法的敏感，恩

//给定下确界(最大下界)，返回[b,e)上满足v<=*p的最小的p，如果不存在则返回的p不属于[b,e)，事实上是e
template<typename T>
const T* MLB(const T* const b, const T* const e, const T& v)
{
    if(b>=e) return e;

    const T* bb = b;
    const T* ee = e;
    while(ee-bb>2)
    {
        const T* mm = bb+(ee-bb)/2;
        if(*mm<v)
        {
            bb = mm + 1;
        }
        else // v<=*p
        {
            ee = mm + 1;
        }
    }

    for(const T* p = bb; p<ee;p++)
    {
        if(v<=*p)
        {
            return p;
        }
    }
    return e;
}

//给定下(不确)界，返回[b,e)上满足v<*p的最小的p，如果不存在则返回的p不属于[b,e)，事实上是e
template<typename T>
const T* LB(const T* const b, const T* const e, const T& v)
{
    if(b>=e) return e;

    const T* bb = b;
    const T* ee = e;
    while(ee-bb>2)
    {
        const T* mm = bb+(ee-bb)/2;
        if(*mm<=v)
        {
            bb = mm + 1;
        }
        else // v<*p
        {
            ee = mm + 1;
        }
    }

    for(const T* p = bb; p<ee;p++)
    {
        if(v<*p)
        {
            return p;
        }
    }
    return e;
}

//给定上确界(最小上界)，返回[b,e)上满足*p<=v的最大的p，如果不存在则返回的p不属于[b,e)，事实上是b-1
template<typename T>
const T* LUB(const T* const b, const T* const e, const T& v)
{
    if(b>=e) return b-1;

    const T* bb = b;
    const T* ee = e;
    while(ee-bb>2)
    {
        const T* m = bb+(ee-bb)/2;
        if(*m<=v)
        {
            bb = m;
        }
        else // v<*p
        {
            ee = m;
        }
    }

    for(const T* p = ee-1; p>=bb;p--)
    {
        if(*p<=v)
        {
            return p;
        }
    }
    return b-1;
}

//给定上(不确)界，返回[b,e)上满足*p
template<typename T>
const T* UB(const T* const b, const T* const e, const T& v)
{
    if(b>=e) return b-1;

    const T* bb = b;
    const T* ee = e;
    while(ee-bb>2)
    {
        const T* m = bb+(ee-bb)/2;
        if(*m<v)
        {
            bb = m;
        }
        else // v<=*p
        {
            ee = m;
        }
    }

    for(const T* p = ee-1; p>=bb;p--)
    {
        if(*p<v)
        {
            return p;
        }
    }
    return b-1;
}

魔のkyo 2010-12-13 22:42 发表评论

模拟退火算法

魔のkyo — Sun, 28 Sep 2008 05:59:00 GMT

模拟退火的基本思想:
　　(1) 初始化：初始温度T(充分大)，初始解状态S(是算法迭代的起点)，每个T值的迭代次数L
　　(2) 对k=1，……，L做第(3)至第6步：
　　(3) 产生新解S′
　　(4) 计算增量Δt′=C(S′)-C(S)，其中C(S)为评价函数
　　(5) 若Δt′<0则接受S′作为新的当前解，否则以概率exp(-Δt′/T)接受S′作为新的当前解.
　　(6) 如果满足终止条件则输出当前解作为最优解，结束程序。
终止条件通常取为连续若干个新解都没有被接受时终止算法。
　　(7) T逐渐减少，且T->0，然后转第2步。

注：新解不是更优的时候以概率exp(-Δt′/T)接受S′作为新解的目的是“跳出极值点”，极值点未必是最值点，但极值点周围的解都没有当前解优，这就是温度高时不稳定的好处。

伪码：

double T=1e6;//视具体情况而定

const int L=100;

double bestC;//全局最优评价值,这里是越低越优

double newC,dt;

while(T>eps){

         for(int i=0;i<L;i++){

                  newx=produce(x);//从旧的解产生新的解，生成算法可以和T相关，使得随着T在不断的减少，newx不断精确

                  newC=C(newx);

                  dt=newC-bestC;

                   if(dt<0 || exp(-dt/T)>frand() ){ //frand返回[0,1)上的随机数

                            bestC=min(bestC,newC);

                            x=newx;

                   }

         }

         T*=0.618;

}

再给一个zju2976的实例

//以各个点正下方做初始状态进行模拟退火
#include <iostream>
#include <algorithm>
#include <vector>
#include <string>
#include <cmath>
using namespace std;
typedef long long ll;
typedef ll i64;
typedef vector<int> vi;
const int INF=0x3F3F3F3F;
#define mset(a,x) memset(a,x,sizeof(a))
#define ABS(a) ((a) >= 0 ? (a) : -(a))
#define Assert(x) if(!(x))do{cout<<1;}while(1)
#define dbg(x) cerr<<#x<<" : "<
ll gcd(ll a,ll b){ll r;while(b){r=a%b;a=b;b=r;}return a;}

//return a double value [0,1)
double frand()
{
    return 1.0*rand()/RAND_MAX;
}

inline double sq(double x){return x*x;}

int n;
int X[105],Y[105],Z[105],I[105];

double res;
double maxe,e;

double calcE(int x,int y)
{
    double res=0;
    for(int i=0;i<n;i++){
        res+=I[i]*Z[i]/pow((sq(x-X[i])+sq(y-Y[i])+sq(0-Z[i])),1.5);
    }
    return res;
}

int main()
{
    int T;
    scanf("%d",&T);
    while(T--){
        scanf("%d",&n);
        for(int i=0;i<n;i++){
            scanf("%d%d%d%d",&X[i],&Y[i],&Z[i],&I[i]);
        }
        res=0;
        for(int i=0;i<n;i++){
            int x=X[i],y=Y[i];
            maxe=calcE(x,y);
            int flag;
            double T=1e6;
            do{
                double dt;
                flag=0;
                e=calcE(x+1,y);
                dt=maxe-e;
                if(e>maxe || exp(-dt/T)>frand() ){    flag=1;    maxe=max(maxe,e);    x++; }
                e=calcE(x,y+1);
                dt=maxe-e;
                if(e>maxe || exp(-dt/T)>frand() ){    flag=1;    maxe=max(maxe,e);    y++; }
                e=calcE(x-1,y);
                dt=maxe-e;
                if(e>maxe || exp(-dt/T)>frand()){    flag=1;    maxe=max(maxe,e);    x--; }
                e=calcE(x,y-1);
                dt=maxe-e;
                if(e>maxe || exp(-dt/T)>frand()){   flag=1;    maxe=max(maxe,e);    y--; }
                T*=0.618;
            }while(flag);
            res=max(res,maxe);
        }
        printf("%.2lf\n",res);
    }
}

魔のkyo 2008-09-28 13:59 发表评论

LIS模板

魔のkyo — Fri, 22 Aug 2008 17:02:00 GMT

前段时间发现自己的求解最优值的LIS模板有错（虽然过了ZJU和PKU的题目，以及在若干contest中用其过题都没有发生问题），而后修正了，今天发现就连自己的求解最优解的LIS模板都有错，真是汗。。。
这里是测试的地方，只挂掉第6,10组数据就算过了。
http://www.rqnoj.cn/Problem_Show.asp?PID=167

下面两个模板，求解最优值的是我自己写的，求解最优解的是我收的，用STL写的比较精简

int* binary(int* b,int* e,int x)
{
    int *mid;
    if(x<*b)return b;
    while(b<e-2){
        mid=b+(e-b)/2;
        if(*mid<x) b=mid;//此处修改严格或非严格
        else e=mid+1;
    }
    return e-1;
}

int LIS(int a[],int n)
{
    if(!n)return 0;
    int i,k;
    int *b=new int[n];
    b[0]=a[0];
    k=1;
    for(i=1;i<n;++i){
        if(b[k-1]<a[i]) b[k++]=a[i];//此处修改严格或非严格
        else *binary(b,b+k,a[i])=a[i];
    }
    delete [] b;
    return k;
}

/* Finds longest strictly increasing subsequence. O(n log k) algorithm. */
template<typename T> vector<int> LIS(vector<T> &a)
{
    vector<int> b, p(a.size());
    int u, v;
    if (a.size() < 1) return b;
    b.push_back(0);
    for (int i = 1; i < (int)a.size(); i++) {
        if (a[b.back()] < a[i]) {
            p[i] = b.back();
            b.push_back(i);
            continue;
        }
        for (u = 0, v = b.size()-1; u < v;) {
            int c = (u + v) / 2;
            if (a[b[c]] < a[i]) u=c+1; else v=c;
        }
        if (a[i] < a[b[u]]) {
            if (u > 0) p[i] = b[u-1];
            b[u] = i;
        }
    }
    for (u = b.size(), v = b.back(); u--; v = p[v]) b[u] = v;
    return b;
}

魔のkyo 2008-08-23 01:02 发表评论

DD牛的背包九讲

魔のkyo — Wed, 06 Aug 2008 12:27:00 GMT

P01: 01背包问题
题目
有N件物品和一个容量为V的背包。第i件物品的费用是c[i]，价值是w[i]。求解将哪些物品装入背包可使这些物品的费用总和不超过背包容量，且价值总和最大。

基本思路
这是最基础的背包问题，特点是：每种物品仅有一件，可以选择放或不放。

用子问题定义状态：即f[i][v]表示前i件物品恰放入一个容量为v的背包可以获得的最大价值。则其状态转移方程便是：f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}。

这个方程非常重要，基本上所有跟背包相关的问题的方程都是由它衍生出来的。所以有必要将它详细解释一下：“将前i件物品放入容量为v的背包中”这个子问题，若只考虑第i件物品的策略（放或不放），那么就可以转化为一个只牵扯前i-1件物品的问题。如果不放第i件物品，那么问题就转化为“前i-1件物品放入容量为v的背包中”；如果放第i件物品，那么问题就转化为“前i-1件物品放入剩下的容量为v-c[i]的背包中”，此时能获得的最大价值就是f [i-1][v-c[i]]再加上通过放入第i件物品获得的价值w[i]。

注意f[i][v]有意义当且仅当存在一个前i件物品的子集，其费用总和为v。所以按照这个方程递推完毕后，最终的答案并不一定是f[N] [V]，而是f[N][0..V]的最大值。如果将状态的定义中的“恰”字去掉，在转移方程中就要再加入一项f[i][v-1]，这样就可以保证f[N] [V]就是最后的答案。至于为什么这样就可以，由你自己来体会了。

优化空间复杂度
以上方法的时间和空间复杂度均为O(N*V)，其中时间复杂度基本已经不能再优化了，但空间复杂度却可以优化到O(V)。

先考虑上面讲的基本思路如何实现，肯定是有一个主循环i=1..N，每次算出来二维数组f[i][0..V]的所有值。那么，如果只用一个数组f [0..V]，能不能保证第i次循环结束后f[v]中表示的就是我们定义的状态f[i][v]呢？f[i][v]是由f[i-1][v]和f[i-1] [v-c[i]]两个子问题递推而来，能否保证在推f[i][v]时（也即在第i次主循环中推f[v]时）能够得到f[i-1][v]和f[i-1][v -c[i]]的值呢？事实上，这要求在每次主循环中我们以v=V..0的顺序推f[v]，这样才能保证推f[v]时f[v-c[i]]保存的是状态f[i -1][v-c[i]]的值。伪代码如下：

for i=1..N
for v=V..0
f[v]=max{f[v],f[v-c[i]]+w[i]};

其中的f[v]=max{f[v],f[v-c[i]]}一句恰就相当于我们的转移方程f[i][v]=max{f[i-1][v],f[i- 1][v-c[i]]}，因为现在的f[v-c[i]]就相当于原来的f[i-1][v-c[i]]。如果将v的循环顺序从上面的逆序改成顺序的话，那么则成了f[i][v]由f[i][v-c[i]]推知，与本题意不符，但它却是另一个重要的背包问题P02最简捷的解决方案，故学习只用一维数组解01背包问题是十分必要的。

总结
01背包问题是最基本的背包问题，它包含了背包问题中设计状态、方程的最基本思想，另外，别的类型的背包问题往往也可以转换成01背包问题求解。故一定要仔细体会上面基本思路的得出方法，状态转移方程的意义，以及最后怎样优化的空间复杂度。

P02: 完全背包问题
题目
有N种物品和一个容量为V的背包，每种物品都有无限件可用。第i种物品的费用是c[i]，价值是w[i]。求解将哪些物品装入背包可使这些物品的费用总和不超过背包容量，且价值总和最大。

基本思路
这个问题非常类似于01背包问题，所不同的是每种物品有无限件。也就是从每种物品的角度考虑，与它相关的策略已并非取或不取两种，而是有取0件、取1件、取2件……等很多种。如果仍然按照解01背包时的思路，令f[i][v]表示前i种物品恰放入一个容量为v的背包的最大权值。仍然可以按照每种物品不同的策略写出状态转移方程，像这样：f[i][v]=max{f[i-1][v-k*c[i]]+k*w[i]|0<=k*c[i]<= v}。这跟01背包问题一样有O(N*V)个状态需要求解，但求解每个状态的时间则不是常数了，求解状态f[i][v]的时间是O(v/c[i])，总的复杂度是超过O(VN)的。

将01背包问题的基本思路加以改进，得到了这样一个清晰的方法。这说明01背包问题的方程的确是很重要，可以推及其它类型的背包问题。但我们还是试图改进这个复杂度。

一个简单有效的优化
完全背包问题有一个很简单有效的优化，是这样的：若两件物品i、j满足c[i]<=c[j]且w[i]>=w[j]，则将物品j去掉，不用考虑。这个优化的正确性显然：任何情况下都可将价值小费用高得j换成物美价廉的i，得到至少不会更差的方案。对于随机生成的数据，这个方法往往会大大减少物品的件数，从而加快速度。然而这个并不能改善最坏情况的复杂度，因为有可能特别设计的数据可以一件物品也去不掉。

转化为01背包问题求解
既然01背包问题是最基本的背包问题，那么我们可以考虑把完全背包问题转化为01背包问题来解。最简单的想法是，考虑到第i种物品最多选V/c [i]件，于是可以把第i种物品转化为V/c[i]件费用及价值均不变的物品，然后求解这个01背包问题。这样完全没有改进基本思路的时间复杂度，但这毕竟给了我们将完全背包问题转化为01背包问题的思路：将一种物品拆成多件物品。

更高效的转化方法是：把第i种物品拆成费用为c[i]*2^k、价值为w[i]*2^k的若干件物品，其中k满足c[i]*2^k for i=1..N for v=0..V f[v]=max{f[v],f[v-c[i]]+w[i]};

你会发现，这个伪代码与P01的伪代码只有v的循环次序不同而已。为什么这样一改就可行呢？首先想想为什么P01中要按照v=V..0的逆序来循环。这是因为要保证第i次循环中的状态f[i][v]是由状态f[i-1][v-c[i]]递推而来。换句话说，这正是为了保证每件物品只选一次，保证在考虑“选入第i件物品”这件策略时，依据的是一个绝无已经选入第i件物品的子结果f[i-1][v-c[i]]。而现在完全背包的特点恰是每种物品可选无限件，所以在考虑“加选一件第i种物品”这种策略时，却正需要一个可能已选入第i种物品的子结果f[i][v-c[i]]，所以就可以并且必须采用v= 0..V的顺序循环。这就是这个简单的程序为何成立的道理。

这个算法也可以以另外的思路得出。例如，基本思路中的状态转移方程可以等价地变形成这种形式：f[i][v]=max{f[i-1][v],f[i][v-c[i]]+w[i]}，将这个方程用一维数组实现，便得到了上面的伪代码。

总结
完全背包问题也是一个相当基础的背包问题，它有两个状态转移方程，分别在“基本思路”以及“O(VN)的算法“的小节中给出。希望你能够对这两个状态转移方程都仔细地体会，不仅记住，也要弄明白它们是怎么得出来的，最好能够自己想一种得到这些方程的方法。事实上，对每一道动态规划题目都思考其方程的意义以及如何得来，是加深对动态规划的理解、提高动态规划功力的好方法。

P03: 多重背包问题
题目
有N种物品和一个容量为V的背包。第i种物品最多有n[i]件可用，每件费用是c[i]，价值是w[i]。求解将哪些物品装入背包可使这些物品的费用总和不超过背包容量，且价值总和最大。

基本算法
这题目和完全背包问题很类似。基本的方程只需将完全背包问题的方程略微一改即可，因为对于第i种物品有n[i]+1种策略：取0件，取1件……取 n[i]件。令f[i][v]表示前i种物品恰放入一个容量为v的背包的最大权值，则：f[i][v]=max{f[i-1][v-k*c[i]]+ k*w[i]|0<=k<=n[i]}。复杂度是O(V*∑n[i])。

转化为01背包问题
另一种好想好写的基本方法是转化为01背包求解：把第i种物品换成n[i]件01背包中的物品，则得到了物品数为∑n[i]的01背包问题，直接求解，复杂度仍然是O(V*∑n[i])。

但是我们期望将它转化为01背包问题之后能够像完全背包一样降低复杂度。仍然考虑二进制的思想，我们考虑把第i种物品换成若干件物品，使得原问题中第i种物品可取的每种策略——取0..n[i]件——均能等价于取若干件代换以后的物品。另外，取超过n[i]件的策略必不能出现。

方法是：将第i种物品分成若干件物品，其中每件物品有一个系数，这件物品的费用和价值均是原来的费用和价值乘以这个系数。使这些系数分别为 1,2,4,...,2^(k-1),n[i]-2^k+1，且k是满足n[i]-2^k+1>0的最大整数。例如，如果n[i]为13，就将这种物品分成系数分别为1,2,4,6的四件物品。

分成的这几件物品的系数和为n[i]，表明不可能取多于n[i]件的第i种物品。另外这种方法也能保证对于0..n[i]间的每一个整数，均可以用若干个系数的和表示，这个证明可以分0..2^k-1和2^k..n[i]两段来分别讨论得出，并不难，希望你自己思考尝试一下。

这样就将第i种物品分成了O(log n[i])种物品，将原问题转化为了复杂度为O(V*∑log n[i])的01背包问题，是很大的改进。

O(VN)的算法
多重背包问题同样有O(VN)的算法。这个算法基于基本算法的状态转移方程，但应用单调队列的方法使每个状态的值可以以均摊O(1)的时间求解。由于用单调队列优化的DP已超出了NOIP的范围，故本文不再展开讲解。我最初了解到这个方法是在楼天成的“男人八题”幻灯片上。

小结
这里我们看到了将一个算法的复杂度由O(V*∑n[i])改进到O(V*∑log n[i])的过程，还知道了存在应用超出NOIP范围的知识的O(VN)算法。希望你特别注意“拆分物品”的思想和方法，自己证明一下它的正确性，并用尽量简洁的程序来实现。

P04: 混合三种背包问题
问题
如果将P01、P02、P03混合起来。也就是说，有的物品只可以取一次（01背包），有的物品可以取无限次（完全背包），有的物品可以取的次数有一个上限（多重背包）。应该怎么求解呢？

01背包与完全背包的混合
考虑到在P01和P02中最后给出的伪代码只有一处不同，故如果只有两类物品：一类物品只能取一次，另一类物品可以取无限次，那么只需在对每个物品应用转移方程时，根据物品的类别选用顺序或逆序的循环即可，复杂度是O(VN)。伪代码如下：

for i=1..N
if 第i件物品是01背包
for v=V..0
f[v]=max{f[v],f[v-c[i]]+w[i]};
else if 第i件物品是完全背包
for v=0..V
f[v]=max{f[v],f[v-c[i]]+w[i]};

再加上多重背包
如果再加上有的物品最多可以取有限次，那么原则上也可以给出O(VN)的解法：遇到多重背包类型的物品用单调队列解即可。但如果不考虑超过NOIP范围的算法的话，用P03中将每个这类物品分成O(log n[i])个01背包的物品的方法也已经很优了。

小结
有人说，困难的题目都是由简单的题目叠加而来的。这句话是否公理暂且存之不论，但它在本讲中已经得到了充分的体现。本来01背包、完全背包、多重背包都不是什么难题，但将它们简单地组合起来以后就得到了这样一道一定能吓倒不少人的题目。但只要基础扎实，领会三种基本背包问题的思想，就可以做到把困难的题目拆分成简单的题目来解决。
P05: 二维费用的背包问题
问题
二维费用的背包问题是指：对于每件物品，具有两种不同的费用；选择这件物品必须同时付出这两种代价；对于每种代价都有一个可付出的最大值（背包容量）。问怎样选择物品可以得到最大的价值。设这两种代价分别为代价1和代价2，第i件物品所需的两种代价分别为a[i]和b[i]。两种代价可付出的最大值（两种背包容量）分别为V和U。物品的价值为w[i]。

算法
费用加了一维，只需状态也加一维即可。设f[i][v][u]表示前i件物品付出两种代价分别为v和u时可获得的最大价值。状态转移方程就是：f [i][v][u]=max{f[i-1][v][u],f[i-1][v-a[i]][u-b[i]]+w[i]}。如前述方法，可以只使用二维的数组：当每件物品只可以取一次时变量v和u采用顺序的循环，当物品有如完全背包问题时采用逆序的循环。当物品有如多重背包问题时拆分物品。

物品总个数的限制
有时，“二维费用”的条件是以这样一种隐含的方式给出的：最多只能取M件物品。这事实上相当于每件物品多了一种“件数”的费用，每个物品的件数费用均为1，可以付出的最大件数费用为M。换句话说，设f[v][m]表示付出费用v、最多选m件时可得到的最大价值，则根据物品的类型（01、完全、多重）用不同的方法循环更新，最后在f[0..V][0..M]范围内寻找答案。

另外，如果要求“恰取M件物品”，则在f[0..V][M]范围内寻找答案。

小结
事实上，当发现由熟悉的动态规划题目变形得来的题目时，在原来的状态中加一纬以满足新的限制是一种比较通用的方法。希望你能从本讲中初步体会到这种方法。

P06: 分组的背包问题
问题
有N件物品和一个容量为V的背包。第i件物品的费用是c[i]，价值是w[i]。这些物品被划分为若干组，每组中的物品互相冲突，最多选一件。求解将哪些物品装入背包可使这些物品的费用总和不超过背包容量，且价值总和最大。

算法
这个问题变成了每组物品有若干种策略：是选择本组的某一件，还是一件都不选。也就是说设f[k][v]表示前k组物品花费费用v能取得的最大权值，则有f[k][v]=max{f[k-1][v],f[k-1][v-c[i]]+w[i]|物品i属于第k组}。

使用一维数组的伪代码如下：

for 所有的组k
for 所有的i属于组k
for v=V..0
f[v]=max{f[v],f[v-c[i]]+w[i]}

另外，显然可以对每组中的物品应用P02中“一个简单有效的优化”。

小结
分组的背包问题将彼此互斥的若干物品称为一个组，这建立了一个很好的模型。不少背包问题的变形都可以转化为分组的背包问题（例如P07），由分组的背包问题进一步可定义“泛化物品”的概念，十分有利于解题。

P07: 有依赖的背包问题
简化的问题
这种背包问题的物品间存在某种“依赖”的关系。也就是说，i依赖于j，表示若选物品i，则必须选物品j。为了简化起见，我们先设没有某个物品既依赖于别的物品，又被别的物品所依赖；另外，没有某件物品同时依赖多件物品。

算法
这个问题由NOIP2006金明的预算方案一题扩展而来。遵从该题的提法，将不依赖于别的物品的物品称为“主件”，依赖于某主件的物品称为“附件”。由这个问题的简化条件可知所有的物品由若干主件和依赖于每个主件的一个附件集合组成。

按照背包问题的一般思路，仅考虑一个主件和它的附件集合。可是，可用的策略非常多，包括：一个也不选，仅选择主件，选择主件后再选择一个附件，选择主件后再选择两个附件……无法用状态转移方程来表示如此多的策略。（事实上，设有n个附件，则策略有2^n+1个，为指数级。）

考虑到所有这些策略都是互斥的（也就是说，你只能选择一种策略），所以一个主件和它的附件集合实际上对应于P06中的一个物品组，每个选择了主件又选择了若干个附件的策略对应于这个物品组中的一个物品，其费用和价值都是这个策略中的物品的值的和。但仅仅是这一步转化并不能给出一个好的算法，因为物品组中的物品还是像原问题的策略一样多。

再考虑P06中的一句话：可以对每组中的物品应用P02中“一个简单有效的优化”。这提示我们，对于一个物品组中的物品，所有费用相同的物品只留一个价值最大的，不影响结果。所以，我们可以对主件i的“附件集合”先进行一次01背包，得到费用依次为0..V-c[i]所有这些值时相应的最大价值f'[0..V-c[i]]。那么这个主件及它的附件集合相当于V-c[i]+1个物品的物品组，其中费用为c[i]+k的物品的价值为f'[k]+w[i]。也就是说原来指数级的策略中有很多策略都是冗余的，通过一次01背包后，将主件i转化为 V-c[i]+1个物品的物品组，就可以直接应用P06的算法解决问题了。

更一般的问题
更一般的问题是：依赖关系以图论中“森林”的形式给出（森林即多叉树的集合），也就是说，主件的附件仍然可以具有自己的附件集合，限制只是每个物品最多只依赖于一个物品（只有一个主件）且不出现循环依赖。

解决这个问题仍然可以用将每个主件及其附件集合转化为物品组的方式。唯一不同的是，由于附件可能还有附件，就不能将每个附件都看作一个一般的01 背包中的物品了。若这个附件也有附件集合，则它必定要被先转化为物品组，然后用分组的背包问题解出主件及其附件集合所对应的附件组中各个费用的附件所对应的价值。

事实上，这是一种树形DP，其特点是每个父节点都需要对它的各个儿子的属性进行一次DP以求得自己的相关属性。这已经触及到了“泛化物品”的思想。看完P08后，你会发现这个“依赖关系树”每一个子树都等价于一件泛化物品，求某节点为根的子树对应的泛化物品相当于求其所有儿子的对应的泛化物品之和。

小结
NOIP2006的那道背包问题我做得很失败，写了上百行的代码，却一分未得。后来我通过思考发现通过引入“物品组”和“依赖”的概念可以加深对这题的理解，还可以解决它的推广问题。用物品组的思想考虑那题中极其特殊的依赖关系：物品不能既作主件又作附件，每个主件最多有两个附件，可以发现一个主件和它的两个附件等价于一个由四个物品组成的物品组，这便揭示了问题的某种本质。

我想说：失败不是什么丢人的事情，从失败中全无收获才是。

P08: 泛化物品
定义
考虑这样一种物品，它并没有固定的费用和价值，而是它的价值随着你分配给它的费用而变化。这就是泛化物品的概念。

更严格的定义之。在背包容量为V的背包问题中，泛化物品是一个定义域为0..V中的整数的函数h，当分配给它的费用为v时，能得到的价值就是h(v)。

这个定义有一点点抽象，另一种理解是一个泛化物品就是一个数组h[0..V]，给它费用v，可得到价值h[V]。

一个费用为c价值为w的物品，如果它是01背包中的物品，那么把它看成泛化物品，它就是除了h(c)=w其它函数值都为0的一个函数。如果它是完全背包中的物品，那么它可以看成这样一个函数，仅当v被c整除时有h(v)=v/c*w，其它函数值均为0。如果它是多重背包中重复次数最多为n的物品，那么它对应的泛化物品的函数有h(v)=v/c*w仅当v被c整除且v/c<=n，其它情况函数值均为0。

一个物品组可以看作一个泛化物品h。对于一个0..V中的v，若物品组中不存在费用为v的的物品，则h(v)=0，否则h(v)为所有费用为v的物品的最大价值。P07中每个主件及其附件集合等价于一个物品组，自然也可看作一个泛化物品。

泛化物品的和
如果面对两个泛化物品h和l，要用给定的费用从这两个泛化物品中得到最大的价值，怎么求呢？事实上，对于一个给定的费用v，只需枚举将这个费用如何分配给两个泛化物品就可以了。同样的，对于0..V的每一个整数v，可以求得费用v分配到h和l中的最大价值f(v)。也即f(v)=max{h(k) +l(v-k)|0<=k<=v}。可以看到，f也是一个由泛化物品h和l决定的定义域为0..V的函数，也就是说，f是一个由泛化物品h和 l决定的泛化物品。

由此可以定义泛化物品的和：h、l都是泛化物品，若泛化物品f满足f(v)=max{h(k)+l(v-k)|0<=k<=v}，则称f是h与l的和，即f=h+l。这个运算的时间复杂度是O(V^2)。

泛化物品的定义表明：在一个背包问题中，若将两个泛化物品代以它们的和，不影响问题的答案。事实上，对于其中的物品都是泛化物品的背包问题，求它的答案的过程也就是求所有这些泛化物品之和的过程。设此和为s，则答案就是s[0..V]中的最大值。

背包问题的泛化物品
一个背包问题中，可能会给出很多条件，包括每种物品的费用、价值等属性，物品之间的分组、依赖等关系等。但肯定能将问题对应于某个泛化物品。也就是说，给定了所有条件以后，就可以对每个非负整数v求得：若背包容量为v，将物品装入背包可得到的最大价值是多少，这可以认为是定义在非负整数集上的一件泛化物品。这个泛化物品——或者说问题所对应的一个定义域为非负整数的函数——包含了关于问题本身的高度浓缩的信息。一般而言，求得这个泛化物品的一个子域（例如0..V）的值之后，就可以根据这个函数的取值得到背包问题的最终答案。

综上所述，一般而言，求解背包问题，即求解这个问题所对应的一个函数，即该问题的泛化物品。而求解某个泛化物品的一种方法就是将它表示为若干泛化物品的和然后求之。

小结
本讲可以说都是我自己的原创思想。具体来说，是我在学习函数式编程的 Scheme 语言时，用函数编程的眼光审视各类背包问题得出的理论。这一讲真的很抽象，也许在“模型的抽象程度”这一方面已经超出了NOIP的要求，所以暂且看不懂也没关系。相信随着你的OI之路逐渐延伸，有一天你会理解的。

我想说：“思考”是一个OIer最重要的品质。简单的问题，深入思考以后，也能发现更多。

P09: 背包问题问法的变化
以上涉及的各种背包问题都是要求在背包容量（费用）的限制下求可以取到的最大价值，但背包问题还有很多种灵活的问法，在这里值得提一下。但是我认为，只要深入理解了求背包问题最大价值的方法，即使问法变化了，也是不难想出算法的。

例如，求解最多可以放多少件物品或者最多可以装满多少背包的空间。这都可以根据具体问题利用前面的方程求出所有状态的值（f数组）之后得到。

还有，如果要求的是“总价值最小”“总件数最小”，只需简单的将上面的状态转移方程中的max改成min即可。

下面说一些变化更大的问法。

输出方案
一般而言，背包问题是要求一个最优值，如果要求输出这个最优值的方案，可以参照一般动态规划问题输出方案的方法：记录下每个状态的最优值是由状态转移方程的哪一项推出来的，换句话说，记录下它是由哪一个策略推出来的。便可根据这条策略找到上一个状态，从上一个状态接着向前推即可。

还是以01背包为例，方程为f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}。再用一个数组g[i] [v]，设g[i][v]=0表示推出f[i][v]的值时是采用了方程的前一项（也即f[i][v]=f[i-1][v]），g[i][v]表示采用了方程的后一项。注意这两项分别表示了两种策略：未选第i个物品及选了第i个物品。那么输出方案的伪代码可以这样写（设最终状态为f[N][V]）：

i=N
v=V
while(i>0)
if(g[i][v]==0)
print "未选第i项物品"
else if(g[i][v]==1)
print "选了第i项物品"
v=v-c[i]

另外，采用方程的前一项或后一项也可以在输出方案的过程中根据f[i][v]的值实时地求出来，也即不须纪录g数组，将上述代码中的g[i] [v]==0改成f[i][v]==f[i-1][v]，g[i][v]==1改成f[i][v]==f[i-1][v-c[i]]+w[i]也可。

输出字典序最小的最优方案
这里“字典序最小”的意思是1..N号物品的选择方案排列出来以后字典序最小。以输出01背包最小字典序的方案为例。

一般而言，求一个字典序最小的最优方案，只需要在转移时注意策略。首先，子问题的定义要略改一些。我们注意到，如果存在一个选了物品1的最优方案，那么答案一定包含物品1，原问题转化为一个背包容量为v-c[1]，物品为2..N的子问题。反之，如果答案不包含物品1，则转化成背包容量仍为V，物品为2..N的子问题。不管答案怎样，子问题的物品都是以i..N而非前所述的1..i的形式来定义的，所以状态的定义和转移方程都需要改一下。但也许更简易的方法是先把物品逆序排列一下，以下按物品已被逆序排列来叙述。

在这种情况下，可以按照前面经典的状态转移方程来求值，只是输出方案的时候要注意：从N到1输入时，如果f[i][v]==f[i-v]及f[i][v]==f[i-1][f-c[i]]+w[i]同时成立，应该按照后者（即选择了物品i）来输出方案。

求方案总数
对于一个给定了背包容量、物品费用、物品间相互关系（分组、依赖等）的背包问题，除了再给定每个物品的价值后求可得到的最大价值外，还可以得到装满背包或将背包装至某一指定容量的方案总数。

对于这类改变问法的问题，一般只需将状态转移方程中的max改成sum即可。例如若每件物品均是01背包中的物品，转移方程即为f[i][v]=sum{f[i-1][v],f[i-1][v-c[i]]+w[i]}，初始条件f[0][0]=1。

事实上，这样做可行的原因在于状态转移方程已经考察了所有可能的背包组成方案。

最优方案的总数
这里的最优方案是指物品总价值最大的方案。还是以01背包为例。

结合求最大总价值和方案总数两个问题的思路，最优方案的总数可以这样求：f[i][v]意义同前述，g[i][v]表示这个子问题的最优方案的总数，则在求f[i][v]的同时求g[i][v]的伪代码如下：

for i=1..N
for v=0..V
f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}
g[i][v]=0
if(f[i][v]==f[i-1][v])
inc(g[i][v],g[i-1][v]
if(f[i][v]==f[i-1][v-c[i]]+w[i])
inc(g[i][v],g[i-1][v-c[i]])

如果你是第一次看到这样的问题，请仔细体会上面的伪代码。

小结
显然，这里不可能穷尽背包类动态规划问题所有的问法。甚至还存在一类将背包类动态规划问题与其它领域（例如数论、图论）结合起来的问题，在这篇论背包问题的专文中也不会论及。但只要深刻领会前述所有类别的背包问题的思路和状态转移方程，遇到其它的变形问法，只要题目难度还属于NOIP，应该也不难想出算法。

触类旁通、举一反三，应该也是一个OIer应有的品质吧。

魔のkyo 2008-08-06 20:27 发表评论

RMQ-2D

魔のkyo — Sat, 22 Sep 2007 03:11:00 GMT

//RMQ-2D example 2859
const int MAXN=300+1;
const int MAXM=300+1;
const int MAXF=9;
const int MAXE=9;
const int INF=0x7FFFFFFF;
inline int max(int a,int b){return a>b?a:b;}
inline int max(int a,int b,int c,int d){return a>?=b>?=c>?=d;}
int a[MAXN][MAXM],n,m;
class{
    int dp[MAXN][MAXF+1][MAXM][MAXE+1];//dp[i][f][j][e]表示以(i,j)为左上角元素大小为2^f * 2^e的矩阵中的最大(小)值
public:
    void init(){
        for(int i=0;i<n;i++)
            for(int j=0;j<m;j++)
                dp[i][0][j][0]=a[i][j];
        for(int j=0;j<m;j++)
            for(int f=1,s=1;s<n;s=(1<<f++))
                for(int i=0;i+s<n;i++)
                    dp[i][f][j][0]=max(dp[i][f-1][j][0],dp[i+s][f-1][j][0]);
        for(int i=0;i<n;i++)
            for(int e=1,r=1;r<m;r=(1<<e++))
                for(int j=0;j+r<m;j++)
                    dp[i][0][j][e]=max(dp[i][0][j][e-1],dp[i][0][j+r][e-1]);

        for(int f=1,s=1;s<n;s=(1<<f++))
            for(int e=1,r=1;r<m;r=(1<<e++))
                for(int i=0;i+s<n;i++)
                    for(int j=0;j+r<m;j++)
                        dp[i][f][j][e]=max(dp[i][f-1][j][e-1],
                                       dp[i+s][f-1][j][e-1],
                                       dp[i][f-1][j+r][e-1],
                                       dp[i+s][f-1][j+r][e-1]);
    }

    int query(int x1,int y1,int x2,int y2){
        if(x1>x2 || y1>y2)return -INF;
        int dx=x2-x1+1;
        int dy=y2-y1+1;
        int f,e;
        for(f=0;(1<<f)<=dx;f++);
        for(e=0;(1<<e)<=dy;e++);
        f--;e--;
        return max(dp[x1][f][y1][e],
        dp[x2-(1<<f)+1][f][y1][e],
        dp[x1][f][y2-(1<<e)+1][e],
        dp[x2-(1<<f)+1][f][y2-(1<<e)+1][e]);
    }
}RMQ;

魔のkyo 2007-09-22 11:11 发表评论

RMQ(Range Minimum/Maximum Query) 实现

魔のkyo — Wed, 29 Aug 2007 16:49:00 GMT

//RMQ(Range Minimum/Maximum Query)  example:pku3368
//预处理O(nlogn) 查询O(1)
//下标从0开始
const int MAXN=100000+1;
const int MAXF=17;
const int INF=0x7FFFFFFF;
//可以断言 ceiil(log(MAXN,2))==MAXF

inline int max(int a,int b){return a>b?a:b;}

class{
    int dp[MAXN][MAXF+1];//dp[i][j]表示从a[i]起连续2^j次方个数的最大值
public:
    void init(int* a,int n){
        for(int i=0;i<n;i++){
            dp[i][0]=a[i];
        }
        for(int f=1,s=1;s<n;s=(1<<f++)){
            for(int i=0;i+s<n;i++){
                dp[i][f]=max(dp[i][f-1],dp[i+s][f-1]);
            }
        }
    }

    int query(int l,int r){
        if(l>r)return -INF;
        int d=r-l+1;
        int f;
        for(f=0;(1<<f)<=d;f++);
        f--;
        return max(dp[l][f],dp[r-(1<<f)+1][f]);
    }
}RMQ;

魔のkyo 2007-08-30 00:49 发表评论

[转]RMQ问题以及ST算法

魔のkyo — Wed, 29 Aug 2007 14:22:00 GMT

       RMQ(Range Minimum/Maximum Query)问题是求区间最值问题。你当然可以写个O(n)的（怎么写都可以吧=_=),但是万一要询问最值1000000遍，估计你就要挂了。这时候你可以放心地写一个线段树（前提是不写错）O（logn)的复杂度应该不会挂。但是，这里有更牛的算法，就是ST算法，它可以做到O(nlogn)的预处理，O(1)！！！地回答每个询问。
       来看一下ST算法是怎么实现的(以最大值为例）：

       首先是预处理，用一个DP解决。设a[i]是要求区间最值的数列，f[i,j]表示从第i个数起连续2^j个数中的最大值。例如数列3 2 4 5 6 8 1 2 9 7 ,f[1，0]表示第1个数起，长度为2^0=1的最大值，其实就是3这个数。f[1，2]=5，f[1，3]=8，f[2，0]=2，f[2，1]=4……从这里可以看出f[i,0]其实就等于a[i]。这样，Dp的状态、初值都已经有了，剩下的就是状态转移方程。我们把f[i，j]平均分成两段（因为f[i，j]一定是偶数个数字），从i到i+2^(j-1)-1为一段，i+2^(j-1)到i+2^j-1为一段(长度都为2^（j-1）)。用上例说明，当i=1，j=3时就是3,2,4,5 和 6,8,1,2这两段。f[i，j]就是这两段的最大值中的最大值。于是我们得到了动规方程F[i,j]=max（F[i，j-1],F[i+2^(j-1)，j-1]）.

接下来是得出最值，也许你想不到计算出f[i，j]有什么用处，一般毛想想计算max还是要O(logn)，甚至O(n)。但有一个很好的办法，做到了O（1）500){this.resized=true;this.style.width=500;}" src_cetemp="http://img.baidu.com/hi/face/i_f08.gif">。还是分开来。如在上例中我们要求区间[2，8]的最大值，就要把它分成[2,5]和[5,8]两个区间，因为这两个区间的最大值我们可以直接由f[2，2]和f[5，2]得到。扩展到一般情况，就是把区间[l，r]分成两个长度为2^n的区间（保证有f[i，j]对应）。直接给出表达式：
k:=(int)(ln(r-l+1)/ln(2));
ans:=max(F[l，k],F[r-2^k+1,k]);
这样就计算了从i开始，长度为2^t次的区间和从r-2^i+1开始长度为2^t的区间的最大值（表达式比较烦琐，细节问题如加1减1需要仔细考虑

另外还有一篇《RMQ问题和LCA问题》http://blog.sina.com.cn/s/blog_40d4357f010004ug.html

魔のkyo 2007-08-29 22:22 发表评论

Longest Increasing Subsequence

魔のkyo — Tue, 31 Jul 2007 14:30:00 GMT

//longest increasing subsequence
//T(n)=O(nlogn)

//在[b,e),之间返回一个指针p,使得*(p-1) <=x && x<*p,特别德,当x<*b时返回b
int* binary(int* b,int* e,int x)
{
       int *mid;
       if(x<*b)return b;
       while(b<e-2){
           mid=b+(e-b)/2;
           if(*mid<=x)
               b=mid;
           else
               e=mid+1;
       }
       return e-1;
}

int LIS(int a[],int n)
{
       int i,k;
       int *b=new int[n];
       b[0]=a[0];
       k=1;
       for(i=1;i<n;++i){
           if(b[k-1]<a[i])//此处修改严格或非严格
               b[k++]=a[i];
           else
               *binary(b,b+k,a[i])=a[i];
       }
       delete [] b;
       return k;
}

魔のkyo 2007-07-31 22:30 发表评论