影片主要围绕小黄人们的“前格鲁时代”展开叙述，并特别追溯了小黄人的起源。小黄人原本是一种单细胞体生物，总是忠诚地为主人提供各种服务，兢兢业业，毫无怨言。它们服务过的超级坏蛋包括：霸王龙、拿破仑、吸血鬼、北极熊。直到它们失手“害死”每一任主人。在痛苦地失去一个又一个主人后，被困在冰洞之内小黄人们愈发焦躁不安，他们决定挺身而出，去到花花世界，再次寻找可以效劳的主人。之后逐渐进化为专为超级坏蛋提供服务的坏蛋助手。
时值上世纪60年代，超级坏蛋并不好找。不过总算皇天不负有心人，小黄人三人组无意间看到了“坏蛋大会”广告，该大会声称世界第一女坏蛋斯嘉丽·杀人狂（桑德拉·布洛克配音）会出席大会并发表演讲。为了尽快见到斯嘉丽，小黄人三人组甚至搭上了银行抢劫犯的顺风车。在经历了一系列可想而知的“灾难”之后，小黄人终于如愿以偿地成为斯嘉丽的助手。它们为斯嘉丽执行的第一个任务就是盗取英国伊丽莎白女王的皇冠，任务进展的十分顺利，顺利到呆萌的鲍勃竟然莫名其妙的成为新任国王。但是斯嘉丽对于他们的战果并不满意，她误以为小黄人三人组要自立门户，于是麻烦接踵而至。
