故事發生於1930年代的上海，鱷魚幫和斧頭幫這兩個黑幫，於上海欺行霸市，且收買當地的警察逃脫指控。阿星（周星馳飾）整日夢想成為黑幫人物，但意志不堅、無所作為。只好冒充斧頭幫，跑到黑幫無暇顧及的貧民窟——豬籠城寨敲詐點錢財。不料豬籠城寨的老百姓不是很好惹，阿星被眾人暴打。恰好斧頭幫路過，副頭領被阿星的假斧頭幫信號炮炸傷，阿星把此事嫁禍給豬籠城寨。幫眾進入城寨尋事打鬥，結果斧頭幫被豬籠城寨的三位高手（五郎八卦棍、洪家鐵線拳、十二路譚腿）大挫銳氣，大失顏面，敗陣而退。
阿星回想起童年時，在商人手上買了「如來神掌」武功秘笈，開始習武，有一天他看見一名不能說話的小女孩被多人欺負，欲見義勇為幫她解圍，但反被他們擊到，還在阿星身上撒尿，後得意洋洋地離去。這位啞女孩欲把手中的波板糖送給阿星，但阿星覺得自己深受侮辱，哭著離去，因此便打算在長大後去當壞人。
斧頭幫幫主隨後請來兩名殺手榜知名高手前去鏟除這三個傢伙，他倆利用手中古箏，彈出衝擊波，在豬籠城寨殺了他們。豬籠城寨的房東和老闆娘最後忍無可忍，露出自己暗藏已久的功夫（太極拳、獅子吼），將這兩名殺手打得落花流水武功盡失狼狽逃走，替三個鄰居報了仇。
斧頭幫坐不住了，利用阿星開鎖的手藝，從「不正常人類研究中心」（精神病院）放出了號稱當今武林第一高人「火雲邪神」（梁小龍飾），期望能對付豬籠城寨的武術高強的房東。火雲邪神果然不負眾望，力克肥婆四、二叔公。阿星在關鍵時候，叛離斧頭幫，幫助肥婆四、二叔公，但不幸自己落入火雲邪神手中。火雲邪神把阿星打得差點一命嗚呼，混亂中不但重創了包租婆和包租公，也要了斧頭幫幫主的性命。並成了新的斧頭幫幫主。但沒想到火雲邪神的幾拳竟然把阿星的任督二脈打通，加上阿星年幼時練習的「如來神掌」功夫，阿星一下子具有震撼無比的武功。最終，火雲邪神帶斧頭幫眾前去豬籠城寨與阿星決鬥，阿星利用「如來神掌」擊破火雲邪神的「蛤蟆功」，把火雲邪神打敗，而火雲邪神最後的「毒箭」也給阿星破解，使火雲邪神降服在阿星之下。
