1940年4月中旬， 上海日軍四千餘人從水陸兩路對以觀音堂為中心的青東抗日遊擊根據地展開圍攻。 但因為青東抗日遊擊隊及時轉移， 日本的這一計畫落空， 惱羞成怒的日軍便開始了在當地肆無忌憚的進行屠殺。
在諸翟鎮附近， 有8名巡邏的日軍士兵遭抗日遊擊隊伏擊後俘獲。 因日軍前面在觀音堂的屠殺暴行， 這8人悉數遭到了抗日遊擊隊的處決， 並將他們的屍體掩埋在了諸翟鎮附近的荒地裡。
但讓人萬萬麼沒想到的是， 其中有一名日軍並沒有死透， 只是傷重昏迷了過去。 恢復意識後， 設法逃回了日軍部隊，
當天晚上日本即派出大隊士兵， 將諸翟鎮進行了全面包圍， 並在8名日本士兵埋葬地附近將所有的百姓驅趕出來， 詢問遊擊隊的去處。 當地百姓根本就不知道遊擊隊到底去了哪裡， 因此也就無法回答。 日軍可不管這些， 只要答不上來， 就嚴刑拷打， 很多人就這樣被日軍活活的當場打死。
這時候日軍決定對諸翟鎮進行放火焚燒， 當地男女老幼， 有不少人從著火的房間裡奪門而出， 日本人用早已準備好的機槍進行掃射。 許多沒被機槍掃死的， 也被日軍用刺刀捅殺， 大多慘死當場。
當時的諸翟鎮因為淞滬抗戰爆發以後， 已經成為了商販雲集之地， 在日軍的這場屠殺中至少有400多人慘死在了日本人的屠刀下，
日軍屠殺之後， 諸翟鎮幾乎全鎮都不得不跑到上海避難。 原本商賈雲集的小鎮在遭此劫難之後， 已經是一片荒涼， 慘痛無比， 很難讓人與曾經的繁華聯繫在一起。