回来后,张平在古丈县警察局当上了中队长。因为考虑到警察难免会与人结仇,张平没把杨炳莲带在身边。张平隔三差五从县城回家,每次都是天黑了才敲门进屋。杨炳莲说:“他是看我忠心不忠心,有没有找野男人。”杨炳莲说,那时她很单纯,根本不知道自己的丈夫在外是一个无恶不作的人。
当上中队长的张平,野心勃勃,为非作歹。由于张平残害百姓,危害地方,百姓纷纷向永顺专署和沅陵专署告状。1940年10月,他被撤去警察中队长职务,带着妻儿和几名心腹回到了李家洞老巢。张平回到老巢后首先做了3件事:第一,组织武装,结拜28个“弟兄”,共纠集100多人,在金华山称大王。第二,在化江溪边悬崖绝壁上的岩洞里筑墙建屋,防人暗算。