1922年,张平花100多块银元买了一支汉阳枪,一年后,当上了当地团防局副局长。在他的要挟下,没多久局长便逃之夭夭,张平自任团防局长。他吃喝嫖赌样样都沾,并干起烧杀掳抢的勾当。1928年,张平经人介绍到一二八师的一个旅长舒安卿手下当副官。1935年,他随舒安卿部到永(顺)、保(靖)一带“剿共”。就在这里,他看上了杨炳莲。
当时,杨炳莲家在永绥县城经营一家杂货店,卖针、线、甜酒等。杨炳莲记不起第一次见到张平是什么时候,“只是觉得这个当兵的很奇怪,隔一两天就来店里买一根针或一根线”。有一天,张平又来买一根线,杨炳莲把线拿到柜台,张平从口袋里掏出一个银元。“我说找不开,要他另外拿零钱出来。他说不用找了,拿着线走了。”过了两三天,张平又来了。这一次,不是一个人。