得知自己的部队遇匪，官兵被杀的消息，赵天一只对第二军代理军长马跃说了一句话：“我要你在一个月之内剿灭山东境内所有土匪，曹州、梁山顾得林土匪一个不留，允许你动用炮兵和空军的飞机作战”。有了赵天一这样的话，马跃立即展开了相关部署；他将山东分成几个片区，每一个片区都有专门的部队进行围剿，然后外围又安排了专门的围堵部队。果真还让他用到了火炮和飞机，对几股已经围在险地的土匪，一顿铺天盖地的火炮下去，顿时解决问题。
这一时期山东境内有十几股著名股匪，除了最大一支匪众达六七千人，为首者李四考、葛光阴、冯天战，盘踞在曹州、梁山一带，其他盘踞地区及一般情况都有东昌匪，匪首王伯士，焚杀抢劫，专事勒赎，开价高达数千元；郯城匪，匪首李十四、蔡习九等；沂州匪，匪首吴保庆率党羽大肆滋扰；滕县匪，匪首绰号红鼠尾，匪众数百人；齐河匪，土匪携带快枪，到处抢劫；郓城匪、观城匪、长清匪，实有匪徒数百人，夜半洗劫齐姓富户；寿张匪、阳信匪，匪患乡民；夏津匪、峄县匪，不下七百人，该帮会订有会章，无事则散布四乡，有事则一呼立集。这些土匪，除了前面提到的李四考之外，其余的只是一些小混混；像夏津、峄县土匪人数虽然多，但平常也就是务农的老百姓，而不像李四考之流的专业土匪。
山东胶州半岛属丘陵地带，没有什么像样的大山，所以这些地方的土匪最多的也就一两百人，只但在临沂、泰安地方，因为有沂蒙山、泰山等巨大山脉的存在，土匪有了安身的地方，所以队伍也都庞大了很多，两千人是少的，六七千人才算是大股土匪。消灭盘踞在曹州、梁山一带李四考、葛光阴、冯天战土匪部的任务是由第六师官兵来完成的；师长姚福勇拒绝任何兄弟部队的帮忙，发誓自己的部队一定会将这股土匪干净彻底的消灭掉，为死去的兄弟们报仇。十七团二营营长曹城和三连连长李万顺更是咬碎了钢牙，写下了血书；牺牲的十五名官兵正是该营三连二排的弟。
一个月时间不到，山东境内的土匪已经大部被消灭，只剩下两股比较大的土匪等待最后的覆灭时间。一股就是杀害了十七团官兵的梁山、曹州土匪李四考、葛光阴、冯天战部；该部土匪已经被压缩在东平县东平湖附近的狭小空间。另一股土匪为盘踞在沂山东北、青州境内凤凰山、玲珑山一带的土匪周龙云部。其余土匪要么被第二军各部消灭，要么就是疯狂的逃出山东地界，跑到外省避风，更多的则是丢下手中的各种武器，回到家中老老实实地做农民去了。之所以这么快就大功告成，除了马跃的计划周祥，各剿匪部队配合默契封堵到位，部队装备精良训练有素都是其中的原因。山东土匪这么长时间能够啸聚山林，官兵屡剿不灭，主要是他们熟悉地形，打不过就一哄而散，或者据险而守，官兵没有火炮，只好不了了之。
这次土匪们把第二军惹急了，自然会不依不饶的剿灭；东平县位于鲁西南，西临黄河，东望泰山，泰山山脉到这里基本上就成丘陵了，而东平西面的东平湖，是和黄河相通的山东第二大湖，土匪李四考残部三千余人就躲在这一带。七千余人的土匪，在二十多天的躲逃中，被第六师消灭了大半，特别是在梁山县准备偷渡黄河北上的那一次战斗中。土匪们还没有来得及上船就被紧急追赶而来的十七团官兵追上，不由分说就是一顿很揍；逃到河心的十几艘小船眼看就要到达横对岸，匪首葛光阴、冯天战两人就要逃出生天，谁知轰轰轰一连串的炮响，十几艘小木船眼看着就四分五裂变成了一堆破碎的木头杂子，葛冯两匪首随即一命呜呼。李四考见势不妙，丢下群匪首先打马逃走。此战过后，土匪西逃北逃的路线北切断，只能转头想泰山逃跑，结果在东平城石马村被当头一棒，打回了东平湖，最后只能龟缩在东平湖