1930年6月，徐向前指挥红一师攻打平汉路广水以南一个叫杨家寨的据点，歼灭国民党地方军阀郭汝栋部两个连。然后，红军又利用郭汝栋急于“找回面子”的心理，在杨家寨以东之杨平口设伏。杨平口战斗结束后，我红一师毙、伤、俘敌人数百并生俘敌团长，取得了鄂豫皖红军首次全歼敌人正规军一个团的大胜利。陈锡联参加红军不到半年，就在战斗中经受住了严峻考验。

7月份，红一师再次出击平汉路，这次是打国民党军钱大钧部教导师第五团。该团驻防在平汉路一个叫花园的地方，装备不错，有步枪、机枪、迫击炮，但由于是教学单位，战斗力相对不强。于是，徐向前决定长途奔袭40里，打敌人一个措手不及。刚刚15岁的陈锡联，在长途行军中始终走在前面。在天亮时，红军发起进攻，陈锡联又奋勇当先，抓住了敌人一个书记官，缴获了一支红色派克钢笔。

这几仗下来，陈锡联在红一师中出名了，被战友们冠之以“小钢炮”的雅号。从此，‘小钢炮’这个绰号就在部队中传开了。”

陈锡联由于作战勇猛，受到上级赏识，很快成为班长。1930年10月，红军攻下光山县城以后，陈锡联在街上遇到了老班长孙玉清，这一场本来平常的战友相逢却带来了一次麻烦:当时孙玉清见到陈锡联后很高兴，拍了拍背着的匣子枪说:我当连长了。孙玉清看陈锡联生活很苦，就说:我还有几个钢板，明天早上请你们吃点东西。

于是第二天一早，陈锡联叫上班里的十几个伙伴，由孙玉清拿“大头”，大家凑了钱，在街上买了几根油条和一碗鸡血汤，每个人都尝了尝。结果这件事被张国焘的手下知道了，遂给他们定性为“吃喝委员会”，要逮捕班长陈锡联。就在这时，徐向前视察部队到达当地，有人向他汇报了这件事。听说有“小钢炮”雅号的陈锡联被抓，徐向前发火了:“几个小孩子，家里穷，跑出来参加革命。肚子饿了，在一起吃点东西嘛，什么‘吃喝委员会’！抓了的，放掉！没有抓的，不许抓！”徐向前发话后，前来“肃反”的人才罢手。对于这次徐向前的救命之恩，陈锡联终生难忘。

陈锡联参军很早，一生最为露脸的是夜袭阳明堡战斗，一举击毁日军飞机24架，成为国共两党两军当时的风云人物，其时，陈锡联才22岁。在我党创建太行山根据地时，陈锡联可谓是厥功甚伟，所以，年仅三十一岁的陈锡联荣膺解放军最年轻的纵队司令员，担负挺进中原的重任。建国后陈锡联被授予上将军衔。

1976年后，毛泽东提升陈锡联主持军委日常工作，陈锡联一时成为军内炙手可热的大人物了。毛泽东曾交代说：“陈锡联从小参加革命，会打仗，带过兵团，带过炮兵，在国务院也有个职务，就让他管一下吧。”

对于毛泽东，陈锡联一直心存感激。晚年，他在自己家中挂着毛主席画像，对家人说：“我没死，谁也不准取下，我死了，谁也不准取下！”对毛泽东感情之深厚，令人感叹。