际，按此会议要求，磐石中心县委在给满洲省委的紧急报告中急切地提出：“磐石党已处在存亡的紧急关头，省委应迅速派巡视员前去。” 1932年11月12日，中共满洲省委派杨靖宇到磐石、海龙等地巡视工作，整顿党的组织和党所领导的抗日游击队。从这时起，他开始使用“杨靖宇”这个名字。杨靖宇受命之后，几经周折，于12月间到达桦甸县蜜蜂顶子工农义勇军驻地，战士们这样描绘：“我们初次见到他，就感觉到他是个庄严的政治家，他态度很沉静，待人接物和蔼可亲，而观察事理又深刻敏锐，因此大家爱戴杨靖宇。”杨靖宇深入细致了解情况，他对战士们说：“你们看这盏灯，没有这个碗就盛不住油，光有碗没有油，灯就点不着。咱们游击队就是这样，没有根据地就象没有家，我们是磐石的子弟兵，在那里土生土长，不能做没有油的灯。”
经过杨靖宇的耐心工作，终于统一了大家的思想。然后，杨靖宇主持召开了党的扩大会议，决定按照中共满洲省委的指示，取消“五洋”旗号，将部队改称为中国工农红军第三十二军南满游击队，孟洁民任总队长，王兆兰任副总队长，初向臣任政委。此后游击队开回磐石，途中在郭家店，处决了反动地主武装头子于宽，缴获长短枪20余支，并将地主的粮食分给了当地农民，部队士气大振。不久，杨靖宇到海龙巡视工作，将那里的抗日游击队改编为中国工农红军第三十七军海龙游击队。
杨靖宇离开磐石后，游击队的主要负责人孟洁民、王兆兰、初向臣相继牺牲，游击队由160人减到100余人，队伍再次面临解体的危险。在这紧要关头，杨靖宇从海龙赶回磐石，立即召开会议，稳定了部队的情绪，并重新组成游击队领导班子，他本人暂兼总队政委。从此，磐石游击队在杨靖宇的直接指挥下，不断成长壮大。
为了扑灭南满地区抗日武装力量，日伪军从1933年1月至5月初，对游击队和红石垃子游击根据地连续进行4次“围剿”。磐石游击队与敌人进行了大小60多次战斗，打死打伤日伪军100余人，缴获许多武器弹药，粉碎了敌人的“围剿”。游击队从不足百人发展到230余人。
1933年1月26日，中共中央发出了《给南满各级党部及全体党员的信》，即“一·二六指示信”。指示信根据日本帝国主义侵占东北后，阶级关系的变化和民族矛盾日益尖锐的近况，提出了党在东北的迫切战斗任务和策略方针，即建立反日民族统一战线。杨靖宇赴南满时是中共满洲省委侯补委员，1933年3月当选为省委委员。同年5月回哈尔滨参加省委会议，讨论在南满贯彻“一·二六指示信”精神问题，会上杨靖宇汇报了南满工作情况，听取了“一·二六指示信”的精神传达和指示，决定取消红军番号，建立东北人民革命军的第一军独立师。省委根据工作需要和磐石中心县委一再请求，正式调杨靖宇到南满工作。
6月，杨靖宇回到磐石前的一天，他到从前在哈尔滨工作时的房东老孟家，把仅有的行李——褥子取出来，和在哈尔滨常穿的那件哔叽大褂一起拿到当铺当了，解决回磐石的路费。杨靖宇回到磐石后，为贯彻“一·二六指示信”精神而日夜奔忙。满洲省委于7月1日派省委巡视员金伯阳到磐石巡视。杨靖宇和金伯阳共同领导磐石中心县委和南满游击队干部学习和贯彻“一·二六指示信”的精神。8月27日在县委的决议里，明确写道：以创造红军和苏维埃号召没收地主土地、和山林队对立等作法都是错误的；决定纠正过去的一些错误做法。联合一切抗日力量，共同打击日本侵略者。1933年7月10日，中共满洲省委以磐石人民革命军的名义发表了《为反对日本强盗围剿义勇军宣言》。宣言的发表促进了南满地区的反日统一战线工作。此后杨靖宇积极奔走于磐石、海龙、伊通之间，争取各路抗日军，壮大抗日武装力量，为建立东北人民革命军创造条件。当时在南满地区活动的抗日军有几十股，这些队伍大都没有什么政治主张和奋斗目标，他们即打日本侵略者，也危害百姓，有的还仇视游击队。杨靖宇曾几次试图说服他们，但一直未能如愿。一次，抗日军“赵旅”和“马团”被日伪军包围在玻璃河套北的板凳沟，处境十分危机，杨靖宇得知后，不念旧怨，立即组织队伍解救了他们。战斗后，“赵旅”首领赵玉林握着杨靖宇的手说：“我过去很对不起弟兄们，这一回我算是知道了谁是我的朋友。”“马团”首领马立之及士兵们也表示，要跟随杨靖宇抗日到底。以后，杨靖宇又做了大量的争取工作，游击队又多次与抗日军协同作战。在游击队和几支抗日军几次联合作战取得了胜利后，各抗日军对
游击队有了新的认识，尤其对杨靖宇本人特别敬佩，他们说：“红军有好指挥官，能作战，倘各抗日军都能加入红军，早把日本帝国主义打出去了。”7月上旬，在桦甸县八道河子，杨靖宇亲自主持召开了有“毛团”、“赵旅”、“马团”、“韩团”、“常占”等抗日武装首领会议，成立了抗日联合军参谋部。杨靖宇担任政治委员，“毛团”首领毛作彬任总指挥。此后，以杨靖宇率领的游击队为主体的抗日联合军队伍不断发展壮大，总人数曾在3000余人，出现了各抗日武装联合抗战的大好局面。
1933年9月18日，东北人民革命军第一军独立师在磐石玻璃河套正式成立。杨靖宇任独立师兼政委。全师共有300余人，其中党团员占一半以上。一军独立师的成立标志着党领导的抗日武装斗争进入了一个新的历史阶段。
党领导南满地区抗日武装斗争的发展，引起了日伪统治者的不安。早在独立师成立以前，敌人就开始调集兵力，准备扑灭抗日烈火。同年10月1日，日伪军1万余人，分三期对吉海路两侧的磐石、伊通、桦甸等县进行为期40天的大讨伐，在敌人重兵围攻下，磐石游击队遭到严重破坏，杨靖宇和磐石中心县委为保存实力，采用避实就虚、积极防御作战方针，决定按省委的指示进军渡过辉发河。深秋季节，寒气袭人，战士们还穿着单衣，但他们在杨靖宇带领下，精神焕发，斗志昂扬地向东南方向行进。沿途宣传中国共产党的抗日主张，受到广大抗日群众的欢迎。
独立师挺进江南后，长驱直入，奇袭三源浦，捣毁该铁路工程局、伪警察署和兵营，然后挥师北上智取凉水河子，强攻临江县的八道江。素以奸诈著称的伪军头目邵本良，不摸头绪，指挥伪军东堵西截，疲于奔命。独立师牵着邵本良的鼻子，南征北战，连连告捷。不仅打击了敌人，也扩大了党的影响，许多抗日军也纷纷相率来投，表示愿意接受人民军的领导。当时在这一带活动的抗日军首领老常青最有影响。杨靖宇到江南后，千方百计地接近他。有一次，杨靖宇只身来到老常青精心布置的会谈处，杨靖宇以诚相待，晓以民族大义，使之茅塞顿开。老常青说：“我隋某奔波半生，过得都是黑暗生活，只有跟着共产党走，才有出路，请杨司令收下隋某和弟兄们。”在他的带动下，江南一带的抗日军主动与独立师联合作战。在联合作战的基础上，1934年2月21日，在临江县三岔子附近的山林中，杨靖宇主持召开了有17支队伍参加的抗日军大会，成立了抗日联合军总指挥部，杨靖宇被选为总指挥，隋长青被选为副总指挥。会议制定和通过了斗争纲领、赏罚条例、联合作战条例等文件。江南抗日联合军总指挥部的成立，实现了“一·二六指示信”作出的关于反日统一战线的策略方针第一步。
此后杨靖宇根据满洲省委的指示，除令江南各部队分别各自为战外，自己带领独立师司令部直属部队往返驰骋南满大地，连续进行了通化水曲柳、临江三岔子、金川大荒沟、临江林子头等一系列战斗，给敌人以很大打击。到同年7月，独立师已将抗日游击区扩展到东起鸭绿江，南至凤城，西至抚顺郊外，北临吉林、敦化的广大地域，部