1937年抗日战争爆发后，罗荣桓担任了八路军115师政治部主任。翌年末，他又率部挺进山东开辟抗日根据地，先后任115师政委、山东军区司令员兼政委等职。
　　 1939年二三月间，115师主力奉命东进。一天，大雪纷飞，晚上9点多钟，部队来到平汉路西侧的一个村庄。这个村庄很大，筑有很高的围墙。原计划115师司令部要在这里宿营。但由于村里的老百姓对八路军不了解，就是不肯开门，派出工作组叫门，无人应答，还有人向外打冷枪。天寒地冻，风雪交加，有的同志等得不耐烦了，见里面打冷枪，冒火了，想硬攻进去。正在这时，罗荣桓来了，他了解情况后，严肃地说：“群众不让我们进村，是因为对我们不了解，在这种情况下，我们应以自己的实际行动向群众宣传我军抗日救国的主张，以取得群众的信任和支持，决不能与群众为敌。”说完，他叫警卫员把他的背包从马上卸下来，命令部队就地搭起帐篷，就在村外露营。
　　 第二天一早，罗荣桓亲自组织向村里的群众喊话，写标语，散发宣传品，宣传八路军是一支全心全意为人民服务的抗日军队。村里的老百姓听八路军的宣传，又见部队没有强攻，就派人出来侦探情况。看到天寒地冻，八路军却在湿漉漉的围墙下搭起帐篷露营，很受感动。不久，村里的人邀请部队进村。一进村，家家户户都为八路军烧水做饭、腾房子，还为部队筹集了一批粮食。罗荣桓也马上组织大家帮助群众打扫卫生、挑水、劈柴、理发、看病。当群众得知部队下午6点要通过平汉路日军封锁线向鲁西地区开进的消息时，纷纷要求给部队带路。罗荣桓很高兴，马上集合部队讲话，用这个事例教育大家，要继续保持发扬遵守群众纪律的光荣传统。临出发，还不断询问：“借老百姓的东西还了没有？门板上了没有？铺草捆了没有？”當他得知一位老乡送来一碗肉稀饭给病号而不肯收钱时，就亲自叫身边的工作人员把钱送到这位老乡手里。部队出发时，全村老少站在道路两旁拉着八路军的手依依送别，一些老年人含着眼泪说：“从来没有见过这么好的军队，你们在我们村多住几天吧。”村里的向导送部队顺利地通过了敌人的封锁线。临别时，罗荣桓下马与他们握手告别说：“感谢你们对部队的支援和帮助。”他们感动得掉下热泪，看着罗荣桓不知说什么好，其中一位半天才说出一句话：“你们真好，你们真好。”
　　 在根据地领导抗战的艰苦岁月中，罗荣桓总是教导八路军战士：“要像对待自己的亲人一样对待群众，不管住哪个村庄，年纪大的就是自己的父母，同年龄的男的就是亲兄弟，女的就是亲姐妹，小孩就是自己的孩子，我们和老百姓永远都是一家人。”
　　 1945年六七月间，罗荣桓领导山东抗日根据地军民进行反“扫荡”斗争，由于长期过度劳累导致他的尿血症加重，住在莒南县（属于临沂市）下河村的一户农民家中养病。看到房东的母亲也生了病，罗荣桓立即让医护人员为老人看病。一天，工作人员在村东的河里摸到了一只甲鱼，大家非常高兴地说可以把甲鱼炖了汤给罗政委滋补身体。当勤务员把炖好的甲鱼汤端给罗荣桓时，罗荣桓却送给房东得了重病而身体虚弱的老娘吃。老人非常激动，说：“这可使不得，你喝了养好病，好去打鬼子，我喝了不中用啊！”罗荣桓动情地对老大娘说：“老姐姐，你一定要喝，八路军和老百姓是一家人，咱一家人不说两家话，您才是我们的衣食父母啊。”老人拗不过罗荣桓，把甲鱼汤喝了。不久老大娘的病慢慢地好了，逢人便讲她的命是罗政委救来的，八路军对咱老百姓就是好！