1926年4月,在同乡李香岭的荐举下,宋时轮考入黄埔军校,编入第五期入伍生队。在黄埔军校期间,宋时轮努力学习军事、政治,亲身感受到革命风暴的激流, 1927年1月,在部队驻防太平圩期间,由张庆孚(黄埔军校政治教官)介绍,宋时轮正式成为中国共产党党员,开始了一名革命者艰苦奋斗的生涯。
1927年4月12日,蒋介石在上海发动了反革命政变,紧接着,各地反革命政变迭起,白色恐怖迅速笼罩了祖国大地。
宋时轮于4月20日在广州国民党反动派的“清党”运动中,被当作共产党嫌疑犯,关进广州河南(珠江南岸)南石头惩戒场。1929年4月,宋时轮经党组织找保释放出狱。
出狱后,宋时轮先后到香港、上海、长沙寻找党组织,但始终未能取得联系,便决定回家乡拉队伍打游击。回到家乡后,由于还乡团仍在到处追捕共产党人,白天不得不躲在山上,晚上才敢下山来宣传、发动群众。有时饿了,就采一些野果子充饥。一次,他又饥又渴又累,摇摇晃晃地来到山脚下一块红薯地里。他实在支持不住了,就拔了几个生红薯充饥。