赵玉斋,山东省郓城县陈坡乡大王庙村人,1923年2月2日(农历癸亥年12月28日)出生于一个贫苦农民家庭。8岁在邻村于阁小学读书,他天资聪颖,勤奋好学,在老师的培养下,从小就对音乐产生了浓厚的兴趣。因连年歉收致使家境贫寒,小学五年被迫弃学,12岁便为邻村财主放羊。
赵先生出生的地方是远近闻名的“书山戏海,筝琴之乡”,父子俩经常在村头弹拉说唱并饿着肚子往返几十里去看戏,村里人称他们为“老少迷”;因其酷爱音乐,他先后师从王登海、王尔敬、赵玉新等艺人学唱《二夹弦》梆子戏,山东琴书等地方戏,学拉坠胡、二弦、四胡弦﹑板胡,并向樊西雨、黎连俊先生学弹古筝。对音乐的迷恋,使他忘记了一切,就连做梦都在哼着曲牌;家贫点不起灯,就摸黑练习弹唱,忘了一段乐曲,连夜赶去请教,一次洗脸后竟将洗脸水倒进了做饭用的水缸里。就这样,在音乐的天地里,他从小便学会了许多乐曲和戏曲,获得了无限的滋润,为日后在古筝艺术上取得辉煌成就打下了根基。由于演奏受到了乡亲们的欢迎,因而又有“小神童”的美称。