柳琴的历史比较简单，关于它的形成和历史沿革，在史籍资料上几乎没有记载，只是在山东一带流传着这样一个故事：大约在二百年前，山东临沂一带，有一对穷兄弟，名字叫武大团、武二团，他们经常在徐州一带讨饭谋生，一天，兄弟俩饥寒交加、夜宿城外破庙中，想起讨饭时所受的侮辱与苦楚，兄弟俩不禁相对泪下，痛哭起来，忽然他们抬起头来，正好看到威风凛凛的四大金刚的塑像，其中的一个金刚正用手指弹着琵琶，兄弟俩顿时灵机一动，商量到：我们不妨也来做一个琵琶，唱着讨饭，不比挨户乞讨要好的多吗？于是，兄弟俩就地取材，用柳木仿照金刚手中的琵琶做了一个土琵琶，从此以后，兄弟俩就怀抱土琵琶，弹唱着家乡凄凉的小调，继续着他们的乞讨生涯。随着时间的推移，这种演唱形式竟然在民间流传起来，并逐步发展成为富有特色的"柳琴戏"。特别是在山东南部、江苏北部等地区，深受人们的欢迎和喜爱。后来，武大团和武二团兄弟俩，还被柳琴戏的艺人们尊称为祖师爷。
新中国成立后，为了发挥柳琴的性能，徐州乐器厂的技术人员和柳琴演奏的专家们，作了不少有益的工作，开始对柳琴进行了全面的改革，他们对这种只有两根弦、七个品位、一个半八度的音域、音色粗糙、表现力差的民间柳琴进行了改造；在保留原来的风貌、特点和优势的基础上，研制成功了一种四弦、二十四品、音域达到近四个八度、音色优美动听、表现力极为丰富的一种新型的柳琴。特别值得一提的是乐器改革家和演奏家王惠然先生对柳琴演奏的规范化、柳琴学习的系统化和柳琴曲目的创作等方面都作出了一定的贡献，对柳琴的普及和发展，起到了积极的推动作用。同时还填补了中国的民族管弦乐队弹拨乐器中多年来缺少高音乐器的空白。 柳琴在中国真正登上音乐舞台，实际上只有40多年的历史，但它发展之快是令人欣喜的。由于柳琴的音响效果独特，所以在乐队中经常演奏高音区的主旋律和一些技巧性很高的华彩乐段。同时它与西洋乐队合作时，也别有一番情调。现在，柳琴不但在国内，而且在香港，台湾，新加坡，美国等地也非常流行。在中国民族乐器的百花园中，这朵娇媚的小花，越来越引起人们的注目和喜爱。
