由于音乐是一种瞬间发出，瞬间消逝的时间艺术，为了演奏唱，欣赏，学习和保存之需，乃产生将其转化成空间的，视觉的乐谱形式的表现方式，包括符号，文字，数字，图表或其他特殊的物质记号外的各式各样记谱，均具备音乐要素中的一种或多种，如音高（乐音的绝对或相对高度），音值（乐音或休止的绝对或相对长度），主题（旋律型或动机），和弦，乐器演奏法，强弱，速度和表情等等。
从西方音乐历史的发展历程来看，这将把音乐记下来或写下来的记录方式，最早可追溯至西元前六世纪到四世纪之间的古希腊时期。古希腊人所发展出两种字母记谱的方式，是以字母文字（letters of the alphabet）和类 似字母的图形（graphic signs）代表音高与音值，分成记载声乐旋律的声乐谱和记载器乐旋律的器乐谱。
六世纪时，罗马教会修士包厄修斯（Severinus Boethius, 480-542）援用古希腊的字母记谱方式，以拉丁文字母 A 至 P 来代表自然音阶上的两个八度。虽然，七世纪时的音乐理论家圣依西多禄（Saint Isidore of Seville,560-636）曾指出音乐是不可能被标记出来的。但是，九世纪中期开始出现一种用以咏唱葛丽果圣歌（Gregorian Chant）的符号记谱方式，称之为「纽姆」（neumes）。
此字源自希腊语「πνεμυα」（neuma），原是点头及记号之意。当时圣歌的曲调主要以口头的方式进行传授，显然运用纽姆作为对于记忆中的曲调之联想手段。然而， 这些记在经文歌词上方表示旋律线的上行（／）、下行（＼）或连接（＾ ¬）的纽姆，仅在于指示出圣歌曲调的方向，却无法标示出实际音高，而有其诸多不精确之处。
十世纪时开始运用线谱（staff notation ），以使圣歌旋律的轮廓与音程的关系能更清晰地表现出来，音高亦能明确地标示出来。从最初画一条红线代表「f」音，逐渐发展到两线、三线和四线等不同颜色的线条，表明四个固定的音高。
十一世纪时，修士桂多·达·阿列佐（Guido d’Arezzo, 995-1050）开始以四线三间的谱表记载葛丽果圣歌，线与间之间代表音程上的二度，线与线或间与间则表示三度音程，为现行的五线谱奠定基础。
十三世纪，人们又使用加上四条谱线的方形连结纽姆谱，并在欧洲渐渐普及。迄今，罗马天主教会仍然使用此种四线方形纽姆谱演唱葛丽果圣歌，但此种谱式并无法显示出明确的节奏。因此在十三世纪中叶，一位住在德国科隆的修士佛朗可（Franco of Cologne）开发以不同音值的音符表达节奏模式之定量记谱法（mensural notation）。
十四世纪时，开始引用着色音符，用以表示节奏的变换，之后着色音符的风潮退去，改以使用空心白音符来代表音值。由于，定量记谱原则上是为声乐的记谱，至于乐器方面的谱式则大部分使用各种图式的手法谱（tablature）。此种于十五世纪至十八世纪在欧洲风行的图式乐谱，是运用数字、文字与其他符号的器乐记谱法，主要特征是记录弹弦的位置（此非实际音高的位置），并因应不同的乐器而有不同的谱式，其中以鲁特琴（lute）与风琴谱式最为重要。鲁特琴谱式一般系以六条谱线表示鲁特琴的各弦，再用文字或数字标记琴格的位置；风琴图式乐谱同样用文字或数字来表示弹奏键盘的位置，在德国式的风琴记谱中，最上方是使用五线谱风格记写，但谱线是七线。
接近现代五线谱的五线纽姆谱式（第四线为C音）
十五、十六世纪，在欧洲除使用前述之白音符定量记谱外，法国和意大利方面在键盘乐器使用与现代五线谱甚为接近的五线记谱法，同时开始加上小节线及废除连结音符（ligature），从此逐渐取代其他记谱法而广泛流行。五线谱能用音符在五条平行线上明确标示各乐音的高度，适当显示出乐音和休止的长度，此种优秀的标记方式促使其自十八世纪起跃居主要地位，并成为当今国际上最广泛流传且通用的记谱方式。
