中文里的书名号，实际上源于西方标点符号中一种特殊的引号——尖角引号（AngleQuotationMark）。
尖角引号，又名拉丁引号、法式引号。在文艺复兴时期，一位名叫纪尧姆·勒·贝（GuillaumeLeBé）的法国印刷商和雕版师傅，最早在印刷文本中使用了这一符号。而这一符号也因此被称作Guillemet。
不过，如果深究尖角引号乃至引号的起源，这一符号则可以追溯到希腊字母Λ（Lambda）。在古代世界的希腊化时期，亚历山大图书馆的抄写员在保管、抄写古希腊典籍时，将Λ向右倾倒，以>的形式置于某些段落的左侧，用于标示不同抄写者的笔迹。这一符号被称作Diple，意为「双重的」，表明两行不同笔迹之间的区别。
公元2至3世纪一份古希腊文纸莎草抄本的残片，下部有被称为Diple的「>」形记号。它们和下方标示段落的横线一样，是西方最早的标点符号之一。
此外，抄写员有时还会在Diple符号上加点，用于标示那些抄写中需要着重强调的、或有疑问的段落。这一用法与后世引号的用法逐渐接近，并随着中世纪早期，基督教会抄写圣经与早期教父神学论述的手稿而流传下来。
到了文艺复兴时期，印刷术的发明使欧洲印刷品数量呈爆炸性增长，各种印刷文本之间的相互引用也催生了通用的、规范性的标点符号。在这一时期的欧洲，由Diple转化而来的尖角引号（«…»），与由源于拜占庭的逗号组成的双引号（“…”）常常并用，二者的样式也在不同的语言文本里产生分化。
随着时间推移，在欧洲各国语言的印刷文本里，那些需要特别标注指明为引语的词语、短语、段落，已经普遍采用尖角引号。法国、俄国和西班牙，普遍采用尖头朝外的尖角引号，德语地区则普遍采用尖头向内的尖角引号。而从不使用尖角引号的，只有英国和荷兰。
一份英文书刊里常见的参考文献部分，展示出没有尖角引号的英文里，如何表示书籍与文章的题目名称：能够单独出版的书刊杂志，统一用斜体字（Italic，又名意大利体）表示；书刊杂志中的文章，则使用引号表示。
中文使用书名号，特别是以尖角引号为基础使用书名号的历史，则非常之短。清末，负笈日本的学者将日本的「钩括弧」最早引入中国，使其起到与日文相同、和西文类似的，包含书名号功能在内的引号作用。这也是今天中文里直角引号（「」『』）的由来。
直到北洋时期，中国的标点符号才出现一个通行方案。以胡适、钱玄同、周作人为首的新文化运动主将，于1919年向政府提交《请颁行新式标点符号议案》，并在翌年通过由教育部颁令全国。
在这份议案里，除直角引号外，还第一次出现了专名号、书名号两种用于专有名词的特殊标点符号。二者分别以一条直线和一条波浪线的形式，标在名词的竖排左侧或横排下方。这一通行方案贯穿了整个民国时代，并为1951年的《标点符号用法》所沿用，直到二十世纪六十年代的汉语语法教材仍在教授使用。
但是，在文字下方的波浪线，并不利于书刊特别是报纸的排印。因而，从五十年代末开始，由法文俄文引入的尖角引号逐渐取代了波浪线，成为书名号的常见形式。不过，以尖角引号为基础的中文书名号，在使用初期，常常与其他引号相混淆。