我国在古代是使用汉字为载体，采用直音、反切等方法来给汉字注音。直音，就是用同音字注明汉字的读音，如果同音字都是生僻字，即使注了音也读不出来。反切，就是用两个汉字来给另一个汉字注音，反切上字与所注字的声母相同，反切下字与所注字的韵母和声调相同。周有光先生称反切是“心中切削焊接法”。这两种注音方法，用起来都不方便。
明朝末年西方传教士来中国传教，为了学习汉字，他们开始用拉丁字母来拼写汉语。
1605年，意大利耶稣会传教士利玛窦（Matteo Ricci，1552—1610）应用他和另外几位传教士拟订的用罗马字给汉字注音的一套方案写了4篇文章，送给当时的制墨专家程君房，由程君房编入所著墨谱《程氏墨苑》中。4篇文章的前3篇都宣传天主教教义，由教会单独合成一卷，取名《西字奇迹》，复制本现存罗马梵蒂冈教皇图书馆（在中国，习惯上把上述4篇文章称作是《西字奇迹》）。
这是最早用拉丁字母给汉字注音的出版物，比“小经”用阿拉伯字母给汉字拼音稍晚，“小经”（又名“小儿经”、“小儿锦”）大概是最早用字母文字给汉字拼音的尝试。
1626年，法国耶稣会传教士金尼阁在杭州出版了《西儒耳目资》，这是一本用拉丁字母给汉字注音的字汇。注音所用的方案是在利玛窦方案的基础上修改的。
利玛窦和金尼阁的方案是以“官话读书音”为标准设计的，适于拼写北京语音。这种新颖的拼音方法给中国学者以很大的启迪。明末音韵学家方以智说：“字之纷也，即缘通与借耳。若事属一字，字各一义，如远西因事乃合音。因音而成字，不重不共，不尤愈乎？”清代学者杨选杞说：“辛卯户糊口旧金吾期翁家，其犹子芸章，一日出《西儒耳目资》以示余，予阅未终卷，顿悟切字有一定之理，因可为一定之法。”但是，在两三百年间，利玛窦和金尼阁的方案只是在外国传教士中使用，没有在中国人当中广为传播。