1886年，以法国语言学家保罗·帕西（Paul Passy）为首的一群英国和法国语言教师，组成了一个学会，旨在创造一套转写和记录人类语言的音标系统，这正是1897年后国际语音学学会的前身。
他们最初的使用的标音字母基于拼写改革，即罗米克字母（Romic alphabet），为了使其在其他语言中也能够使用，符号所代表的音值允许随着语言的改变而改变。例如[ʃ]，原本在英语中用“sh”表示，但在法语中用“ch”表示。
但到了1888年那年，这些标音字母便修订成在各个语言中都统一的符号，并发表在《语音教师》上（“国际语音协会”前身——“语音教师协会”的会刊），这是历史上第一个国际音标表，也成了日后所有修订的基础。制订国际音标的想法最初由奥托·叶斯帕森（Otto Jespersen）在一封给保罗·帕斯的信中提出。后由亚历山大·约翰·埃利斯（Alexander John Ellis）、亨利·斯威特（Henry Sweet）、丹尼尔·琼斯（Daniel Jones）和帕西（Passy）实现。
国际音标是由英、法两国的学者创订的，主要适用于标注印欧语言、非洲语言和一些少数民族语言。它发表后，在欧洲语言学界比较通行。美国人多数仍用他们自己研究美洲印地安语的符号。汉语各方言中的有些音，本表也不能包括。例如：普通话舌尖元音，就是瑞典汉学家高本汉增订的；吴方言中大多数腭化辅音是语音学家赵元任提出的。还有，国际音标表内所定的声调符号只有8种，这对研究描写声调语言是不够的。中国语言学家赵元任提出了声调的拉丁字母，发表于1930年的《语音教师》上，被称为“声调字母”。它适用于一切声调语言，已为国际多数学者所采用。
自制订以来，国际音标经历了多次修改。经过1900年和1932年的大修订和扩展之后，国际音标在1989年的国际语音学会基尔大会 之前一直保持不变。
另又在1993年做了一次小修订，增加了半开央不圆唇元音并删去清内爆音专用符号。2005年5月的一次改版，增加了一个在非洲语言中很常见的唇齿闪音。除了符号的增减之外，国际音标在其他符号、分类和字体大多维持一致。