1822年，德斯普雷兹（Despretz）发现芥子气。
1886年，德国的迈耶（又译梅耶或迈尔，Meyer）首次人工合成纯净的芥子气；他发明的合成方法至今仍是芥子气最重要的合成方法之一。他刚开始以为实验过程中的不适是相关人员皮肤过敏，但后来的动物实验中让他意识到了某种危险。
在第一次世界大战后期，为了打破僵局，芥子气被应用于战场，1917年6月12日，德军在比利时的伊普尔地区（Ypres）首次对英军防线使用芥子气，造成2000多人的伤亡。由于德军在炮弹上标以黄色的”十”字与其他毒剂炮弹区分，所以当时德军内部通常称其为“黄十字”毒剂。[1]
芥子气具有的杀伤效果，尤其是心理效应使得各国军队相继效仿，当时所使用的芥子气纯度不算大，只有70%多，但因为当时的士兵只配备简单的呼吸面具（这种面具由于导致呼吸不畅反而更容易中毒），导致超过130万人伤亡，伤亡率占毒剂总伤亡人数的80%以上。当时身为巴伐利亚步兵班长的希特勒作为参战士兵曾被英军的芥子气炮弹毒伤，眼睛暂时失明，一直到一战结束也未能完全恢复。据统计，在第一次世界大战中共有12000吨芥子气被消耗于战争用途。[2]
1935 年–1936 年，意大利在进攻埃塞尔比亚时投撒了芥子气。
第二次世界大战期间，侵华日军曾在中国东北地区秘密驻有负责毒气研究和试验的516部队、731部队；并在淞沪战场、徐州战场、衡阳保卫战等战役中使用过芥子气，造成中国军民死亡近万人。
1963–1967年，埃及干涉也门内战，对保皇党派投掷了芥子气航空炸弹。
1983–1988年，伊拉克在两伊战争中使用芥子气对付伊朗军队，像在1986年2月的战斗中，空投芥子气炸弹就导致超过1800名伊朗军人死亡（包括神经毒剂死亡）。据统计，伊拉克在整个两伊战争中共使用了1800吨芥子气，和数百吨其他毒气，造成伊朗方面近5万人伤亡。[3]
1988年3月16日，伊拉克军队在伊拉克北部小镇哈拉卜贾对库尔德人使用了芥子气，导致超过5000人死亡，伤者过万，这是历史上最大一次动用化学武器对付平民的军事行动。也使得当时的伊拉克政府和萨达姆声名狼藉，并成为了后来联合国特别法庭上指控的主要罪责之一。