中国的墨水可以追溯到三、四千年前的中国新石器时代。这些墨水使用的是基于石墨等材料的植物、动物和矿物墨水，用水研磨后用墨笔涂抹。较早的中国墨水的直接证据，类似于现代的砚台，是在公元前256年左右的战国末期，由烟尘和动物胶水制成。在纸或丝绸上绘画的较佳墨水是由松树的树脂制成的。它们必须有50至100年的历史。中国的墨棒是用鱼胶生产的，而日本的胶水则来自牛或鹿。

印度墨较早是在中国发明的，尽管材料经常从印度交易，因此而得名。中国传统的制墨方法是用铁杵和研钵研磨兽皮胶、炭黑、灯黑和骨黑颜料的混合物，然后将其倒入一个陶瓷盘中干燥。要使用干燥的混合物，就要用湿刷子刷，直到它重新凝固。到了曹魏时期（公元220-265年），印度墨水的制造已经非常成熟。在中国突厥斯坦出土了用佉卢文书写的印度文件。在早期的南印度，用墨水和尖针书写的做法很普遍。[3]印度的一些佛教和耆那教的经文是用墨水编撰的。

大约1600年前，一种流行的墨水配方被创造出来。这个配方被使用了几个世纪。铁盐，如硫酸亚铁（通过用硫酸处理铁而制成），与来自五倍子（它们生长在树上）的丹宁和一种增稠剂混合。当第初次放在纸上时，这种墨水是蓝黑色的。随着时间的推移，它会褪色成暗褐色。

中世纪欧洲的文士（约公元800年至1500年）主要在羊皮纸或牛皮纸上书写。一个12世纪的墨水配方要求在春天砍下山楂树枝，并让其干燥。然后将树皮从树枝上捣碎，在水中浸泡8天。水被煮沸，直到它变稠和变黑。煮的过程中加入酒。墨水被倒入特殊的袋子里，挂在阳光下。干燥后，将混合物与酒和铁盐在火上混合，制成的墨水。

储水笔可能是首支钢笔，可以追溯到953年，当时埃及哈里发要求有一支不会弄脏他的手或衣服的笔，他得到了一支将墨水装在储水池中的笔。

15世纪，欧洲的约翰内斯-古腾堡不得不为印刷机开发一种新的墨水。根据马蒂恩-里昂在他的《书籍：活的历史》一书中的说法，古腾堡的染料是不灭的、油性的，由灯的烟尘（灯黑）与清漆和蛋清混合而成。当时有两种类型的墨水很流行：希腊和罗马的书写墨水（煤烟、胶水和水）和12世纪由硫酸亚铁、胆汁、胶水和水组成的品种。这两种手写墨水都不能粘附在印刷表面而不产生模糊。一种由煤烟、松节油和核桃油制成的油性清漆般的墨水被创造出来，专门用于印刷。