最早被应用于航海的指南针是水浮针法的指南针，它是水罗盘地最早形式。徐兢在《宣和奉使高丽图经》一书中指出，这种指南针叫“指南浮针”。
在航海舟船上使用指南针的记载，最早见于1119 年朱彧所著的《萍洲可谈》，“舟师识地理，夜则观星，昼则观日，阴晦观指南针”。最早的航海罗盘是用一剪成鱼状的薄片铁叶经磁化塞入木制鱼中，使南极在鱼首，北极在鱼尾，并置水碗于无风处平放，鱼在水中泛浮，其首所指，即为南极，是为“指南鱼”。
其中，图1-十八世纪初航海用旱罗盘；图234-清代航海罗盘（中国航海博物馆藏）
南宋时，将磁针与划分方位的装置组成的仪器称之为盘针、经盘、地螺，后来才改称为罗盘。水罗盘从诞生之日起一直使用到明代，郑和下西洋时期使用的罗盘依旧是水罗盘，直到明嘉靖年间出现了一种支轴式的航海罗盘，指南针被固定在支轴上，这种新式罗盘被称作“旱罗盘”，并逐渐代替了水浮式的罗盘。
旱罗盘的磁针支点固定，比水罗盘优越，但当恶劣天气来临时，船舶剧烈晃动颠簸造成观测不准或无法观测。18 世纪时，中国航海家利用中国古代先民发明的平衡环装配罗盘，使罗盘有了平衡性，免受大风颠簸的干扰。
