指南针之所以能够指南，是因为地球本身是一个巨大的磁体，具有南北两个磁极，分别对应于地磁南极（地理北极附近）和地磁北极（地理南极附近）。指南针的核心部件是一个磁针，通常由磁性强的材料如铁或钢制成，并且已经磁化，使得磁针的一端指向地磁北极，另一端指向地磁南极。当指南针处于自由旋转状态时，磁针会自然地与地球磁场对齐，因此，磁针的北极（N极）会指向地理上的北方，而磁针的南极（S极）会指向地理上的南方。
需要注意的是，由于地球磁场并不是完全均匀的，指南针的指向会存在一定的偏角，即磁针并不总是精确地指向地磁北极或地磁南极，而是会有一定的偏差。这个偏角通常被称为地磁偏角，它会随着地球磁场分布的变化而变化。
指南针的发明和应用对于人类的科学技术和文明发展起到了重要的作用