原子力顯微鏡是將一個對微弱力極敏感的微懸臂一端固定,另一端有一微小的針尖,針尖與樣品表面輕輕接觸,由于針尖尖原子與樣品表面原子間存在極微弱的作用力,通過在掃描時控制這種力的恒定,帶有針尖的微懸臂將對應于針尖與樣品表面原子間作用力的等位面而在垂直于樣品的表面方向起伏運動。利用光學檢測法或隧道電流檢測法,可測得微懸臂對應于掃描各點的位置變化,從而可以獲得樣品表面形貌的信息。
實際原子力顯微鏡工作時并沒有讓探針保持在同一高度。因為如果樣品表面太凹,探針離樣品表面太遠,原子間作用力就太微弱;而如果樣品面太凸,探針離樣品表面太近,探針就要劃破樣品。
實際選擇的方案是讓探針隨凹凸不平的樣品表面上下移動,始終保持固定的距離,即保持原子力的大小不變。在樣品表面凹的地方,原子力小了,探針就下來一點,而在樣品表面凸的地方,原子力大了點,探針上去一點。探針這樣一上一下的移動其實也描繪了樣品表面的大致輪廓。原子力顯微鏡利用了范德華力在小范圍內可以看成與距離成正比這個特點來工作的。因為只有成正比,任何部分按同一比例放大,樣品的面目才不會失真。
至于選擇在范德華力的哪一范圍工作,這倒不是原則性問題。實際應用中,根據不同的需要,原子力顯微鏡可以選擇在斥力范圍工作,也可以選擇在吸引力范圍工作。