原子力顯微鏡在工作時，微懸臂的一端固定，另一端安裝一個探針，探針針尖的曲率半徑非常小（在納米量級），當探針針尖與樣品表面輕輕接觸時，針尖J端的原子與樣品表面的原子間存在極微弱的力（機械接觸力、范德華力、毛吸力、化學鍵、靜電力等等），掃描時控制針尖與樣品之間的作用力保持恒定，則微懸臂就會在垂直于樣品表面的方向做上下起伏運動，利用光學檢測法檢測微懸臂對應于掃描各點的位置變化，則可獲得樣品表面的形貌和力學性能信息。由于是通過測量針尖J端的原子與樣品表面原子間的作用來進行測量的，所以AFM原子力顯微鏡測定樣品形貌的空間分辨率達到納米（nm）級，而力學性能的測量精度可達到皮牛頓（pN）量級。

常用的原子力顯微鏡工作模式主要包括接觸模式、非接觸模式和輕敲模式等。接觸模式工作時，探針的針尖始終與樣品保持接觸，針尖與樣品間的作用力為庫侖排斥力，其大小一般為10 -8 ～10 -11 N。這種模式可以獲得穩定的高分辨率圖像，但針尖在樣品表面上的移動以及針尖與樣品間的黏附力，會對針尖造成損壞，也會使樣品產生形變，進而產生虛像。非接觸模式工作時，控制探針針尖與樣品表面的距離保持在約5-20nm進行掃描，檢測到的是探針針尖與樣品表面的吸引力和靜電力等，這種模式針尖不易被損壞，樣品表面不易被破壞，但是由于針尖與樣品之間的距離比較大，分辨率沒有接觸模式的高，實際上，由于針尖會被樣品表面的黏附力所捕獲，所以使得非接觸模式的操作變得非常困難。在輕敲模式工作中，針尖與樣品短時間接觸，針尖和樣品表面免遭破壞，輕敲模式探針針尖在接觸樣品表面時有較大的振幅（大于20nm），足以克服針尖與樣品之間的黏附力，其作用力介于接觸模式和非接觸模式之間，分辨率和接觸模式基本相近。

在接觸模式中針尖與樣品距離短，工作在斥力區，非接觸模式工作中針尖與樣品距離較大，工作在吸引力區。輕敲模式中探針樣品間隙接觸，并以一定振幅振動，探針針尖與樣品的距離在一定范圍內變化，針尖和樣品的作用力是引力和斥力的交互作用。