Mô hình thủy điện tích năng gồm hai hồ chứa nước ở hai cao độ khác nhau và một nhà máy thủy điện. Hồ chứa bên trên có thể là hồ tự nhiên hoặc hồ nhân tạo. Hồ chứa bên dưới thường được tạo bởi một đập không lớn lắm, đắp chắn ngang con sông hay suối. Nhà máy thủy điện có turbine thuận nghịch nằm ở khoảng giữa hai hồ, nối với hai hồ bằng đường ống dẫn nước.
Trong giờ cao điểm, khi nhu cầu dùng điện cao, thủy điện tích năng vận hành như nhà máy thủy điện bình thường. Nước từ hồ chứa bên trên, được xả qua đường ống áp lực, làm quay turbine để phát điện, nước xả được trữ trong hồ bên dưới.
Trong giờ thấp điểm, khi nhu cầu dùng điện thấp, thủy điện tích năng làm việc như một trạm bơm. Nhà máy lấy điện từ hệ thống điện, bơm ngược nước từ hồ chứa bên dưới lên hồ chứa bên trên thông qua turbine hai chiều. Chu trình cứ lặp đi, lặp lại trong vòng đời của nó.
Công dụng chính của nhà máy thủy điện tích năng là tích trữ năng lượng, bổ sung cho hệ thống điện vào những lúc cần thiết, góp phần điều hòa phụ tải thay đổi trong ngày giữa lúc cao điểm và thấp điểm. Đây là một trong những giải pháp nhằm cân bằng phụ tải.
Như vậy, nhà máy thủy điện tích năng vừa là đơn vị sản xuất điện, vừa là đơn vị tiêu thụ điện. Nhưng thông thường, hầu hết nhà máy thủy điện tích năng thường tiêu tốn nhiều điện năng hơn là lượng điện nó có thể sản xuất ra, do quá trình bơm nước từ hồ chứa bên dưới lên hồ chứa bên trên, làm tiêu hao điện năng.
Tuy nhiên, giá trị thực tiễn cho phương thức vận hành này là sự chênh lệch giá điện giữa giờ cao điểm và giờ thấp điểm. Giá điện thường rẻ vào giờ thấp điểm và đắt hơn vào giờ cao điểm nên lợi ích kinh tế của nhà máy vẫn được đảm bảo.
Khác với thủy điện truyền thống, thủy điện tích năng không cần nhiều diện tích đất làm hồ chứa, bởi chỉ cần trữ một lượng nước vừa đủ cho số giờ chạy thiết kế là được. Cũng do chủ động về nguồn nước dự trữ nên thủy điện tích năng vận hành không phụ thuộc nhiều vào chế độ thủy văn hằng năm, có thể linh hoạt điều chỉnh công suất vận hành theo nhu cầu phụ tải.
Sau đây là mô hình cơ bản của nhà máy thủy điện tích năng.