Cache guarda uma cópia de um dado que já foi calculado ou buscado, pra não precisar refazer o trabalho na próxima vez. Pode existir em várias camadas: no navegador, no servidor, no banco de dados ou até no processador.
Exemplo prático: um site que busca a lista de categorias no banco pode guardar essa lista em cache por alguns minutos, evitando bater no banco a cada visita.
O grande desafio de cache é saber quando invalidar (limpar) os dados guardados, pra não mostrar informação desatualizada.