Establecido en 1660, algunos de los ciudadanos más notables de Estados Unidos descansan aquí. Llamado así por el edificio de almacenamiento de granos de 12,000 fanegas que una vez estuvo al lado, el cementerio histórico tiene aproximadamente 2,300 marcadores.
Existe una discrepancia entre el número de lápidas y el número de personas enterradas en el granero: se estima que hay más de 5000 bostonianos que han hecho del granero su lugar de descanso final. En un momento, Granary era parte de Boston Common, y el ganado que pastaba en Common también se encargaba del paisajismo en el cementerio. Durante la época victoriana, las lápidas se reorganizaron en ordenadas filas para dar paso a una innovación moderna de la época, la cortadora de césped.
La Tumba del Infante, donde cientos de niños han sido enterrados, se encuentra cerca del obelisco central que marca la tumba de los padres de Benjamin Franklin. Junto a la pared del fondo, un obelisco elaboradamente adornado marca la tumba de John Hancock. Paul Revere está enterrado cerca de la parte trasera del granero; un gran marcador colocado en el siglo XIX se encuentra junto a un marcador de pizarra más pequeño y antiguo. Piedras a juego en las dos esquinas delanteras del cementerio conmemoran a James Otis y Samuel Adams. Junto a la lápida de Adams está la lápida de las víctimas de la Masacre de Boston. En la pared de la derecha hay una placa que marca la tumba de Robert Treat Paine, el tercer firmante de la Declaración de Independencia enterrado en el Granero (los otros son John Hancock y Samuel Adams).
Las iglesias puritanas no creían en íconos o imágenes religiosas, por lo que la gente de Boston usaba las lápidas como medio para la expresión artística de sus creencias sobre el más allá. Uno de los motivos más populares fue la “Efigie del Alma”, una calavera o “cabeza de muerto” con un ala a cada lado que representaba el alma volando al cielo después de la muerte. Elaborados pergaminos, epitafios poéticos y representaciones de Grim Reaper y Father Time también adornan muchas lápidas.