Η στέρνα των Αγίων Αποστόλων άρχισε να χτίζεται το 1825 και ολοκληρώθηκε το 1846, χρονολογία χαραγμένη στην πλακόστρωση της επιφάνειας απορροής της. Οι διακοσμητικοί πυλώνες προστέθηκαν το 1848, και η πρόσβαση ολοκληρώθηκε το 1851, σύμφωνα με το Βιβλίο των Γερόντων των Παξών.
Είναι αναμφισβήτητα η πιο περίτεχνη στέρνα του νησιού και ένα από τα καλύτερα δείγματα αγγλικού δημόσιου έργου στην περιοχή. Από το 1982 είναι κηρυγμένο μνημείο του Υπουργείου Πολιτισμού.
Σε αντίθεση με την κυλινδρική στέρνα των Αγίων Αναργύρων στην ανατολική πλευρά, αυτή είναι ορθογώνια, με μνημειώδη κεντρική σκάλα στη νότια όψη της. Το ορθογώνιο δεν περιλαμβάνει μόνο την κύρια δεξαμενή αλλά και μια επιμήκη δεξαμενή καθίζησης στη βόρεια πλευρά, περίπου στο ένα τρίτο του μεγέθους της κύριας. Τρία ανοίγματα στον μεσότοιχο αφήνουν το νερό να περάσει από τη δεξαμενή καθίζησης στην κύρια, αφού πρώτα κατακαθίσει η λάσπη.
Η στέρνα μαζεύει νερό όχι μόνο από την πλακόστρωτη επιφάνειά της αλλά και από το απεριτοίχιστο έδαφος γύρω της· γι’ αυτό η διαμόρφωση όλης της επιφάνειας μετρούσε όσο και η ίδια η δεξαμενή.
Πρόσβαση: σχεδόν στο κέντρο του Γαΐου.
Η κύρια δεξαμενή είναι θολωτή, ύψους περίπου έξι μέτρων και μισού· οι εξωτερικοί τοίχοι της είναι χτισμένοι σαν τοίχοι αντιστήριξης, φαρδύτεροι στη βάση για να σηκώνουν την πίεση του νερού. Δύο κομψά στρογγυλά στόμια κάθονται συμμετρικά στον άξονά της. Τα τρία τετράγωνα ανοίγματα της βόρειας πλευράς είναι για καθαρισμό, και τα στόμια εισαγωγής πίσω τους είναι σήμερα γεμισμένα με εννιά κυκλικά τούβλα από γυαλί.
Μικρές λεκάνες καθίζησης στέκουν μπροστά από τα δύο στόμια εισαγωγής, κατά μήκος του αγωγού της βόρειας πλευράς. Η στέρνα επισκευάστηκε το 1931 και ξανά το 1999. Η υπερχείλιση της στέρνας του Μαντρόπουλου, στην άκρη του οικισμού, οδηγείται με σωλήνες εδώ ακόμα και σήμερα, αν και από τότε που έγιναν οι ανοιχτές λιμνοδεξαμενές δεν είναι πια η κύρια υδροδότηση του Γαΐου.
Η μνημειώδης σκάλα είναι εντελώς δυσανάλογη με τη δουλειά που κάνει: θα ταίριαζε σε ανάκτορο ή σε αρχοντικό της εξοχής, όχι σε μια στέρνα βρόχινου νερού.
Η χωρητικότητά της είναι εφτακόσια είκοσι κυβικά μέτρα, με διαφορά η μεγαλύτερη του νησιού.