Τα άνθη της ελιάς είναι λευκά και σχηματίζουν ταξιανθίες που αποτελούνται από δέκα με σαράντα άνθη σε σχήμα τσαμπιού. Τα διακρίνουμε σε τέλεια και ατελή.
Τα ατελή φυσικά δεν είναι δυνατόν να γονιμοποιηθούν. Η σχέση μεταξύ των τέλειων και ατελών ανθέων διαφοροποιείται ανάλογα με την ποικιλία, το μικροκλίμα και τη χρονιά που διανύει το ελαιόδεντρο. Το άνθος είναι ερμαφρόδιτο (φέρει άνθη αρσενικά και θηλυκά), έτσι το δέντρο αυτογονιμοποιείται.
Συνήθως όλες οι ποικιλίες έχουν 4 πέταλα λευκού χρώματος (εκτός από τις ποικιλίες Κολυμπάδα και Καρολιά που έχουν 5 πέταλα), δύο στήμονες, 1 ύπερο με την ωοθήκη.
Η ελιά δεν παράγει νέκταρ, έτσι οι μέλισσες δεν μεταφέρουν τη γύρη και δεν βοηθούν στη γονιμοποίηση. Σε μερικές ποικιλίες η γονιμοποίηση γίνεται με την βοήθεια του ανέμου, που μπορεί να μεταφερθεί σε μεγάλες αποστάσεις.