Auf einer Ehrenurkunde des Jahres 1905 anlässlich des 25 – jährigen Dienstjubiläums des Gemeindevorstehers Theodor Vahlmann findet sich das Ankumer Wappen. Im Schriftverkehr der Gemeinde wurde es erst seit dem Zweiten Weltkriege verwandt. (Schreiben der Gemeinde Ankum an das Niedersächsische Staatsarchiv vom 24. 1.1961). Da das Dorf Ankum beantragte, dieses Wappen als Gemeindewappen zu übernehmen, war die Einwilligung etwa noch lebender Nachkommen der Familie von Ankum erforderlich.
Mitglieder der Familie von Ankum – ursprünglich in Ankum ansässig – lebten längere Zeit in bedeutenden Stellungen in Osnabrück. Das Wappen befand sich 1944/45 in Sandstein gehauen über dem Portale Hake – Straße 8 in Osnabrück. Das Haus wurde durch Bomben zerstört.
Seit dem Ende des 16. Jahrhunderts lebten von Ankums in Jever/ Ostfriesland, von wo 1684 Johann von Ankum nach Danzig auswanderte. Einer seiner Nachkommen erwarb um 1850 ein Gut in Ostpreußen.
Dem Staatsarchiv war bekannt, dass ein H. F. Ziemer in Auringen – Taunus – nach der Familie von Ankum geforscht hatte. Mit ihm setzte sich die Gemeinde in Verbindung, da ihr nur die Existenz derer von Ankum bis 1888 in Ostdeutschland bekannt war.
Am 18.05.1961 teilte Herr Ziemer das Ergebnis seiner Forschungen mit. Im Juni 1961 gab dann die Familie von Ankum ihre Zustimmung dazu, dass die Gemeinde Ankum ihr Familienwappen führen darf.
Nachdem von einem Heraldiker Wappen, Flagge und Dienstsiegel der Vorlage entsprechend erarbeitet waren, wurde am 25. November 1964 durch den Herrn Regierungspräsidenten die Genehmigung erteilt, das alte Wappen der Familie Ankum zu übernehmen. Es zeigt auf weißem (silbernem) Grund ein rotes Andreaskreuz und in den Winkeln je einen goldenen Ring.