La paroisse de Saint-Martin de Gaube était suffisamment importante sous l’Ancien Régime pour avoir deux annexes, les églises de Rimblès et de Sainte-Christine, toutes deux disparues au XIXe siècle. En 1790, son territoire fut réuni à ceux des paroisses de Perquie, Rimblès et Lusson, pour constituer la commune de Perquie.
L’édifice, qui est orienté au nord, était seulement constitué à l’origine d’une grande salle rectangulaire en briques, renforcée sur les côtés et aux angles par de puissants contreforts à ressauts. On y accédait sur la façade sud par une porte simplement décorée, surmontée d’une petite niche moulurée présentant un arc en accolade. En l’absence de sources documentaires, le style de ces éléments permet de dater la construction de la fin du XIVe. Des fenêtres plus larges et moins hautes que les actuelles et présentant des remplages de pierre s’ouvraient dans les murs latéraux. La présence d’arrachements d’arcs formerets ogivaux dans les combles, au-dessus de la voûte actuelle, permet de supposer l’existence d’une voûte d’ogives ancienne, dont l’effondrement pourrait correspondre à «l’entière ruine» constatée dans un rapport de 1571. Ultérieurement, un berceau lambrissé dont des traces se voient encore sous la charpente fut aménagé.
Une importante tour défensive faisant office de clocher, en moyen appareil de pierre, a été construite vraisemblablement dans la première moitié du XVe siècle, avant la fin des troubles de la Guerre de Cent ans.
Elle chevauche le mur de façade en mutilant en partie l’encadrement de la porte et sa niche. Son premier niveau, couvert d’une voûte en berceau, ménage un porche extérieur. L’accès initial aux niveaux supérieurs se faisait depuis ce porche, par le moyen d’un escalier de charpente en hors œuvre. Quelques meurtrières et les créneaux du dernier niveau assuraient seuls la défense, mais une ouverture appareillée qui, du clocher, donne accès au comble permet de supposer qu’un étage fortifié aujourd’hui disparu avait été aménagé au-dessus de l’église.
Cet édifice au plan simple fut agrandi à trois reprises. Dans un premier temps, une construction rectangulaire en briques, voûtée d’ogives et dotée de puissants contreforts, fut accolée à l’est de la nef. Actuellement accessible par une petite porte et faisant office de sacristie, elle a probablement été à l’origine une chapelle seigneuriale. Le style de ses sculptures la fait dater du XVIe ; la clé de sa voûte porte une inscription qui n’a pu encore être déchiffrée ; des traces de peintures murales apparaissent sur les murs.
Une seconde adjonction, également renforcée par des contreforts, existait à l’ouest. De plus grandes dimensions, elle se prolongeait jusqu’au chevet. La grande arcade en plein cintre qui la faisait communiquer avec la nef est la seule trace qui en subsiste, à l’extérieur. Démolie entre 1816 et 1868, elle ne peut être datée. À l’extérieur, se remarquent aussi les traces de la bande d’enduit, antérieure à l’adjonction, d’une litre seigneuriale peinte.
Le très mauvais état de l’église et une disposition jugée mauvaise pour le service religieux justifièrent les importants travaux dirigés en 1867-1868 par Alexandre Ozanne, architecte départemental de 1859 à 1879, avec la participation active et parfois conflictuelle du maire de Perquie, Camille de Muret, châtelain de Gaube. D’une part, l’édifice fut agrandi par la construction en pierre d’un sanctuaire composé d’une travée droite et d’une abside à pans coupés. D’autre part, l’ancien vaisseau unique fut divisé en une nef et deux collatéraux de trois travées par le moyen de colonnes de fonte à base et chapiteau en pierre de Bourdalat, supportant des voûtes en brique sur ogives, arcs formerets et doubleaux de pierre, selon une disposition inédite dans les Landes. L’uniformisation de fenêtres en de simples lancettes, plus étroites et plus hautes, fut préférée à la restauration des anciennes, et des verrières d’un modèle simple, sans représentation figurée, y furent mises en place. Un dessin richement aquarellé du peintre décorateur bordelais Augier atteste qu’un décor peint avait été prévu pour le nouveau sanctuaire, mais il n’est pas possible de savoir s’ il fut réalisé.
Le mobilier comprend essentiellement les parties latérales d’un grand décor de chœur en bois, partiellement doré et peint, qui occupait l’ancien mur plat du chevet et qui fut soigneusement déposé en 1867. Le style de ces éléments permet de les attribuer à la seconde moitié du XVIIIe.
Ils forment aujourd’hui deux autels latéraux exactement symétriques dans leur disposition et leurs détails. L’autel galbé s’appuie contre un retable encadré par deux colonnes torses à entablement rectiligne. Au-dessus du tabernacle dont les ailes sont réduites à leur plus simple impression, le panneau central sert de fond à une statue plus récente reposant sur une riche console et devant une niche feinte. La sculpture, réduite à des têtes d’angelots, est d’une grande finesse et l’ensemble produit un effet d’une élégance certaine.
Il ne subsiste malheureusement que quelques éléments de l’autel majeur et de son retable qui occupaient vraisemblablement la partie centrale. L’autel se trouve actuellement en morceaux dans l’église de Lusson ; sur le tombeau est représenté saint Martin, patron de l’église, et, sur les ailes du tabernacle, les attributs d’évêque et de militaire. Un dais d’exposition actuellement remisé sur la tribune de Gaube pourrait s’adapter à cet autel. On ne peut donc que formuler le vœu que ces éléments en proche péril soient sauvés, réunis et replacés dans l’église dont ils proviennent.
On peut encore signaler la rambarde de la tribune, toute simple, formée de balustres à section carrée, antérieure à l’aménagement du XIXe, ainsi que la table de communion en fonte à fleurons dorés qui fut commandée sur le modèle de celle de Saint-Jean-d’Août à Mont-de-Marsan.