Geboren am 28. Dezember 1630 in Emden als Sohn des Gerhard Backhusz. und der Margarete Jansen. Sein Vater war Hofgerichtsschreiber in Aurich und später Notar in Emden. Houbraken berichtet, dass er bis zu seinem 18. Lebensjahr „Klerk op 't Comtoir" (Geschäftsschreiber) gewesen sei, bevor er sich 1650 in Amsterdam niedergelassen habe, um als Buchhalter und Schreiber für Guillelmo Bartolotti zu arbeiten, der wie er aus Emden übergesiedelt war. Als Autodidakt habe er damals damit begonnen, Schiffe nach der Natur zu zeichnen, und auf Anregung von Allaert van Everdingen - der sich 1652 in Amsterdam niedergelassen hatte - alsbald auch mit dem Malen angefangen, wobei ihn der Marinemaler Hendrik Dubbels beraten habe.
Seine frühesten datierten Gemälde lassen den Schluss zu, dass er sich seit spätestens 1649 in Amsterdam aufhielt und bereits 1650 in Kontakt mit Dubbels stand. Erstmals dokumentarisch genannt ist er am 9. Juli 1651 in Emden, wo er als Zeuge eine Akte zeichnete. In Amsterdam ist er erstmals 1656 als „schryver ende factor" belegt. Zu seinen Hochzeiten mit Lysbeth Lubberts (1657) und Catarina Bevel (1660) gab er seinen Beruf mit Zeichner an. Nach dem Tod seiner zweiten Frau wohnte er von 1662 bis 1663 vorübergehend in Hoorn. 1663 hielt er sich wahrscheinlich wieder kurz in Emden auf. Am 1. Februar 1663 trat er der Malergilde in Amsterdam bei. 1664 heiratete er Alida Greifet, die eine Seidenhandlung als Mitgift in die Ehe einbrachte. Das Paar ließ am 14. Juni 1665 eine Tochter Maria taufen. Im gleichen Jahr erteilten ihm die Bürgermeister von Amsterdam den Auftrag zu einer Ansicht des Hafens der Stadt, die Hugues de Lionne, Außenminister König Ludwigs XIV., zum Geschenk gemacht werden sollte. Das 1666 fertiggestellte Gemälde, für das der Künstler mit 400 Dukaten entlohnt wurde, befindet sich heute im Louvre. 1678 starb seine dritte Frau. Nach den Datierungen 1679 und 1680 auf Gemälden und Zeichnungen mit Ansichten von Plymouth scheint er um diese Zeit England besucht zu haben. Wieder in Amsterdam, heiratete er am 2. Juni 1680 Anna de Hooghe. Aus dieser Ehe ging 1683 Johannes Backhuysen hervor, sein einziger Sohn, der das Erwachsenenalter erreichte. Eine gezeichnete Ansicht Emdens mit dem Datum 1686 deutet auf einen erneuten Besuch seiner Geburtsstadt hin. 1699 wurde Backhuysen zum Vorsteher der neu eingerichteten Amsterdamer Kunstkammer ernannt. Seine letzten datierten Werke stammen aus dem Jahr 1707. Er starb am 7. November 1708 in Amsterdam.
Backhuysens Ruhm gründet auf seinen gemalten und gezeichneten Marinebildern, die in vielen Fällen zeitgeschichtliche Ereignisse schildern oder den Ruhm der Hafenstadt Amsterdam verewigen. Nach dem Wegzug der beiden Willem van de Velde (1673) stieg er zum führenden Vertreter dieser Gattung in Holland auf. Ihm gelang besonders die Darstellung der bewegten See. Genaue Naturbeobachtung verband er mit dem klassizistischen Geschmack seiner Zeit. Gelegentlich schuf er auch Porträts von sich selbst und seiner Frau sowie Personen, die vermutlich seinem weit ausgedehnten Bekannten- und Freundeskreis angehörten. Backhuysen war ein Meister der Kalligraphie und unterrichtete in diesem Fach zeitlebens Schüler.
Als seine Schüler und Nachfolger werden u. a. Hendrik Dubbels, Jan Claesz. Rietschoof, dessen Sohn Hendrik Rietschoof, Aernout Smit, Abraham Storck und Michiel Maddersteg genannt.
