Nach erstem Zeichenunterricht in Detmold ging Ida Gerhardi 1890 nach München, um an der Damenakademie des Münchener Künstlerinnenvereins zu studieren. Sie besuchte vor allem die Zeichenklasse der Wiener Malerin Tina Blau-Lang. In dieser Zeit befreundete sie sich mit der Ärztin Agnes Bluhm, durch die sie auch Elisabeth H. Winterhalter und Ottilie W. Roederstein kennenlernte. 1891 zog Gerhardi nach Paris, um an der Académie Colarossi zu studieren. Sie spezialisierte sich auf die Porträtmalerei, schuf jedoch auch zahlreiche Bar-und Cabaretszenen. Sie präsentierte ihre Werke im Salon de la Société nationale des Beaux-Arts (1895, 1896, 1899) und in den Ausstellungen der Berliner (1900, 1908) und Münchner Secession (1902, 1905).
Zudem engagierte sich Gerhardi als Kunstagentin und Ausstellungsorganisatorin in Deutschland und Frankreich. Sie stellte für den Hagener Sammler Karl Ernst Osthaus Kontakte zur Pariser Kunstszene her. In Paris verkehrte sie mit Persönlichkeiten aus dem Künstlerzirkel im Café du Dôme am Boulevard Montparnasse, arbeitete als professeur libre (d.h. ohne festen Vertrag) an der Académie Colarossi und nutzte regelmäßig das Atelier ihrer Freundin Roederstein. 1905 wurde sie Mitglied im Deutschen Lyceum-Club, einer Frauenvereinigung, die sich u.a. für die Unterstützung von Künstlerinnen und Wissenschaftlerinnen einsetzte. Neben Porträts schuf sie ab 1916 bis zu ihrem Tod im Jahr 1927 vorwiegend Stadtansichten und Blumenstillleben. In Ausstellungen war sie beispielsweise in Köln (1915, 1917), Wiesbaden (1915, 1916) und Hagen (1921) vertreten.