Anny Schlemm wurde am 22. Februar 1929 in Neu-Isenburg geboren. Nach dem Schulabschluss studierte sie in Halle, wo sie 1946 am dortigen Opernhaus debütierte. 1949 kam sie nach Berlin und feierte dort die ersten Erfolge an der Staatsoper sowie an der Komischen Oper. In den vielen Jahren ihrer Karriere gastierte Schlemm unter anderem in Köln, Frankfurt am Main, München, Dresden, Roma, Warschau, Budapest, Wien, Moskau, Stockholm und Toronto.
Anny Schlemm ist Ehrenmitglied des Opernhauses Halle, des Opernhauses Frankfurt am Main sowie der Komischen Oper Berlin. Im Lauf ihrer Karriere hat sie bisher über 130 Partien verkörpert. Sie sang Aufnahmen bei allen Deutschen Rundfunkgesellschaften, bei der Deutschen Grammophon Gesellschaft und bei der DECCA. Im Jahr 1996 feierte Anny Schlemm ihr 50-jähriges Bühnenjubiläum. Am 10. Juli 1996 würdigte die Stadt Neu-Isenburg ihre Verdienste mit der Verleihung der Großen Ehrenplakette. Am 24. Februar erhielt die Kammersängerin im Rahmen einer Festveranstaltung die Ehrenbürgerwürde der Neu-Isenburg.
Anny Schlemm kann auf eine nahezu sechzigjährige aktive Bühnenpräsenz zurückblicken. In dieser Zeit wandelte sich ihre Stimme vom lyrischen und jugendlich-dramatischen Sopran über das Mezzo-Fach bis zum dramatischen Alt. Insgesamt verkörperte sie im Laufe ihrer Sangeskarriere mehr als 135 Partien. Im Jahre 2000 erhielt sie für ihre hervorragende Darstellungskunst den Joana-Maria-Gorvin-Preis.
In Neu- Isenburg gibt es einen Verein, der sich mit dem künstlerischen Wirken Anny Schlemms befasst, die Franz Völker Anny Schlemm Gesellschaft. Die Künstlerin war mit dem Dirigenten Wolfgang Rennert verheiratet. Aus der Ehe ging der Jazz-Musiker Uli Rennert hervor, der mit seiner Familie in Graz (Österreich) wohnt. 2007 hat Anny Schlemm ihren Wohnsitz ebenfalls nach Graz verlegt.