Debrecenben kezdte egyetemi tanulmányait, ahonnan egy év után átiratkozott az ELTE bölcsészkarára magyar-angol szakra. 1975-ben kapta kézhez diplomáját, 1978-ig az Állami Gorkij Könyvtárban dolgozott. 1978-tól az ELTE angol tanszékén volt könyvtáros, majd 1982-ben a Helikon Kiadó szerkesztője lett. Itt négy évet töltött el, 1986-tól szabadfoglalkozású író. 1997-98-ban részt vett a Beszélő című folyóirat szerkesztésében is.

A csendes, visszahúzódó lány első verseit Vas István telefonkönyvből kilesett címére küldte el, és nem kevés izgalommal várta a kritikáját, amely igen kedvező volt. A versírással párhuzamosan műfordítói pályája is elindult, elsősorban angolszász szerzők alkotásait ülteti át magyarra. Első verseskötete, a Jóslatok és határidők 1981-ben látott napvilágot, majd egy évvel később első fordításkötete, az ír népmeséket tartalmazó A megbabonázott puding is megjelent.

Saját bevallása szerint lassan és nehezen ír verseket, négy-öt év is eltelik, mire egy kötetnyi összegyűlik. Rakovszkyt az úgynevezett "új érzelmesség" képviselőjeként is szokták emlegetni, és minden verseskötetét általános kritikai elismerés övezi. 1994-es angol nyelvű kötete, a New Life, amely George Szirtes fordításában Londonban jelent meg, külföldön is ismertté tette nevét. Fordított angol romantikus, modern angol és amerikai költőket, Ibsen drámáit (Kúnos Lászlóval), regényeket, többek között Charles Frazier A hideghegy című művét, valamint Stephanie Meyer könyveit.

Első, kirobbanó sikert aratott nagyregénye a 2002-es A kígyó árnyéka volt. A fordulatokban és rejtélyekben gazdag XVII. századi történetért 2002-ben ő kapta a Magyarország Európában Alapítvány által odaítélt Magyar Irodalmi Díjat. Még A kígyó írása közben újabb prózába kívánkozó, immár a közelmúlthoz, az "ötvenes évek szűk levegőjéhez" kötődő téma foglalkoztatta, amiből 2005-re lett egy új regény, A hullócsillag éve. A regényt a kritika és az olvasók is kedvezően fogadták. 2009-ben újabb prózakötettel jelentkezett; A Hold a hetedik házban lélektani novelláiban női sorsok, jellegzetes élettörténetek jelennek meg.

Rakovszky munkásságát több rangos díjjal is elismerték, a többi között 1980-ban Graves-, 1988-ban József Attila-díjat, 2003-ban Márai-, 2010-ben Kossuth-díjat kapott. Ezen kívül 1989-ben elnyerte Az Év könyve jutalmat, 1992-ben a Soros Alapítvány Életműdíját, 1997-ben a Soros Alapítvány Alkotói Díját és a Magyar Köztársaság Babérkoszúja-díjat, 1999-ben pedig a Salvatore Quasimodo-díjat.