Egyetemi tanulmányai alatt még irodalomtörténettel foglalkozott, majd diplomájának megszerzése után a Magyar Tudományos Akadémia Nyelvtudományi Intézetének tudományos munkatársaként kezdett el dolgozni, melynek később főmunkatársa lett. 1971-ben a mai magyar nyelvvel foglalkozó osztály vezetőjévé nevezték ki. Itt írta első nyelvápolással kapcsolatos könyveit. 1960-ban megszerezte a nyelvtudományok kandidátusa címet az ELTE BTK-n, A Tanárképző Főiskolai Kar magyar nyelvi tanszékének tanszékvezető főiskolai tanáraként folytatta, közben az MTA Magyar Nyelvi Bizottságának társelnökévé is választották, majd nyugdíjba vonulása után annak tiszteletbeli elnöke lett. Előbb elnöke, majd tiszteletbeli elnöke lett az Anyanyelvápolók Szövetségének is. Több nyelvészettel foglalkozó folyóiratban dolgozott.

Az Álljunk meg egy szóra! című műsor 1987 januárjábától hetente látható volt a Magyar Televízióban, Grétsy tízperces adásokban beszélgetett Vágó István műsorvezetővel nyelvhelyességi, helyesírási kérsésekről. A műsor országosan ismertté is tette „Grétsy tanár urat”. A nyelvművelő sorozat 500. adása alkalmából, 1997-ben nívódíjat kapott.

Grétsy László 1998-ban vonult nyugdíjba. 2001- 2007 között az MTA Közgyűlésének képviselője volt.