Родился 3 июля 1925 года в Харькове. В 1943 году поступил в актерскую студию Ю.А. Завадского при Театре им. Моссовета, находившемся в то время в эвкуации; в 1944-м поступил на режиссерский факультет ГИТИСа, который окончил в 1950-м (мастерская Н.В. Петрова и М.О. Кнебель).

Первой самостоятельной постановкой стал спектакль "Прага остается моей" в Центральном доме культуры железнодорожников в 1951 году. На профессиональной сцене дебютировал в том же году спектаклем "Приезжайте в Звонковое" по пьесе А. Корнейчука в Московском областном драматическом театре им. Островского.
В 1954-м был направлен в качестве режиссера-постановщика в Центральный детский театр.

В 1963 году возглавил Московский театр им. Ленинского комсомола.
В 1967-м был назначен очередным режиссером Театра на Малой Бронной.

Анатолий Эфрос много работал на телевидении, поставил ряд спектаклей, снял несколько телевизионных и нетелевизионных фильмов, в том числе "В четверг и больше никогда", вошедший в число лучших лент советского интеллектуального кино.

В 1984 году был назначен главным режиссером Театра на Таганке вместо Юрия Любимова.

Ушел из жизни 13 января 1987 года.