Правозащитная деятельность Ковалёва началась в середине 50-х годов прошлого века. Тогда перспективный кандидат биологических наук поддерживал гонимых учёных-генетиков.

А в 60-е он организовал в МГУ сбор подписей в защиту репрессированных писателей Синявского и Даниэля. Сам Ковалёв был арестован за "антисоветскую пропаганду" в 1974 году. Его приговорили к 7 годам лагеря и 3 годам ссылки.

В 1990 году Ковалёва избрали депутатом, и он вошёл в Верховный Совет России. Тогда же приступило к работе совещание по подготовке новой Конституции. О том, как Ковалёв работал над Основным законом, Metro рассказал другой участник Конcтитуционного совещания, бывший председатель Совета при президенте России по правам человека Михаил Федотов:

 – Вторая глава Конституции – о правах гражданина России, которой Ковалёв уделял особое внимание, существует без единой поправки по сей день. Конституция рождалась в спорах: один человек предлагает, другой дополняет, третий отвергает.  Но аргументы Ковалёва всегда воспринимались с особым уважением. Все понимали, что говорит человек с колоссальным правозащитным стажем, в том числе лагерным. Я спорил с ним по поводу должности омбудсмена. Он настаивал, что в Конституцию нужно вписать институт уполномоченного при президенте по правам человека. А я тогда думал, что если у нас будет нормальный суд, то "всенародный плакальщик" не понадобится. Ковалёв убедил и оказался прав.

"В споре Ковалёв умел услышать собеседника и убедить его в своей правоте", - Михаил Федотов, бывший председатель Совета при президенте по правам человека