Heaven and Hell и Mob Rules (1979—1982)

В 1979 году Шэрон Арден (позже — Шэрон Осборн), дочь Дона Ардена, менеджера Black Sabbath, предложила Ронни Джеймсу Дио, вокалисту Rainbow, заменить Осборна.
 В июне Дио стал официальным участником группы и та приступила к работе над следующим альбомом. Приход Дио, певца совершенно иного вокального стиля, ознаменовал собой радикальное изменение звучания группы. «Они были совершенно разными, и не только по тембру голоса но и в самом подходе. Оззи был блестящим шоуменом, но Дио принёс с собой совершенно новое отношение к музыкальному решению, в вокале. Если Оззи пел следуя риффу, как в 'Iron Man', то Дио — 'вопреки' риффу. Его приход привнес совершенно новый взгляд на сам процесс создания песен», — говорил Айомми. Во многом благодаря Дио и его знаменитая «коза» (изначально призванная нейтрализовать «дурной взгляд», а затем ставшая его привычным приветствием, обращённым к аудитории) приобрела популярность в метал-субкультуре, став жестом, общепринятым среди — как музыкантов, так и фанатов.

В сентябре 1979 года Гизер Батлер временно покинул состав: его заменил Джефф Николс (Geoff Nicholls, экс- Quartz). Этот состав вернулся в ноябре в Criteria Studios и начал записывать материал. В январе в группу вернулся Батлер, после чего Николс перешёл за клавишные.

Альбом Heaven and Hell, записанный Мартином Бёрчем, вышел 25 апреля 1980 года и был хорошо принят критикой. Десятилетие спустя рецензент AllMusic назвал релиз одним из лучших альбомов Sabbath, несшим в себе все признаки возрождения и присутствия новой энергии.. Heaven and Hell поднялся до # 9 в Великобритании (# 28 США), успех в чартах имели и два сингла него: «Neon Knights» и «Die Young» стали хитами.

Группа вышла в большое всемирное турне, дав свой первый концерт с Дио в Германии 17 апреля 1980 года. Весь 1980 года Black Sabbath гастролировали вместе с Blue Oyster Cult в рамках тура Black and Blue. Концерт в Nassau Coliseum (Юниондейл, Нью-Йорк) был снят на пленку и вышел фильмом в 1981 года под заголовком «Black and Blue».
26 июля 1980 года Black Sabbath выступили перед 75-тысячной аудиторией, заполнившей лос-анджелесский Memorial Coliseum (вместе с Journey, Cheap Trick и Molly Hatchet).
Примерно в это время на Vertigo вышел концертный альбом Black Sabbath Live at Last, куда вошли записи, сделанные в течение предыдущих семи лет; он был почти сразу же снят с продажи, но успел попасть в Top-5 (перевыпущенный сингл «Paranoid» вошёл в первую двадцатку).

Между тем, родители Уорда умерли один за другим в течение очень короткого времени, и он тяжело перенёс этот удар. «Я стремительно шёл на дно: пьян был 24 часа в сутки. И когда выходил на сцену, она казалась мне… не столь уж яркой. Словно бы начал умирать изнутри. Концерты казались бледными, Рон стоял там, делая своё дело, а я думал про себя: 'Всё кончено'. Мне нравится Ронни, но в музыкальном отношении он — не по мне», — вспоминал барабанщик. 18 августа 1980 года после концерта в Миннеаполисе, штат Миннесота, Билл Уорд из Black Sabbath был уволен, на смену ему был приглашён Винни Эпис. «Меня просто пинком вышибли со стула, даже не предупредив. Я понимал, что им нужен ударник, чтобы спасти тур, но я играл с группой многие годы, почти с детства… Это было больно», — признавался Уорд.
В феврале 1981 года Black Sabbath завершили тур Heaven and Hell и вернулись в студию для работы над новым альбомом. записанный с продюсером Мартином Бёрчем, Mob Rules, вышел в ноябре 1981 года, был хорошо принят фэнами, но хуже — критикой. Рецензент Rolling Stone Дж. Д. Консидайн оценил его одной звездой, заметив, что группа здесь звучит «так же тупо и напыщенно, как звучала всегда». По прошествии уже нескольких лет оценки критиков изменились: Э. Ривадавиа, рецензент AllMusic назвал альбом «великолепным» Mob Rules получил золотой статус и поднялся в британский top 20. Заглавный трек, записанный в старом английском доме Джона Леннона, вошёл в звуковую дорожку мультипликационного фильма 1981 года Heavy Metal, но в версии, отличавшейся от альбомной. Успех в Британии имели и два сингла: «Mob Rules» и «Turn up the Night».

Неудовлетворенная качеством альбома Live at Last, группа подготовила ещё один концертный альбом, Live Evil, составленный из записей, сделанных в ходе тура Mob Rules в Далласе, Сан-Антонио и Сиэтле, в 1982 году. В ходе микширования материала у Айомми и Батлера произошёл конфликт с Дио. Получив (как выяснилось, ошибочную) информацию от звукоинженера, эти двое обвинили вокалиста в том, что тот ночью проник в студию и увеличил громкость своей партии вокала. Дио, в свою очередь, не удовлетворило качество его фотографий на обложке. «Ронни хотел расширить свою сферу влияния, Гизера это раздражало, это и положило начало разладу. Во время записи Live Evil всё и развалилось. Студийный звукоинженер просто не знал, кого слушать: мы говорили ему одно, а Ронни — другое. В конечном итоге мы сказали: хватит: с группой покончено», — вспоминал Айомми. К моменту выхода пластинки в январе 1983 года Дио уже покинул Black Sabbath; за ним последовал Эппис.