К концу апреля 1995 года равнинная часть Чечни контролировалась российскими войсками. Боевики Дудаева потеряли райцентр Ведено, Ножай-Юрт, Шатой и были вынуждены отступить в горы. Федеральные войска предвкушали победу. Однако Шамиль Басаев решился провести теракт, которого еще не знала история. Захват больницы в Будённовске в июне 1995 года — самый крупный теракт в мире. Заложниками оказались почти 2000 человек, в основном женщины и старики. Несколько страшных дней они провели в осажденной больнице, без еды, под дулами автоматов, гибли под обстрелом, от шальных пуль и от осколков.
На пресс-конференции в больнице Басаев заявил, что единственное условия для освобождения заложников — вывод российских войск из Чечни. Боевиков было около 200 человек, они заняли круговую оборону, в окна выставили заложников с белыми флагами из простыней и наволочек.
«Мы понимали, что штурмовать такое здание — самоубийство. А когда на следующий день наши специалисты рассчитали потери в случае штурма, ужаснулись все», — вспоминает в книге Алексея Филатова «Будённовский рубеж» руководитель Первого отдела группы «Альфа» Сергей Поляков.
Но руководство силовых структур приняло решение о штурме. Ожидаемо он закончился неудачей. В ситуацию вмешались депутаты Госдумы, которые согласились вести переговоры и премьер-министр России Виктор Черномырдин, который лично позвонил Басаеву. Фраза — «Шамиль Басаев, говори громче», вошла в историю современной политики России. Черномырдин согласился на прекращение боевых действий в Чечне и решение вопроса о статусе Чечни только путём переговоров. Террористам организовали коридор и они выехали на автобусах в горную часть Чечни. Их сопровождали около 100 заложников, среди которых были депутаты. Всех их отпустили после въезда в Чечню.
В результате теракта погибли 129 человек (в том числе 18 работников милиции и 17 военнослужащих), 415 человек были ранены. Боевики потеряли погибшими 16 человек.