становится генерал-прокурором и одновременно конференц-министром. Узнав о назначении на новую должность, он воскликнул: «В оном чину наиглавнейших злодеев иметь буду!». И он не ошибся. Менее полутора лет служил на этом посту честный, бескорыстный и неподкупный прокурор, пользовавшийся репутацией «строгого законника» и пристально следивший за тем, чтобы в государственных учреждениях все «чинилось порядочно и по указам», имел немало острых стычек с приближенными к императрице сановниками. Он сразу же потребовал от обер-секретаря отчета о рапортах, присылаемых из присутственных мест, о производящихся там делах и расходовании денежных средств. Канцеляристы оказались в растерянности, поскольку донесения с мест, несмотря на «понуждения», поступали нерегулярно, а некоторые их вообще не направляли.
Чаще других игнорировала эти указания экспедиция по переделке медных денег, которой руководил граф Шувалов. Получив запрос, граф приехал в Сенат и в раздражении спросил, кто посмел прислать ему «понуждение», а потом обвинил генерал-прокурора в том, что тот причиняет ему неприятности. Шаховской же ответил, что пытается пресекать только «противозаконные поступки» Шувалова, основанные на личных выгодах и корысти. Разгневанный Шувалов расстался с ним еще большим врагом, чем был прежде.
Программой действий для генерал-прокурора стал указ Елизаветы Петровны от 16 августа 1760 года, в котором она поручала Сенату содействовать ей в восстановлении в государстве «надлежащего порядка, правосудия, благосостояния и обильного добра». Более близкое знакомство Я. П. Шаховского с судебными местами убедило его в том, что они погрязли в злоупотреблениях. Он писал: «Несытая алчба корысти дошла до того, что некоторые места, учрежденные для правосудия, сделались торжищем лихоимства, пристрастие – предводительством судей, а потворство и упущение – ободрением беззакония».
Он признавался, что чувствовал себя путешественником, который с «надлежащей большой дороги загнан в болото, наполненное тиною и трясиною, из коего не дорогами, но наудачу, то по колено, то глубже увязая, потеряв силы и отчаясь на твердый берег выйти, близко погибель свою ощущает».
Императрица Елизавета Петровна ценила Шаховского, была милостиво расположена к своему генерал-прокурору, лично принимала доклады и часто вставала на его сторону.
25 декабря 1761 года новый император Петр III отправил Шаховского в отставку, и некоторое время тот «оставался не у дел». Короткое царствование Петра III закончилось дворцовым переворотом, и на российском престоле оказалась Екатерина II. Она вновь призвала Шаховского на службу, назначив сенатором. В день своей коронации императрица пожаловала ему орден Святого Андрея Первозванного.
Яков Петрович часто сопровождал молодую императрицу в поездках по России, причем нередко сидя с ней в одном экипаже. В пути он много говорил о деяниях Петра Великого и затеянных им преобразованиях. В одной из таких