На процессе Ягода признал себя виновным в том, что прикрывал участников заговора, будучи заместителем председателя ОГПУ. На процессе произошёл следующий диалог между прокурором А. Я. Вышинским и Ягодой:
Вышинский: Во всяком случае, это было тогда, когда вы, подсудимый Ягода, были заместителем председателя ОГПУ и когда на вашей обязанности лежала борьба с подпольными группами?
Ягода: Да.
Вышинский: Следовательно, вы совершили прямую государственную измену?
Ягода: Да.
Согласно утверждению Бориса Бажанова, между Вышинским и Ягодой также произошёл следующий диалог:
Вышинский: Скажите, предатель и изменник Ягода, неужели во всей вашей гнусной и предательской деятельности вы не испытывали никогда ни малейшего сожаления, ни малейшего раскаяния? И сейчас, когда вы отвечаете, наконец, перед пролетарским судом за все ваши подлые преступления, вы не испытываете ни малейшего сожаления о сделанном вами?
Ягода: Да, сожалею, очень сожалею…
Вышинский: Внимание, товарищи судьи. Предатель и изменник Ягода сожалеет. О чём вы сожалеете, шпион и преступник Ягода?
Ягода: Очень сожалею… Очень сожалею, что, когда я мог это сделать, я всех вас не расстрелял.
Положение Ягода на суде было отчаянное: сознаваться в убийстве и не сметь сказать, чьей воли он был исполнитель, ибо, если б он хоть словом обмолвился, можно себе представить, каким нечеловеческим мукам он был бы подвергнут до казни! И вот он плел на суде небывальщину, что сжил со свету Горького по заданию Троцкого и при участии Бухарина и Рыкова, между тем Горький решительно ничем не мешал ни Троцкому, ни Бухарину, ни Рыкову, а вот «самого» [Сталина] обозлил непрошеным заступничеством за Каменева, когда Каменева арестовали вскоре после убийства Кирова, отказом написать книгу о «светлом гении человечества».
На рассвете 13 марта суд огласил приговор: все подсудимые были признаны виновными, 18 из них, в том числе Ягода, приговаривались к расстрелу. Последней попыткой сохранить жизнь было прошение о помиловании, в котором Ягода писал:
Вина моя перед Родиной велика. Не искупить её в какой-либо мере. Тяжело умирать. Перед всем народом и партией стою на коленях и прошу помиловать меня, сохранив мне жизнь.
Центральный исполнительный комитет СССР прошение отклонил. Расстрелян 15 марта 1938 года на спецобъекте «Коммунарка» (бывшей собственной даче). Следователь Н. М. Лернер сообщал, что, по словам М. И. Литвина, Ягоду заставили наблюдать за расстрелом остальных осуждённых и казнили последним. Перед казнью Ягоду по указанию Ежова избил начальник 1-го отдела ГУГБ НКВД СССР Израиль Дагин (об этом сообщил сам Дагин после своего ареста