Силовая установка крана Я-5 состоит из вертикального парового котла системы Лешапеля и вертикальной сдвоеной паровой машины мощностью 45 л.с. Механизмы крана приводятся в действие сдвоенной вертикальной паровой машиной реверсивного типа, получающей пар от собственной котельной установки.
Кран состоит из котла с водяным баком и угольным ящиком, паровой машины, нижней тележки с ходовыми частями, поворотной рамы с противовесами, передаточных механизмов: главного вала, подъёма стрелы, поворота и передвижения крана, а также грузового и грейферного барабанов, рычагов управления, кузова, стрелы с траверсой, крюка и грейфера.
Кран Я-5-М оснащен карбюраторным двигателем ЗИС-5 мощностью 73 л.с.
Краны выполнены на двухосном железнодорожном ходу и вращающейся платформы с силовыми механизмами. В отношении механизмов подъема груза оба крана выпускались в двух вариантах: с однобарабанной лебедкой для работы крюком и двухбарабанной лебедкой, при которой в равной мере возможна работа крюком и грейфером емкостью 1,5 м3.
Краны снабжены автоматическим указателем вылета стрелы и грузоподъёмности.
В транспортном положении краны вписывается в габарит 1-В и могут следовать в железнодорожном составе в неразобранном виде, для чего они снабжёны нормальными, железнодорожного типа тяговыми приборами, буферами и двумя колёсными парами.
Конструктивный вес крана Я-5 - 35 т, крана Я-5-М - 33,8 т.