Зайдем с другого боку. Срабатывает одно реле или оба сразу?
К чему клоню: наверняка есть измеренные значение сопротивления обмоток постоянному току электродвигателя. Если нет - измеряем, сравниваем. Расхождение больше 2% - бракуем электродвигатель. Можно еще испытания провести повышенным напряжением, но раз замыкания на землю нет, скорее всего, это ничего не даст.
Загрублять защиту не пробовали? Если не боитесь, можно попробовать немного увеличить уставку, заставить электродвигатель запуститься, а потом измерить номинальные токи в фаза А и С, и для кучи в нулевом проводе неполной звезды (будет фаза В). И тоже их сравнить. Если электродвигатель неисправен, то будет явное превышение тока холостого хода. Заодно человека с пирометром у корпуса поставить, пусть "нюхает" температуру.
Но это очень плохой вариант. Не дай Бог там витковое, погорит намного больше, чем на данный момент повреждено.
И еще не кисло бы вспомнить: какие события предшествовали этому. Длительный простой, окатывание водой, ремонт, регулировка центровки и так далее.
Кстати, не написали, что он крутит и разбирали ли муфту приводимого во вращение механизма. Если нет - надо разобрать.