Никаких шлицов в двигателе — нет. На коленвале прикреплён маховик, и в нём по центру имеется отверстие в котором запрессован подшипник. И вот во внутреннее отверстие этого подшипника должен попасть конец первичного вала механической коробки передач. Но перед этим первичный вал должен своими шлицами пройти сквозь шлицы ведомого диска сцепления.
Диски сцепления крепятся на маховике (ведомый и ведущий). Если вы снимали диски сцепления, устанавливали например новое сцепление, тогда при установке надо было обязательно центровать ведомый диск оправкой или старым первичным валом (если этого не сделано, тогда вы никогда не сможете установить коробку).
Также при установке ведомого диска, его надо ставить правильно, утолщённой стороной к ведущему диску (к корзине), иначе тоже коробка не присоединится, а если и получится присоединить, то не будет выжима сцепления. Я понял, что шлицами двигателя вы называете шлицы диска сцепления.
Даже когда всё правильно установлено, и отцентрировано, то не просто соблюсти перпендикуляр и попасть первичным валом в шлицы и потом в подшипник маховика. То есть при установке МКПП, надо удерживать (соблюдать) соосность центра маховика двигателя и оси первичного вала коробки передач (малейшее отклонение не даёт совместиться этим деталям). Шлицы тоже, с перекосом не будут совмещаться.
При совмещении коробки со сцеплением, надо при включенной передаче (любой, можно высшей), шевелить через привод первичный вал, для того чтобы шлицы совместились, и вошли друг в друга. Всю эту работу по установке МКПП, намного удобнее делать вдвоём-втроём, один руководит процессом, смотрит как и куда направляется первичный вал, подправляет, и командует в какую сторону повернуть, развернуть, приподнять или опустить коробку, шевелить вал. С лебёдкой конечно полегче, но ею тоже должен же кто-то управлять, в тот момент когда один высматривает и соблюдает направление первичного вала в сторону маховика.
Не применять при заталкивании коробки никаких «тракторных» усилий и не тянуть болтами, пока вал не попадёт в шлицы диска сцепления и в отверстие подшипника маховика — обычно когда есть попадание, то есть наконец оси совмещены, то и коробка заходит на место легко («как по маслу»), и оставшиеся там малость (ну может миллиметров 5) она уже подтягивается болтами легко и не принуждённо.