Возможное решение.
Обоснование
1. Рассмотрим задачу в системе отсчёта, связанной с Землёй, и будем считать её инерциальной (ИСО).
2. Опишем брусок и составной блок моделью абсолютно твёрдого тела (АТТ).
3. Так как и брусок, и блок находятся в равновесии, для них справедливо условие равновесия АТТ относительно вращательного движения: сумма моментов всех внешних сил равна нулю. Для блока запишем моменты внешних сил относительно оси, проходящей через точку закрепления блока $O$ перпендикулярно плоскости рисунка, для бруска — относительно оси, проходящей через точку $A$ перпендикулярно плоскости рисунка.
4. Груз может двигаться только поступательно вдоль вертикальной оси $Oy$, лежащей в плоскости рисунка. Поэтому для груза используем модель материальной точки и применим второй закон Ньютона. Вследствие этого условие равновесия — сумма приложенных к грузу сил равна нулю.
5. Поскольку нити невесомы, блок невесом, трением в оси блока можно пренебречь, то величина силы натяжения каждой нити в любой её точке одна и та же, в частности $T_1 = T_3$ и $T_2 = T_4$.
Решение
1. Силы, действующие на брусок, блок и груз, показаны на рисунке для случая, когда масса груза максимальна (или масса бруска минимальна), и поэтому брусок ещё покоится на столе, но касается стола только в точке $A$. Поэтому сила $\vec N$ приложена к бруску в точке $A$ и направлена вертикально вверх, так как поверхность стола гладкая (трения нет).

2. Запишем уравнение моментов сил для бруска в момент, когда он покоится, касаясь стола только в точке $A$:
$$T_1\cdot AB - Mg\cdot\dfrac{AB}{2} = 0,$$
откуда
$$T_1 = \dfrac{Mg}{2}.$$
3. Запишем второй закон Ньютона для покоящегося груза в проекциях на ось $Oy$ введённой ИСО:
$$T_2 - mg = 0,$$
откуда
$$T_2 = mg.$$
4. Условие равновесия блока относительно оси, проходящей через точку $O$:
$$T_3\cdot r = T_4\cdot R.$$
С учётом того, что $T_1 = T_3$, $T_2 = T_4$ получим:
$$T_1\cdot r = T_2\cdot R.$$
5. Подставив в это равенство результаты п. 2 и 3, получим:
$$\dfrac{Mg}{2}\cdot r = mg\cdot R.$$
Отсюда
$$\dfrac{M}{m} = \dfrac{2R}{r} = \dfrac{2\cdot0{,}12}{0{,}08} = 3.$$
Ответ: $\min\dfrac{M}{m} = 3$.