По прибытии в Москву он нанялся в лавку по торговле суконным товаром в Холщовом ряду Гостиного двора. В 16 лет подросток записался в купцы третьей гильдии. Запись в купеческие гильдии предусматривала предъявление некоего капитала, и скорее всего, в этом Михаилу помог его старший брат Артемий Яковлев, уже имевший торговое место в Гостином дворе. Вскоре Михаил женился на Ефимии Степановне Скворцовой, дочери крестьянина из деревни Шевлино, владевшего крупным кожевенным делом и заводом в Москве, что позволило ему рассчитывать на приличное увеличение собственного капитала.

Последствия Отечественной войны 1812 года, разорения Москвы французами сказались на участи многих московских торговцев, в том числе и Михаила Яковлевича. Вернувшись в 1813 году в Москву из Владимирской губернии, он подал в Купеческую управу рапорт о невозможности оставаться в купеческом сословии и переходе в мещанское сословие. Однако спустя всего несколько лет, будучи приказчиком у купца Сорокованова, он настолько входит в доверие к своему патрону, что тот, не имея прямых наследников, передал свое дело способному и деловитому приказчику. В итоге в декабре 1823 года «московский мещанин» Михаил Яковлевич с 8 тысячью рублей капитала вновь просит записать его с семейством в третью купеческую гильдию. И в этот раз он подписывается фамилией Рябушинский, а не Денисов.

Последствия 1812 года сказались и на религиозных воззрениях московских людей. Многие купцы тогда сделали свой выбор в пользу старообрядчества, к которому тогда принадлежала вся элита московского купечества. Не стал исключением и Михаил Рябушинский.

Теперь ему выдался шанс выйти в настоящие люди – и Рябушинский развернулся во всю мощь своего незаурядного предпринимательского таланта. Доходы от своего крепнувшего год от года состояния Рябушинский пускал исключительно на дальнейшее развитие бизнеса, подчиняя собственную жизнь и жизнь своей семьи незыблемому принципу: «Все для дела – ничего для себя».

В своих подраставших сыновьях Иване, Павле и Василии предприниматель рассчитывал обрести надежных помощников, поэтому содействовал накоплению ими практических навыков торговли, хотя порой это шло в ущерб книжному образованию. В свободные от ведения семейного дела часы младшим Рябушинским не дозволялось предаваться никаким увлечениям. Как-то заслышав в доме приглушенные звуки музыки, Михаил Яковлевич быстро нашел их источник на чердаке в виде игравшего на скрипке сына Павла. Разгневанный этим недостойным занятием, отец выхватил из рук сына инструмент и разбил его вдребезги.

Другой сын – Иван – был отлучен от семейного дела в наказание за женитьбу вопреки воле отца. Тем не менее он получил свою долю наследства и до конца жизни занимался собственной торговлей.

Двое младших сыновей продолжали трудиться вместе с отцом. В середине 1840-х годов Михаил Яковлевич в своем собственном доме заводит мануфактуру для выделки полушерстяных материй. Здесь по старинке «на 140 станах без машин» работают около 200 рабочих. Фабрика дает ежегодный доход до 50 тысяч рублей серебром. Этим было положено начало будущей промышленной империи.

Вскоре в Калужской губернии Рябушинский открывает еще две мануфактуры. Одна из них оснащается паровым двигателем, выписанным из Манчестера. В 1856 году в Москве недалеко от своего дома, в Голутвинском переулке, Рябушинский строит четырехэтажную фабрику, где на 300 ткацких станках выделывают ткани из бумажной пряжи, английской и русской шерсти. Это была одна из первых в Российской империи ткацкая фабрика «полного цикла». Продаются товары в основном в собственных лавках Рябушинского и ежегодно приносят до 75 тысяч рублей дохода.

Михаил умер в 1858 году, передав сыновьям в наследство 2 миллиона рублей, положенных в развитие семейного дела.

Сын Павел, не ставший при жизни отца перечить его воле, женился на богатой купеческой дочке. У них родилось шесть дочерей, но крепкой старообрядческой семьи не получилось. Сразу же после смерти отца Павел Рябушинский затеял бракоразводный процесс и, обвинив жену в супружеской неверности, добился своего. В возрасте 50 лет он женился во второй раз, отбив 18-летнюю дочь крупного питерского хлеботорговца и старовера Александру Овсянникову у своего младшего брата, который так и остался холостяком. А у Павла от второй жены родилось 16 детей, но из них до совершеннолетнего возраста дожили восемь сыновей и пять дочерей.

Павел и Василий Рябушинские до поры до времени вели семейное дело в мире и согласии. Они продали свою лавку в Гостином дворе и превратились из чистых торговцев в производителей, хотя их компания носила название «Торговый дом П. и В. Рябушинских». Павел, будучи более компетентным в экономике и управлении, которые он познавал на практике в лавке дяди Артемия и на отцовских мануфактурах, отвечал за производство. А Василий, более склонный к торговле, – за сбыт товара.

В 1850—1860-х годах московские текстильные фирмы в массовом порядке начинают переходить от ручного ткачества к механическому производству с использованием паровых двигателей. Из-за того что на фабриках Рябушинских многое делалось по старинке и была слишком велика доля ручного труда, они проигрывали в соревновании с современными механическими фабриками. При этом переоборудование старых мануфактур стоило дороже, чем приобретение нового, уже оборудованного предприятия. И вскоре Павел решил ликвидировать отцовские мануфактуры, а на вырученные деньги купить крупную действующую бумагопрядильную фабрику в Тверской губернии. Эта идея не нашла поддержки у младшего брата, поэтому в 1869 году Павел был вынужден покупать мануфактуру на собственные деньги.