Жестокое нападение и убийство закрепили за Гравано в семье Коломбо репутацию «пришлого», надежного и железного силовика. Но вражда с родственником капо Коломбо могла быть мирно разрешена только путем ухода Гравано из выбранной им боргаты. Чтобы избежать кровопролития и признать компетентность Сэмми, лидеры Коломбо разрешили ему перейти на службу в банду Гамбино в Бенсонхерсте. Его новым лидером стал Сальваторе «Тоддо» Аурелио, капо, который стал мафиозным инструктором и благодетелем Сэмми Быка.

Переезд обогатил Гравано. Под руководством Аурелио он стал приличным дельцом и крупным ростовщиком. Вскоре грубая тактика Гравано и связи семьи Гамбино с коррумпированными профсоюзами позволили ему разнообразить свой криминальный портфель. Он вымогал у строительных компаний деньги за трудовой покой и, имея возможность заключать сделки с профсоюзами, открывал собственные компании и работал как полулегальный строительный субподрядчик. Получив незаконную прибыль, он вложил деньги в качестве партнера в несколько ресторанов и дискотек, удобно обосновывая высокий доход в налоговой декларации.

Женатый на Дебре Сцибетте, (чей дядя был солдатом Бонанно), являлся отцом дочери и сына, и личная жизнь Гравано казалась гладкой. В 1975 году, когда Комиссия по мафии вновь открыла книги для вливания новобранцев, он был одним из первых, кого приняли в боргату Гамбино.

Капо Тоддо Аурелио был спонсором Сэмми на церемонии вступления, которую вел Большой Пол Кастеллано в бруклинском подвале. После этого в памяти Гравано остались торжественные слова Кастеллано: «Ты рожден с сегодняшнего дня» и клятва в абсолютной преданности и верности Коза Ностре, «Нашему делу». «В этом тайном обществе есть только один путь внутрь и только один путь наружу, — говорил Кастеллано. — Ты входишь на своих ногах, а выходишь в гробу. Отсюда нет возврата».

Аурелио был капо, крепко привязанным к Кастеллано, и босс часто обращался к его команде за «куском работы», за убийством. Очередь Гравано наступила в 1977 году. Заказ Кастеллано выполнил Сэмми, который так и не узнал ни личности жертвы, ни мотивов своего второго убийства. Другой заказ Кастеллано был связан с личными отношениями и продемонстрировал непоколебимую преданность Гравано своей мафиозной клятве. Николас Сцибетта, брат жены Гравано, Дебры, был сообщником и мелким игроком в другой банде Гамбино. Мелкий кокаиновый барыга, Сцибетта приобщился к собственному товару и превратился в склочного наркомана. До Кастеллано дошли сведения о вопиющих нарушениях Сцибеттой его эдикта о запрете на наркотики, и опасения, что если «Ники» поймают, он станет «крысой» и поставит под угрозу семью. Не теряя времени, Кастеллано приказал выгнать Сцибетту. Эту работу поручили друзьям Гравано, которые «без протокола» сообщили ему, что его шурину грозит неминуемая опасность. Решив, что преданность Кастеллано и омерта превыше обязательств перед родственником, связанных с жизнью и смертью, Гравано промолчал, вместо того чтобы предупредить Ники о необходимости бежать из беды. Тело Сцибетты так и не было найдено, хотя рука с его перстнем обнаружилась. И снова Гравано утешал родственников жертвы, на этот раз жену и свекровь.

К началу 1980-х годов деньги от рэкета и связанных с мафией строительных компаний и ночных клубов, полученные Гравано, текли рекой. Золотое прикосновение Сэмми распространилось даже на его жену, которая выиграла в лотерею штата Нью-Йорк 800 000 долларов. Многие мафиозные предприятия Гравано осуществлялись в тандеме с его шурином Эдвардом Гарафолой, также выходцем из Гамбино. Гравано построил роскошный дом на Стейтен-Айленде стоимостью 800 000 долларов и приобрел ферму в Нью-Джерси площадью тридцать акров для проведения выходных и разведения скаковых лошадей. Финансовые успехи все больше привлекали к нему внимание Кастеллано, и его часто выбирали для важных актов насилия. В 1980 году через Кастеллано он получил контракт на Джона «Джонни Киса» Симоне, филадельфийского мафиози, который выступал против Никодемы Скарфо, выбранного Комиссией на пост босса мафиозной семьи города. Гравано лично организовал убийство, похитил Симоне и спокойно наблюдал за тем, как его сообщник выстрелил Симоне в затылок.

Несмотря на похвалу Кастеллано, лояльность Гравано к Большому Полу постепенно ослабевала, и он стал активным сторонником смертельного заговора Готти против своего босса. Его союз с Готти был быстро и богато вознагражден. Одним из первых шагов Готти стало повышение Гравано до капо команды «Тоддо Аурелио»; старому капитану, наставнику Сэмми, позволили уйти в отставку мирно и без ущерба. Став капо, Гравано быстро создал ростовщическую книгу на 1,5 миллиона долларов, которая обеспечивала ему стабильную ежегодную прибыль в 200-300 тысяч долларов.

Вдали от своей гангстерской работы Готти и Гравано находили противоположные способы отдыха. Готти, обычно игравший с парнями в азартные игры и выпивавший, редко проводил ночь с женой и детьми. Гравано наживался на ростовщических кредитах для азартных игроков, но никогда не рисковал собственными деньгами на спортивных ставках или в картах. В отличие от большинства мафиози, он рано вставал, а по вечерам его можно было застать дома. После своего последнего тюремного срока Готти отказался от тяжелых физических нагрузок, предпочитая менее напряженный отдых плейбоя. Сэмми Бык, даже с его возросшими обязанностями боргата, был одержим идеей поддерживать себя в отличной форме и сохранять спортивный имидж. Чтобы набрать массу, он тратил до 3 000 долларов в неделю на анаболические стероиды, нанял профессионального тренера и постоянно посещал спортзал, где боксировал с молодыми мужчинами и спарринговал с профессионалами.

Отмена залога за Готти и его заключение в тюрьму до суда по делу РИКО привели к тому, что Гравано стал еще глубже входить в правящий совет. За первые шесть месяцев 1986 года он поднялся со звания солдата до одного из трех действующих уличных боссов семьи. Полностью преданный новому режиму, Гравано охотно выполнял директивы Готти — даже если для этого требовалось убить друга и соучастника заговора против Кастеллано. Используя Анджело Руджеро в качестве посыльного, Готти приказал Гравано организовать казнь Роберта ДиБернардо, короля порнофильмов семьи и мешочника для перетряски строительной отрасли. Руджеро объяснил, что ДиБернардо должен умереть, потому что он критиковал Готти за его спиной.