Окончив с отличием институт, Рутенберг поступает в качестве младшего инженера на Путиловский завод и вскоре становится начальником инструментальной мастерской. Среди 12000 рабочих завода многие проявляли политическую активность. Они были основной силой в организованном о. Георгием Гапоном  «Обществе русских фабричных и заводских рабочих». Общество это было создано в 1903 г. по инициативе Департамента полиции, рассчитывавшего взять под контроль рабочее движение. Забастовка путиловцев в декабре 1904 года стала непосредственной причиной организации шествия 9 января, получившего название «кровавого Воскресения» и ставшего началом первой русской революции.
....
От рабочих-путиловцев Рутенберг узнал, что Гапон собирается организовать шествие к Зимнему Дворцу, чтобы вручить царю петицию о страданиях народа. Он сообщил об этом руководству своей партии, которое велело ему принять участие в шествии. Рутенберг вспоминал, что после того, как стало известно, что казакам раздали боевые патроны, он советовал Гапону изучить возможные пути к отступлению. Тот, однако, был уверен, что шествие завершится спокойно, царь не может разогнать мирную демонстрацию собственного народа.
....
Более ста тысяч человек шли колоннами с разных концов города. События, однако, повернулись не так, как предполагал Гапон. Казаки стали расстреливать манифестантов. Несколько сот человек погибло. В этой ситуации сохранивший самообладание Рутенберг фактически спас жизнь Гапона, выведя его из-под огня. Сбрив ему бороду и длинные волосы и переодев в простую одежду, Рутенберг увел Гапона на одну из тайных квартир. Сменив несколько адресов, Гапон оставался некоторое время у Максима Горького, после чего его вывезли за границу.

В эмиграции Гапона ждал теплый прием, он был желанным гостем у Плеханова, Ленина, Кропоткина, Жореса, Клемансо. Социал-демократы и социал-революционеры боролись за влияние над популярным рабочим вождем. Социал-демократия с ее идеологическими программами была чужда Гапону, он однако продолжал поддерживать доверительные отношения с эсэром Рутенбергом, который говорил, что практическая борьба гораздо важнее идеологии. Оба были вовлечены в неудачную попытку контрабанды оружия на судне «Джон Крафтон» для боевой организации эсэров, в результате чего Рутенберга, который, вернувшись в Россию, должен был встречать судно, арестовали, но вскоре отпустили.

Власти также не теряли надежды использовать влияние Гапона для вовлечения рабочих в орбиту умеренного социализма. В конце 1905 года представители премьера С. Ю. Витте дали понять Гапону, что он не будет подвергнут аресту и преследованиям, если выступит с одобрением Октябрьского Манифеста и новой политики властей. Тот и сам считал правительственные реформы важным достижением. Слухи о связи Гапона с российскими властями, как и газетные сообщения о том, что он проводит время в казино Монте-Карло, подорвали его репутацию среди революционеров. Историки характеризуют Гапона как человека эгоистичного и недалекого, чуждого социалистическому движению, пользовавшегося, однако, уважением среди рабочих. Ленин, встречавшийся в  Женеве с Гапоном и Рутенбергом, хотя и полагал изначально, что Гапон – искренний «христианский социалист», а не провокатор, быстро пришел к выводу о его поверхностности, что он «действительно серьезным вождем, хотя бы и для полусознательных масс, являться не может».

В начале 1906 года один из руководителей Тайного управления полиции («Охранки»), Петр Рачковский, пытается завербовать Рутенберга через Гапона, вернувшегося в самом конце 1905 года в Россию и поселившегося в финском Териоки (ныне Зеленогорск) близ Петербурга. Гапон доверительно рассказыввает об этом своему товарищу, утверждая, что будучи двойными агентами, они смогут оказать большую помощь рабочему делу. Рутенберг, однако, не имел намерения становиться двойным агентом. Предложение о сотрудничестве с Департаментом полиции потрясло и оскорбило его. После первой встречи с Гапоном в январе он заболел и слёг. Не желая, чтобы отношения с Гапоном бросили тень на него в глазах партийных товарищей, он сообщил о провокации одному из руководителей партии, Евгению Азефу[6]  (который сам был провокатором и двойным агентом) и его заместителю Борису Савинкову; оба находились в Гельсинфорсе (Хельсинки). Азеф потребовал казнить Гапона, возможно, из опасения, что наличие второго агента повлияет на его собственную роль. Политическое руководство партии в лице ее главы Виктора Чернова[7]  отнеслось к этой затее сдержанно и не желало предпринимать такой шаг на основании лишь утверждений Рутенберга. Было решено организовать тройную встречу Рутенберг-Гапон-Рачковский, в ходе которой Рутенберг при помощи опытного террориста Иванова убьет Гапона и Рачковского. Сам факт встречи послужил бы доказательством связи Гапона с Рачковским. Встреча была намечена на 4 марта 1906 года в одном из петербургских ресторанов, однако Рачковский, видимо, предупрежденный Азефом о покушении, туда не явился. Убийство не состоялось. Рутенберг доложил Азефу о случившемся, тот, однако, обрушился на него с обвинениями в мягкотелости и нарушении партийной дисциплины.

26 марта Рутенберг пригласил Гапона на снятую заранее дачу в Озерках (поселок к северу от Петербурга), где тот был повешен тремя боевиками партии. Тело его было обнаружено только через месяц. Руководство партии отказалось взять ответственность за преступление, заявляя, что Рутенберг действовал по собственной инициативе, исходя из личных мотивов. Эту позицию партия сохранила даже после разоблачения Азефа. Охранка также не торопилась обнародовать свою версию. Позднее сам Рутенберг писал, что Гапон был приговорен к смерти товарищеским судом рабочих, которые подслушивали его разговор с Гапоном, спрятавшись в соседней комнате на даче. После того, как Гапон несколько раз повторил предложение Охранки о сотрудничестве, Рутенберг неожиданно позвал слышавших все товарищей. Сам Рутенберг, не желая принимать участие в казни, вышел на террасу. Когда он вернулся, Гапон был мертв.

Вы напрасно верите в мировую пролетарскую революцию. Я не могу без улыбки смотреть на плакаты: «да здравствует мировая социалистическая революция, да здравствует мировой октябрь». Вы сеете по культурному миру не революцию, а с огромным успехом фашизм. До Вашей революции фашизма не было. Ведь только нашим политическим младенцам Временного Правительства было мало даже двух Ваших репетиций перед Вашим октябрьским торжеством. Все остальные правительства вовсе не желают видеть у себя то, что было и есть у нас и, конечно, во время догадываются применить для предупреждения этого то, чем пользовались и пользуетесь Вы – террор и насилие. Разве это не видно всякому зрячему! Сколько раз в Ваших газетах о других странах писалось: «час настал, час пробил», а дело постоянно кончалось лишь новым фашизмом то там, то сям. Да, под Вашим косвенным влиянием фашизм постепенно охватит весь культурный мир, исключая могучий англо-саксонский отдел (Англию наверное, американские Соединенные Штаты, вероятно), который воплотит-таки в жизнь ядро социализма: лозунг – труд как первую обязанность и ставное достоинство человека и как основу человеческих отношений, обезпечивающую соответствующее существование каждого – и достигнет этого с сохранением всех дорогих, стоивших больших жертв и большого времени, приобретений культурного человечества.
.....
Но надо помнить, что человеку, происшедшему из зверя, легко падать, но трудно подниматься. Тем, которые злобно приговаривают к смерти массы себе подобных и с удовлетворением приводят это в исполнение, как и тем, насильственно приучаемым учавствовать в этом, едва ли возможно остаться существами, чувствующими и думающими человечно. И с другой стороны. Тем, которые превращены в забитых животных, едва ли возможно сделаться существами с чувством собственного человеческого достоинства.
....
Академик Иван ПАВЛОВ. Ленинград 21 декабря 1934 г.

Я шла 9 января около 3½ час. дня по делу, по Мойке на Малую Морскую, насчет работы. От Певческого моста я не пошла под арку на Б. Морскую, потому что туда шла публика. Поэтому я пошла по набережной Мойки к Невскому пр.; но когда я подошла к воротам первого от Невского дома, раздался с Полицейского моста рожок и народ побежал от Невского по набережной Мойки, но ворота этого дома были заперты. В тот же момент, после рожка, с Полицейского моста выстрелили; народ побежал, и я побежала к открытым воротам 2-го от Невского дома, но я почувствовала, что меня ранило. Пуля попала мне в лопатку и вышла через грудь навылет. Кровь пошла у меня горлом и через эти раны. Меня внесли в этот 2-й дом; привели медицинского студента, одетого в форму, который перевязал мне раны. Какая-то барышня давала мне глотать лед, потому что из горла шло много крови, и эта барышня с каким-то мужчиной отвезли меня оттуда в Мариинскую больницу.

Близ Дворцовой площади и у Александровского сада к двум часам дня 9 января из различных частей города собралась значительная толпа народа: рабочих разных фабрик, любопытных, в том числе и женщин с малыми детьми на руках, и прохожих, которые, случайно попав в толпу, не могли из нее выбраться. Все они свободно шли к этому месту, не будучи останавливаемы и предупреждаемы, что на Дворцовую площадь и к Александровскому саду нельзя проходить. На Дворцовой и Адмиралтейской площадях были войска: конные — кавалергарды и казаки, и пешие (Московского полка или Преображенского).
Большинство удостоверяет, что толпа совершенно мирно стояла и никаких насильственных действий против войск не совершала. Но слесарь Михайлов, раненный у Зимнего дворца, показал, что рабочие стащили одного офицера с лошади и столпились вокруг него.
По удостоверению всех, на месте не было высших чинов полиции или других гражданских властей. Некоторые из пострадавших указывают на присутствие городовых и околоточных надзирателей, которые не принимали мер к рассеянию толпы и вообще никаких распоряжений не делали.
Действие оружием со стороны войск последовало между 2 и 3 час. дня (показания относительно времени стрельбы не точны и колеблются в этих пределах). Стреляли на Дворцовой площади в направлении к Дворцовому мосту и мимо Александровского сада вдоль Адмиралтейской площади. Относительно стрельбы в направлении к Дворцовому мосту упомянутый слесарь Михайлов говорит, что после того, как офицера стащили с лошади, генерал или полковник стал кричать три раза: «Если не разойдетесь, будем стрелять»; дал знак горнисту, и когда он проиграл, сделали два залпа. Другой очевидец, Спиридонов, говорит, что немолодой военный махал рукой, разгоняя народ, а затем последовали залпы. Этот же свидетель слышал команду стать на прицел, но ему сказали, что сначала будет холостой залп, которого, однако, не было. Рабочий Мохов говорит, что предупреждения о стрельбе были. Относительно стрельбы вдоль Адмиралтейской площади из показаний можно вывести заключение, что сначала конные отряды старались оттеснить толпу, но она, уступая натиску, при возвращении войск вновь, в свою очередь, возвращалась (показание Королева и др.). Офицеры и солдаты предупреждали о том, что будут стрелять; но толпа этому мало верила. По показанию Петунова, офицеру Московского полка, крикнувшему: «Расходитесь, будут стрелять», из толпы ответили: «Мы подождем депутатов — товарищей, чтобы подать прошение государю»; офицер говорил, что государя нет в Петербурге, — народ отвечал, что государь здесь, потому что флаг на дворце, и все продолжали стоять. Раздался через 3—4 минуты рожок и сейчас же 6 залпов. Командовал стрелявшими солдатами офицер Московского полка, кажется, Я...[2] Свидетель Комаров приблизительно так же описывает переговоры толпы с войском, но указывает, что после рожка через 10—20 минут дали холостой залп, после которого толпа побежала назад. Ив. Королев показывает, что около половины второго часа дня конный отряд пронесся от Дворцовой площади по Адмиралтейскому, повернул обратно и спешился на площади вблизи Александровского сада; толпа на улице разбежалась, а на панели осталась; после этого заиграл горнист на рожке; первый ряд кавалеристов стал на колени; сейчас же последовал залп, которым Королев был ранен. Раненым оказывали помощь и увозили их в больницы лица из публики. Полиция и войска помощи раненым не оказывали. В больнице, преимущественно Мариинской, опрошено 56 лиц из числа раненых на Дворцовой площади, в Александровском саду и близ него. Ранены были люди, не находившиеся в толпе: несколько детей, катавшихся на катке в Александровском саду, несколько лиц, стоявших за решеткой сада и сидевших на ней; один, бывший у фонтана, и даже один рабочий, который шел по Благовещенской площади у Ксениевского института. На рабочего Бердянева, бывшего на Дворцовой площади, все виденное им произвело такое впечатление, что вызвало буйное помешательство, вследствие которого он помещен в больницу Николая Чудотворца.