徳川家康が秀吉の命により「江戸」に入府したのは、天正18年8月1日(1590年)のことであった。この家康とともに先陣を務めたのが伊賀の地侍、服部半蔵正成を頭領とする鉄炮同心百人および玉薬同心(弾薬製造)であった。

 当時の江戸は以前、小田原北条の統治下にあったため、家康はその残党が特に江戸の西郊より攻めてくることを恐れ、三河時代からの腹心であった内藤修理亮清成に鉄炮百人組を預け、現在の新宿1〜2丁目周辺に駐屯させ、その防備と警戒にあたらせたのが鉄砲百人組の始まりとなった。その10年後(1600年)家康は、「関ヶ原の戦」に勝利し天下を制することのなったが、以前から「鉄炮」の威力に注目していた家康は、幕府創設にあたり鉄砲百人組を徳川幕閣の中にとり入れ、駐屯から定住化させるため、組屋敷を後の内藤宿(四谷大木戸から1,2丁目)と大久保百人町に設けた。

 鉄砲百人組として、日常の任務は江戸城大手三之門の警備を4組の百人組(大久保組・青山組・根来組・甲賀組)が交替で詰め、その詰めた番所が「百人番所」として皇居東御苑に現在も残されている。

また、徳川家の菩提寺である上野寛永寺、芝増上寺、日光東照宮への参詣、京都御所参上の折には隊列を整え将軍の警護をし、遠路をともにした。百人組創設当初は老中直轄支配であったが寛永の改革後、旗本へ統合され若年寄が指揮することなり寛永12年久世三四郎広當が組頭となり、現在の都立大久保病院周辺に1万3000坪の広大な抱屋敷があった。

「百人町」の組屋敷の構造は、道路幅が三間幅(一間は1.8m)と狭く、間口を狭くし奥行きを三十間から五十間とウナギの寝床のように長細くすることで、戦略上一度に多数の敵が侵入できぬように設計した。同心屋敷の総面積は、15万2000坪と広大なものだった。

また、北側に隣接(百人町3、4丁目)して火縄銃、大筒の練習場に使用する「角場」(実弾射撃場)を約8000坪設けていた。江戸幕府崩壊後の明治6年、これらの敷地は旧日本陸軍発足とともに「戸山ヶ原練兵場」へと移行された。