九一八事变以来，日军帝国主义一直对着中国华北地区虎视眈眈，妄图鲸吞整个中国大陆。派遣了大量间谍，特务来中原渗透，搜索各种情报，收买各路军阀，为以后的行动提供情报。

有出身于军队的日本士官，他们不满足于呆在军队中，行动上受到限制，于是就离开军队，成为所谓的日本浪人，他们受过日本的军事化教育，行动上受军部的支持，经济上受到领事馆的支持。其中的佼佼者莫过于井上。

井上此人从日本士官学校毕业后，在军队中呆了一段时间后，辞去军职，来到上海，以开展中日贸易为幌子，成立商行，从国内拉拢了一批好战分子，收买汉奸，进行刺探军事情报、绑架、暗杀活动。

在上海沦陷以后，他在上海成立了井上公馆，作为在中国活动的特务机关。他手下的日本浪人约有六十余人，都是二三十岁的男子，公馆内的仆人，厨师都是男性，他的部下在日本都受到过军事化训练，每个人都是一名合格的特务。这些特务大多有过在伪满洲国工作的经历，熟悉中国社会风情。因此，井上曾言：手下虽然60多人，但是作用顶的上一个正规的陆军师团，而且井上公馆经费上可以到军部和领事馆无限支取。

井上公馆收拢大量汉奸特务，其中典型的就是常玉清，常玉清是上海黑帮“安庆总会”的首领，他在井上的支持下，以安庆总会为主，成立了“黄道会”这个特务机关。

在太平洋战争爆发之前，上海租界在英、美等帝国主义的控制之下，日本特务机关不敢明目张胆的前往租界杀人，于是黄道会成员就潜入租界内部，调查抗日人士，但凡发现，轻则写信警告，重则暗杀，绑架。两个报社编辑张似旭，蔡钓徒惨遭杀害。

黄道会经常夜间绑架进步人士带到会社，经过残忍拷打后，将尸体埋在院子里，后来因为院子里被埋的无处可埋，就将尸体趁夜拉到荒野处理。

而在接下来的淞沪会战中，黄道会为协助日军作战，常玉清派人在后方中国军队交通要塞，军车线路附近，白天利用镜子反光，夜间释放信号弹，指引日本空军袭击。