在中日甲午战争时期，日本在军队里设置的情报机构之外，就已有玄洋社、黑龙会、浪人会等情报间谍团体。
自日本发动全面侵华战争后，日本在中国曾建立了为数众多的间谍情报组织。如伪满洲国保安局，华北、华中、华南派遣军参谋部情报课，宪兵队以及警察署的特高课等。另外，还有一些以“公馆”或“机关”名义出现的谍报机构，如松、竹、梅、兰机关，六条公馆，以及由日本谍报机关直接控制的汪伪７６号特工总部、华北政务委员会情报局、新民会中央总部调查部等等，多如牛毛。
这些间谍情报机构曾招募大量汉奸进行间谍情报活动，为日本的侵华战争服务。随着第二次世界大战日本战败，这些间谍情报机构曾被解散。
但是在战后一度销声匿迹的情报机关和间谍组织，其实很多又死灰复燃，而且其规模大大超过了战前。
战后的日本的情报机构和系统，虽然没有一个能像美国中央情报局或前苏联KGB那样统筹全盘的主导机构，但是没有隶属关系，任务也各有侧重的日本的众情报机构，已像互联网一样更加适应现代化的需要。
当前，日本主要依靠内阁情报调查室、外务省调查部、警视厅、防卫省和法务省的情报系统进行情报活动。
限于资料有限，仅对部分日本情报机构做一概述：
一九五二年首先成立的内阁总理大臣官房调查室是日本最重要、最秘密的情报机关，现已更名为日本内阁情报调查室。
日本内阁情报调查室的主要任务是搜集、综合国内外的政治、军事、经济、文化和公安情报，并加以分析、整理，每周透过内阁官房长官向首相报告，如有重大的情报，可随时直接向首相报告。
为了综合各情报系统搜集到的情报，日本政府规定，以内阁情报调查室为中心，每周召开一次情报交流会。这一交流会目前扩大为日本最高情报联络会议。
原则上是每周四下午，内阁情报调查室的室长需围绕这一周内的政策和焦点问题，给首相提供一次三十分钟面对面汇报的情报。
“委托调查”是内阁情报调查室搜集情报和进行研究分析的一种专长。“委托调查”的好处也在于一些见不得光的间谍活动一旦暴露，日本官方不容易受此牵连。
日本从事情报搜集和研究的民间机构有一百多个，尤其是日本大型株式会社的情报搜集部门实力都很雄厚，其中有一半以上的民间机构接受日本内阁情报调查室的“委托调查”。
日本内阁调查室下设一个室八个部：秘书室、 国内部、国内资料部、国际部、国际资料部、调查分析部、经济部、电脑资料部、总务部。
特别值得关注的是国际部，负责分析研究国际形势和发展变化，搜集世界各国的政治、军事等情报。该部下设：中国班、北韩班、东南亚班、俄罗斯班、其他班。
日本法务省下属的公安调查厅，表面上以“调查应受到限制的某些团体”的名义成立的，实质上却是一个地地道道的情报间谍机关，并和美国、台湾、韩国的情报机关都有千丝万缕的联系。主要任务是对内进行侦察、控制，监视特定人群和团体；对外负责搜集反谍情报、监视外侨，特别是中国大陆及朝鲜侨民。
据称公安调查厅常常和各地的警察机关以及美国的联邦调查局密切配合进行活动，还对中、俄、朝鲜等国秘密派遣间谍。
日本防卫省
日本防卫省的情报系统也及其庞大，负责军事情报工作的部门有防卫局的第一课、第二课、各幕僚监部的调查部以及统一幕僚的第二幕僚室。
日本驻外防卫驻在官，即日本派遣到国外的武官，其主要任务是搜集外国的军事情报。根据《日本外派防卫驻在官法》的规定，驻外防卫驻在官只是使馆的一个成员，由大使管辖，不能直接和其派遣机构——日本防卫省防卫局联系。但是随着日本修改安保法，驻外武官的管理制度可能也会修改。
值得特别注意的是，在第二次世界大战中，就是那些驻外武官形成发动中日战争的昭和军阀集团。
日本情报系统除了自卫队资料队、自卫队调查队外，日本的陆、海、空三军各军司令部均设有调查队。
二战的日本陆军参谋部情报部目前已以陆上幕僚监部第二部的面目出现，它是日本陆军的军事情报机构的领导机关，是日本军事情报系统的“主干”，80%的日本高级军事谍报人员集中在这个机构内。它不仅搜集陆军作战所需的情报，还为全日本的军队及日本政府提供军事、政治、经济、科技等情报。
二部“别室”是日本最秘密的军事情报机关，素有“日本的美国国家安全局”之称。是日本陆、海、空三军联合技术侦察机构。
二部“别室”主要任务是负责截收电讯，破译密码等电子情报，特别是侦听以中国、苏联（俄）、朝鲜为重点的各国无线电通讯，截获破译其密码。二部“别室”名义上属于自卫队陆上幕僚监部领导，实际上直接受内阁情报调查室指挥。
一九九五年八月后，日本防卫省将情报委员会改建为幕僚长联席会议内的“情报本部”，以便使陆海空三军自卫队等各自进行的军事形势和战略情报调查分析业务一元化。这是一个使日本的政治、情报与军事一体化的、与以色列摩萨德相似的大规模的国际情报机关。