香道以前的香，是以香味为主要目的的。中国香传入日本，初期阶段也重视香味。但使用方法却略有不同。根据古文献记载，中国人喜欢将香囊挟在肋下、腋下。有人还将香料涂在靴子上。尽管日本也有香囊，那只不过是一种形式而已。日本人喜欢将香料放在房屋四角或者用香熏衣料。到了室町时代，香逐渐成为人们鉴赏的对象。三条西实隆的出现使香的地位得到巩固。加之这一时期茶道、花道的出现，使室町时期成为日本文化史上的鼎盛时期。茶、花、香在茶室这一特殊的场所，得到了协调统一的发展。尽管从表面上看，三者的追求对象不同，但在求闲寂、优雅方面却是共同的。从室町时期开使香道作为一种与茶道、花道并驾齐驱的室内艺术，揭开了它灿烂历史的第一页。由于香道将闲寂、优雅作为追求目标所以很快在町民、武士阶层中传播开来，并很快打下了坚实的基础。
最原始的香是佛教的供香。因此香大概是与佛教同时传入日本列岛的。《日本书经》推古三年（595）有"沈木漂于淡路岛，其大一围，岛人不知沈木，以薪烧于灶，其烟气远熏，以异则献之"之说。这是日本古文献中对香的最早的描述。最初传入日本的香，种类不会很多。尽管如此，日本正仓院御物目录之中却记着不少香料的名字。古香中最有名的首推兰奢待。日本现存最古的木片式的香料兰奢待也是东方名香之一。日本天平五年（733）圣武天皇时兴建东大寺，兰奢待收于正仓院内。
奈良时代的焚香方法称烧香。也就是将一种香或者两种以上的香，直接点燃。亦称"供香"，是奈良时期的主流。日本平安时期多种多样的香料输入日本，使日本人对香料的反映敏感起来，日本人开始有目的地选择香剂，将它们搭配起来，品闻各种组合香的气味。日本人称这一时期的香为"香合"、"炼香"。由于焚香时会产生大量香气，所以亦称"熏物"。平安时期创作的宫廷文学中有不少关于香的记载。《枕草子》中就有宫廷贵妇用香料熏衣的描述。《源氏物语》中的人物薰君，其名便来源于香料。可见古时候香料是日本贵族妇女不可缺少的陪衬。
镰仓时代末期，社会上风行赏玩沉香。沉香原产东南亚及日本南方诸岛，产地分布极为广阔。但是，每一产地所产沉香无论色、味都各不相同。日本人恰恰把分辨沉香产地及成色当作己乐。他们将沉香分为伽罗、罗国、真那贺、真那蛮、寸门多罗、佐曾罗六大类。沉香一时成了贵族和足利将军家的珍品。上流社会搜集沉香之风大盛。不久，由于中日贸易的发展，大量香料从中国流入日本社会，日本出现了新的鉴赏之物"名香组合"。随着时代的发展，香料的欣赏之法也相应地发生变化。三条西实隆生于日本康正元年（1455），殁于天文六年（1537）。三条西实隆曾于日本永正三年（1506）升正二位内大臣，获得了贵族阶层的最高荣誉。日本江户时代三条西实隆被尊为香道的始祖。三条西实隆的日记《实隆公记》中有不少关于香的记载。相传实隆本人收集了66种名贵香料。尽管至今还没有材料可以证明实隆确立了香道的流仪，但他的确为香道建立了特殊地位。三条西实隆的后代三条西公条、实枝继承了父亲的事业（日本人称三条西实隆和他的后代公条、实枝为三条西三代），首次确立了三条西香道的家元（家主）。三条西家香道流仪的特点是风格高雅。这与三条西出身大臣家有很深的关系。目前，三条西流派的香道分初传、中传、里传三个阶段。志野宗信几乎同三条西实隆同时开辟了香道的另一流派--志野流派。志野宗信是幕府将军足利尊的近臣。宗信开创的香道流派由其子弥三郎宗温、其孙弥次郎省巴（三人统称志野家三世）继承。志野流派得到进一步的巩固。然而，自弥次郎省巴之后，志野流派曾一度绝传。现在的志野派实际上是由后世人峰谷宗悟传下来的。
不同于三条西派，志野派的特点是具有浓厚的武（士）家色彩。香道的操作规程井然有序。初学志野派香道的人必须接受严格的训练。三条西派现任继承人三条西尧山将自己创作的组香奖给学习香道的人，而志野派却从未进行过类似的奖励。由此可见，三条西派与志野派的不同之处。这与两派的出身有很深的关系。
织田信长、丰臣秀吉时代志野省巴的弟子建部隆胜、峰谷宗悟开创了建部流派和峰谷流派。香道界出现了空前的繁荣。
近代，志野宗信派为了打破贵族、上层武士、上层町人对香道的垄断，深入社会，积极地向町民、农民推广香道艺术。志野派的《诸国香道门人帐》收入的人名录包括各个阶层的人们。可见当时香道人口的分布已经十分广泛。香道已从上层人物的玩赏之物，变成庶民百姓也能接受的艺术。这是香道艺术的一大转折。香道开始以民间教养的身份出现在社会上。町民、地主依靠自己的经济实力，学习香道，以加强自身的修养。艺妓们也把通晓香道作为一种嗜好。有关这一点，西鹤的小说及民间风土人情画中都有大量的描述。香道正是在由玩赏对象变为社会教养的过程中逐渐形成的。从此，香不再以其味为主，而是作为一种艺术教养出现在日本社会。
十六世纪三条西派、志野派、峰谷派诞生之后，便为后人留下本流派的香道宗谱。但是，目前流传在日本社会上的这一时期的香道宗谱原作已为数甚少，多系伪作。十八世纪才出现了有关香道的大量宗谱。十八世纪曾是香道的鼎盛时期，加之印刷术也有了很大的发展，使得这一时期的不少香道宗谱流传至今。比较有名的有《体源抄》。作者丰原统秋。丰原家世代为雅乐班头，专门为朝廷服务。该宗谱除记载家传古乐、古乐器的来源以外，还有关于各种香炉的记载。值得注意的是，该宗谱特别提到了闻香炉。这在闻香史上是值得大书特书的。《志野宗信香笔记》记载了香道的经验及秘传。《参雨斋香记》为志野派第二代传人宗温所著，参雨斋为宗温的雅号。该书主要记载了香的阴阳之事及香炉、工具等。《隆胜香记》的作者为建部派始祖建部隆胜。该宗谱记载了香道工具，香的典故及香道作法等方面的知识。《香道轨范》的作者为峰谷派创始人峰谷宗悟。该书几乎详细介绍了有关香道的所有的知识。《闻香目录》的作者不详。目录内收录了名香十炷香、花月香、源平香、系图香、付源氏香、小鸟香、小草香、宗治山香、子规香等。《千代农秋》为大枝流芳所著，全书共四册，记载了香阁板、香工具、香席法度及新发明的组合香。《香道兰园》为集香道之大成之作。从香传入日本，组香的种类，十炷方式到工具、香席法度都有所谈及。《香道贱家梅》同《香道兰园》一样，同系香道百科。可见十八世纪中期日本的香道完全体系化了。
香道工具有大有小，种类繁多，其数之多几乎到了难以数清的地步。下面简单地作一介绍。 装香道工具的箱子称乱箱。箱内各种香道工具都有固定的位置。装名片和香牌用的容器称香盆，大小没有统一的规定。装点火工具的容器称香筋建，点火工具包括银叶挟 、香夕、香筷、莺（一种别针，别香包用）、羽帚、火筷、灰押。统称七种工具。装香木和银叶的容器称重香盒。银叶实际上是一种镶有金银边的薄云母片，点香的时候将银叶放在火上。试香、组香时使用的盘子称试香盘。本香盘亦称银叶盘。装香牌的筒称牌筒。纸制四角形容器称折居，装对答用香牌。包试香包和本香的包称总包。香包没有统一规格，只是香包使用的纸要比总包薄一些。割香工具共五种，包括锯、小刀、厚刃刀、槌、凿子。割香时使用台子称割香台。大小没有统一的规定，一般多为十公分左右。闻香炉6--8公分，直径6--7公分左右。闻香炉一般要求成双成对。以上为香道使用的主要工具。香道工具作工十分讲究，许多工具上都镶有豪华的刻画，样子很精美。
竞香亦称竞马香。它的出现与日本京都贺茂别雷神社祭礼竞马有一定的关系。竞香需要一个穿着红色与黑色交织和服的，高8公分左右的人偶和一个竞香盘。人偶放在竞香盘上。这里的"竞"并不是指决胜负。竞马属于非竞赛式游戏。具体作法如下：选出试香时需经常使用的香，打乱香的排列顺序，重新摆放整齐。参加游戏的人必须根据香的气味依次在答题用的香牌上逐一写出某香属于试香时使用的哪一种香。根据回答的结果，移动竞香盘上的人偶。竞香的规则是：（1）如答案正确的话，一次走一格。（2）如果出席者中只有一个人回答正确，那么他可一次连走三格。（3）落后四格者下马。（4）挽回四格者可重新上马。（5）以人偶到达终点决胜负。（6）得分过多，超越终点者可以接着对数。（7）竞香盘上的游戏结束后，如果还有剩香的话，大家都在一起闻香，并向得分最多的人赠呈记录纸。
另一种游戏方法称十种香。十种香是组香的基础。任何形式的组香都是十种香变化产生的结果。具体作法是：1，首先选出底香；2，用三种香同底香搭配试香；3，将三种香各分为三份，共九份，另加上一份没有参加过试香的香。共十份。然后打乱顺序，将他们逐个点燃，参加游戏者依次传闻；4，参加游戏者根据香味，判断该香属于试香时使用的哪一种香。以猜中多少决胜负。
还有一种香道游戏名组香。组香必须使用两种以上的香。以文学作品和诗人的情感为基础，将其意境体现在香的创作之中。例如"古今香"必须由莺、蛙、歌三成分组成。所以必须首先相应的选三种香代表莺、蛙、歌。将代表莺、蛙的香各分成五包。首先取其中的各一份参加试香。如果参加者识别出香的味儿，这香便成为底香，随之加入两包"歌"即没有参加过试香的香。在闻这种香时，有以下规定：歌与歌 打开歌牌。莺与莺 打开莺牌。蛙与蛙 打开蛙牌。先蛙后莺打开水牌。先莺后蛙打开花牌。打开xx牌是指使用香牌回答问题。一般情况下，参加游戏者可闻两种香。将两种香结合起来，例如前面提到的莺与莺或者蛙与蛙等等。然后用牌回答问题。闻"古今香"的人，脑子里必然反映出《古今集》中的诗歌，为香增添了诗意。今天日本组香的方法约有700种之多，而每一组香都是极其复杂的组合。可以说日本的香道与文学有着十分密切的联系。
