В 1921 году Komatsu основалось как маленькая строительная мастерская по ремонту техники в городе Komatsu на западном побережье Японии предпринимателем Meitaro Takeuchi (Маитаро Такеючи). Этому предшествовала организация в 1917 году Komatsu Iron works Division для производства угольного и горного оборудования.

Для этого инженеры, работающие в Komatsu, прошли обучение в Европе и в США, ориентируясь на международный уровень. Датой основания компании считается 13 мая 1921 года, когда Komatsu Iron Works отделяется от Takeuchi Mining Co., и становится Komatsu Ltd.

История Komatsu в России началась еще со времен СССР, когда в конце 60-х годов прошлого века в страну стали поступать бульдозеры, трубоукладчики, лесовозы и другая, наиболее востребованная в то время техника, не имеющая отечественных аналогов. Некоторые машины первых «завозов» продолжают работать и по сей день.