Não é assim, tudo depende do modelo de negócios. Cidades como NY, Londres, Tóquio, São Paulo e cia... geralmente são melhores para alocar os escritórios e fábricas de grande porte, especialmente tecnologia.
Essas cidades normalmente tem muito capital humano e uma infra desenvolvida, só que normalmente são muito caras, tem sistemas tributários mais altos e complexos.
Tudo é uma questão de modelo de negócios e estratégia. Às vezes, dependendo do ramo, uma cidade menorzinha pode ser mais vantajosa, sobretudo se a empresa não depende tanto de logística, infra desenvolvida, e capital humano de grande porte. Nisso, ela pode economizar muito com compras de terrenos, expansão e impostos municipais mais baixos.
Aqui na minha cidade, por exemplo, impuseram tanto imposto e burocracia em relação ao meio ambiente, que diversas empresas tem deixado a cidade pra ir para outras, as vezes até cidades menores, é incrível kkkk. Para cidades grandes e desenvolvidas, isso compensa com muito capital humano e infra desenvolvida, mas quando a cidade é menor, de interior, e etc.. estrategicamente falando, impor muito imposto é um tiro no pé, não compensa o gasto.