Em meu modo de ver, não teria tanta diferença.
Contudo, considerando vários comentários em redes
sociais (inclusive nesse site) seguramente se o cara de 23 anos namorasse uma mulher de 16 ele seria alvo de muitos preconceitos. Talvez até a familia da menina criasse dificuldades.