O bom trabalho desenvolvido nesses clubes valeu um convite para, em 1996/1997, regressar ao Salamanca de Espanha, que estava na 2ª Divisão. Levou consigo alguns jogadores portugueses, como o atacante Pauleta, que viria a ser um dos maiores goleadores da Europa. No entanto, não ficou muito tempo no Salamanca. Voltou a Portugal e treinou o Boavista, depois o Campomaiorense, Farense e Académica, que subiu para a 1ª Divisão. Em 2002/2003 trabalhou no Estrela da Amadora, que se classificou para à Superliga, o primeiro escalão do futebol português.
Como treinador João Alves colocou em pratica todo o seu saber e experiência adquirida ao longo de muitos anos em que foi jogador. Foi considerado com o primeiro “Manager” do futebol português, tal a forma como organizava e preparava as suas equipes. Revelou-se também um verdadeiro caça talentos. Tinha um faro impressionante para descobrir novos valores nas divisões inferiores. Deve-se a ele a descoberta de jogadores como Paulo Bento, Pedro Barbosa, Abel Xavier, Pauleta, Michel Salgado, Pedro Barny, Tonel, Fábio Felício, Jaime Alves, Catanha, Lito, Alhandra, Rogério Matias, Caetano, entre muitos outros.
Jogou 36 partidas pela seleção de Portugal e marcou três gols. Sua despedida da seleção aconteceu em 27 de Abril de 1983, em Moscovo, quando a antiga URSS goleou os portugueses, treinados por Oto Glória, por 5 X 0.
Como jogador conquistou os títulos de campeão nacional nas temporadas 1980/1981 e 1982/1983; quatro Taças de Portugal, duas pelo Boavista, 1974/1975 e 1975/1976, e duas pelo Benfica, 1980/1981 e 1982/1983; uma Supertaça; finalista da Taça UEFA na temporada 1982/1983. Como treinador seu principal título foi de campeão da Taça de Portugal, em 1989/1990, no Estrela da Amadora. Atualmente, além de treinador, possui uma academia de futebol, a "Escola de Futebol Luvas Pretas".
E como surgiu a idéia de usar luvas prestas durante os jogos? O avô de João Alves, Carlos Alves, também foi um grande jogador de futebol na década de 20. Jogava como zagueiro pelo lado direito, tendo participado de uma Olimpíada por seu país. Ele é considerado até hoje o melhor jogador português de todos os tempos na posição. Defendeu o Carcavelinhos, Académico do Porto e F.C. do Porto. Foi a partir de determinada altura da sua carreira, que passou a ostentar as luvas pretas. E isso causava curiosidade entre os torcedores.
Algumas pessoas diziam que ele usava luvas pretas porque sofria de uma doença de pele. Afirmavam outros que lidava com produtos de especial delicadeza, que causavam lesões nas mãos. Apesar de não gostar de falar sobre os motivos que o haviam levado a adotar o uso das luvas pretas em campo, a história parece ser outra e veio explicada com detalhes no livro “A Paixão do Povo”.
Tudo começou a véspera de um jogo do Carcavelinhos, time de Carlos Alves, contra o Benfica. No hotel onde a equipe ficou hospedada trabalhava uma menina com mais ou menos 12 anos de idade, que pediu ao jogador que atuasse com as suas luvas pretas de pelica. Carlos Alves aceitou, mas foi logo avisando, que não as usaria em campo. A menina, chorando, disse-lhe que iria se arrepender. No intervalo do jogo o Carcavelinhos estava perdendo. E Carlos Alves decidiu então colocar as pequenas luvas pretas que quase não lhe serviam.
Fosse pelas luvas ou por qualquer coisa, a verdade é que o Carcavelinhos virou o placar e chegou a vitória, com uma espetacular atuação de Carlos Alves. Conta-se, que no dia seguinte ao jogo ele pediu à menina que comprasse um par de luvas pretas que lhe servisse. E a partir de então, nunca mais jogou sem elas.
E como surgiu essa idéia de João Alves também jogar com luvas pretas? A 14 de Novembro de 1970, ainda júnior do Benfica, João Alves começou a usar luvas pretas, dois dias depois da morte do avô Carlos Alves. A partir daí as luvas pretas passaram a ser sua marca registrada. Só as tirou quando encerrou a carreira de jogador e começou a de treinador. (Pesquisa: Nilo Dias)
