Né à Bellshill, près de Glasgow, John a commencé à jouer du sifflet et du violon dès son plus jeune âge et a rejoint le légendaire groupe folk Battlefield Band à l'âge de 17 ans. Au cours de ses 11 années avec le groupe, il a également sorti ses deux premiers enregistrements solo.

John est depuis longtemps réputé pour son talent à transcender les frontières musicales : il s'efforce de garder sa musique fraîche et excitante, ne laissant jamais le passé derrière lui mais se lançant toujours dans de nouvelles aventures sonores.

John a reçu le très convoité prix BBC Radio 2 Musicien de l'année en 2003 et également le prix Spirit of Scotland pour la musique en 1999 et à nouveau en 2009. En 2016, John a reçu le Good Tradition Award et s'est produit avec son groupe aux BBC Radio 2 Folk Awards au Royal Albert Hall.