Primeiro comece entendendo o funcionamento  da matemática, sem isso não conseguirá entender a lógica utilizada a na programação.

Pode começar por aqui:
https://bitcoin.org/bitcoin.pdf
http://www.coindesk.com/math-behind-bitcoin/