Accodandomi alla sintetica ma esaustiva risposta di Picchio aggiungo solo: non devi fare il backup della chiave privata ma del seed, che è quell'insieme di 12 parole che electrum ti  propone quando crei un nuovo wallet.
Dal seed puoi ricreare tutto.