Il y a plusieurs philosophies.

1) Logique bancaire: faire confiance à une instit tiers qui a suffisamment prouvé sa confiance et sa fiabilité.
Avantages:
- Pas besoin de ce soucier de la sécurité informatiques, même si il faut quand même veuillez à sécuriser l'accès à son compte (mot de passe intelligent et si possible double authentification type Yubikey et Google Authentificator).
- Accès facile et rapide à ses BTC en tous temps et endroits (il suffit d'un accès internet, parfois même un smartphone suffit).
Inconvenants: pour l'instant très peu de sociétés sont liées à un instit bancaire ("de confiance") et même les banques font faillites (multiples exemples dans le monde) ou peuvent prendre notre argent en otage (Chypre). La loi n'est pas encore établie quand à la valeur des Bitcoin et donc la récupérer de son bien en cas de problème avec la société tiers.

2) Logique porte monnaie: garder l'argent dans un (des) wallet(s) crypté(s) sur son ordinateur connecté à internet.
Avantage: accès rapide à ses BTC mais uniquement depuis son ordinateurs avec client Bitcoin synchronisé.
Inconvenants: il faut prendre soin de sécuriser au maximum son ordinateur pour que personne ne puisse accéder à son wallet et sa clé privée. Utiliser Linux peut aider à limiter le risque de virus ou cheval de Troie. Utiliser plusieurs adresse Bitcoin afin de ne pas trop montrer sa fortune peut aider à ne pas attirer la convoitise de pirate (fournir une addresse avec peu de BTC reçu pour les réceptions de payement et si possible la changer souvent).

3) Logique coffre fort: wallet offline (cold) stocké sur ordinateur hors ligne à l'aide de Armory par exemple.
Avantage: sécurité très grande, il faut juste prendre soin de faire un paper backup de sa clé privée et de la conserver ne lieux surs (si possible plusieurs endroit éloignée physiquement pour éviter la perte par dégâts naturel ou cambriolage) et protéger un minimum le PC offline en cas de cambriolage également (quoi que je doute que beaucoup de cambrioleur savent ce qu'est un Bitcoin et sauront reconnaitre la valeur potentielle d'un paper backup si ils tombent dessus)
Inconvenants: accès à son argent plus fastidieux et retraits plus long à effectuer.

Bien entendu il faut travailler avec la combinaison de 2 ou 3 de ces solutions intelligemment. S'informer un maximum sur comment cela fonctionne et agir sagement et prudemment. Et pour les 3 types de wallet (et en particulier 1 et 2) savoir répartir ses oeufs dans différents panier permet de ne pas tous les perdre en cas de soucis.