Лучше зашифровать их и держать на нескольких носителях.
Флешка - продукт нежный, может неожиданно перестать работать, а восстановить информацию с неё крайне проблематично.