Tem de se ter ligado ao PC para se usar as moedas?
A Ledger Nano S pode ser utilizada em PC ou dispositivos Android (via USB OTG).
A Ledger Nano X tem bluetooth, então pode ser utilizada em qualquer celular (com bluetooth) ou PC.
Tens de ter instalado um programa para fazer essa gestão das moedas?
Sim, para interagir com ela. Electrum, Ledger Live, MetaMask ou o trilhão de carteiras que tem suporte para elas.
No fundo a única vantagem é ter o private key num dispositivo a parte?
Sim, isolada e utilizada para assinar as transações via um chip criptográfico.