Isso é ultra secreto. Deve rodar nos computadores da receita federal. Se eu não estiver enganado, eles tem um supercomputador lá na sede de Brasília. Agora, fiquei curioso em saber o motivo de você querer tal informação. Vai querer dar uma hackeada no sistema ?  Quer ficar famoso ?

Onde roda exatamente eu não sei, mas já li algumas coisas a respeito dessa parte mais técnica do PIX e pelo que me lembro o PIX basicamente é uma API do Banco Central que os bancos consomem. O que vai fazer as instruções chamadas por essa API é o que eles chamam de Sistema de Pagamentos Instantâneos (SPI) lá no Banco Central.

Sobre as tecnologias que eles usam pra rodar esse Sistema de Pagamentos Instantâneos, eles usam um serviço de uma empresa que chama Red Hat. Parece que eles fornecem soluções com base em Software OpenSource, para o SPI eles estão usando o Red Hat AMQ. Isso dá pra ler mais sobre aqui.

Sobre o que eles chamam de API Pix, que é o que os bancos efetivamente utilizam, dá pra ler mais sobre no Manual de Padrões para Iniciação do Pix. Essa parte não é tão complicada não, tem algumas coisas técnicas mas no geral é bem fácil de entender a comunicação.