É possível usar o GeneXus apenas como backend? Se for esse o caso, como isso poderia ser feito?

Basicamente, você pode desenvolver camadas de dados e serviços e usar serviços REST para se comunicar com a interface do usuário. Eu fiz aplicações de exemplo contra frameworks de interface para Android e web e parece fazer o trabalho perfeitamente.

Sim, você pode usar o GeneXus para o Backend e criar o Frontend em outra tecnologia. A maneira mais simples é criando serviços que funcionam como uma API. Isso no GX é bastante direto, expondo procs, ou BC ou Provedores de Dados como webservices, com a tecnologia que você precisa. O objeto API foi criado precisamente para resolver esses tipos de cenários: https://wiki.genexus.com/commwiki/servlet/wiki?46151,Category%3AAPI+object Com este objeto, você pode criar uma "camada" que é gerada com a API, que seria o backend que o frontend que você usa (React, Angular ou qualquer outro) vai consumir.