Existe sim como usar o youtube com tela desligada, para isso é preciso baixar uma versão modificada.
Essa versão é conhecida como YouTube Vanced, (soa como youtube advanced) ou em português (youtube avançado).
Existem duas versões, uma para android root e outra para android não root, que é a versão do link acima.
Esse aplicativo não permite fazer login na conta google, essa parte foi removida do app para não ser banido pelo google.
Para fazer login é necessário baixar separado outro aplicativo chamado microG, que também pode ser encontrado nesse mesmo link.
Além de conseguir reproduzir vídeos com a tela desligada, ele ainda possui outros recursos, como bloqueador nativo de propagandas e outras cores de temas.
LEMBRANDO QUE É EXTREMAMENTE PERIGOSO INSTALAR APLICATIVOS MODIFICADOS, SÓ RECOMENDO ESSE APLICATIVO POR SER MANTIDO PELO SITE XDA QUE É CONFIÁVEL.
XDA é uma comunidade de desenvolvedores, onde a maioria desenvolve sistemas e aplicativos open source.
Atualização
Aplicativo NEWPIPE.