PR_END_OF_FILE_ERROR - в FF это признак того, что адрес, под который маскируете запросы (Dest и Server Name в настройках сервера/панели 3x/x-ui), просто перегружен запросами, либо их дропает. Попробуйте их заменить на другой маскирующий сайт, отвечающий с TLS 1.3. Для поиска подходящей маскировки просканируйте AS своего vps с помощью RealiTLScanner и выберите подходящий сервер.