Розенталь такого написать не мог. Словосочетание "по хуй" ничем принципиально не отличается от "по фигу", "по хрен", "по барабану". В тех крайне редких случаях, когда "по хуй" все-таки попадало в литературу (с 1990-х в художественную типа Лимонова, Тополя, и в словари жаргона, например "Словарь русского мата" Ахметовой, в "Большом словаре мата" Плуцера-Сарно и пр.), оно обычно писалось раздельно.

Рассуждения о том, что "похуй" якобы наречие и должно писаться слитно, не лишены здравого смысла, но не могут служить правилом. Есть уйма словосочетаний, играющих функцию наречия, не считающихся наречиями и пишущихся раздельно, в том числе и "по хрен", и "на фиг", и "ни в пизду".

Так что тенденция к слитному написанию слова "похуй" закономерна и предсказуема, но нормами русского языка пока что не освящена. Во времена Розенталя - тем более.

Как-то студент, желая поставить Дитмара Эльяшевича Розенталя в тупик, спросил: «Скажите, а слово поX*й пишется раздельно или слитно?».
На что профессор ему невозмутимо ответил:
- Молодой человек, если речь идёт о характеристике моего отношения к вам, то слитно, а если об обозначении глубины реки Иордан, то раздельно.