В русском языке много слов :
- похожих по звучанию, один "лук" чего стоит
- с разными изменениями звуков, как гласных, так и согласных, в том числе, аканье и оканье
- есть древние слова, уже не употребляемые и не имеющие аналогов или однокоренных в современном языке
- есть диалектные слова, нигде более не используемые.
Язык менялся довольно существенно на протяжении тысячи лет, со времен "Слова о полку Игореве".
И само Слово, как раз, полно диалектизмов, их употреблял автор.
Та же история существовала и в средневековых Западной Европе, и на всех трех Востоках, и в Византии с её колониями.
А слово Кощей / Кащей имеет схожую судьбу с "луком", который овощ, оружие, а сейчас и " внешний образ одежды и аксессуаров", как калька с английского.
Очевидно, что в древности было несколько каких-то похожих слов и несколько мифологических персонажей.
Они постепенно слились в одного в представлении былинников и литераторов..
Потому что у других индоевропейских народов были разные боги для подземного царства смерти, и для подземных богатств.
Скорее всего утратили этих богов в период Великого Переселения народов, после распада Римской империи.
А значит, ушли какие-то слова и имена, и корни для многих слов.
Во времена 19 века, ещё до Пушкина, началось создание новой мифологии.
Толчком, как раз, послужило обнаружение "Слова о полку Игореве".
Многие образованные люди кинулись изучать древности, и создавать свои гипотезы и теории насчёт славянских древностей.
После появились: Светлана, Снегурочка, Морозко и Дед Мороз.
Царская семья и высшие дворяне стали проводить балы в "национальных костюмах".
То есть изучение древности отошло от чисто истории и филологии, уйдя в разработку каких-то современных (тогда) тенденций моды и романтической литературы.
Итак, как же писать имя персонажа, с "о" или "а"?
На сегодня уже неважно, если прямо говорить.
Древние корни Кощея / Кащея утеряны, как минимум, тысячу лет назад.
Родственных и прямо подобных богов у других славян нет — как выше написано, этот персонаж мифологии, на самом деле, литературный новодел.
Нет и "ветви корней и слов", откуда можно было бы вывести точную этимологию (происхождение) этого имени.