А(,) МЕЖДУ ПРОЧИМ, союз + вводное выражение; союз + наречное выражение
1. Союз + вводное выражение. То же, что 'кстати говоря, к слову сказать'. Если слова 'между прочим' можно изъять или переместить, то они выделяются с двух сторон знаками препинания, обычно запятыми. Если же исключить или переставить слова 'между прочим' нельзя, то запятая между 'а' и 'между прочим' не ставится. Подробно о пунктуации при вводных словах см. в Приложении 2.
А, между прочим, выстрел был за баталбовцами. Ф. Искандер, Три рассказа. Потом по-разному говорили, отчего загорелось и взрывы пошли, но в этот именно день, это я помню, так в разных местах говорилось: немец будто какой-то с подарками матросам на 'Марию' был допущен, а, между прочим, в подарках и адскую машину пронес, в которой завод часовой был... С. Сергеев-Ценский, Кость в голове. Ему казалось смешным многое в прошлом и настоящем, а между прочим, и то, что он, Козловский, хотел когда-то спасти свое отечество, и что он живет в этой смешной стороне с пятидесятиградусными морозами, и что его собственная жена полуякутка, и что его дети лепечут на чужом для него языке. В. Короленко, Марусина заимка. А между прочим, не плохо так поспать. Л. Пантелеев, Часы.
2. Союз + наречное выражение. То же, что 'в то же время, при этом, одновременно'. Знаки препинания ставятся в соответствии с правилами пунктуационного оформления синтаксических конструкций с союзом 'а'.
Потому как ежели она в законный брак не хочет вступать, а между прочим к себе в окно молодых людей пускает, то уж это что ж! Ф. Сологуб, Мелкий бес.