El centrocampista camerunés Baleba anotó su primer gol con los Seagulls en el minuto 19 antes de que Simon Adingra duplicara la ventaja en el Amex Stadium con otro gol llamativo.
Los Wolves mejoraron enormemente después de que el gol de Gonçalo Guedes en el minuto 44 cambiara el ritmo, pero tuvieron que pagar por su despilfarro cuando el gol tardío de Ferdi Kadioglu le dio al Albion un respiro.
Tommy Doyle reavivó la esperanza de forzar la tanda de penaltis al disparar por la parte inferior del larguero en el tiempo añadido antes de que los anfitriones mantuvieran su inicio invicto bajo la dirección del entrenador Fabian Hurzeler.
Brighton realizó ocho cambios después del frustrante empate sin goles del sábado con Ipswich, mientras que solo Joao Gomes mantuvo su puesto de titular en los Wanderers después de la derrota del domingo por 2-1 ante Newcastle.
Baleba, uno de los tres jugadores de los Seagulls que mantuvieron su lugar, abrió el marcador con estilo en el minuto 14.
El joven de 20 años desposeyó a Gomes en lo profundo del territorio rival antes de inclinarse hacia la esquina inferior izquierda desde lejos y celebrar el golpe histórico con una voltereta y un salto mortal hacia atrás.
Nueve minutos más tarde, Albion volvió a tener el balón en la red, pero Yankuba Minteh estaba en fuera de juego cuando giró hacia la red después de que el remate inicial de Evan Ferguson golpeara a José Sa y se desviara hacia la portería.
El delantero de los Wolves, Guedes, obligó al portero del Brighton, Jason Steele, a convertir su potente disparo a la media hora de juego antes de que los visitantes quedaran aún más atrás un minuto después.
Después de tener tiempo y espacio en la banda izquierda, Adingra recortó hacia el interior para disparar a la esquina inferior derecha desde el borde de la defensa.
Los anfitriones de Hurzeler parecían encaminados a pasar a la siguiente ronda, pero los Wolves inyectaron nueva vida al partido un minuto antes del descanso.
Rodrigo Gomes liberó a Matt Doherty por la izquierda y su pase fue rematado con el pie hacia la esquina derecha por Guedes tras un desvío en Adam Webster.
Después de haber tenido el control durante la mayor parte del período inicial, Brighton estaba a la defensiva después del reinicio.
Sólo el legado de Steele evitó que Gomes igualara a los pocos segundos del segundo tiempo antes de que Pablo Sarabia estuviera cerca de rematar un centro raso de Guedes en el minuto 59.
Albion continuó viviendo peligrosamente y soportó momentos más angustiosos.
Jack Hinshelwood evitó que su compañero Webster anotara un gol en propia puerta al rematar sobre la línea antes de que Guedes disparara desviado por el poste izquierdo.
El Brighton seguía conmocionado en defensa, pero al final consiguió reservar su lugar en la cuarta ronda a cinco minutos del final.
El portero de los Wolves, Sa, sólo pudo detener el esfuerzo inicial de Danny Welbeck y su compañero suplente Kadioglu estuvo presente para convertir su primer gol con los Seagulls.
El simple remate parecía haber sentenciado el partido, pero Doyle aún tuvo tiempo de aumentar la tensión rematando con fuerza después de que Brighton perdiera la posesión sin cuidado dentro de su propia área de 18 yardas.
