Vid video capture, välj inte öppna utan spara (ex i temp på datorn) sen när du vill öppna den ex. "öppna med ", så borde du kunna välja vlc player.
Annars under mappalternativ,filtyper välj att m3u öppnas med vlc-player.