Hola y bienvenido! El cable del reset hay que quitarlo rápidamente después de lanzar el openocd, si no creo que da un timeout. Mantener el STM32 en reset es necesario porque en seguida que arranca el programa desactiva el debugging por SWD o usa las patas para algo, o qué se yo lo que hace pero no deja debuggear.
Si lo has conseguido en modo DFU, perfecto... todos los caminos llevan a Roma. No sabía que el STLINK podía hablar con el bootloader, pensaba que era necesario un adaptador USB-serie.
Supongo que le habrás metido el FlashFloppy... (todo lo demás está obsoleto).