[transformer] add cross attention

[Mddct]

• refactor [transformer] optimize decoder auto-regressive decoding #2377
• re-check 解码cer

[Mddct]

aishell	att cer float32/float16
old decoder cache	5.53 / 5.52
new decoder cache	5.53 / 5.52

** 对aishell的解码结果tn+繁体转简体后

whisper	att cer	A100 bs=16 float16
old decoder cache	5.13	148m
new decoder cache	5.13	68m

[xingchensong]

整个的思考逻辑是这样：

想用crossattn的cache模式 ->

先尝试在原来那个公用的类的forward里改，发现能提速但是因为selfcache和crosscache处理逻辑耦合，所以不太想要 （ #2377 ） ->

决定分开 （现在的PR）