반응형
[Paper 리뷰] Textually Pretrained Speech Language Models
Textually Pretrained Speech Language ModelsSpeech language model은 textual supervision 없이 acoustic data 만을 처리하고 생성함Textually Warm Initialized Speech Transformer (TWIST)Pretrained textual languaga model의 warm-start를 사용하여 speech language model을 trainingParameter 수와 training data 측면에서 가장 큰 speech language model을 제시논문 (NeurIPS 2023) : Paper Link1. Introduction음성에는 단순한 textual context 이상의 정보가 포함되어 있지만..
Paper/Language Model
2024. 3. 31. 09:10
반응형