(資料圖)
IT之家 8 月 22 日消息,清華大學電子工程系日前與字節跳動的火山語音團隊攜手合作,推出一款開源大語言模型 SALMONN。
▲ 圖源 SALMONN 的 GitHub 頁面
IT之家經過查詢得知,SALMONN 模型支持語音、音頻以及音樂輸入,它可以感知和理解不同類型的音頻內容輸入,并具備多語言語音識別和翻譯以及語音推理等功能。
▲ 官方發布的模型解析圖
官方表示,SALMONN 支持語音、音頻以及音樂輸入,它可以感知和理解不同類型的音頻內容輸入,并具備多語言語音識別和翻譯以及語音推理等功能。
▲ 圖源 SALMONN 的 Demo 頁面
官方同時表示,目前 SALMONN 能夠勝任英語語音識別、英語到中文的語音翻譯、情感識別、音頻字幕生成、音樂描述等重要的語音和音頻任務,同時又涌現出多種在模型訓練中沒有專門學習過的多語言和跨模態能力,涵蓋非英語語音識別、英語到(中文以外)其他語言的語音翻譯、對語音內容的摘要和關鍵詞提取、基于音頻的故事生成、音頻問答、語音和音頻聯合推理等任務。
目前該模型已經發布于 GitHub 中,官方同時放出了項目的 Demo 鏈接,感興趣的小伙伴們可以前往了解。
關鍵詞: