5 月 25 日消息，巴塞羅那超級計算中心（BSC）和加泰羅尼亞理工大學（UPC）的研究人員開發了一種將手語翻譯成文本的新工具，以給予聽覺障礙者更多包容性和可及性。該工具利用人工智能技術，包括自我注意機制和更快的吞吐量，以更準確地理解手語者的姿勢并產生準確的文字轉寫。

▲ 圖源 Arxiv

該工具基于 How2Sign 數據集，這是一個公開可用的大規模、多模態和多視圖數據集，包括 80 小時的美國手語教學視頻和相應的英語文字記錄。該數據集由 BSC 和 UPC 發布，用于訓練模型，以便將手語轉換為文本。研究人員使用膨脹式三維網絡（I3D）對數據進行預處理，這是一種視頻提取方法，可以對視頻進行三維過濾，直接從視頻中獲取時空信息。并使用了一個轉化器式的機器學習模型，與 ChatGPT 等其他人工智能工具背后的模型類似。

▲ 圖源論文《Sign Language Translation from Instructional Videos》

該研究的主要作者 Laia Tarrés 表示：“我們開發的新工具是以前發布的名為 How2Sign 的出版物的延伸，在那里，訓練模型所需的數據被公布。利用這些已經可用的數據，我們開發了一個新的開源軟件，能夠學習視頻和文本之間的映射。”

研究人員發現，他們的模型能夠產生有意義的翻譯，但仍存在改進的空間。該工具尚處于實驗階段，研究人員將繼續努力，以創建一個能夠與無聽力損失者使用的技術相媲美的工具。

Laia Tarrés 同時表示：“這個自動手語翻譯的開放工具是對關注無障礙環境的科學界的寶貴貢獻，它的發表代表了向為所有人創造更具包容性和無障礙的技術邁出的重要一步。”