阿拉伯聯合大公國阿布達比--(美國商業資訊)--阿布達比先進科技研究委員會旗下的全球研究中心和應用研究支柱部門科技創新研究所(TII)今天宣佈推出NOOR語言處理模型，這是迄今為止全球規模居首的阿拉伯語自然語言處理(NLP)模型。

TII的高階研究人員和人工智慧專家團隊與LightOn聯手，對這個阿拉伯語NLP模型進行了改進。LightOn是專為企業提供超大規模機器智慧的科技公司。NOOR模型能夠執行超出語言領域的任務，可提供涵蓋整個端到端處理管線的優質資料，包括大規模資料爬取、過濾和管理。該模型可促進超大規模資料的分散式訓練和服務，帶來的應用程式具有高效推理能力，並可針對特定領域進行模型調整。

TII和ASPIRE執行長Ray O. Johnson博士表示：「這一進展將大幅提升我們的研究能力和資歷，並提升阿布達比和阿聯作為重要研究生態系統的地位。我們的專家團隊再次證明，阿布達比和阿聯地區可以取得具有世界影響力的突破性研發成果。」

TII人工智慧跨領域中心部門主任Ebtesam Almazrouei博士表示：「在自然語言處理領域，大型語言模型不斷湧現。能推出這個擁有100億個參數的先進模型，我們感到很自豪。這是全球規模居首的阿拉伯語NLP模型。為訓練該模型，我們採集了一套獨一無二的大型阿拉伯語資料集。相關工作歷經數月時間，包括對各種來源資料的整理、剔除和過濾。在此特別感謝參與該專案的整個團隊，他們使NOOR成為世界各地學者和企業首選的阿拉伯語研究模型。」

TII數位科學研究中心和人工智慧跨領域中心部門首席研究員Mérouane Debbah教授在發佈會上表示：「透過NOOR，TII利用在大型語言模型方面的專有技術，擴大了現代標準阿拉伯語模型的範圍，以在新一代人工智慧研究中建立跨領域的先進專長。」

NOOR擁有超過300億字的獨特資料集，涵蓋網路資料、書籍、詩歌、新聞文章和技術資訊等來源，從而打造出全球規模居首的優質跨領域阿拉伯語資料集，並大幅擴大了該模型的適用範圍。

Ebtesam Almazrouei博士表示，NOOR模型採用流行的Transformer架構，僅包含解碼器，結構與GPT-3相似，其設計旨在處理生成類任務，經過升級的架構反映機器學習領域的最新發展，包括更好的位置嵌入等改進。為確保NOOR大規模資料集的品質，TII團隊設計了植基於機器學習技術的自動過濾管線。相關工具可以識別優質參考文獻，並保障模型不受垃圾內容污染。

NOOR利用先進的3D平行技術，在配備128個A100 GPU的高效能運算資源上進行訓練，該過程採用分散式運算模式，能夠確保有效利用可用的硬體資源。

人工智慧跨領域中心部門主任指出，NOOR只是該部門努力為更廣泛的阿聯人工智慧策略做出貢獻的第一步。

該模型以阿拉伯語中的「光」命名，以體現模型旨在啟迪人類智慧的宗旨。

關於科技創新研究所(TII)：

如欲瞭解更多資訊，請造訪www.tii.ae

*來源：AETOSWire

照片/多媒體圖庫可從以下網址獲得：https://www.businesswire.com/news/home/52671760/en

免責聲明：本公告之原文版本乃官方授權版本。譯文僅供方便瞭解之用，煩請參照原文，原文版本乃唯一具法律效力之版本。

科技創新研究所
Sneha Sivanand, sneha.sivanand@tii.ae

Noor, the world's largest Arabic NLP Model - AI Cross-Center Unit, Technology Innovation Institute (Photo: AETOSWire)