【ITBEAR科技資訊】4月23日消息,微軟研究院近日公布了一項令人矚目的技術(shù)成果——Phi-3系列AI模型。這一系列模型包含三個版本:mini(38億參數(shù))、small(70億參數(shù))以及medium(140億參數(shù)),分別滿足不同場景和需求的應(yīng)用。
據(jù)微軟技術(shù)報告顯示,擁有38億參數(shù)的phi-3-mini模型在經(jīng)過高達3.3萬億個tokens的訓(xùn)練后,其在基準測試中的跑分性能已經(jīng)成功超越了Mixtral 8x7B和GPT-3.5等業(yè)界知名模型。這一成就彰顯了微軟在人工智能領(lǐng)域的深厚實力和創(chuàng)新能力。
phi-3-mini模型不僅可以部署在高性能計算機上,還可以輕松應(yīng)用于手機等便攜設(shè)備。該模型在27億參數(shù)的Phi-2模型基礎(chǔ)上進行了進一步優(yōu)化,通過整合嚴格過濾的網(wǎng)絡(luò)數(shù)據(jù)和合成數(shù)據(jù),提升了模型的通用性和準確性。
盡管phi-3-mini模型在語言理解和推理能力方面表現(xiàn)出色,甚至可以媲美更大參數(shù)的AI模型,但微軟也坦誠地指出,在某些特定任務(wù),如TriviaQA等,其性能仍然受到模型規(guī)模的限制。然而,這并不影響phi-3-mini模型在眾多領(lǐng)域中的廣泛應(yīng)用前景。
此外,微軟還公布了phi-3-small和phi-3-medium兩個模型在MMLU測試中的得分,分別為75.3和78.2,顯示出這兩個模型在處理復(fù)雜任務(wù)時也具備了相當高的性能。