開源之王Llama 3原本只有8k的上下文窗口，在開源社區(qū)技術(shù)大佬的努力下，僅需58行代碼，自動擴展到1048k（一百萬）上下文。怎么實現(xiàn)的？請看作者的分享。

根據(jù)Meta公司首席人工智能科學家Yann LeCun的說法，今天發(fā)布的開源Llama 3人工智能模型只是一個開始。他表示，一個新的、更大規(guī)模的版本正在開發(fā)中。 周四上午，Meta發(fā)...

就在當?shù)貢r間4月18日，Meta的Llama 3正式亮相了，Meta還透露他們目前正在開發(fā)一款超過4000億參數(shù)的Llama 3模型。我們不妨來看看本文的分享。

蟄伏許久，Meta剛剛?cè)映隽酥匕跽◤棧捍蠹移诖丫玫腖lama 3，用了24000塊GPU訓練，一亮相便登上開源大模型鐵王座。8B和70B取得同規(guī)模參數(shù)下開源領域的SOTA，推理編碼大幅提升，代碼和權(quán)重全開源！而且，400B的Llama 3，也在路上了。

Meta正式發(fā)布了新一代開源大語言模型Llama3，這一消息掀起了網(wǎng)友們的瘋狂討論。那么綜合來看，Llama 3的性能有著怎樣的表現(xiàn)？Llama 3的到來，又意味著什么？

時隔9個月之后，meta正式發(fā)布了Llama3的正式版。模型已經(jīng)上架，8B和70B模型已經(jīng)開源，可以免費商用（限制月活不的超越7億），還有哪些新的信息呢？