2024年8月5日 星期一

Gemma 2 27B 初探

最近的模型都走四平八穩的路線,做客服什麼的倒是沒問題 



其實這沒打到痛點。JAMA上有篇 Use of Olive Oil for the Treatment of Seborrheic Dermatitis in Children ,說明有機油可能更助長皮屑芽孢菌的繁殖。這也再次證明,RAG提出這麼久,還是沒有像樣的實作出來,真是令人無語…

2024年8月2日 星期五

Meta Llama 3.1 405B 果然跟牠老闆一樣能打(物理)!!

 以這題對比其它LLM不知所云的結果,Meta Llama 3.1 405B 我要比個讚啊(b)

從訪談可以知道,Meta Llama 3.1 405B 沒有走  MoE 的路,而是專心訓練一個更強大的模型。股價的堅挺多少看出它的評價應該是好的,相信很大一部分也是開源帶來更多人的參與和回饋,加速了系統的迭代。