开源! 斯坦福学者推出专为Android移动设施打造的大模型
Octopus-V2-2B是一个具备20亿参数的先进开源言语模型,代表着Nexa AI在大型言语模型(LLMs)在函数调用方面的钻研打破,特意针对AndroidAPI启动了定制。与须要潜在函数参数的具体形容(有时须要多达数万个输入标志)的检索增强生成(RAG)方法不同,Octopus-V2-2B在其训练和推理阶段都引入了共同的配置token战略。这种方法不只使其能够到达与GPT-4可比拟的性能水平,而且还清楚提高了其推理速度, 逾越了基于RAG的方法,使其在边缘计算设施上尤为有益 。