首页>TAG列表
Llama提速500%!谷歌美女程序员手搓矩阵乘法内核

Llama提速500%!谷歌美女程序员手搓矩阵乘法内核

谷歌的美女程序员,将Llama的推理速度提高了500%!近日,天赋程序员JustineTunney发推示意自己降级了Llamafile的代码,她重写了84个新的矩阵乘法内核,使得Llamafile可以...

像人一样思索!团队仅5人 最强AI程序员砸饭碗 84秒跑通代码

像人一样思索!团队仅5人 最强AI程序员砸饭碗 84秒跑通代码

继Devin之后,又一个AI软件工程师被刷屏了——它叫,号称目前地表最强,曾经可以像人一样思索和执行了!那么这个,地表最强,,究竟强到什么水平,先来看下评测分数,在威望榜单SWE,Bench中,Gen...

最近一段期间对于大模型技术的学习及运行的心得体会

最近一段期间对于大模型技术的学习及运行的心得体会

怎样把大模型的各种技术与运行场景相联合是一个值得思索的疑问,当天这篇文章应该算是对这几个月以来学习和运行大模型技术的总结,也可以说是这段期间的心得体会,当天关键从技术与运行两个方面来讲,当然也会夹杂着...

以及强化学习的运行场景 为什么须要强化学习 从具身智能再谈强化学习

以及强化学习的运行场景 为什么须要强化学习 从具身智能再谈强化学习

学习的环节,是一个始终发生偏向和调整的环节,学习的环节是一个学习——验证——再学习——再验证的环节,在此之前也有写过对于强化学习的文章,但那时更多的是逗留在概念形容和称号解释的阶段,便捷来说就是知道有...

豪华 一文详解3D内容生成算法

豪华 一文详解3D内容生成算法

文章链接,https,arxiv.org,pdf,2402.01166近年来,人工智能生成内容,AIGC,方面取得了清楚停顿,触及多种输入方式,如文本、图像、视频、音频和3D内容,其中,3D内容是最凑...

一文搞懂稠密智能编码器 仰视LLM的灵魂

一文搞懂稠密智能编码器 仰视LLM的灵魂

稠密智能编码器,SAE,最远因机器学习模型的可解释性而变得盛行,虽然SAE自1997年以来不时存在,机器学习模型正在使LLMs变得越来越弱小和有用,但它们依然是黑匣子,如何看穿LLM的灵魂,且若能了解...