TE
科技回声
首页24小时热榜最新最佳问答展示工作
GitHubTwitter
首页

科技回声

基于 Next.js 构建的科技新闻平台,提供全球科技新闻和讨论内容。

GitHubTwitter

首页

首页最新最佳问答展示工作

资源链接

HackerNews API原版 HackerNewsNext.js

© 2025 科技回声. 版权所有。

Retentive Network: A Successor to Transformer for Large Language Models

11 点作者 vagabund将近 2 年前

2 条评论

fgfm将近 2 年前
The repo the paper is pointing to indicates that the code will be released within ~1 week! If the sheer difference in VRAM requirements and latency holds up, this will seriously be a major breakthrough for LLM architectures!<p>Can&#x27;t wait to try it out
评论 #36808970 未加载
vagabund将近 2 年前
Brief twitter thread with performance metrics. Looks big if results hold up.<p><a href="https:&#x2F;&#x2F;twitter.com&#x2F;arankomatsuzaki&#x2F;status&#x2F;1681113977500184576" rel="nofollow noreferrer">https:&#x2F;&#x2F;twitter.com&#x2F;arankomatsuzaki&#x2F;status&#x2F;16811139775001845...</a>