TE
科技回声
首页24小时热榜最新最佳问答展示工作
GitHubTwitter
首页

科技回声

基于 Next.js 构建的科技新闻平台,提供全球科技新闻和讨论内容。

GitHubTwitter

首页

首页最新最佳问答展示工作

资源链接

HackerNews API原版 HackerNewsNext.js

© 2025 科技回声. 版权所有。

Show HN: FlashTokenizer – 10x faster C++ tokenizer for Python

5 点作者 springkim大约 2 个月前
I built a tokenizer in C++ with a Python binding that outperforms HuggingFace tokenizers by 10x on large inputs. It&#x27;s optimized for minimal memory usage and latency.<p>Benchmarks and comparison included in README. Would love feedback or contributions!

暂无评论

暂无评论