TE
科技回声
首页24小时热榜最新最佳问答展示工作
GitHubTwitter
首页

科技回声

基于 Next.js 构建的科技新闻平台,提供全球科技新闻和讨论内容。

GitHubTwitter

首页

首页最新最佳问答展示工作

资源链接

HackerNews API原版 HackerNewsNext.js

© 2025 科技回声. 版权所有。

Run LLMs Locally with Docker: A Quickstart Guide to Model Runner

3 点作者 homarp大约 1 个月前

3 条评论

kristianp大约 1 个月前
This is part of docker desktop on MacOS.<p>&gt; Now available in Beta with Docker Desktop 4.40 for macOS on Apple silicon<p>Also provides an api endpoint.
homarp大约 1 个月前
discussion here <a href="https:&#x2F;&#x2F;news.ycombinator.com&#x2F;item?id=43643944">https:&#x2F;&#x2F;news.ycombinator.com&#x2F;item?id=43643944</a>
homarp大约 1 个月前
it uses llama.cpp