工具推荐2024-01-09 · 历史讨论
I made an app that runs Mistral 7B 0.2 LLM locally on iPhone Pros
英文原文适用边界与提醒
保留英文原文,尚未翻译。内容按实践与结果信号筛选,具体说法请结合原讨论判断。
讨论中的声音
“BTW, I used development tools in the browser to measure latency for the free ChatGPT 3.5, and got about 900 milliseconds till the first token.”
@Const-me · 查看来源
Y
I made an app that runs Mistral 7B 0.2 LLM locally on iPhone Pros
@Const-me · 292 points · 188 条评论
阅读 Hacker News 原帖来源:OpenIndex Hacker News 数据集(ODC-By)。原文归各作者所有。摘要、翻译和行动建议由 AI 辅助整理,请结合原文判断;个案不代表普遍结果。