本地网对话到了模型已经运行验手机上机内蓝点在手可以考时候存的
好消息是测试显示在 iPhone 14 Pro Max 上是可以正常运行的 ，有 iOS 开发经验的内存开发者可以自行编译安装 。这个 AI 对话模型没有服务器支持，蓝点
现在该团队将 MLC LLM 移植到了手机上，对话
在 iPhone 12 Pro 上测试就有些压力了 ，模型在网页上调用 WebGPU API 即使用你的已经运行本机 GPU 提供算力支持 ，MLC 团队还推出了 Windows/Linux/Mac 的可手考验 CLI 版 ，满了就没法加入了。机上手机上还好，本地蓝点网测试感觉还可以 ，具体请看 ：https://mlc.ai/mlc-llm/
早前蓝点网介绍了 MLC 团队推出的 WebLLM (MLC LLM) ，一切数据都是离线的无需担心你的对话内容泄露 。
有兴趣的用户可以试试这个 AI 模型 ，不论是模型还是数据都在本地 。毕竟内存稍微大点。
iOS Demo TF 版 ：https://testflight.apple.com/join/57zd7oxa
WebLLM (网页版) ：https://mlc.ai/web-llm/
Windows/Linux/Mac 需要使用 Conda 管理，在 PC 上用户可能需要更新驱动程序 ，这么来看安卓机可能更有优势 ，坏消息是如果手机内存比较小的话会崩溃 ，基本上说内存起步需要 6GB，相对来说在 PC 上使用压力就小一些了，因为模型运行的时候 ，完全离线运行 ，内存并非关键，
除了 iOS 版外，
等等… 我是不是还没提 GPU 问题 ？是的 ，中文支持也挺不错的 。即命令行版本，还开发了 iOS Demo 应用 ，限额 9000 人 ，因为无论是 iPhone 还是安卓还是 PC 都必须支持 GPU 加速 ，也就是说你可以在手机上运行大型语言模型 ，例如 Vulkan 驱动程序 。
