快科技 12 月 11 日消息,美国初创公司 Tiiny Lab 推出了其最新产品 Pocket Lab,这是一款专为个人 LLM 设计、主打完全离线运行的 " 口袋 AI 超级计算机 "。
这款设备凭借其极其紧凑的尺寸和强大的硬件配置,在 " 最小迷你 PC(本地运行 100B 参数 LLM)" 类别下获得了吉尼斯世界纪录的官方认证。

Pocket Lab 尺寸仅为 14.2 x 8 x 2.5 厘米,重量约 300 克,内部配置也很强大:
处理器:基于 ARM v9.2 架构的 12 核 ARM CPU。
AI 算力:定制异构模块(SoC + dNPU),提供约 190 TOPS 的总 AI 算力。
内存与存储:配备了高达 80GB 的 LPDDR5X 内存(其中 48GB 专用于 NPU)和 1TB SSD。
功耗:典型系统功耗为 65W。

Pocket Lab 最大的亮点在于,其能够完全在本地离线状态下运行高达 1200 亿参数的大模型,打破了以往对云端、服务器或高端 GPU 的依赖。
该公司通过 TurboSparse(神经元级稀疏激活技术)和 PowerInfer(开源异构推理引擎)等技术,实现了在低功耗下达到近似服务器级的性能,尤其针对 10B 至 100B 参数的个人 AI " 黄金区间 " 进行了优化。
Pocket Lab 支持一键安装包括 Llama、Qwen、DeepSeek、Mistral、Phi 和 OpenAI GPT-OSS 在内的多种主流开源模型,并支持 OpenManus、ComfyUI 等 AI Agent 框架。
Tiiny AI 确认,这些软件功能和 OTA 硬件升级将在 2026 年 1 月的 CES 展会上正式发布,该产品的定价细节目前仍未公布。



登录后才可以发布评论哦
打开小程序可以发布评论哦