据 PrismML 首席执行官称,Apple 正与 AI 初创公司 PrismML 进行早期讨论,计划将其模型压缩技术集成到 iPhone 中。该合作可能使 270 亿参数的 AI 模型能够在设备端直接运行,从而增强 Siri 的能力,并强化 Apple 的隐私保护。
7 月 14 日,PrismML 宣布其压缩技术取得突破:将阿里巴巴的开源 Qwen 模型从 54GB 降至 4GB 以下,同时保留 270 亿参数规模,以确保在 iPhone 15 及更新设备上流畅运行。该技术将内存使用量降低 10–15 倍,并将响应速度提升 6–8 倍,但首席执行官也承认在事实回忆、推理以及编码能力方面存在权衡。