什么是端侧AI

大模型跑在手机/本地电脑上,不往云端传数据。隐私更安全,断网也能用。

优点

隐私保护:数据不出本地;响应快;不用联网;零成本调用。

局限

模型小(7B以下)能力有限;手机内存要大;耗电;推理速度慢。

声明:本站文章均来源于原创、转载、AI生成等渠道,如有版权及其他问题,请点击反馈,我公司会尽快查实并处理。