什么是端侧AI
大模型跑在手机/本地电脑上,不往云端传数据。隐私更安全,断网也能用。
优点
隐私保护:数据不出本地;响应快;不用联网;零成本调用。
局限
模型小(7B以下)能力有限;手机内存要大;耗电;推理速度慢。
声明:本站文章均来源于原创、转载、AI生成等渠道,如有版权及其他问题,请点击反馈,我公司会尽快查实并处理。
大模型跑在手机/本地电脑上,不往云端传数据。隐私更安全,断网也能用。
隐私保护:数据不出本地;响应快;不用联网;零成本调用。
模型小(7B以下)能力有限;手机内存要大;耗电;推理速度慢。
声明:本站文章均来源于原创、转载、AI生成等渠道,如有版权及其他问题,请点击反馈,我公司会尽快查实并处理。