,agileedge的框架图,虽然代码一行没有,但是只要逻辑上能够说服老师就够了。
“这套框架主要都是基于attention,也就是transformer,虽然其存在计算量大的问题,但是毫无疑问,这是现阶段所有深度学习的核心基础。
agileedge的作用概括来说就是两个字——打包!ppt上所展示的是agileedge最为核心的三个组件,分别是:
感知与状态编码层,它的作用是收集并预处理来自边缘环境的原始、多模态数据,
ai协同优化决策引擎,采用分层强化学习架构,实现大模型的缩小,
执行与反馈层,将缩小的大模型打包到相对应的边缘环境中。
最终达到ai边缘部署的目的,理论上来说,无论什么样的大模型,经过这一流程都能被塞到边缘设备中。”
邓永华看着大屏幕上的ppt思考了一会儿,缓缓开口:“我有一个问题,
既然agileedge框架具有高度的自适应性,它有没有可能会在运行时为了满足短期性能目标而频繁地对边缘设备上的 ai模型进行极端压缩,或者进行激进的在线剪枝。
这种持续且可能激进的“调教”行为,长此以往是否会导致模型在未被直接监控的复杂场景或长尾数据分布上出现不可预知的精度漂移甚至灾难性遗忘?
还有一点就是agileedge如何在动态模型“打包”的过程中,系统性地量化并约束这种潜在的、累积性的精度损失?”
周昀眉头不自觉微微皱起,这个问题确实是他的疏忽,这和智商没有关系,完全就是科研经验上的不足。
但是这并不妨碍他回答,在大脑的高速运转下,他就想到应对方式:“老师的这个问题我确实想过,所以我设计了一个全新的指标对打包后的模型进行评价,
本网站为网友提供小说上传储存空间平台,为网友提供在线阅读交流、txt下载,平台上的所有文学作品均来源于网友的上传
用户上传的文学作品均由网站程序自动分割展现,无人工干预,本站自身不编辑或修改网友上传的内容(请上传有合法版权的作品)
如发现本站有侵犯权利人版权内容的,请向本站投诉,一经核实,本站将立即删除相关作品并对上传人ID账号作封号处理