Proactive warning is an important capability for edge intelligent services, where the system predicts whether a subject will successfully complete an incoming task under strict latency and privacy constraints. Such prediction depends on both long-term static attributes and short-term dynamic states derived from historical interaction logs. Recent Large Language Models (LLMs) offer strong long-context reasoning for constructing structured profiles from these logs, but existing solutions face two challenges for edge deployment: (1) profiling methods are typically domain-specific and lack a reusable abstraction across service scenarios, and (2) fine-tuning alignment models on heterogeneous edge clusters incurs high synchronization overhead due to the variance in input sequence lengths. To address these challenges, we propose CogGuard, a proactive-warning framework for edge intelligent services. CogGuard decouples offline LLM-based profile construction from online Small Language Model (SLM)-based score prediction through a shared static-dynamic profile-to-score pipeline, and instantiates it in two representative scenarios: educational performance warning and operational task outcome warning. For efficient profile construction, we design scenario-specific profiling methods with prefix-aligned KV-cache reuse to reduce repeated encoding overhead. For edge-side model alignment, we propose a length-aware distributed fine-tuning strategy with contrastive regularization to mitigate workload imbalance on heterogeneous clusters. Experiments on education and operation datasets show that CogGuard reduces profile construction time by up to 48% and distributed fine-tuning time by 19%, while achieving MAEs of 13.4 and 5.9, respectively, on 100-point-scale warning tasks. In the largest educational setting, CogGuard reduces prediction error by 15.4% compared with the strongest baseline.


翻译:主动预警是边缘智能服务的重要能力,系统需在严格的延迟和隐私约束下预测主体能否成功完成即将到来的任务。这类预测既依赖长期静态属性,也依赖从历史交互日志中提取的短期动态状态。近年来,大型语言模型(LLMs)为此类日志的结构化画像构建提供了强大的长上下文推理能力,但现有解决方案在边缘部署时面临两大挑战:(1)画像方法通常具有领域特异性,缺乏跨服务场景的可复用抽象;(2)在异构边缘集群上微调对齐模型时,输入序列长度的差异会导致高同步开销。针对这些问题,本文提出CogGuard——一个面向边缘智能服务的主动预警框架。该框架通过共享的静态-动态画像-分数流水线,将基于LLM的离线画像构建与基于小型语言模型(SLM)的在线分数预测相解耦,并在两个代表性场景中实例化:教育表现预警与操作任务结果预警。为高效构建画像,我们设计了场景特定的画像方法,并采用前缀对齐的KV缓存复用技术减少重复编码开销。针对边缘端模型对齐,我们提出一种长度感知的分布式微调策略,结合对比正则化以缓解异构集群上的负载不均衡问题。在教育和操作数据集上的实验表明,CogGuard将画像构建时间降低最多48%,分布式微调时间降低19%,并在百分制预警任务上分别实现了13.4和5.9的平均绝对误差(MAE)。在最大规模的教育场景中,与最强基线相比,CogGuard将预测误差降低了15.4%。

0
下载
关闭预览

相关内容

《行动路径:运用武器流动数据强化冲突预警》智库报告
国防领域边缘计算:将智能推向行动前沿
专知会员服务
29+阅读 · 2025年4月6日
人工智能如何增强军事监控与边境安全
专知会员服务
21+阅读 · 2025年3月20日
战术边缘态势感知:私有AI如何推动国防AI创新
专知会员服务
31+阅读 · 2025年3月19日
移动边缘智能与大型语言模型综述
专知会员服务
42+阅读 · 2024年7月31日
专知会员服务
64+阅读 · 2021年7月5日
无人预警机系统架构及关键技术分析
专知
14+阅读 · 2022年8月6日
边缘智能发展与演进白皮书
物联网智库
13+阅读 · 2019年6月17日
网络安全态势感知
计算机与网络安全
26+阅读 · 2018年10月14日
警务云情报分析研判平台解决方案(ppt)
智能交通技术
17+阅读 · 2018年3月18日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
338+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
6+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
《行动路径:运用武器流动数据强化冲突预警》智库报告
国防领域边缘计算:将智能推向行动前沿
专知会员服务
29+阅读 · 2025年4月6日
人工智能如何增强军事监控与边境安全
专知会员服务
21+阅读 · 2025年3月20日
战术边缘态势感知:私有AI如何推动国防AI创新
专知会员服务
31+阅读 · 2025年3月19日
移动边缘智能与大型语言模型综述
专知会员服务
42+阅读 · 2024年7月31日
专知会员服务
64+阅读 · 2021年7月5日
相关基金
国家自然科学基金
338+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员