Software containerization technologies for resource-limited devices enable multi-tenant microcontrollers, which allow running multiple applications with different permission levels. However, current solutions lack run time configuration over various settings on container scheduling and container permissions to host resources. This limits the applicability of constrained containerization in dynamic and heterogeneous environments. This paper introduces TinyContainer, a lightweight software container management middleware designed for multi-tenant microcontrollers. TinyContainer provides per-container configurable scheduling and fine-grained access control to host resources through a metadata-driven approach, supporting multiple runtimes via a runtime abstraction layer. We analyze the performance of TinyContainer with a small WebAssembly runtime, CS4WAMR, and RIOT OS, a common RTOS. We report on experiments using popular IoT boards based on various Cortex-M microcontrollers. We show the endpoint system brought by TinyContainer allowing to regulate access of containers to host resources and provide host services to containers with an overhead of up to 4 ms per call. In particular, we showcase a TinyML use case, whereby containers retain data and model weights, while model inference is delegated to native host RTOS services.


翻译:针对资源受限设备的软件容器化技术使多租户微控制器成为可能,允许运行具有不同权限级别的多个应用程序。然而,当前解决方案缺乏对容器调度及容器对宿主机资源访问权限等各类设置的运行时配置能力,这限制了受限容器化技术在动态异构环境中的适用性。本文介绍TinyContainer——一种专为多租户微控制器设计的轻量级软件容器管理中间件。TinyContainer通过元数据驱动方法提供每容器的可配置调度机制及细粒度的宿主机资源访问控制,并借助运行时抽象层支持多种运行时环境。我们基于小型WebAssembly运行时CS4WAMR与通用RTOS RIOT OS分析了TinyContainer的性能,并报告了基于多种Cortex-M微控制器的主流物联网板卡实验数据。实验表明,TinyContainer引入的端点系统可规范容器对宿主机资源的访问,并为容器提供宿主机服务,每次调用开销最高仅4毫秒。特别地,我们展示了一个TinyML用例:容器保留数据与模型权重,而模型推理任务则委托给原生宿主机RTOS服务执行。

0
下载
关闭预览

相关内容

International Middleware会议是讨论中间件设计、构造和使用方面的重要创新和最新进展的论坛。中间件是位于应用程序和底层平台(操作系统;数据库;硬件)之间的分布式系统软件,和/或将分布式应用程序、数据库或设备连接在一起。它的主要作用是协调和实现不同层或组件之间的通信,同时将分布的大部分复杂性隔离为一个单一的、经过充分测试和理解的系统抽象。 官网链接:http://www.middleware-conference.org/
MIT韩松等最新《微型机器学习TinyML: 进展与未来》综述
专知会员服务
42+阅读 · 2024年3月29日
【数据中台】数据中台技术架构方案
产业智能官
15+阅读 · 2020年5月26日
TheFatRat 一款简易后门工具
黑白之道
36+阅读 · 2019年10月23日
【数据中台】什么是数据中台?
产业智能官
18+阅读 · 2019年7月30日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
俄罗斯如何拦截乌克兰无人机与巡航导弹
专知会员服务
8+阅读 · 10月15日
《武器-目标分配问题:精确与近似求解算法》
专知会员服务
10+阅读 · 10月15日
综述|谁来改进机器人?迈向物理递归自我改进
专知会员服务
10+阅读 · 10月14日
软件定义无人机蜂群给防空带来全新压力
专知会员服务
10+阅读 · 10月13日
《半自主无人地面战车的互操作性》66页
专知会员服务
14+阅读 · 10月13日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员