news 2026/9/20 5:16:55

AIOS 安装部署与配置实战指南:LLM Agent 操作系统(AIOS Kernel + Cerebrum SDK)的架构、部署模式与快速上手

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
AIOS 安装部署与配置实战指南:LLM Agent 操作系统(AIOS Kernel + Cerebrum SDK)的架构、部署模式与快速上手

AIOS 安装部署与配置实战指南:LLM Agent 操作系统(AIOS Kernel + Cerebrum SDK)的架构、部署模式与快速上手

【免费下载链接】AIOSAIOS: AI Agent Operating System项目地址: https://gitcode.com/GitHub_Trending/ai/AIOS

AIOS 是 AI Agent Operating System 的简称,它将大语言模型(LLM)嵌入操作系统之中,用于支撑基于 LLM 的 AI Agent 的开发与部署,重点解决 Agent 在落地过程中面临的调度、上下文切换、内存管理、存储管理、工具管理与 Agent SDK 管理等一系列问题。本指南以 AIOS 官方 README 为主线,结合仓库内 配置示例、配置管理器、服务入口、LLM 适配器、调度器、系统调用层 等源码,系统讲解 AIOS 的整体架构、五种部署模式、完整安装流程、配置文件编写、内核启动与语义文件系统终端的使用方法,帮助你从零搭建一套可运行的多 Agent 操作系统环境。

AIOS 总体架构:AIOS Kernel 与 AIOS SDK 的双层设计

AIOS 系统由两个关键部分组成:AIOS Kernel(内核)AIOS SDK

  • AIOS Kernel:作为操作系统内核之上的抽象层,负责管理 Agent 运行所需的各类资源,包括 LLM、Memory(内存)、Storage(存储)与 Tool(工具)。当前仓库即为 AIOS Kernel 的代码实现。
  • AIOS SDK:面向 Agent 用户与开发者设计,使开发者能够通过与 AIOS Kernel 交互来构建和运行 Agent 应用。AIOS SDK 即 Cerebrum 项目,安装 AIOS Kernel 时会默认一并安装 AIOS SDK。

在部署形态上,AIOS Kernel 与 AIOS SDK 既可以部署在同一台机器上(Local Kernel 模式),也可以分处不同机器(Remote Kernel 模式),后者让资源受限的设备(如移动端、边缘设备)也能远程使用 Agent。

模块与连接关系

Agent 通过 AIOS SDK 与 AIOS Kernel 交互:AIOS Kernel 接收 Agent 的查询后,借助一系列系统调用(syscall)链路,由调度器(Scheduler)统一调度并分发到不同模块中执行。这张图展示了 Agent、SDK 与 Kernel 各模块之间的连接与数据流关系:

从源码可以印证这一调用链:在 服务入口 runtime/launch.py 中,内核通过useCore(LLM)、useMemoryManageruseStorageManageruseToolManageruseFactoryuseSysCall装配各组件;Agent 发起的查询经由 SyscallExecutor 创建对应类型的系统调用对象(LLMSyscall、StorageSyscall、MemorySyscall、ToolSyscall),再根据类型送入全局请求队列,由调度器分发到对应 Manager 执行。

Computer-use 专用架构

针对 computer-use(计算机使用)类 Agent,AIOS Kernel 在保留 LLM Core、Context Manager、Memory Manager 等核心组件的基础上,对 Tool Manager 模块进行了根本性重构,引入VM(虚拟机)ControllerMCP Server,构建出沙箱化环境,使 Agent 能够在维持"Agent 意图与计算机操作之间语义映射"一致性的前提下,安全地操控计算机系统。运行该类 Agent 需要先安装带 GUI 的虚拟化环境(详见下文"运行 computer-use Agent"一节)。

核心模块速览:LLM、Memory、Storage、Tool 与调度器

AIOS Kernel 的资源管理由若干可插拔模块组成,理解这些模块有助于你正确编写配置文件:

模块职责仓库关键实现
LLM Core聚合多后端大模型(OpenAI、Deepseek、Ollama、vLLM、HuggingFace 等),提供路由与批处理执行aios/llm_core/adapter.py、aios/llm_core/routing.py
Memory Manager以可插拔 Provider 方式管理 Agent 记忆,支持 in-house、mem0、zep 三种后端aios/memory/manager.py、aios/memory/providers/factory.py
Storage Manager管理文件系统与向量数据库,支撑 LLM 语义文件系统aios/storage/storage.py、aios/storage/filesystem/lsfs.py
Tool Manager管理外部工具调用(搜索、计算、API 等)及 computer-use 相关工具aios/tool/manager.py、aios/tool/mcp_server.py
SchedulerFIFO / Round Robin 两种调度策略,负责把系统调用分发到各模块aios/scheduler/fifo_scheduler.py、aios/scheduler/rr_scheduler.py
Syscall 层把 LLM/Tool/Storage/Memory 查询封装为带状态与时间统计的系统调用aios/syscall/syscall.py

两个值得留意的实现细节:

  • 调度策略与上下文管理联动:在 runtime/launch.py 中,当配置开启use_context_manager时内核使用 Round Robin 调度器(每个任务分配固定时间片,代码见 rr_scheduler.py),否则使用 FIFO 调度器(按 1 秒间隔批量处理 LLM 请求,代码见 fifo_scheduler.py)。
  • LLM 路由两种策略:routing.py 中定义了sequential(顺序/轮询分发,默认)与smart(成本与性能感知的智能路由,基于 ChromaDB/Qdrant 历史查询检索与 LiteLLM 实时单价)两种策略,通过配置中llms.router.strategy字段选择。

部署模式:从本地内核到个人虚拟内核

在介绍部署模式之前,先明确四个关键概念(README 中的标准术语):

  • AHM(Agent Hub Machine):中心服务器,承载 Agent 市场/仓库,用户可在此发布、下载和分享 Agent,是所有 Agent 相关资源的分发中心。
  • AUM(Agent UI Machine):客户端机器,为与 Agent 交互提供用户界面,可以是手机到桌面等任何支持 Agent 可视化与控制的设备。
  • ADM(Agent Development Machine):开发环境,Agent 开发者在此编写、调试和测试 Agent。
  • ARM(Agent Running Machine):执行环境,Agent 实际运行并执行任务,需要足够的计算资源。

目前 AIOS 已支持 Mode 1 与 Mode 2,其余模式的新特性仍在开发中。

Mode 1:Local Kernel Mode(本地内核模式)

  • 面向 Agent 用户:可以从机器 B 的 Agent Hub 下载 Agent,并在机器 A 上运行。
  • 面向 Agent 开发者:可以在机器 A 上开发、测试 Agent,并上传至机器 B 的 Agent Hub。

适用场景:开发与运行在同一台机器,安装最为简单——只需在同一台机器上同时安装 AIOS Kernel 与 Cerebrum SDK。

Mode 2:Remote Kernel Mode(远程内核模式)

  • 远程使用 Agent:Agent 用户/开发者可以在与开发运行机(机器 A)不同的机器 B 上使用 Agent。
  • 受益人群:希望在资源受限的机器(如移动设备、边缘设备)上使用 Agent 的用户。

部署要点(README 明确说明):若采用远程内核模式,在机器 1 上运行 AIOS、在机器 2 上运行 Agent 并通过远程方式与内核交互,则机器 1 需要同时安装 AIOS Kernel 与 AIOS SDK,而机器 2 只需单独安装 AIOS SDK,并确保 SDK 配置中的 host 与 port 与 AIOS 内核保持一致。

Mode 2.5:Remote Kernel Dev Mode(远程内核开发模式)

  • 远程开发 Agent:开发者可以在机器 B 上开发 Agent,同时在机器 A 上运行和测试 Agent。
  • 受益人群:希望在资源受限机器上进行开发、但借助远程算力运行测试的开发者。
  • 关键技术:跨机器进行 Agent 打包与传输,支撑分布式 Agent 开发与测试。

Mode 3:Personal Remote Kernel Mode(个人远程内核模式)

  • 每位用户/开发者注册 AIOS 生态账号后,即可拥有带长期持久化数据的个人 AIOS。
  • 个人数据可随同一账号同步到不同机器。
  • 关键技术:用户账号注册与验证机制、每个用户 AIOS 的持久化个人数据存储、同一账号下不同设备 AIOS 实例间的数据同步、数据隐私机制。

Mode 4:Personal Remote Virtual Kernel Mode(个人远程虚拟内核模式)

  • 不同用户/开发者的个人 AIOS 内核可以通过虚拟化共存于同一台物理机器。
  • 关键技术:同一机器上不同 AIOS 内核实例的虚拟化、同一机器内不同虚拟机之间的调度与资源分配机制。

安装 AIOS:环境要求与从源码安装

环境要求

  • 支持Python 3.10 - 3.11(创建虚拟环境时务必选用这两个版本之一)。

Step 1:安装 AIOS Kernel

先克隆 AIOS 内核仓库并创建虚拟环境:

git clone https://github.com/agiresearch/AIOS.git

创建 venv 环境:

python3.x -m venv venv # Only support for Python 3.10 and 3.11 source venv/bin/activate

或创建 conda 环境:

conda create -n venv python=3.x # Only support for Python 3.10 and 3.11 conda activate venv

[!TIP] 官方强烈建议使用 uv 以获得更快、更可靠的包安装体验。安装 uv:pip install uv

GPU 环境安装依赖:

uv pip install -r requirements-cuda.txt

仅 CPU 环境安装依赖:

uv pip install -r requirements.txt

如果你更习惯使用 pip:

# GPU 环境 pip install -r requirements-cuda.txt # 仅 CPU 环境 pip install -r requirements.txt

两份依赖清单分别对应仓库根目录的 requirements-cuda.txt 与 requirements.txt。

Step 2:安装 AIOS SDK(Cerebrum)

  1. 克隆 Cerebrum 仓库并安装:
git clone https://github.com/agiresearch/Cerebrum.git
  1. 使用 uv 安装(推荐):
cd Cerebrum && uv pip install -e .

或使用 pip:

cd Cerebrum && pip install -e .

关键注意点:安装 AIOS Kernel 的机器必须同时安装 AIOS SDK(Cerebrum),默认情况下安装 AIOS Kernel 会自动安装 AIOS SDK。使用 Local Kernel 模式(同一机器运行 AIOS 与 Agent)时,只需在该机器上同时安装 AIOS 与 Cerebrum;使用 Remote Kernel 模式时,运行内核的机器 1 安装两者,运行 Agent 的机器 2 单独安装 Cerebrum SDK 即可。

Step 3:安装虚拟化环境(可选)

若要使用 computer-use Agent 的 MCP 能力,官方强烈建议安装带 GUI 的虚拟化环境,具体安装指引见 OSWorld 项目说明。注意:虚拟化环境仅用于 computer-use Agent 场景,普通 Agent 开发不需要。

配置 AIOS:配置文件与交互式两种方式

启动 AIOS 前必须先完成配置。AIOS 提供两种配置方式:直接修改配置文件(官方推荐)与交互式设置

方式一:直接编辑配置文件(推荐)

你需要为 OpenAI、Anthropic、Groq、HuggingFace 等服务准备 API Key。最直接的配置方式是编辑aios/config/config.yaml(仓库提供了完整示例 aios/config/config.yaml.example,首次使用可复制为config.yaml)。

[!TIP] 官方特别提醒:强烈建议使用aios/config/config.yaml来设置 API Key,这种方法直截了当,还能避免环境变量可能带来的同步问题。

aios/config/config.yaml中设置 API Key 的简单示例:

api_keys: openai: "your-openai-key" gemini: "your-gemini-key" groq: "your-groq-key" anthropic: "your-anthropic-key" huggingface: auth_token: "your-huggingface-token-for-authorized-models" cache_dir: "your-cache-dir-for-saving-models" novita: "your-novita-api-key"

各 API Key 的获取途径:Deepseek API(api-docs.deepseek.com)、OpenAI API(platform.openai.com/api-keys)、Google Gemini API(makersuite.google.com/app/apikey)、Groq API(console.groq.com/keys)、HuggingFace Token(huggingface.co/settings/tokens)、Anthropic API(console.anthropic.com/keys)、Novita AI API(novita.ai/api-keys)。

从源码层面看,ConfigManager 是一个单例类,负责在启动时加载aios/config/config.yaml。其get_api_key方法(config_manager.py)遵循先查配置文件、再查环境变量的优先级:例如 openai 对应的环境变量是OPENAI_API_KEY,huggingface 对应HF_AUTH_TOKEN;配置文件中的 Key 会被自动写入进程环境变量供各后端使用(见 adapter.py 的_setup_api_keys实现)。

配置 LLM 模型

在同一个aios/config/config.yaml中配置要使用的 LLM 模型。基本示例:

llms: models: # Ollama Models - name: "qwen2.5:7b" backend: "ollama" hostname: "http://localhost:11434" # Make sure to run ollama server # vLLM Models - name: "meta-llama/Llama-3.1-8B-Instruct" backend: "vllm" hostname: "http://localhost:8091/v1" # Make sure to run vllm server

使用 Ollama 模型:

  1. 从 ollama.com 下载并安装 Ollama。
  2. 在独立终端启动 Ollama 服务:
ollama serve
  1. 拉取所需模型:
ollama pull qwen2.5:7b # example model

[!TIP] Ollama 同时支持 CPU-only 与 GPU 环境。仓库示例 config.yaml.example 默认配置了qwen3:1.7bqwen3:4b两个本地模型,开箱即用。

使用 vLLM 模型:

  1. 按 vLLM 官方安装指南安装 vLLM。
  2. 在独立终端启动 vLLM 服务:
vllm serve meta-llama/Llama-3.1-8B-Instruct --port 8091

[!NOTE] vLLM 目前仅支持 Linux 与 GPU 环境;若环境不兼容请选择其他后端。vLLM 的 tool calling 功能需参考 vLLM 官方文档单独开启。

使用 HuggingFace 模型:可以配置指定 GPU 显存分配与推理设备:

- name: "meta-llama/Llama-3.1-8B-Instruct" backend: "huggingface" max_gpu_memory: {0: "24GB", 1: "24GB"} # GPU memory allocation eval_device: "cuda:0" # Device for model evaluation

从实现上看,LLMAdapter 会逐条解析llms.models列表:huggingface/hflocal后端走本地 HfLocalBackend;vllm/sglang后端创建 OpenAI 兼容客户端(必须提供hostname);其余后端(openai、gemini、anthropic、groq、ollama、novita 等)交由 LiteLLM 统一转发。初始化失败(如缺少必要配置)的模型会被跳过,不会阻塞整个内核启动。

此外,LLMAdapter 支持Ollama 模型动态注册:当某个查询请求的 Ollama 模型未出现在配置中时,内核会查询 Ollama 服务器的/api/tags接口,若该模型确实可用则自动注册并加入可用列表,无需重启。

其余可配置的全局选项(完整示例见 config.yaml.example):

router: strategy: "sequential" # 可选 sequential / smart bootstrap_url: "https://drive.google.com/file/d/1SF7MAvtnsED7KMeMdW3JDIWYNGPwIwL7/view" # smart 路由的种子语料 log_mode: "console" # 可选 console / file use_context_manager: false # 开启后内核改用 Round Robin 调度器并启用上下文管理

内存、存储、调度器与服务器配置

仓库的 config.yaml.example 还给出了内存、存储等模块的完整配置骨架,值得逐项了解:

memory: log_mode: "console" # choose from [console, file] provider: "in-house" # Options: in-house, mem0, zep # Personalization settings (all opt-in, disabled by default) # auto_extract: saves conversation turns as memories after each chat LLM call # auto_inject: retrieves relevant memories and prepends them before each chat LLM call auto_extract: false auto_inject: false relevance_threshold: 0.5 # Minimum similarity score for memory injection max_injected_memories: 5 # Max memories to inject per LLM call max_memory_tokens: 1500 # Token budget for injected memory block # Mem0 provider configuration (used when provider: "mem0") mem0: api_key: "" # Optional: for Mem0 cloud user_id: "default" llm: provider: "ollama" config: model: "qwen2.5:7b" ollama_base_url: "http://localhost:11434" embedder: provider: "ollama" config: model: "nomic-embed-text" ollama_base_url: "http://localhost:11434" vector_store: provider: "chroma" config: collection_name: "mem0_memories" # path: ".mem0/chroma" # ChromaDB persistence directory (default: .mem0/chroma) # Zep provider configuration (used when provider: "zep") zep: api_key: "" # Zep Cloud API key, or leave empty for self-hosted base_url: "http://localhost:8000" # For self-hosted Zep; remove for Zep Cloud session_id: "default" storage: root_dir: "root" use_vector_db: true scheduler: log_mode: "console" # choose from [console, file] agent_factory: log_mode: "console" # choose from [console, file] max_workers: 64 server: host: "localhost" port: 8000

这些配置与 MemoryManager 的 Provider 工厂机制一一对应:provider字段决定使用 in-house、mem0 还是 zep 后端,各自的专属配置段(mem0zep)会在创建 Provider 时被提取传入;server.hostserver.port则是内核 FastAPI 服务的监听地址与端口,Cerebrum SDK 侧必须配置一致。关于内存 Provider 的选型细节,可进一步参考 docs/memory-providers.md。

方式二:交互式配置

也可以使用命令行交互式设置 AIOS 配置:

  • aios env list:显示当前环境变量;若未设置任何变量,则列出可用的 API Key。
  • aios env set:设置环境变量(README 说明其行为与aios env list一致,用于展示当前环境变量或可用 API Key)。
  • aios refresh:刷新 AIOS 配置——从aios/config/config.yaml重新加载配置,在不重启服务器的前提下重新初始化所有组件(注意:服务必须处于运行状态)。

当未设置任何环境变量时,交互式命令会展示以下可用的 API Key 环境变量:

环境变量用途
DEEPSEEK_API_KEYDeepseek API Key,用于访问 Deepseek 服务
OPENAI_API_KEYOpenAI API Key,用于访问 OpenAI 服务
GEMINI_API_KEYGoogle Gemini API Key,用于访问 Gemini 服务
GROQ_API_KEYGroq API Key,用于访问 Groq 服务
HF_AUTH_TOKENHuggingFace 认证令牌,用于访问模型
HF_HOME可选,HuggingFace 模型存储路径
NOVITA_API_KEYNovita AI API Key,用于访问 Novita AI 服务

启动 AIOS 内核

完成 API Key 或环境变量配置后,即可启动内核。

方式一:使用启动脚本(仓库 runtime/launch_kernel.sh 内容即为python -m runtime.launch):

bash runtime/launch_kernel.sh

方式二:显式指定 Python 版本(使用python3.10python3.11python3均可):

python3.x -m uvicorn runtime.launch:app --host 0.0.0.0 --port 8000 # replace the port with your own port

同时需要在 Cerebrum(AIOS SDK)的配置中设置 host 与 port,确保与 AIOS 的配置一致。

方式三:后台运行内核(输出重定向到日志文件):

python3.x -m uvicorn runtime.launch:app --host 0.0.0.0 > uvicorn.log 2>&1 &

方式四:关闭终端后继续运行(官方推荐的稳定后台运行方式,在整条命令前加nohup):

nohup python3 -m uvicorn runtime.launch:app --host 0.0.0.0 --port 8000 > uvicorn.log 2>&1 &

内核启动后会自动执行组件初始化(runtime/launch.py):按依赖顺序依次初始化 LLM Core、Storage Manager、Memory Manager(mem0 Provider 时还会装配 ContextInjector 与 ConversationExtractor 两个个性化组件)、Tool Manager,随后启动调度器与 Agent Factory。可通过/status/core/status/core/llms/list等 HTTP 接口查询各组件健康状态,通过/agents/submit提交 Agent 执行任务(对应实现见 runtime/launch.py)。

与 AIOS 终端交互:LLM 语义文件系统

AIOS 终端是基于 LLM 的语义文件系统(Semantic File System,相关论文已发表于 ICLR 2025)。运行以下命令启动:

python scripts/run_terminal.py

启动后即可用自然语言命令与 AIOS 终端交互。其核心实现见 scripts/run_terminal.py:终端基于prompt_toolkitrich构建,启动时会询问是否将语义文件系统挂载到指定目录(默认挂载到当前目录下的root/),并提供三种工作模式——/chat(所有输入走对话)、/file(所有输入走文件操作)、/auto(通过 IntentRouter 自动识别意图并路由),同时支持list agents --offline/list agents --online查看本机与 Agent Hub 上的可用 Agent。

成功启动后,终端界面大致如下:

[!WARNING] AIOS 终端的 rollback(回滚)功能需要连接 Redis 服务器。如需使用回滚功能,请确保 Redis 服务已启动。

运行 computer-use Agent

若需要运行 computer-use Agent:先安装带 GUI 的虚拟化环境,再参照 Cerebrum(AIOS SDK)的说明运行。如前文所述,computer-use 场景依赖重构后的 Tool Manager(VM Controller + MCP Server),内核侧提供了 MCP Server 脚本路径查询接口/get/mcp/server(见 runtime/launch.py),仓库中对应的 MCP 服务实现位于 aios/tool/mcp_server.py。

支持的 LLM Core 一览

AIOS 通过 LiteLLM 及本地后端支持丰富的模型提供商。下表完整列出 README 中支持的 LLM Core(Provider、是否开源、后端标识与所需 API Key):

Provider 🏢Model Name 🤖Open Source 🔓Model String ⌨️Backend ⚙️Required API Key
Anthropic全部模型model-nameanthropicANTHROPIC_API_KEY
OpenAI全部模型model-nameopenaiOPENAI_API_KEY
Deepseek全部模型model-namedeepseekDEEPSEEK_API_KEY
Google全部模型model-namegeminiGEMINI_API_KEY
Groq全部模型model-namegroqGROQ_API_KEY
HuggingFace全部模型model-namehuggingfaceHF_HOME
ollama全部模型model-nameollama-
vLLM全部模型model-namevllm-
Novita全部模型model-namenovitaNOVITA_API_KEY

其中 Ollama 与 vLLM 无需 API Key(使用本地或自建服务),其余云端 Provider 需要对应的 API Key。根据 README 的发布记录,Deepseek-r1(1.5b、7b、8b、14b、32b、70b、671b)系列既支持开源权重部署,也支持 deepseek-chat 与 deepseek-reasoner API;开源 LLM 的 function calling(原生 huggingface、vLLM、ollama 后端)亦已支持。

支持的 Agent 框架

AIOS 支持多种 Agent 创建框架上架(onboard):

  • OpenAGI
  • AutoGen
  • Open-Interpreter
  • MetaGPT

README 还提到 ReAct、Reflexion 等框架创建的 Agent 均可接入 AIOS,Agent 上架(onboarding)的相关指引可在 AIOS 官方文档的 "how to develop agents" 部分找到。仓库测试目录 tests/modules/agent_load/agent_load_api_test.py 提供了 Agent 加载与调用的 API 测试示例。

实验性 Rust 重写:aios-rs

仓库中的aios-rs/是一个早期实验性的 Rust 脚手架,提供 trait 定义与最小化占位实现(覆盖 context、memory、storage、tool、scheduler、llm 六个方面)。它目前尚未达到与 Python 版本功能对齐,是面向增量移植与性能敏感组件的基础工程。

尝试运行:

cd aios-rs cargo build cargo test

最小示例(Echo LLM + Noop Scheduler,完整源码见 aios-rs/src 目录):

use aios_rs::prelude::*; fn main() -> anyhow::Result<()> { let llm = std::sync::Arc::new(EchoLLM); let memory = std::sync::Arc::new(std::sync::Mutex::new(InMemoryMemoryManager::new())); let storage = std::sync::Arc::new(FsStorageManager::new("/tmp/aios_store")); let tool = std::sync::Arc::new(NoopToolManager); let mut scheduler = NoopScheduler::new(llm, memory, storage, tool); scheduler.start()?; scheduler.stop()?; Ok(()) }

该示例展示了 Rust 版本对 AIOS 核心抽象(LLM、Memory、Storage、Tool、Scheduler)的初步建模方式,适合关注性能优化的开发者作为起点参与后续移植工作。

版本演进与里程碑

根据 README 的发布记录,AIOS 的关键演进节点包括:

  • 奠基论文《AIOS: LLM Agent Operating System》于 2025 年 7 月被 Conference on Language Modeling(COLM 2025)接收。
  • 2024 年 11 月发布 v0.2:将 AIOS Kernel 与 AIOS SDK(Cerebrum)解耦,引入面向 Agent 用户的远程内核。
  • 2025 年 3 月完成一次大规模重构并集成多项新特性,对应 v0.2.2 版本。
  • LLM 语义文件系统论文(ICLR 2025)特性已集成进 AIOS,成为 Terminal UI。
  • computer-use Agent 论文《LiteCUA: Computer as MCP Server for Computer-Use Agent on AIOS》与独立代码库 LiteCUA 同步发布。
  • 记忆方向论文 A-MEM(Agentic Memory for LLM Agents)及独立代码库 A-mem 发布。
  • Cerebrum(AIOS SDK)论文被 NAACL 2025 接收。

结语

从架构上看,AIOS 以"LLM 即 OS、Agent 即 App"为理念,通过 Kernel + SDK 双层结构、可插拔的 LLM/Memory/Storage/Tool 四大资源管理器、FIFO 与 Round Robin 调度器以及统一的系统调用链路,把多 Agent 应用的资源编排问题收敛到内核层。从实操上看,本指南覆盖了从环境准备、双组件安装、config.yaml逐项配置、内核启动到语义文件系统终端使用的完整闭环,同时给出了 aios-rs 这一实验性 Rust 方向的探索入口。建议读者在本地按 Mode 1(Local Kernel)先跑通最小链路,再根据资源情况逐步切换到远程内核或 computer-use 场景。

引用文献

@article{mei2025aios, title={AIOS: LLM Agent Operating System}, author={Mei, Kai and Zhu, Xi and Xu, Wujiang and Hua, Wenyue and Jin, Mingyu and Li, Zelong and Xu, Shuyuan and Ye, Ruosong and Ge, Yingqiang and Zhang, Yongfeng}, journal={In Proceedings of the 2nd Conference on Language Modeling (COLM 2025)}, year={2025} } @article{mei2025litecua, title={LiteCUA: Computer as MCP Server for Computer-Use Agent on AIOS}, author={Mei, Kai and Zhu, Xi and Gao, Hang and Lin, Shuhang and Zhang, Yongfeng}, journal={arXiv preprint arXiv:2505.18829}, year={2025} } @article{xu2025mem, title={A-Mem: Agentic Memory for LLM Agents}, author={Xu, Wujiang and Liang, Zujie and Mei, Kai and Gao, Hang and Tan, Juntao and Zhang, Yongfeng}, journal={arXiv:2502.12110}, year={2025} } @inproceedings{rama2025cerebrum, title={Cerebrum (AIOS SDK): A Platform for Agent Development, Deployment, Distribution, and Discovery}, author={Balaji Rama and Kai Mei and Yongfeng Zhang}, booktitle={2025 Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics}, year={2025} } @inproceedings{shi2025from, title={From Commands to Prompts: {LLM}-based Semantic File System for AIOS}, author={Zeru Shi and Kai Mei and Mingyu Jin and Yongye Su and Chaoji Zuo and Wenyue Hua and Wujiang Xu and Yujie Ren and Zirui Liu and Mengnan Du and Dong Deng and Yongfeng Zhang}, booktitle={The Thirteenth International Conference on Learning Representations}, year={2025} } @article{ge2023llm, title={LLM as OS, Agents as Apps: Envisioning AIOS, Agents and the AIOS-Agent Ecosystem}, author={Ge, Yingqiang and Ren, Yujie and Hua, Wenyue and Xu, Shuyuan and Tan, Juntao and Zhang, Yongfeng}, journal={arXiv:2312.03815}, year={2023} }

【免费下载链接】AIOSAIOS: AI Agent Operating System项目地址: https://gitcode.com/GitHub_Trending/ai/AIOS

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/19 5:06:50

用Python将机械设计考试题doc转化为可自测题库

简介&#xff1a;机械设计考试真题与答案解析汇总文档&#xff0c;主要面向机械类本科生、考研备考生及需要复习机械设计基础的从业者。内容覆盖齿轮接触与弯曲疲劳强度计算、螺纹连接防松、联轴器与离合器区别、链传动动载荷控制等高频考点&#xff0c;还涉及阿基米德蜗杆轴面…

作者头像 李华
网站建设 2026/9/20 5:14:11

FDAtool设计IIR滤波器:二阶节系数导出与C语言定点实现

简介&#xff1a;这份PDF文档围绕MATLAB FDAtool在IIR数字滤波器设计中的参数生成与C语言代码导出展开&#xff0c;面向数字信号处理学习者、嵌入式开发人员及需要将滤波器移植到C环境的工程师。内容从角频率与采样频率的关系、通带与阻带截止频率等基本概念切入&#xff0c;对…

作者头像 李华
网站建设 2026/9/20 5:04:07

深入解析ThreadLocal机制与内存泄漏防范

1. ThreadLocal 核心机制解析ThreadLocal 是 Java 并发编程中的重要工具类&#xff0c;它为每个线程提供了独立的变量副本&#xff0c;实现了线程间的数据隔离。但它的内部实现远比表面看起来复杂得多&#xff0c;涉及精巧的哈希策略、自动清理机制和性能优化设计。1.1 ThreadL…

作者头像 李华
网站建设 2026/9/20 6:09:57

SpringBoot宠物商城系统技术文档规范

简介&#xff1a;本资源是一份面向计算机专业本科生的毕业设计参考论文&#xff0c;聚焦Spring Boot技术栈在电商场景中的落地实践&#xff0c;专为宠物商城类毕设选题提供完整理论支撑与技术方案。文档以规范学术格式呈现&#xff0c;涵盖摘要、目录、绪论、关键技术分析&…

作者头像 李华