马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?立即注册
×
有些使用很慢,Agent 不醒目等着。比方长时间编译/构建:make, mvn compile, gradle build 或 大数据处理处罚:hadoop, spark-submit 等的一些工作
Java实当代码
- public class BackgroundTasksSystem {
- // --- 配置 ---
- private static final Path WORKDIR = Paths.get(System.getProperty("user.dir"));
- private static final Gson gson = new GsonBuilder().setPrettyPrinting().create();
-
- // --- 后台任务管理器 ---
- static class BackgroundManager {
- // 任务存储
- private final Map<String, TaskInfo> tasks = new ConcurrentHashMap<>();
- // 通知队列
- private final Queue<TaskNotification> notificationQueue = new ConcurrentLinkedQueue<>();
- // 任务 ID 生成器
- private final AtomicInteger taskIdCounter = new AtomicInteger(1);
- // 锁
- private final Object lock = new Object();
-
- static class TaskInfo {
- String taskId;
- String status; // running, completed, timeout, error
- String result;
- String command;
- long startTime;
- Thread thread; // 关联的执行线程
- }
-
- static class TaskNotification {
- String taskId;
- String status;
- String command;
- String result;
- }
-
- /**
- * 启动后台任务
- * 立即返回任务 ID,不等待命令完成
- */
- public String run(String command) {
- String taskId = "task_" + taskIdCounter.getAndIncrement();
-
- TaskInfo task = new TaskInfo(taskId, command);
- tasks.put(taskId, task);
-
- // 创建并启动后台线程
- Thread thread = new Thread(() -> executeTask(task), "BackgroundTask-" + taskId);
- thread.setDaemon(true);
- task.thread = thread;
- thread.start(); // 立即返回,不阻塞
-
- return String.format("Background task %s started: %s",
- taskId, command.substring(0, Math.min(command.length(), 80)));
- }
-
- /**
- * 线程目标:执行子进程,捕获输出,推送结果到队列
- */
- private void executeTask(TaskInfo task) {
- String output;
- String status;
-
- try {
- ProcessBuilder pb = new ProcessBuilder("bash", "-c", task.command);
- pb.directory(WORKDIR.toFile());
- pb.redirectErrorStream(true);
-
- Process process = pb.start();
- boolean finished = process.waitFor(300, TimeUnit.SECONDS); // 5分钟超时
-
- if (!finished) {
- process.destroy();
- output = "Error: Timeout (300s)";
- status = "timeout";
- } else {
- output = new String(process.getInputStream().readAllBytes()).trim();
- status = "completed";
- }
- } catch (Exception e) {
- output = "Error: " + e.getMessage();
- status = "error";
- }
-
- // 更新任务状态
- task.status = status;
- task.result = output.isEmpty() ? "(no output)" :
- output.substring(0, Math.min(output.length(), 50000));
-
- // 添加通知到队列
- synchronized (lock) {
- notificationQueue.offer(new TaskNotification(
- task.taskId,
- status,
- task.command.substring(0, Math.min(task.command.length(), 80)),
- task.result.substring(0, Math.min(task.result.length(), 500))
- ));
- }
- }
-
- /**
- * 检查任务状态
- * 如果指定 taskId,检查单个任务;否则列出所有任务
- */
- public String check(String taskId) {
- if (taskId != null && !taskId.isEmpty()) {
- TaskInfo task = tasks.get(taskId);
- if (task == null) {
- return "Error: Unknown task " + taskId;
- }
- return String.format("[%s] %s\n%s",
- task.status,
- task.command.substring(0, Math.min(task.command.length(), 60)),
- task.result != null ? task.result : "(running)");
- } else {
- StringBuilder sb = new StringBuilder();
- for (Map.Entry<String, TaskInfo> entry : tasks.entrySet()) {
- TaskInfo task = entry.getValue();
- sb.append(String.format("%s: [%s] %s\n",
- task.taskId,
- task.status,
- task.command.substring(0, Math.min(task.command.length(), 60))));
- }
- return sb.length() > 0 ? sb.toString().trim() : "No background tasks.";
- }
- }
-
- /**
- * 清空通知队列并返回所有待处理的通知
- */
- public List<TaskNotification> drainNotifications() {
- synchronized (lock) {
- List<TaskNotification> notifications = new ArrayList<>();
- while (!notificationQueue.isEmpty()) {
- notifications.add(notificationQueue.poll());
- }
- return notifications;
- }
- }
-
- /**
- * 获取所有任务
- */
- public Map<String, TaskInfo> getAllTasks() {
- return new HashMap<>(tasks);
- }
- }
-
- // 初始化后台管理器
- private static final BackgroundManager BG_MANAGER = new BackgroundManager();
-
- // --- 工具枚举 ---
- public enum ToolType {
- BASH("bash", "Run a shell command (blocking)."),
- READ_FILE("read_file", "Read file contents."),
- WRITE_FILE("write_file", "Write content to file."),
- EDIT_FILE("edit_file", "Replace exact text in file."),
- BACKGROUND_RUN("background_run", "Run command in background thread. Returns task_id immediately."), // 新增
- CHECK_BACKGROUND("check_background", "Check background task status. Omit task_id to list all."); // 新增
- public final String name;
- public final String description;
- ToolType(String name, String description) { this.name = name; this.description = description; }
- }
- // --- 工具处理器映射 ---
- private static final Map<String, ToolExecutor> TOOL_HANDLERS = new HashMap<>();
-
- static {
- // ... 省略基础工具注册
-
- // 后台任务工具
- TOOL_HANDLERS.put(ToolType.BACKGROUND_RUN.name, args -> {
- String command = (String) args.get("command");
- return BG_MANAGER.run(command);
- });
-
- TOOL_HANDLERS.put(ToolType.CHECK_BACKGROUND.name, args -> {
- String taskId = (String) args.get("task_id");
- return BG_MANAGER.check(taskId);
- });
- }
-
- // ... 省略相同的工具实现
-
- // --- Agent 主循环(集成后台任务通知)---
- public static void agentLoop(List<Map<String, Object>> messages) {
- while (true) {
- try {
- // 在 LLM 调用前检查后台通知
- List<BackgroundManager.TaskNotification> notifications = BG_MANAGER.drainNotifications();
-
- if (!notifications.isEmpty() && !messages.isEmpty()) {
- StringBuilder notifText = new StringBuilder();
- notifText.append("<background-results>\n");
-
- for (BackgroundManager.TaskNotification notif : notifications) {
- notifText.append(String.format("[bg:%s] %s: %s\n",
- notif.taskId, notif.status, notif.result));
- }
-
- notifText.append("</background-results>");
-
- messages.add(Map.of(
- "role", "user",
- "content", notifText.toString()
- ));
-
- messages.add(Map.of(
- "role", "assistant",
- "content", "Noted background results."
- ));
- // 异步结果注入:将后台任务结果插入到对话中
- // 结构化格式:用XML标签包裹,便于LLM解析
- }
-
- // 显示当前活动任务
- Map<String, BackgroundManager.TaskInfo> activeTasks = BG_MANAGER.getAllTasks();
- int runningTasks = (int) activeTasks.values().stream()
- .filter(t -> "running".equals(t.status))
- .count();
-
- if (runningTasks > 0) {
- System.out.printf("[Active background tasks: %d]\n", runningTasks);
- }
-
- // ... 省略相同的 LLM 调用和工具执行逻辑
-
- } catch (Exception e) {
- System.err.println("Error in agent loop: " + e.getMessage());
- e.printStackTrace();
- return;
- }
- }
- }
- }
复制代码 这段代码引入了背景任务体系,办理了 Agent 在实验长时间任务时的壅闭题目
关键洞察:Agent 可以在下令实验时继承工作,而不是被壅闭。
异步任务处理处罚架构
核心头脑:从同步壅闭的任务实验升级为异步非壅闭的并发处理处罚,让Agent可以大概同时处理处罚多个耗时任务,实现"并行盘算"本事,大幅提升服从和相应性。- // 后台任务管理器 - 异步执行引擎
- static class BackgroundManager {
- // 任务存储
- private final Map<String, TaskInfo> tasks = new ConcurrentHashMap<>();
- // 通知队列
- private final Queue<TaskNotification> notificationQueue = new ConcurrentLinkedQueue<>();
- // 任务 ID 生成器
- private final AtomicInteger taskIdCounter = new AtomicInteger(1);
- // 并发安全:使用线程安全集合
- // 异步通信:通过队列传递任务结果
- // 唯一标识:自动生成任务ID
- }
复制代码
- 解耦实验:任务提交和实验分离,立即返回控制权
- 并发管理:多个背景任务可以同时运行
- 结果异步网络:通过队列机制网络完成的任务结果
- 线程安全:使用并发聚集确保多线程安全
任务信息结构计划
- // 任务信息实体
- static class TaskInfo {
- String taskId; // 唯一标识
- String status; // 状态:running, completed, timeout, error
- String result; // 执行结果
- String command; // 执行的命令
- long startTime; // 开始时间
- Thread thread; // 关联的执行线程
- // 完整状态跟踪:从启动到完成的全生命周期
- // 线程关联:可以控制或监控
执行线程 - // 时间戳:支持超时和性能分析
- }
- // 任务通知实体
- static class TaskNotification {
- String taskId;
- String status;
- String command;
- String result;
- // 轻量传输:只包含必要信息
- // 结构化:易于解析和处理
- // 结果截断:避免过大的通知消息
- }
复制代码
- 状态驱动:明确的任务状态生命周期
- 结果长期:任务结果可以多次查询
- 线程管理:可以跟踪和控制实验线程
- 变乱驱动:通过关照机制通报完成变乱
异步任务启动机制
- /**
- * 启动后台任务
- * 立即返回任务 ID,不等待命令完成
- */
- public String run(String command) {
- String taskId = "task_" + taskIdCounter.getAndIncrement();
-
- TaskInfo task = new TaskInfo(taskId, command);
- tasks.put(taskId, task);
-
- // 创建并启动后台线程
- Thread thread = new Thread(() -> executeTask(task), "BackgroundTask-" + taskId);
- thread.setDaemon(true); // 守护线程,不会阻止JVM退出
- task.thread = thread;
- thread.start(); // 立即返回,不阻塞调用者
-
- return String.format("Background task %s started: %s",
- taskId, command.substring(0, Math.min(command.length(), 80)));
- // 异步启动:立即返回任务ID,不等待命令完成
- // 守护线程:不会阻止程序正常退出
- // 线程命名:便于调试和监控
 - }
复制代码
- 立即返回:不壅闭主线程,立即返回控制权
- 保卫线程:背景任务不会克制JVM退出
- 资源管理:线程自动整理,克制内存走漏
- 友爱反馈:返回任务ID和简化的下令形貌
任务实验与结果网络
- /**
- * 线程目标:执行子进程,捕获输出,推送结果到队列
- */
- private void executeTask(TaskInfo task) {
- String output;
- String status;
-
- try {
- ProcessBuilder pb = new ProcessBuilder("bash", "-c", task.command);
- pb.directory(WORKDIR.toFile());
- pb.redirectErrorStream(true);
-
- Process process = pb.start();
- boolean finished = process.waitFor(300, TimeUnit.SECONDS); // 5分钟超时
-
- if (!finished) {
- process.destroy();
- output = "Error: Timeout (300s)";
- status = "timeout";
- } else {
- output = new String(process.getInputStream().readAllBytes()).trim();
- status = "completed";
- }
- } catch (Exception e) {
- output = "Error: " + e.getMessage();
- status = "error";
- }
-
- // 更新任务状态
- task.status = status;
- task.result = output.isEmpty() ? "(no output)" :
- output.substring(0, Math.min(output.length(), 50000));
-
- // 添加通知到队列
- synchronized (lock) {
- notificationQueue.offer(new TaskNotification(
- task.taskId,
- status,
- task.command.substring(0, Math.min(task.command.length(), 80)),
- task.result.substring(0, Math.min(task.result.length(), 500))
- ));
- }
- }
复制代码
- 超时掩护:防止长时间运行的任务壅闭
- 非常安全:全面捕捉实验非常
- 内存管理:截断大结果,克制内存溢出
- 变乱驱动:完成后立即关照主线程
智能关照注入机制
- // 在 LLM 调用前检查后台通知
- List<BackgroundManager.TaskNotification> notifications = BG_MANAGER.drainNotifications();
- if (!notifications.isEmpty() && !messages.isEmpty()) {
- StringBuilder notifText = new StringBuilder();
- notifText.append("<background-results>\n");
-
- for (BackgroundManager.TaskNotification notif : notifications) {
- notifText.append(String.format("[bg:%s] %s: %s\n",
- notif.taskId, notif.status, notif.result));
- }
-
- notifText.append("</background-results>");
-
- messages.add(Map.of(
- "role", "user",
- "content", notifText.toString()
- ));
-
- messages.add(Map.of(
- "role", "assistant",
- "content", "Noted background results."
- ));
- // 自动注入:自动将后台结果插入到对话中
- // 结构化格式:XML标签明确标识内容类型
- // 对话完整:添加assistant确认,保持对话结构
- // 时机智能:在LLM调用前插入,确保LLM能看到最新结果
- }
复制代码
- 自动同步:背景结果自动同步到主对话
- 结构化格式:便于LLM辨认息争析
- 对话集成:无缝集成到现有对话流
- 机会优化:在决定前注入,确保信息实时性
工具集成架构
- // 后台任务工具集
- public enum ToolType {
- BACKGROUND_RUN("background_run", "Run command in background thread. Returns task_id immediately."),
- CHECK_BACKGROUND("check_background", "Check background task status. Omit task_id to list all.");
- // 异步执行:立即返回,不阻塞
- // 状态查询:支持单个和批量查询
- // 语义清晰:工具名明确表示异步特性
- }
- // 工具处理器映射
- TOOL_HANDLERS.put(ToolType.BACKGROUND_RUN.name, args -> {
- String command = (String) args.get("command");
- return BG_MANAGER.run(command);
- // 委托执行:将命令转交给后台管理器
- // 立即返回:不等待任务完成
- });
- TOOL_HANDLERS.put(ToolType.CHECK_BACKGROUND.name, args -> {
- String taskId = (String) args.get("task_id");
- return BG_MANAGER.check(taskId);
- // 灵活查询:支持单任务详查和列表概览
- });
复制代码
- 接口同一:与同步工具类似的调用方式
- 异步语义:工具名明确区分同步/异步
- 机动查询:支持多种查询方式
- 无缝集成:与现有工具体系完全兼容
架构演进与代价
从 ContextCompactSystem 到 BackgroundTasksSystem 的升级:
维度ContextCompactSystemBackgroundTasksSystem实验模式同步串行异步并行吞吐量一次一个任务并发多个任务相应性壅闭期待立即相应资源使用单线程多线程并发任务范例短任务为主是非任务混淆
免责声明:如果侵犯了您的权益,请联系站长及时删除侵权内容,谢谢合作!qidao123.com:ToB企服之家,中国第一个企服评测及软件市场,开放入驻,技术点评得现金. |