综述：基于自主性LLM的机器人系统在现实应用中的代理性与伦理问题研究

这篇综述全面探讨了基于大语言模型（LLM）的自主机器人系统在导航、操作、多智能体协作等领域的应用，首次提出"代理性（Agenticness）"分类框架，评估其自主性、目标导向行为及伦理合规性（如公平性、透明性），为开发安全可靠的AI代理系统提供了诊断性分析。

自主性LLM机器人系统的崛起与挑战

近年来，大语言模型（LLM）的突破性进展为机器人系统注入了类人的推理能力。这些"代理性AI"系统能够感知环境、自主决策并执行目标导向行为，从家庭服务到工业自动化展现出巨大潜力。

代理性分类框架

研究首次提出四维评估体系：

1. 1.

   自主性：如PaLM-E模型通过5620亿参数实现多模态输入处理

2. 2.

   目标导向：SayCan系统结合LLM规划与affordance函数过滤不可行动作

3. 3.

   适应性：VoxPoser利用视觉语言模型生成3D体素热图实现零样本操作

4. 4.

   决策能力：LLM³通过闭环反馈优化任务与运动规划(TAMP)

多领域应用突破

• •

  导航领域：LM-Nav将CLIP视觉模块与GPT-3结合，实现800米级户外导航

• •

  操作任务：RobotGPT通过ChatGPT生成训练数据，成功率从38.5%提升至91.5%

• •

  多智能体协作：MALMM框架部署规划器、编码器、监督器三重LLM校验机制

伦理安全框架

研究建立四大评估指标：

1. 1.

   公平性：检测视觉语言模型对特定人群的识别偏差

2. 2.

   安全护栏：如LLM³的实时重规划机制

3. 3.

   可解释性：ProgPrompt采用伪代码格式输出决策过程

4. 4.

   可审计性：RoCo系统记录多机器人协作的全流程日志

现存挑战与展望

当前系统在"自主性-透明度"矩阵中呈现明显trade-off：

• •

  导航系统缺乏社会情境理解

• •

  操作任务中affordance模型需预训练限制

• •

  通用多任务机器人(如Gato)的伦理设计尚未体系化

未来需开发兼具LLM³级自主性和ProgPrompt式透明度的新型架构，同时建立跨学科评估标准，推动符合EU AI Act的高风险系统落地。这项研究既是对现状的全面诊断，更是对负责任AI发展的行动倡议。