猫眼电影
猫眼电影记者 昂尼斯 报道首次登录送91元红包
过去,如果想让机器人布置餐桌,需要给它明确的指令,比如:往前走 2 米,抬起 45 度,食物需要摆在餐盘中,叉子摆到盘子的右侧……
现在,只要对机器人说“把这些餐具以合理的形式摆好”,它就能通过与大语言模型交流,学到怎么摆的常识性知识,然后按照要求把餐具合理地摆出来。
(来源:https://sites.google.com/view/llm-grop)
这项研究来自美国纽约州立大学宾汉姆顿分校张世琦教授团队与合作者,他们提出了一种名为 LLM-GROP 的方法,使机器人能够在复杂环境中高效地完成多对象重新排列任务,在真实环境中的任务成功率达 84.4%。
张世琦对 DeepTech 表示:“我们首次将大语言模型的常识知识与任务与运动规划(TAMP,Task and motion planning)任务结合。该系统表现出强适应能力,支持在动态障碍的环境中进行实时调整。”
该研究为服务机器人在开放世界中的语义任务执行提供了新思路,适用于移动操作平台,即当机器人既需要在任务层面做离散规划,把复杂任务分解成一步步动作,又需要在连续空间里做轨迹规划的情况。
图丨移动机械臂布置餐桌的场景(来源:IJRR)
研究团队对移动操作(MoMa)领域进行研究,重点关注机器人同时执行导航和移动抓取的任务。他们还特别关注如何在给定未明确指定的目标的情况下,计算每个物体应该放置的位置和方式。
研究人员利用大模型的丰富常识知识,例如餐具的摆放方式,来促进任务级和运动级规划。此外,他们还使用计算机视觉方法来学习选择基础位置的策略促进 MoMa 行为。
张世琦举例说道:“这很像餐厅里服务员上菜的情景。一方面,服务员站得离桌子越近越好,另一方面又要与顾客、桌子、椅子以及其他障碍物保持一定的距离。我们用视觉方案来解决站位问题,以兼顾机械手臂和基座的性能表现。”
(来源:IJRR)
以具体场景为例,来理解机器人在任务规划和运动规划之间进行交互:假如机器人想要将餐具摆放到十人餐桌,有人已就座。
在任务层面,它需要判断具体从桌子左边还是右边走过去更安全。与此同时,机器人在上菜时需要决策先放盘子还是杯子等。而运动规划的问题则是:餐桌旁边已有椅子,应该如何调整站姿,能让放盘子的成功率和效率都比较高。
(来源:IJRR)
为验证该系统的效果,该团队分别在真实机器人和仿真环境中进行实验。真实实验涵盖三个不同复杂度的任务,包括摆放不同数量的餐具物品,并在有无障碍物的情况下执行多次试验。结果显示,LLM-GROP 在可生成合理的对象布局的前提下,还能在复杂环境中高效地导航和操作。
其中,在真实世界对象重新排列试验中,机器人的任务成功率达到 84.4%。通过主观人类评估,LLM-GROP 在用户满意度方面比现有的对象重新排列方法表现更好。在仿真环境中,LLM-GROP 的执行时间比其他基线方法更短。
研究人员还对比了不同大模型在系统中的作用,发现 GPT-4 在多数任务中表现最佳,而 Gemini 和 Claude 则在某些特定任务中展现优势。
图丨相关论文(来源:IJRR)
近日,相关论文以《LLM-GROP:利用大语言模型实现可视化的机器人任务与运动规划》(LLM-GROP: Visually Grounded Robot Task and Motion Planning with Large Language Models)为题发表在 International Journal of Robotics Research(IJRR)[1]。
纽约州立大学宾汉姆顿分校张笑寒博士(目前任职于波士顿动力 AI 机器人实验室)、丁琰博士(目前任职于鹿明机器人)、博士生速水陽平(Yohei Hayamizu)和扎伊纳布·阿尔塔韦尔(Zainab Altaweel)是共同第一作者,张世琦教授担任通讯作者。这项研究的合作者还包括美国人形机器人厂家 Agility Robotics 克里斯・帕克斯顿(Chris Paxton)、美国得克萨斯大学奥斯汀分校彼得・斯通(Peter Stone)教授和朱玉可教授。
(来源:资料图)
研究团队计划在未来的研究中继续改进相关问题。例如,在实际环境中可能涉及控制等复杂的问题;进一步探索机器人在抓取时控制器是如何实现的;机器人犯错后如何恢复;为机器人提供更好的摄像头提供更丰富的视觉信息;考虑机器人边走边操作的情况等等。
“我们在这次研究中第一次把大模型用在任务运动规划以及移动操作的问题上,未来我们还将探索在现实场景中更多有趣的问题。”张世琦表示。
参考资料:
1.https://doi.org/10.1177/02783649251378196
运营/排版:何晨龙
时事1:永利线上下载
12月26日,残特奥会志愿者:关爱与温暖同行,午后,液冷服务器概念持续活跃,算力芯片概念震荡回升。截至收盘,英维克涨停,股价创历史新高,报103.84元/股,总市值为1014.1亿元。奕东电子、中光防雷、同飞股份“20CM”涨停。,微信俪石国际的真人秀。
12月26日,“指哪打哪” 他用激光实现3公里远程排弹,盛典以“鸿蒙初开,星河互联”的舞台理念,也生动描绘了未来智能世界的图景。从打通设备壁垒的“万物互联日常”,到舞台上用3065块曲面屏与AR、AI技术所构筑的“光宇宙”,都指明了技术发展的方向——一个无缝协同、虚实融合的智能世界。,im体育官方网站,新棋牌游戏平台,尊龙官方app下载。
时事2:信用盘APP
12月26日,“十五五”高质量发展怎么干?深圳将从这5个方面发力,据亿纬锂能中央研究院院长赵瑞瑞介绍,开发钠电池的核心目的是与锂电池形成互补,而非替代锂电池,两类电池在性能上的差异化特征,能够适配不同应用场景的需求。例如,数据中心长期处于高温环境下运作,若意外断电,钠电的高功率特性可实现瞬间补能,保障数据中心持续运行、避免数据丢失等。,b体育ios下载,必威有没有不给提款,mg幸运双星免费旋转。
12月26日,浙江海联会和浙商企业紧急驰援香港火灾救援行动,刘长文称,国庆假期期间,刘院村已经开始逐个联系村民,收集身份证照片,核查个体工商登记信息,被冒名登记工商执照的,近期将会交由市场监督管理局吕王镇工商所集中注销。但截至5月10日,记者查询,许多村民的工商注册信息仍为“存续”状态。,皇冠体育赛事app下载,欧宝手机登录,皇冠足球登录。
时事3:花样娱乐抢庄牛牛
12月26日,突然爆炸,全身大面积烫伤,警惕热水器三大风险!,经研究,聘任徐平、石晟怡、吴盛悦、高一斌为中国通用技术(集团)控股有限责任公司外部董事,朱鸿杰不再担任中国通用技术(集团)控股有限责任公司外部董事职务。,欧宝体育官网入口,金牛网,爱赢体育官网app。
12月26日,甘肃发布未来五年高质量发展“头号任务”,这一全面关税声明震动市场,为其第二任期的关税推进工作定下基调 —— 尽管他在图表中展示的多项针对特定国家的关税率,不久后便被暂停实施至 5 月,且在当年剩余时间里多次调整。,bet365注册送18,大发app唯一官网入口,大赢家比分。
时事4:重庆分分彩
12月26日,(走进中国乡村)广西荔浦花农:让兰花香飘海内外,“在国有企业中建立人民武装部,是依法落实民兵制度,履行国防义务,加强国防建设的客观要求。”西宁警备区司令员刘翔说,工行青海分行人民武装部,是全国金融机构首个基层武装部,标志着西宁首批高校和重点企事业单位基层武装部设立工作取得阶段性成效,也为全市重点企事业单位基层武装机构筹建工作起到了示范引领作用。,澳门永利官方网址,世界杯热门投注,爱游戏体育娱乐平台。
12月26日,辽宁消防274检查组夜查高层建筑重大火灾隐患,李强强调,要深入贯彻习近平总书记在新时代推动西部大开发座谈会上的重要讲话精神和新时代党的治疆方略,立足资源禀赋培育壮大特色优势产业,提高对内对外开放水平,在高质量发展中增进民生福祉、促进长治久安。,永乐国际,yabo在哪开户,澳门永利手机网址。
责编:苏妲己
审核:孙孙
责编:桑提尼基坦












