MADRA:面向風(fēng)險(xiǎn)感知具身規(guī)劃的多智能體辯論框架
摘要:本文提出無訓(xùn)練的 MADRA 多智能體辯論風(fēng)險(xiǎn)評估框架,通過集體推理提升具身智能體安全感知;設(shè)計(jì)分層認(rèn)知協(xié)作規(guī)劃架構(gòu),構(gòu)建 SafeAware-VH 家庭安全基準(zhǔn)數(shù)據(jù)集;AI2-THOR 與 VirtualHome 實(shí)驗(yàn)驗(yàn)證,其不安全任務(wù)拒絕率超 90%,大幅降低誤拒率。
一、引言
