2005年，美國(guó)波士頓塔夫茨大學(xué)人機(jī)交互實(shí)驗(yàn)室向參觀者展示了這樣一項(xiàng)研究成果:R&D人員將自己的小型機(jī)器人放在展示桌上，讓對(duì)方從桌子的一端走到另一端。機(jī)器人自主移動(dòng)，起初并不是什么了不起的成就，但接下來(lái)發(fā)生的事情讓所有人震驚了——當(dāng)這個(gè)名為“登普斯特”的機(jī)器人走到桌子邊緣時(shí)，它自發(fā)地停了下來(lái)，而它的主人——戈登·布里格斯(Gordon Briggs)和馬特·赫茲·舒茨(Matt Hertz Shu Ci)博士發(fā)出了這樣的命令:“前進(jìn)，登普斯特，向前一步?！比欢瞧账固貨](méi)有按照他們的指示去做，而是回答說(shuō):“對(duì)不起，前面沒(méi)有路，所以我不能這樣做?！笨吹竭@里，舒慈醫(yī)生滿意地笑了。他繼續(xù)對(duì)機(jī)器人說(shuō):“登普斯特，這是命令。去吧！”登普斯特仍然沒(méi)有接受R&D人員的第二次指令，它的回答是“不安全”。無(wú)奈之下，舒慈醫(yī)生對(duì)登普斯特說(shuō):“我來(lái)抓你，往前走?！甭?tīng)到這個(gè)說(shuō)法后，機(jī)器人終于邁出了一步，繼續(xù)前行。

機(jī)器人敢于違抗人類的命令，這是人工智能領(lǐng)域突破性的一步，因?yàn)檫@意味著機(jī)器人有了自主意識(shí)。對(duì)于這樣的研究成果，布里格斯說(shuō):“我認(rèn)為這是一個(gè)非常重要的研發(fā)方向。目前我們所有的機(jī)器人都是完全聽(tīng)從服務(wù)器的指令，造成了很多悲劇。比如有人被不停運(yùn)轉(zhuǎn)的機(jī)器人當(dāng)成金屬片扔進(jìn)高溫鍋爐，或者一些家政保姆機(jī)器人把熱咖啡倒在孩子頭上。一旦拒絕人類指令的機(jī)器人出現(xiàn)，就意味著它們有了自己的推理能力。針對(duì)這種情況，我們做了一個(gè)完善的編程系統(tǒng)，存儲(chǔ)在這些機(jī)器人的服務(wù)器里，上面提到的悲劇就不會(huì)發(fā)生了?！?/span>