为什么人类不会陷入死循环？

本文来自微信公众号： 神经现实 ，作者：Anil Seth，编译：EY 我们准时降落在马德里巴拉哈斯机场，却迟迟无法下机。原来，这里的登机廊桥由一套新的人工智能系统操控。无需人类介入——直到非介入不可。我透过舷窗，看见AI操控的廊桥反复靠近飞机，在清晨的空气中轻轻晃动，徒劳地尝试对接，然后又退回去。如此往复，陷入了无限循环。最后，一名工作人员赶来解围，一眼就看出了问题，并立刻解决了它。 人类不会无休止地重复同一种行为，AI却有时会如此：它可能卡在停机坪上，也可能困在自动化呼叫中心的炼狱里。这些例子看似只是智能不足，但我认为，它们指向更深层的问题：一种根本性局限，可能让最聪明的AI也永远无法摆脱陷入无限循环的风险，既察觉不到问题，也无法脱身。 设想一座更聪明的登机廊桥：系统能够监测自身表现，发现自己何时在徒劳尝试、何时未能完成任务。凭借这个关于环境和自身行为的内部模型，它能完成当今自动廊桥做不到的事。但它最终也会出故障。于是，你再增加一个