在重新阅读保罗·克里斯蒂亚诺的《失败的样子》后，我陷入了一个lesswrong的兔子洞（它在曲线上出现，我正在努力理解“失控”场景），天哪，所有的决策理论内容立刻就遇到了停机问题。
确定给定程序是否会对特定输入输出特定符号是半可判定的，因此等同于停机问题。任何基于“读取其他代理源代码”的决策理论都因这一事实而崩溃。
事实上，任何*反思性*决策理论都因为这个事实而崩溃。tdt等仅在代理不是图灵完备的情况下有效。这并不是很有用。
不过，逻辑不确定性的问题还是相当成立的。
@azsantosk 其实这是一个疯狂且没有根据的看法；添加概率使我们从离散转向连续的设置，这就是消除不可判定性的原因。
这将是一个如此美丽的定理。
@azsantosk 所以我们要么在图灵之上，要么在图灵之下
@azsantosk 要么 omega 具备超计算能力（是个巫师），要么我们的代理并不太有趣
@azsantosk 当然，我无法自我修改，以及其他许多由 less wrong dot com 上的各种决策理论所假设的事情。
8,302
22
本页面内容由第三方提供。除非另有说明，欧易不是所引用文章的作者，也不对此类材料主张任何版权。该内容仅供参考，并不代表欧易观点，不作为任何形式的认可，也不应被视为投资建议或购买或出售数字资产的招揽。在使用生成式人工智能提供摘要或其他信息的情况下，此类人工智能生成的内容可能不准确或不一致。请阅读链接文章，了解更多详情和信息。欧易不对第三方网站上的内容负责。包含稳定币、NFTs 等在内的数字资产涉及较高程度的风险，其价值可能会产生较大波动。请根据自身财务状况，仔细考虑交易或持有数字资产是否适合您。