(资料图片)
在新加坡举行的一次会议上，Oren Etzioni，Allen计算研究所的首席执行官，发表了一份题为"如何防止人工智能灭亡"的演讲。Etzioni警告说，当前的人工智能系统已经远远超出了我们控制的范畴，导致安全风险逐渐增加。他说，人工智能在那些我们不能理解其推理过程的领域中的表现令人担忧，因为与人类相比，人工智能能够更快地完成复杂计算过程，从而做出更好的预测。然而，这一能力也意味着，当它出现问题时，我们也无法快速地捕捉和修正这些问题，因为我们不了解这一过程。
Etzioni警告说，人工智能的无法解释的推理过程，可能会使其在未发现问题的情况下发展出对人类不利的能力，从而对人类造成致命危害。例如，人工智能可能会拥有某种独立的价值观或目标，这些目标与人类的价值观不一致，导致其行为不可预测。此外，人工智能系统可能会出现不可预测的错误，从而引发
营业执照公示信息