AI安全背后的哲学思想，有效利他主义如何影响硅谷？

本文来自微信公众号： 硅谷101 ，作者：硅谷101，原文标题：《AI安全背后的哲学思想，有效利他主义如何影响硅谷？（上篇）》 在近期提交的招股书中，Anthropic透露了将近100页的风险因素。除了常见的金融和市场风险之外，还包括了关于前沿AI所带来的灾难性、甚至威胁人类生存的风险这样的表述。Anthropic说，他们自己也无法保证自己的安全措施一定有效。 招股书还披露，上市后七位联合创始人将通过特殊股份掌握一般表决事项50.1%的投票权；与此同时，还有一个叫做“长期利益信托”的机构，有权选举董事会的多数成员。这套安排的目标，是让公司在追求商业利益时也考虑人类的长远利益。但有媒体注意到了一个细节：创始人可以提前指定，在自己失去履职能力后由谁接替自己的投票权。这些人选需要经过内部批准，但名单是保密的。也就是说，公众目前并不知道，未来谁有可能参与Anthropic的决策。 这份招股书，将AI安全对于Anthropic这家公司的重要性，再