超级智能不应有主人
一份关于民主权力、共享繁荣与人类主权的宣言。为何超级智能不应被少数机构主宰——否则将集中权力，而不是让权力民主化。 想象一个世界，在这个世界中，几乎每个人都可以获得比他们所能负担得起的最好的医生、导师、程序员、律师、科学家或战略家更强大的智慧。
想象一个世界，在这个世界中，几乎每个人都可以获得比他们所能负担得起的最好的医生、导师、程序员、律师、科学家或战略家更强大的智慧。 它可以帮助孩子用自己的语言学习。 它赋予了小型企业曾经为跨国公司保留的能力。 它加速了医学发现，跨境翻译知识，并允许普通人以非凡的速度创造、组织和解决问题。 现在想象一下，同样的情报由少数机构控制。 他们决定它可能说什么，它可能知道什么，它服务谁的利益，哪些国家可以访问它，它的成本是多少，它收集的数据会发生什么，它取代了哪些工人，以及它创造的财富如何分配。 情报可能很丰富。 权力不会。 这就是超级智能争论的中心矛盾。 我们一直在讨论高级人工智能，就好像它主要是一个工程问题一样。 它将变得多么强大？ 什么时候到？ 它会推理、欺骗、发明、操纵还是逃跑？ 它会治愈疾病、结束匮乏、取代工人还是威胁文明？ 这些问题很重要。 但它们背后隐藏着一个更为重要的政治问题： 谁将控制情报本身？ 有一个阵营承诺让每个人的眼镜、手机、家庭和口袋里都拥有个人超级智能。 另一项承诺将认知能力变得像电力一样廉价和普遍。 第三种观点认为，必须通过非凡的全国动员来赢得地缘政治和工业竞赛。…