超知能に主人はあってはならない

民主的な権力、共有される繁栄、そして人間の主権のためのマニフェスト。なぜ超知能は一企業や一国家の支配下に置かれるべきではなく、権力を集中させるのではなく民主化すべきなのかを論じます。

ほぼすべての人が、これまでに手に入れることができる最高の医師、家庭教師、プログラマー、弁護士、科学者、戦略家よりも有能な情報にアクセスできる世界を想像してみてください。子供が自分の言語で学ぶのに役立ちます。これにより、かつては多国籍企業専用だった機能が中小企業に提供されます。これにより、医学的発見が加速され、国境を越えて知識が翻訳され、一般の人々が驚異的なスピードで問題を作成、整理、解決できるようになります。次に、同じ情報が少数の機関によって管理されていると想像してください。彼らは、それが何を言うか、何を知るか、誰の利益に奉仕するか、どの国がそれにアクセスできるか、費用はいくらか、収集したデータはどうなるか、どの労働者を置き換えるか、そしてそれが生み出す富をどのように分配するかを決定します。知性は豊富かもしれません。力はそうではありません。これが、超知性に関する議論の中心にある矛盾です。私たちは、あたかも主にエンジニアリングの問題であるかのように、高度な AI について議論し続けています。どの程度の能力になるでしょうか? いつ届きますか? それは推理するのか、騙す…