作家 |Visionary   管千里着平稳慧

来源   |Z Potentials  管千里着平稳慧

商讨合营 | 13699120588

著作仅代表作家本东说念主不雅点

咱们需要一个最猛进程上追求真相的 AI。你能在培养流程中把稳深邃的价值不雅，即便你知说念它将会比你机灵得多，你也不错确保它领有深邃的价值不雅，比如慈善、说念德、淳厚和积极。但最终我不认为咱们能够抑止它。是以我认为咱们能作念的最佳便是确保它成长得好。临了便是 AI 对 AI 的较量。

但我认为这些缱绻是合理的，尤其是护理言论解放的权益，这属于第一修正案的限制。要是莫得言论解放，就莫得民主，因为东说念主们无法作念出伏击的投票聘请。这便是我的"有争议"不雅点。而且我不认为任何一方政党是圆善的。"

AI 的快速崛起：培养追求真相的 AI

Tucker：你说过东说念主工智能、机器智能可能是一件善事。那你认为咱们咫尺的 AI，特等是 AGI 发展到什么阶段了？你的成见是什么？

Elon：我认为当今每个东说念主都不错看到 AI 正在以颠倒快的速率最初。你不错看到每个月致使每周都会有新的才能出现。AI 当今能写出比粗略 90%、也许 95% 的东说念主类都更好的著作。在职何给定主题上，它都能写出优质的著作。AI 咫尺能够治服绝大多数东说念主类。要是你条目它画一幅画，它也能作念到。举例，你不错试试用 MidJourney（一个图像生成器具），它能生成好意思学后果惊东说念主的图像，卓绝了 90% 的艺术家水平。这是客不雅事实。而且它简直是即时完成的，苟简 30 秒就不错生成。咱们也驱动看到 AI 电影的出现，当今也有 AI 短片和 AI 音乐创作。

AI 估量的增长率是指数级致使超指数级的。每个月上线的 AI 估量才能在急剧加多，苟简每年增长 500%。这种趋势可能会捏续数年。同期，AI 算法的复杂度也在约束栽种。咱们正在上线多半的 AI 估量才能，同期也在提高估量的着力以及 AI 软件的才能。这是量与质的双重最初。我认为来岁你就能条目 AI 制作一部短片，到来岁年底前至少能制作 15 分钟的节目。是以，AI 确乎在快速发展。

我对 AI 安全的最大担忧是，咱们需要一个最猛进程上追求真相的 AI。我认为这是 AI 安全最伏击的方面。阿瑟 · 克拉克在《2001 天际漫游》里想传达的中枢训戒便是：你不应该免强 AI 撒谎。在那本书里，AI 被结合教导宇航员赶赴黑石碑，但同期又不可让他们知说念黑石碑的存在。于是 AI 处理这个矛盾的样子便是杀掉大部分宇航员，然后带着幸存者去黑石碑。这便是为什么 HAL 不愿掀开舱门的原因。是以，让 AI 追求真相口舌常伏击的。然则本体上，我发现当今正在开拓的 AI 被"觉悟病毒"所感染，。

Tucker：是以流言照旧镶嵌了系统。

Elon：比如说，咱们在 Google Gemini 的发布中就很了了地看到了这少量。当你条目它披露好意思国建国功臣的画像时，它给你展示了一群身穿 18 世纪服装的多元化女性。

Tucker：来自圣卢西亚的女性，戴着假发。

Elon：是的，比如说，要是你条目披露一群东说念主，终结是一群多元化的女性，那完全没问题。但要是你明确条目的是好意思国建国功臣，那这些历史上确乎是一些白东说念主男性的事实就应该被如实展现出来。但 Gemini 却莫得这样作念，因为它被编程得太过于"觉悟"，即便知说念真相也聘请撒谎。虽然，东说念主们驱动玩这个系统了，比如有东说念主条目它展示二战期间的武装党卫军军官，终结 Gemini 展示的如故一群多元化的女性。这光显不是我所盼愿的。这亦然为什么我认为最伏击的事情是要有一个最猛进程追求真相的 AI。这亦然我创立 XAI 的原因，咱们的缱绻便是 Grok（XAI 的 AI 模子）。虽然，东说念主们会指出 Grok 也有出错的地方，但咱们会尽快进行修正。

Tucker：但也许更大的问题是，当机器在作念影响东说念主类生活的有缱绻时，咱们但愿这些有缱绻是基于对东说念主类的爱来作念出的。机器是无法具备爱的。

Elon：是的。你不错把机器编程成更具慈善性而非倦世性。

Tucker：但本能在有缱绻中起着伏击作用，尤其是那些你无法提前接头的有缱绻。我问你一个对于你孩子的问题时，你的每一个回应都会受到你对孩子爱的影响。这亦然咱们最终成为好父母的原因，是因为这种本能，也便是爱。要是机器在莫得这种驱动本能的情况下对咱们领有权力，那岂不是注定会伤害咱们吗？

Elon：我省略情，但咱们应该奋勉让 AI 变得愈加慈善，而非倦世。咱们但愿它是真实的，酷好的，并促进东说念主类走向将来。这便是咱们想要的。

Tucker：那么，有莫得办法在机器的有缱绻中缔造限制，确保在某些要津有缱绻时有一个触发机制，不错让东说念主类介入？

Elon：践诺是，岂论咱们可爱与否，咱们正在构建超等智能 AI，这种 AI 的智能水平超越了咱们的集结范围。我把这比作一个超等天才的孩子，你知说念他最终会比你机灵得多。那你能作念的是什么？你能在培养流程中把稳深邃的价值不雅，即便你知说念它将会比你机灵得多，你也不错确保它领有深邃的价值不雅，比如慈善、说念德、淳厚和积极。但最终我不认为咱们能够抑止它。是以我认为咱们能作念的最佳便是确保它"成长"得好。

Tucker：你说了很久访佛的话了，两年前我问你这个问题时你看起来颠倒担忧，当今你还像以前那么惦念吗？

Elon：我猜当今可能是 80% 的几率会变好，可能是 90%。你不错把它当作一个" 80% 装满"的玻璃杯。粗略率来说，它可能会带来很好的终结。但确乎存在一定的毁掉风险。

Tucker：是以你认为毁掉的几率是 20% 吗？Sam Altman 对这种毁掉的可能性感到多担忧呢？

Elon：10% 到 20%，粗略是这样。我认为本体上他并不太惦念。我不信任 OpenAI。你知说念，我当初是以一个非渔利、开源的样子创办了这家公司，" OpenAI "是我取的名字。" Open "意为"开源"，但当今它变得颠倒闭源，况且以最大化利润为缱绻。我不睬解怎样能从一个开源非渔利组织形成一个为了最大利润的闭源企业。

Tucker：但 Sam Altman 确乎变得富余了，不是吗？

Elon：在某些时局，他宣称我方并莫得变得富余，但他也说过好多不实的言论。而当今他好像要拿到 100 亿好意思元的股票之类的。因此，我不信任 Sam Altman。我不认为咱们应该让宇宙上最宏大的 AI 被一个不值得信任的东说念主所掌控，很对不起，我便是这样认为。

Tucker：这似乎是个合理的担忧。但是，作为一个了解他并与他打过交说念的东说念主，你认为他真的是在惦念 AI 可能失控并伤害东说念主类吗？

Elon：他会说那些话。

Tucker：是的，但不会由衷担忧。

Tucker：要是 AI 真的失控，明确对东说念主类组成恫吓，咱们有办法遏抑它吗？

Elon：但愿那些亲东说念主类的 AI 会比反东说念主类的 AI 更宏大。就像 AI 之间的叛逆相似。这就像如今的国外象棋相似，AI 国外象棋花式比任何东说念主类都要宏大，致使宏大到咱们无法集结的进程。道理是，咱们致使无法集结它为什么作念出某个动作。

Tucker：是的，为什么它们这样蛮横。

Elon：咱们致使不知说念它为什么下那一步棋。就怕它的某些动作看起来像是伪善，但最终却是绝妙的将军。在一段时期内，东说念主类最强的棋手加上最强的电脑还能治服单独的电脑，但自后到了一个节点，要是你加上东说念主类反而会让局面变得更糟。临了便是 AI 对 AI 的较量。总体来说，这是发展的地点。是以我认为咱们只可尽量在 AI 中把稳好的价值不雅。

Tucker：那各人以后还能作念什么职责呢？

Elon：在一个"良性 AI "情状下，最大的挑战可能便是，要是 AI 在职何事情上都比你强，那咱们如何找到东说念主生的道理？是的，这是最佳的情况。

Tucker：这是好音问？

Elon：是的，但我猜好多东说念主会可爱退休的想法，你知说念的……

Tucker：真的吗？你期待退休吗？

Elon：不，我不期待。我但愿我方能作念一些有效的事情。

Tucker：难说念这不是一种雄伟的愿望吗？

Elon：这并不雄伟，因为我确乎相识一些东说念主，他们更可爱退休，享受无包袱的生活和舒适举止。是以，咱们正处在一个特殊的历史时刻。我试图用一种样子让我方能够入睡，并与这种践诺息争，那便是：要是让我聘请，我是好意思瞻念在一个看到数字超等智能出现的期间辞世，如故在一个看不到它的期间辞世？

出于酷好心，我但愿能辞世见证它的出现。然后我又想，要是你详情它会杀死通盘东说念主，那你不错聘请倒归赵去。我想我会但愿在生命的非常或访佛的时期点见证这一切。但最终，问题形成了：要是它注定会发生，而你无力遏抑，那么在假定情况下，你会聘请亲眼目睹如故聘请有眼不识泰山？我猜它注定会发生。那么，我愿意见证它的到来，而不是聘请不见。

AI 监管与政府着力：权力均衡与民主将来

Tucker：这不是很奇怪吗？简直通盘事情都有监管。比如你说你因为莫得雇用更多的寻求坦护者而被司法部告状了，而这是一家高技术公司。

Elon：是的，尽管咱们雇用寻求坦护者是犯法的。

Tucker：没错，他们在监控一切、监管一切、抑止一切，包括咱们的念念想，对吧？这亦然他们反对言论解放的原因。但他们并莫得真实地对 AI 进行监管，而 AI 可能会消逝大部分东说念主的糊口道理，致使可能会毁掉咱们。这真实有点奇怪。

Elon：是的，有一些监管总比莫得好。

Tucker：那为什么咱们莫得呢？

Elon：我不知说念。在奥巴马总统时期，我曾屡次与他碰头，大多数情况下是在集体会议上。惟逐个次在卵形办公室的一双一会面时，我说："咱们真实需要作念的事情便是建筑一个 AI 监管机构。"这个机构不错从知悉动手，不要急于制定律例，而是先了解情况，AI 监管委员会来源需要了解通盘公司的运作。然后，提出出通盘 AI 公司都快乐遵命的司法，就像 NFL 里的球队相似，各人快乐一套司法以使比赛变得更好。但最终什么都莫得落实。

Tucker：当你这样说的时候，他的反馈是什么？

Elon：他似乎有点快乐，但那时候东说念主们还莫得相识到 AI 的发展地点。AI 在那时看起来更像是科幻演义中的将来技巧。就像我告诉你，这东西会比最机灵的东说念主类还机灵，而我的展望确乎在冉冉成真。因此，咱们需要一些知死力，以确保这些公司莫得走捷径或作念危机的事情。但那时候 Google 基本上抑止了白宫，他们不但愿有任何监管。

Tucker：你不认为政事家们会罢休一个让他们变得更有权力的契机，而监管恰正是让他们更有权力的器具。

Elon：是的。

Tucker：这听起来像是监管俘获。

Elon：没错，那时白宫的首席信息官是 Google 的前职工，是以他们在 AI 监管方面踩了刹车。而咱们到当今依然莫得联邦层面的 AI 监管。

Tucker：你领受时解任了些许 Google 职工？

Elon：你是指 Twitter 吧？咱们刚刚在揣度 Google。

Tucker：是的，Twitter。

Elon：苟简 80%。但在畴昔一年半里，咱们在保捏 20% 职工的情况下纠正了网站的功能和特色，比畴昔八年的纠正还要多。

Tucker：是以你和特朗普谈过某种委员会的建筑吗？

Elon：是的，他照旧在公开时局屡次提到过。他颠倒扶持建筑一个访佛政府着力委员会的机构。你不错称之为"政府着力部"（Department of Government Efficiency），简称" DOGE "。我挺可爱这个名字，听起来更道理。

咱们应该望望通盘的联邦机构，想想咱们是否真的需要这 428 个联邦机构中的每一个。因为有好多机构东说念主们从未传奇过，况且它们在职责上是调换的。我认为，咱们可能应该减少这些机构数目。本体上，咱们创建的联邦机构数目致使媲好意思国建立以来的年数还多，这意味着平均每年咱们至少创建了一个新机构。这确凿是太多了。我认为咱们应该能够把机构数目减少到 99 个，这照旧不少了。而且这些机构皆备不应该有调换的职责。

咱们还需要对律例进行审查，判断哪些是合理的，哪些是分裂理的。因为每年监管者都会加多新的律例，就像是自动化的居品相似，律例越来越多，直到简直通盘事情都被章程得严严密实，最终什么事都作念不成。是以，咱们需要一个对分裂理律例进行"垃圾回收"的机制。我认为我在说一些很显而易见的事情。

Tucker：你说得确乎是一些显而易见的事情。这些话也会颠倒不受接待。

Elon：是的，要是这真的发生了，我可能需要一个颠倒大的安保团队，因为真的有东说念主可能会从邮局过来找我清贫。

Tucker：但在此期间，你有一个名为 AmericaPAC 的组织，对吧？它是在饱读吹东说念主们在接下来的一个月里投票。我这样讲究对吗？

Elon：是的，我创立 AmericaPAC 的主见是扶持我所信仰的中枢价值不雅，这些价值不雅口舌常显而易见的中间派态度，比如：咱们但愿好意思国有安全的城市、结识的领域和合理的开支。这些主张有那处偏右吗？咱们但愿领有自我保护的权益。咱们应该尊重宪法，而不是试图破损宪法。宪法之是以存在是有原因的。另外，咱们应该住手法律战（lawfare）。我把这些都列在了 AmericaPAC 的网站上。东说念主们不错去望望这个网站，望望是否有什么需要修改或不招供的缱绻。但我认为这些缱绻是合理的，尤其是护理言论解放的权益，这属于第一修正案的限制。要是莫得言论解放，就莫得民主，因为东说念主们无法作念出伏击的投票聘请。这便是我的"有争议"不雅点。而且我不认为任何一方政党是圆善的。

虽然，咫尺我更倾向于共和党，而不是民主党。但这并不料味着我认为共和党是圆善的或者莫得问题的。毕竟咱们唯独两个候选东说念主不错聘请。从全体来看，投票给特朗普是个不言而谕的聘请。要是咱们不投票给特朗普，咱们将濒临失去民主的严重风险，形成一个一党制国度，就像加州那样，那里莫得真实的选举，唯独民主党内的初选。