许多科技行业的人士表示，我们在四年内可能会达到人工通用智能——能够在大多数任务中超越人类的AI。
如果他们是对的，我们刚刚选出了第一位AGI时代的总统： Donald Trump。
到目前为止，Trump 对于应对这一历史性转变的看法显得有些混乱不堪。在六月，他与YouTube明星 Logan Paul 进行了一次播客采访时，提到超智能时称其为“超级无敌AI”。他对深度伪造（deepfakes）表示了一些担忧，称其为“可怕的”、“令人不安的”、“令人不适的”。但他也对大型语言模型感到高兴，这些模型通过为演讲生成AI脚本让他印象深刻。他兴奋地表示：“不可思议”和“太快了”。他称赞道：“它出来的写作是最优美的。”Trump 从来没有特别致力于按书面稿发表演讲，甚至开玩笑说AI会变得足够优秀，以至于他可以解雇他的撰稿人。
Trump and Logan Paul on the Impaulsive podcast.
在 Silicon Valley 内部，关于AI的竞争阵营已经形成，并且用于描述它们的语言也非常成熟。一方面是“加速主义者”（“accelerationist”或“e/acc”）运动，他们反对监管。另一方面是那些支持更安全的AI增长的人，比如“AI对齐”领域的人，他们专注于构建符合人类价值观的AI。e/accs往往会称任何与他们意见不合的人为“decels”。而那些担心AI可能会彻底消灭人类的人则常常被称为“末日论者”（“doomers”）。
普遍的预期是，Trump 和他的团队将会是e/accs，拒绝新的科技监管，并取消一些现有的监管措施。
“我们实际上可能处在历史上最大的技术加速时期的门槛上，眼前没有什么能够阻止我们，前方是一条畅通无阻的道路，”运动的创始人之一 @bayeslord 在选举结果发布时在 X 上宣布。“这感觉像是上帝的时间线。”
Trump 曾表示，他希望撤销总统 Joe Biden 在2023年发布的关于AI的行政命令，该命令为减轻一些技术风险提供了框架。共和党人对其计划解决AI在招聘决定中可能加剧偏见或歧视的方式表示特别批评。在担心过度觉醒（excessive wokeness）的群体中，这一想法“让人感到不适，” George Mason University 的 Mercatus Center 研究员 Dean Ball 说道。政策分析师们还怀疑 Trump 会解散或重塑去年成立的美国AI安全研究所，该研究所由长期专注于AI对齐的研究员 Paul Christiano 领导。
就其自身而言，AI安全倡导者认为，Trump 政府可能比其加速主义对手更愿意接受他们的想法。“很多人有一种非常初步的看法，他们认为 Trump 会完全反对监管，并将把他们从这些自由派监管结构的火焰中救出，” Encode Justice 的创始人 Sneha Revanur 说道，“党派的界限并没有被清晰划分。”
共和党人并不免于对与AI相关风险的担忧。一个令人惊讶的时刻发生在九月份，当时 Trump 的女儿 Ivanka 在 X 上发布了一篇关于“情境意识”（“Situational Awareness”）的帖子，这是一份由前 OpenAI 研究员 Leopold Aschenbrenner 撰写的165页宣言，阐述了一个可怕的场景，即AGI引发了与中国的战争。这篇帖子引发了一连串震惊的回复，AI安全专家们感到困惑不已。Ivanka 是如何得知这个深奥的内容的？如果她确实“被安全理论感染”，她是否仍然对她的父亲有足够的影响力，以引导他朝同一方向发展？
在 Trump 的圈子里，其他人也对AI的不同方面表示了担忧。
- 参议员 Josh Hawley 表示，他对 OpenAI 和其他公司的安全松懈表示担忧，
- 而参议员 Ted Cruz 则提出了包含禁止AI生成图像和视频的复仇色情立法。
- 副总统当选人 JD Vance 在今年三月的 X 上发布了帖子，称AI的“最大风险之一”是左翼偏见。
在接下来的几个月里，共和党人将不得不弄清楚他们在一些AI固有矛盾上的立场。
他们是否担心进一步赋权于他们过去严厉批评的 Silicon Valley 行业？或者，他们更担心任何不以最大加速为目标的做法都将给中国带来优势？而且，如果他们确实相信超智能可能在 Trump 仍在任期内到来，末日论是否会渗透到他们的思维中？
The Center for Humane Technology 的首席政策官 Casey Mock 表示，共和党立法者更可能关注AI目前正在做什么，而不是它未来可能做什么。他表示，预计将听到更多关于“厨房桌面”问题的讨论，例如在学校传播的深度伪造裸照和学生使用AI作弊做作业。“他们有责任处理这些问题，而不是更抽象的风险或危害，”他说。
关键词
人工通用智能, Donald Trump, Logan Paul, 深度伪造, Silicon Valley, 加速主义者, AI对齐, 末日论者, Joe Biden, George Mason University, Mercatus Center, Paul Christiano, Sneha Revanur, Ivanka Trump, OpenAI, Leopold Aschenbrenner, Josh Hawley, Ted Cruz, JD Vance, The Center for Humane Technology, Casey Mock
预测
在未来四年内，人工通用智能可能会出现，并且可能会影响美国政府的科技政策和监管。
数据摘要
- Trump 表达了对 AI 的混合看法，称赞大型语言模型并担心深度伪造。
- Republican 党内对 AI 风险的担忧逐渐上升，特别是在 Ivanka Trump 发布与 AGI 相关的内容后。
- Republican 立法者可能更关注 AI 在现实中造成的问题，而非未来可能的威胁。