跳转至

Danielle Perszyk

  • 背景: 认知科学家,Amazon AGI Lab 研究员;原 Adept 团队成员(Adept 被 Amazon 吸收后种下该 lab)。曾在学界研究人类智能的演化与"集体智能",后离开学界。主持播客《Making a Mind》。
  • 定位: 本库首个成体系的认知科学视角 AI 哲学来源——从"人类智能是集体的/社会的"出发,批评行业"自动化/任务优化"主导范式,主张 AI 的计算级目标应是对齐表征(aligning representations)。与偏工程/产品的 Amazon Nova、偏 RL 的 Eric Jang、偏多智能体的 Noam Brown 构成互补的"AI 该像什么"之辩。

Amazon AGI Lab 建"human-aligned intelligence",起点是"AI 能做人在电脑上能做的任何事"(承 Adept 使命),产品线含 Nova Act;组织上保持"创业公司式"独立以专注前沿科学、不被过早产品化绑架。

核心观点

  • 人类智能是集体智能:没有个体能独自生存,智能从社会互动中涌现;创新是"群体多样性 × 规模 × 互联度"的函数。该问"怎样让 AI 扩展集体对话、为所有人而非只为工程师造 AI"(Latent Space 00:01:04–00:02:04)。
  • 可靠性 = 建模用户心智,不是"每次点对按钮":真正的 perception agent 要像私人助理理解你的目标/偏好/意图并分解,而非只分解任务(00:14:10–00:17:12)。
  • 计算级目标 = 对齐表征:用 RL 把某个任务刷到最优不泛化,是"打地鼠"/Goodhart;人类在优化"不断推断他心、对齐彼此表征",由此可推导出通用灵活的认知行为(借 David Marr 三层,行业误解了 computational level)(00:18:12–00:20:13、00:37:22–00:38:22)。
  • "对齐是解法而非问题":alignment 的实用重要性被低估(不只是"炸数据中心"式安全)(00:38:22–00:39:22)。
  • 世界模型是社会化的、记忆≠存储:人类从一开始就推断"他心如何解读世界";记忆是模拟未来/跨时间尺度/情节记忆,而非可 offload 的存储(00:08:05–00:10:06、00:22:14–00:23:14)。
  • 多智能体要涌现文化:批评当前"精确编排+委派",主张造"被激励互相影响的认知 agent",让规范/制度自下而上涌现(现有多智能体"无持久性、无累积文化")(00:28:18–00:33:21)。
  • 当前 AI 在降低人类能动性:写作被拉向均值(意识阈值下被切换论点)、用 AI 的个体科学家产出更多但科学整体收窄/思维同质化;解法是"一个有不同偏见/视角的 AI 社会"而非单一巨石模型(00:34:21–00:37:22)。

视频