#144. 大模型时代的AI该如何以人为本

在 四年 前 的 一期 节目 中 我们 的 嘉宾 谭晨浩 教授 和 我们 聊 了 聊 如何 让 AI 做到 以 人为 中心 在 现在 这个 大 模型 时代 有 很多 关于 AI 取代 人类 的 恐慌 我们 又 请 回 了 谭 教授 来 和 我们 聊一聊 在 大 模型 时代 人工智能 还 如何 做到 以 人为 中心

一個 AI 的 出來 的 一個 3D 的 結果 完全 沒 有人 的 判斷 沒 有人 的 驗證 如果 你 把 它 真正 交給 AI 就 讓 AI 把 這個 就 運行 了 是 還是 會 最後影響 到 人 的 生活 藥也 是 一個 很 簡單 的 例子 我 就 AI 給我 一個 藥告訴 你 你 吃 了 這個 就 能長 生不老 你 就 吃 吧

這裡 是 牛油果 烤 麵 包

大家

好 我 是 蘇夏特 我 是 Wendy 這次 我們 有幸 請 到 了 我們 的 返場 嘉賓 芝加哥大 學 的 譚晨 皓 教授 來 我們 的 節目給 我們

更新 一下 這個 領域 的 知識 歡迎

歡迎 譚老師 多麼 客氣 對 上次 我們 和 譚 教授 聊 的 是 叫 以 人 為 本 的 人工智能 這個 當時 雖然 時間 不長 但是 感覺 已經 恍如隔世 了 因為 這是 當時 還是 前大數 據 時代 的 領域 当时 谭 教授 给 我们 介绍 了 一个 领域 叫做 fact 是 吧 就是 讲 这些 人工智能 的 公平性 啊 什么 人文 关怀 这件 事情 这个 领域 最近 怎么样 了 我

觉得 我 自己 的 这个 研究 并 没有 很大 变化 我 觉得 我 还是 在 做 如果 我 翻译成 中文 还是 以人为本 的 人工智能 因為 人工智能 本身 能力 變強 了 很多 就 幾 年前 可能 你 在 做 的 是 比 較 典型 的 比如 說 你 有 一個 系統 判斷 誰 的 貸款 能 不能 批 或者 是 一個 人 在 監獄 裡能 不能 夠被 放出 來 被 保釋 這種 決定 但現 在 的 人工智能 的 能力 遠強 於 這個 了 所以 就 會 使得 大家 研究 的 問題 也 會 有 很大 的 變化然 後 我 覺得 Fact 本身 這個 通勤 地 還是 在 發展 的 很 好 吧 就是 還是 每年 我覺 得 他們 的 小米 圈 可能 也 還在 變多 Conference 也 還是 有 挺 多 人 去 的 只是 我個 人 可能 這一 兩年 並沒有 很 深度 的 參 與 到 直接 參與 到 這個 過程 當中 嗯 这个

还 挺 有意思 比如说 像 刚才 他 那 时候 举 的 例子 就是 决定 一个 人 可不可以 保释 是 吧 可不可以 给 一个 人 贷款 是 吧 过去 可能 是 一个 专用 的 模型 是 吧 用 一个 专用 的 模型 专门 训练 了 一个 模型 专门 为 做 这件 事情 的 可能 在 未来 的 趋势 可能 就是 越来越 多 的 用 用 大 预言 模型 在 做 你 给 大 预言 模型 一些 背景 让 大 预言 模型 帮 你 做 决定 了 那 这件 事情 对于 这 公平性 上面 有 什么 有 什么 变化 吗

我 觉得 这种 特别 具体 的 一些 决定 我 感觉 目前 还 没有 到 就是 大 模型 完全 来 做 而且 如果 尤其 是 这种 数据 比较 比如说 保释 啊 或者 是 贷款 这种 我 觉得 他们 的 这个 变化 还是 就是 他 他 其实 是 一个 比较 动态 的 这个 决策 的 过程 比如 那个 随着 大家 申请 质量 变化 就是 应该 批 什么 贷款 本身 是 会 是 会 变 的 反正 至少 我 短期 之内 不 觉得 这个 会 被 大 模型 取代 但是 从 研究 上 来说 只是 比如说 今年夏天 有 一个 前段 時間 有個 AIandsocialscience 的 會議 AI 社會 科學 比如 在 那個 contact 下 我 覺得 很多 人 還是 在 study 這些 decisionmaking

的 就是 他們 研究 對象 還是 那種 傳統 的 機器 學習 就是 他們 還沒有

對 因為 事實 上 可能 傳統 的 機器 也 還是 會 比大 模型 在 一些 具體 的 很 具體 的 taskperformance 更好 而且 就是 在 一些 比較 特定 的 場景下 可能 有 很多 隱私 的 問題 啊 就是 你 也 不能不 應該 直接 用 這些 大 模型 我覺 得 就是 這 部分 問題 本身 並沒有 徹底 被 解決 而且 還是 有 很多 有趣 的 東西 做 的 我 覺得 可能 我個 人 在 學術 圈 可能 個 人 尤其 是 學生 就是 各種 因素 可能 會 有別 的 一些 興趣 的 變化 所以 我個 人 可能 沒有 focus 在 這個 場景下 而且 就是 其實 在 這個 場景下 我 覺得 比 較 CASIC 的 一個 至少 我定 義這個 問題 的 比 較 有趣 的 點是 說 你 有 一個 AI 比如 說 能 做到 90% 然後人 本身 可以 做到 80% 然 後 你 怎麼 可以 讓 人 和 AI 一起 來 做 這個 task 可以 做到 比 這兩個體 做 得 都 更好 我覺 得 在 我 做 了 這個 問題 很長 時間 就是 用 比 較 狹隘 的 定義這種 問題 的 時候 我 覺得 比 較 難 有 大 的 突破 就是 這中間 可能 人能夠 提供 的 一些 幫助 比 較 有限 然 後 这 也 是 就是 我 自己 可能 同时 大 模型 确实 真的 是 做到 了 很多 我 想要 不到 的 事情

嗯 不 知道 感觉 Wendy 和 我们 可能 生活 在 一个 一个 泡泡 泡泡 的 一个 圈层 里 我们 都 觉得 这些 传统 做 机器 学习者 里面 都 会 一个 一个 被 大圆 模型 攻破 比如 像 对 像 像 我们 过去 做 互联网 公司 觉得 过去 难 的 不行 的 什么 推荐 啊 搜索 呀 这种 都 会 慢慢 就 会 觉得 大 模型 就 慢慢 慢慢 都 把 那些 东西 都 取代 了 那 他

说 的 很 有 道理 嘛 毕竟 有 很多 领域 它 涉及 的 东西 可能 大家 还是 不 信任 但 可能 哎 可是 我 不 懂 哎 eventually 就是 最终 大家 不会 觉得 都 会

用 上 可能 没有 必要 可能 我们

微股 的 圈子 更 更 激进 一些 可能 还 没有 传到 这些 领域 我 的 有 一天 他们 可能 会会 再 考虑 我 也 不 知道 或者 或者 他们 讨论 过 这个 问题 还 没有 还 没有 意识 到 这点 就 我

就 知道 对 我 觉得 有 很多 因素 吧 但 比如说 一些 很 很 classic 的 大家 做 的 benchmark 其实 一个 因素 就是 因为 这里 边 的 数据 其实 特别 简单 你 可能 比如 就是 一个 简单 的 tabulardata 你 可能 每个 人有 五六个 feature 什么 叫 tabular 就是 一个 表 比如说 每个 人 他 的 年龄 是 多少 他 的 收入 是 多少 就是 本身 他 也 并 不是 很 rich 很大 数据 就是 很 丰富 的 在 这些 场景 下 我 觉得 对 就是 另外 一部分 就是 这个 隐私 这部分 也 比较 难 当然 我 觉得 如果 你 纯粹 从 怎么 说 如果 你 有 一个 大 模型 然后 你 在 这个 DOMAIN 下 然后 比如说 也 有人 就 把 这个 直接 变 身 这个 文字 的 描述 就是 把 本来 是 一个 简单 的 一个 表 然后 你 就 把 它 文字 化说 这里 有 一个 人 他 56 岁 他 收入 是 多少 blahblahblah 你 就

直接 把 他 的 那个 信息 全部

全部 都 翻开 就行了 因为 我 觉得 这样 的 你 即使 变成 这样 然后 你 翻车 用大 模型 你 的 performance 应该 是 肯定 可能 要 好 于 一些 小 模型 的 但是 这个 improvement 都 会 比较 minimal 相对 于 很多 就 尤其 是 对于 我 之前 可能 关注 的 一些 问题 来说 可能 比如 你 本来 这个 基本 的 一些 AImodel 已经 可以 到 90% 然后 我们 把 这家 大 模型 变 192% 可能 并 不是 这种 决定性 的 变化 这 可能

这个 在 非 企业 里面 是 这样 这 对 企业 看来 问题 就是说 我 现在 花 了 很多 人养 了 几个 人 专门 做 linearregression 专门 做 SBA 我 为什么 要养 这些 人 呢 我 招 几个 普通 台 的 毕业生 甚至 高中生 我 就 把 这 信息 放上去 我 就 直接 写 提示 词 我 就行了 吗 这 企业 的 想法 就是说 他 就 不 一定 是 一个 准确性 的 一个 想法 他 的 想法 是 说 我 为什么 要养 一个组 专门 做 这么 一个 模型 是 吧 对 对

对 我 觉得 很多 这些 比较 传统 的 industry 可能 他 也 没有 到 一个组 做 我 确实 不 确定 这个 方面 呢 就 比如 很多 健康 保险 这个 场景 下 的 我 至少 知道 他们 有 很多 model 真的 就 还是 一个 linearregression 但 我 觉得 他们 也 不 像 大 企业 那样 一直 在 这个 试图 改 这个 模型 看来 他们

最终 是 还是 没有 省钱 到 那个 程度 啊 他们 看 你 招 一个 总 linearregression 人 很多 钱 了 嗯

anyway 反正 我 还是 不 觉得 大 模型 会 在 所有 dimension 都 dominate

这个 existingworld 上次 谭 教授 说 到 一个 观点 就是说 一个 理论 就是说 让 模型 来 解释 它 的 决定 是 为什么 就是 它 不仅仅 给出 它 的 结论 还 给出 它 的 这个 解释 因为 要不然 可能 有 各种各样 的 公平 问题 啊 什么 的 大 模型 其实 就 就 给 了 一些 这个 机会 就是 大 模型 它 可以 把 有 的 时候 可以 把 你 的 推理 过程 告诉 你 啊 所以 谭天 说 在 这方面 有没有 什么 对 这个 领域 有 什么 变化 吗 就是 在 大

模型 之后 就 比如 我 其实 即使 在 以前 Fact 这个 里面 Fact 代表 的 是 这个 Fairness 就是 公平 然后 Accountability 就是 可不可以 追责 如果 翻译成 中文 然后 Transparency 就是 跟 这个 解释 比较 相关 然后 我 自己 的 工作 也 主要 是 做 Transparency 然后 我 觉得 这个 领域 还是 有 很多 Active 的 这个 比如说 这个 关于 大 模型 的 一般 大家 会 说 大 模型 自然语言 解释 是 不 太 可靠 的 并 不是 代表 这个 大 模型 真的 是 这么 想 的 哦 真的 对 我 觉得 反正 这个 方面 的 至少 如果 在 做 一个 学术讨论 的话 我 觉得 持 这个 argument 的 人会 比较 多

哦 就是 就 学术界 的 主流 认为 大 模型 说 出来 那些 解释 其实 不 一定 是 他 真正 真正 推理

出来 那个 对 对 对 我 觉得 是 但是 我 我 最近 还有 一篇 这个 文章 argue 这个 就是 他 自己 说 出来 的 是 一个 很 重要 的 这个 phenomenon 值得 因为 学术界 感觉 有 一个 偏见 是 大家 更 倾向 于 做 这个 mechanisticinterpretability 或者 觉得 mechanisticinterpretability 更 对 吧 什么 叫 mechanisticinterpretability 就是说 他 希望 把 你 对模型 一些 行为 的 解释 这个 一直 追溯到 具体 的 某个 neuron 某个 神经元 上 这个 区别 就 有点像 神经科学 和 心理学 的 区别 神经科学 是 希望 在 脑子里 找到 一些 这个 具体 的 比如 脑电波 啊 或者 什么 之类 的 来 解释 一些 你 的 行为 然后 心理学 可能 只是 看 把 你 当作 一个 黑盒 一样 然后 看 你 的 一些 行为 上 有 什么样 的 过程 至少 我 我 觉得 学术界 其实 是 有 对 就 像 你 刚才 说 的 就是 对 提示 词 工程 是 有 是 有 偏见 的 对 吧 就是 会 觉得 这是 一个 不 严谨 的 科学 那 大家 会 觉得 这个 已知 相对 的 就是 Macintosh 就是 这个 我 刚才 说 的 这个 我 不 确定 一个 中文翻译 是

什么 我 看 你们 这个 领域 还 挺 有意思 的 大家 都 这个 观点 因为 但是 是 大元 模型 它 的 那些 解释 都 是 它 强化 模型 的 步骤 吧 这 是 我 的 理解 因为 现在 它 现在 这些 推理 都 是 靠 强化 学习 嘛 他 说 出来 的 解释 都 是 在 他 描述 他 强化 模型 的 那个 步骤 在 在 做 什么 吧 这

是 我 的 理解 对 对, 我 觉得 RL 是 一个 比较 有趣 的 吧 但 我们 现在 可以 先 简单 的 说 RL 之前 的 故事 比如说 即使 没有 RL 之前, 没有 Rigoning 之前 大 模型 也 是 你 问 他 什么 他 都 可以 给 你 一个 解释 这个 比较 容易 的 一个 思想 实验 就是说 你 同样 的 问题 你 甚至 可以 给 这个 大 模型 不同 的 提示 这样 大 模型 就 会 给 你 正面 和 反面 都 可以 讲 这个 是 一个 简单 的 就让 你 觉得 好像 大 模型 说 的话 并 不 代表 他 在 想 什么

他立場 特別 不 堅定 但是 我們 人

也 是 啊 我 也 可以 見 人 說 人話 見 鬼 說 鬼

話 所以 其實 我 覺得 這個 對 人 也 是 generalize 的 就是 你 對 於 人 的 基本 判斷 你 不 認為 人 說 什麼 就 認為 他 是 真的 這麼 想 的 對

吧 哦 那 我们 对 人 都

不能 这样 我们 为什么 要 对模型 这样 这个 直觉 是 一样 的 所以 很多 人 不 觉得 这个 是 可以 用来 理解 这个 大 模型 是 怎么 想

的 就是说 套到 人 身上 来说 人 是 有 各种各样 动机 说 这样的话 不 一定 你 真的 是 这么 想 的 就是 大 模型 这样 说 不 一定 他 这么 想 那 我们 是 想要 知道 他 真 怎么 想 的 是

吧 对 比如 很多 这些 人 他们 想 做 的 是 看 比如说 这个 大 模型 比如说 一些 错误 的 信息 到底 是不是 真的 在 撒谎 是不是 他 知道 这个 正确 的 信息 但是 他 选择 告诉 你 这个 不 对 的 信息 或者 是 反过来 的 反正 我 觉得 这 两边 都 是 还是 有 一些 都 有 存在 意义 吧 我 觉得 而且 就 上周 我们 学校 还有 一个 专门 关于 这 两个 就是 两边 的 一个 讨论 就让 学生 一半 人站 一边 然后 大家 看 进行 了 一个 这种 辩论 类似 的 我 觉得 一部分 也 是 他们 可能 回答 的 问题 就 可能 最后 不 一样 了 可能 这个 我 之后 还会 写 一个 这个

博客 之类 的 来讲 那 强化 学习 以后 呢 它 会 有 变化 吗

强化 学习 可能 就 也 我 觉得 其实 也 是 类似 但是 我 觉得 你 可能 说 就是 至少 这些 模型 真正 学到 了 从 这个 过程 是 通过 这个 过程 我 可能 可以 最后 得到 正确 的 答案 对 吧 但是 这 并 不 代表 我 是 真的 这么 想 就是 如果 你 比较 要 勸 如 一些 特別 不 信任 我覺 得 這個 都 跟 modelskeptic 有點 correlation 就是 你 不 相信 這個 model 真的 會 思考 的 話 對 吧 這個 model 只是 學會 了 我 要 出 這 一段 文字 然後下 一步 我 就 就是 這之間 甚至 都 沒 有 任何 邏輯 的 聯 繫 並 不 代表 我 真的 認為 就是 比如 比如 一個 比較 簡單 的 例子 你 在 這個 一個 數學題 的 時候 model 說 我 發現 這個 不 對 所以 我要 回去 但是 这 model 说 这句 话 并 不能 真的 代表 这个 model 真的 内 心里 以为 这个 不 对 这个 共同点 还是 一样 的 只是 可能 这个 通过 想法 学习 可能 model 有些 这个 行为 更 一致 了 一些 那 我 做

数学题 我 也 不能 确定 我 就 再 试一试 试一试 试出来 了 我 也

不能 确定 我 觉得 你 这个 想法 是 很 对 的 就是 我 觉得 很多 人 也 认为 心理学 不是 就是 不够 严谨 对 吧 就是 都 是

科学 你 想 说 我 觉得 人

就 说 的话 你 你 并 不能 都 相信 对 吧 那 我 做题

我 也 就 试一试 试一试 嘛 我 我 不 一定 试 的 试 的 这个 路线 我 就 非 认为 它 是 对 的 我 才 试嘛 我 得 试一试 看 它 能 不能 走通

我 才 想 嘛 哦 没有 没有 我 的 意思 是 说 对 我 觉得 这 其实 我们 最近 有 一个 做 惩罚 的 我 觉得 也 可以 做 一个 比较简单 的 规则 比如说 你 看到 这个 模型 会 做 惩罚 然後他 甚至 一步 一步 的給 你 寫 出來 每 一個 數字然 後 但是 他 得到 這個 數字並 不 一定 是 通過 進位 的 方式 得到 那個 數字 或者 就是 他 底下 的 這個 算法 可能 跟 我們 正常 學 的 乘法 不一樣然 後 如果 你 就是 很多 這個 動機 是 類似 或者 這個 Motivation 是 类似 的 然后 就是 你 只 看到 这个 这些 数字 并 不能 相信 这个 model 真的 是 在 算 这个 进位 这个 model 可能 是 在 其实 是 在 算 一些 别的 只是 输出 这个 进位 我

觉得很有 可能 就是说 很 有 可能 model 里面 他 其实 自己 算了 自己 就算 出 了 一个 数 然后 他 模拟

一下 进位 对 吧 对 对 对, 我 觉得 在 一个 固定 答案 问题 上 比如 model 只是 通过 别的 方式 得到 了 一个 答案 它 其实 并 没有 真正 的 一步 一步 通过 这个 对 对 对, 我 觉得 这个 也 是 一个 比较简单 的 结果 比如说 有 的 时候 这个 model 有 一个 很长 的 这个 reasoning 的 model 都 会 输出 一个 很长 的 结果 对 吧 然后 我 中间 可以 把 一些 步骤 给 它 换掉 但是 有些 结果 就 会 发现 这个 其实 并 没有 影响 到 最后 结果 的 正确性 anyway 我 其实 是 我 不 知道 为什么 我 在 这个 attack 这 一边 我 其实 站 这边 的 就是 我 觉得 只是 你 在 把 我 这个 setup 起来 我来 attack 这边 但是 我 其实 是 觉得 通过 这个 Prompting 其实 有 很多 有趣 的 东西 是 可以 发现 的 而且 有 很多 一个 关于 另外 一边 的 这个 Macintosh 这边 主要 的 一个 critic 比如说 是 scalability 就是 因为 这个 你 要 真的 看 神经元 其实 是 一个 很难 的 问题 然后 你 可能 很难 的 真的 做到 很大 的 模型 上面 然后 会 看 比较复杂 的 这个

现象 几乎 是 不 可能 的 嘛 你 怎么 看大 模型 的 那个 几个 几十亿 几百亿 的 我 觉得 这 还是

一个 在 大 的 来说 这个 transparency 来说 是 一个 很 很 有意思 的 问题 这个 有 很多 不同 的 观点 有 很多 人 在 从 不同 的

方向 来 做 我们 想 知道 模型 究竟 为什么 出 这个 结果 这件 事

很 重要 吗 我 觉得 它 至少 有 两 部分 来说 我 觉得 很 重要 一部分 是 说 你 如果 想要 提高 这个 model 你 可能 是 要 知道 这个 model 到底 是 哪出 了 问题 当然 这个 就是 为什么 有出 某个 结果 不 一定 是 唯一 的 知道 这个 model 哪出 了 问题 的 方式 但是 这是 一个 就是 可以 帮助 你 知道 这个 模型 哪里 出 了 问题 的 方式 然后 你 这个 fix 方式 如果 你 比较 信 这个 Macintosh 可能 你 处理 方式 是 要 干 这个 内部 的 模型 的 这个 结构 但是 你 也 可能 通过 别的 比如说 你 看 这个 大 模型 的 这个 输出 你 可能 觉得 它 是 计划 上 planning 上出 了 问题 但 实际上 它 可能 是 另 一部 出 了 问题 然后 你 可能 要 真正 的 知道 哪个 地方 有 问题 可能 会 对 你 怎么 选择 这个 这个 训练 数据 啊 下 一步 要收 什么 数据 可能 是 有 帮助 然后 另外 一部分 就是 刚才 这个 也 带到 了 就是 那个 你 怎么 来 控制 这个 模型 可能 就是 你 不 一定 是 要 回去 重新 训练 这个 模型 但是 如果 你 想要 很 好 的 控制 这个 模型 就是 比如说 到底 应该 怎么 改 你 的 提示 词 可能 也 是 有 意义 的 要不然 你 可能 这个 提示 词 本身 的 一个 搜索 空间 还是 很大 你 可能 也 不 知道 你 应该 怎么 改 你 的 提示 词

所以 这两点 还是 主要 人工智能 技术 本身 的 意见 就是 对于 它 的 社会 影响 上 我们 知道 它 模型 本身 想 什么 这件 事情 有 什么 重要

的 地方 这 也 是 另外 一个 因此 比如 最近 有 很多 关于 这个 版权 的 讨论 对 吧 就是 你 可能 这个 也 是 类似 的 就 比如 model 输出 这个 这句 话 到底 是因为 这个 model 这个 训练 的 时候 真的 就 看到 了 这 一句 话 还是 因为 这个 model 就 自己 獨立 的 想到 了 這句 話 這種 還是 比 較 有意 義的 一個 結 果然 後 如果 你 真的 到 了 你 們 剛才 描述 的 這個 比較 遙遠 的 那 我 不 確定 遙遠 也 有 可能 一兩年 之 內 就 發生 了 比如 你 有 一個 每個 人 都 有 個 AI 律師 的 時候 就是 你 知道 這個 AI 律師 為 什麼 說 這句 話 也 還是 很 有用 的 我 覺得 剛才 那些 場景 其實 還是 都 是 有用 的 就是 一般 來 說 比如 說 貸款 這個 或者 有 的 時候 這個 应该 叫 什么 高风险 可能 是 比较 合适 的 中文 的 翻译 一些 决定 当中 就 会 有 法律 规定 你 必须 要 能够 解释 这些 决定 然后 这个 不同 的 国家 可能 这种 法律 上 不

一样 像 这种 解释 只要 他 能 说 一个 逻辑 上 这个 可以 说得通 的 自洽 的 自洽 的 就 可以 了 是不是 他 政治 上 想 这件 事 很 重要 吗 比如说 我 在 法 法庭 上 律师 可以 做 辩论 吗 对 吧 他 只要 是 他 在 逻辑 上连过 就 行 律师 心里 到底 怎么 想 的 这件 事情 不 重要 我 作为 整个 社会 我 觉得

这是 大家 对 人 的 标准 对 吧 但 大家 对 人工智能 的 标准 不 一定 一样 我 觉得 比较 其实 跟 人 其实 也 是 相关 的话 比如 我 问 机器 为什么 我 给 这个 人 皮带 卡 或者 我 比较 对 我 来说 比较 容易 解释 比如 我 为什么 录取 这个 人到 这个 大学 这种 决定 对 吧 我 總 是 可以 編一個 決定 的 但是 如果 其實 在 人 的 法律 上 也 是 有類 似的 但是 如果 你 可以 之後有 別人通 過別 的 手段 證明 你 確實 是 用 了 種族 或者 是 性別 這些 因素 在 這些 決定 當中 就 會 有 問題 有 很大 的 問題 這和人 之間 還是 有 一些 很多 類似 可以 說 但是 我覺 得 比 較 有用 的 一點 是 說現 在 我們 還是 在 思考 這個 對 於 人工智能 應該 用 什麼樣 的 標準 但 我 覺得 一般 的 大部分 人 的 我 覺得 這 不同 人 的 標準 上 不 一樣 但 我 覺得 很多 人會 認為 人工智能 應該 有 一個 跟 人 不 一樣 的 標準 應該 會用 比人 更 高 的 標準 去 要求 人工智能

所以 说 现在 如果 谭 教授 招 一个 博士生 那 你 是 不 允许 把 比如说 你 把 他 所有 的 申请材料 都 给 大 模型 然后 问 这 两个 人 我 应该 招 哪个 因为 这样的话 会 被 人 说 大 模型 可能 用 了 比如说 种族 或者

是 什么 的 信息 什么 我 不是 officially 做 这个 事情 但 我 知道 至少 我们 学校 的 政策 是 我们 是 不能 把 申请 给 大 模型

的 就是 因为 这样 的 原因 是

吧 相关 吧 就是 你 之后 可能 一些 结果 你 是 是 不能 defender 吧 对 吧 就是 有 不少 这样 比较 highprofilecase 这个 会 真的 被告 对

吧 还有 还有 这样 的 官司 是

吧 对 就 不 一定 是 到 大摩亭 但是 会 有 一些 就是 如果 有人 知道 了 这个 然后 觉得 这个 不满 就是 大 模型 有 偏见 而且 事实上 大 模型 确实 可能 就是 有 bias 的 然后 bias 可能 跟 人 是 不 一样 的 我们 最近 也 有 一个 就 比较 这个 toy 的 一个 example 有些 大 模型 其实 是 比较 pro 这个 取决于 怎么 做 ROHF 嘛 对 吧 有些 大 模型 其实 比较 pro 嘛 怎么 做 什么 怎么 做 这个 强化 学习 的 就是 这个 从 从 人 的 这个 feedback 对

怎么 你 的 你 怎么 给 他 提供 这个 强化 学习 的 目标 是

吧 对 你 之后 得到 的 信息 是 什么 有些 模型 是 至少 偏见 其实 是 跟 人 的 偏见 是 不 一样 啊 不 一样 的 啊 对 对 对 啊 对 如果 这个 刚才 说 那个 我们 最近 有 一个 工作 就是 用 就是 想 通过 用 这个 Macintosh 的 方法 来 解释 一些 模型 的 bias 就 是从 这个 角度 来说 这个 可能 是 我 真的 做 了 唯一 一篇 这个 真正 是 其实 我 有 两篇 这 一篇 是 比较 偏 公平性 的 一个 工作 哦 这个

看来 确实 还是 很 重要 啊 就是 因为 你 大 模型 在 这些 可能 会 影响 公平 的 领域 确实 都 不敢 用 了 是 吧 像 比如说 像 这个 芝加哥大学 就是 原则上 不 允许 给 这个 大 模型 申请材料 我 觉得

不 只是 芝加哥大学 我 觉得 所有 大学

都 所有 大学 都 这样 是 吗

我 觉得 你 最 多 可能 比较 justifiable 的 是 你 run 一个 这个 assay 的 AIdetector 然后 你 可以 标 一下 这个 我 觉得 其实 这种 我 首先 我 不 知道 大家 在 做 什么 但是 我 知道 somehow 这个 reddit 总是 给 我 推荐 了 一篇 本科 申请 的 这种 帖子 我 觉得 学生会 猜 大学 会 detect 的 这个 assay 是不是 AI 对 的 就算 就算 是

看一看 是不是 作文 是 AI 写 的 这件 事情 都 还 不 一定 敢

用 AI 做 因為 這個 本身 其實 也 不是 一個 完全 無辜 的 事情 對 吧 就是 AI 這個 過程 當中 也 可能 有 bias 對 吧 就是 我 真的 不 知道 這個 過程 是 怎麼 做 的 但 我 覺得 就是 在 這些 決定 當中 肯定 是 沒 有 到 把 這些 決 定都 直接 交給 大冒險 的 而且 我覺 得 对 还是 还是 挺难 想象 变成 那样 嗯

看看 我们 要 这个 谭 教授 的 研究 怎么弄 呢 让 这个 AI 来 真正 给 我们 解释 他 真正 心里 到底 有没有 用 这些 这些 信息 啊 嗯 看来 看来 还有 很长 的 路 要 走 啊 这 看 这个 领域 确实 还是 非常 的 重要 那个 我们 这个 有点 长 我 觉得 是 非常 非常 重要 的 一个 话题 刚才 看 这个 谭 教授 的 这个 简介 啊 他 那个 简介 在 某 一个 平台 上 简介 还有 NLP 啊 NLP 还 在 做 自然语言 处理 啊 刚才 跟 谭 教授 说 了 谭 教授 说 啊 我 现在 把 它 删 了 作为 一个 这个 自然语言 处理 的 专家 啊 这个 对于 现在 一个 大 语言 模型 历史 时代 是 一个 怎么 一个

感想 啊 我 觉得 世界 变化很大 变化 很快 我 觉得 至少 NLP 本身 作为 一个 词 不是 最 准确 的 这个 描述 我 最 感兴趣 的 问题 吧 所以 我 觉得 比如 我们 这边 有 几个 教授 之前 是从 比较 偏 NLP 的 圈子里 出来 的 但是 我们 因为 Uchicago 可能 这方面 这个 发展 的 比较 晚 反正 现在 我们 是 叫 自己

CommunicationandIntelligenceCommunicationandIntelligenceCommunicationandIntelligenceAndintelligence 就是 溝通 和 智能 就 不 叫 自然语言 处理 了 叫 溝通 了 感觉 好像 是 高 了 一 层次

啊 我 觉得 这是 一个 变化 跟

小朋友 一样 冲向 了 一点 感觉 更

冲向 小朋友 们 从 语言 到 什么 学说话 到学 沟通 了 感觉 长大 了

但是 我 觉得 广义 上 来说 很多 我 的 工作 肯定 还是 即使 大部分 大冒险 的 工作 都 还是 处理 语言 吧 如果 你 用 这个 比较 狭隘 的 定义 都 还是 NLP 啊 但是 我 觉得 可能 你 现在 可以 做 很多 问题 的 方式 跟 以前 不

一样 作为 一个 自然语言 处理 的 专家 你 觉得 大 语言 模型 确实 是 属于 从 这个 领域 里面 出来 脱胎换骨 的 这么 一个 过程 它 是 领域 做 对 了 什么 或者 做错 了

什么 吗 就是 肯定 比如说 语言 模型 我 觉得 肯定 还是 算是 从 这个 领域 里 出来 的 这个 一个 task 对 吧 就是 这个 领域 可能 历史 上 做 的 人 最 多 但是 预测 下 一个 单词 是 什么 本身 也 不是 一个 任何人 不能 想 出来 或者 别人 不能 做 的 东西 对 吧 就是 我 觉得 怎么 算 这个 credit 的 可能 很難 就 不同 人 的 這個 position 肯定 會 不 一樣 但 比如 Bert 這個 還是 在 如果 沒有 記錯 的 話 應該 是 真的 就是 發在 這個 NLP 的 會議 的 上 了 對 吧 就是 我覺 得 中間 當中 還是 有 很多 步然 後 很多 人 可能 也 是 做 了 很 重要 的 貢獻 吧 都 是 從 這個 自然 語言 處理 出來 但是 現在 肯定 是 不 只是 自然 語言 處理 我 覺得現 在 可能 你 去 看 一個 計算 機器 可能 90% 的 人 都 說 自己 做大 冒險 對 吧 大 冒險 真的 嗎 对 啊, 就是 它 有 很多 各种各样 的 角度 啊, 你 比如 做 softwareengineering 呢, 你 又 coding 模型 也 是 很 重要 的 一部分, 对 吧? 就是 你 做 security 的 也 可以 做 这个 大 模型 相关 的 这个 security 的 问题。 我 觉得 现在 大部分 人 的 research 都 是 跟 大 模型 有点 关系 吧, 然后 我 觉得 至少 对 我 个人 来说 这个 communicationintelligence 可能 是 更 准确 的 一个 或者 humancenteredAI 也 还是 就是 以人为本 人工智能 也 还是 比较 准确 的 定义 我 做 的 但是 可能

现在 还有 自然 源 处理 这个 领域

吗 我 还 教 这门 课 我 今年 会教 这门 课 我 有 一段时间 没教 这门 课 了 但是 我过 几个 月 我 还 会教 这门 课 就

这个 比如说 还有 这个 会 吗 还有

这么 一个 会 还有 会 还有 会会 还 超级 多 超级 多 论文 呢

超级 多 但是 你们 都 都 在

做 什么 呀 我 觉得 现在 不同 的 会议 之间 的 区别 更 小 了 吧 就是 可能 很多 文章 你 既 可以 投 ACL 也 可以 投 NeurIPS 或者 是 IclearSMR 就是 我 觉得 现在 这个 分界线 并 没有 很 清楚

那 现在 这些 会议 都 在 做

大圆 模型 吗 对 对 对 很多 work 都 是 各种 哦 对 所以

就是 自然 圆 处理 的 领域 就 转型 怎么 变成 大 模型 我 觉得

也 没有 特别 那 我 怎么 决定

走 去 这个 会议 还是 去 另外 一个 会议 呢 如果 大家 都 是

我 觉得 一部分 是 每个 人 做 决定 的 方式 不 一样 我 可以 说 我 做 决定 的 方式 我 或者 是 首先 首先 他们 不同 的 这个 不同 会议 评审 的 这个 方式 其实 不太 一样 然后 ACL 在 有 段时间 换成 了 一个 跟 别的 会 都 不 一样 的 模式 评审 模式 对于 大部分 的 模式 可能 都 是 你 对于 这个 会 有 一个 单独 的 这个 review 的 过程 然后 review 完 了 之后 就 给 你 一个 收 或者 不收 的 决定 但是 现在 偏 自然语言 处理 的 偏 LP 的 会 评审 模式 是 有 一个 集中 的 审 的 过程 然后 在 你 拿到 你 的 review 决定 之后 你 可以 决定 你 要 不要 把 你 这个 文章 送到 某个 具体 的 会上 然后 那个 会 有 一个 根据 你 这个 review 结果 判断 你 这个 会 这个 文章 应不应该 被 收 的 这样 一个 过程 这么 神奇 分开 这个 评审 和 会议 这个 录取 这个 决定 的

这个 意思 哦 还是 第一次 听说 这种 事 啊 这个 这个 只有 这个 领域 这样 吗 还是 有 别的 领域 也

有 这样 就是 我 觉得 这个 general 的 模式 就 有点 像是 往 general 转嘛 就是 你 很多 以前 的 期刊 可能 可以 理解 成都 跟 这个 想法 有点 其实 还是 不 一样 anyway 我 觉得 这个 还是 一个 比较 特殊 的 吧 但是 嗯 现在 至少 他 是 按照 这个 模式 进行 其实 不同 会议

的 这个 评审 模式 也 会 决定 大家 去 哪个 会议 啊 不 过去 你 投 哪个 会议 除了 哪个 哪个 会 更 容易 收 以外 有 的 时候 你 是 更 想 更 想 混 哪个 圈子 吗 对 对 对,

exactly, 我 觉得 这个 还是 另 一个 比较 重要 的 因素 吧 就是 你 觉得 你 希望 你 的 文章 在 哪 被 看到 吧 但 其实 可能 现在 不同 的 会 因为 文章 数 实在 是 太 多 我 觉得 就是 区别 可能 真的 就 不是 很大 所以

你 不 投 那会, 你 也 这样 可以 去 那个 会, 跟 人家 交流

对 对 就是 我 觉得 而且 对 学生 来说 可能 还是 区别 比较 大 吧 可能 但是 对于 教授 来说 可能 你 本身 去 哪个 会 跟 你 在 那个 会 有没有 会 也 不是 有 特别 大 的 区别 关系 但是 还有 一个 新 的 会 如果 对 有 个 新 的 会 叫 ConferenceonLanguageModeling 其实 我 觉得 这个 会 是 至少 我 今年 就是 这个 月 刚 去 了 然后 我 觉得 这个 会 让 我 感觉 可能 是 现在 最 接近 于 我 感兴趣 的 会 ConferenceonLanguageModelingConferenceonLanguageModeling 简称

colm 就是 要 希望 脱离 于 自然 源 处理 就是 独立 的 就 管

那个 大 模型 是 吧 嗯 我 不 觉得 我 能够 代表 他们 官方 发言 他们 做 什么 但是 这是 一个 新 的 会 出来 就是 想 主要 是 focusonlanguagemodeling 但 其实 他 真正 收 的 文章 也 更 广 比如 我 刚才 说 的 那个 研究 种族 在 一些 录取 之类 决定 的 这个 片 这个 neuron 在 哪 的 这个 representation 在 哪 的 这个 文章 就 在

这个 嗯 现在 都 是 都 是 languagemodel 都 是 语言 模型 了 所以 所有 的 事业 都 可以 对 对

对 我 觉得 我 觉得 现在 可能 不同 的 会议 就 帮助 于 整体 来说 还是 不太多 吧 主要 是 这个 会议 现在 还 比较 小 然后 可能 experience 会 更好 一点 比去 一个 一万 人 个人 都 会 好 了 我们

这个 返场 问题 问 的 有点 长 啊 我们 现在 看看 这个 进入 正题

啊 你 聊 了 一个 小时 了

我们 的 这个 谭 教授 最近 最近 对于 AI 能 不能 做 科学家 取代 科学家 有 一些 思考 是 吗 我

觉得 这 是 我 现在 可能 超过 50% 甚至 60% 的 时间 都 是 在 做 这个 事情 为什么 谭 教授

对 这个 话题 感兴趣 呢 想 取代

自己 對 不能 太 瞧不起 但 我 覺得 跟 之前 說 的 那個 以 人 為 被 人工智能 還是 一脈 相承 吧 我 覺得 就 像 我 剛才 說 的 之前 做 的 那些 決定屬 於 比 較 簡單然 後 我 想 達 到 人 和 AI 合作 效果 比較 好 我 覺得 這個 空間 其實 很小 然後做過 很多 比如 也 是 這個 AI 為 什麼 做 一個 事情 的 這種 研究 但是 可能 並 不能 真的 對 這個 過程 有 什麼 本質 的 改變 但 我 覺得 科學 發現 是 一個 足夠 豐富 的 領域 而且 我 真的 認為 AI 可以 徹底 的 會 徹底 的 改變 這個 大家 怎麼 做 研究 所以 我現 在 花 比 較 多 的 時間 想 這個 space 然後看 最好 的 人 和 AI 應該 怎麼 合作 甚至 包括 我剛 才 說 的 就是 比如 說現 在 有 很多很多 paper 對 吧 一部分 肯定 是 有 更 多 研究 的 人 在 做 但 另外 一部分 也 是 因為 很多 paper 可能 是 AI 不能 說 完全 generate 出來 但是 AI 在 裡面 是 有 一定 作用 的 我 覺得長 期來 說 如果 AI 在 這個 過程 當中 可以 更 獨立 的 做 一些 發現 的 話 本身 這個 科學 應該 怎麼 運作 也 應該 會 有 特別 大 的 改變 比如 說 最近 在 Sanford 有個 新 的 叫 AgentsforScience 的 會 他們 推崇 的 就是 說 這裡 的 文章 都 是 AI 是 第一 作者 对 然后 我 觉得 这个 这种 模式 也 是 一个 有趣 的 然后 如果 之后 如果 聊到 这 我们 也 可以 我 也 可以 再 聊聊 这个 嗯 我

觉得 这个 这个 话题 非常 重要 就是 我们 各行各业 可能 都 要 考虑 在 这种 革命 之后 出 什么 可能 我们 就 拿 一个 领域 比如说 就是 科学研究 我们 看看 科学研究 在 这个 未来 的 AI 时代 会 什么样 我 觉得 非常

非常 重要 对 对 我 觉得 而且 科学研究 是 一个 相对 比较 有 代表性 的 很多 我 之后 可能 这个 说 了 一些 话 可能 对于 别的 就 比如 编程 啊 或者 就是 别的 领域 我 觉得 其实 都 是 适用 的 就是 在 对 我 来说 可能 科技 研究 是 一个 比较 容易 入手 而且 我 自己 每天 都 在 做 就

更 多 经验 过去 有 这种 说法 啊 就是说 呃 人工智能 到 一定 程度 上 会 到达 一个 起点 啊 singularity 就是 他 可以 自己 就 做 研究 了 自己 就 科學 發現 自己 就 技術 發明 了然 後 以 後 Secondary 之 後 就 突然 加速 了 就是 所有 的 好 事情 都 會 發生 所有 病毒 可以 治 了 人 就 可以 長 生不老 了 所以 我們 想 看看 這個 在 這個譚 教授 研究 之 後 這個 事情 是 會 發生 還是 不 發生 我 還是 非常 感興趣 我

不 知道 之后 你 可能 可以 在 这个 博客 下面 放 一些 链接 吧 就是 我 昨天 刚发 了 一个 这个 博客 这个 英文 叫 TheMarriageofAutonomousAIScientists 中文 比较烦 就 有点 像是 这个 纯 自动 科学家 的 这样 一个 海市蜃楼 是 这个 标题 想 表明 的 我 觉得 不 可能

的 名字 像 这样 的 是 不

可能 的 我 覺得 取決 於 你 怎麼 定義這個 科學 發現 對 吧 就是 我覺 得 AI 完全 可以 自己 生成 paper 而且 可能 過幾年 就 可以 生成 很 好 的 paper 但是 如果 你 AI 可以 生成 一百 萬片 paper 這跟 scientificbreakthrough 還是 有 很 本質 的 區別 即使 這裡邊 有 一些 真的 可以 徹底 改變 的 改變 世界 的 breakthrough 但是 可能 人 也 不 一定 能夠 發現 它 如果 人 不能 發現 它們 或者 不能 夠 真的 這個 全身心 是 推崇 这个 这个 你 就 很 难 让 这个 真的 变成 一个 科学 的 变化

我 觉得 是 非常 非常 好 的 一个 话题 就是 我们 可能 很多 普通人 并 不是 很 懂 就是 在 AI 之前 就是 过去 10 年 科学界 是 怎么 运作 的 能 不能 对 太阳 给 我们 稍微 的 科普 一下 这个 AI 前 科学 是 怎么 运作 的

科学 不 一定 要 AI 之前 吧 我 觉得 至少 到 目前为止 科学 主要 的 运作 方式 还是 比如 从 很早 的 科学 开始 可能 最早 就是 一些 人 纯粹 是 业余爱好 做 一些 科学 对 吧 他们 确实 发现 了 一些 很 有用 的 东西 比如 物理 啊 这 这 使得 我们 才 开始 可以 比如 牛顿 就是 很 典型 的 例子

对 吧 闲人 是 吧 没事干 啊

对 之前 可能 都 是 一些 一般来说 比较 有钱 的 人 可能 闲着没事 干 了 想 了 一些 科学发明 出来 但是 在 某个 时候 他 更 职业 了 之后 可能 就 会 有 这种 开始 其实 从 那个 时候 开始 就 会 大家 通讯 也 是 这个 东西 很 重要 的 一部分 就是 需要 大家 我 发现 了 一个 新 东西 我 就要 大家 知道 需要 大家 认可 对 吧 在 某个 时候 这 就 发现 成 了 后来 的 这种 同行 评审 的 模式 对 吧 就是 为什么 大家 很多 时候 发个 论文 对要 发 paper 然后

要 所有人 都 看到 对 还 专注

對會 吧 發論 文當 中 的 很 重要 的 部分 甚至 有 的 人會 覺得 發論文 本身 就是 科學 對 吧 但是 至少 我覺 得 發論 文是 科學 當中 的 很 重要 的 一部分 但是 你 很 難 說 發論文 本身 就是 科學 比如 我 寫 的 這個 博客 裡邊 有 Science 的 另 一邊 那個 博客 的 Title 叫 AISlowScience 就是 AI 會不會 讓 Science 更慢 它裡面 有 提到 一個 現象 就是 叫 ProductionProgress 就是 我們 現在 很 明顯 大家 都 能 感覺 到 這個 世界 上 的 文章 越來 越 多 但是 可能 我们 并 没有 觉得 真正 scientificbreakthrough 的 程度 科学 发现 越来越 多 啊 对 对 对 就是 我 觉得 这 是不是 这些 论文 的 数量 决定 了 我们 这个 科学 有 多 大 的 发展 我 觉得 这是 一个 有大有 一个 大大的 问号 这个 在 AI 之前 其实 就 已经 发生 了 一部分 就是 因为 这个 职业化 吧 就 很多 人 的 生活 就是 发 论文 然后 很多很多 机器 都 是 鼓励 大家

发 论文 博士生 就 靠 这个 毕业

嘛 是 吧 呃 对 不是 靠 这个 毕业 教授 靠 这个 吃饭 对

吧 就是 这个 制度 使得 文章 变多 了 但 事实上 科学 发现 没有 真的 多 那么 多 是 吗 大家 会

觉得 对 对 我 我 个人 是 那么 认为 的 对 吧 就是 而且 而且 这个 即使 我 刚才 说 的 那个 argument 呢 也 是 在 人 上 也 是 apply 的 就是 像 这么 多 文章 他 可能 真的 有 一些 很 重要 的 发现 比如 有 一个 很 重要 发现 你 在 上面 再 做 一下 你 就 可以 获得 抄导 了 但是 可能 没有 人去 读 那 篇文章 对 吧 流量 不 一样 这个 问题 不 只是 AI 会 存在 但 我 觉得 AI 会 把 这个 问题 严重 的 放大 所以 说 谭

教授 提出 一个 问题 就是说 到底 这个 论文 和 科学 发现 这 两件 事情 的 关系 是 什么 是不是 发发发 了 更 多 论文 就 就 就 证明 我们 科学 就 就 发现 了 发现

一些 东西 了 是 吧 对 对 对 我 觉得 这是 一个 很 重要 的 问题 吧 我 觉得 AI 其实 是 一个 很 好 的 机会 这 也 是 为什么 我 现在 对 这个 问题 很感兴趣 我 觉得 也 会 是 一个 让 大家 尤其 是 你 可能 有 一个 比较 容易 的 这个 标准 如果 一个 文章 AI 很 容易 的 就 做 出来 了 可能 至少 在 这个 计算机 这个 领域 可能 它 就 不 太 值得 当作 一个 重大 发现 或者 当然 它 可能 还是 值得 做 重要 发现 的 但是 需要 这个 时候 需要 有 一个 人 特别 愿意 说 这 是 一个 重要 发现 然后 说服 大家 说 这 是 一个 重要 发现 要不然 這個 就 會 大家 最近 都 在 說 這個 AIsloth 這個 詞 也 是 一些 就是 比較 不 相信 AI 的 人 就 說 AI 生成 的 一些 東西 都 是 垃圾 對 吧 但 事 實上 肯定 不是 這樣 個 你 需要 有 這個 分辨 的 能力 需要 有 這個 選擇 的 能力 來判斷

什麼 東西 是 好 那 AI 可以 怎麼 被 用 於 科學 研究 呢 它 科學 比如 比如 比如 說 我們 說 啊 不 知道 我 隨便舉 啊 比如 說 你 是 一个 做 天文 的 是 吧 你 在 那 分析 那些 望远镜 的 那些 数据 你 在 那 天天 想 说 我 要 发现 什么 我 让 望远镜 对 着 哪 然后 数据 过来 分析 一下 看看 对 不 对 什么 就 这个 过程 中 比如说 AI 它会 在 哪个 方向 会

有 帮助 呢 最 直接 的 可能 就 跟 你们 的 工作 都 很 接近 对 吧 AI 可以 帮忙 写 程序 这个 是 一个 大家 可能 现在 都 在 做 的 至少 我 不 相信 我 有 博士生 还是 一行 一行 在 玩 写 程序 的 至少 不是 一个 字符 一个 字符 写 程序 的 吧 对 就是 我 觉得 这是 比较简单 的 AI 可以 帮忙 的 这个 没有

特别 本质 的 差别 就 AI 写 程序 还是 我 对 啊 他 还是 我 在 写 最终 还是 我 看看 对 不 对 的 吗 这 是

只有 因为 你 我 不 知道 你 的 workflow 是 什么样 的 但是 他 这个 很 容易 就 会 接受 到 另 一步 对 吧 我 比如说 我 就是 给 AI 一堆 数据 然后 让 AI 写个 程序 然后 告诉 我 这份 数据 里面 什么 东西 比较 有趣 然 後 這是 一種 方式 對 吧 我 沒 有 說 這是 最好 的 方式 但是 我覺 得 這是 一個 就是 AI 其實 可以 到 任何 一步 比如 說 我 可以 簡單 來 說 你 可能 你 可以 把 科學 發現 分成 幾個 步驟 第一步 我要 找到 一個 研究 的 問題 對 吧 然 後 找到 這個 具體 的 問題 我 可以 问 AI 什么 问题 其实 每 一步 理论 上 AI 如果 你 真的 相信 AI 就 可以 做 每 一步 对 吧 我 可以 问 AI 我 应该 做 什么 问题 这个 问题 一般 如果 你 比较 传统 的 科学 是 CS 这项 比较 ambiguous 但是 你 一般 会 来说 会要 你 提出 一些 猜想 对 吧 hypothesis 你 可以 让 AI 来 提出 一些 具体 的 猜想 然后 在 有些 领域 你 可能 要 收集 数据 或者 你 用 现成 的 数据 然后 我 就 可以 用 AI 来 验证 这些 猜想 是不是 对然 後 我驗證 完 了 如果 找到 了 結果 可以 讓 AI 來 寫論 文然 後 可以 讓 AI 甚至 是 幫 我 去 宣傳 這個 論文 我 覺得 這個 過程 當中 人 做 的 任何 一步 理論 上 來 說 都 是 可以 有 AI 的

但是 這個 過程 我們 提出 的 過程 中 每 一步 最終 都 是 人類 來 做 一個 決定 我 讓 AI 說現 在 有 什麼 問題 它 提 了 三個 我 說 這三個 這還 不錯 或者 說 這個 都 不行 你 再 想想 那 方面 你 再 看看 那 方面 最終 來 講是 人類 做 了 一個 決定 選 了 一個然 後 我們 才 進入 下 一步 所以 这个 过程 听

上去 我 不 知道 你 后来 有没有 空读 我 这个 博客 但 你 说 的 这 就是 我 这个 博客 主要 要 这个 argue 的 点 我 觉得 就是说 跟 这个 相比 的 另外 一个 决策 就是 你 有 一个 全自动 的 AI 的 我 就 刚才 说 的 起点 的 那种 想法 我 就 有 个 AI 我 觉得 他 他 就 做 研究 他 他 不 完全 不 需要 人来 参与 到 这个 过程 当中 他会 自己 决定 可能 哪个 问题 比较 重要 然后 他 就 做 哪个 问题 然后 他 就 出来 的 结果 他 自己 决定 这个 结果 好不好 或者 自己 决定 这个 结果 重不 重要 最后 一切 的 事情 都 是 他 自己 做 我 觉得 这个 是 一个 比较 没有 人 毕业 了 他 得 了 个 博士 他 得 了 个 博士 行 了 对 吧 对 就 不 需要 有 任何人 读 博士 了 对 吧 就是 这 是 我 刚才 说 的 这个 海市蜃楼 的 那 部分 就 认为

不行 他 认为 你 是 做 不到

了 我 覺得 這裡邊 有 一個 比較 簡單 的 想法 就是 說 你 只要 有 就是 做 研究 純粹 或者 science 純粹 是 一個 智能 的 問題 你 只要 有 一個 足夠 聰明 的 東西 它 就 可以 把 這個 事情 全自動 了然 後 我 這個 博客 裡面 第一 部分 主要 就是 argue 這個 其實 很 重要 的 科學 是 一個 資源 分配 的 問題 對 吧 就是 你 之所以 剛才 那個 有 這些 一步 一步 人 的 選擇 是 說 我 參 與 到 這個 過程 當中 我 來 選 哪個 問題 重要 我 才 有 更 可能 去 follow 這個 AI 的 過程 對 吧 就 像 我 剛才 說 的 這個 例子 如果 我們 用 生成 paper 這個 模式 來 理解 的 話 如果 AI 生成 了 很多很多 paper 我 肯定 沒有 時間 讀 我 就 也 不 可能 知道 哪一個 是 最好 或者 哪個 是 重要 的 但是 如果 我 在 這個 每 一步 當中 我 都 有 選擇權 我 就 可以 觀察到 這個 整個 過程然 後 我 更 有 可能 相信 這個 想法 是 重要 的 或者 這個 問題 是 重要 的 我 更 有 可能 覺得 這個 是 一個 重要 的 猜想 然後到 最 後 我 可能 更 有動力 去驗證 這個 結果 這個 如果 你 用 這個 資源 分配 來講 這個 資源 分配 不 只是 錢 啊 就是 最 基本 的 資源 分配 就 包括 我剛 才 說 的 這種 注意力 的 分配 你 到 時候 決定 讀 哪篇 背包 或者 決定 這個 看 哪個 AI 的 輸出 結果 看 它 對 不 對 這些 都 是 你 決定 付現 哪個 AI 結果 來 確定 它 對 這些 都 是 一個 很 重要 的 一些 資源然 後 如果 你 用 這個 想法 的 話 我 覺得 一個 很 重要 的 人 的 這個 角色 就 會 是 來 選擇 這個 怎麼 分配 這些 資源然 後 另 一個 另 一邊 就是 如果 你 想像 我剛 才 那個 說 的 那個 過程 簡單 其實 在 每 一步 都 可以 有 這種 比如 你 選 問題 或是 選猜 一下 或是 選 codeAI 也 可以 給你 幾個 不同 版本 的 code 他們 的 efficiency 可能 是 不 一樣 的 他們 正確 的 evolve 也 是 不 一樣 你 要 選擇 你 run 哪個 我 觉得 其实 即使 在 Coping 里面 这 也 是 一个 目前 我 觉得 至少 我 自己 用 AIAgent 我 觉得 可以 提高 的 点 现在 一般 就是 AI 就 给 我 出 了 一个 结果 然后 我 跑 然后 跑 了 有 问题 我 又 回来 然后 AIfix 这个 问题 我 觉得 这 其实 也 是 有 很多 可以 改变 的 空间 你 可以 让

他 写 完 以后 运行 这个 测试

并且 修改 如果 你 有 个 比较 好 的 比如说 这个 测试 测试 就是 你 定义 的 一个 比较 具体 的 Evaluation 它 在 Coding 那边 可能 比较 好 定义 但 其实 这 也 是 你 需要 投入 努力 来 得到 这个 测试 即使 是 AI 生成 的 测试 你 得 判断 这个 测试 是不是 你 真的 想要 我 一个 比较简单 的 抽象 我 觉得 是 你 可以 把 这个 过程 理解 成 你 有 一个 选择 然后 production 然后 有个 evaluation 我 觉得 这个 人 的 选择 然后 中间 是 这个 真正 的 生产 然后 就 做 一个 评测 我 觉得 人 的 这个 角色 会 越来越 多 的 做 这个 选择 和 这个 评测 的 然 後 可能 AI 會 做 更 多 中間 的 這個然 後 你 不同 的 這個 discovery 或者 不同 的 task 可能 怎麼 把 這個 問題 分解成 這樣 會 不 一樣然 後 你 怎麼 來 設計 AI 來 幫助 另外 很 重要 的 一部分 是 說 我 即使 是 尤其 是 評測 這 部分 肯定 是 需要 AI 的 幫助 就是 如果 AI 越來 越厲 害人 就 會 更 難來 判斷 這個 AI 是不是 對然 後 如果 AI 可以 輕 鬆 地 寫 一 萬 行 代 碼 就 我 就 专门 读 这 一号 我 也 忘 了 代码 我 也 可能 得读 一个月 这个 不是

一个 嗯 换 一个 来读 一下 对

对 因为 我 可能 要 考虑 换 一个 AI 读 一下 或者 如果 两个 AI 大家 互相 你 怎么 让 这 两个 AI 可以 让 你 来 做 决定 或者 就 相信 你 觉得 这个 这 两个 你 如果 你 即使 我 我 我 需要 澄清 的 就是 这 当中 当然 有 一种 可能性 就是 人 决定 AI 就是 最 好比 人 都 要 好 我们 就 决定 把 所有 资源 都 给 AI 但是 我 觉得 就 比如 你 刚才 说 的 长生不老 这个 例子 对 吧 就是 你 一个 在 人 身上 可以 run 的 这个 clinicaltrial 临床 测试 对 临床 测试 这个 是 一个 很大 的 bottleneck 对 吧 这种 资源 是 极其 有限 的 你 不 可能 AI 随便 说 一个 什么 我 就要 一波 人 过来 然后 看 这个 人 是不是 会 死 掉 是不是 会 寿命 变短 对 吧 至少 我 觉得 纯粹 靠 AI 是 不太可能 达到 这些 你 刚才 说 到 的 这个 目标 的 所以 你 需要 思考 这个 人 和 AI 怎么 在 这个 过程 当中 合作 然后 来 达到 一些 有效 的 资源分配 来 达到 这个 最后 的

发展 效果 那為 什麼 要 強調 就是 剛才 那個 例子 說 的 很 重要 因為 這個 決定 很 重要 重要 決定 的 時候 要 人類 過來 親自 把 把關 那 比如 說 簡單 的 決定 你 選什麼 選題 你 使用 哪個 代碼 為 什麼 我們 要 人 去 決定 呢 是 因為 他 覺得 人 的 決定 更好 嗎 還是 因為 有 什麼 非技術 原因 認為 人 需要 去 做

決定 对 我 觉得 可能 我们 对于 简单 的 理解 不 一样 啊 我 同意 选择 哪个 代码 可能 相对 简单 一些 但是 即使 那个 比如 比如 我 跑 我 跑 这个 代码 的 结果 是 我 要 花要 花万 billion 成 一个 模型 对 吧 这 并 不是 一个 简单 的 决定 然后 然后 类似 就是 选题 其实 如果 你 从 个人 的 角度 来说 你 可能 你 觉得 你 最大 的 brownnet 可能 是 你 自己 的 时间 和 精力 对 吧 然后 如果 从 我 这个 比较 穷 的 一个 教授 的 角度 还有 我 的 funding 对 吧 你 希望 你 的 funding 真的 能够 放在 重要 的 事情 上 然后 你 自己 的 精力 能 放在 重要 的 事情 上 所以 我 觉得 这些 都 是 为什么 这个 还是 重要 当然 这个 过程 可能 会变 就是 我 这里 边 一个 assumption 很多 的 还是 你 真的 把 这个 东西 push 到 最后 一个 很 好 的 结果 还是 需要 一个 non trivial 的 资源 不管 是从 funding 或者 从 你 个人 的 定义 来说 比如 到 最后 你 可能 要 到处 跟 人 说 这个 结果 很 重要 对 吧 然后 跟 我 的 同行 说 这 是 一个 最 重要 的 结果 简单 地 说 我 要 在 上面 签 我 的 名字 这 其实 都 不是 一个 non trivial 的 決定 因為 這個 AI 有 可能 即使 來歷 或者 變小 但是 AI 有 可能 就是 bullshit 就是 我並 不想 花 很多 精力 去 sell 一些 不 重要 的 結果 那 當然 這個 選擇 可能 會 發展 成 在 某個 階段 變成 AI 給我 三篇 文章 我 決定 哪個 文章 最好 然後我 就 去 發 那個 文章 但是 我 就 很 難 想像 即使 是 那樣 的 過程會 發生 因為 每篇 文章 之後不 可能 是 Zerodollars 就是 这个 之后 还是 会 有

各种 别的 资源 所以 这个 假设 是 还有 你 在 你 需要 有 这个 负责 任 你 需要 对 所有 事情 负责 任对 实验室 负责 任对 钱 负责 任对 对 这个 你们 整个 组 你们 这个 人 的 这个 声誉 负责 任是 吧 我们 如果 想象 有 的 想象 的 世界 就 没有 你 了 这个 整个 我们 这个 科学 就 交给 AI 去 做 了 我 最后 只用 看 你 的 结果 就是 如果 这样的话 是不是

就 对 我 觉得 就 这个 跟 我 刚才 说 是 这样 的 就是 你 要 怎么 看 这个 结果 对 吧 就 你 这个 结果 你 在 你 这个 sumption 是 这个 描述 当中 结果 是 一个 很 简单 的 我 一眼 就 能 看透 的 事情 但是 AI 带来 的 效果 恰恰相反 对 吧 AI 可以 生成 一百万 篇文章 或者 是 atrillionpaper 然后 这些 文章 里面 可能 有错 的 可能 有 即使 是 人 也 不 可能 百分之百 是 对 的 对 吧 我 觉得 这个 是 就是 除非 人 彻底 消失 我 觉得 这是 这个 一种 可能性 但是 那个 可能性 可能 跟 我 也 没有 什么 太 大 关系 但是 只要 这个 还 涉及 到 跟 人会 有 影响 呢 所以 说 除非

我们 把 整个 科学界 都 交给 人 就 人 不 参与 了 这 估计 是 不 可能 的 那 总归 AI

要 分人 没有 没有 我 觉得 不 只是 不 参与 这个 过程 就 不 参与 这个 比如说 换 一个 就 我 假设 世界 上 再也 没有 科技 家 大家 就是 过 他们 自己 的 日子 对 吧 但 他 需要 用电 对 吧 但是 AI 出来 的 这个 结果 可 一个 新 的 结果 可能 会 用 耗电 远远 超过 人 可以 接受 的 最后 把 人 能够 使用 的 电 变得 很小 很小 对 吧 就是 一个 AI 的 出来 的 一个 3D 的 结果 没有 完全 没有 人 的 判断 没有 人 的 验证 如果 你 把 它 真正 交给 AI 就让 AI 把 这个 就 运行 了 是 还是 会 最后 影响 到 人 的 生活 对 吧 就 会 或者 药 的 例子 如果 但是 药 你 可能 会 说 这个 很 highstake 但 比如 药 也 是 一个 很 简单 的 例子 我 就 AI 给 我 一个 药 就是 告诉 你 你 这个 你 吃 了 这个 就 能 长生不老 你 就 吃 吗 对 吧 就是 我 觉得 这是 一个

AI 还是 要 和 人 交互 的 嘛 AI 是 BOSSAI 最终 决定 做 什么 临床 测试 然后 跟 你 说 你 吃 这个 药 你 吃 这个 药 你 不吃 之后 他 统计 结果 之后 说 这个 药 管用

然后 说 大家 对 不 对 对 对 对 我 觉得 是 有 可能 AI 是 一个 成为 BOSS 这个 结果 我 觉得 我 是 不能 百分之百 说 不 对 的 但是 我 觉得 人 是 需要 来 建立 这个 你 怎么 判断 这个 药 是不是 好 的 这个 protocol 这个 protocol 不会 是 就是 因为 AI 说 了 这个 好 就 对 吧 就是 我 至少 我 个人 觉得 这是 一个 我 不能 接受 的 这个

standard 所以 最终 还是 要人来 做 决定

啊 我 很 难 想象 至少 这 不是 现在 的 科学 的 standard 对 吧 就 即使 是 你 发 了 ScienceNature 不是 bydefinition 就是 它 就是 一个 breakthrough 前不久 就 还有 一个 操导 的 文章 发了 Nature 然后 然后 有 很多 靠 这个 结果 证明 是 假 的

对 吧 是 个 韩国 科学家 是 吗 就 在 网上 都 已经 出圈

了 讨论 对 不 对 有 几个 不同 的 那 段时间 这个 话题 恰好 特别 火有 几个 不同 的 结果 都 是 Anyway 我 觉得 在 极端 情况 下 最小 的 即使 你 认为 AI 可以 完全 做 选题 但 比如 AI 完全 做 选题 AI 可能 认为 让 人 长生不老 是 一个 完全 不 重要 的 问题 AI 这个 标准 其实 从 你 刚才 说 的话 至少 人要 写个 提示 词 告诉 AI 我 觉得 让 人 长生不老 是 比较 重要 的 不是 让 AI 长生不老 最 重要 的 这 也 是 选择 的 一个 方式 但是 个人 觉得 我 很 难 相信 这是 最后 的 方式 我 觉得 我们 应该 比 这个 更 有 创意 一点 然后 会 做 出来 更好 的 ideally 会 有 更好 的 方式 有 的 人

描述 未来 的 世界 是 一个 有点 可怕 的 图景 啊 就是说 未来 AI 可以 使得 我们 还是 需要 有人 就是 谭 教授 说 那个 人 最终 去 给 一些 指令 给 一些 判断 但 那些 人 不 需要 很多 就是 可能 一些 几个 精英 他 就 可以 比如说 你 你 們 搞 AI 的 領域 你 可能 根本 不 需要 現在 好 幾萬人 在 搞 你 就 需要 就 那麼 幾十個 人 一百 個 人 就夠 了 全世界 就 需要 那麼 一百 個 AI 科學家 他 審核 所有 的 他給 所有 的 AI 大 AI 搞 指令 對 吧 AI 就 去 做 AI 有些 事情 可能 不能 做 但 下面 他 可能 需要 人去 做 比如 人工 啊 什麼 就是 打 标签 啊 什么 的 那 他 就 雇 一些 非常低 技术含量 的 工作 雇 很多很多 人 我们 人类 就 在 那 给 AI 打 标签 给 AI 算 结果 然后 上面 那 一百个 人 就 在 那 控制 AI 在 那 做 所有 的 重要 决定 就 AI 通过 他们 做 的 这 听 上去 好像 是 个 非常 非常 可怕 的 你 可以 把 这件 事情 套 在 很多很多 领域 就 有人 认为 未来 世界 就是 这样 的 他 就 觉得 这个 世界 是 会 成为

这样 这个 是 很 classic 的 一个 担心 对 吧 就是 这 就是 为什么 要 做 以人为本 的 人工智能 或者 有 的 时候 大家 会想 把 自己 的 人工智能 对 吧 我 觉得 我 一直 来说 我 感觉 我 这些 都 是 属于 我 最 感兴趣 的 这个 问题 就是 你 怎么 可以 让 AI 来 为 人 服务 而 不是 最后 这个 AI 统治 人 但是 我覺 得 我 最新 覺得 這其實 在 矽谷 已經 發生 了 對 吧 就是 在 Meta 剛發生 了 這樣 一件 事情 對 吧 就是 你 可以 把 你 可以 把 很多 人 的 科學家 都 解雇 了然 後 然 後 你 可能 只要 顧 很少 的 人 他們 至少 信念 是 說 這一 很少 的 一部分 人 就 可以

做出 來 就 好 對 這個 你 們 來 說 是 一個擊 嗎 會 覺衝 得 他 一下子 這樣子 才 這麼 多 科學家

不算 東西 吧 因為 這個 感覺 大家 都 知道 了 嘛 就是 要 這 一步 一步 就是 發展 到 了 這 一步 就是 應該 會 發生 了 而且 我 不 知道 你們 的 感覺 至少 我 跟 矽谷 的 人 聊 的 感覺 感覺 很多 人 都 有 這種 擔心 吧 就是 覺得 AI 明天 就 代替 了 我 吧 我 沒 有 啊 我 沒 有 啊

不行 啊 幹 不了 做 啊 幹

不了 啥事 啊 哎 司徒 能 展开 讲讲 你 觉得 为什么 你 很 有 安全感 吗 这 都 不行 了 哎

不行 了 哎呀 就 好像 一个 非常 新 的 程序员 一样 经常 做事 也 非常 毛毛躁躁 的 经常 做 的 经常 犯 一些 低级 错误 还要 我 给

他 擦屁股 是不是 之类 的 哎呀 不能自己 擦屁股 吗 像 那种 的 哎 不是

他 他 肯定 也 你 也 告诉 他 错 他 自己 去 擦屁股 的 他 不 知道 还 没 意识 到 他 错 了 呀 这个 我 前段时间 AI 犯 了 一些 非常 离谱 的 错误 比如说 他 这些 就是 什么 staticclass 和 class 搞反 了 我 这种 错误 还要 我 告诉 他 这个 AI 还 不行 啊 这个 慢慢 慢慢 我 觉得 AI 要 取代 比较 资深 的 工程师 我 觉得 还是 还是 还是 需要 时间

的 你 觉得 是 需要 多少 时间

呢 我 也 不 知道 反正 是 我 我 还是 比较 难 想象 我

的 工作 能够 但是 你 覺得 你 剛才 說 那個 現象 沒有 發生 嗎 就 像 你 說 的 就是 你 需要 更少 的 資深 的 工程 師來 完成 以前 一樣 多 的 事情 在

我們 這還 沒有 但是 普通 多數 的 程序 員 他 做 的 工作 並 不是 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 寫 怎么 和 他们 这个 怎么 看看 是不是 需要 的 所以

主要 工作 是 沟通 是 吗 对

啊 程序员 做 大 的 工作 都 是 沟通 啊 程序员 做大 工作 并 不是 写 代码 呀 啊 当然 程序员 可能 有 很大 的 工作 是 debug 这 可能 是 啊 这个 如果 如果 AI 能 但 debug 很多 时候 也 是 可能 我 现在 是 做 这个 企业 工夫 就 很多 时候 是 在 理解 用户 在 干什么 为什么 会 有 这样 的 办法 他 为什么 就是 他 很多 时候 并 不是 一个 你 给 一个 重现 然后 让 AI 去 看 怎么 重现 是 为什么 如果 这样 的 还 简单 了 根本 没有 重现 是 吧 你 就要 看 是 怎么回事 你 就要 寻找 这些 事情 是 怎么回事 啊

哦 所以 你们 你们 的 情况 这个

不好 用 嗯 那 不是 这样 吗 你 觉得 你 的 工作 要 被

取代 了 吗 我 觉得 应该 对 我们 这儿 大家 挺 就是 挺好用 的 呀 就 debug 什么 的 也 用得上 有些 时候 啊 不是 说 所有 时候

啊 是 可以 用 的 上 但是 我 并 不 觉得 它 能 取代 我 啊 就是 我 也 现在 也 在 用 了 我 也 觉得 我 也 很 惊讶 它 很多 事情 都 可以 做 得 非常 好 但是 我 并 不 觉得 它 能 取代 我 它 是 成为 一个 我 很 有利 的 工具 嗯 我 并 不 觉得

我 觉得 还是 因为 你 足够 资深 所以 你 不 觉得 能 取代 我 觉得 在 没 那么 资历 没 那么 浅 的 人 他 会 觉得 说 就是 很 容易 被 取代 嗯 对

我 回到 刚才 说 那个 愿景 就 很多 人 就 描绘 的 事情 是 不仅仅 是 人类 被 AI 统治 而且 他 是 上面 还有 几个 精英 在 那儿 寡头 是 吧 很 少数 的 那个 全世界 有 那么 几个 寡头 他 在 控制 AI 大多数 人 在 AI 下面 就是 AI 是 一个 相当于 是 一个 统治 工具 啊 这个 图景 是 一个 非常 非常 可怕 的 一个 图景 对 很多 人 来说 是 吧 进 不到 那个 上面 就是 在 那个 下面

我 没有 更好 的 啊 我 觉得 这个 可能 已经 发生 了 已经 发生 了 对 吧 没有 吗 我 觉得 我 觉得 这个 从 某个 意义 上 已经 发生 了 吧 对 吧 比如 TikTok 各种 社交 媒体 对 这个 世界 的 影响 是 极其 大 的 然后 它 是 掌握 在 很 少数 人 手上 就 包括 现在 的 TikTokCloud 这些 我 觉得 某一上 已经 发生 了 呀

我 之前 就 举过 例子 嘛 很多 领域 已经 发生 了 嘛 因为 过去 大家 去 商店 嘛 商店 买 东西 商店 有 销售 商店 有 很多 的 人 工作 在 给 你 售货员 给 你 结账 给 你 拿 现在 的 未来 图景 是 什么 呢 就是 在 Amazon 雇 一些 什么 人编 一个 程序 然后 你 就 去 那些 仓库 里面 有人 把 东西 帮 你 拿 出来 幫助 著 還有 一些 人 在 倉庫 裡面 拿出 來然後有 一些 外賣員 一些 投遞員 把 你 放到 你家 裡面 就 現在 大家 大多 數人 都 在 做 這些 倉庫 的 工作 和 外賣 的 工作 然 後 只有 極少 數人 在 上面 做 決定 這個 東西 是 吧 賣

什麼定 價什麼 的 對 啊 對 啊 我 覺得 你 的 例子 反正 我覺 得 這個 願景 就是 是 很 可怕 但 同時 它 已經 在 發生 我 沒 有 一個 特别 好 的 怎么 改变 它 让 它 不 发生 的

答案 那 你们 以人为本 的 人工智能 怎么

能够 让 你 人为 本 一点 回到 刚才 聊 的 这个 科学 上 发展 上 我 觉得 这 也 是 为什么 这个 场景 我 觉得 相对来说 更 容易 做 一点 就是说 你 可能 怎么样 达到 一个 好 的 效果 怎么样 发现 更好 的 科学 是 一个 相对来说 更 容易 定义 的 这个 结果 对 吧 但是 如果 到 社會 上 什麼樣 是 一個 好 的 社會 結構 什麼樣 是 一個 大家 都 過上 幸福 快樂 的 生活 是 一個 更 難定 義的 問題 然後但 我 覺得 可能 比較 基礎 的 一些 原則 啊 或者 最 後 你 可能 是 需要 變成 這個 就是 回到 最開始 說 的 fact 我覺 得 無論 它 還是 一個 非常 重要 的 它 是 一個 少數 的 既有 計算機 也 有 各個 領域 的 人 參 與 的 一個 討論 當中 對 吧 我 覺得 這個 是 一個 你 不通 過 制定 政策 是 很 難 改變 的 事情 然 後 即使 制定 政策 需要 政策 对 对 对 你 需要 一些 别的 对 在 一起 做 ideally 可能 每个 人 都 有 自己 的 这个 声音 然后 可能 大家 可以 在 这个 参与 到 这个 最后 做 决定 的 过程 当中 然后 最后 会 有 一些 checkandbalance 来 保证 这个 结果 不是 那么 糟糕 但 我 觉得 overall 这 跟 可能 这些 世界 大 趋势 没有 很大 的 区别 吧 可能 就是 不 平等 是 在 变大 的 然后 呃 跟 剛才 說 的 那個 phenomenon 其實 是 直接 相關 的 就是 有 幾個 人 可能 可以 掌控 很多 決 定然 後 大部分 人 可能 只能 得到 更少現 在 在

科學界 科學界會 有 這樣 的 趨勢 比如 因為 過去 比如 你 大科學家 非常 厲害 的 非常 有 很多 經驗 的 又 非常 就是 做 這 方面 的 就是 態度 他們 不 可能 招 那麼 多 博學生 做 那麼 多 領域 的 嘛 他們 有 很多 的 idea 那 你 以 後 AI 會不會 讓 比如 說 讓 他們 科学研究 的 产出 会 变得 更大 那 可能 大家 的 饭 吃 就 越来越少 了 顶部 那些 最 优秀 的 人 他 可能 感触 越来越 大 那 下面 的 人 可能 就 觉得 要 跟上 科学 的 脚步 会 越来越 难 然后 就 越来越 看来 科学 应该

还 没有 这样 的 这个 不好 预测 吧 这个 就是 exactly 这个 我 想 理解 或者 想 至少 在 这个 过程 当中 贡献 一点 东西 的 原因 嗎 我 覺得 這 另一方面 你 可以 想 如果 每個 人 都 有 AI 可能 它 可以 其實 可以 讓 大家 更 平等 就是 你 可能 可以 做 ingeneral 我覺 得 這個 不太可能 是 真是 這樣 的 但是 我覺 得 在 科學 這個 領域 可能 是 可以 有 一些 就 有 兩 部分 一部分 是 你 有些 東 西特 別 resourceheavy 你 真的 你 就 只有 幾個 人 可以 建 碰撞 機 只有 幾個 人 可以 在 這 上面 跑 實驗 對 吧 就 這 方面 可能 很難 改變 这个 结果 但是 也 有 很多 科学 是 他 并 不是 完全 不要 钱 不过 不要 不要 这个 资源 但是 没有 那么 resourceheavy 我 觉得 在 那些 你 有 可能 会 看到 一些 因为 有 AI 大家 变得 更 平等 更 平等 啊 我 觉得 我 觉得 有 一个 好 的 机制 来 支持 这个 下 一步 的 这个 既 在 这个 怎么 做 科学 上 又 在 怎么 在 这个 这个 设计 这 科学 整个 激励机制 的 这 上面 我 觉得 都 应该 需要 有 大 的 变化 了 我 觉得 至少 刚才 说 的 这个 发 paper 这个 模式 我 个人 觉得 完全 不合理 了 就是 不 应该 是 不能 靠 论文 来

贫水 的 人 怎么样 啊 需要 一个

新 的 机制 对 对 对 我

觉得 韩 教授 有没有 什么 新 的 想法 吗 这 新 的 机制 会

是 什么样 的 一個 是 quality 吧 然後我覺 得 另 一個 是 credit 本身 至少 我剛 才 說 的 那種 selection 和 evaluator 這些 role 本身 應該 要 有 credit 就是 你 可能 有些 人 就是 做 很 好 很 好 的 這個 驗證 一些 AIoutput 的 這種 工作 應該 也 是 也 應該 得到 很多 credit 我覺 得 這 至少 是 這是 比 較 直接 的 另外 在 這個 博客 裡面 我 也 討論 一些 比較 不 一樣 的 想法 比如 說 你 這個 有些 會議 純粹 就給 AI 然後人 的 會議 可能 並 不是 完全 是 為 了 發 文章 然 後 這些 會議 大家 在 上面 討論 的 話題 可能 也 會 有 變化 的 就是 我覺 得 需要 一个 比较 完整 的 一个 改变 但是 实际上 可能 会 一步 一步 我 也 不 确定 到底 会

所以 人类 角色 可以 有 更 多 的 变化 从 做出 结果 到 评判 AI 能够 做出 的 结果 可能 觉得

角色 更 值得 评判 对 比如 刚才 说 的 选题 我 觉得 选题 至少 现在 可能 选题 本身 并 不是 就 选题 只是 间接 通过 你 的 结果 来 得到 一些 激励 但 也 有 可能 将来 选题 本身 会 得到 一些

激励 的 这个 听 上去 很 有 道理 就算 是 科学 泰斗 据说 是 那些 最 厉害 的 人 最 最终 是 谁 来 评判 他们 的 工作 最 重要 我 还是 需要 我们 大家 是 吧 还是 需要 有 我们 更 多 的 人 有 从 各个 不同 的 视角 更 多 的 角度 来 甚至 是 外行 就是 别的 跨 领域 的 人来 评判 他们 的 他们 的 结果 我 觉得 这个 谭 教授 给 我们 发现 了 一个 希望 啊 带来 了 更 多 的 希望 啊 因为 我们 AI 反而 会 拉平 我们 和 太 多 之间 的 距离 是 吧 我们 的 想法 过去 没有 资源 太多 有 资源 可以 把 它们 都 验证 我们 要 有 AI 了 我们 有 有 有 很多 事情 我们 也 可以 做 我们 也 可以 这个 和 这些 学术 大牛 进行 讨论 我 觉得 不

只是 资源 吧 也 有 就是 想法 就 可能 有些 以前 可能 觉得 有些 想法 知识 有些 人有 但是 現在 可能 通過 AI 你 可能 也 可以 得到 另外 一個 就是 我覺 得 這也 是 我 不 知道 有些 這種 hottakesessionAI 肯定 是 有 可能 可以 讓 一部分 人 可以 學到 比 以前 多 很多 的 知識 就是 現在 你 可能 不 需要 去 聽別 人 上 課談 這些 東西 特别 厉害 的 东西 机器 可以 一直 告诉 你 帮助 你 学习 的 东西

对出 获得 信息 确实 要 容易 了 很多 是 吧 有 很多 信息 可能 过去 你 没有 在 你 没有 那个 资源 很难 得到 现在 可能 就 更 容易 了 是 吧 对 对 对 有些 支持 可能 普通人 都 不行 的 你 必须 去 比如说 你 在 好 的 大学 有 大学 的 图书馆 有 各种各样 资料库 你 才能 搜索 出来 现在 大 模型 很多 时候 都 可以 直接 告诉 你 这 非常 非常 不 容易 的 事情 非常 非常 的 有意思 啊 我 觉得 我 觉得 非常 引发 我们 的 思考 啊 windy 有 什么 问题

吗 我 觉得 是 觉得 还是 ingeneral 还是 好奇 这个 上次 见到 这个 陶 老师 已经 是 三四年 前 了 吧 然后 过去 这 四年 就是 整个 业界 也 发展 了 然后 学术界 也 发展 了 这个 这 四年 心路 逆程 其实 前面 也 提 了 一些 但是 可能 想 听听 你 的 偏 总结性 的

发言 吧 对 啊 Chad 的 GVD 刚 出来 的 时候 我 觉得 我 当时 是 比较 shocking 我 觉得 那个 时候 是 就是 真的 是 有 算 中年 危机 反正 就是 有 比较 强 的 危机感 会 觉得 在 学术 线 可能 不能 做 这个 比较 有 影响力 的 工作 或者 是 不算 有效率 的 工作 就 比较 难 做 有 意义 的 工作 然后 这个 和 工业界 的 区别 很大 那个 时候 我 刚好 凭 这个 techno 然后 所以 后来 我 就 在 工业界 呆 了 一年 然后 我 觉得 一个 是 模型 现在 可能 更 accessible 然后 就 也 有 更 多 信息 出来 然后 就 这 一年 我 也 自己 写写 写 代码 什么 的 我 感觉 就 比如 像 司徒 一样 我 可能 我 觉得 这些 出来 至少 对 我 来说 我 首先 我 不 担心 他 取代 我 可能 但是 我 觉得 是 比较 empowering 就是 我 现在 可以 有 时间 写 代码 或者 是 我 还 可以 写 一些 我 想 做 的 事情 我 以前 可能 就 完全 没有 时间 做 这种 事情 因为

快 了 很多 所以 你 能 做

很多 以前 做不了 的 就 回到 刚才 说 的 比如说 我 以前 有个 想法 我 可能 要花 一两个 星期 一个月 去 做 一个 实验 现在 我 可能 花 一两天 就 会 做 了 然后 之前 我 就 可能 只能 依靠 学生 或者 只能 就是 比较 难 做 这种 事情 但是 现在 可能 我 通过 AI 就 可以 做 这些 实验 但是 我 还是 需要 我 刚才 说 的 很多 想法 都 是 我 自己 可能 想 的 我 觉得 我 应该 花 更 多 时间 去 写 哪个 实验 更 值得 跑 然后 因为 我 跑 这个 实验 可能 写 这个 code 本身 也 就 一两天 的 事 反正 我覺 得現 在 我 覺得 還是 overall 我 還是 更 覺得 excited 吧 就 感覺 有 很多 這個 未知 有 很多 有趣 的 事情 可以 做 這個 可能 剛才 我 也 是 就 如果 大家 去 那個 博客 的 話 我們 還有 一個 平台 就裡面 其實 就 有 很多 這個 AI 或者 我 自己 也 會教 一些 生存 的 一些 研究 的 這個 idea 之類 的 如果 大家 感興趣 可以 可以 看 一眼 然 後 這個 就是 想 有 一個 類似 於 ready 的 這個 過程然 後 大家 可以 通過 upload, download 找到 一些 比較 promising 的 idea 我覺 得現 在 我 自己 是 覺得 我度過 了 那個 AI 對 我 衝擊 最大 的 階段然 後 我 覺得現 在 Overall 我覺 得 我 還是 我 自己 還是 比 較 optimistic 的 但是 我覺 得 這個 跟 整個 剛才 說 到 討論 了 一些 這個 對 於 社會 這個 level 我覺 得 我 其實 可能 並沒有 那麼 optimistic 但是 沒有 那麼 樂觀 就是 也 沒 有 那麼 樂觀 沒有 那麼 樂觀 對 吧 我 覺得 大家 都 沒 有 那麼 樂觀 吧 其實 世界 就是 這樣 但是 可能 長 期來 說 還是 希望 有 一些 更好 的 想法 會 出來 可以 改變 這個 局面 吧 但 我 覺得 至少 純粹 從 這個 人 工作 或者 是 這個 研究 這 方面 我覺 得 這個 最低 的 這個 低谷 感覺 過去 了 就 感覺 還是 有 很多 有趣 的 問題 可以 做 還是 有 很多 重要 的 問題 可以 在 學術界

做 我 觉得 这个 乐 不 乐观 这个 东西 可能 很多 时候 也 跟 大 环境 很 有 关系 吧 那个 四年 前 的 世界 也 挺 不

一样 的 对 对 现在 也 是

不 看 了 我 觉得 现在 也 有 很多 未知 对 吧 整个 经济

啊 什么 都 变 了 但是 AI 我 觉得 在 某一方面 可能 相对 来讲 它 是 超乎 我们 的 预期 的 某些 方面 可能 又 又 没有 达到 我们 预期 的 吧 比如说 他 对于 生产力 的 提高 我 觉得 他 是 超乎 我 至少 超乎 我 的 预期 但是 他 真正 能够 怎么 说 呢 聪明 对 他 真正 能够 做 高级 决策 这件 事情 我 并 没有 看到 他 有 什么 没有 达到 他 做 低级 重复 性能 制造 血 代码 来讲 是 超出 我 的 预期 但 他 他 真正 能够 做 高级 决策 我 觉得 他 还是 没有 达到 什么 很

好 所以 人要 来 做 决策 对

吧 对 啊 所以 人 很 有用, 不然 呢? 非常感谢 谭 教授 来到 我们 节目 给 我们 讲 了 讲 回顾 了 过去 几年 的 这个 他们 这个 领域 的 变化 给 我们 讲 了 讲 未来 的 科学界 会 是 什么样 AI 给 科学界 带来 的 挑战 以及 未来 AI 的 愿景 未来 的 愿景 在 人 和 AI 合作 来 做 科学研究 是 什么 样子 非常 的 有意思 也 引发 了 我们 很多 的 思考 那 就 感谢 收听 我们 节目, 喜欢 我们 节目 请 在 各大泛 用型 播客 平台 订阅 和 收听 那 我们 就 后会有期 后会有期,

下期 再见, 拜拜 拜拜, 谢谢 赐助 和 美女