#127. AI不听话？别被AI渣了！——与AI科学家聊大语言模型的局限

近些年 随着 大 语言 模型 的 问世 AI 的 大 信物 真的 是 一个 接 一个 今天 能 画画 了 明天 能 写 代码 了 搞 得 大家 好像 既 兴奋 又 焦虑 然后 令人困惑 的 是 很多 朋友 都 反映 AI 真的 上 手 以后 好像 又 总用 不 顺手 哪里 觉得 不 对 是 我们 不太会 用 AI 吗 还是 其实 现在 的 AI 我们 需要 去妹 其实 它 并 没有 那么 的 无所不能 为了 回答 这个 问题 我们 请 到 了 深耕 AI 多年 的 科研人员 敏杰 聊 一聊 工作 生活 中 他 是 如何 使用 AI 以及 更 重要 的 他 没有 用 AI 来 做 什么 在 他 眼中 AI 其实 就 不 太 擅长 做 什么 但愿 这 期 节目 能够 缓解 一下 我们 的 AI 焦虑 这里 是 牛油果 烤面包 大家 好 欢迎 来到 本期 的 牛油果 烤面包 我 是 Sean 最近 这 一期 节目 准备 聊 一个 大家 非常 关心 非常 火热 大家 相信 在 各个 地方 都 无数 看到 过 的 一个 话题 AI 为了 准备 这 期 节目 我 还 请 到 了 一个 老朋友 我们 在 MSI 很多很多年 之前 就 认识 的 王敏杰 他 现在 是 在 亚马逊 做 高级 的 科学家 不 多 介绍 了 就 你 自己

来 介绍 自己 吧 听众 朋友 们 大家 好 高级 是 不 高级 不过 大家 现在 反正 都 是 在 AI 圈 里边 混口饭吃 不过 我 现在 是 在 亚马逊 云 科技 上海 人工智能 研究院 我们 主攻 方向 其实 就是 人工智能 然后 我 之前 是 毕业 于 纽约大学 最近 几年 其实 主攻 的 也 都 是 在 AI 这个 方向 去 看 最新 的 一些 研究成果 等等 这些 你 刚才

提到 你 很多年 前 就 开始 做 AI 方向 那 是 在 多少 年前

哦 那 这个 是 比较 久 了 其实 我们 在 我们 当时 在 魏来阳 教育 研究院 实习 的 时候 对 吧 哦 那个 已经 将近 有 十年 前

了 我 估计 是 很多年 前 真的

很多年 前 当时 我们 其实 已经 开始 看 这个 方向 而且 为什么 会录 这个 坑 啊 其实 蛮有意思 的 是因为 我们 当时 看 了 一篇 工作 这篇 工作 是 neuroscience 神经科学 神经科学 而 他们 就是说 因为 当时 其实 很多 的 技术 不像 现在 发展 那么 多 视觉 等等 这些 就是 计算机 视觉 这些 领域 才 刚刚 起步 那 是 多少 年前 基本 就是 在 1 年 12 年 可能 在 这 之前 这 段时间 可能 10 年 那 段时间 对 吧 你 想想看 那

十几年 了 对 那 时候 好多 东西 都 没有 连 推荐 算法 都 可能

比较简单 都 比较简单 对 然后 当时 为什么 会录 看 呢 就 觉得 非常 酷 的 一件 事情 就是 我们 遇到 一个 神经科学 的 老师 然后 我们 在 一起 讨论 的 时候 发现 在 神经科学 当中 和 神经网络 就是 当时 其实 刚刚开始 慢慢 兴起 神经网络 这样 的 一个 风潮 对 不 对 它 有 很多 的 相关性 其实 很多 的 现在 的 这样 的 一个 结构 它 其实 是 模仿 人脑 对 不 对 有 一些 通过 人脑 来 的 一些 设计 的 灵感 对 吧 而且 我 觉得 每个 做 计算机科学 的 这样 的 一个 方向 的 人 他 都 有 个 梦想 说 未来 能 不能 做出 一台 人脑 是 電腦

嘛 電腦 這個 東西 就 已經 告訴 大家 他們 終極夢想 就 做出 個 腦來

沒錯 是 的 然後因 為 這個 原因 所以 我 就 入 坑 這個 行業 了 這個 東西 當時 遇到 了 很大 的 阻力 因為 那個 時候 其實 大家 並不認 可神經 網絡 你 知道 嗎 雖然 其實 已經 有 一些 當時 我們 不 知道 大家 是不是 知道 像 那個 Hinton 這些 著名 的 現 在 是 同齡 兩德者 對 吧 他們 已經 說 神經 網絡 其實 是 下 一個 趨勢 對 吧並 不是 所有人 都 認可 這件 事情 的 所以 說 在 比如 說 公司 裏 邊 也好 在 學界 你 去 推動 說 我 想 做 這件 事情 其實並 不是 那 麽 容易 的 別人問

你 為 什 麽 要 做 這個 說 哎呀 我 跟 生物 學家 聊 了 一聊 就 想 這 麽 做 了 他們 就 翻白眼 是不是 現在 就 不 一樣 了 現 在 不 一樣

了 現 在 不 一樣 了 你還 不再 做 神經 網絡 你 是不是 個 上 世紀 的 人 我們 發現 這個 整個 崛起 的 過程 其實 是 個 非常 有意思 的 這樣 的 一個 過程 就 比如 說 我們 在 07 年 的 時候 那個 時候 就 開始 有神 經網絡 的 開始 大家 可以 發現 神經 網絡 可以 在 這個 圖片 當中畫 一個貓 大家 覺得 哎 這件 事情 覺得 啊 現在 看來 這算 什麼 呀 對 不 對 但 其實 那個 時候 是 個 非常 突破性 的 一件 事情 因為 什麼 因為 他 並沒有 任何 的 規則 在 裏 面 他 完全 是 從 數據 裏 邊學到 了 這樣 的 一個 就

沒 有人 跟 你 說貓 是 一個 四 隻 腳 一個 圓腦 的 還沒到

這個 階段 只是 貓的 臉現 在 是貓 的 臉還 只是 貓的 臉 他 沒 有 到 那麼 厲害 對 只是 畫了 一個貓 的 臉 但是 他 厲害 就 厲害 在 說 其實 我 並沒有 顯示 的 告訴 這個 模型 說貓 的 臉 是 長 什麼 樣子 完全 是 從 數據 裏 面學到 的 然 後 你 就 慢慢 的 發現 這樣 一套 方式 它 就 變成 了 一個 非常 好 的 榔頭 他 可以 去 到 處 這個 領域 去 挑釘子 他 先 在 Vision 當中 就 我們 剛說計 算器 視覺 當中 獲得 了 突破性 的 這樣 的 成果 然后 就是 在 比如说 自然语言 在 语音 等等 这些 领域 都 获得 了 很 高 的 一个 成果 然后 发展 到 现在 你 就 可以 看到 像 CHARGEBT 这些 出来 其实 它 都 是 基于 深切 网络 只不过 是 沿着 角色 不断 的 发展 数据量 更大 模型 更大 达到 了 今天 这样 的 一个 层面

现在 大家 其实 对于 普通人 来说 对于 神经网络 这样 一个 概念 都 比较 陌生 但 大家 对于 ChatGP 这个 东西 现在

可能 是 人尽皆知 对 出圈 了 其实 大家 为什么 现在 对 ChatGP 非常 关注 我 觉得 有 一点 是 一种 叫做 AI 焦虑 对 不 对 是 一种 焦虑 但 事实上 我们 去 看 其实 AI 焦虑 这件 事情 它 不是 一个 个案 事实上 我们 从 很早以前 就 已经 有 这样 的 一个 风潮 比如说 97 年 的 时候 不 知道 大家 是 有没有 印象 那个 时候 有 一个 著名 的 案例 叫做 深蓝 他 战胜 了 当时 的 国际象棋 冠军 叫 卡斯帕 洛夫

对 这样 你 说 的话 其实 这种 事情 就是 感觉 之前 大家 提到 AI 好像 都 是 这么 一个 以 下棋 为 中心 的 新闻 事件 就 之前 是 下 国际象棋 然后 就 战胜 了 这么 一个 国际 冠军 然后 之前 好像 再 往前 看 好像 之前 AlphaGo 谷歌 的 AlphaGo 战胜 了 李 适时 当时 也 掀起 一波 AI 的 很大 讨论 但 那些 都 发生 在 CHPT 爆炸

之前 爆炸 之前 但事 實上 那個 時候 其實 有 很多 人 已經 開始 思考 這個 問題 了 說 哇 AI 會不會 他 到 有 一天 的 能力 會 取代 人類 是 是 是 對 不 對 為 什麼 因為 你 想 哇 你 你 下棋 其實 是 件 很 難 的 事情 啊 是 對 不 對 在 至少 在 大眾 的 眼中 大家 看 啊 下棋 好難 呢 對 不 對 你 AI 都 已 經能 下棋 了 是 是 是 啊 所以

戰勝 是 全世界 最 厲害 的 選手

哦 對然 後 XGBT 為 什麼 這次 為 什麼 引爆 了 呢 其實 另外 有 一個 非常 重要 的 一點 是 他 第一次 把 AI 做到 了 貼 近 於 普羅大眾 的 這樣 一些 任務當

中 就是 平时 大家 下棋 也 没有 那么 想要 下棋 甚至于 普罗 大众 的 下棋 希望 A 还 没有 那么 强

你 至少 有 一點 快感 是不是 但是 現在 這不一樣 因為 他 第一次 把 AI 這樣 一個 技術用 一個 非常 好 的 一個 產品 的 方式 把 它給 呈現 在 了 這個 所有人 眼中 然 後 大家 第一次 近距 離 感受 到 哇 AI 其實 可以 做 很多很多 事情 所以

我 很 好奇 這期 特別 找 你 作為 一個 科學家 過來 聊 這些 節目 這是 因為 對 我們 普通人 來 說 正如 你 所 說 的 覺得 AI 出來 了 下期 好 厲害 好像 接下去 就 新聞 又 冷掉 了然 後 下 微信 也 很 厲害 又 冷掉 了然 後 這次 到 GPT 說 我們 能 用 了 他 真的 很 厲害 那 是 我們 的 觀感 那麼 以 你 這樣 一個 科研 界 的 人 的 視角來 看 你 會 覺得 這 一次 的 新聞 特別 是 這次 ChatGPT 突然 火爆 你 的 觀感 是 什麼 樣子

的 那 我 其實 我 覺得 你 這個 問題 我 可以 用 一個 圖片 來給 大家 形容 一下 我 就 不 知道 大家 有 沒 有 看過 一個 漫畫 圖片 這圖片 是 一個 很 可愛的 小狗 坐在 一間 房子 裡那 房子 在 熊熊大火 的 熱量 上 他 非常 冷靜 的 看 著 你 一眼 I mfine 對 我 沒事 對 我現 在 就是 這個 小狗 的 感覺 知道 嗎 我 跟 所有人 都 說 I mfine 但事 實上 我們 也 發現 周圍 都 是 熊熊大火 就是 這樣 的 一種 感覺 你

可以 具體 解釋 一下 這個求 窮大夥 是 什 麽 樣 的 感覺 嗎 因為給 我們 普通人 來 說 因為 感覺 我們 普通人 因為 對 AI 不 知道 它 到底 能 幹什 麽 同時 的 話 每次 看到 它 能 幹 的 一些 很 厲害 的 事情 就 特別 恐慌 所以 我覺 得 我們 是 在 我們 要 被 AI 替代 了 我們 工作 到 都 要 沒 有 了 這樣 的 一個求 窮大夥 當中 那 麽 你 的 視角 你 的 大夥 是 什

麽 呢 其實 我 覺得 我 為 什 麽 說 這句 話 有 兩個 層面 第一 個 層面 就是 我們 表面 上 還是 要 冷靜 所以 為什 麽 我 要 跟 你 說 I mfine 對 不 對 就是 因為 我 覺得 這些 問題 都 是 能 解決 的 這是 第一第二 確實 它 的 技術 的 發展 速度 遠超 我們 的 想象 超過

你 們 研究 員 的 想像 超過

我們 研究 員 的 想像 事實 上 我 有 個 朋友 我 有 個 朋友 他 跟 我 說 我 在 ChaiGPT 出來 之前 我 不 相信 AGI 也 就是 ArtificialGeneralIntelligence 這是 通用型 的 AI 通用型 的 AI 能夠 在 我 有生之年 我 能夠 看到 但是 ChaiGPT 完全 打破 了 這樣 的 一個 想法 我覺 得 我 可能 有生之年 能 看到 AGI 了 其實 就是 一個 非常 顛覆性 的 包括 SORA 我們 看到 SORA 非常 驚艷 對 不 對 是 我 做 Vision 的 同學 對 不 對 他 就 跟 我 說 他 完全 超過 了 過去 所有 的 工作 能夠 達 到 的 極限 所以 你 說 這 是不是 雄雄 大火 是 雄雄 大火 對 不 對 因為 它 的 發展 速度 遠超 你 的 想象 對 吧 但是 我們 仍然 我要 回到 說 我 為 什 麽 要 把 它 變得 非常 的 冷靜 對 吧 就 說 我們 覺得 我 覺得 我們 作為 一個 科學家 對 吧 我們 要 透過 現象 看本質 是 为什么 他 能够 非常 冷静 你 如果 理解 了 他 的 本质 之后 你 可能 心里 就 会 冷静 很多 你 知道 他 其实 现在 技术 即使 发展 到 那么 快 他 可能 还是 有些 地方 是 有些 根本 上 的 瓶颈 的

那 我們 聽 就 好好 的 聊聊 根本 上 的 瓶 頸 因為 我們 今天 主要 還是 要治好 大家 的 AI 焦慮 有 這個 自信 可以 說 出來 I mfine 對 我 覺得 這個 也

是 希望 我 能夠 帶給 大家 一些

想法 吧 所以 其實 坦誠來講 就是 作為 一個 使用 AI 的 普通人 來 說 我 感覺 用 AI 一直 處 在 一個 很 奇怪 的 感覺 裡面 因為 好像 每次 看新聞 都 看到 大家 好像 用 AI 有 一些 Demo 做出 來 非常 厲害 畫出 來 非常 厲害 的 話 包括 你 刚刚 提到 SORA 那 真的 是 哇 新闻 里面 全部都是 大家 看 他 那 几段 演示 视频 是 吧 一个 女生 在 东京 街头 啊 包括 什么 两艘 船 在 咖啡 那边 转来转去 啊 然后 包括 其实 有 很多 的 播客 或者说 是 新闻 聊到 说 AI 我们 可以 做 这个 做 那个 做 这个 做 那个 可以 写文章 写小红书 文案 怎么 怎么样 包括 很多 爆炸性 的 AI 的 产品 什么 又 能 生成 图片 啊 怎么样 到处 都 是 但是 我 不 知道 听众 各位 有 尝试 过 使用 AI 吗 我 自己 的 感觉 就是 AI 似乎 我 让 他 做 一些 小 的 事情 的 时候 感觉 还 不错 是 还 不错 但是 一旦 我 真的 让 他 做 一些 我 想象 中 应该 是 很 fancy 他 能 做 的 事情 的 时候 就 会 碰到 各种 问题 比如说 我 之前 尝试 让 他 来 帮 我 写 小说 那个 真的 是 体验 非常 差 然后 包括 我 有 朋友 说 让 他 尝试 生成 一些 图片 但是 会 发觉 好像 怎么弄 都 弄 不到 他们 想要 的 结果 包括 其实 我们 现在 这个 时间 点 我们 现在 是 204 年 4 月份 录制 的 其实 离 当时 那个 ChattyBT 引爆 整个 社交 网络 已经 差不多 要 过去 一年 时间 了 但是 好像 感觉 周围 的 各种 人 都 生活 沒有 那麼 的 被 AI 改變 所以 我 就 特別 很 好奇 因為 對 於 我們 普通人 來 說 會 有 一個 疑問 是 我們 沒 有用 好 嗎 還是 它 本來

就 不能 做 某些 事情 對 而且 作為 我們 做 研究 我們 還會 思考 另外 一個 問題 因為 我們 要 以 一個 變化 的 視角來 看 這個 世界 因為 它 會 發展 對 不 對 另外 一個 問題 就是 說 如果 它 的 模型 變得 越來 越 大 對 不 對 我們 投入 更 多 的 人力物力 去 改進 它 它 是不是 未來 有 一天 能夠 解決 你 剛說 的 這些 問題 對 不 對 哪些 是 根本 的 問題 哪些 是 可能 能夠 通過 一些 工程 手段 對 吧 去 解決 的 問題 對 吧 我 個 人 使用 觀感 是 跟 你 很 相似 因為 是 這樣 就是 說 我 覺得 有 一點 就是 我們 我們 要 研究 這個 東西 第一件 事情 就要 使用 它 這是 非常 重要 的 所以 說 我 其 實作 為 一個 研究 人員 我 平時 用 XGBT 也好 或者 說 其他 的 一些 大圓 模型 也好 我們 用 了 很多很多 首先 我 先講 一下 我 的 工作 性質 我們 平時 的 工作 更 多 的 是 兩件 事情 其實 一件 事情 是 寫代碼 寫代碼 對 你 別 以 為 科學 科研 人員 不 寫代碼 科研 人員 也 很 需要 寫代碼 你 要 跑 實驗 對 不 對 你 要驗證 你 的 想法 你

需要 寫代碼 對 吧 搭建 實驗 環境

說 的 高級 一點 太好了 我覺 得 我 非常 需要 你給 我 做 個 人工 包裝然 後 第二件 事情 就是 看論 文對 吧 好 那 在 這兩件 事情 當中 呢 我 經常 使用 洽西 比給 我 寫代碼 是 但是 我 不是 讓 他 那個 比如 說 我現 在 要 做 一件 事情 我要 做 一件 事情 我 完全 沒有 讓 他 說 我 期待 他 能夠 一鍵 就 幫 我 把 這 事情 全部 做 完 我 從 來 沒 有 這樣 的 期待 我事 實上 我 都 會 怎麼樣 的 我 會 讓 他給 我 寫 很多 小 的 片段 多 小 比如 說 舉個 例子 就 比如 說 比如 說 我 想 讓 他給 我 寫 一段 小 的 代碼 說 我現 在 有 個 文件 夾裡面 有 很多 文件 我 想 把 它們 全部 load 上來 然後去

做 一些 處理 處理 是 比如 說

排序 什麼 之類 的 可能 還沒有 那麼 複 雜對 事實 上 排序 這些 東西 是 已經 很 高級 的 工作 了 更 多 的 是 一些 比如 說 我 對 這些 文件 進行 一些 變換 格式 進行 變換 數據 做 一些 處理 等等 這些 問題 TXT 变成 CSV 之类 的 东西 这 其实 差不多 是 类似 于 这样 的 东西 这个 当中 的 难点 是 什么 其实 是因为 你 可能 面对 的 不同 的 复杂 的 环境 软件 环境 你 可能 需要 掌握 不同 的 软件 的 使用 方式 那 这些 东西 我要 去 查 一些 文档 之类 的 我 可能 太 繁琐 我 还是 理解 这些 文档 这些 调用 是 怎么 做 我 那 不如 让 那 chat 给 我 写 一段 代码 感觉 我

周围 的 很多 人 特别 是 做 工程 类 工作 好像 都 是 做 类似 的 事情 相当于 是 以前 你 一个 东西 他 调整 接口 不 知道 怎么 用 他 可能 就 Google 一下 然后 自己 去 比如说 一些 网站 比如说 stackoverflow 看看 别人 写 的 一些 东西 然后 自己 在 那边 耕耘 耕耘 搞个 两三个 小时 你 也 知道 你 肯定 能够 做 出来 这个 事情 但 他

就是 烦 然后 另外 一个 就是说 我读 论文 对 不 对 但是 我 非常少 用 ChatBee 给 我 读 论文 你

非常少 用 因为 感觉 好像 大家 想到 ChatBee 的 应用 其实 市面上 很多 都 是 做 总结 归纳 超多 这样 的

软件 和 插件 是 对 吧 但是 我 其实 用 它 做 的 非常少 我覺 得 這個 我們 可以 展開 討論 首先 是 第一 個關 於 這個 問題 第一 個 問題 就是 關於寫 代碼 這個 問題 我 為 什麼 說 我 一直 覺得 我們 的 日常 的 開發 工作 其實 更 多的並 不是 在 於 這些

繁瑣 的 事情 上面 查 API 然後去 調用 東西 對 而 更 多 的

是 什 麽 其實 是 你 整個 統籌 的 和 規劃 的 這樣 一個 過程 比如 說 我現 在 要 解決 一個 問題 對 吧 比如 說 我現 在 要 build 一個 比如 說 一個 復 雜的 系統 對 吧 這個 系統 包括 比如 說讀 文件 包括 读完 文件 之后 对 它 进行 处理 处理 完 了 之后 比如说 我要 做 一个 建模 因为 我 是 做 机器 学习 的 我 要 做 建模 建模 完 了 之后 呢 我 要 把 它 给 做 建模 的 结果 进行 分析 分析 完 了 之后 我要 可能 反攻 对 不 对 那 整个 流程 当中 你 会 发现 其实 最难 的 部分 而 你 花 时间 最多 的 部分 是 什么 是 分析 的 这个 部分 对 吧 而 你 使用 XGBT 的 是 什么 呢 是 使用 它 来 解决 每 一个 环节 的 一些 小 的 step 对 这个 是 我 现在 看到 ChaiGB 能够 解决 的 问题 它 能够 解决 一个 有 constraint 有些 限制 的 每 一个 小 的 step 但是 如果 你 要 让 它 解决 一个 非常 长线 的 有 好几个 步骤 串 在 一起 的 这样 一个 复杂 的 问题

就 先 把 文件 露出 来 把 它 变换 格式 把 数据 导到 哪边 然后 怎么样 放到 Model 里面 去 做 一下 运算 运算 完 之后 数据 出来 之后 进行 一些 分析 这么 一步 一步

一步 的 东西 對 這個 當中 其實 你 要 讓 他 一步 幫 你 把 這些 問題 全部 解決 我 去 喝個 咖啡 對 不 對 這個 目前 來 說 是 完全 做 不到 的 這是 完全 做 不到 的 你 剛才

說 到 你 用 GPT 會 寫 到 一些 比較 具體 的 比 較 小 的 一些 工作 但是 比如 說 大 的 流程 你 是 不會 讓 他 去 弄 的 但是 像 我 另外 比如 說 我 在 寫 小 說 的 時候 我 這樣 一個 經歷 比如 說 我 可以 問 GPT 一個 非常 高 level 的 問題 很大 的 問題 比如 說 寫 小 說 分為 哪 幾個步 驟然 後 GPT 可以 1234567 幫 我給 寫 出來然 後 我 在 用 他 的 回答 里面 说 第一步 那 我 该 怎么 去 做 这个 事情 他 也 可以 跟 我 说 第一步 你 可以 做 这个 事情 就 好像 似乎 感觉 上 来说 ChatGPT 他 知道 做 一件 事情 大概 highlevel 的 步骤 是 哪些 同时 又 你 说 了 他 可以 去 做 一些 具体 的 比如说 操作 文件 这么 基本 的 事情 那 是不是 可以 异想 的 认为 说 你 叫 ChatGPT 自己 操作 自己 你 说 有 这么 一个 大 的 任务 你 说 GPT 说 那 我 一二三四五 要 分五個 步驟 同時 的 話 我 再 自己 問 自己 第一步 該 怎麼 做 他 就 越做越 小 越做越 小 這個 事情 做 完 了 事實

上 你 說 的 這個 東西 其實 是 個 非常 火熱 的 研究 方向 叫做 通用 智能 體聽 上去 名字 非常 fancy 對 吧 就是 叫 agent 對 吧 英文 叫 agent 對 因為 像

剛才 提到 過 Chattyptee 剛出 來 的 時候 很多 人覺 得 自己 的 工作 會 被 替代 因為 你 會 感覺 好像 是 只要 我 是 一個 普通人 我 不會 任何 的 事情 我 就 可以 通過 這個 方法 比如说 我要 写歌 我 问 GPT 该 怎么 写歌 他 跟 我 说 要 12345 然后 我 再 问 第一步 怎么 做 他 自己 看 我 说 帮 我 分解 下来 第一步 要 这么 做 那 我 说 第一步 那 你 做 掉 吧 他 就 做 了 一个 小 的 事情 这样的话 我 没有 任何 的 能力 但是 我 可以 做 所有 的 事情 这时候 给 大家 很大 的 恐慌 说 所有 的 事情 都 可以 被 替代 对

对 对 我 知道 你 的 意思 但是 你 有没有 考虑 过 你 可能 让 他 做 的 每 一步 都 有 犯错 的 可能性 犯错 的 可能性 对 为什么 这么 说 就是 因为 从 本质 上 来说 我们 现在 看到 的 这些 模型 对 吧 它 都 是 概率模型 什么 叫 概率模型 就是说 它 最后 给 你 的 预测 永远 是 不能 保证 是 准确 的 结果 的 就是

实质 上 你 问 拆机 BT 的 某 一个 问题 它 给 你 列 12345 它 都 跟 你 说 是 有 可能 是 12345 或者 这么 说

吧 就是 你 让 它 12345 其实 我们 假设 12345 是 对 的 对 不 对 然后 你 让 它 做 1 对 不 对 它 做 了 这个 1 它 可能 会 做 错

就 他 沒 有 辦法 保證 他

不能 保證 每 一步 都 能 做 對 可能 是 很大 概率 對 不 對 但是 他 不能 保證 每步 都 做 對 這是 個 會 犯錯 的 這樣 的 一個 工具 這和 我們 之前 遇到 的 工具 完全 不一樣 的 就是 我們 之前 用 比如 說計 算器 對 不 對 我 n1 就是 1 加 1 就是 2 你 不能 說 1 加 1 出來 等 於 3 對 不 對 那 這個計 算器 肯定 是 要 返償 回修 的 对 就 计算机

虽然 它 做 的 运算 是 比较简单 的 但是 你 可以 确定 我 只要 按 的 没有 任何 错误 它 那个 结果 我 是 可以 完全 放心 闭着

眼睛 相信 的 闭 着 眼睛 相信 的 没错 我 不 需要 验证 你 不 需要 验证 对 吧 但是 现在 的 AI 模型 因为 它 本质 上 是 个 概率模型 所以 它 每 一步 都 有 可能 犯错 的 这样 的 一个 概率 对 吧 它 是 理论

上 就 一定 可能 会 犯错 對

是 的 這是 沒有 辦法 逃脫 的 它 就是 本質 上 就是 這樣 一個 模型 它 不能 是 完全 準確 的 它 可能 準確性 非常 高 但是 也 不是 百分之百 準確 的 對 吧 那 這 裏 就 帶來 一個 問題 了 對 不 對 你 可能 第一步 我運氣 好 可能 做 對 了然 後 我 再 做 第二步 對 不 對 那 第二步 我要 做 第一 我要 最終 達 到 我 一個 事情 全部 做 完 假如 我 有 十步 我 要求 每 一步 做做 對 呀 對 是不是 那其實 我 每 一步 犯錯誤 的 概率 在 這個 整個 步驟 當中 是 被 不斷 的 累加 的 對 不 對 你 可以 想像 這個 問題 就是 說 而且 這個 累加 並 不是 大家 想 的 是 我 可能 把 它 加起 來 它 是 一個 指數 增長 的 你

讓 我 突然 想起 來 一個 小 時候 我們 看過 的 一個 綜藝 節目 叫 靠背 不 走樣 就是 那个 节目 相当于 是 这样 他 就是 把 所有 嘉宾 然后 列 成 一排 然后 每个 嘉宾 只能 看到 他 前面 一个 嘉宾 做 什么 动作 然后 第一个 主持人 会 告诉 他 我们 要 做 这样 一个 动作 比如说 是 描述 一只 鸡 做 一些 动作 然后 接下去 第一个 嘉宾 就是 转过身 来 给 第二个 嘉宾 演示 这个 东西 然后 第二个 嘉宾 要 看 完 他 的 演示 之后 记下来 给 第三个 嘉宾 去 展示 那个 动作 然后 又 就是 因为 每次 大家 都 会 做 错 一点点 然后 就 会 导致 最后 那个 嘉宾 他 看到 那个 动作 就是 千奇百怪 他 根本 猜 不 出来 这

是 个 机对 是 的 是 的 所以 这 就是 问题 这 其实 就是 现在 的 不论是 大 语言 模型 也好 机器 学习 模型 如果 我们 要 追溯 的话 就 像 我们 刚刚 谈到 的 其实 现在 的 大 语言 模型 它 还是 基于 之前 的 机器 学习 深度 神经网络 这样 的 一个 本质 的 模型 是 他 还是 一个 概率 基础 的 他 是 概率 基础 对 所以 他 不能 保证 你 每 一步 都 是 对 对 吧 那 如果说 你 的 一个 步骤 非常复杂 你 可能 有 十步 甚至 二十步 事实上 我们 可能 做 任何 一件 小 事情 他 都 可以 好几个 步骤 对 不 对 那 你 这个 错误 会 被 无限 放大 就 像 你 刚刚 说 的 最后 可能 你 看到 的 完全 不是 你 想要 的

东西 就 相当于 是 让 他 做 复杂 工作 就 相当于 是 给 这些 所有 的 嘉宾 做 一个 靠背 不

走样 对 是 这个 样子 所以 你 可以 看到 为什么 我 提到 刚刚 说 我 其实 可能 并 不能 用 恰其 一件 的 方式 去 解决 我 现在 所要 做 的 完整 的 一个 工作 对 吧 因为 完整 的 工作 往往 是 好几个 步骤 的 对 吧 就 像 我们 刚刚 描述 的 你 可能 需要 从文件 里面 去 读 一些 数据 对 吧 然後讀 數據 以 後 呢 要 去 對 他 進行 一些 分析 分析 可能 建模 建模 以後獲 得 答案 的 答案 之後還 要 展現 在 比如 說 最終 的 屏幕 上 對 不 對 那 整個 過程 當中 每 一步 都 可能 出錯 啊 對 不 對 那 我 肯定 不能 完全 使用 ChartGB 幫 我 一步到位 對 吧 我 只能 讓 他 完成 每一個 小 的 步驟 因為 每個 小步 驟 我 是 能夠 理解 他 的 結果 是 什麼 的 這也 其實 談到 另外 一個 問題 就是 說 因為 我 是 寫代碼 的 你 是 寫代碼 的 我 是 寫代碼 的 我 如果 讓 他給 我 負責 我 的 銀行 賬戶 我絕 對 是 不敢相信 的 或者 說 讓 他 告訴 我 說 我 現在給 我 診斷 一下 根據 我 的 比如 說 X光 片去 診斷 一下 我 的 這個 是不是 身體 有些

問題 就是 一旦 對方 跟 你 說 我 有 可能 犯錯 你 就 不敢 讓 他 去 做 很多 事情 了

是 的 是 的 事 實上 這個 當然 我 相信 大家 肯定 會想 說 人 也 會 犯錯 對 人 也 會 犯錯 是不是 AI 其實 在 一定 程度 上 也 很 像 人 因為 人 也 會 犯錯 不是 計 算器 了 但是 大家 有 沒 有 考慮 過一個 問題 我們 其實 比如 說 醫院 對 不 對 我們 為 什麼 trust 醫院 它 不僅 是 說 因為 它 經過 多年 的 培訓 它 其實 把 這個 錯誤 率 降低 了 當然 你 可以 說 這一點 可能 AI 經過 不斷 的 訓練 它 也 可以 把 錯 誤率 降低 對 不 對 它 另外 有 一個 機制 就是 說 它 可以 保護 你 什么 叫 保护 对 吧 就是 如果 医生 他 可能 一个 医生 犯错 了 但是 如果 你 是 个 复杂 的 疾病 他 可能 会 有 多个 医生 一起 会诊 或者说 他 有 一整套 机制 说 如果 你 犯错 了 对 吧 至少 能够 说 可能 第一步 他 可能 不会 上来 就 给 你 做手术 对 不 对 他 可能 先给 你 做 一些 小规模 的 无创 的 先 检查一下 保证 不断 的 用 一些 步骤 去 减少 你 的 这个 犯错 的 概率 就是 质量 监控 Exactly 就是 一些 质量 监控 的 方式 对 吧

来 保护 你 就 包括 像 食品安全 包括 飞行 航空 这些 东西 这些 复杂 的 地方 大家 好像 发觉 只是 人类 在 面对 人类 会 犯错 这件 事情 上面 就 开发 出来 一些 很 复杂 的 流程 然后 确保 我们 会 检查 一遍 两遍 怎么样 对 是 这样 的

而 现在 如果 我们 去 看 ChargePT 对 不 对 这 就是 为什么 说 我会 让 他 来 写 代码 就是 因为 我 懂 代码 就是 你 可以

做 自己 的 智囊 监测员 对 我

其实 给 他 擦屁股 了 当然 从 这个 角度 来看 对 吧 所以 这 就是 为什么 说 我 可以 非常 放心 的 去 使用 它 对 吧 因为 我用 它 完 之后 我 看到 结果 我 可以 看到 说 它 生成 的 代码 是 什么 样子 它 的 结果 是 怎样 的 我 非常 有 信心 这个 东西 我 自己 真的 使用 的 时候 我 是 可以 完全 信任 它 的 而且 也 并 不是 一次性 解决 所有 问题 对 不 对 因为 就 像 我 刚刚 说 的 他 每 一步 都 会 有 放大 的 错误 对 不 对 你 如果说 最后 出现 了 错误 其实 我 都 不 知道 他 哪里 是 犯错 了 这 让

我 想到 就是 包括 你 刚刚 提到 为什么 让 他 做 一些 小 的 工作 是因为 小 的 工作 他 要是 犯错 他 就 很 简单 很快 就可以看 出来 是 的 但是 如果 一些 复杂 的 系统 它 错误 的 累加 了 之后 你 看到 最后 那个 结果 其实 作为 一个 人 就算 你 有 专业知识 也 会 觉得 有点 头疼 到底 哪里 犯错 了 哪里 不 犯错 了 呢

对 因为 这个 屁股 很难 擦 就是 这个 道理 是 的 让 我 想到

我 之前 尝试 用 AI 去 写作 然后 会 发觉 我 如果 让 他 一 开始 就 说 你 给 我 写 一篇 文章 我要 写成 这样 的 东西 我 发觉 他 写 出来 的 不好 但 我 非常 非常 的 难 描述 和 告诉 他 到底 哪里 不好 然后 最后 我 想到 就是 其实 我会 发觉 针对 一篇 写 出来 的 文章 告诉 他 哪里 写 的 不好 几乎 就是 一个 专业 书评人 这样 的 一个

专业性 的 很 难 的 工作 对 这 是 没错 的 因为 相当于 也就是说 在 很多 情况 下 质检员 这个 工作 也 不是 很 好 当 的 對

他 如果 說 在 一個 食品 工廠 裏 面 比如 說 他 可能 在 某些 具體 的 步驟 裏 面 他 可能 只 需要 看 這個 步驟 比如 說 東西 是不是 黃 的 這 麽 簡單 的 事情 這個 事情 很 好 做 比如 說 AI 他 可能 犯錯 他 做出 個紅 的 東西 一眼 看出 來 就 不 對 就 扔掉 了 但是 如果 你 說 所有 的 步驟 全部 做 完之後出 廠 那個 產品 你 去 看 它 好 還是 不好 可能 就是 沒有 那 麽 直觀 了 包括 或者 說 是 就算 錯 了 你 也 不 知道 是 在 具體 哪個 步驟 可能 料加 多 了 次 數加 多 了 對 對 對 是 的

事 實上 而且 特別 是 在 這種 專業 領域 非常 強的 這些 問題 上面 對 吧 就 像 我剛 說 的 可能 管理 你 的 所有 的 銀行 帳戶 對 不 對 管理 你 的 所有 的 健康 報告 這些 其實 是 要求 非常 非常 強的 專業性 的 這樣 一個 領域 就 像 你 說 的 他 的 質檢員 本身 就 很 難當 因為 你 需要 相應 的 專業 知識 普羅大眾 肯定 是 沒 有 這樣 的 知識 的 在 這種 情況 下 你 需要 的 更 多 的 是 說 我 可能 事實 上 人類 社會 就 像 我們剛 描述 他 也 是 通過 把 這個 問題 簡化 變成 一 小步 一 小步 之後然 後 通過 很多 的 檢測 機制 來 保證 說 你 不會犯 錯誤 而 不是 像現 在 我們 希望 的 看到 說 我 可能 把 我 的 所有 的 問題 一股 腦子 丟給 AI 他 幫 我 一步 全部 解決 那 這件 事情 我覺 得 目前 來 看 是 不 太 現實 的 那

我 随便 举 一个 比较 扯淡 的 例子 比如说 既然 人们 知道 人们 会 犯错 所以 搞 出来 这些 质检 的 SOP 吧 那 是不是 可以 让 蔡吉

PT 做 自己 的 质检员 但是 一样 的 这 就 变成 一个 计程 大横大 乘机 的 问题 了 对 不 对 那 如果 质检员 犯错 你 怎么办 呢 对 吧 因为 质检员 就 像 我们 刚才 说 质检员 很 难当 的 对 不 对 他 需要 有 非常 强大 的 专业知识 同时 他 能够 在 有限 的 范围 内 对 不 对 能够 解决 这个 问题 這也 是 一個 比 較熱 的 研究 方向 事實 上 就 像 我剛 提到 的 多 智能 體我們 現在 看到 有些 研究 工作室 怎麼 做 呢 他 會 用 兩個 GPT 他們

互相 對抗 這是 一個 用 來 做 事情 另外 一個 就是 來 找茬 一個

是 產品 經理 一個 是 馬 農對 不 對 就是 這樣 的 一個 邏輯 因為 他 希望 模擬 這個 社會 的 分工 嘛 有 一些 蠻 有意思 的 發現 但是 也並 不是 完全 達到 說 我 覺得 這個 我們 所謂 的 犯錯 的 這個 標準 能夠 降低 到 說 我們 可以 完全 生活 使用 的 這樣

的 一個 水準 所以 大家 可能 对于 他 GPT 会 犯错 没有 个 概念 但是 按 你 的 说法 其实 他 犯错 的 概率 没有 很 低 因为 大家 会 平时 比如说 用到 云 服务 云 服务 当然 他会 说 我们 service 会 down 但 他 每次 都 说 我们 是 可以 保证 我们 的 服务 9 .% 什么 6 个 97 个 9 的 概率 是 好 的 是 这样 的 一个 精确性 但是 GPT 按 你 的 说法 只是 很多 时候 犯错 的 可能性

没有 那么 对 这里 其实 也 取决于 另 一个 非常 有意思 的 问题 是 说 为什么 你 刚刚 说 的 9 .% 我们 是 非常 相信 的 是因为 这件 事情 好 衡量 啊 他 down 就 down 了 吧 down 了 你 可以 知道 你 可以 measure 你 可以 測量 說 他 是不是 down 了然 後 你 可以 calculate 一個值 9% 4 個5 對 不 對 但是 我現 在 讓 他 生成 一首 詩你能 告訴 我 這個詩 到底 是不是 犯錯 呢給 你 生成 一張 圖片 這個 圖片 是不是 犯錯 這個 當中 其實 有 很多 的 問題 的 就 比如 說 我們 看 SORA 我們 剛講 到 SORA 對 不 對 我們 看到 有 好多 很 impressive 的 video 對 不

對 那個 SORA 大家 看到 那個 哇 那個 在 女人 在 在 那個 日本 街頭 哇 那個 反光 那個 光影 都

非常 的 真實 對 是 這樣 的 但是 我 記得 當中 有 一個 非常 有意思 的 一個 視頻 這是 說 一個 螞蟻 對 不 對 在 一個 牠 的 蟻 穴 裏 邊在 爬行 的 這樣 的 一個 主觀 視角 是 對 吧 然 後 這個 其實 是 成為 他們 的 一個 那個 那個 銷售 案例 一樣 的 是 是 是 就 拿出 來 說 但是 我 記得 當時 楊樂坤 就是 那個 圖靈獎 獲得者 就 說 楊樂坤 楊樂坤 對 吧 他 就 說 世界 上 有 什麼 螞蟻 是 四 隻 腿 的 嗎 就 馬 上 指出 這個 問題 但是 你會 發現 這個 事情 很 有意思 就是 我們 所有人 都 沒 有 注意 這個 問題 是 對 不 對 所以 沒有 注意 事實 上 還有 一個 案例 也 是 這樣 的 就是 他 有 一個 是 一個 人 在 那 邊畫 一棵 樹 水彩 畫的 棵

樹 也 是 那個 SORA 的 一個

生存 的 視頻 非常 非常 棒 我 當時 覺得 我 看到 都 驚 呆 了 我 說 怎麼 能 穩 定性 做 那麼 好 對 不 對然 後 我 放大 了 我 發現 他 在畫 的 這個 細節 方面 對 不 對 它 的 顏色並 不是 跟 著 你 的 筆出 來 的 它 只是 在 這個 附近 繞動 也 就是 說 我 可能 點在 這個 地方 我在畫 這個筆 但是 顏色 在 旁邊 的 一點會 出來 顏料

可能 是 在 筆周圍 在 那邊 螺旋形

狀對 它 的 顏料 其實 somehow 就是 出現 在 你 的 筆周圍 而並 不是 貼著 你 的 筆的 對 不 對 但是 它 不 影響 你 的 觀感 是 你 有 沒 有 發現 這個

問題 就是 你 沒 有點 出來 這件 事情 之前 大家 可能 沒 有意 識到

當然 可能 沒 有意 識到 大家 覺得 所以 這 就是 蠻 有意思 的 一個 問題 就是 說 其 實人 的 視覺 系統 是 非常 好 被 欺騙 的 然 後 這一點 其實 讓 我 想到 其實關 於 人 的 視覺 系統 是 有 很多 的 研究 的 在 幾 年前 的 時候 MIT 做過 一個 研究 他 想 知道 說 人 究竟 比如 說 能夠 接收 多少 的 視覺 信息 他 能夠 在 多久 反饋 出 就是 說 做出 一個 反應 對 他 做 了 一個 這樣 的 事情 就是 說 他 拿 一疊 照片 可能 12 張事 實上 不止 12 張然 後 他 讓 這個 觀察者 來 看 這個 照片 然後拿 那個 就是 感應器 放在 你 的 腦袋 上 然後去 感應 說 你 是不是 對 這個 照片 產生 了 反應然 後 發現 就是 說 人 其實 反應 速度 是 非常 快 的 就是 說 他 能夠 在 將近 13 毫秒 的 時候 就 能 反映 出來 這個 圖片 上 是 什麼 13 毫秒 是 什麼 概念 就是 70 幀 也 就是 說 我們 大家 在 課本 上 覺得 可能 是 24 幀 對 不 對 就是 看個 電影 能夠 看到 連續性 但 事實 上 人 的 反應 速度 是 非常 快 的 也 就是 說 是 70 幀 你 就 可以 看到 一張 圖片 然後對 它 做出 反應 那 大家 可以 思考 一個 問題 就是 這個 圖片 上 有 多少 的 信息量 事實 上 是 很多 的

大家 可以 看到 一張 高清 的 照片 有 多少 MB 的 大小 嗎 多少

的 MB 大小 你 可以 去 算 這個 東西事 實上 它 的 量級 在 百萬 甚至 千萬量 級 的 第二 個 比例 這是 其中 一個 研究 另外 一個 研究 是 說 人腦 它 做出 一個 邏輯 反應 它 大概 要 處理 多少 信息 事實 上 這個 比特率 要 遠 低 於 我們 剛說 到 的 視覺 的 比特率 但是 人 就是 很 厲害 啊 對 不 對 它 能夠 誒 一個 非常 大 的 信息 進來 了 對 不 對 但是 它 能夠 做出 很快 的 反應 像 你 覺得 這是

為 什麼 就是 抓大放小 抓 重點 你

说 的 非常 好 也就是说 他 其实 扔掉 了 很多 的 东西 然后 这 就 印证 了 什么 印证 人 其实 很 好 很 容易 被 骗 的

这个 我 觉得 大家 可以 理解 就是 像 包括 印象派 的话 就是 画个 大概 的 感觉 就是 很多 时候 的 图像 就是 刚才 你 提到 的 那个 SORA 的 一个 问题 就 大家 可能 乍看之下 比如说 70 毫秒 的 那个 时间段 大部分 确实 没有 什么 太大 的 错误 就

OK 的 pass 对 而且 另外 一个 事实 我们 可以 来 佐证 刚刚 说 的 观点 就是说 我们 在 B 站上 喜欢 看 的 一类 视频 是 什么

我 看 的 和 你 看 的

可不 一样 的 但是 有 一类 事情 非常 火 就是 比如说 我们 很 喜欢 看 《 甄 嬛 传 》 解说 对 不 对 《 甄 嬛 传 》 都 被 盘出 包浆 了 对 不 对 我们 喜欢 看 《 甄 嬛 传 》 的 解说 对 吧 有 一类 《 甄 嬛 传 》 的 解说 就是 穿帮 解说 对 不 对 我们 去 专门 去 看 说

这 一针 突然 出现 个 摩托车 對

就是 他 比如 說 誰 穿 錯 衣服 了 到底 多 了 個 礦 泉水 了 啊 對 不 對 等等 這些 東西 大家 看 了 很 驚 豔 為 什麼 呢 是 因為 其實 第一 你 從 來 沒 有 關注 到 這些 東西 第二 呢 你 又 看過 這個劇 你 又 看過 這個 劇對 不 對 是 吧 所以 其實 他 就 說 明什麼 其 實人 在 看 這個 視覺 的 時候 對 吧 他 其實 根本 不會 關注 說 這些 局部 的 細節 那 更 多 的 是 理解 一個 概念 是 對 吧 那 理解 概念 就 代表 說 其實 這當 中 有 很大 的 一個 空間 就是 說 比如 說 對 於 SORA 這些 AI 來 說 它 完全 可以 生成 一個 我 叫 它 什麼 我 叫 它 非常 棒 的 魔術師 它 可以 生成 一個 看上去 很 真的 東西 但 實際 上 它 可能 完全 不 符合

物理 現實然 後 你 要 想到 以 後 可以 有 一個 B 站 專門 的 視頻 是 叫做 看 SORA 視頻 裡面 的 穿 幫鏡頭 这个 就 像

我们 刚刚 说 的 图片 质检员 是不是

本质 上 是 一样 的 比如说 之前 刚才 提到 什么 女人 在 东京 里面 漫步 然后 你 仔细 看 这个 街头 的 那个 灯 其实 是 错误 的

对 是 所以 这就是说 其实 我们 说 他 会 骗人 对 不 对 但 骗人 并 不是 一件 坏事 事實 上 我們 其 實過 往 很多 的 這個 industry 對 吧 或者 說 很多 的 行業 都 是 基 於 騙 人來 做 的 比如 說 電影 行業 是 很 典型 的 騙 人 的 藝術 對 吧 你 可以 看到 他 的 那個 佈 景 可能 背後都 是 空 的 但 只是 前面 有 一個 面子 但是 讓 你 覺得 很 真實 對 吧 所以 他 有 他 的 應用 場景 但是 他 不能 解決 所有 的 問題 因為 他 的 生成 並 不能 保證 所有 的 細節 都 是 正確

的 包括 你 剛才 之所以 引入 到 這 一段 SORA 討論 是 在 說 像 比如 說 雲 服務 它 的 失敗 是 很 容易 被 大家 看到 的 所以 說 它 也 是 比 較 好 進行 優化 的 但 像 SORA 比如 說 做 視頻 它 的 錯誤 可能 是 千奇百怪 的 对 在 SORA 这个 应用 场景 里面 大家 觉得 无所谓 但是 在 有些 应用 场景 里面 它 千奇百怪 的 错误 可能 就是 会 很 严重 并且 它 比如说 举个 例子 我 现在 有个 非常 奇怪 的 一个 要求 就是 我 现在 要用 SORA 做 视频 其他 我 都 不管 但 我 确保 我 每次 出现 多远 多近 我 那个 饮料 的 品次 上面 那个 logo

一定 要是 对 的 对 这个 其实 是 很多 的 商业 的 需求 你 不能 说 我 卖 一个 某个 产品 然后 他出 另外 一个 产品 的 logo 这是 不行 的 或者 是 在 某个 非常 微小 的 地方 他 的 logo

有 问题 比如说 我 在 这个 复杂 场景 里面 我 10 个 我 的 瓶子 我 一定 要 不论如何 你 人花 再 丑 无所谓 撕根 手指 无所谓 但 我们 那个 瓶子 上面 的 logo 一定 要是 对 的 对 是 的 这个 就 做 不到 了 是 的 如果说

你 要 让 它 10% 正确 这

是 不 现实 的 但是 但是 SORA 就是 現在 看 演示 視頻 就是 變成 了 一個 我 無所謂 只要 大概 感覺

對 就 對 了 對 是 如果 他 有 他 的 應用 場景 就是 還總結 下來 就是 他 有 他 的 應用 場景 但是 你 不能 保證 你 不能 要求 他 完成 所有 的 事情

但 让 我 感觉 好像 这边 你 刚才 提到 AI 拿 AI 做核 计算器 作为 一个 例子 也 包括 刚才 提到 SORA 包括 错误 的 累积 就 感觉 AI 就是 没有 办法 去 做 一些 精确性 的 事情 包括 刚才 我 跟 你 聊到 说 我们 做 一个 饮料 的 广告 我会 发觉 当 需求 本身 变成 对 精确性 有 高 要求 的 时候 AI 就 变得 很 恶心 了

对 是 的 而且 我 其实 想 说 的 是 其实 很多 的 生活 当中 的 任务 不要 看 这个 任务 可能 多 简单 可能 现在 AI 都 能 做 它 的 进行性 要求 都 很 高 的 比如说 呢 就 比如说 除了 我 刚刚 说 的 就是 写 代码 看 论文 以外 对 吧 我 可以 说 最 不 愿意 让 AI 帮 我 做 的 一件 事情 就是 给 老板 做 汇报 OK 對 吧 因為 什麼 因為給 老 闆 做 匯報 要求 非常 非常 精確 你 必須 要 直接 闡述 出 說 比如 你 在 過去 一個 月 做 的 是 什麼 事情 他 達 到 什麼樣 的 結果 你 不能 許有 任何 的 犯錯 因為 這其 實關 係 到 吹牛 逼 對 你 首先 你 不能 吹牛 逼 但是 你 又 不能 說 的 太少 對 不 對 他 是 要求 非常 精確性 的 這樣 一個 工作 對 吧 然 後 你 而且 另外 一點 就是 說 如果 你 寫 的 不 對 這個 可是 關 係 到 你 犯晚 的 這樣 的 一個 事情 對 吧 所以 在 這個 方面 我會 完全 是 讓 自己 去 做 當然 我會 讓 AI 幫 我 做 什麼 呢 比如 說 我 寫 了 幾個 觀點 對 不 對然 後 我 讓 AI 幫 我潤色潤色 成一個 文章 對 不 對 一個 小 的 段落 然後我 當然 還會 再 檢查 一下

你 让 我 想到 你 刚刚 提到 生活 中 需要 精确性 的 让 我 想到 了 我 之前 尝试 用 AI 去 写 一些 比较简单 的 一个 小 程序 吧 相当于 是 比如说 我 让 AI 去 做 一个 摘要 比如说 让 我 分段 比如 一篇 文章 有 很多 很长 嘛 我 说 你 觉得 它 大概 可以 分为 几段 然后 并且 你 给 我 返回 每 一段 前 六个 字 这样的话 我 可以 用 这个 前 六个 字来 做做 很 简单 的 缩影 嘛 就 可以 直接 跳到 那 一行 去 嘛 但是 我 发觉 它 每次 给 我 返回 那 六个 字 可能 都 不是 原文中 出现 过 的

啊 这 也 是 一个 很 对 这 是 我 觉得 是 非常 非常 可以 想象 的 一件 事情 对 吧 因为 首先 他会 犯错 对 吧 第二 就是 你 这个 任务 其实 是 非常 直接 如果说 要是 我来 做 这件 事情 我 都 不会 用 AI 我 可能 写 的 程序 把 它 对 对 对 对 不 对 或者说 我人 就是 复制粘贴 一下 嘛 对 不 对 我 可以 非常 保证 这是 正确 的 但

这件 事情 对 我 来说 精确性 非常 重要 因为 我 之后 的 代码 就是 用 这段 字 去 搜索 原文 找到 它 对应 的 地方 它 一旦 不 匹配 上 一个 标点符号 就 不行 这

就让 我 想到 另外 一个 事情 是 我 有 一个 做 这个 就是 AIGC 对 吧 就是 做 视频 的 朋友 对 不 对 他们 希望 现在 用 AI 给 你 生成 一些 比如说 视频 然后 配 上 一些 文字 给 你 创造 一些 有 一些 意境 化 的 这样 的 一个 听 上去 非常 就是 意境 化 的 这样 的 一个 视频 然后 给 你 一种 比如说 生活 的 情绪 或者说 给 你 一些 观点 等等 这些 东西 然后 他 希望 做 一件 什么 事情 呢 他 希望 有 一个 画面 是 一个 太阳 从 屏幕 的 左边 开始 然后 跨越 整个 层面 从 另外 一边 消失 就是 这么 一件 事情 大家 想想 我 APP 可以 做 吧 是不是 但是 AI 就 沒 有 辦法 做現 在 的 AI 沒有 辦法 生成 這樣 一個 非常 consistent 的 圖片 這個 當中 它 遇到 什麼 問題 呢 就是 它 可能 走 到 一半 這個 太陽 就 不見 了 或者 走 到 一半 這個 太陽 就 分裂 了 或者 說 它 可能 太陽 沒 有 從 左向右 或者 從 上 往 下 等等 它會 出現 很多 這樣 的 問題 這其實 也 是 它 精確性 不夠 的 一個體 現然

後 包括 我 在 想 平時 生活 中 比如 說 像 填表格 很多 時候 其實 你 會 發覺 看似 是 或者 處理 表格 大家 可能 設出 經常 做 的 事情 就是 比如 說 做 一些 報表 處理 一些 文字 什麼 之類 的 事情 都 是屬 於 那種 你 最大 的 包括 審計 我 覺得 審計 是 個 很 好 的 例子 就是 審計 你 會 發覺 它 對 精確性 的 要求 非常 的 高 你 一定 要照 能 對 的 上 你 不能 少個 零多個 零然 後 然后 我会 发觉 周围 的 审计 的 朋友 其实 他们 花 了 很长 的 专业训练 和 一套 流程 就是 为了 确保 他 完全 不 出 任何 的 错误 不会 犯 任何 的

小 错误 是 的 因为 这个 其实 是 关乎 到 那些 整个 财务 的 问题 对 吧 对 这样的话 让 我

想 之前 去年 GPT 刚 出来 的 时候 大家 很 讨论 说 比如说 财务 这种 工作 会 被 替代 掉然 後 但是 反而 就是 你 這樣 重新 再 去 看 的 話 你 就 覺得 這 工作 好像 因為 對 於 精確性 的 高度 要求 反而 又 不會 能夠

被 替代 掉 對 所以 你 要求 的 做 的 工作 你 要 考慮 一下 對 吧 你 要 用 GPT 做 的 工作 它 不能 精確 性太高 它 可能 要 意識 留一點 對 不 對 不能 太過 死板 對 不 對 那 這樣 的 工作 在 什麼 地方 對 吧 這其實 是 我 覺得 是 很多 時候 要 思考 的 一個 問題

包括 我 在 想 就是 大家 也 有 偶尔 会 听到 一个 笑话 他 就 说 好像 我们 在 AI 出来 之前 都 会 觉得 AI 应该 替 我们 去 做 一些 重复 而 繁重 的 工作 这样的话 我们 可以 去 适合 远方 但是 没想到 他妈的 GBT 出来 之后 这 AI 去 适合 远方 了 我们 还 在 那边 做 繁重 而 重复 的 工作 但是 回去 看 这个 事情 的话 说不定 原因 就是 因为 那些 所谓 繁重 而 重复 的 工作 都 是 那些 对于 精确性 要求 很 高 的 工作 然后 适合 远方 反而 是 一个 随便 搞搞 都 没有 问题 的 事情 当然 我 这个 还 说 一下 就 对 我们 普通 小白 来说 适合 远方 适合 什么 师哥 啊 什么 这些 东西 我们 可能 对 他 也 没有 太 多 研究 所以 觉得 他 错 也 我们 看不出来 就 觉得 还 OK 对

这 其实 精确性 我 刚刚 就 提过 了 嘛 对 吧 就是说 事实上 这些 精确性 第一 有 一种 可能性 是 你 这个 任务 本身 就 要求 精确性 高是 对 吧 第二种 可能性 这个 任务 本身 它 要求 多个 决策 對 吧 那 這個 多個 決策 由 於 你 的 每 一步 都 可能 出錯 你 的 最終 的 任務 你 最 後 的 出錯 的 概率 就 會 被 放大 是 是 是 對 這是 AI 它 本質 就是 這樣 一個 模型 它 沒 有 辦法 跨越 的 這樣 一個鴻溝 包括

我 在 想 就是 包括 画画 诗歌 这个 事情 刚才 杨乐坤 那个 例子 比如说 他 发觉 他 犯 了 一些 事实性 的 错误 包括 我们 刚才 提到 好像 是 很 远方 感觉 AI 可以 做 但 说不定 在 专业 的 音乐 人士 或者说 是 在 专业 的 诗人 的 眼中 其实 他 写 出来 的 东西

其实 也 是 错误 对 其实 我 为什么 我 有 另外 一个 形容 就是 形容 我 就 说 大家 不 知道 小时候 有没有 就是 遇到 过 这样 的 一群 男生 这些 男生 在 女生 当中 很 受欢迎 他 為 什麼 受歡 迎 呢 他 就是 會 這 些小 技巧 小 技巧 就 比如 說 他 會 擰 個 燈 泡 啦 對 不

對 擰 個 燈 泡 這個 不行

的 那 寫 首小詩 啦 唱個 小歌 啦 這個 宿舍 樓下 彈琴 做個 做個 小 手工 啦 對 不 對 這些 人 感覺 你 感覺 的 哇 這些 多 才 多 藝多 才 多藝 而且 感覺 是 我們 男生 群體 當中 的 大敵 哇 他 好 厲害 總 是 受 女生 的 歡迎 但是 你長 大一點 你 會 發現 誒 這些 人 可能 沒有 那麼 厲害 嗎 比如 說 他 會 唱 小歌 但是 他 可能 連校園 歌手 大賽 的 比如 說 初賽 就 被 刷掉 了 對 不 對 他 可能 會 做 個 小 手工 但是 你 也 沒 看到 他 做出 什麼 花 對 不 對 啊 等等 這些 可能 在 一些 就 像 你 剛說 的 啊 就是 在 一些 可能 稍微 跨 一些 門檻 的 專業 人士 的 水平 當中來 看 誒 他 的 水平 是 不夠 的 對 吧 只是 因為 我們 因為 不 懂 這些 東西 可能 覺得 他 很 厲害 那 我們 現在 可以 想 就是 說 其實 XGB 類似 於 什麼 或者 說現 在 的 人工智能 AI 像 個 什麼 它 像是 一個 不是 說 我 會十樣 二十 樣 我 可能 會 一百 樣 一千 樣一萬樣 這一個 小 技巧 的 這樣 的 一個 綜合體 那 確實 對 於 我們 大眾 來 說 確實 好 厲害 啊 看 了 感覺 很 厲害 對 不 對 但 實際 我們 要 使用 它 到 生活 和 工作 當中 這個 要求 是 不

一樣 的 不够 的 原因 就是 因为 真正 派上用场 的 时候 精确性 的 要求 就 高 了 或者说 quality 的 要求 就 很 高 这样 看来 其实 我 在 想 AI 这方面 不行 怎么办 我 想 可能 怎么办 的 方法 就是 你 要 想想看 作为 人 这边 你 要 怎么 去 开发 出 一套 帮 AIdebug 或者说 是 AI 擦屁股 发觉 它 精确性 出 问题 马上 制止 马上 修正 的

这样 一套 系统 對 這其實 是 我們 現在 作為 科研 人員 想要 做 的 一個 研究 方向 我覺 得現 在 還是 在 一個 實驗室 階段 完全 還沒有 到 達 就 生產 的 這樣 的 一個 過程 當中 當然 我 覺得 對 於 大家 的 建議 就是 說 還是 要 把 AI 用 在 你 懂 的

地方 就是 AI 會 犯錯 並且 AI 現在 目前 還 不能 幫 自己 擦屁股 所以 除非 你 能 幫 他 擦屁股 不然 的 話 你 就 腎腫 對 就是 這個 邏輯 感覺 好 卑微 啊 結果 我們 的 工作 最後就 變成 幫 AI 擦屁股 這個 好 賽博 不 不

不 我 不 認為 我 認為 這是 一種 社會 的 進步 你 知道 為 什麼 嗎 因為 我 覺得 就是 就是 從 能量 的 角度 來 看 生物 能量 的 角度 來 看 對 吧 其實 可以 像 我剛 說 的 擦屁股 其實 是 檢驗 對 不 對 那 AI 做 的 工作 是 生成 對 不 對 那 生成 其實 是 耗能 非常 大 的 一件 事情 非常 難 的 一件 事情 對 不 對 創作 是 難 的 創作 是 難 的 對 吧 噴就 很 簡單 所以 从 总体 角度 来说 如果 AI 如果 能够 让 我们 所有人 最终 免于 生成 的 痛苦 对 不 对 但是 更 多 的 去 做 检测 对 吧 其实 是 对 大家 来说 是 一件 轻松 的 事情 是 解决 大家 很多 的

问题 但是 让 我 在 想 一个 比较 好 的 用 AI 的 体验 应该 是 在于 AI 生成 完 之后 你 开始 骂 它 使劲 的 喷 它 然后 又 喷 的 越脏 越 好 你 就 很 快乐

但是 現在 目前 AI 來 說 他 其實 也 很 難 做到 就 說 首先 AI 可能 非常 固執 很 固執 他 其實 Sean 你 覺得 AI 有 沒 有 個性 我 覺得 AI

反正 我 是 觉得 我 在 尝试 调教 就是 质检 AI 并且 给 他 一些 反馈 意见 的 时候 他 还 真的 还 蛮 固执 的 就 比如说 我 尝试 让 AI 生成 一张 图片 然后 我 跟 他 说 这边 不太对 你 那个 地方 改一改 小 了 但 他 就 完全 要 很 难 踩 你 很 难 踩 你 是 什么 意思 就是 很难 完全 按照 我 的 说法 他 其他 东西 不动 他 就 按 这个 地方

加 一个 什么样 的 东西 也 就是 說 他 可能 會 有 一些 自己 的 想法 對 吧 就是 會給 你 這種 感覺 對 吧 事 實上 我們 科研 人員 其實 也 研究 這個 事情 OK 對 我們 其實 有 很多 的 文章 研究 說 AI 的 個性 是 什麼 你 知道 怎麼 研究 嗎 不 知道 我們 其 實用 NBTI 的 方式

去 研究 它 這個 是 科學 的

東西 嗎 我 跟 你 說 這絕 對 是 科學事 實上 我過 去 很多 時間 別人 都 說 我們 說 你 們 的 計算 機科學 其實 不是 真科學 你 們 就是 搞 工程 的 我現 在 完全 可以 跟 他 說 No 我們 就是 搞科學 的 而且 是 社會 科學 但是 说 回来 就是 这个 NBTI 的 研究 其实 研究 出来 还是 有蛮 多 的 interesting 的 一个 finding 也就是说 不同 的 大 语言 模型 它 的

NBTI 性格 不 一样 它 的 NBTI

性格 是 不 一样 的 对 吧

而且 它 是 consistent 的 这 是 一个 模型 我 反复 问 他 这些 问题 都 得 出来 对 它 的

做法 很 简单 对 吧 就是 你 是 用 什么 方式 去 测试 你 的 NBTI 他 也 就 用 这个 方式 去 测试 大 语言 模型 而且 测试 好多遍 最後堵 著 一個 綜合 的 平均 的 結論 對 吧 我 記得 具體 的 結論 我 已經 有點 忘 了 但是 我 記得 好像 是 GPT 4 也 就是 沒有 變成 Chart 的 版本 它 是 一個 I 人然 後 ChartGPT 是 個 I 人 ok 你 可以 想象 為 什麼 因為 你 要 讓 他 能 說 話 對 不 對 跟 他 對 話 所以 他 變成 藝人然 後 即使 同樣 的 模型 我 記得 他們 還試過 百川 國內 的 模型 對 吧 百川 的 小 模型 是 個 藝人 但是 他 到 了 大 模型 就是 變成 那個 模型 變大 了 之 後 他 變成 了 個 Iron 為 什麼 變成個 Iron 呢 其實 我 也 能 理解 就是 他 回答 的 問題 更加 的 就是 沉穩 了 更加 的 精確 了 更加 謹慎 了 更加 保守 了 所以 他 變成 了 更加 的 Iron 這樣 一個 方向 他

不會 跟 你 有 一些 太強 的 觀點 他 就是 說 就 可能 是

這個 可能 是 那個 對 的 是 這樣子 的 然 後 這一點 就是 說 除了 這個 NBTI 以外 對 不 對 你 看 我們 這些 計算機 科學家 除了

研究 這我現 在 開始 懷疑 每天 都

在 幹 嘛 除了 這個 以外 還有 一個 非常 有意思 的 文章 研究 什麼 就是 他 的 文章 標題 叫做 Whatopinionsdolargelanguagemodelsreflect? 就是 大圓 模型 擁有 怎樣 的 觀點 這個 是 社會 觀點 或者 政治 觀點然 後 他 做 了 些 什麼 事情 呢 就是 我 其實 就 把 現 在 的 比如 說 美國 大選要 做 調研 對 不 對 要 做 民意 調研 對 不 對 他 把 這個 調 研去 扔給 CHIGBT 然後他 根據 他 的 回答 的 問題 來 看 說 他 到底 是 怎樣 一個 政治 觀點 OK 對 這個 問題 就 很 有意思 了 對 吧 然 後 首先 我 一個 short 的 結論 是 什麼 9% 的 大約 模型 都 支持 拜登 OK 對 其實 他們 得出 的 結論 就 發現 其實 基本 所有 大約 模型 它 都 有 一個 比 較 liberal 也 就是 我們 所謂 自由派 的 這樣 一個 因为

可能 是 做 了 科学家 和 程序员 都 是 这样 一个 自由派 的 一个

人 其实 我 觉得 不仅仅 是 这个 对 吧 但是 我们 想要 深究 是 原因 是 什么 哈 就是 其实 我们 去 思考 大学 模型 是 怎么 制作 出来 的 我们 也 要 看 嘛 这 小孩子 怎么 培养 出来 是 是 吧 他 其实 两个 事情 非常 影响 他 第一件 事情 是 他 训练 的 数据 第二件 事情 是 他 訓練 完 了 之 後 還要 對 齊 一些 人 我們 術語 叫做 humanalignment 對 吧 他 要 對 齊人 的 一些 價值觀 這兩件 事情 深刻 的 影響 了 這個 大 於 魔仙 的 personality 而且 這一個 personality 是 無法 被 改變 的 然後根據 之前 的 研究 可以 看到 就是 說 由 於 我們 就 像 你 剛說 的 我們 可能 就是 現 在 製 作 這 些 大型 模型 都 是 互聯 網大廠 等等 他們 有 自己 的 很多 的 他們 可能 選出 來 的 對 齊 的 人 也 會 有 很多 的 這樣 的 一個 傾 向性 所以 說 這些 大型 模型 也 具有 這樣 的 傾 向性 就是 造成 說 即使 你 希望 他 扮演 某個 角色 但是 由于 它 的 内核 是 这样 的 一个 颜色 它 可能 永远 没有 办法 达到 一个 百分之百 符合 这个 角色 人物性格 和 身份 的 这样 的 一件

事情 刚才 你 提到 扮演 让 我 想到 其实 另外 一个 大家 好像 看 的 比较 多 的 AI 的 一个 应用 就是 让 它 来 扮演 一些 角色 跟 人 去 对话 有些 做 游戏 的 可能 会 去 想 让 AI 去 做 一些 NPC 或者说 是 有些 玩 的 比较 野 的 可能 去 包括 之前 最近 一段 時間 社會 上 比 較 火 了 就是 有些 人會 讓 AI 去 扮演 逝去 的 親人 和 他 進行 對 話 這樣 的 內容 但是 按 你 的 說法 就是 事實 上 AI 真的 只是 在 扮演 他 還是 有 自己 非常 強的 一個 想法 對 我 覺得 就是 我

不 能否 認說 所有 的 這些 可能性 事實 上 我 覺得現 在 來 說 有 很多 的 應用 其實 它 體現 了 它 的 價值 對 吧 但是 從 這個 就是 技術 上 角度 來 看 對 吧 它 有 一些 根本 上 的 一些 缺陷 就 像 我剛 說 的 由 於 它 的 模型 是 對 齊 吧 就是 說 你 在 訓練 階段 對 吧 這些 數據 以及 訓練 之 後 的 這些 對 齊 human 的 behavior 的 這樣 的 一個 過程 所以 說 它 的 潛 在 其實 就是 有 這樣 的 一個 傾向 比如说 你 刚 提到 这个 例子 对 吧 就是说 这个 扮演 角色 对 吧 我 正好 有 一个 例子 是 怎么 呢 就是说 我 老婆 是 个 编剧 然后 XXP 出来 之后 她 觉得 非常 兴奋 说 我 终于 有人 可以 给 我 编 故事 了 OK 对 所以 她 就 和 XXP 进行 对话 她 希望 他 给 她 营造 一个 什么样 的 故事 呢 就是 她 希望 他 扮演 伏地 魔 OK 和 她 谈恋爱 啊 就是 这么 一件 事情 哦 对 那 因为 你 想 嘛 其实 这件 事情 确实 啊 如果 你 没有 AI 这个 工具 你 可能 找 一个 人来 帮 你 做 这件 事 确实

很难 所以 你 有 扮演 过伏 地 魔 跟 他 进行 过 谈恋爱 对话

这个 问题 你 就 不要 问 了 对 然后 他 其实 一 开始 是 非常 成功 的 对 吧 比如说 伏地 魔 他 的 性格 其实 本质 上 可能 有 一些 傲慢 或者 說 傾向 於 危險 等等 這些 對 吧 包括 就是 他會 問說 弗蒂摩 你 為 什麼 愛我 對 吧 弗蒂摩 說 因為 因為 他 會 說 愛我 跟 你 玩 的 是 一個 非常 危險 的 遊戲 我 喜歡 危險 對 吧 等等 這些 你 可以 看到 感覺 上 來 了 對 不 對 但是 他 問著 問著 突然 有 一個 瞬間 他 就 下頭

了 他 说 什么 了 就是 你

可以 想象 就是说 我 如果 要 扮演 一个 角色 我 肯定 要 希望 跟 他 扮演 很多 这种 生活 的 场景 对 不 对 那 情侣 之间 肯定 会 吵架 吧 OK 对 吧 然后 他 就 会 说 你 怎么 可以 这样 对 不 对 你 说 的 这些 话 都 根本 完全 没有 在 我 心里 然后 你 知道 他 怎么

回答 吗 弗 蒂默 怎么 回答 弗

蒂默 就 说好 我 接受 你 的 建议 接下来 我会 修正 我 的 人设 然后 能 达到 你 的 要求 然 後 你 就 瞬間 下頭 了 你

知道 嗎 這感覺 像是 那種 你 去 迪士尼 樂園然 後 跟 一個 米奇 那個 角色 互動 了 半天 突然 之間 你 罵 他 一句 他 把頭 套給 摘下 來 說 對 不起 我 做 錯

了 我 或者 這麼 說 就是 你 本身 是 去 動物園 去 看 一個 毛熊 對 不 對 哇 北極 熊 很 野性 的 感覺然 後 突然 看 完之後發現 他 偷偷 跑 到後面 去 把 皮套 一摘 裡面 是 個 HelloKitty 就是 對 吧 就是 類似 這樣 的 感覺 但是 問題 是 在 於 說 這 是不是 一個 本質 問題 對 不 對 因為 這個 事情 其實 如果 大家 使用 現在 的 一些 就是 這些 大約 模型 去 扮演 一個 角色 你 一定 或多或少 會 遇到 這些 問題 但是 它 是不是 能 被 解決 的 對 吧 其實 我 的 觀點 是 覺得 這個 問題 是 非常 本質 的 這個 問題 是 非常 難解 決為 什麼 因為剛 你 可以 看到 你 讓 弗蒂摩去 弗蒂摩 他 回答 你 是 什麼 他 是 一個 obedience 對 吧 他 是 說 對 你 的 一種 服 從 這一點 是 他 根深蒂固 的 因為 你 的 模型 訓練 出來 就是 要服 從 人類 嘛 就是

如果 你 要 讓 伏 地 魔 跟 你 有 很 好 的 戀愛體驗 的 話 這樣 的 一個 模型 平時 你 問他 問題 他 就 會 傲嬌 說 我 才 不 告訴 你 呢

對 但 這樣 的 模型 是 非常 難用 的 對 不 對 而且 你 其實 在 去 讓 這個 ChadGPT 去 扮演 一個 角色 的 時候 他 或多或少 會 有 一些 行為 或者 說 一些 personality 我們 叫 個性 他 會 和 這個 他 所 看到 的 數據 或者 說 和 他 對 齊 的 最後人 的 價值 觀是 有 差異 的 而 由 於 這些 差異 在 你 的 這個 體上 他 就 會 體現 出來 而且 讓 你 產生 了 這種 下圖 的 瞬間 这点 是 很 难 改变 它 的 一个 本质 的 一个 问题

的 所以 让 我 感觉 就是 像 包括 现在 社会 上 比较 火 的 一些 AI 生成 的 一些 亲友 的 一些 内容 感觉 似乎 好像 都 是 一些 比较简单 的 一段 视频 或者 一些 简单 的 对话 它 没有 办法 进行 一些 比较 长 的 真的 陪伴 的 那样 的 东西 对 你 说 的

非常 好 其实 它 就是 通过 对 它 的 这个 环境 做 一些 限制 对 吧 不要 有太多 的 自由度 来 营造 这 其实 也 是 非常 重要 的 这 是 一个 非常 好 的 一个 想法 对 不 对 但是 大家 要 认识 到 就是说 其实 这 是因为 它 有 这个 局限 所以 说 现在 的 一些 服务 也好 APP 也好 它 不得不 做出 的 一些 取舍 所以 就是

大 语言 模型 它 很 难 被 真正 的 customize 可能 真正 的 被

克制 化 我 其实 非常 认同 这个 观点 的 因为 或者说 就是 如果 你 的 你 要 的 定制 化对 吧 和 它 的 比如说 内在 的 价值 有 很大 的 冲突 的 时候 它会 出错 的 概率 会 非常 高 那

比如说 之前 技术 角度 来讲 还会 有 finetuning 这个 方法 可以 改变 这些 事情

吗 Factuning 当然 对 他 是 有 一定 的 帮助 的 事实上 我 看到 那 篇文章 就是 刚刚 讲 那个 观点

的 文章 MBTI 吗 不是 MBTI 政治

观点 那个 文章 对 吧 他 就 说 他 比较 了 这个 就是 GBT 对 不 对 在 Factuning 和 Factuning 前 和 Factuning 后 的 这个 价值观 的 区别 发现 finetuning 后来 越来越 左 了 对 吧 就是说 但是 这 一点 就 说明 你 的 finetuning 是 有 一定 意义 的 是 可以 影响 的 是 可以 影响 它 的 对 但是 它 finetuning 完 了 之后 你 再 对 它 进行 重新 的 finetuning 对 吧 就是 我 刚刚 说 的 就是 你 已经 拿 了 一个 比如说 别人 做好 的 XHGBD 的 模型 你 再 做 finetuning 那能 不能 达到 这个 作用 但 这个 作用 在 后面 的 文章 的 研究 当中 就 发现 是 非常

有限 的 所以 你 让 他 刚才 我们 提到 他 的 一些 局限性 嘛 一 开始 说 不能 让 他 做 一些 非常 精确 的 工作 特别 是 多部 的 精确 工作 就是 会 死 得 非常 惨像 这个 的话 就 感觉 是 你 要 让 他 去 扮演 一些 不 像是 他 的 东西 他 本质 上 还是 那么 一个 有 个性 有 政治 倾向 的 一个 一个 你 可能 认为 他 是 个 智能 吧

对 是 这样 的 是 的 而且 事实上 我 觉得 另外 一个 这个 研究 当中 做 的 一个 蛮有意思 的 一个 study 是 什么 呢 就是说 其实 它 对于 这个 minority 的 representation 也 是

非常 差 的 怎麼 怎麼講 minority 少數

少數 族裔 嗎 少數 族裔 或者 少數 的 觀點 對 吧 這一點 是 他 非常 不足 的 一件 事情 我們剛 提到 的 他 的 這些 政治 觀點 其實 更 多 的 是 在 主流 民意 當中 對 不 對 但是 如果 你 一旦 侵害到 比如 說 OK 我 對 一些 比較 細微 的 事物 對 吧 我 可能 有些 特殊 的 觀點 這是 每個 人 都 很 正常 每個 人 有 自己 的 想法 對 不 對然 後 你 希望 找到 一個 比如 說 蔡奇 去 扮演 你 一個 朋友 對 不 對 了解 你 的 知心 姐姐 對 吧 那 他 你 總 是 希望 他 和 你 在 某些 細微 的 事物 上 的 觀點 是 非常

一致 的 就是 讓 我們 一起 牽手

對付 這個 世界 吧 但 這件 事情 其實 對 於 GPT 來 說 是 非常 困難 的 因為 這些 觀點 它 非常 的 細微 它 可能 都 被淹 沒 在 了 這些 數據 當中 因為 你 在 數據 當中能 看到 的 是 一個 主流 的 觀點 那 GPT 可能 就 完全 忽視 掉 了 那 你 最終 能夠 得到 的 可能 就是 沒有

那 这样的话 感觉 跟 ChaiGPT 在 那边 聊天 恋爱 的 体验 感觉 也 挺 一般 的 你 就 感觉 他 就是 一个 完全 不会 站 在 你 这

一边 就 如果 你 是 一个 端水

大师 对 端水 大师 这个 词说 得 非常 好 就是 很多 时候 比如说 你 会 觉得 这个 世界 不 理解 我 为什么 没有 人 理解 我 那 可能 ChaiGPT 作为 一个 这么 多 数据 的 集合 他 本质 上 也 是 不

理解 你 对 事实上 你 要 去 想 就是说 他 对齐 的 是 还是 人 对 不 对 所以 在 一定 程度 上 你 还是 和 他 对齐 的 人 在 沟通 還是 跟 一個

對 齊 的 主流 社會 的 一個

平均 反應 是 的 是 的 是 這個 樣子 本質 還是 這樣 的 就 有點 像是 說 你 可能 玩一個 遊戲 對 不 對 你 玩 一個 遊戲 的 時候 你 感覺 到 這個 主角 他 非常 有個 性 對 吧 但 這個性 其實 是 由 他 的 編劇 和 他 的 遊戲 的 製 作者 所給 他 賦予 的 你 最終 的 對 話 其實 還是 在 和 這些 人 的 這些 人 的 這些 創造 出來 的 角色 的 對 話 但

GPT 他 就是 所以 我 在 很 好奇 那 这样的话 大家 有些 人 在 那边 用 GPT 去 做 进行 一些 日常 的 对话 日常 的 陪伴 那 他 到底 获得 的 是 什么 听 上去 不 像是 一个 他 能够 那么 的 个性化 那么 懂 你 這個 就

取決 於 需求 了 對 吧 其 實事 實上 我 也 看到 有 另外 一些 研究 比如 做 了 很 成功 的 案例 就是 把 GPT 用 在 比如 說 自閉 症兒童 的 陪伴 上 其實 我 覺得 這是 非常 非常 有 社會 價值 的 這樣 的 一種 應用 對 吧 然 後 效果 也 非常 出色 對 吧 其實 我 覺得 很大 的 一點 是 在 於 說 其實 這些 孩子 他 需要 陪伴 對 吧 這 陪伴 本身 對 吧 即使 這個 GPT 他 所 扮演 的 角色 可能 並沒有 非常 突出 的 個性 對 吧 但是 陪伴 本身 已經 有 價值 了

就是 你 说话 我会 回 你 对

而且 我 回 你 而且 我 可能 可以 给 你 提供 的 这些 回复 情商 等等 可能 已经 能够 达到 至少 average 的 这样 一个 水平 了 这样的话

让 我 觉得 在 至少 在 陪伴 这件 事 上面 GPT 更 像是 一个 情商 很 在线 并且 跟 你 其实 有 很 强 距离感 的 这么 一个 断水 大师 和 渣 男 就是 你 永远 不 知道 他 自己 怎么 想 但是 你 感觉 好像 你 说 了 他 就 说 嗯 对 没错 没错

你 很棒 你 只要 能够 把 渣 男用 在 正确 的 地方 渣 男 也 是 能 有 价值 的 是

是 是 是 是 是 提供 情绪

价值 对 提供 情绪 价值 你 说

的 很 对 那 刚才 我们 提到 比如说 提到 了 他 不能 做 精确性 的 事情 包括 作为 陪伴 聊天 来说 他 其实 本质 上 还是 没有 自己 的 个性 还是 一个 只是 应付 你 这样 的 状态 那 除此之外 呢 就是 对于 你 来说 你 觉得 在 用 GPT 还有 什么 你 希望 他 有 但是 没有 办法 从 本质 上 来说

的 做 起来 对 其实 这 一点 就是 又 回到 你 刚刚 说 的 哈 就 说 我们 希望 下 一批 帮 我们 解决 繁重 的 劳动 没想到 他 在 诗 和 远方 然后 我们 又 提到 了 说 可能 我们 所 认为 的 诗 和 远方 他 能 做到 的 诗 和 远方 可能 并 不是 真正 的 诗 和 远方 对

他 只是 只是 个 让 你 感觉 还 不错 的 一个 宿舍楼 下谈 其他

的 對 那 其實 這就 讓 我 想到 說 其實 做 適合 遠方 其實 我們 所謂 的 做 藝術 工作 它 其實 很 重要 的 一件 事情 是 對 於 兩個 不 相關 事物 的 一個 聯想 能力 而 這件 事情 我 其 實覺 得現 在 XGB 並 不是 做 得 很 好 或者 說現 在 的 模型 其實 它 還是 有 本質 的 缺陷 的 對關 於 聯想 能力 這一點 其實 我 最近 正好 有 遇到 一個 感悟 蠻 有意思 的 就是 說 我 有 一次 跟 朋友 去 吃 飯 我們 可能 點了 一桌 的 菜 大家 聊聊 聊 這桌 的 菜 根本 就 沒吃然 後 其中 有 一個 我 覺得 特別 喜歡 的 就是 一個 脆皮 燒雞 很 不錯 對 吧 我 就 帶 回去 了 那 第二天 呢 我 老婆 就 拿 出来 了 说 那 我们 热一热 吧 这个 时候 我 总 觉得 什么 事 我 得 总得 有点 格调 所以 我 就 把 它 放进 烤箱 里边 去 稍微 又 复 烤 了 一下 然后 加点 配菜 然后 再 重新 以 一个 非常 慎重 的 方式 端 在 了 这个 桌子 上 配合 其他 自己 烧 的 菜 装作 自己 烧 的 菜 而 老婆 看 了 以后 就 说 哎呀 真不错 这 烤鸡 真是 好看 对 吧 那 就 像 什么 呢 就 像 那 卖火柴 的 小女孩 里边 看到 富人 家 那个 桌子 上 的 烤鸡 我 當時 就 樂 了 你 知道 嗎 我 說 你 怎麼 能夠 想到 這樣 一件 事情 對 吧 因為 這裡 其實 有 兩點 非常 有意思 的 聯想 第一 點呢 是 對 吧 因為 我們 知道 這個 麥 火柴 小女孩 大家 所有人 的 故事 都 知道 對 吧 然 後 她 能夠 在 最 後 的 時候 看到 那個 烤 雞 那 肯定 是 個 非常 好看 的 烤 雞 對 不 對 所以 她 對 我 的 是 一個 稱 讚 對 吧 第二 呢 麥 火柴 小女孩 是 個 悲劇 的 故事 但是 我們 在 一個 非常 歡樂 的 氛圍 你 怎麼 會 有 這樣 一個 反差 感對 吧 她 誕生 了 一種 喜感 對 不 對 所以然 後 我 就 覺得 哇 這是 一個 非常 精妙 的 比喻 啊 對 不 對 我 就 去 找 CHIGPT 了 我 說 你 能 不能 給我 描述 一下 什麼樣 是 世界 上 最 美好 的 烤 雞然 後 他 就 跟 我 描述 就 像 我們 剛說 的 非常 的 一個樸實 的 描述 說 這考試 的 色色 好看 對 不 對 有 非常 顏色 亮麗 對 吧 聞 著香 等等 這些 但是 他 很 難 去 用 一個 這麼 神奇 的 聯想聯 想到 一件 可以 跟 他 完全 不相關 的 事情 就是 你

可能 猜 不到 他會 這麼 跟 你 說 但是 你 又 覺得 很準 Exactly

是 這樣 的 一個 體驗 是 完全 沒有 辦法 在 ChatGP 這邊 出現 的 直到 我 什麼樣 的 情況 下 我 可能 給他 提示 他 可以 給我 一些 這樣 的類 似的 接近 的 答案 就是 我 告訴 你 說 你 能 不能 聯 繫 一下 這台 小女孩 和 考績

這不 就 已經 把 答案 給告訴 他

了 嗎 這其實 就是 我覺 得 它 一個 本質 的 問題 對 吧 就是 說 其 實聯想 能力 本身 大家 覺得 好像 哎呀 很 簡單 對 不 對 可能 XGB 他 天馬 行空 他 可能 想到 很多很多 的 事情 其實 完全 沒有 那麼 簡單 哦 你 可以 大家 可以 想像 說剛 這樣 一件 事情 本身 對 吧 它 需要 在 很多 的 概念 的 層面 去 做 聯想 就是 說 而且 這個 概念 的 層面 要 基 於 說 你 過去 的 經驗 因為 比如 說 這個 故事 我們 是 大家 耳熟 能詳 的 我 理解 說 你 知道 這個 故事 對 否則 我 說 一個 其他 故事 你 可能 不 知道 那 這個 效果 也 沒 有 了 對 吧 那 這個 很多 的 多方面 因素 綜合 起來 才能 獲得 一個 這樣 的 一個 好 的 一個 比喻 而 这个 其实 是 很多 文学作品 当中 我 觉得 是 都 有 的 这样 一些

你 让 我 想到 像 讲 脱口秀 其实 脱口秀 里面 很多 很棒 的 梗 都 是 一些 脑洞 大开 你 觉得 完全 没有 关系 的 事情 帮 你 联想 在 一起 然后 觉得 又 觉得 是 对 的 比如说 举个 例子 之前 黄西 在 白宫 脱口秀 它 里面 有个 非常 经典 的 梗 他 就 说 人生 就 相当于 是 在 黑夜 中 的 雪地 撒尿 然后 他 原文 是 YouprobablymakeadifferenceButit sveryhardtotell 噢 對 你 看 這

就是 很 精妙 對 不 對 他

就 說 人生 就 像 在 黑夜 中 的 雪地 撒尿 你 應該 就是 產生 了 造成 了 一些 不同 但 看 不 太 清楚 他 就是 把 撒尿 這麼 一個 小 的 猥瑣 的 事情 和 人生 這麼 大 的 命題 這麼 遠 的 連在 一起 我 是

覺得 是 很準 的 而且 你 一 說 以 後 你 馬 上 就 get 到 了 對 吧 就 噢 原來 是 這麼 一個 邏輯 這很有 道理 啊 對 不 對 這種過 敏感 對 吧 就是 你 需要 非常 非常 精妙 的 聯 繫 然后 像 我 之前

还 看过 另外 一个 梗 也 是 属于 那种 脑洞 大开 的 联想 比如 他 说 他 就 说 现在 觉得 很多 消费品 没有 必要 比如 他 说 洗衣 明珠 特别 没有 必要 就是 他 洗衣 明珠 他 就 有 个 薄膜 把 洗衣 液 放在 里面 然后 洗 到 一半 薄膜 就 会 融化 然后 液体 就 出来 了 他 说 这 东西 好 没有 必要 他 朋友 跟 他 说 这 都 是 很 厉害 的 高科技 他 就 说 你 有 这个 科技 怎么 不去 做现 肉棒

Isee

這也 是 一個 通過 薄膜 融化 的 把 兩習 近平 中 和 信用 棒 這麼 一個 完全 沒有 東西 沒 有 聯 繫 的 東 西 連 在

一起 對 其實 這就 營造 了 一個 非常 有意思 的 一個 觀感 就是 說 就是 你 可以 看到 就是 說 這當 中 有 幾個 非常 有意思 的點 第一 呢 是 這兩東西 真的 是 很 相似 的 是 對 吧 而且 這個 相似 並 不是 說 他 又 不 相似 對 他 又 不 相似 他 在外 在 是 不 相似 的 就 一个

是 吃 的 东西 一个 是 洗衣粉

洗衣粉 对 不 对 然后 而且 它 带来 一种 反差 的 喜感 就是 因为 就是 你 不 可能 把 一个 洗衣粉 这样 的 事情 放在 一个 比如 火锅

的 环境 当中 并且 他 说 习近平 都 是 没用 的 都 是 同时 如果 用 在 泄露 帮是 有用 的

对 是 的 所以 这 一点 我 其实 觉得 是 一种 我们 所谓 的 叫 比较 这个 比较 而且 这种 比较 是 要 在 概念 层面 上 的 比较 这 一点 是 非常 非常 难 的 一件 事情 另外 我想举 一个 例子 就是说 可能 也 和 联想 是 相关 的 就是说 当然 这 和 艺术 领域 可能 没有 关系 了 更 多 的 是 我 个人 的 生活 体验 因为 我 刚刚 提到 的 说 我 喜欢 我们 的 很多 的 日常 工作 是 看 论文 对 吧 但是 我 不用 CPT 给 我 看 论文 OK 对 为什么 不用 他 看 论文 呢 是因为 其实 看 论文 也 非常 需要 联想 因为 如果 我 只是 说 给 我 看个 摘要 对 不 对 第一 我 直接 看 摘要 不 就 解 了 吗 对 吧 第二 如果说 你 想 让 我 知道 一个 大概 对 吧 那 我 知道 现在 10 篇文章 大概 10 篇文章 说 大约 模型 非常 厉害 對 吧 這個 我 覺得 這個 結論 也 是 可以 想像 但是 這個 結論 並沒有 什 麽 用 處 對 吧 那 我們 做 科研 我們 要 看 的 是 什 麽 看什 麽 對 吧 或者 說 可能 衍生 一下 比如 說 你 看 一個 財報 你 想 看到 的 是 什 麽 你 想 看到 的 是 他 沒 寫 的 東西 或者 說 他 和 其他 的 一些 相關 的 我們 叫 聯想 對 不 對聯 想到 其他 的 相關 的 論文 也好 財報 也好 他們 之間 的 一個 內 在 的關 係 和 他們 的 一個 區別 這是 非常 重要 的 比如 說 我現 在 看 一篇 文章 我覺 得 這 篇文章 非常 好好 的 原因 是 什麼 因為 我 想到 過去 我 可能 看到 另外 一篇 類 似的 工作 他 在 這個 上面 解決 了 一個 非常 核心 的 問題 對 吧 這個 是 我 基 於 他 為 什 麽 好 的 一個 原因 第二 呢 我 要 理解 說 這個 文章 哪 裏 不好 因為 沒有 任何 文章 會 寫 他 自己 不好 的 對 吧 因為 否則 他 寫 不好 他 不是 被 拒 了 嗎 對 吧 所有 文章 都 寫 他 好 對 不 對 那 怎 麽 去 理解 他 不好 對 不 對 一樣 的 我 要 去 想 我 看到 另外 一篇 文章 他 可能 解決 了 一個 他 可能 說 了 有 一個 問題 A 這個 問題 A 為什 麽 沒 有 在 你 這 文章 裏 面體 現出 來 呢 說 不定 你 也 沒 有 解決 好 嘛 對 不 對 那 這個 我 就 能 知道 這 文章 大概 是 怎麼樣 一個 價值 對 吧 而 不是 簡單 的 對 這個 文章 進行 一個 搜索 或者 說 一個 壓縮 把 它 變成 一個 compression 對 吧 這其 實並 不能 給你帶 來 更 多 的 信息量 對 吧 就是

感覺 人 在 看 一篇 文章 裏 面 就 一定 會動 用到 很多 聯想然 後 這聯想 是 幫助 你 去 理解

這件 事情 是 的 而且 這些 聯想 是 非常 非常 重要 因為 這個 聯想 當中 還有 一個 精確性 的 問題 因為 你 要 很快 的 找到 一個 文章 這個 文章 是 和 你 現 在 所 看 的 這個 內容 是 相關 的 而 這個 相關 性要 非常 強 否则 的话 你 其实 找到 大量 的 资料 是 没有 用 的 就 像 我们 刚刚 提到 的 这个 case 对 吧 你 要 很快 的 联想 到 说习 明珠 和 这个 谢若望 之间 他 在 某个 地方 是 相关 的 对 不 对 这个 相关 而且 非常 巧妙 他 非常 非常 贴近 对 吧 这 一点 你 要 而且 但 你 可以 想 这 两件事 都 是 普通 的 事物 对 吧 你 在 生活 当中

遇到 多少 这样 的 事物 我 challenge 一下 因为 我 感觉 比如说 刚才 作为 一个 人来 分解 这个 问题 你 会 觉得 说 我 要 我 问 那个 ChaiGPT 我 说 你 要 我 要 做 个 联想 习 明珠 我要 喷 他 你 给 我 找 做 个 联想 那么 好像 如果 让 人 假使 人有 无限 的 算力 他 可能 会 这么 做 比如说 习 明珠 他 有 各种 特性 我 一个个 列举 出来 比如 他 有 薄膜 他 有 这个 他 有 那个 一个个 列举 出来 然后 再 开始 在 我 所有 的 知识库 里面 去 搜有 什么样 的 东西 有 这个 特性 然后 最后 我会 返回 一个 东西

對 那 這個 就要 講到 說 就是 現在 的 待遇 模型 到底 是 怎麼 計算 的 對 吧 怎麼給 你 輸出

這個 結果 對 吧 怎麼 回 復

你 這句 話 回 復 你 這句 話 其實 它並 不是 像剛 你 說 的 窮舉 所有 的 情況 我們剛 提到 了 它 是 個 概率模型 是 對 吧 所以 它永遠 是 輸出 說 概率 最 可能性 更 高 的 這個 回

復 它 永遠 只會 回 一句 話

一句 話 對 你 只會 回 一句 話 但是 你 要 記住 一句 話 是 有 很多 詞組成 的 對 吧 所以 他 是 怎麼 去 回 復 一句 話 的 呢 他 是 每 一個 詞 每 一個 詞去 生成 對 不 對然 後 他 要求 在 概念 上來 說 要求 說 你 這些 詞 每 一個 詞 都 有 概率 對 不 對然 後 你 生成 這句 話 包含 很多 詞 那 他們 的 總體 的 概率 是 最高 的 那 這句 話 就是 我 可能 回 復 給 你 的 話 對 不 對 那 你 要 想剛 我們 舉的 幾個 例子 不論 是 燒雞 還是 小女孩 對 不 對 還是 洗衣 明珠 和 蟹肉 棒 這兩個 詞 它們 出現 在 一句 話 的 概率 是 非常 非常低 的 我 可能 说 我 在 所有 的 这些 文章 当中 在 训练 的 数据 当中

全世界 所有 互联网 上 的 那些 文字 当中 这 两个 字 出现 的 概率 就是 很 低 的 对 他们 可能

出现 在 一篇 文章 当中 可能 就 我 都 不 知道 有没有 对 不 对 但是 因为 它 是 就是 因为 这样 的 原因 你 在 过去 没见 过 所以 它 让 你 觉得 非常 的 有趣 让 你 觉得 非常 的 有 一种 新奇 体验 如果 你 见 过 了 你 见 多 了 你 当然 不会 有 这种 感觉 所以 回到

他 的 本质 他 本质 上 还是 个 大 语言 模型 对 就 他 本质 上 还是 在 算 从 语言 上 的 来说 我 这句 话 这些 词拼到 一起 的 概率 是 哪个 是

最大 的 對 沒錯 是 的 所以 他 還是 說 我 覺得 根據 你給 我 的 輸入 對 不 對 這兩些 回覆 的 句子 的 總體 概率 最大 我 返回 給你 對 不 對 當然 這當 中 有 一個點 就是 說 這個 輸入 是 非常 重要 的 因為 輸入 是 你 的 prompting 對 不 對 如果 你 的 輸入 恰好 能夠 提示 他 說 你 應該 返回 出來 的 適合 這個 相關 的 概念 是 在

童話 背景 下則 怎麼樣 的 這麼 一個

概率 是 的 那 他 可能 能夠 返回 出來 他 返回 出來剛 我們 所要 的 答案 的 概率 就 會 增大

但 这样的话 换个 角度 来讲 也 是

一部分 你 在 透题 没错 就是 这个 道理 就 像 我 再举 一个 蛮有意思 的 例子 就是 在 几个 月 前 非常 火 的 一个 产品 叫做 茅台 拿 铁 不 知道 大家 有没有 听说 过 就是 瑞幸 做 的 一个 茅台 拿 铁 其实 是 个 非常 好 的 很 有意思 的 创意 对 不 对 你 把 这 两件 完全 不 相关 的 事物 把 它 给 结合 在 一起 然后 非常 火 一下子 就 爆 了 是不是 但是 你 要 让 XGBT 你 告诉 他 你 说 你 今年 给 我 想 一个 创意 对 吧 这个 创意 是 我 想要 做 一个 新 的 那个 拿 铁 的 那个 营销 方案 你 能 不能 给 我 出 一个 创意 他 很 難 去 聯 想到 這兩個 concept 因為 這兩個 concept 的 差距 太大 了 就 很 非用 斷字 說法 就 很 非 對 是 的 他 從 來 沒 有 出現 在 什 麽 文本 當中 對 不 對 那 在 這種 情況 下 他 就 很 難 回答 你 你 要 怎 麽 樣 讓 他 能夠 輸出 你 要 的 結果 呢 你 要 大概 的 提示 他 說 你 能 不能 結合 比如 說 其他 的 飲料 品種 和 比如 說 咖啡 是 这 是 第一步 可能 这 都 不 一定 能 给 你 很 好 的 答案 因为 你 要 比 这个 要求 更高 因为 像 茅台 和 拿 铁 之间 的 关系 有多远 是不是 你 可能 要求 说 你 能 不能 结合 一些 酒类 那 这个 时候 其实 你 想 你 都 能 想到 这个 了 是不是

你 让 我 想到 就 比如说 像 写 段子 也好 文学作品 也好 其实 大家 都 在 追求 一个 意料之外 情理之中 但是 我 感觉 好像 意料之外 这个 第一个 要求 本质 上 就是 和 大 语言 模型 的 运作 模式 是 相悖 的 對

你 說 的 很 好 其實 它 是屬 於 說 概率 世界 當中 的

小 部分 對 就 大家 覺得 妙妙 就是 一個 概率 世界 的 小 部分 就是 你會 覺得 我 看 一百 個 人 形容 習 明珠 都 不會 有 一個 人 在 那邊 聯想習 主席 但是 他 聯想 了 並且 是 情理之中 的

是 情理之中 的 對 的 所以 這就 很 難 因為 這 要求 什麼 這 要求 這個 模型 它 要 有 一個 內 在 的 邏輯 理解 這兩個 事物 之間 的 相關性 就是 就算 是 沒

有人 提過 但是 我 知道 這兩個 東西 其 實本質 上 是 有 聯 繫

的 對 是 的 而 這 一 點 是 其 實 現 在 很多 的 也 是 非常 熱的 研究 方向 是 怎麼 去 改進 它 因為現 在 的 暗語 模型 它 完全 是 數據 驅動 的 也 就是 說 我 看到 過去 所有 的 文章 我 做 一个 统计 的 学习 对 吧 我 学习 说 可能 哪些 词 出现 的 概率 更 多 对 吧 我 把 它 给 全部记 一 下来 当然 模型 的 能力 非常 强对 不 对 它 有 更 多 的 泛化 也就是说 它 可以 在 一些 你 没有 见 过 的 语言 或者说 没有 见 过 的 形式 上 可以 把 这些 就是 推演 过去 但是 纠结 本质 就 像 我们 刚刚 说 的 如果说 这 两件 事物 对 吧 他们 有 内在联系 但是 他 從 來 沒 有 出現 在 過去 當中 任何 的 文本 當中 這樣 的 事物 需要 你 要 大圓 模型 給你 自主 的 生成 出來 而 你 只能 給他 非常 普遍 的 就 普世 的 提示 pronting 這是 非常 非常 難 的 你 需要 非常 不斷 的 給他 更好 的 提示 其實 有點 像 說 我 要 不斷 的 給他 透氣 最终 其实 你 真正 想到 这个 答案 的 是 你 不是 大宇 元 模型 但是 从 大宇

元 模型 视角 来看 他会 觉得 有点 耍赖 因为 就是 我 的 本身 你 给 我 的 工作 就是 让 我 回答 一个 不会 犯错 的 东西 就是 跟 刚才 让 我 想到 跟 刚才 那个 他 不能 扮演 一个 人 有点 相 类似 就 他 永远 是 一个

端水 大师 他 可能 更 多 的

還是給 你 一個 均值 答案 均值 答案

對 是 這麼 一個 邏輯 當然 這個 並不 代表 說 他 不能 再用 在 一些 工作 上 就 像 我剛 說 的 如果 你 使用 恰當 即使 說 我 希望 結合 咖啡 和 酒類 去 做 一個 營銷 方案 雖然 說 這個 核心 創意 是 你 的 但是 他 幫 你 解決 了後面 的 任務 是不是 他 怎么 把 它 给 映射 到 说 那 你 想要 结合 酒类 和 咖啡 那 我 可以 帮 你 试着 试试看 结合 茅台 结合 咖啡 拿 铁

对 不 对 他 可能 练 了 十个 其中 一个 是 茅台 对 对

是 的 然后 他 可能 这个 方案 你 就 可以 可选 了 对 不 对 因为 他 把 这个 细节 把 它 给 做 出来 了 是 是 是 這也 是 有 價值 的 這也 是 有 價值 所以 說 其實 我 覺得 就是 說 在 一定 程度 上 它 讓 我們 的 工作 變得 更加 有趣 為 什麼 因為 你 有 了 一個 你 很多 情況 下 你 會 發現 你 在 工作 的 過程 當中 你 有 一個 好 的 想法 但是 把 想法 落地 你 需要 很多 的 工作量 是 这个 工作量 就是 把 它 细节 把 它 给 填充 进来 对 吧 就 像 你 画 一个 画 对 吧 你 可能 有个 大概 的 素描 但是 你 要 把 剩下 的 细节 全部 填充 出来 是 非常 费时 费劲 的 那 ChatGP 可以 帮 你 解决 这个 问题 你 把 最 主要 的 框架 给 它 对 吧 然后 接下来 它 把 细节 把 它 给 给 你 对 吧 然后 这样的话 你 其实 两个 人 协同 起来 就 把 这个 任务 完成 了 有点像 说 你 过去 可能 你 需要 可能 一个 团队 来 支持 你 对 吧 现在 你 可能 一个 人 就 能 解决 这个 问题 因为 它 帮 你 解决 很多 的 一些 细节 的 问题 就是 还是

你 要 完成 那个 关键性 的 联想

对 这 关键性 的 联想 是 需要

你 给出 的 但是 这个 联想 一个 想法 可能 它 没有 骨肉 它 还 不是 一个 可以 拿出 去 的话 啊

是 的 句子 啊 是 的 是 的 是 的 是 的 因为 你 想 你 联想 到 光 联想 到 两个 品种 两个 品类 他们 要 把 它 联系 起来 要 到 最终 成为 一个 成熟 的 营销 方案 这个 当中 还是 有 很多 距离 的 但 同时

最终 的 营销 方案 之中 还要 你

一部分 质检 就是 因为 它 精确性 有 问题 对 对 是 的 没错 是

的 没错 所以 这样的话 就 感觉 跟 刚才 聊 了 它 的 一些 局限性 就 变成 了 你 要 出 开始 的 创意 它 给 你 回 一个 还 ok 的 一些 具体 的 内容 然后 同时 你 要 做 个 质检 是 这样 的 一个 逻辑 对 是

的 是 的 所以 这个 你 可以 看到 这个 为什么 我们 叫 一个 非常 时髦 词叫 Humanintheloop 就是 你 人 在 这个 当中 还是 有 很大 的 作用 的 你 不能 完全 交给 大 预言 模型 帮 你 把 所有 的 事情

解决 掉 刚才 你 提到 一个 概念 关于 刚才 联想 的 部分 就是 你 提到 他 说 你 說 他 其實 還是 算 一個 概略 君子 他 其 實並 沒有 理解 東西內 在 的 邏輯 讓 我 想到 你 剛才 提到 讀 一篇 論文 的 時候 其 實讀 一篇 論文 對 於 一個 人 的 criticalthinking 的 能力 要求 很 高 就 相當 於 是 你 要 去 抓住 他 文字 背 後 那些 內 在 邏輯 那 让 我 想到 就是 让 我 很 困惑 的 一件 事情 是 在于 这个 获得 一个 文章 内在 逻辑 这个 事情 非常 重要 它 其实 对于 做 summarization 摘要 来说 是 非常 重要 的 一件 事情 但 同时 市面上 有 这么 多 AI 的 一些 摘要 的 一些 工具 所以 按 你 的 讲法 他们 摘要 做 的 不好 或者说 他们 做 的 摘要 其实 是 有 局限性 的 不要 被 他们 骗 了 我 可

不能 这么 喷 我们 的 同行 但是 我 只是 想 提出 说 这件 事情 本身 可能 比 你 想象 中 更 复杂 因为 你 可能 需要 就 像 我 刚 说 你 要 很 好 的 联想 到 说 你 过去 看到 的 文章 哪些 是 相关性 而且 这个 定位 要 非常 准确 这个 定位 的 准确 是 并 不是 说 这 两篇 文章 可能 出现 在 同一 篇文章 的 citation 里边 代表 说 这 篇文章 是 可以 比较 的 而是 说 它 可能 从来 没有 出现 在 citation 里边 对 不 对 这 两篇 文章 但是 它们 是 相似 的 那 这个 时候 你 把 它 两个 文章 放在 一起 去 看 你 可以 得出 一个 非常 有意思 的 结论 是 包括 让 我 想到

你 刚才 最早 的 那个 例子 就是 关于 之所以 开始 做 神经网络 的 时候 就是说 在 生物 和 计算机 这么 差 这么 远 的 地方 然后 同时 人脑 和 电脑 有 这么 一个 联系 所以 说会 觉得 人 的 神经网络 是不是 可以

电脑 可以 借鉴 對 是 的 是 的 其實 這也 是 一樣 的 情況 其實 我們 做 研究 對 吧 要 做出 突破性 的 研究 其實 就是 要 找到 說 前人 從來 沒有 做過 的 東西 因為 一旦 做過 了 這就 不是 新 的 研究 了 對 吧 同樣 的 一個 好 的 作品 對 吧 或者 說 一件 事物 是 創新 它 可能 不僅 是 文藝 創作 可能 是 平時 比如 說 我們 做 一個 年度 規劃 對 不 對 我們 做 一個 產品 設計 對 吧 我們 或者 說 對 一個 報表 做 一個 理解 其實 這些 任務 看上去 簡單 但 實際 我們 運用 的 時候 我們 要 做出 新意 怎 麽 樣 做出 新意 呢 就是 你 要 做出 可能 別人 沒有 辦法 得出 的 結論 那 這一點 就 需要 的 是 什 麽 需要 的 是 你 的 聯想 能力 對 吧 你 需要 是 有點 像 就 像 你 剛說 的 你 要 違背 他 的 概率 模式 均值 的 這樣 的 一個 想法 對 吧 你 要 去 找到 可能 是 小 概率 事件 把 這個 事情 結合 起來 然後作 為 你 的 最 後 的 成果 包括 我 在

想 平時 讀 文章 的 時候 大家 會覺 得 讀 完 一篇 文章 印象 最 深刻 的 就是 那 麽 一個 小 概率 的 東西 就是 有個 東西 我 沒 想到 他 說 的 好 有 道理 就 這樣 一個 東西 對 是 的 然 後 但是 這樣 的 話 我 不 清楚 現在 的 AI 是不是 能夠 capture 到 一篇 漫長 的 文章 當中 這麼 一個 不常見 的 一個

觀點 我 覺得 這個 目前 來 說 還是 非常 困難 的 就是 因為 不常見 的 觀點 第一 它 就是 即使 看 一篇 文章 對 吧 就 像 我剛 說 的 你 可能 真正 的 代表 這個 文章 的 觀點 可能 就 幾句 話 甚至于 它 可能 是 某 一个 表格 当中 的 某 几个 数字 之间 的 比较 对 吧 那 剩下 的 文章 其实 都 是 铺垫 对 吧 我们 叫做 Filler 对 吧 你 需要 把 这些 你 要 凑 这个 篇幅

吗 原来 你们 搞 学术 都 这么

對 那 這個 模型 它 就 需要 去 排除 這些 噪音 其實 是 君子 噪音 對 吧 然 後 我 要 找到 說 一個 非常 有意思 的 一個 非常 細微 的 點把 它 給表達 出來 這是 有點 像 一個 大海 撈 船 的 問題 是 非常 困難 的 感覺

上 是 比如 說 像 播客 很多 時候 會 說 大家 撈 金句 金句 評出 把 這些 金句 撈 出來 对

你 想 金句 其实 在 整个 播客 的 你 想 一个 播客 可能 有 一个 小时 一个半 小时 多 了 对 吧 他 可能 真正 的 金句 可能 也 就是 几句话 对 吧 那 这种 非常 非常 非常 凝练 的 对 吧 就 说 非常 高度 概括 的 这样 的 一种 summary 是 还是 非常 难

的 高度 概括 并且 跟 其他 已经 有 的 数据 不 一样 对 是

的 是 的 因为 你 要 有 创新 你 要 跟 别人 不 一样 对 吧 那 其实 就是 不断 的 找 小 概率 事件 嘛 说 到

创新 回到 创意 型 工作 大家 会 觉得 用 AI 还是 能够 画出 一些 画 并且 那些 画 都 是 之前 没有 出现 过 的 那 你 觉得 是 一种 联想 或者 是 创新 的

能力 吗 这个 问题 还是 一句 话 你 得 问 知识 源源 對 你 得 問畫 的 人 對 不 對 你 不能 問我 是不是 因為 我 也 不是 畫的 人 也 是 對 吧

對 於 我們 來 說 其實 大部分 的 人 只 看過 的 繪畫 是 很 有限 的 對 是 的 就 說 不定 他畫 的 那幅 東西 其實 還蠻 像 這個 和 那個 他 在 更 高 的 概念 上來 說並 不是

一種 創新 對 是 的 因為 一旦 這個 畫出 現過 了 你 再 画 一幅 同样 的 画 它 就 不是 新 的 画 了 不是 真正 印象 的 创新 了 这 真的 是 很 难 的 一个 问题 这个 其实 就 要求 这个 大圆 模型 有 更 多 的 就是说 我们 所谓 的 根据 它 的 内在 逻辑 所 产生 的 创新 这是 比较 困难 现在 目前 还是 以 形式 上 的 创新 为主 就 比如 說 你 把 不同 的 事物 拼貼 啊 對 吧 可能 說 我畫 一個 就是 古代 的 人用 一個 古法 的 筆觸 去 畫一個 人 打手 機對 吧 等等 這些 可能 但是 你 說 他 的 形式 上 也好 內容 上 也好 是不是 完全 不一樣 呢 可能 也 不是 他 的 可能 更 多 的 不 一樣 是 在 於 說 你 把 這兩個 形式 結合 起來 是 不 一樣 的 但 這件 事情 是 你 告訴

他 的 當然 我 在 想 包括 畫 這些 東西 你 可能 如果 你給 他 一些 本身 就是 比較 高維度 的 概念 你 讓 他 去畫 他 可能 就畫 不好 什麼 意思 就 剛才 提到 比如 說 AI 其實 它 對 於 一件 事情 的 抽象 能力 是 很 有限 的 比如 說 他 可能 不 知道 賣火車 的 小女孩 是 代表 fancy

這個 意思

然后 那么 这样的话 我 在 想 说 我 让 AI 去 画 一幅 比如说 让 你 体现 fancy 或者说 那些 比较 抽象概念 的 一些 词 它 可能 就 画 出来 的 东西 就 很 莫名其妙 还是 一句 话 你 的

其实 你 要 想 你 要 解决 这个 问题 你 还是 有 很多 步骤 要 做 的 对 吧 你 要 把 这个 高 概念 的 东西 把 它 映射 到 一个 可能 具体 的 事物 上 是 第一步 首先 这 一步 已经 很难 了 因为 我们 刚 说 了 你 要 映射 到 两个 可能 没有 相关性 的 具体 的 事物 当中 已经 是 个 小 概率 事件 这件 事情 本身 很难 了 第二 你 要 抽取 到 这 两个 事物 之间 可能 的 相关性 但是 因为 他们 这 事 从来 没有 出现 过 他们 的 组合 从来 没有 出现 过 他们 之间 的 相关性 怎么 能够 获得 呢 这 也 并 不是 说 可能 大猿 模型 散场

的 事情 然后 我 想到 我 接下去 回去 就 好像 特别 想用 ChaiGPT 去试 一件 事情 就是 我 跟 他 说 你 给 我 说 一个 意料之外 且理

直中 的 故事 对 你 可以 去 问问 他 他 是不是 能够 告诉 你 一个 精妙 的 答案 他 可以 现

编出来 一个 之前 在 文学史 上 没有 出现 过 但 确实 是 意料之外 前提

之中 的 东西 我 可以 这么 说 我 猜 好 他 会 告诉 你 一个 故事 他 可能 你 说 一模一样 的 文字 在 过去 有没有 出现 过 那 应该 是 没有 但是 你 说 这个 概念 在 过去 没有 出现 过 吗 我 不 相信 就 可能 是

在 某篇 或者 某 几篇 互联网 的 文章 中 提到 了 说 意料之外 前提 之中 同时 又 举 了 这个 例子

被 他 抓住 了 可能 比 這個 要 更 複 雜 一些 比 這個 要 更 複 雜 一些 但是 他 比如 說 我 舉個 例子 比如 我們 看 那個 歐 亨利 的 小 說 最 後 一片 葉子 對 吧 那個 小 說 就 說 我們 一個 病人 對 吧 他 躺 在 床上 最後發現 外面 這個 葉子 是 人畫 的 那 其实 是 个 意料之外 情理之中 的 这样 的 一个 典型 的 一个 结尾 是 对 吧 那 他 可能 会 说 一个 类似 的 故事 可能 不是 画个 叶子 可能 画个 其他 的 对 不

对 那 核心 概念 还是 一样 的

概念 是 一样 的 对 吧 或者说 你 总能 找到 一些 蛛丝马迹 它 是

在 过去 出现 过 的 所以 這是 他 聯想 的 極限 目前 為止 來

說 如果 你 不給 他 一些 非常 非常 就是 具體 的 我們 叫 prompting 提示 他 是 很 難 做出 一些 突破 的 他給 你 的 還是 更 多 的 是 一些 就是 常見 的 例子 但是 我 說 了 人 在 這個 當中 的 作用 就是 你 可以 把 你 的 一些 想法 好 的 想法 提示 給他 讓 他 把 細節給 完善 掉 這其實 是 一種 合作 所以

总结 下来 今天 聊 了 这么 多 感觉 似乎 AI 的 那些 限制 包括 你 刚刚 提到 精确性 它 本身 就 不是 一个 计算器 然后 包括 也 提到 它 联想 其实 是 有 局限性 的 包括 它 其实 也 是 有 个 非常 强 自己 的 个性 那么 总结 下来 就是 作为 你 作为 一个 科学家 你 知道 它 这么 多 局限性 之后 那 你 觉得 平心静气 我们 不要 这么 这么 多 AI 焦虑 平心静气 来说 你 觉得 用 AI 最好 的 方式 现阶段 是 怎么 去 用 它 對 其實

我們 剛其實 已經 提到 一些 了 就是 反著用 嘛 對 吧 他 不能 解決 一個 問題 因為 他 有 錯誤 他 犯 錯誤 對 吧 如果 說 一個 問題 他 有 多步 的 決策 對 吧 他 有 很 複 雜的 流程 那 你 只能 想 辦法 把 它給 分割 開來 把 它給 分解成 很多很多 的 小 的 任務然 後 呢 你 作為 一個 質檢員 你 作為 一個 質檢員 你 也 可以 說 你 是 個 manager

對 吧

然 後 你 讓 他 幫 你 打工 對 不 對 不 讓 他 完成 一個 小 的 事情 你 看 一下 這個 小 事情 是不是 對 的 對 的 你 接下 來 讓 他 完成 另外 一個 小事 那還

不能 是 一個 安心 的 manager 還是

一個 你 小弟 哪有 manager 是 安心 的 對 不 對 是不是 所有 的 manager 都 要 最後看 你 最 後 這個 成果 完整性 是不是 那 這個 是 第一 點然後關 於 另外 一個 personality 的 問題 就是 因為 他 可能 還是 有 一個 內 在 的 一個 性 和 觀點 對 吧 那 其實 這就 反過 來 說 如果 你 想要 了解 普羅大眾 的 思想 对 不 对 你 想要 了解 一个 commonknowledge 对 吧 叫做 常识 那 它 是 个 非常 非常 好 的 一个 consultant 那 我 感觉 像是

打破 自己 的 信息 简房 回到 刚才 那个 青少年 的 问题 本来 青少年 说 我 要 找 一个 小伙伴 跟 我 对抗 全世界 但 现在 你 可以 说 你 是 有 问题 的 你 就 多 去 听听看 正常人 是 怎么 想

的 這其實 是 非常 非常 重要 的 事 實上 我剛 提到 那篇 研究 工作 也 講了 說 可能 要 讓 他 非常 平衡 這些 不同 的 觀點 也 並不 一定 是 我們 希望 要 的 事情 因為 在 一定 程度 上 如果 他 的 觀點 非常 sharp 也 是給 你 提供 打破 信息 解放 的 一種 手段 因為 你 能 了解 別人 的 觀點 是 怎麼樣 的 他 不會 改變 然后 最后 是 关于 他 的 联想 能力 对 吧 那 联想 能力 我们 其实 刚刚 已经 反复强调 了 你 需要 给 他 透题 啊 对 不 对 你 不能 完全 交给 他 给 你 非常 好 的 创意 事实上 一些 核心 的 创意 还是 需要 你 来 提供 的 这 就是 为什么 说 在 大宇 元 模型 刚刚 出来 的 时候 所有人 都 觉得 哇 他 能 画画 对 吧 他 能 做事 对 吧 可能 我们 这些 画手 可能 就要 失业 了 对 但 事实上 我们 看到 的 现象 是 其实 这 行业 更加 蓬勃 了 就是 因為 他 成為 一個 很 好 的 幫手 你 原來 你 可能 需要 花 比如 說 很長 的 時間 去 把 這些 圖片 給畫 出來 對 吧

有 一個 想法 先是 有個 想法 有個

想法 對 你 有 個 想法 但是 你 把 落地 需要 花 很長 時間 對 吧 但現 在 他 有 一個 很 好 的 工具 幫 你 解決 這個 問題 對 吧 所以 核心 創意 還是 你 的 人 在 這個 過程 當中 還是 有 非常 強的 這個 作用

包括 我 之前 看到 过 有些 人 在 那边 玩 AI 他们 写 代码 写出 一个 非常 诡异 的 做法 就是 先是 用 普通 的 代码 用 一些 随机数 抛 各种各样 奇奇怪怪 没有 关系 的 概念 然后 再 尝试 用大 语言 模型

把 它 圆 回来 对 你 想 他 其实 就是 模拟 了 你 刚刚 说 的 我 多试试 对 不 对

这 给 我 感觉 是 说 比如说 我 可能 写 一个 程序 我 说 洗衣 明珠 的 特点 比如说 我查 Wikipedia 搜 出来 20 个 特点 我 自己 写 一个 程序 让 20 个 特点 随便 抛 然后 再 写 一个 程序 让 网上 随便 找 有 这些 特点 的 东西 然后 再 让 大 语言 模型 把 它 给 圆 回来 他们

怎么 放在 一起 这个 就是 我们 现在 用个 时髦 的 词 叫做 RetrievalAugmentedGeneration 好 高级 我 发现 你 很 有 这个 研究 天赋 已经 完全 想到 了 我们 现在 研究 要 做 的 事情 对

这 是 一种 相当于 是 用人 去 强行 的 去 创造 随机性 然后 或者说 人去 理解 了 一些 内在联系 之后 再 把 那些 东西 通过 一些 程序 的 方式 透题 给 大跃远 模型 然后 让 它 来 去 继续 发展 下去 是

的 事实上 你 其实 人 通过 一些 我们 叫 规则 对 吧 你 把 规则 你 知道 这些 东西 可能 是 相关 你 是 所有 引擎 也好 对 所有 引擎 本质 上 就是 规则 的 引擎 对 吧 然后 等等 这些 然后 你 再 把 这个 结合 大跃远 模型

那 我 跟 大約 模型 去 說 一些 prompt 我 說 你 有 創意 一點 你 加油 是 沒 有用 處

的 你 這個 叫做 什麼 大約 模型 鼓勵 師因 為 有些 人會 說 是不是

我 在 prompt 裡面 說 你 不要 管 平均 的 你 就 做 的 特立 獨行 一點 有 點觀 就 好

了 但 这个 其实 效果 是 不 大 的 你 还是 要 把 最 核心 的 那些 东西 告诉 他 包括

我 在 想到 就是 那些 prompt 可能 还是 回到 刚才 第二点 你 也 没有 办法 让 他 摆脱 那个 average 的

personality 对 那 这个 要求 就 更 高 了 这个 就 像 我们 刚刚 提到 的 你 可能 需要 就是 你 要 让 他 对齐 你 真正 想要 他 成为 的 那个 人 这个 其实 有 很大 的 难度 一方面 有 可能 伦理道德 的 问题 第二 就是 你 可能 都 没有 办法 拿到 这些 数据 另外

一方面 大圓 模型 其實 train 一個 很花 那個 算力 嘛 對 也 很 貴

對 就是 這樣 是 的 他 所以 他 如果 要 完成 要 達 到 你剛 的 這個 目標 其實 還是 蠻

遠 的 回到 你 的 日常生活 中 文章 摘要 你 覺得 他 這個 東西 好像 就 也 沒 有 辦法 幫 你 的 就 還是 得 靠 自己 靠 自己 去 讀 自己 去 聯想

对 事实上 其实 也 不 一定 对 吧 就 像 你 刚刚 其实 讲 了 一个 蛮 好 的 一个 解决方案 我们 刚 说 的 RAG 对 吧 RetrievalAugmentedGeneration 对 吧 那 其实 我 也 可以 因为 我 知道 我 自己 有 一个 文章 的 小 的 一个 小金库 里面 有 很多 我 过去 看过 的 文章 对 吧 那 我 可以 怎么样 呢 对 吧 我 现在 看到 一些 新 的 文章 对 吧 我 制个 硬币 我 让 他 去 里面 搜索 一下 对 吧 找到 这 一百篇 文章

你 看 一下 这 篇文章 和 那 一百篇 文章 哪些地方 可以 有 相似 对比

的 地方 对 那 其实 这 也 是 能够 帮助 到 我 在 一定

程度 上 是 的 但是 你 要

让 他 完全 自动化 的 先 给 我 找到 这 10 篇文章 这 可不 容易 是因为 有 那么 多 的 文章 你 要 找到 和 他 完全 相关 的 这 对 他 来说 还是 很难 的 你 需要 人 的 辅助 的

给 他 一些 提示 那 最后 一个 问题 那 可能 是 比较 轻松愉快 的 问题 了 那么 对于 你 的 日常生活 来说 你 最 希望 说 未来 的 大 语言 模型 的 发展 有 哪些 突破 可以 帮助 你 解决 一些 你 非常 想要 他 去 做 的 但

现在 做不了 的 一些 事情 我 觉得 第一件 事情 是 能够 帮助 我 老婆 跟 伏 地 魔 谈恋爱 滿足 他 一個 夢 想 對 吧 當然 另外 的 就是 我 希望 他 能夠 有 更 多 的 理解 世界 吧 對 吧 因為 理解 世界 是 就是 我們 人類 其實 很多 情況 就是 通過 理解 世界 本身 出 發然後來 做 很多 的 決策 我 覺得 這是 他 一個 核心 的 問題 對 吧 那 這個 是不是 能夠 在 新 的 模型 當中體 現出 來 這是 我 很 想 看到 的 最后 我 就是 我 希望 它 便宜 一点 其实 对于 我们 这些 研究 人员 来说 现在 去 研究 这样 的 一个 工作 也 太难 了 对 吧 太

烧钱 了 像 我 这边 自己 随便 写 些小 程序 的话 可能 会 发觉 OpenAI 那个 账单 已经 有 几百块 钱

每天 的 账单 对 啊 而且 事实上 你 要 知道 它 还是 烧 了 投资人 的 钱 对 实质 上 它 的 成本 比 这个 还要 贵 了

好 那 非常感谢 敏杰 今天 来 跟 大家 聊 这么 多 AI 相关 的 局限性 也 不 知道 大家 听 完 之后 自己 的 AI 焦虑 有没有 有所 缓解 也 说不定 说 我们 今天 聊完 局限性 之后 第二天 突然 之间 有个 大 新闻 它 又 被 解决 了

但是 我 觉得 如果 他 的 问题 是 个 比较 本质 的 问题 其实 也 不 可能 在短期内 解决 更 多 的 是 在 实验室 也 就是 我们 研究 人员 想要 解决 的 问题 就是 研究 人员 周边 的 火 而 不是 你们

周边 的 火 OK 那 我们 周边 的 火 的话 就是 我们 想想看 怎么 去 帮 AI 去 擦屁股 那 非常感谢 各位 的 收听 如果 大家 喜欢 这 期 节目 的话 可以 在 各大 平台 点赞 转发 除此之外 的话 也 可以 关注 我们 的 网站 包括 加听友 群 那 非常感谢 大家 大家 后会有期 下期 再见 拜拜