#35 AI 太笨、人类太懒——机器学习 vs 人类学习

機器 學習 已 經無處 不 在 但 機器 真的 可以 像 人類 一樣 學習 嗎 今天 我們 做客 小 果汁 播客 和 擅長 認知 科學 和 心理 學的播 主跨 界聊 一聊 機器 學習 和 人類

學習 的 對 比 有 一個 完全 沒有 想腦 的 人 他 發現 自己 沒有 想腦 這件 事情 是 到 24 歲 的 時候

它 完全 是 一個 仿生 學 的 模型

大腦 真正 我覺 得 它 神奇 的 地方 就 在 於 那些 沒有 辦法 用言 語化 的

部分

這個 時候 我 就 不得不 提 一下 《 西部 世界 》 這部 美劇 了

这里 是 牛油果 烤面包 哈 喽

各位 听众 朋友 们 大家 好 欢迎 来到 fullofmine 的 播客 我 是 小 果汁 这 一期 呢 是 我们 的 一期 特别 的 串台 节目 我们 请 到 的 嘉宾 是 来自 牛油果 烤面包 播客 的 两位 主播 一位 是 斯图亚特 一位 是 Kat 那 兩位 跟 大家

打個 招呼 大家 好, 我 是 孫亞特 大家 好, 我 是 Kat 之所以 請

到 牛油果 烤 麵 包來 跟 我們 一起 做客 呢 是 因為 今天 的 這 一期 主題 會 有點 特別 這個 主題 既 跟 硬核 科技 有關 也 跟 心理 學有關 或者 說 也 跟 認知 科學 或者 腦科學 有關 我們 想 聊 一聊 就是 機器 學習 AI 的 算法 它 背 後 的 到底 有 什么 共同 或者 不同 的 地方 这个

我 觉得很有 意思 在 我们 说 这 之前 我们 是不是 先 要 知道 一下 人类 是 怎么 学习 的 对 吧 确实 还是 要 请教 一下 我们 的 这个 生物 和 心理学 双料 大脑 我 这来 解释一下 人类 是 怎么 学习 的

那 这个 说来 就 话 长 了 可能 我们 今天 探讨 一 整节 播客 都 未必 能 讲清楚 一个 神经 通路 它 的 几里 但是 我们 可以 先 从 就是 人类 对 大脑 的 认识 讲起 人類 的 腦進化 到 我們 現在腦 已 經花 了 50 萬年 在 這 50 萬年 之 內 呢 我們 有限 的 研究 大腦 的 時間 大概 也 就 只有 10 年 可見 其 實人類 對 大腦 的 研究 其實 非常少 的 1906 年 的 諾獎 其實 就是 發現 了 人類 原來 有神 經元 這樣 一個 細胞 是 專門 的 神經 細胞 大腦 是 怎麼樣 發號 指令 啊 大腦 是 怎麼 做 決策 的 一個 生理 學 的 基礎 那 在 二十 世紀 的 最 早期 的 這個 年代 也 真的 是 神經 科學 生理 學在 研究 腦科學 方面 的 一個 爆發 的 時期 這個 時間 段 不僅 有 像 神經 生物 學家 去 做 腦部 的 解剖 學 啊 盧孝學 啊 去 說 原來 腦部 是 有 功能 分區 的 那 每個 區域 是 各司 其 職去 掌管 了 我們 人體 的 一些 生理 反應 或者 預言 或者 思維 甚至 人格 有些 东西 缺失 了 之后 大脑 依然 可以 工作 后来 就 有人 提出 大脑 其实 是 个 聚集 场 的 工作 模式 所有 的 分区 啊 细胞 啊 都 是 在 整齐划一 的 为 同一个 决策 或者 同一个 学习 做 努力 同时 呢 心理学家 也 是因为 心理学 是 二十世纪 才 开始 发展 的 一门 学科 大部分 的 心理学 研究 其实 是 跟 战争 有关 的 2000 年 的 时候 就 提出 了 叫 梦 的 解析 怎么样 从 通过 梦 当中 的 无意识 的 表象 去 研究 你 大脑 到底 感知 到 了 什么 在 那个 时代 好像 就是 认知 科学家 心理学家 神经 生物学家 都 怎么 分 大家 都 在 一个 风口 上 研究 一样 东西 然后 再往 上 到 1975 年 的 时候 才 开始 有人 知识 因 科学 这个 专门 的 学科 去 研究 脑科学 或者 物质 脑 怎么 产生 意识 的 这样 一个 一件 事情 我们

刚才 说 了 这么 多 的 历史 是 吧 说 到 1970 年 了 是 吧 我们 可以 开始 说 现代 观点 了 是 吧 对 那 我们 经常 对 神经元 的 感觉 就是 好像 全身 都 有 神经 对 吧 一个 血管 一个 神经 一个 什么 怎么样 神经 的 大脑 里面 扮演 一个 什么 角色

呢 神经元 其实 它 算是 大脑 的 组成部分 如果 你 去除 脑脊液 这些 东西 来说 的话 指揮 中心、 傳輸 中心、 記憶 中心 就是 它 做 了 很多很多 事情 但是 神經元 本身 我們 在 觀察 它 的 時候 大部分 觀察到 的 是 它 的 一個 信號 傳導 的 功能 尤其 是 從 通過 你 身體 上 的 神經元 傳達 到 你 的 中樞大腦 的 時候 它 其實 是 一個 電信號 的 過程 假設 你 手 碰到 了 一個 熱水然 後 你 會 覺得 燙 你 縮手 的 那個 瞬間 其實 就是 一個 神經元 的 細 胞膜 上面 有 的 鉀 鈉 離子 通道 有 一個 倒置 這時候 突然 有 一個 正電 信號 和 負電 信號 的 差 這個 差 就是 會 通過 神經 細胞 的 軸突束 突往 大腦 上 傳 所以 這個 是

傳遞 功能 比如 說 我 的 手 疼 要 把 信息 傳給 大腦 或者 我 的 大腦 要 手動 這都 是 通過 神經元 的 電信號 傳過 去 的 那大 腦裡面 呢 大 腦裡面 也 是

布滿 了 神經元 像 大腦 皮層 就是 我們 大腦 最 外面 的 那 一層 也 是 現代 我們 認為 人 的 知覺 運算 邏輯 和 語言產生 的 那 一塊 地方 它 是 神經元 大概 有 60 億個 同時 但是 其實 小腦 就是 我們 所謂 掌管 人類 平衡 這 一部分 的 腦區 它 的 神經元 其實 是 大腦 的 四倍 但是 它 的 拿掉 完全 不 影响 人类 正常 工作 和 交往 还有 意识 产出 学习 它 其实 只 做 了 信息处理 这个 功能 所以

说 并 不是 说 神经元 越多 就 越 聪明 或者 越 怎么样 是 吧

有 一定 的 关联性 但是 你 要 说真的 跟 人类 的 意识 或者 是 跟 人类 的 日常生活 具体 有 多 大 的 关系 呢 好像 也 没有 那么 大舉 幾個 小 的 實驗 吧 這也 是 非常 罕見 的 因為現 在 有 報導 的 就是 完全 小腦 功能 喪失 的 人 一共 就 有 八例 所以 神經 生物 學家 其實 是 在 倫理 之外 其實 能夠 工作 的 個案 很 有限 但是 有 這麼 幾個 實驗給 了 我們 一些 啟示 這個 是 因為

有 創傷 嗎 還是 有 先天 的

傷害 呢 都 有 有的是 先天 他 可能 是子 宮內 就 有 畸形 也 有的是 就是 後 天 得病 比如 癲癇腦 膜炎 這些 對 大腦 的 一些 不 可逆 的 損傷 但 最 後 這些 人活 下來 了 活下 來 之 後 他們 就 成 了 一個 非常 好 的 研究 樣本 比方 說 有 一個 就是 完全 沒有 小腦 的 人 他 發現 自己 沒有 小腦 這件 事情 是 到 24 歲 的 時候 因為 好像 摔了一跤 才 去 檢測 說 沒 有 小腦 可見 這件 事情 對 他 的 影響 微乎其微 到 什麼 程度 那時候 他 已經 結婚 而且 生了 一個 孩子 了

那 他 的 小孩 是 正常 的

嗎 小孩 是 正常 的 對 哇

那 沒 有 小腦 這件 事情 任何 體育 運動 什麼 之類 都 沒 有 任何 問題 嗎 他 會 顯示 出

一些 平衡感 的 問題 和 一些 笨拙 然後他 經常會 平地 摔 但是 這個 屬性 沒有 異常到 他連 走路 都 走 不了 這種 程度 後 來 科學家 發現 其實 這樣 的 一個 人 他 很多 的腦 功能 当 我 这部分 脑区 没有 办法 做 这件 事情 的 时候 很多 其他 的 细胞 就 会 冲过来 说 没事 这事 我 帮 你 扛 了

就

虽然 没有 小脑 那个 器官 但是 有 一些 小脑 的 功能 还是 别的 部分 的 神经元 可以 做 的 对 所以

这 就是 直接 打脸 了 那些 严格 功能 分区 学说 的 人 ok 其实 不是 这样 的 小脑 没有 的 人 他 甚至 大脑 也 会 发展 出 这种 平衡 呀 和 信息处理 的 一些 功能 包括 我们 好像 所有人 都 有 印象 当中 就是 大脑 这个 左半脑 和 右半 脑 之间 各司其职 什么 左脑 是 逻辑 脑 右脑 是 什么 艺术 脑 啊 什么 之类 的 本身 整個 半腦 就 沒 有 發育 的 人 我們 觀察到 的 現象 就是 其實 他 有 對 身體 另一半 的 控制能力 雖然 他 的 控制能力 沒有 那麼 好 吧 因為 他 是 完全 的 半腦 切除 但是 他 還能 參加 殘疾人 奧運會 而且 參加 的 是 游泳 比賽 你 可以 想像 他 其實 就是 對 身體 的 控制能力 已經要 比 一般 人要 做得好 多 了 就是 比 這種 斷 手斷 腳 的 人 要 做得好 多 了 所以 大腦 真的 沒有 那麼 嚴格 的 區分 所有 神經元 的 細胞 在 需要 的 時候 都 可以 扛起 大量

所以 这就是说 大脑 的 神经元 并 不是 从 基因 里 就 分 了 区 了 是 后来 才 把 它 慢慢 的 学习 出来 的 我们 扣回 这个 话题 人类 学习 和 机器 学习 实际上 这些 分区 是从 某种程度 上 说 是 和 后天 的

环境影响 带来 的 你 说 人类 和 机器 都 是 由 后天 环境 决定 吗

很大 一定 程度 上 是 后天 的 环境影响 了 是 吧? 就是 刚才 想 说 的 那个 意思。

那 倒也不是。 事实上, 至少 一个 健康 的 大脑 的话, 它 还是 有 各司其职 这件 事情 的。 就 比如说 视神经 吧, 这个 视觉 通路 是 我们 研究 最 透彻 的 一个 通路。 那 视神经 我们 就 知道, 有 一些 神经 集中 在 脑 的 顶部 的, 它 是 专门 用来 辨别方向 的 和 辨别 位置 的, 就是 哪个 近 哪个 远 另外 一部分 在 靠近 我们 耳朵 这 一侧 的 就是 在 枕叶 这边 的 它 是 专门 来 分辨 这个 东西 是 什么 的 这个 分别 这个 东西 是 什么 的 这个 细胞 呢 非常 具有 左右 半球 的 特异性 如果 你 把 小老鼠 的 这个 左半球 的 这部分 细胞 给 损伤 掉, 同时 你 把 他 的 视觉 皮层 损伤 掉 的话, 他 可能 就 认不出来 这是 什么 了。 但是 呢, 顶叶 的 这个 就是 在 大脑 头顶 的 那 一部分 的 细胞 呢, 它 是 完全 不是 半脑 敏感性 的, 也 就是 如果 你 把 这 一部分 左半脑 的 拿掉, 他 右半 脑 的 依然 能 形成 功能, 所以 大部分 是 要 發 展出 全能性 的 話 他 也 需要 長 年 累 月

的 這種 學習 和 適應 我們 剛才 說 了 這麼 多 的 大腦 是 如何 工作 的 我們 是不是 要 扣回 學習 上 啊 但是 大腦 是 如何 學會 一些 事 呢 比如 說 從 最 簡單 的 來講 啊 人大 腦是 如何 學會 看 東西 的 啊 能 看出 什麼 是 什麼

其實 只是 一個 通路 嘛, 只要 睜眼, 視覺 功能 沒有 受損, 他 就 能 看 但是 要 命名, 從 嬰兒 有 視覺 開始 到 真正 能 命名, 他 大概 至少 有 經歷 三年 的 時間 而且 他 對 於 圖 像 的 抽象 表徵, 對 於 某個 詞意 的 概括性, 他 可能 還要 更久 這個 過程 是 怎麼 發生 的 呢? 视网膜 之后 它会 呈 向 到 你 的 视觉 中枢 到 视觉 中枢 之后 就 像 我 刚刚 说 的 它 有 两层 细胞 一层 在 顶 一层 在 底 顶部 的 细胞 区会 分别 你 输入 的 这个 信号 在 哪个 方位 它 是 完全 照單 全收 的 能夠 把 所有 的 視覺 信號 都 處理 一遍 不管 這個 視覺 信號 出現 在 你 的 視角 的 哪 一邊 可能 你 自己 都 沒 有 注意 到 我 的 視角 可能 瞥 到 了 這個 東西 但是 它 都 會 點亮 你 的 這 部分 細胞 這 就是 為 什麼 會 有 看到 一些 美劇 或者 什麼 時候 說 你 要 回想 當時 案發 現場 這個 人 的 紋身 是 什麼 你 頂部 的 大腦 神經元 被 點亮 的 那個 過程 同時 這個 信號 又 經過 了 你 底部 的 在 整頁 的 這個 神經元 這些 神經元 它 就 只 處理 我們 叫做 中央 凹 的 部分 中央 凹 就是 你 的 視覺 你 的 注意力 注視 的 方向 當你 的 注意力 注意 到 那裡 的 時候 相當 於 在 告訴 大腦 這個 東西 我 是 要 好好 處理 的 你給 我 好好 工作 這時候 大腦 就 會 點亮 一萬個 細胞 去 同時 去 看 這個 東西 那 到底 是 個 什麼 這個 部分 細胞裡面 有 的 會 去 識別 它 的 不同 視角下 是 什麼樣 的 東西然 後 去 把 它 疊加 看 是不是 這個 東西 有 的 呢 是 會 跟 其他 細胞 產生 連結 這時候 你 就 會 出現 了 聯想 我 看到 一個 杯子 我 想到 了 水 我 看到 大海 我 想到 了 天空 等等 這些 點亮 都 是 在 這裡 出現 的 同時 它 還會 把 這個 局部 和 整體 還有 一些 遮擋 物 做 一些 整合 我 知道 這個 東西 雖然 被 擋 住 了 但 它 還在 那裡 而且 我 知道 這個 東西 雖然 被 劃得 很大 但是 它 本身 就是 這麼 大 就是 所有 的 這些 細胞 在 各司 其 職地 去 做 這樣 一些 分析 最 後 最後到 你 的 皮層 通過 語言 表示 出來 說 哦 這個 是 媽其實 她 已 經歷 了 這 一整套 的 處理 最 後 你 才 會 提取 到 這樣 一個 我 只要 用 這個 信息 就夠 了 那 我 就 說 這是 媽媽 如果 你 可能 要 写 一篇 关于 妈妈 的 作文, 那 这些 细胞 就 会 继续 协同工作, 去 想 妈妈 怎么 对 我 好 呀, 妈妈 什么 时候 给 我 喂 一颗 糖 啊 等等 这些 关于 妈妈 的 联想 以及 情感 的 表达。

那 人类 是 怎么 学会 的 呢?

学会 命名 吗?

就是 人 出生 肯定 不 知道 这个 妈妈 长 这样, 妈妈 爸爸 长 这 样子, 对 吧? 他 是 怎么 能够 让 你 的 大脑 学会 这件 事情 的 呢?

有 一个 神经细胞 叫 祖母 细胞 不 知道 你们 听说 过 没有 就是 有 神经学家 假设 大脑 中有 一些 细胞 是 专门 只 对 某 一样 东西 产生 特定 反应 的 那 这个 细胞 它 之所以 会 记住 这 一样 特定 的 东西 它 是 受到 了 一些 刺激 然后 最后 有 一些 反射 就是 这个 细胞 只 对 这 一样 东西 产生 反应 而 其他 细胞 可能 对于 所有 女性 所有 人类 或者 所有 在 动 的 物体 都 会 产生 反应 也 是 有 个 层层 筛选 的 这样 一个 过程 但是 祖母 肖 这个 理论 其实 并 没有 得到 所有人 的 认可 因为 人 能够 去 测量 的 脑细胞 或者 脑 活动 是 很 有限 的 但是 最近 有 一个 研究 通過 電信號 發現 不管 這個 手 是 在 哪個 角度 正著放, 反著放, 橫著放, 豎著 放大 腦的 腦區 或者 說 這幾個 神經 細胞 它 的 放電量 都 是 非常 穩定 的 一個 高 的 峰值 但是 如果 是 這個 手 變成 了 手套, 就是 沒有 這個 四個 手指, 那 這個 神經 細胞 的 那個 峰值 就 變得 很 低 特征 就是 这 四个 手指 于是 他 画 了 一个 类似 于 锯齿状 的 图形 其实 并 不 像 手 可能 更 像 一个 叉子 但是 发现 这个 神经细胞 树对 这个 毫无 反应 的 你 可以 发现 就是 当 我们 在 学习 的 时候 它 可能 是 一个 刺激 反应 刺激 反应 我 每次 一 发生 这个 刺激 的 时候 爸爸妈妈 就 告诉 我 这 是 这 是 手 这 是 苹果 这是 香蕉 無窮 的 變數 的 有 的 細胞 反應 非常 靈敏 有 的 細胞 只有 對 特定 刺激 才 有 反應 就是 這種 無限 梯度 讓 人 最後學習 了 這個 千變 萬化

的 世界 吧 很 有意思 這個 讓 我們 學計算機 的 人覺 得 很 有

啟發 這個 事 那 機器 學習 又 是 怎麼 樣識別 圖 像 的 呢

好 那 我们 就 说 说 机器 学习 吧 这个 我们 都 不是 专家 Kat 和 我们 都 不是 专家 但是 我们 的 节目 其实 请 到 过 很多 机器 学习 的 从业人员 我们 之前 做过 机器 学习 和 智能 推荐 建议 大家 如果 想 对于 机器 学习 或者说 AI 有 更 多 的 认识 的话 可以 去 听听 那些 专家 来讲 我 只是 说一说 从 我 一个半 外行 一个 全 外行 的 角度 来说 一说 我 对 机器 学习 的 理解 机器 学习 这个 词 我 昨天 查 了 一下 是 诞生 于 195 年 有 一个 科学家 提出 他 说 机器 学习 是 什么 呢 机器 学习 是 让 计算机 自动 学习 而 不 需要 直接 编程 出来 他 把 这个 定义 为 机器 学习, 从 这个 定义 就 可以 看出 他 对于 机器 学习 这个 词 的 定位 是 说, 人 编程 的 时候 不 需要 把 所有 的 逻辑 都 写 出来, 因为 学过 编程 的 人 都 知道, 我们 编程 就是 把 一些 逻辑 写 到 程序 里面, ifelse, ifelse, for, 循环, 分支, 就是 这样。 但 這會 遇到 一個 問題, 就是 我們 人類 不 可能 在 編程 的 時候 把 所有 的 事情 都 ifelse 寫 進去, 都 按照 邏輯 寫 進去, 你 要 寫 一個 比如 說 你 要 打遊戲 的, 如果 說 如果 全部 邏輯 寫 的 話, 就是 我 看到 了 藍色 的, 如果 它 是 什麼 我 左 拐, 如果 它 是 什麼 右 拐, 就 所有 都 是 if, 這個 可能 程序 員能夠 做到 的 事情 是 非常 有限 的, 所以 他们 就 说 可以 让 计算机 机器 学习 就是 它 可以 通过 计算机 的 经验 通过 它 的 数据 来 自动 学到 一些 东西 然后 学到 之后 就 可以 这些 逻辑 就 可以 学 出来 了 所以 可以 理解 一下 这件 事 如果 在 机器 学习 之前 要 识别 图片 上 是 一只 猫 的话 我们 要 怎么 做 我们 可能 人类 就要 写 很多 的 程序 说 什么 是 白色 的 形状 是 这样 的 怎么样 这个 形状 眼睛 什么样 对 吧 这 是 基本上 是 不 可能 的 对 吧 不 可能 让 所有 的 程序员 都 把 全世界 的 物品 都 写 一遍 的 吧 所以 这个 能够 让 计算机 可以 自动 从 数据 中学 出来 的 领域 就 叫做 机器 学习 嗯 这 就是 这个 机器 学习 提出 的 意义 那 现在 来说 依然 是 这个 意思 自习 学习 现在 一般来说 是 分为 三类 一类 叫做 监督 学习 监督 学习 是 什么 呢 就是 我们 之前 先给 他 一些 训练 集 训练 集有 输入 有 输出 我们 的 目标 就是 输入 和 输出 比如说 我们 还是 用 图片 里面 有 猫 这个 例子 来说 我们 的 输入 就是 一张 图片 输出 就是说 它 是不是 猫 监督 学习 就是 先给 你 一定 的 训练 集 一些 图片 這些 圖片給 你 標 註 好 了 是 貓 還 是不是 貓, 讓 計算機 進行 一定 的 學習, 學習 之 後 呢, 它 已 經學會 了, 學出 一個 模型, 然後之後再給 你 一個 新 的 圖片, 一個 新 的 輸入, 你 可以 用 這個 模型 來判斷 是不是 貓, 這件 事情 就 叫做 監督學習。 还有 一种 叫做 非 监督 学习, 从 名字 中 可以 看出, 就 没有 明确 的 输入 和 输出, 只是 输入。 非 监督 学习 有 很 多种, 通常 就是说 从 数据 里面 能学出 一个 什么 东西 来, 比如说 我们 有 大量 的 数据, 有 大量 的 照片 发给你, 计算机 它 不 知道 里面 是 什么 东西, 但是 它 可以 给 分类。 分成 一堆 一堆 一堆, 但是 你 人 过来 看, 这 一堆 是 猫, 这 一堆 是 狗。 虽然 它 不 知道 它 是 什么, 但是 它 可以 把 它 分 出来, 这个 叫做 Clustering。 剧类 就是 把 一堆 数据 里面 相似 的 东西 放 出来, 这 就 是非 监督 学习 一个 比较 著名 的 例子。 还有 一种 叫做 强化 学习, 强化 学习 说 的 是, 去 學習 發現 有 遇到 更 多 的 環境 的 變化然 後 他 會 做出 一些 決策然 後 他 會 分析 這個 決策 結果 是 好 還是 不好 就是 有 一個 輸入 有 一個 分析 結果 是否 優化 的 一個 打分 的 函數然 後 就 通過 不停 地 做出 不同 的 決策 不同 的 判斷 然後能夠 不斷 地 優化 這個 打分 然 後 這個 模型 就 在 這個 環境 中不斷 不斷 不斷 不斷 地 提高 這個 叫做 強化 學習 这 是 三种 机器 学习 的 分类 我们 通常 举 例子 就 都 说 监督 学习 因为 好像 监督 学习 用 的 还是 最 广泛 的 就是 那种 先有 一个 训练 机 标注 好 训练 机 然后 学习 的 这种 方法 从 这种 机器 学习 的 分类 就可以看 出来 其实 它 到 现在 为止 基本上 是 为了 一个 具体 的 任务 人类 给 它 提供数据 其实 近 二三十年 都 是 一个 非常 热门 的 领域 了, 但是 机器 学习 在 直到 十多年 前, 大家 可能 听说 过 叫 深度 学习 革命 之前, 都 是 一个 比较 更 像 统计 的 状态。 如果 你 十五年 前 的 时候 学 机器 学习, 举 例子 都 会 说 一些 模型 教 的, 比如 像 logisticregression, 比如 說 我 有 一堆 輸入 碼, 輸入 是 一堆 的 數碼, 輸出 是 一個 數碼。 然 後 你 把 這些 渲染 機 放在 一起, 進行 一些 數學 變化, 取得 這麼 一個 參數, 有的是 現金, 有的是 非現 金, 但是 它 可能 是 一個 公式, 它 可能 是 一個 提前 算好 的 公式。 它 通过 一个 有点像 数学 回归 的 方法, 然后 得出 一组 参数, 可以 使得 它 的 输出 离 它 的 训练 级 标注 的 输出 的 距离 最小。 你 可以 这样 理解 这件 事, 有 各种 不同 的 训练方法, 但是 基本 的 想法 就是 这样, 你 可以 像 一个 统计 或者 数学 回归 的 方法 算 一个 优化 值。 就是 如果 你 十五年 前學 機器 學習 大概 就是 這麼 一個 有 的 可能 就是 數學算 得出 來 有 的 可能 是 比如 說 在 高維空間 上 怎麼 怎麼樣 距離 比 較 小 有的是 什麼 畫一個 直線 有的是 畫一個 平面 有的是 畫一個 各種 各樣 的 面 大概 就是 這麼 一個 過程 但是 呢 十多年 前有 一個 叫做 深度 學習 革命 的 一個 事情 深度 学习 其实 是 叫 多层 神经网络。 我们 刚才 说了半天 神经, 我们 终于 又 体会 神经 了。 我们 学 计算机 的 人 说 神经网络, 和 学生 物 的 人 说 的 还 不 太 一样。 神经网络 这个 理论 其实 在 几十年 前 就 有 了。 大概 好像 是 70 年代 就 有 這麼 一個 理論 了 它 是 完全 是 一個 仿生 學 的 模型 就是 有點 像 剛才 果汁 說 的 他 認為 人類 的 神經元 就是 互相 連接 傳送 用 電信號 傳送 信息 的 過程 生物 的 大腦 就是 通過 神經元 傳遞 信息 就 可以 完成 很多 的 任務 所以 他們 的 模型 是 非常 像 生物 的 它 的 模型 就 分成 層, 邏輯 上 不是 物理 上 就是 說 每 一層 有 多個 神經元 每 一個 神經元 和 前面 那層 和後面 那層 的 神經元 相連 比如 說 這一層 有 10 個 神經元 下面 一層 有 10 個 神經元 那麼 可能 這一層 的 10 個 神經元 和 下 一層 所有 的 10 個 或者 說 是 其中 的 一部分 相連然 後 他們 呢 每 一個 神經元 可以 發送 信息 或者 信號 那些 神经元 然后 每个 神经元 也 可以 从 前面 一层 接收 信息 然后 在 每 一个 神经元 里面 有 那么 一些 运算 决定 你 怎么 向下 一层 发送信息 整个 这个 模型 啊 逻辑 上 就是 这么 一个 结构 输入 就 直接 输入 给 一些 神经元 输出 也 是从 神经元 输出 然后 在 他们 中间 就是 用 多层 的 神经网络 进行 连接 这个 虽然 70 年代 提出 的 但是 基本上 没有 什么 用 一直 到 大概 十年 前 十几年 前 的 时候 突然 产生 了 一个 革命 就是 突然 机器 的 计算能力 可以 达到 把 这个 神经网络 训练 出来 的 程度 为什么 这样 呢 因为 人工神经网络 要 有效 必须 要 有 一定 的 层数 嘛 有 一定 的 神经元 嘛 但是 要 按照 公式 算 出 神经元 来 这个 这个 运算量 实在 是 太大 了 他们 现在 用 的 方法 就是 迭代法 用 训练 机 一个 一个 一个 过来 然后 我们 看一看 输出 是 多少 然后 回来 调整 数据 然后 再 一个 数据 过来 回来 调整 数据 用 海洋 的 方法 和 大量 的 运算 能力 然后 能够 把 神经元 里面 的 那些 每个 神经元 里面 的 公式 然后 它 的 信号 的 加权 都 算 出来 算出 一個 數字來 這個 模型 就算 好 了 就 邏輯 上 就是 每一個 神經元 的 這個 發送 和 這個 輸出 所以 這個 是 大概 在 十多年 前 的 時候 的 一個 革命 啊 當時 的 革命 是 用 這種 方法 就 深度 學習 的 方法 可以 使得 圖像識 別和視 頻識別 可能 很長 時間 都 沒 有 太 好 的 突破 的 方法 突然 有 一個 極大 的 提高 就 突然 让 图像识别 成为 了 一个 可以 用 的 东西 甚至 当时 很快 就 超过 了 人类 的 识别 成功率 这个 好像 科幻 一样 比如说 你 20 年前 跟 你 说 电脑 可以 识别 人 超过 人类 这 可能 都 认为 是 可 想象 的 但是 突然 你 可以 在 十多年 前 发现 大家 都 已经 这样 了 这个 我们 之前 的 嘉宾 曾经 说 过 之所以 神经网络 这个 算法 对于 图像识别 视频 识别 这么 有效 很 可能 是因为 它 和 人类 处理 图像 的 方法 是 很 相近 的 因为 它 的 输入 就是 一张 图像 图像 大家 知道 存 图像 的 时候 就是 一些 像素 输出 可能 说 这 是 个 什么 东西 或者说 这是 个数 你 輸入 的 神經元 可能 第一排 是 一個 小塊 每 一個 神經元 是 處理 一個 小塊 小塊 可能 什麼 都 不是 小塊 是紅 的 藍 的 然後後面 是 更 大 一點 的 塊 再後面 是 更 大 一點 的 塊 再後面 可能 我們 也 不 太 懂 是 個 什麼 了 但是 就 很 可能 它 處理圖 像 的 方式 是 和 人類 比 較 像

的 那人類 的 眼睛 看到 的 是 像素 嗎 還是 別 的 東西 其

實人類 不是 人类 很少 去 关注 一个 画面 的 细节 你 就 像 为什么 会 有 大家来找 茬 这个 游戏 就 知道 你 要 去 让 人用 肉眼 识别 两幅 画 当中 的 细微差别 人 是 很 难 做到 的 你 去 看 最强 大脑 这样 的 节目 像 水哥 这种 可以 识别 水文 的 区别 或者 是 可以 去 看到 哪些 东西 被动 过 都 属于 要 需要 一个 像素 一个 像素 看 的 吗? 其实 不是, 人 对 图像 的 识别 最大 的 刺激 在于 这个 图像 引发 的 记忆, 就是 它 跟 记忆 当中 的 某个 画面 重叠 了, 这个 时候 你 的 放电 才 是 最 猛烈 的, 或者 是 它 突然 跟 你 记忆 当中 一个 很 强烈 的 情绪 重叠 了, 有些 人 在 看 名画 的 时候 会 不 自觉 落泪, 也许 他 之前 有 多 紅綠色 有 多 綠 它 就是 跟 他 早年 的 一個 某種 情緒 反應 重疊 了 這時候 你 的 腦的 電波 峰值 就 會 很 高 所以 人 在 看圖 像 的 時候 他 做 的 更 大 的 部分 是 實而 不是 別 就是 人 很少 去 做 排除 它 不是 什麼 這件 事情 人 只 做 確定 它 是 什麼 我 只要 做好 確定 了 我 認為 它 是 個 杯子 然後就 不管 這件 事情 接下 來大腦 工作 的 點頭 在 於 這個 杯子 發現 他 圖像識別 之 後 所有 的 腦力 都 用 在 他 的 故事性 上 這個 圖 像 只有 有 故事性 才 是 有意 義的 所以 人花 了 很大 的 腦力 去 聯想 去 解讀 解義這個 圖 像 所以 我們 會用 一句 話 說 就是 人永遠活 在 自己 的 dangergroup 當中 你 永遠 在 從 記憶 的 海洋 或 潛意識 的 海洋 裡面 去 搜 尋那個 刺激 最高 的點 最後給 這個 圖片 加一個 故事 是 這樣 的 其实

刚才 说 机器 每 一个点 看 那 只不过 是 说 它 下面 那 一层 在 看 可以 想象 那 并 不是 所有 的 信息 最终 都 被 汇总 到 了 后面 那些 层 因为 离 输入 最近 的 那些 层 是 和 原 像素 更近 的 离 输出 更近 的 那些 层 是 和 你 是 猫 是 狗 更 近 的 就是 你 在 前面 那些 层 处理 这些 像素 并不等于 这些 像素 最终 它 的 权重 放到 了 最后 那 一层 所以 最终 机器 学习 是 怎么 得到 猫 这 是 狗 这件 事 其实 我们 未必 特别 的 清楚 就是 我们 未必 知道 它 真的 是 怎么 处理 像素 的 说 到 这个 突然 想 起来 这 Kat 肯定 知道 就是 在 前些年 有 一些 学者 就是 为了 质疑 深度 学习 这件 事 就是 他 专门 构造 了 一些 图片 人类 看上去 完全 什么 都 不是 的 一张 图片, 就 会 被 模型 识别 为 说 这个 是 猫, 这个 是 狗。 他 想 说明 的 事 就是说, 机器 学习 它 是 个 统计 模型, 它 其实 什么 都 没有 看 懂。 但是 你 可以 看出 一件 事 就是说 机器 可能 未必 是从 细节 看 出来 的 它 很 可能 是 抽象 出 了 一些 非常 非常 高层 的 一些 信息 这些 抽象 出来 的 信息 可能 未必 都 和 人类 抽象 出来 的 是 一样 的 因为 为什么 它 看出 那个 人类 认为 完全 不是 猫 的 东西 它 看出 的 是 猫 当然 这个 东西 人工智能 很多 人 认为 是 个 实验 科学 很多 人 搞不清楚 里面 到底 是 怎么回事 很多 人 也 只能 说 瞎猜 一下 而 我們 是 說 出 了 這個 深度 學習 就是 說 有 圖 像 和 視頻 是 當年 的 革命性 然 後 突然 這個 技術 就 變成 了 機器 學習 的 主流 到後面 慢慢 的 像 語音識別 也 被 這個 也 被 機器 學習 攻克 了 像 互聯網 的 這些 推薦 系統 包括 像 什麼 搜索 呀 推薦 廣告 啊 各種 各樣 的 東西 也 都 被 深度 學習 攻克 了 最 著名 的 就是 這個 阿爾法 狗 是 吧 围棋 也 被 人工智能 攻克 了 那么 其中 是 大量 的 使用 深度 学习 在 里面 在 训练 出去 AlphaGo 最大 的 一个 创新 是 说 它 好像 自我 对战 是 吧 自我 对战 完 的 东西 会 成为 它 的 训练 机 然后 它 再 训练 一下 提高 模型 然后 再 自我 对战 一下 最近 这 两年 可能 大家 经常 说 的 一件 事 叫做 以 BERT 为首 的 这些 算法 給 自然物 源處 出 了 一個 很大 的 里程碑式 的 進展 之前 可能 人類 自然 源 可能 倒 是 和 機器 學習 和 深度 學習 模型 不太一樣 但是 現在 新 的 這些 算法 利用 強大 的 算力 也 開始 征服 這個

領域 既然 深度 學習 能夠 這樣子 解決 下棋 的 問題 那人類 的 下棋 是 如何 學習 的 呢?

其实 人类 你 要 反观 自己 的 这个 学习 过程 是 很 懒 的, 不管 是 下棋 还是 像 刚刚 说 的 自我 对战 啊, 或者 是 在 之前 说 的 都 是 繁衍 性 的 你 看 狼孩 这个 例子 就 知道 就是 如果 一个 人 他 脱离 了 社会 和 环境 脱离 了 学习 的 环境 他 的 大脑 发育 顶多 到 四五岁 就 停止 了 也 就是 他 只 发展 出 了 一些 基本 的 识别 语言 这部分 也 不会 有没有 语言 的话 你 就 更 很 难 去 命名 你 不 需要 命名 的 时候 你 连 分类 都 不会 去 做 所以 是 大概 是 这样 一件 事情 人類 真的 很少 去 做 一些 我 不斷 地 跟 自己 下棋, 然後去 嘗試 所有 可能, 最後優化 我 所有 的 最 優解 的 這樣 一個 策略, 真的 是 非常 非常少。 就 像 之前 說 的, 人類 的 大腦 的 刺激 最 峰值 的 時候 是 跟 過去 和 記憶 重疊 的 時候, 經驗 在 人類 所有 學習 當中 比重 是 最大 的。 包括 如果 你 要 去 让 一个 孩子, 小孩子 去 好好学习 最好 的 方法 不是 去 教 他 一些 很 陌生 的 东西 最好 的 方法 一定 是从 那些 他 熟悉 的 东西 当中 去 提取 一点点 他 不 知道 的 事情 等 他 掌握 之后 再 去 加 一点点 他 不 知道 的 东西 这时候 他 才能 学会 如果 一 开始 就 直接 从 一加 一 等于 二 开始 学习 他 都 没有 建立 这个 一 和 一才 開始 能 慢慢 地有 這樣 的 認知。 所以 在 學習 這件 事情 上, 或者 說 最 狹隘 的 說 法 是, 在 人 的 大腦 皮層 對 於 邏輯 和 決策 的 這 部分 認知 上, 人 真的 是 可能 會 很快 比不上, 或者 是 在 很多 方面 都 比不上 機器 的, 因為 人 沒 有 這個 學習 的 動力, 應該 這麼 說。 但是 人 的 學習 它 最 美妙 的 部分 其實 並不發生 在 自己 的 皮層 它 是 發生 在 你 的 杏仁核 海馬體 包括 你 的 腦幹 這些 最 原始 的 地方 也 就是 你 的 夢境 當中 的 那些 神經 系統 的 表達 那些 神經 的 整合 你 的 創造性 然後思維 的 跳躍性 你 的 在 做 決策 時候 的 猶豫 這些 才 是 人 真正 學習 的 時候 那些 人性 去 學會 的 部分 所以

就是 說人類 其實 不 太 適合 北齐 这样 的 工作 虽然 人类 其实 不

适合 任何 思维 工作 在我看来 人类 是

适合 决策 不 适合 得到 这个 事实

是 吧 人类 甚至 都 不能 叫 决策 那 真的 是 很 武断 的 决策 非常 主观 刚才 说 这个

既然 說 到 了 深度 學習 嘛, 因為 我們 和 人長 區別, 順便 說 一下, 因為 我們 另外 一期 節目, 禮拜 五錄 的 其實 就是 講 NN 硬件, 它 說 到 的 一個 技術 啊, 就是 叫做 SNN 啊。 是 可能 是 更 像 人类 的 因为 它 称为 类脑 计算 我们 经常 说 神经学 或者 叫 ANNArtificialNeuralNetwork 有 一些 学者 认为 它 其实 是 不够 仿生 的 因为 我们 人类 的 神经元 并 不是 像 ANN 这么 工作 的 并 不是 说 我们 算 一个 全值 然后 就 开始 用 的 我们 的 这个 人类 的 神经 是 你 给 一个 神经元 刺激 电流 越来越 大 越来越 大 反复 刺激 突然 到 一个 阈值 之后 它 就 点亮 了 点亮 之后 就 给 下面 一个 刺激 接下来 再来 再 来到 了 一个 阈值 又 再 点亮 一个 就是 它 并 不是 一个 静态 的 阈值 而是 一个 不断 脉冲 积累 的 过程 然后 逐渐 变化 的 过程 所以 有 一些 人 认为 现在 大家 经常 都 用 这个 神经网络 是 离 人类 的 思维 更远 的 所以 他们 提出 了 一种 叫做 SNN 就是 SpecialNeuralNetwork 就 完全 模拟 这种 脉冲 积累 然后 预知 之后 出发 的 这么 一个 模型 所以 他们 的 做法 就是 神经元 是 积累 信号 并且 后面 的 信号 会 decay 就是 在 这 之前 信号 会 忘掉 然后 最后 累积 之后 会 触发 下 一个 信号 有 一批 人工智能 的 硬件 厂商 也 在 开始 这样 做 但是 它 现在 这个 还 比较 初级 现在 还 不能 达到 普通 的 ANN 的 水平 但是 很多 人 认为 这个 是 未来 未来 就是 这样 的 就是 我们 的 人工智能 就要 做 得 更

像 人脑 我 觉得 这个 很 有意思 因为 确实 人脑 会 有 就是 因为 神经元 放电 而 产生 的 一些 极其 怪怪的 现象 这个 很 可能 很大 一部分 程度 上 是 决定 了 人 的 思维 魅力 的 一個 很 深 的 印象 然後之 後 這些 印象 慢慢 的 退 隱到 了 意識層 之外 也 就是 退隱到 潛意識 但 你 又 依稀 有 這麼 一個 印象 這時候 它 的 創造力 是 最鮮活 的 時候 它 可以 在 夢 中然 後 讓 我 想到 了 足球 席 是 一個 什麼樣 的 結構 最 創造性 的 東西 就是 在 那些 印象 即將 湮滅 到 潛意識 的 時候 突然 在意 識層 又 捕捉到 了 一些 零散 的 信號 最終 搭成 了 一個 新 的 神經元 之間 的 強連 接然 後 你 會 認定 這 就是 我 認為 的 是 這樣子 最後人 可能 再會 去 做 很多 求證 的 工作 但是 靈感 的 那 一瞬 間 就是 這麼

產生 的 說 起 這個, 我 的 本行 是 做 存儲 的, 我 不是 做 AI 的, 我 是 做 存儲 的。 我 經常 對 人類 的 記憶 這件 事, 我們 有 時間 可以 再 聊聊 人類 的 記憶, 我 經常 對 人類 的 記憶 這件 事情 覺得 非常 非常 的 不可 思議。 我們 現在 的 存儲 都 是 非常 的 定義好 的 格式, 怎麼 查詢 怎麼 來, 人類 可以 用 這麼 一種 大腦 組織 信息 的 方式 它 查詢 信息 的 方式 讓 我們 覺得 非常 的 不可 思議 我們 做 存儲 的 人覺 得 但是 當然 你 可以 說 從 很 基本 層 面上 來 看 計算機 的 存儲 和 人類 大腦 存儲 也 還有 很多 類似 之處 的 但是 大腦 存儲 看上去 是 有 很多很多 讓 人 不可 思議 的 地方 對 我們 說 這麼 多 基本上 就 機器 學習 說 完 了, 就 說明 他 能 做 的 事情 非常 的 少。 剛才 這個 果汁 說 了 這麼 多人能 做 的 事, 機器 學習現 在 還都 不 可以。 機器學 就 可以 完成 一個 人類 定義的 非常 好 的 輸入 輸出 的 這麼 一個 任務 那麼 任何 無法 精確定 義輸入 輸出 的 事 其實 基本上 都 不行 那麼 就算 是 機器 學習 能夠 人類 定義的 很 好 這個 再次 推薦 大家 去 聽 我們 另外 一期 講 AI 應用 的 節目 我 就 說 AI 太笨 了 都 做不了 比如说 智能 驾驶 这件 事 在 一个 路口 边上 有车 不停 走 这个 车拐 不 拐 这件 事 机器 就是 做 不好 的 就是 依然 做 不好 这件 事 机器 实在

是 太笨 了 我 觉得 你 刚刚 说 的 有 一点 我 觉得很有 意思 就是 你 说 凡是 能 精确 描述 的 他 才 可能 进入 到 机器 学习 的 语境 让 他 有 像 游法 课 一样 去 学习 这 也 是 我们 在 做 心理学 研究 的 时候 去 关注 的 一点, 就是 人类 的 非 语言 的 认知 跟 语言 的 认知 比, 非 语言 的 认知 太 广袤、 原始 了。 它 可能 真的 是 决定 了 人 百分之九十 左右 的 决策, 你 让 我 下意识 决策。 表達 出來 的 只 佔 到 你 可能 日常生活 中 的 10% 左右 這 10% 機器 可以 玩爆 我們 但是 我們 在 學習 人生 觀在 決定 我們 人格 走向 的 一些 東西 比方 說 什麼 是 希望 這東西 我 覺得 機器 就 很 難 去 定義什麼 是 好人 什麼 是 英雄 因為 每個 人 對 這些 東西 的 定義都 不 一樣 所以 對 他 來 說 學習 成本 就 很

高 这个 我 听 了 之后, 其实 我 的 想法 是 正相反 的, 因为 机器 是 没有 思维能力 的, 它 没有 意识 的, 其实 机器 能 完成 的 是 那 90%, 因为 机器 没有 意识 嘛, 人类 是 有意识 的, 人类 认为 我们 做 的 决策, 我们 以为 我们 有 理性 做 的 决策, 机器 是 没有 的。 所以 機器 有 的 東西 就是 神經元給 我們 算 出來 的 那些 判斷 所以 如果 讓 我 做 一個 比 較 的 話 當然 不同 人 可能 不同 觀點 機器 其實 是 一個 下 意識動物 它 沒 有 邏輯 思維 這我 反而 覺得 是 機器 的 一個 弱點 就是 它 不會 思維 它 只會 統計 規律 它 只會 趨利 避害 它 不會 有 高層 的 想法

可以 去 描述 的。

对, 所以 就 连 那个 下意识 都 做 不好, 你 必须 描述 好 的 下意识 它 才能 做好, 看来 就 更 笨 了 一些。

对, 所以 其实 在 心理学 领域 看来, 你 凡是 能 描述 的 就 已经 上升 到 意识 层 了。

它 不会 描述。

是 人 意識層 的 東西應 該 這麼說 對 但是 在 潛意識層 人 自己 都 不 知道 自己 在 幹什麼 說 實話 就 像 剛其實 你 剛談 到 了 一點 存儲人 其實 在 記憶 這個 領域 它 有 無限多種 存儲 方式 這個 是 人 跟 機器 非常 大不一樣 的 地方 就是 你 在 夢境 當中 你 對 信息 的 理解 你 對 你 所有 儲存 信息 的 理解 是 跟 你 醒 的 時候 完全 不一樣 的 它們 還是 同樣 的 編碼 还是 都 在 你 的 脑子里 但 你 提取 索引 所有 的 这些 方式 整合 的 方式 不 一样 人 在 不同 的 脑波 的 时候 是 有 不同 的 整合 方式 我 想 这么 说 是因为 如果 你 真的 打开 人 的 潜意识 的话 你 会 发现 我们 不 知道 是 怎么 出来 的 那些 黑匣子 比方说 连绝 啊 疑情 啊 催眠 啊 然后 认知 偏差 啊 生理 换取 水平 啊 你 的 梦境 当中 的 意象 的 表征 啊 这些 东西 才 是

我们 刚才 损了 机器 这么 多 其实 很 显然 我们 机器 学习 跟 人 比 还是 有 它 有 优势 的 地方 对 吧 最 明显 的 一个 例子 就是 计算机 的 信息处理 能力 非常 的 强, 我们 人类 上 亿年 的 进化, 如果 从 生物 开始, 多少 亿年 的 进化, 其实 不 适应 大量 信息 的 环境, 人类 生存 的 环境 都 是 一个, 物理 环境 而 不是 一个 大量 的 数据 的 吧 各种各样 含量 数据 的 环境 所以 人类 并 不 适合 处理 大量 数据 你 人 有 多少 人 能够 记住 这么 多 的 数据 并且 同盘 处理 呢 所以 计算机 处理 数据 的 能力 是 很 强 的 比如说 那些 啊 股票 自动 交易 呀 是 吧 包括 像 推荐 吗 互联网 推荐 呀 给 你 推荐 视频 给 你 推荐 新闻 上 一条 新闻 多少 条 新闻 人 怎么 可能 全都 记得 每条 新闻 呢 对 吧 但是 机器 就 可以 把 这些 数据 全都 算 一遍 然后 告诉 你 这条 新闻 你 应该 看 所以 对于 大量 信息处理 的 任务 显然 是 吧 人类 是 不行 的 因为 人类 根本 就 无法 处理 这么 多 信息 这个 果真 同意 你 的

观点 吗 我 同意 人 确实 是

而且 人

实验 是 说 两个 人 他 在 天桥 的 两端 然后 做 着 拉 绳子 的 动作 蹲 在 那里 做 拉 绳子 的 动作 然后 凡是 走过 的 人 只要 注意 到 他俩 的 都 会 把 脚 抬起 来 跨过 那个 绳子 实际上 他们 没有 这根 绳子 他们 就 只是 在 做 动作 而已 但是 人 就 已经 极 简到 了 这种 程度 就是 我 只要 看到 一个 类似 的 信号 我 就 跟着 做 包括 像 人 的 群體 效應 當中 也 有 這樣 的 實驗 進到 一個 電梯裡面 一般 來 說 人 都 會 是 面朝 著 出口 站立 如果 你 看 你 進到 一個 電梯裡面 所有人 都 背 對 著門口 站 著 你 站 著 站 著 也 會 背 對 著門口 還有 一樣 東西 擺 在 那裡 如果 沒 有人 吃 你 也 不會 去 吃 就是 人 的 對 信息 的 處理 能力 很大 程度 上 我 能 依賴 於 經驗 就 依賴 於 經驗 能 依赖于 别人 就 依赖于 别人 这个 为什么 呢 是因为 早期 在 比方说 在 原始社会 狩猎 的 时代 你 不 跟着 别人 做 你 可能 就 死 了 别人 这么 做 一定 有 他 的 道理 对 吧 先 跟着 再说 你 不 跟着 经验 来 形式 你 去 想 为什么 是 这样 你 想 那 一瞬间 你 就 被 吃掉 了 所以 人 在 处理 信息 的 时候 是 没有 一个 时间 也 没有 一个 这样 的 奢侈 让 你 去 比较 和 分析 各种 不同 的 信息 的 看到 很 固执 很 偏执

的 人 都 存在 说起 这个 我们 这个 前段 工程师 Kat 肯定 有 很多 这样 的 槽 叫 土 是 吗 他们 作为 和 优爱 打交道 比较 多 的 人 是不是 有 很多很多 这样 的

例子 我們 更 多 的 是 研究 就是 用戶 看到 什麼然 後 就 會 做出 什麼樣 的 反應然 後 以此 來 引導 他們 就 曾 經有 一本 比較 出名 的 書 叫做 Don tmakemethink 對 吧 就是 講 你 設計 的 時候 最好 用戶 想 都 不用 想 就 知道 下 一步 點什麼 下路 怎麼 交互 然 後 自然而然 就 完成 了 整個 產品 試用 的 過程 這是 最 理想 的 嗯

所以 我 想 吐 槽 人的點 就是 人實 在 是 太 懶 了 人 而且 現在 越來 越 懶 是 把 很多 這樣 的 決策 甚至 連 思考 的 這樣 能力 都 交給 了 機器 我 台 也 是 剛錄 了 一期 節目 就是 反 這個 機器 算法 推薦 的 然後就 說 人 一定 要 有 自主 的 意識 去 理解 這個 世界 或者 去 找到 自己 是 一個 什麼樣 的 人 自己 到底 喜好 什麼 但是 確實 人 的 這種 性質 早 在 二十 世紀 最初 的 時候 就 已經 被 定義了 弗洛伊德 人 作为 一个 生物体 最 理想 的 状态 是 回到 一个 植物 的 状态 最 理想 的 就是 在 我 发现 我 自己 饿 了 之前 我 就 吃 到 东西 了 那么 饿 这个 信号 就 不会 提升 到 大脑 意识 上 如果 我 在 我 感觉 到 冷 之前 就 加上 了 衣服 那么 冷 这个 信号 也 不会 提升 到 意识 上 需求 都 没有 被 提成 到 意识 上 的 时候 那人 不 就 像 一个 植物 一样 吗 就 静静地 呆 在 那 不管 春夏秋冬 啊 事实上 植物 也 是 这样 做 的 植物 的 基因 绿血 的 东西 要 比人 多得多 植物 的 基因组 大小 比方说 睡脸 它 就是 世界 上 基因组 最大 的 生物 它 准备 了 好多好多 套 系统 应对 这个 春夏秋冬 季节 变化 应对 各种各样 复杂 的 环境 变化 但 人 不是, 人 的 精卒 因為 有 大腦 存在 所以 已經 相對 精簡 了 一部分 就是 我 不用 發展 很多 的 代謝 通路 而是 用 我 的 大腦 去 做 決策 讓 我 規避 掉 這些 風險 但是 人 依然 還是 有 這樣 的 傾向 只要 能 不 打擾 到 大腦 的 東西 我 就 盡量 不 打擾 到 大腦 我 的 呼吸, 我 的 脊柱 幫 我 解決 了 我 的 心跳, 我 的 腦幹 幫 我 解決 了 出汗, 這些 體溫 調節 也 是 由 我 更 低等 的 中樞神 經系 統去 解決 了 只要 能 不 打擾 到 大腦 人 是 會 做 一切 可能性 的 事情 甚至 人 還會發 展出 一些 防禦 機制 比如 我 認為 我 只要 今天 睡下去 明天 我 一定 是 會睜 眼醒 來 而 不是 死去 的 大部分 人 都 是 這麼 想 雖然 死亡 是 無 可 規避 的 但是 所有人 都 會 把 它 防禦 掉 這 就是 人 的 大腦 的 懶 的 那 一部分 應該 這麼 說 而 機器 就 不會 它 會 告訴 你 你 今天 有 86% 可能 會 死 了

如果 睡下去 的 話 說 起 這個 讓 我 想起 了 我們 禮拜 五 做 了 AI 硬件 的 一篇 節目 剛才 說過 那個 很多 人 認為 SNN 是 未來 嘛 其中 一個 賣點 是 什麼 呢 就是 說現 在 的 我們 的 神經 網絡 所有 的 神經元 所有 時刻 都 是 在 運算 的 因為 你 都 是 有數 的 0 也 是 個數 1 也 是 個數 所有 都 是 要 有數 的 對 吧 所以 你 如果 做 一個 設備 的 話 所有 神經元 都 要 不停 的 耗電 任何 時刻 都 要 耗電 嗯, 能耗 非常 大, 但是 对于 很多 任务 来说 呢, 他 不 需要 这么 好点, 比如说 我们 的 嘉宾 啊, 我们 那天 嘉宾 啊, 举 的 例子 就是说 我们 在 我们 的 智能 音箱 上面 的 那个 叫醒 是 吧, 叫 叫 keyword 叫 什么 什么, 就是说 你 跟 他 说 嗨, 然后 他 就 醒 了, 对 吧? 他 只 需要 识别 一个 关键词。 那么 在 没有 关键词 之前 他 应该 是 睡着 的 他 应该 是 不 太 耗能 的 那 你 如果 使用 一个 全 点亮 的 这个 视频 网络 那 就 需要 很 耗能 对 吧 你 不停 的 你 要 听 着 信号 不停 的 处理 不停 的 处理 那 就 不行 了 对 吧 所以 呢 他们 是 使用 这种 s 然后 使用 一部分 模拟 电路 就是说 在 前面 如果 没有 这个 刺激 的话 那 就 没有 信号 没有 信号 就 不好 能 他 就是 非常 的 省 电 的 只有 你 说 到 这个 关键词 的 时候 他 点燃 一些 信号 那 突然 他 就 触发 了 这个 然后 说 我 说 了 害死 人 了 然后 就 可以 把 整个 设备 叫醒 然后 开始 接受 你 的 信号 然后 联想 到 了 这 一点 这么 说 起来 看来 是 我们 的 仿生 也 要 仿造 人类 如何 能够 做 得 更

懒惰 对 人类 之所以 会 有 这样 的 特性 真的 是因为 为了 要 节能 因为 人类 为了 发展 出 大脑 大脑 作为 一个 占 人类 体重 只有 2% 的 器官 但是 它 耗能 是 人 整个 人体 耗能 的 25% 这 对 一个 生物体 来说 已经 是 无脑 结构 就是 包括 像 海绵 我们 会 认为 海绵 一 开始 是 植物 但 其实 人家 是 动物 人家 只不过 把 脑 这个 东西 的 进化 没 了 就是 他 他 只要 满足 自己 的 生理 过程 其实 他 相当 是 进化 的 最好 的 动物 因为 他 太 像 植物 了 对于 人 来说 我们 之所以 选择 发展 大脑 我们 最后 就要 把 大脑 做到 一个 最 节能 的 一个 状态 你 去 想 如果 一个 机器 它 每天 只能 吃 这么 几个 轉 化成 電能 那 機器 能 做 什麼 呢 就是 你 如果 這麼 想 的 話 你 就 知道 原來 人 在 這個 能量 分配 上面 其實 是 一切 的 他 的 決策 啊 他 的 行為 啊 他 的 思維 啊 都 是 按照 這個 能量 最低 的 原理

去 做 的 我們 也 要 節能 啊 我們 天天 都 說 如何 節能 啊 我們 手機 要 節能 我們 數據 中心 要節 能 我們 都 要 節能 啊 這都 是 錢 对 但是 你

很 难 做到 像 生物体 那样 就是 一个 电位 一个 电位 的 这样 去 算 然后 一个 ATP 一个 ATP 的

给 就是 只能 说 我们 发展 的 还 不够 好 我们 计算机 做 的 还 不够 好 对 说 另外 一个 我们 说 这个 另外 一个 我能 想到 就是 一个 方面 刚才 说 大 的 另外 一个 机器 学习 比较 擅长 的 地方 可能 就是 想 围棋 这样 的 项目 就是 一个 非常 一个 简单 的 问题 但是 需要 非常 深入 的 计算 就要 算 很多很多 很多 步 的 这种 事情 人类 他 就算 不 过来 人类 就是 几百万年 都 没有 都 很少 见 过 有 这么 深 的 问题 有 这么 深邃 的 问题 人类 就 不 需要 所以 这方面 人类 是 比较 差 的 比如说 你 人类 跟 人 下棋 能算 多少 步对 吧 你 能够 提前 想 多少 步 你 走 完 什么 他 走 完 什么 你 走 完 什么 他 什么 人类 能够 算 多少 步 但是 电脑 就 可以 算 很多很多 步 只要 是 算力够 强 所以 这个 不仅仅 是 奇 了 人类 的 决策 可能 也 可能 是 这样 就是说 我们 现实 中 也 可能 会 有 像 什么 商战 啊 是 吧 我们 有 金融 投资 啊 是 吧 甚至 包括 像 啊 像 什么 招聘 啊, 是 吧, 有 很多很多 这样 的 决策 都 是 非常 非常复杂 的, 因素 非常 非常 多 的, 我们 人类 就 很 可能 是 想 不 清楚 这样 的 事情 了。

是, 确实 是 这样, 因为 人 可以 调动 的, 你 能 马上 调动 到 的 准确 数据 是 非常 有限 的, 人 的 瞬时 器 所以 人 能够 去 把 这个 算 完 之后 去 想想 其他 可能 这个 事情 人 就 很 难 去 做 因为 人有 一个 主观 滤镜 就是 我 第一个 想到 的 永远 是 最 对 的 我 想到 的 一定 比 别人 好 就是 一旦 加 了 这个 之后 你 会 发现 你 的 认知 是 非常 固化 的 很 难 被 改变 那有 一些 那种 错认 的 一些 图片 就 会 说 你 一旦 把 它 看成 了 这个 图像 之后 别人 告诉 你 如果 别人 不 告诉 你 他 还有 另外 一种 看法 你 是 永远 不会 看到 另外 一种 的 可能 或者 是 你 知道 了 他 有 兩種 看法 看 完一種 之 後 你 腦子 中 只有 那 一種然 後 很 難 又 再 轉回來 我們 一般 來 說 就是 非常 相信 自己 的 第一 決策 力然後會 在 這個 決策力 當中 不斷 修正 自己 的 解法 而 不是 去 想 所有 的 自由 解 甚至 你剛 說 的 就是 我們 人現 在 越來 越 多 的 碰到 一些 複 雜的 決策 投資 呀 招聘 呀 這些 人 有 一個 好 處 就是 他會 利用 工具 他 把 一些 需要 大量 去 计算 去 淘汰 去 优化 的 步骤 去 教稿 的 工具 比如说 在 招聘 领域 我们 会 设计 一些 量表 那些 量表 把 它 数字化 了 之后 它会 减轻 人 一部分 筛选 的 压力 在 招聘 秘书 的 时候, 我 记得 之前 有 本书 叫 《 算法 之美 》 嘛, 它 说 就是 算法 给 人 的 经验 是 37% 的 时候, 你 可以 招聘 到 你 想要 的 那个 人, 那人 就 会 拿到 这个 结论 过来 用。 同样 在 金融 领域 之后, 那 人 虽然 自己 处理 不了, 但是 人会 读图, 会 去 根据 经验 去 讨论, 然后 去 学习。 所以 这个 部分 就是, 他 反而 会 去 学习 这些 东西 他 跟 机器 学习 的 方向 就 不 一样 所以

说 到 这个 可以 跑 个题 就是说 有 很多 人 就 描述 了 一个 世界 是 一个 非常 可怕 的 世界 就是 我们 可能 决定 人类 命运 的 很多 重要 的 事情 可能 是 计算机 做 的 而 不是 人 做 的 因为 计算机 反而 更 适合 做 一件 事情 比如说 举个 例子 你 去 申请 一张 信用卡 批不批 你 这件 事 很多 时候 是 算法 在 做 的, 看 你 的 各种各样 的 问题, 你 可能 去 买 一个 汽车保险, 价格 是 多少, 这 可能 也 是 算 出来 的, 比如说 你 做 一些 买 各种各样 的, 保險性 的 東西 多少 錢 可能 都 是 算法 在 算 之 後 可能 甚至 發展 到 像 招聘 的 時候 其 實現 在 招聘 其實 在 篩 簡歷 的 階段 可能 很多 公司 都 是 在 用 算法 做 的 因為 算法 看不過 來 嘛 算法 可以 看 簡歷 可以 篩出 關鍵 詞學 歷什麼 之類 的 按照 算法 算 一下 你 能 不能 得到 面試 很多 時候 是不是 人 決定 的 是 計算機 決定 的 對 吧 甚至 發展 到後面, 像 你 升學 很多 時候, 如果 不是 靠分 的 話, 你 如果 申請 大學, 看 你 各 方面 的 能力, 很多 時候 也 是 算法 再 篩 一遍, 所以 你 這麼 看 下來, 決定 人類 命運 的 很多很多 很多 的 事情 從 升學到 工作 到 買 這個 到 買 那個 到 金融 決策 你 怎麼 投資 怎麼 那什麼 反而 不是 人 決定 的 反而 是 計算機 決定 的 因為 這些 方面 人類 反而 不夠 擅長 是不是 很 可怕 是 非常

可怕 但是 計算機 決定 的 東西 都 還是 人 設定 的

对, 其实 这个 是 很多 人 说 的 一个 观点, 就是说 你 的 训练 级 是 什么, 这是 非常 重要 的。 说 这个 算法 是 保守 的, 为什么 呢? 因为 你 的 训练 级 都 是从 现在 的 训练 级里 得来 的, 所以 它 是 保守 的。 举个 例子, 如果 现在 的 训练 级 里面, 一个 职位 比如说 女性, 它 的 比例 少 那么 可能 你 训练 出来 的 结果 就是 要 多样 男性 举个 例子 当然 算法 不 可能 是 这么 弱 了 只不过 是 这么 一个 例子 就是说 它 更 倾向 于 算法 更 倾向 于 维持现状 因为 这 现状 是 它 的 训练 级 对 吧 所以 说 你 的 训练 级 给 它 是 什么 最终 是 给 人工智能 模型 调 参数 的 人 它 是 他 是 個 自由派 還是 個 保守派

這個 時候 我 就 不得不 提 一下 西部 世界 這部 美劇 了 給機器 人調 參數 的 那個 人 從 保守派 變成 了 激進 派然 後 就 衍生 出 了 第二季 和 第三季 的 故事 但是 我 其 實覺 得 這部 美劇 對 於 我們 可能 最終 要 面臨 的 一個 終極 問題 就是 到底 機器 的 大腦 或者 機器 學習 能 不能 產 生人 腦一樣 的 意識 我們 的 這種 自我 覺察性 自我 認識 這 部分 到底 是 怎麼 來 的 因为 似乎 好像 物质 大脑 和 机器 学习 本身 它 可以 做 很多 共性 的 事情 计算, 尤其 是 算力, 包括 决策 尤其 是 人 不 适合, 也 没有 这样 的 时间 成本 和 试错 可能 的 一些 事情 机器 都 可以 帮人 去 做 但是 人 最终 他 的 大脑 有 很大 一部分 程度 是 无可 代替 的 就是 他 有意识 意识 这个 东西 就 可能 会 比较 上升 到 哲学 层面 他会 把 这个 终极 的 意识 表现 成 一个 迷宫 就是 他 认为 这个 人工智能 如果 要 想 获得 自我意识 他 不是 遵循 一个 线索 也 不是 一个 线性 的 发展 过程 就 像 刚刚 说 的 神经 往微 层层 下去 的 那种 过程 它 是 一个 迷宫 的 路径 每 一个 举措 每 一个 举动 都 是 面临 就是 走 迷宫 过程 当中 的 进入 或者 离开 的 一些 选择 然后 每 一种 举动 都 被 富有 了 一种 可能性 和 选择性 的 意义 最后 这个 自我意识 就 产生 了 其实 自我意识 到底 是 怎么 产生 不管 是 对于 认知科学 还是 对 心理学 来说 它 还 都 是 一个 黑匣子 哲学家 甚至 都 有 很多 关于 这个 的 探讨 你 说 哲学家 关于 这个 有 更 多 的 探讨 吧 就 从 二元论 啊, 一元论 啊, 唯一 理论 啊, 范林论 啊, 就 各种各样 的 解说 但是 对于 我 来说, 我 是 一个 从 心理学 角度 去 看 意识 这件 事情 的 人 我会 觉得 自我 的 产生, 就 像 刚刚 说 的, 它 其实 是 源于 丧失 什么 叫 源于 丧失 呢? 就是 弗洛伊德 说 人 的 最 理想 状态 就是 成为 一个 植物 要 什么 的 时候 还 不用 提升 到 意识 这个 就 被 满足 了, 然后 这个 就 不会 再 打扰到 你 的 大脑 那 如果 不是 這樣 是 怎麼樣 呢 就 嬰兒 一 出生 的 時候 他 第一件 事情 他會 哭 因為 他 感受 到 了 這個 環境 不 舒服 不 舒服 這件 事情 首先 提升 到 了 大腦然 後 他 就 開始 哭 我們 每個 人 從 小到 大都 經歷過 無數個 這樣 的 就是 沒有 被 滿足 的 喪失 的 被 剝奪 的 體驗 所以 這些 體驗 這些 痛苦 的 體驗 造就 了 我們 的 自我 感 我們 的

意識 我們 作為 一個 我 作為 一個 程序员 啊 和 Kat 一样 的 程序员 啊 我 对于 这个 机器 可以 有意识 这件 事情 我 一直 是 觉得 很 困惑 我 对 这个 讨论 本身 就 很 困惑 因为 我 就 觉得 机器 是 我们 写 的 程序 写 出来 的 东西 我们 让 他 没有 意识 他 就 没有 意识 啊 我们 没有 让 他 有意识 他 怎么 可能 有意识 呢 就 一直 觉得 这件 事情 非常 的 困惑 當然現 在 的 機器 學習 或者 說 是 AI 還沒有 能 讓 他 有意 識 的 技術 能力 這 可能 是 真的 並且 可能 差得 非常 遠 但是 就算 有 這樣 的 技術 能力 那 我們 讓 他 沒 有 他 就 沒 有 啊 不 知道 Kat 怎麼 看 這個 問題 我 覺得現

在意 識 的 邊界 在 哪裡 是 非常 不明 確的 就是 可能 是 複 雜性 超過 了 某個 臨界值 之 後 就 可能 會 讓 他 看 起來 像是 有意 識 的 甚至 他 可能 能夠 自我 觀察到 覺得 自己 是 有意

識 的 所以 這個 看 的 比 我 還更 像 工程 師我們 人類 是 認為 自己 是 有意 識 的 其實 不 一定 是 有的是 嗎 對 啊,

這個 只是 一個 你 自我 觀察 的 結果 有 可能 一個 東西 它 的 複 雜度 就算 是 一個 人工 的 智能 它 的 複 雜度 到 了 一定 程度 之後它 可能 就 能夠 存在 一個 對 自我 的 觀察然 後 就

感受 到 自我 的 存在 他 自己 是 有意 識 的 但是 其實 他 的 意識 在 我們 看來 可能 只不過 是 為 了 圖像識別 好 一點 的 一個

我 覺得 這兩者 的 距離 不會 那麼 近 吧 就是 從圖 像識別 到 他 能夠 意識 到 自我 的 存在

可能 圖像識別 可能 這個 任務太 簡單 了 可能 比如 說 我們 稍微 困難 一點 的 任務 比如 說 幫 我 做家務 全能 家務 這些 人 可能 他 有 一個 最好 的 設計 有 一個 副 產品 就是 他會 覺得 自己 是 誰 你 是不是 這個 意思 我覺 得 甚至

比 這個 距離 還要 遠 因為現 在 對 於 動物 有 沒 有意 識 這個 東西 還是 一個 很 含糊 很邊

緣 的 概念 我 以 為 這件 事 已 經蓋 棺定論 了 說 動物

是 有意 識 的 現 在 也 沒 有 完全 就是 要 看 多 高等 的 動物 了 我們 會覺 得 像 哺乳 動物 應該 都 是 有意 識 的 牠 們 會 哭 對 吧 牠 們 有情 緒 但是 龍蝦 有意 識 嗎 龍 蝦 自己 是 沒 有 的 这些 决定 甚至 都 是 集群 化 的 一些 决定 非常 像 包括 像 刚刚 说 的 海绵 它 没有 脑 它 有意识 嘛 它 就是 一个 阶级, 但 也 有人 说 一草一木 都 有意识 啊, 植物 都 有意识。 哦, 这个 太 极端 了。 我 很 同意 Ted 的 观点, 就是 你 先要 对 意识 有 一个 很 边界 化 的 区分。 如果 意识 本身 是 一个 决定, 而 不是 一个 刺激 的 条件反射, 那么 我们 可以 说 机器 有意识, 因为 它 可以 做 决定, 只是 它 的 决定 是 我们 给 它 输入 好 的, 或者 是 它们 决定 是 我们 给 它 设定 之后 它 突出 来 的 一个 很 好 的 一个 标准。 但是 所谓 自我意识 这个 东西 就 会 更加 上升 到 一个 高度 我 还是 觉得 是 心理学 可能 描述 的 会 比 科学 更准 一点 临床 心理学 不是 科学 因为 它 是 跟 人 的 主观 体验 有关 主观 体验 这个 东西 神 在 哪 呢 就是 没有 一个 人 可以 向 另外 一个 人去 表述 自己 的 主观 体验 你 说 的 痛 跟 我 说 的 痛 是 不 一样 的 我 看到 的 红 跟 你 看到 的 红 也 不 一样 而且 我 永远 无法 让 你 知道 我 的 大脑 里 的 体验 是 什么 这种 永远 无法 让 你 知道 这件 事情 就让 这件 事情 变得 很玄 那 自我意识 也 是 这样 的 通常 我们 在 做 心理治疗 的 时候 会 说 其实 是 你 的 痛苦 让 你 有 了 自我意识 让 你 的 不 满足 让 你 有 了 自我意识 我们 之所以 认为 动物 有意识 是因为 它会 疼 它 会 叫 它 会 流眼泪 那 我们 觉得 它 有意识 同样 的 道理 就是 如果 一个 命运 加在 我 身上 我 是 可以 无痛苦 地去 接受 它 吗 還是 我 感到痛苦 去 反抗 他們 這 就是 可能 意識 起源 的 一個 原點 吧 應該 這樣 說

意識 有點 問題 深 了 我 覺得

這個 你 看到 的 紅和 我 看到 的 紅不一樣 這個 很 有意思 可能 就是 這個 原因 所以 導致 色盲 很晚 才 被 發現 出來 對 吧 因為 大家 都 不 知道 其他人 有 色盲 看到 的 世界 是 怎麼樣 的 對然 後 還有 一個 很 有意思 的 話題 就是 研究 如何 模擬 色盲 的 體驗 也 是 就 你 沒 有 辦法 說 清楚 這個 模擬 有 多 真實 對

不過 你 要 大家 說 這個 也 啟發 了 我 就是 人類 不 知道 動物 有 沒 有意 識 這件 事 就是 如果 說現 在 也 沒 有 蓋 棺定論 的 話 人類 是 怎麼 知道 動物 有 沒 有意 識 的 如果 人類 都 不 知道 動物 有 沒 有意 識 那麼 有 一天 人工智能 有没有 意识 那 人类 到底 还 能 不能 知道 这 都 是 个 问题

其实 要 回答 这个 问题 可能 就要 牵扯 到 另外 一个 概念 就是 心智 我们 刚刚 说 的 这个 意识 可能 更 宽泛 一点 是 我 怎么 认识 到 我 自己 是 一个 自我 存在 的 个体 但是 心智 的 这个 概念 就 我 觉得 在 这个 阶段 可能 极其 永远 不 可能 有 内在 呈现 表象 的 能力 所以 内在 呈现 表象 的 能力 呢 就是 外界 的 所有 的 特征 都 要 经过 人 的 这个 或者 生物体 的 这个 感受 层 变成 内在 的 某种 感觉 那 躯体 当中 的 所有 感觉 都 在 大脑 会 形成 一种 躯体 标记 只有 这些 东西 才 是 能够 最后 被 大脑 处理 的 也 是 最后 形成 生成 意识 和 意识 决定 的 来源 那 所有 这些 表征 在 思维 进程 中 进行 排序 的 能力 现在 科学家 普遍认为 它 就是 心智 的 起源 如果 按照 这样 的 来说 所有 的 心智 它 其实 还 基于 在 你 是 有 个 肉体 的 你 是 有 这样 一个 初始化 设定 比如说 我 不能 做出 一些 违反 我 利益 的 事情 我 不能 做出 伤害 我 生命 的 事情 我 不能 做出 一些 特别 看起来 非理性 和 荒谬 的 决策 这 一切 其实 在 机器人 另 一步 说 的话 其实 我们 所有 其他 的 部分 不管 是 记忆 还是 识别 还是 发散 思维 灵感 或者 甚至 是 逻辑 计算 所有 其实 这些 都 是 基于 我们 对 这个 东西 的 感受 来 的 所以 机器 目前 能 做 的 它 是 精确 复制 所有 它 的 输入 设备 给 它 输入 的 信号 既然 是 一种 精确 复制 而且 它 是 没有 这种 渐弱 效应 的 那 它 很 可能 就 模拟 不到 这个 意识 的 产生

如果 下面 它 就是 一个 神经网络, 比如说 一个 大型 的 SNN 来 帮助 我们 做 扫地 什么 之类 的, 我们 怎么 知道 它 中间 内部 的 那些 层 里面 是不是 其实 让 它 有 了 意识 呢?

我们 怎么 知道 呢? 关键 是 对于 AI 来说, 什么 是 它们 生活 当中 不可 承受 之情? 自己 尽可能 的 省 电 吗? 还是 保证 我 这个 扫地机 不会 掉下来 损坏 元件 呢? 就是 你 很 难 去 界定 对 他们 来说 的 痛苦 是 什么 这样 你 就 很 难 界定 他们 的 意识 要 达到 的 目标 是 什么

所以 又 回到 我们 程序员 的 观点 认为 我们 人类 怎么 训练 他 就是 什么 样子 是 的 所以, 因為經 常有 這種 AI 會不會 佔領 世界 啊, 會不會 奴役 人類 啊 這樣 的 討論, 所以 我們 肯定 有 幾派 觀點 嘛, 我們 這派 認為 就是 AI 的 技術實 在 差太遠 了, 根本 不 值得 討論 這些 問題, 不 知道 Kyle 的 觀點 是 什麼。

我覺 得 有 一定 的 風險 不 一定 是 他 有意 識 的 努力 更 多 的 就是 說 他 有 他 的 需求 他 的 需求 跟 我們 的 是 非常 不 一致 的 而 他 能夠 更好 地實現 他 的

需求 還有 一個 危險 就是 說 你 雖然 人類 把 它 編成 一份 成卷 但是 可能 有 病毒 是 吧 就是 可能 它會 有 bug 對 吧 或者 說 有 硬件 出 問題 了 對 吧 那 你 就 開始 把 它 编程 出来 给 你 打扫卫生 突然 改一改 它 就 不 一定 会 变成 什么样

了 是 吧 对 啊 有 一些 superintelligence 的 理论 就是说 它 的 utilityfunction 怎么 设 的 问题 对 吧 就是 你 不 可能 设 的 完美 的 所以 就是说 你 驱动 它 需要 它 擅长 解决 是 optimizationproblem 而 最终 它 尝试 optimize 什么 你 是 不 可能 有 一个 perfectlydefined 计算 方式 给 它 的 結果 他 optimize 的 時候 遲 早會 偏離 你 真正 想要 optimize 的 東西 但是 他會 堅持 認為 你 追求 給他 的 使命 是 正確 的 然後他

就 會 繼續 做 下去 好 吧 我們 又 跑 題 跑 深 了 當然 我們 說 回 了 剛才

如果 非 要说 的话 其实 机器 可能 不 擅长 就是 在 那种 就是 构建 故事性 这 一件 事情 上面 就 像 刚刚 持续 说 的 机器 还是 有 一大部分 的 概率 去 认错 那些 人 永远 不会 认错 的 图像 但是 你 如果 刻意 去 把 这些 图像 喂给 机器 机器 就 很大 概率 去 出错 我 觉得 这 当然 很 有 可能 是因为 机器 现在 的 学习 方法 不是 像 人 那样 也 没有 做到 像 人 那样 极简, 甚至 没有 做到 像 人 那样 带有 缺陷, 所以 他 才 会 把 这些 东西 认成 那个。 当然 他 跟 人 的 特征 体系 可能 也 会 有 区别, 所以 我 觉得 这 只是 两套 系统 之间 的 优劣 性 吧, 不能 说 机器 现在 不 擅长, 以后 就 一定。

说 说 这个 我 倒 是 想 起来 一件 事 就是说 我们 刚才 说 机器 很 笨 对 吧 我们 这个 这个 是 一个 共识 啊 就是说 AI 多数 情况 下 什么 都 做不了 啊 能够 做 的 少数 的 事情 可以 做 的 很 好 比如说 图像识别 啊 之类 的 但是 呢 就算 是 少数 能够 他 做 的 很 好 的 事情 他 的 学习 过程 就是 他 的 就 如果 用 机器 学习 的 术语 就 叫做 训练 啊 也 是 非常 的 效率 非常 低下 的 比如说 我们 机器 要 训练 出 识别 出 图像 里 是 猫 那么 需要 几万几十万 几百万个 这个 照片 进行 训练 而 我们 人类 呢 我们 学会 一个 猫 是 什么 那 根本 小孩 學會貓 是 什麼 根本 不 需要 這麼 多樣品 對 吧 他們 可能 看過 幾次貓 就 下次 就 看到 哎 這個 是貓 了 對 吧 那 甚至 人類 到 了 一定 年 之 後 你 甚至 可能 都 沒 有 見 過貓 的 照片 別人 跟 你 描述 一下 啊 你 看書 看過 的 你 下次 見貓 哎 這個 是 貓对 吧 所以 机器 学习 的 它 如果说 它 真的 学到 东西 是 非常 非常 非常 缓慢 的 对 需要 的 海量 的 训练 机 这个 也 是 它 的 一个 非常 非常 大 的

一个 劣势 对 人类 对于 这个 东西 的 学习 可能 实在 是 它 的 参数 和 维度 要 比 机器 要 大得多 对于 机器 来说 你 的 input 永远 只有 要么 是 猫 的 图片 要么 是 猫 的 声音 要么 是 人 本身 对 猫 的 描述 没有 当时 你 第一次 见到 猫 的 时候 那种 风吹 叶落 没有 猫 身上 的 那个 味道 没有 当时 猫 碰到 你 那些 几亿 神经元 同时 点亮 的 感觉 人 为什么 能够 学得 这么 快 就是 对于 一些 普通 事物 认知 这么 快 是因为 人 在 他 的 那个 物体 恒常 性 这个 东西 有太多 的 参数 共同 决定 了 一旦 他 识别 了 这个 物体 对于 人 来说 任何 刺激 都 可以 顺 时 回到 你 的 那个 识别 的 那个 状态 然后 马上 把 这个 物体 识别 出来 这 也 是 人类 安全感 的 一个 根基 就是 最小 的 时候 你 可能 妈妈 一 走出 房间 你 就 认为 妈妈 永远 的 消失 了 然后 就 开始 哭 但是 长大 一点 之后 你 就 知道 妈妈 在 与 不 在 妈妈 的 那种 感觉 那种 安心 的 抚慰 的 感觉 永远 都 在 甚至 如果 一个 安全感 好 的 人 他 长大 了 之后 登上 了 月球 他 甚至 想到 妈妈 他 都 会 有 这种 安全感 就是 人类 在 自己 的 认知 当中 而是 跟 他 的 感觉 绑定 一旦 人 的 某些 记忆 或者 某些 学习 内容 跟 感觉 绑定 了 那 这个 东西 就是 太 根深蒂固 以至于 现在 心理学 的 很多 临床 的 治疗 部分 都 是 为了 去除 这种 感觉 去除 这种 感觉 太难 了 所以 怎么 说 呢 机器 可能 真的 是 少 了 情绪 脑 就是 应该 算 我们 性人核 和 边缘系统 这部分 但 这个 最终 也 是

一个 信息 可能 我们 的 算法 还是 不够 好 我 觉得 可能 还是 算法 不够 好 没有 把 没有 提取 特征提取 这么 快 这 可能 也 是 一个 研究 的 方向 还有 另外 一个 我 认为 机器 学习 非常 的 弱 的 一点 一个 地方 就是 它 它 知识 的 可 重用 性是 非常低 的 比如说 我们 小孩 小孩 学会 了 这 是 一个 猫 对 吧 可能 他 没有 见过 动物 的 时候 他 第一次 看 这 是 一个 猫会 发生 会 看 很 长时间 但是 他 看到 之后 你 再 看 这个 狗 就 很快 因为 他 大概 可以 看出 区别 大概 意思 差 在 哪儿 自然 就 可以 有 区别 对 吧 你 看过 小汽车 那么 你 再 看 大卡车 可能 他 就 他 都 知道 有个 轮子 是 吧 有 个 窗户 是 吧 是 这样 一个 形状 那 现在 的 机器 学习, 现在 的 这个 技术 能够 说 在 一个 地方 学了 一个 东西, 然后 能够 再用 在 别的 地方, 基本上 还是 像 科幻 一样。 可能 有 一些 少数 这样 的 研究, 但是 几乎 是 不 可能 应用 的。 所以 说 机器 学习 还是 非常 非常 的 初级, 还是 不能 对于 知识 有 连续性, 学到 的 知识 就是 为了 一个 单独 的 任务, 还 不能 总结 出 一些 更 普遍 的 一些, 不管 是 知识 还是 信息, 能够 应用 在 新

的 场景, 这 还是 非常 弱 的 一个 地方。 比如说 就是 机器 学习 还是 在 一个 就 更 偏 大脑 的 功能 分区 的 那种 感觉 我 每 一部分 各司其职 然后 每 一层 网络 层层 筛选 最后 得出 一个 结果 但是 其实 大脑 不是 这样 的 大脑 在 比如说 你 在 学 完猫 之后 再学狗 所有 猫 的 记忆 在 看到 狗 的 那一刻 也 同时 被 点燃 了 你 在 看到 小汽车 和 大卡车 的 时候 一样 的 咱们 就是 前额 叶 的 部分 的 那个 所有 关于 物体 运动 的 那些 细胞 也 全部 被 点燃 了 相当于 这些 东西 它 都 是 无差别 被 点燃 的 不管 是 猫 还是 狗 人 有 很 多种 无差别 的 认知 之后 相当于 最后 的 那 一小 下 到底 是 猫 是 狗 是 小汽车 还是 大卡车 只要 一点点 的 神经元 的 那 一处 像 祖母 细胞 那样 记住 就行了 大部分 的 人 的 所有 的 印象 和 经验 都 是 共享 的 就 还是 回到 刚刚 的 那个 说 到 人 的 大脑 分区 的 时候 现在 理论 已经 认为 人 的 大脑 不像 人 的 做 的 这些 技术 产品 那样 结构 和 功能 之间 存在 一对一 的 关系 我 有 传感器 那 我 有 一定 的 处理器 然后 最后 有 计算器 人 的 大脑 不是 一一 映射 的 每 一个 传感器 也 是 处理器 也 是 计算器 也 是 存储器 所有 的 这些 功能 都 混 在 一起 然后 所有 这些 功能 也 同时 都 可以 人 的 記憶 再 加上 情緒腦 的 功能 的 話, 你 知道 杏仁核 如果 開始 工作 的 話, 它 的 信號 是 要 比大腦 的, 就是 我們 認知 部分 的 信號 要強 很多。 當你有 一個 帶 有情 緒 的 想法 出現, 比如 我 餓 了, 然 後 你 整個 腦子裡面 都 在 迴 盪著, 我 餓 了, 我 一定 要 被 及 時 滿足, 這個 東西 機器 是 沒 有 的, 所以 它 不會 有 這麼 高 的 權重 的 去 跟 情緒 結合然 後 去 做 一個 什麼樣 的 判斷 所以 怎麼 說 情緒 我 覺得 也 是 雙刃 劍 既 是 人類 主觀 偏見 的 很大 一部分 原因 又 是 人類 能夠 快速 定位 記憶 快速 去 做出 判斷 和 選擇 的 一個 原因

所以 说 机器 学界 非常 非常 的 弱, 还是 人类 非常 低等 的 一个, 无意识 政治 里面 还 比较 低等 的 一类, 我们 的 路 还是 还有 很长 的 路 要 走。

同时 我 觉得 人 也 有 很长 的 路 要 走。 AI 到底 会 不会 有 一天 奴役 神 这件 事情 如果 人 真的 想 被 奴役 人 现在 已经 被 奴役 了 在我看来 就是 因为 你 把 很多 决策 交给 了 他 然后 你 也 会 愿意 去 看 他 推荐 的 东西 去 点 他 推荐 的 新闻 和 听 他 推荐 的 歌曲 那 相当于 其实 你 放弃 了 很多 部分 的 自主性 尤其 是 比方说 像 现在 这个 瘟疫 一來 襲然 後 你 會 發現 在 城市 生活 當中 的 人 都 高度 集成化 沒有 一個 人 已經 可以 通過 自己 的 完整 的 功能 去 過好 自己 的 一生 他 都 是 集成 在 所有人 的 生活 當中 有人 給你送 外賣 你 的 產出 又 會 幫助 到 其他人 在 這個 意義上 來 說 人 的 自我 功能 已經 退化 了 很多 未來 可能 會 退化 更 多 未来 可能 人 真的 会 进化 到 或者说 退化 到 一个 职务 的 状态 你 不能 说 这个 不是 极其 对 人 的 努力 但 只是 这 是 人 自己 的 选择 而已 那 我们 今天 这 期 节目 其实 也 聊 了 很多 从 这个 人脑 是 什么 神经元 是 什么 开始 聊起 然后 聊到 了 机器 学习 在 过去 几十年 内 发生 的 变化 尤其 是 深度 学习 算法 的 这个 发现 然后 机器 学习 可以 一下子 接管 了 人 很多 不能 做 或者 做 不好 的 工作 那 反过来 呢 机器 又 比较 蠢 被 我们 各种 吐槽 我们 又 发现 人 其实 在 做 一些 事情 的 时候 做 得 很 好 我们 其实 从 人 的 意识 完美性 的 这 一部分 去 讨论 了 为什么 人脑 和 机器 学习 会 有 这样 大 的 区别 当然 我们 也 觉得 未来 可能 机器 学习 也 会 变得 越来越 好 同时 人类 也 要 警惕 我 是不是 成为 了 或者 已经 主观 地 主动 地去 让 机器 去 为 自己 做太多 的 决定 我 觉得 这 期 我们 串台 还是 挺 成功 的 然后 也 相当于 是 聊 了 很多 我们 之前 一直 想聊 的 话题 未来 也许 还 可以 真的 再 去 谈一谈 关于 机器 记忆 和 存储 的 这 一部分 我 觉得 也 是 挺 有意思 的 那么 今天 就 先聊 到 这里 好

我们 后会有期 好 的 拜拜