#84. 以人为中心的人工智能

最近 几年 计算机 人脸识别 的 种族 偏见 引发 了 公众 讨论 很多 人 开始 思考 人 和 AI 的 关系 我们 如何 使用 AI 创造 更 美好 的 社会 而 不是 让 它 给 我们 带来 更 多 的 社会 问题 呢 今天 我们 请来 了 专门 做 这方面 研究 的 专家 来 和 我们 聊一聊 这 一 话题 这里 是 牛油果 烤面包 大家 好 我 是 斯托 亚特 今天 我们 有幸 请 到 了 芝加哥大学 的 谭晨浩 教授 来 和 我们 聊一聊 人工智能 和 人 的 关系 的 问题 大家

好谢 邀 很 高兴 来聊 一下 这个

问题 谭臣 浩 教授 有 一个 很多 做 研究者 都 非常 羡慕 的 经历 就是 他 曾经 被 纽约时报 大 报 报道 过 他 的 工作 谭 教授 被 纽约时报 报道 当时 是 什么 一个

经历 我 有 过 几次 被 纽约时报 报道 的 经历 几次 第一次 是 在 博士 线 的 一个 工作 那个 问题 主要 是 看 什么样 的 语言 更 容易 被 转发 在 微博 或者 是 推特 这样 的 平台 上 然后 那个 工作 被 纽约时报 报道 之后 我们 还 合作 了 一个 demo 大家 在 纽约时报 上 可以 看到 两条 来自 于 同一个 名人 的 关于 同一个 话题 的 tweets 然后 选择 哪 一个 更 容易 被 转发 就 可以 选择 啊 对 就是 有 一点 像 一个 心理 测试 的 感觉 就是 看 你 能 不能 猜 对 哪 一个 tweet 当时 被 大家 更 喜欢 被 更 多 人 转发

最后 大家 都 猜 的 对 吗

这个 task 就 还 挺 难 的 就是 当时 大部分 人 也 就 百分之五 六十 这样 的 准确度 哦 真的 哦

所以 你们 的 工作 可以 告诉 大家 你 认为 转发 多 了 其实 并

没有 是 吗 对 对 对 就是 其实 这是 一个 比较 难 的 task 这 也 是 我 做 了 很多 的 事情 就是 并 不是 对人 来说 很 容易 的 task 然后 有 的 时候 你 收集 一些 数据 表面 上 可以 看到 AI 的 效果 会 比较 好 但是 AI 的 效果 也 很 难 达到 百分之百 的 准确 这个 可能 在 我们 后面 也 会 这个 话题 可能 会 重新 出现 这个 我们 下次

我们 播客 发微博 或者 发推特 可以 找 谭 教授 来看 一下 我们 怎么 发 的 可以 专发 更 多一些 可以 纽约时报 记者 报道 它会 是 一个 怎么 过程 他会 去 找 你 聊天 吗 他 还是 会会 很 长时间 采访 吗 对

不同 的 情况 不 一样 有 的 时候 就是 一封 邮件 然后 你 问 他 有 什么 问题 然后 你 把 问题 写 好 了 发回去 就 结束

了 就 这么 快 对 然后 他 就 会 写 芝加哥大学 的 谈 长号 教授 说 什么 就 写 到 报纸

上去 了 是 吗 对 有 的 就是 这样 的 然后 刚才 说 的 那个 demo 就 会 复杂 一点 就是 会 有 更 多 的 通信 然后 可能 要 给 他们 一些 数据 或者 是 提供 一些 支持 之类 的 就是说

它 还是 一个 基本上 是 一个 远程 的 过程 没有 说 一个 专派 一个 人 过来 跟 你 访谈 坐在 那

喝咖啡 喝 一 下午 对 没有 吧 我 当时 在 比较 偏远 的 地方

读 大学 所以 不 偏远 了 康奈尔

也 算是 纽约州 就是 感觉 并 不是 很 容易 做 这些 事情 然后 也 不是 很 有 必要 要 本地 来

做 这些 事情 打破 了 我 对 这些 大报 的 固有 印象 还是 跟

报道 战争 或者 是 一些 别的 话题 不太 一样 这些 很多 都 可以 通过 邮件 或者 是 远程 的 联系 来

解决 所以 说 谭 教授 那个 时候 是 在 康乃尔 大学 读 博士 也 是 计算机专业 的 顶级 大学 之一 现在 是 在 了 另外 一个 顶级 大学 芝加哥大学 当 老师 芝加哥大学 可能 国内 很多 朋友 不 知道 可能 国内 很多 朋友 就 知道 什么 腾校 什么 马生 理工 芝加哥大学 是 在 美国 那时 非常 厉害 的 早期 10 年前 是 研究型 大学 的 标杆 是 吧 其实 我 后来

才 发现 芝加哥大学 其实 建校 比 康奈尔 晚 就是 在 很长 一段时间 尤其 是 在 经济学 当中 很 有 影响力 对福里

德曼 学派 是 吧 之类 的 对

经济学 感兴趣 的 同学 应该 都 会 听说 过 芝加哥大学 所谓 的 奥派 是

吧 对 芝加哥大学 非常 厉害 而且 什么 师生比 非常 高是 吧 说起 读 本科 这样 的 师生比 绝对 是 可以 得到

名师 的 教育 对 因为 还是 个 四项 所以 学生 比较 少 尤其 是 本科生 比较 少 应该 是 有 更 多 研究生 相对 于 本科生 所以 我们

今天 有幸 可以 请 到 顶级 大学 的 老师 给 我们 讲 一 讲 他 自己 的 研究 领域 得到 顶级 大学 学生 的 待遇 非常 的 荣幸 我们 今天 聊 的 是 人工智能 和 人 的 关系 的 问题 我们 为什么 会 有 关系 人工智能 和 人 的 关系 我们 就 把 这个 任务 给 人工智能 他 就 做 完成 了 比人 还好 那 不 就 完 了 吗

有 两个 原因 吧 一部分 是 我 刚才 说 的 比如说 刚才 说 的 那个 微博 或者 推特 的 例子 就是 很多 事情 上 人工智能 也 不 可能 做到 百分之百 然后 在 不同 的 情况 下 就 不 一定 适合 直接 这种 自动化 的 完成 所有 任务 然后 另外 一个 就是 在 更 多 更 多 的 领域 当中 尤其 是 比较 对 社会 来说 比较 重要 的 领域 像是 我们 之后 会举 一些 例子 比如说 法院 决定 一个 人 判刑 或者 是 决定 一个 人能 不能 被 保释 这些 决定 如果 完全 被 人来 被 机器 来 做 或者 是 AI 来 做 的话 就 会 变成 人 有点像 成为 机器人 奴隶 的 感觉 不要 被 机器人 奴役 是 吧 所以 在 这些 领域 不 应该 至少 我 个人 的 立场 是 不 应该 由 机器 来 独立 完成

这些 任务 我们 说 第一个, 你们 记住 刚才 的 例子 比如说 我们 要发 一个 社交 媒体 的 一个 宣传 可能 我们 人类 写 的 社交 媒体 可能 不 一定 我们 知道 什么 效果 最好 可能 AI 也 不 一定 能 写出 这么 接地 气 的 社交 媒体 的 这个 宣传 而是 我们 人类 写 一写 让 AI 来选 比如说 让 它 来 润色 可能 会 更好 是 大概 这样 的

对 一个 是 当人 和 AI 互相 交互 的 时候 就 会 有 比如 像 刚才 说 的 这种 人 可以 写 一个 然后 AI 认识 然后 另外 一个 比如 类似 于 在 这个 场景 下 也 可以 说 你 刚 开始 想 写 一个 但是 你 没有 很 好 的 想法 然后 AI 可能 可以 根据 历史 给 你 一些 推荐 帮 你 开始 有 第一 杆 或者 是 什么 之类 的 就是 这个 不同 的 过程 当中 可能 人 和 AI 的 优势 不 一样 这 也 是 有 很多 比较 丰富 的 角度 可以 去 让 人 和 AI 一 起来 做到

更好 这个 问题 深 了 看来 是 我们 确实 有 很大 的 研究 空间 很多 人 可以 看一看 到底 AI 擅长 什么 人类 擅长 什么 谭 教授 觉得 现在 你们 研究 的 成果 总的来说 AI 擅长 什么 人 擅长 什么 呢 如果 是 一起 合作 的话 我 觉得 AI

主要 是 擅长 依靠 數據 吧 這是 AI 的 主要 的 優勢 尤其 是 現 在 的 AI 主要 的 優勢 是 說 它 可以 看 比如 說 整個 互聯網 的 所有 文字 然後人 是 不 可能 把 這個 所有 東西 看 完 的 然後再 一個 比 較 小 的 例子 比如 說剛 才 說 的 法院 保釋 的 這個 例子 AI 也 可以 把 比如 過去 50 年 所有 案子 都 看一遍 然後人 是 即使 你 再 努力 再勤奮 也 很 難 把 這個樣 海量 的 數據 都 看 下來 然後發現 其中 的 一些 比如 規律 啊 什麼 的 AI 的 弱點 或者 人 的 強點 主要 就是 AI 不太能 確定 這些 規律 是不是 真的 是 規律 它 是不是 可以 依賴 的 規律然 後 AI 發現 在 一些 新 的 場景 下會 比較 難判斷 這個 規律 應該 怎麼 被 調整 然后 人 可能 可以 比较 灵活 的 在 一些 新 的 场景 当中 决定 这个 规律 也许 这样 不 适用 比如说 这个 规律 发现 是因为 20 年前 有 这样 一个 原因 然后 现在 已经 是 另 一个 时代 了 我们 不 应该 再 把 这个 规律 用 过来 了 然后 我们 可以 在 这个 特定 的 例子 上 我们 应该 考虑一下 别的 因素 把 别的 一些 角度 考虑 起来

这是 我们 刚才 说 的 第一个 例子 有些 事情 大家 一起 合作 会 效果 更好 刚才 谭 教授 说 的 另外 一个 例子 以 法院 为 例子 就是说 我们 人类 不要 成为 AI 的 奴隶 那 这 是 怎么回事 呢 我们 就 按照 法院 的 例子 来说 一说 吧 那 法院 怎么 用 AI 呢 就

比如说 在 美国 有 一个 比较 现在 比较 著名 的 例子 就是说 在 美国 这个 审讯 的 过程 当中 有 一部 是 决定 这个 人 可不可以 被 保释

保释 就是说 这个 人 犯了罪 了 我 把 你 抓 起来 但是 呢 你 在 审判 之前 我们 先 可以 把 你 放 了 是 吧 审判 你

再 来 對 就是 這個 人 被 懷疑 犯罪 所以 他現 在 還是 犯罪 嫌疑人 的 時候 如果 覺得 這個 人 一般 來 說 如果 放出去 對 這個 社會 不會 有額 外 的 危險 的 話 就 可以 把 這個 人 放出去 然 後 一直 到 審判 的 時候 再 決定 這個 人 需不需要 入刑 或者 是 可以 繼續 待 在 外面 這個現

在 是 誰 決定 的 而 美国

的 特点 就是 不同 州 的 法律 可能 会 略微 有点 不 一样 但 大部分 都 是 由 一些 法官 来

决定 那 法官 来看 什么 呢 在

有些 州 比如说 就 会 明文规定 法官 判断 标准 就是说 这个 人 在 保释 期间 会 不会 再 犯罪 这 就是 比较 明文 的 规定 是 这样, 但 实际操作 当中 也 会 有 更 复杂 的 space。

法官 怎么 能 看 出来 这个 人 有没有 可能 更 犯罪 呢?

回到 我们 说 的 AI 的 话题, 所以 这个 问题 如果 你 有些 同学 或者 是 听众 比较 熟悉 机器 学习 的话 就 会 感觉 这是 一个 预测 的 问题, 就是说 我 可以 拿到 一些 人 的 这些 簡歷 或者 是 這個 人 的 審訊 記錄 然後來 做 一個 預測 這人會 不會 在 保釋 期間 犯罪 實際 上 在 法官 也 可以 會 跟 這個 人 是 會 有 当面 的 环节 这个 法官 可以 当面 问 这些 人 一些 问题 然后 现在 确实 就 会 有 一些 这种 人工智能 系统 就是 拿 这个 人 的 一些 个人 的 信息 甚至 有些 系统 基于 个人信息 很 简单 就是 这个 人 的 性别 年龄 或者 是 过往 记录 然后 会 给 法官 一些 推荐 说 这个 人 的 危险 系数 比如说 是 十分 里面 得 八分 这样 然后 在 有些 州 就 会 有 这样 的 系统 被

法官 使用 真的 吗 现在 已经 有

系统 被 使用 了 对 就是 会 有 一个 一般 大家 称 它 为 叫 Compass 的 这样 一个 系统 然后 有 一些 新闻报道 有 很多 paper 都 是 在 研究 这个 系统 Compass 是

个 公司 名 吗 还是 个 软件

名 它 就是 这个 软件 的 名字

把 一些 人 的 基本 信息 输入 进去 然后 看一看 你 大概 在 这个 取保候审 的 时间 内有 多 有 可能 犯罪 是 这么 一个 软件 那 这个 很 好 呀 那 我们 这 AI 做 就 可以 了 吗 我们 法官 就 不用 做 了 吧 對, 這有

很多 因素 說 為 什麼 AI 不太 適合 在 系統 上 完全 自動化, 比如 說 第一 個 大家 討論 很多 的 就是 公平性, 就是 AI 能 不能 保證 這個 過程 是 公平 的。 公平性 簡單 來 說 比如 說 在 美國 就 會 有 很長 期 的 種族 問題 比如 說 黑人 和 白人 得到 的 待遇 是不是 公平 然後就會 有 很多 我們 後 面會 談到 的 話題 就 超過 公平 比如 說 即使 是 如果 AI 完全 做 這個 決定 那麼 誰 來擔這個 責任 如果 有人 要 挑戰 說 這些 決定 不 公平 对 然后 另外 也 有 一些 价值观 的 问题 就是 AI 像 我 之前 说 的 AI 的 这些 判断 都 是 基于 历史 的 决定 但是 60 年代 的 美国 的 价值观 和 现在 21 世纪 的 价值观 是 很 不 一样 的 然后 可能 在 这些 AI 的 决定 当中 其实 里面 有 很多 决定 并 不 符合 现在 对于 这些 问题 的

判断 是 太 保守 了 对 可以

说 是 太 保守 但 就是 這個 剛才 的 公評 也 是 息息 相關 的 就是 有 可能 裡面 有 一些 過時 的 規律 AI 認為 是 可以 用來 做 更 準確 的 判斷 的 但是 實際 上 在 這個 具體 的 例子 上 已經 是 不 那麼 可靠

就是 說 我們 AI 就 光 看 歷史 往後看 不能 往前 看 沒 有 看到 歷史 的 潮流 沒有 看到 我們 歷史 是 在 前進 的 對, 這也

是 AI 和 人關 係 當中 的 重點 就是 AI 一直 到 最後不應 該 是 AI 來 決定 這個 社會 最 重要 的 價值 是 什麼 這個 價值 判斷 最後還 是 應該 由 人來 做 而且 一個 很 重要 的點 就是 這個 實踐 的 項目 不同 年代 的 人 可能 價值 判斷 也 是 不 一樣 的 這個 需要 一些 調整 AI 不

可能 知道 我们 人类 想要 建立 一个 什么样 的 社会 只有 我们 人类 能 知道 未来 希望 是 什么 样子 AI 只能 看到 过去 我们 要 纠正 它 过去 的 错误 要 向 我们 未来 的 方向 前进 说 的 非常 有 道理 这 第二点 第一点 是 公平性 第二 是 我们 要 面向未来 的 价值观 现在 的 价值观 或者 未来 的 价值观 那 还有 什么 其他 的 因素 吗 第三点

也 可以 称之为 鲁邦性 鲁邦性 什么 意思

就是 英文 的 RobustRobust 是 吧 对 Robust 就是说 非常 的 牢固 非常 的 容错性 很强 是 吧 大概 就是 对

其实 在 软件设计 当中 也 有 类似 的 就是说 AI 会 比如 看到 一个 新 的 比如说 现在 比较 火烈 的 话题 比如说 现在 有 一个 变性 的 人 可能 在 歷史 當中 就 沒 有 什麼 數據然 後 AI 在 這個 看到 這樣 一個 新 的 profile 會 怎麼 做決 定然 後 很 有 可能 就 會 做 錯 另外 一個 角度 比如 說 是 年齡 就 比如 說現 在 來 了 一個 10 歲 的 人 但是 AI 可能 從來 沒有 見過 10 歲 的 人 在 這個 系統 當中 所以 在 這個 人當 中能 不能 準確 的 做 決定 是 要 画个 问号 的 然后 这个 时候 如果 有人 的话 人 就 可以 来 判断 然后 决定 要 不要 采用 这个 AI 的 建议 或者 是 AI 这个 建议 合

不合理 嗯 就是 机器 举一反三 的 能力 啊 我们 需要 先打 一个 问号 啊 遇到 这种 特殊 情况 下 还是 人要 把把关 啊 人 要 来看 一看 啊 非常 的 有意思 一说到 人 和 机器 共同完成 啊 因为 我们 想起 了 当时 这个 阿爾法 狗 是 吧 當時 是 怎麼 說 要 機器 和 人 一起 下 可以 下得 更 快 嗎 其實

另外 一個 角度 就是 這種 人 和 AI 的 合作 其實 也 有 更 久 遠 的 歷史 其實 在 阿爾法 狗 之前 我 不 知道 現在 還記 不 記得 比如 deepblue 就是 深藍 當時 和 卡斯帕 洛夫 也 有 很多 一個 下國際 象棋 的 這樣 一個 AI 就是

國際 象棋 的 深 藍 在 90 年代 的 時候 擊敗 了 卡斯帕 洛夫

著名 的 事件 对 对 对, 然后 他们 有 几个 来回 吧 然后 在 那个 时候 就 有 卡斯帕 洛夫 发起 了 就 会 就 开始 讨论 就是 人 和 AI 一起 下棋 会 不会 既 比人下 得 好 也 比 AI 强 然后 就 当时 他 还 开始 组织 了 很多 这种 他们 叫 这个 CentralChess 就是 半人 半马 的 这样 的 这种 下棋 然后 他们 有 这样 的 比赛 就 每个 人 可能 有 一个 AI 帮助 他们 然后 看 这样 谁 谁 会 可以 赢得 这种 比赛 啊

真的 还 真是 比赛 啊 最后 这个 叫 什么 半人 半马 就 会 胜利 的 更 多 吗 在 这个 比赛

是 所有人 都 是 半人 半马 所以 就是 但是 他们 会 有 一些 也 有 一些 例子 就是 半人 半马 可以 打败 一些 AI 尤其 是 这样 的 例子 可能 就是 比如 人 和 一个 比较 弱 的 AI 可以 打败 一个 比较 强 的 AI 真的 这个 厉害

了 那 现在 应该 就 不太可能 了 吧 现在 阿尔法 狗 这个 二十 段 人 都 理解 不了 对 现在 围棋

其实 是 一个 比较 有意思 的 例子 就是 这个 更新 一点 我 觉得 其实 现在 也 有 很多 至少 在 新闻 层面 上 就是 会 有 很多 职业 选手 研究 阿尔法 狗 下棋 的 方式 可能 从中 会 改变 这个 大家 下棋 的 方式 其实 这个 还是 一个 很 有趣 的 在 积极 变化 的 这个 空间 我 个人 可能 觉得 如果 你 一定 要 让 我 预测 我 觉得 可能 α 狗 确实 是 会 很 难 战胜 或者 是 尤其 是 如果 你 可以 让 这个 α 狗 不停 地 学习 的话 长远 来说 很难说 人 可以 一直 在 战胜 α 狗 因为 在 这些 问题 上 它 有 一个 比较 回到 之前 的 討論, 它 價值 觀其實 很 明確 就是 你 怎麼 獲勝 很 具體 是 可以 準確 計算 很 難 想像 人 可以 超過 所以 說

如果 不 考慮 什麼 公平性 啊 價值觀 啊 沒 有 新 的 事物 出現 啊 就 光是 這個 棋類 的 話 可能 就是 不 需要 人 了 是 吧 AI 就 可以 把 問題 全都

解決 了 如果 純粹 是 要 下贏 這個 棋 的 話 但是 這還 是 很 有意思 的 嘛 就是 很多 時候 人 下棋 也 不 完全 是 為 了 勝負 就是 在 人 下棋 這個 過程 當中 還是 有 很多 思考 和 博弈 的 快樂 然后 其实 这 也 是 另 一个 我们 之前 没有 讨论 的 角度 就是 AI 可能 可以 让 人 下棋 下 得 更好 这个 过程 当中 人 可能 还是 会 觉得 会 是 觉得 这是 一个 很 享受 的 事情 我 可以 从 这个 过程 当中 得到 快乐 但 如果 这个 目标 就是说 我人要 下棋 下 赢 AI 可能 就 反而 把 这些 快乐 从中 去掉 然后 人 可能 就 看 两个 AI 下棋 也 没有 什么 快乐 太卷 了 啊 就 两个 AI 把 棋谱 放 出来 可能 人 也 从中 并 不会 得到 这个 下棋 为什么 人会 发明 围棋 这种 棋类 这 游戏 的 原因 刚才 说起

公平性 其实 很多 人 可能 会 联想起 因为 在 社交 媒体 上 也 是 转发 比较 多 的 一个 当年 的 TED 的 一个 讲座 好像 是 一个 我 记得 好像 是 一个 黑人 女性 一个 女 的 研究者 在 那 说 她们 是 MIT 吧 是 她们 的 实验室 做 了 一个 识别 人脸 的 一个 工作 他 发现 识别 不了 他 他 旁边 的 一个 亚裔 的 一个 同学 就 可以 识别 他 就 识别 不了 因为 他 脸 是 黑 的 这个 是不是 和 这个 领域 也 有

关系 对 刚才 司徒 提到 了 这个 工作 其实 也 是 这个 领域 比较 早期 一个 比较 知名 的 工作 确实 是 发现 了 很多 人脸识别 的 系统 其实 对于 黑人 並 不好 用 他們 這個 文章 其實 也 挺 有意思 我 可以 稍微 展開 一下 就是 他們 從 非洲 很多 國家 他們 的 參議院 的 網站 公開 的 政府 網站 上下 了 很多 政客 的 照片 然後讓 這些 機器 去 預測 男女 來識別 這個 人 臉然 後 就 會 發現 這個 準確度 會 很 不 一樣 和 他們 正常 被迫 的 準確度 為 什麼 呢 这个 最后 的 结果 是 公平性 不够 但是 跟 主报 性是 很 相关 的 就 因为 训练 数据 当中 可能 这些 黑人 并 不 太 一样 然后 如果 具体 在 这个 视觉 这个 问题 上 就 还有 很多 更 深沉 历史 的 原因 吧 就 比如 很多 镜头 的 设计 其实 就 针对 白人 优化 所以 从 这个 镜头 的 角度 就 可能 不是 很能 准确 的 拍摄 这些 黑人 当然 黑人 的 肤色 的 差异 也 不 太

一样 也 就是 我们 整个 社会 都 已经 为了 白人 优化 已经 几百年 了 是 吧 原来 也 不仅仅 是 一个 AI 的 问题 对 这些 都 是

一些 很 深层次 的 原因 就是说 我们 不能 就是 简单 自动化 一些 问题 我们 要 向前 看 这个 我们 想要 这个 社会 变成 什么样 然后 这个 过程 当中 会 有 很多 挑战 的 我们 除了

这个 视觉 上 的 歧视 的 问题 还有 没有 什么 其他 的 例子 吗

对 我 觉得 就是 其实 在 视觉 以外 这种 场景 更 多 就 比如说 有 一个 Paper 叫做 PredictionPolicyProblem 就是 很多 問題 都 可以 轉 化成 剛才 說 的 類似 於 那個 保釋 情況 下給 另 一個 人 的 一些 信息 然後來 做 一個 預測 比如 說大學 錄取 或者 是 公司 招人 都 是 有 很類 似的 問題然 後 這邊 最 著名 的 還是 在 剛才 那個 保釋 的 問題 上 最 開始 是 一個 很 著名 的 新聞 報導 他們 就是 發現 這個 Compass 這個 Tool 會給 黑人 的 分數 都 會 高 一些 如果 兩個 人犯 了 一樣 的 罪 的 話 在 这 篇文章 里面 具体 的 例子 就是 一个 黑人 女性 顺手 拿走 了 一个 小朋友 的 自行车 然后 这个 人 就 会 被 rate 就 会 被 评分 好像 是 8outof10 就是 在 10 分 当中 会 认为 她 是 很 高 危险 的 而 另外 一个 人有 更加 严重 的 罪行 一个 白人 而 得到 的 评分 只有 3 分 这个 新闻报道 其实 最后 得到 很多 关注 就 在 那 几年 可能 根据 这个 新闻报道 可能 就 几百篇 文章 出来 各种 探索 几百篇 文章 不同 的 角度 比如说 刚才 我们

说 的 两个 著名 的 新闻 事件 那 它 这 两个 事件 是 在 这个 领域 成立 之前 还是 是 引发 这个 领域 成立 呢 就 相輔 相成

吧 我 覺得 可能 在 這些 之前 可能 已經 有 一些 大家 開始 想 這些 問題 了 但是 我剛 才 提到 這個 Compass 這個 事件 我覺 得 是 就是 真正 使 這個 問題 變得 更

大 的 里程碑 這樣 的 事件 然

後 這個 視覺 剛才 這個 也 是 把 這個 領域 做 得 更 大 就是 這些 相關 的 一些 研究者 都 是 之后 再 创建 这个 新 的 一个 会议 现在 有 一个 新 的 会议 是 基本上 是 专门 讨论 这些 跟 公平性 相关 的 问题 我们 说

了 这么 半天 这个 领域 这个 领域 我 还 没有 说 这个 领域 叫 什么 名字 这个 领域 一般 叫 什么

名字 不同 人有 很多 不同 的 叫法 因为 最后 强调 的 点 不 一样 然后 比如 我 个人 我 一般 叫 它 HumanCenteredAI 或者 HumanCenteredMachineLearning 人工智能 的 AI

就是 以 人为 中心 的 人工智能 对

或者 另 一个 角度 就是 以 人类 为 中心 的 对 另 一个 角度 就是 一般来说 可能 或者 是 你 回到 最 早期 AI 起源 的 时候 大家 的 想法 都 是 人 的 智能 是 无限 的 然后 人 的 智能 是 非常 高级 的 怎么 让 机器 和 人 一样 思考 但 这个 以 人为 中心 的 就是 主要 想 的 问题 是 说 怎麼 用 AI 來 幫 助人 怎麼 讓 AI 來 為 人 服務 這種 服務 可以 定義得 更 廣泛 一些 而 不 只是 模仿 人 而且 模仿 人 可能 會 有 很多

問題 就是 機器 要 成為 人 的 奴隸 不能 讓 人成 為 機器 的

奴隸 我們 也 可以 避免 奴隸 這個 詞 大家 互相 幫助 我們 要 政治 正確 是 吧 其 實現 在 還是 有 一些 比較 有趣 的 就是 說 機器 應該 有 什麼 權利 討論 真的

機器 還有 權利 所以 不能 管機器 叫 奴隸 是 吧 對 機器 的 權利

的 問題 我 不 直接 做 這個 但是 也 沒 有 必要 說 機器 是 人 的 權利 但是 我覺 得

就是 說 对 我们 也 没有 必要 说 要 把 机器 贬低 是 吧 机器 有 权利 这个 我们 下次 也 可以 聊一聊 这个 我 是 刷新 了 我 的 认知 机器 有 权利 但是

具体 到 刚才 说 的 那个 会议 上 说 现在 有 一个 我 个人 参加 的 越来越 多 的 一个 会 叫 FACT 代表 的 是 Fairness 公平 然后 Accountability 就是 问责 然后 Transparency 和 透明 就是 这 三块 是 大家 进来

讨论 的 Fairness 公平 Accountability 是 问责 对 或者 追责 吧 追责 公平 认责 公平 追责 和 透明性 对 认责 可能

是 个 更好 的 翻译 我们 也

可以 说认 公平 认责 和 透明 所以 就是 說 這個 會議 就是 這幾個 首字母 FACT 專門 搞 這樣 東西 就是 如何 能夠 讓 機器 學習 或者 人工智能 能夠 滿足 人類 的 這三個 標準 或者 說 能夠 降低 這 方面 的 危害 对,

或者 是 思考, 我们 就 开始 说 了, AI 和 人工智能 和 这些 话题 之间 的 关系 和 人 之间 的

关系 那 我们 把 这 三样 一样 一样 展开 说一说, 太 抽象 了 第一个 是 叫做 公平性, 公平性 大概 一般 会 哪 方面 的 问题 呢?

就 我们 一直 会到 这个 法院 保证 我 觉得 它 是 一个 很 经典 的 例子 但是 就 像 我 刚才 说 的 就是 还有 很多 其他 的 类似 的 比如说 贷款 就是 决定 谁 的 贷款 申请 可以 批准 然后 大学 的 录取 啊 公司 的 招聘 这些

东西 都 是 AI 来定 的 吗

据 我 个人 了解 就是 在 贷款 上 尤其 是 美国 信用 记录 这 一块 其实 已经 很多年 了 至少 人工智能 在 当中 起 很大 的 效果 这么

说 起来 还 真的 是 我们 每个 人 在 美国 都 有 一个 信用 分数 可能 国内 的 朋友 们 不 太 了解 信用卡 还 了 款 给 你 这个 分数 可能 就要 高一 高 啊, 没有 按期 还款 就要 低一低 什么 这样 的, 然后 最后 你 要 贷款 的 时候, 可能 最 重要 的 这些 贷款 公司 看 的 是 你 这个 分数, 你 这个 个人 过去 多少 多少 年 的 记录 怎么样, 所以 这个 分数 现在 有 很多 时候 是 AI 来看 的 是 吧, 对 AI 来 决定

就是 看 你 怎麼 定義 AI 了 但是 它 是 一個 機器 學習 的 模型 它 是 一個 模型 來判斷 的 很多 人 可能 會覺 得 這個 模型 太 簡單 了 因為 很多 時候 最後是 一個 線性 的 比 較 簡單 的

模型 它 也 依然 是 一個 算 機器 學習 的 一個 決定 對 而且

尤其 是 一些 更新 的 比如 說 是 反詐 騙 這些 就 應該 更 多 的 都 是 現在 所謂 的 AI 在 做然 後 那個 也 是類

似的 我 这个 看上去 非常 严重 我 的 信用 分数 就是 我 能够 贷 多少 钱 买 多少 买多大 的 房子 这个 完完全全 是 AI 决定 的 哇 这个 太 恐怖 了 太 恐怖 了

对 我 觉得 这个 需要 稍微 纠正 一下 就是 我 觉得 AI 在 里面 有 很大 的 一部分 但是 完完全全 可能 有点 严重 但是 確實 是 一個 我 覺得 這是 一塊 相 對 比 較 成熟 的 吧 因為 你 尤其 是 在 美國 很多 時候 尤其 是 比 較 新興 的 網站 你 可能 只 需要 填 你 很 基本 的 信息 一秒 鐘之內 你 就 知道 你 能 不能 拿到 這個 貸款 或者 你 貸款 的 最高 額度 是 多少 這 肯定

都 是 機器 在 做 的 很

明顯 是 不太可能 有人 參與 到 這個 過程 的 就是 一個 機器 算了 一下 根據 你 這個 能給 你 多少 那談

教授 是 不能 談大學陸 企是 吧 主要

是 我 也 不 知道 具体 是 什么样 的 这个 比较 难 吧 但是 跟 大学 录取 相关 其实 比较 有意思 的 是 说 很多 时候 比如 大家 考 GIE 或者 SAT 你 的 作文 的 打分 很多 时候 其实 是 AI 在 打分 真的 吗 这个 不是 直接 大学 录取 但是 这是 大学 录取 一个

很 重要 的 参考 真的 吗 作文 是 AI 在 打分 我 一直 以為 是 有人 在 打分 啊 對 就是

現在 這些 大 的 測試 機構 都 是 有 自己 的 AI 的 部門 吧 真的 啊 就是 都 會 研究 怎麼 用 AI 打分 因為 考試 的 人太多 了然 後 最後應 該 是 基本 不太可能 這個 again 大概 不會 是 每 一篇 文章 都 是 一個 人 打分 的 結果 吧 至少 不 可能 就是 很多 文章 是 會 有 AI 參與 到 這個 打分 的 過程 就 不同 的 评测 机构 都 会 有 一套 系统 都 会 可能 AI 打分 然后 大家 可能 随机 抽取 一下 决定 需不需要 重新 打 一部分 之类 的 所以 公司

招聘 肯定 也 是 现在 肯定 是 AI 用 的 也 是 越来越 多 了 你 不 说 别的 你 出差 简历 这么 多 简历 有 不同 的 学历 不同 的 什么 经历 谁 决定 谁 给 面试 谁 给 不 给 面试 这 肯定 也 是 也 是 AI 有 了 很大 的 作用 不 可能 全是 HR 眼睛 看 是 吧 所以 我 觉得 这 都 是 我们 人类 的 命运 可能 最 重要 的 这么 几件事 去 哪 上学 去 哪 工作 能 不能 买 到 房子 是 吧 最终 都 是 有 AI 在 其中 起到 非常 重要 的 作用 那 看上去 保证 AI 能够 公平 确实 是 非常 重要 是 吧 会 是 一个 女性 或者说 是 一个 少数民族 或者说 是 你 有 什么样 的 缺陷 这样 的 不能 让 他 给 提示 了 是

吧 對 但 同時 公平 又 是 一個 很 難 的 問題 就是 現在 是 一個 非常 複 雜的 問題 公平

確實 很 難 因為 我們 人類 也 很 難 做到 公平 是 吧 人類 做到 公平 就 更 難 了 我們 說 到 公平 非常 非常 抽象地 說 了 這麼 多 公平 那 公平 你們 有 沒 有 研究 具體 的 是 怎麼 一個 標準 或者 說 具體 是 怎麼 就算 公平 怎麼 能夠 就 衡量 它算 公平 了 公平 其實 是 一個

很 有 歷史 的 話題 可能 從 幾 千年 前 大家 都 會 在

思考 公平 真的 嗎 幾 千年 前 就 思考 公平 了 對 所有 這些

都 會 最後變 成古希臘 哲學家亞 里士多德 思考 過這些 問題 對 但現 在 最新 的 有 一些 比較 具體 討論 可能 最近 也 有 一些 這種 综述 可能 会 描述 有 十多种 或者 二十种 公平 的 标准 然后 有 一个 比较 我 个人 觉得 比较 有意思 的 是 个 哲学

问题 政治 哲学 问题 了 对 这

是 一个 不 只是 哲学 公平 确实 也 是 很多 法律 可能 试图 达到 的 结果 但是 实际上 怎么 达到 我 觉得 是 一个 很难 的 问题 什么

罗尔斯 之类 的 讲 一 讲 对 具体来说 大概 会 有 对 具体来说 我

觉得 最近 一个 比较 有意思 的 工作 就是说 有 一些 大家 可能 觉得 比较 常见 的 这种 直觉 上 来说 觉得 是 比较 好 的 这种 公平 的 标准 其实 是 不能 兼顾 的 我们 这里 可以 展开 简单 说 三个 不 一样 的 标准 这些 标准 一般来说 大家 讨论 的 时候 都 是 想象 这种 不同 人 不同 的 类型 的 人 比如说 种族 或者 性别 或者说 男女 我 觉得 可能 这个 这个 话题 可能 现在 国内 也 比较 敏感 我们 就 聊 男女 吧 我 觉得 至少 在 这个 抽象 讨论一下 标准 应该 是 没有 的 第一个 标准 假设 就是说 这些 系统 会 给 每个 人 一个 分数 然后 我们 根据 这个 分数 做 一个 决定 然后 有 一个 标准 比如说 是 如果 我们 分数 一样 的话 我们 的 录取率 就 应该 一样 比如说 我们 都 是 80 分 那么 我们 大概 有 多少 人 应该 录取 就 应该 一样 比如说 80 分 的 人 我们 录取 20% 的 人 男 的 80 分 的 里面 就是 录取 20% 女 的 80 分 的 人 里面 录取 20% 另外 一种 就是说 最后 录取 的 人 当中 这个 男女 的 平均分 是 一样 的 就 是不是 男 的 录取 的 人 里边 平均分 是 10 分女 的 平均分 是 90 分 而是 男女 都 是 90 分 或者 反过来 也 是 类似 的 然后 第三个 标准 是 不同 的 被 拒 的 人 平均分 也 是 一样 比如说 男 的 被 拒 了 最后 平均分 是 75 女 的 被 拒 了 最后 我们 也 希望 这些 人

平均分 是 75 这是 三个 标准 这有 三个 不同 的 标准 对 这 是

三个 不同 的 标准 听 上去 差不多

嘛 不 应该 是 同一个 标准 對

聽 上去 很 接近 然後感 覺應 該 可能 有 一些 辦法 可以 讓 這三個 標準 同時 都 達 到 但 實際 上 就 會 有 幾個 paper 比較 同時 的 paper 一個 來 自 於 卡萊西梅 隆大學 一個 康奈爾現 在 有 一個 作者 在 芝加哥大 學 的 這種 文章 就是 證明 這三個 標準 是 不能 同時

達 到 的 就 这 三个 都 不能 达到 就是 同样 的 分数 的 录取率 一样 这个 男女 的 这个 录取 的 人 的 平均分 一样 男女 的 剧调 人 平均分 一样 这 三个 标准 是 不能 同时 达到 的 对 对

对 除非 你 有 百分之百 完美 的 预测 就是 你 每个 人 的 分数 都 是 百分之百 对 的 那样 只要 你 这个 机器 不是 百分之百 的 准确 唯一 能 做到 的 方式 就是 所有人 给 一样 的 分数 然后 随机 抽取 才能 保证 这些 意义 的 公平 所以

抓 揪 是 最 方便 的 是

最 公平 的 對 因為 你 抓 揪 你 就 可以 直接 達到 我 剛才 說 的 標準 所有人 都 是 50 分 那 入學 的 人 平均分 一樣 被 懟 的 人 平均分 一樣 然後因 為 是 抓 揪 所以 不管 多少 分入 學率 都 一樣 就是 抓 揪 是 一個 很 公平 的 策略 但是 大家 可能 也 不覺 得 抓 揪 是 一個 大家 應該 採取 的 策略 然 後 這三個 剛才 講到 的 標準 其他 就 不太可能 達到 不同 的

標準 可能 會 有 不同 的 結果 看上去 很 公平 的 標準 背 後 也 不 一定 達到 一個 公平 的 結果 或者 說 可能 達到 所謂 公平 的 結果 的 實際 效果 是 不 一樣 的 那 怎麼 解決 這個 問題

呢 我 覺得 這也 是 這個 領域 很多 時候 的 一個 方向 就是 剛才 說 到 這個 Fact 很多 時候 也 會 有 很多 研究 法律 或者 別 的 社會 科學 當然 我 今天 要 聊 的 主要 是 法律 這一塊 就是 最 後 很多 還是 落實 到 立法 就是 希望 至少 在 某個 時刻 大家 有共識 哪 一種 公平 是 我們 想 達 到 的 然後我們 可能 可以 優化 那 一種 公平 但 同時 我 覺得 另外 一個 比较 重要 的 也 是 有点 类似 于 有时候 需要 有 一些 监控 就是 我们 可以 知道 在 别的 一些 公平 的 标准 上 现在 这个 系统 在 什么 水平 然后 可能 这些 都 会 是 可以 来 给 未来 的 立法 来 做 证据 然后 让 这 是 一个 比较 动态 的 过程 也 有 可能 我们 一直 优化 某 一种 公平 的话 可能 过 十年 之后 这个 社会 就 变得 很 畸形 可能 需要 调整 很多 時候 需要 我 不覺 得 這是 一個 我們 現在 人類 有 一個 最佳解 決辦法 的 問題 但是 我覺 得 是 一個 越來 越 重要 的 需要 討論 的 問題 尤其 是當 AI 或者 人工智能 更 多 地被 用 在 了 這些 重要 的 場合 上 看上去

这 确实 是 以 人类 为 中心 因为 这个 问题 机器 是 无法 解决 的 是 人类 要 讨论 出 一个 解决方案 来 达到 一个 社会 共识 然后 技术 能够 迅速 的 把 它 实现 出来 这样 才 是 说 以 人类 为 中心 非常 的 棒 我们 说完 了 公平性 公平性 非常 重要 是 吧 因为 是 我们 社会 的 基石 不管 每个 社会 公平性 都 是 一个 基石 那 所谓 的 追责 呢 對 追責

其實 也 是 現在 越來 越 相關 了 比如 說 最近 有 很多 自動 駕駛 出現 的 事故 簡來 說 這個 問題 單 就是 說 比如 說 一個 自動 駕駛的車 撞倒 撞死 了 另 一個 人 這個 時候 誰 應該 來 負責 是 誰 呢 我 可以 列幾個 可能 跟 這剛 才 說 的 公平 一樣 我 覺得 很 難 說 是 我 來 判斷 我 決定 是 誰 但是 比如 說 是 這個 司機 的 責任 是 這個 是 這個 算法 的 這個 開發 的 公司 的 責任 還是 這個 汽車 的 生產商 的 責任 就是 這個現 在 我 覺得 是 一個 比 較 模糊 的 問題 吧 然後沒有 一個 準確 的 大家 都 公認 的 那 這個

聽 著 非常 的 重要 比如 說 以後都 自動 駕駛 了 我 開一輛 什麼車 哪個 公司 生產 的 車然 後 那車 就 算法 就 出 問題 了 把 人 撞死 了 我 要 去 坐牢 嗎 或者 說 我 要 去 我 要 去 坐牢 這有 點兒 我 要 去 賠款 嗎 或者 是 怎麼樣 對

這是 一個 很 複 雜的 問題 然後具體 怎麼 做 我 覺得 我 很 難 把 它展 開講 但 我 覺得 這個 簡單 講還 可以 再 講深 一點 的 這個 算法 本身 可能 它 的 開發 過程 當中 是 很 複 雜的 比如 說 它 還把 標數 據 又 外 包給 了 另 一個 公司 各種 研究 發現 這個 數據點 是 為 什麼 這個 汽車 在 這個 時候 做 這個 決定 那個 標數 據 的 人 有 沒

有責任 最後還 有 一個 TensorFlow 來 run

一下 這個 是 一個 很 複 雜跟 以前 的 一些 問題 還是 比 較 不 一樣 的 場景 那 這個 問題

打 完 了, 業內 人士 打算 怎麼 解決, 或 這個 領域 的 人 認為 怎麼 解決 這個 問題 呢?

這也 是 另外 一個 我 覺得 就是 跟 立法 很 相關 的 問題, 我 不覺 得現 在 有業 內 人士 有 特別 好 的, 但是 我覺 得 現在業 內 很多 人 是 在 做 的, 比如 說 像 我 刚才 说 的 很多 人想 这 也 和 debug 比较 相关 比如说 发现 这个 问题 是 为什么 然后 我 可不可以 把 这个 model 改了 或者 把 这个 算法 改 了 来 解决 这些 问题 来 避免 这个 问题 再 出现 但是 在 法律 层面 上 说 怎么 追责 我 觉得 这 还是 一个 我 不 觉得 有 特别 具体

的 解释 那 如果 这个 问题 解决不了 那 我们 还 能 不能 卖 我们

的 驾驶 车 了 我 觉得 就是 现在 肯定 是 还是 我 觉得 短期内 至少 目前 几个 比较 highprofile 的 例子 最后 都 是 公司 赔 了 钱 对 但是 长期 来说 比如 这个 事故 变成 了 比较 高发 或者 每天 都 有 几个 事故 的 时候 这个 会 怎么 处理 我 觉得 还是 比较复杂 的 然后 比如 自動 駕駛 這個 例子 不同 國家 的 保險 制度 也 不 一樣 對 啊 還給 不給 你 付 了 嗎 對 這是 一個 有 很多 個 不同 的 社會 的 部門 都 會 要 參 與 進來 然後水 熱越 來 越 多 大家 會 有 一些 暫時性 的 解決 方案 但是 我覺 得 就 同時 這個 問題 的 背 後 更廣 的 問題 就是 說 這個 問題 不 只是 在 自動 駕駛 也 會 在 更 多 更 廣泛 的 場景 下會 出現 比如 說 這種 醫療 之 診斷 就是 也 會 有類 似的 對 呀 這個 醫療 也 是 一個 生死 攸關

的 醫療 是 代表 什麼 問題 對

比如 說現 在 會 有 一些 比如 說 拿 你 的 X光 或者 是 拿 你 的 一些 檢測 結果 一個 model 就會來 判斷 你 是不是 得 了 某個 病然後有 可能 你 得 了 癌症 這個 算法 當時 預測 你 沒 有 得 然後錯過 了 你 的 最佳 治療 時間 這樣 的 話 責任 誰 來擔 或者 是 反過 來 你 完全 沒事 這個 機器 說 你 得 了 癌症 然 後 你 擔心 了 一個 月頭 髮 都 掉 光 了 瘦 了

50 斤 這個 不会 化疗 掉 光, 是 担心 掉 光 这个 责任 怎么

担 或者 是 对 就是 这 还 只是 在 诊断 层面 就是 有 可能 有 一些 更新 的 算法 甚至 会 推荐 一些 治疗 的 方案 啊 就 会 使得 这些 问题 更 复杂 吧 然后 就 也 会 有 如何 担责 我 觉得 就是 短期 之内 我 觉得 比如 医疗 这个 我 觉得很有 可能 会 是 医院 担责任, 但是 如果 这样 的 事情 多 的话, 这个 算法 公司 也 很 难 独善其身 吧, 或者 人工智能 的 公司 在 这个 过程 当中 也 不 可能 是 完全 不负 任何 责任, 但是 这个 责任 怎么 分界 也 还是 挺难 的。

那 岂 不是 如果 都 是 比如说 医院 担责, 岂 不是 会 阻碍 这个 技术 的 发展 啊? 那 你 又 說 如果 無人 駕駛 的 話 都 是 比如 說 算法 公司 負責 的 話 那 可以 會 推動 這個 技術 發展 因為 大家 都 沒 有責任 嘛 對 吧 那 如果 就 醫院 負責 那 豈 不是 這個 技術 就 很 難 快速 推廣 了

對 我 覺得 這也 是 為 什麼 在 有些 問題 上 可能 就是 有些 所謂 的 人工智能 比較 難 落地 的 一個 原因 我覺 得 這個 我 只是 剛才 那個 只是 一個 猜想 就是 只是 我 直覺 上 覺得 至少 以 我 目前 的 观察 来说 如果 发生 了 纠纷 很 有 可能 是 至少 医院 先 把 钱 垫 上 的 感觉 吧 但是 确实 是 算法 肯定 不是 完全 没有 责任 的

刚才 说起 公平性 我们 人 一生 最 重要 的 决定 上学 工作 买房 看上去 追责 也 很 重要 决定 了 我们 开车 要 不要 被 撞 会 不会 被 撞死 去 看病 要 不要 被 误诊 是 吧 这 也 都 是 非常 重要 的 问题 这个 一点 也 不 次于 公平性 所以 这个 领域 看上去 谭 教授 认为 还是 一个 很 开放 的 领域 對

我 覺得 這現 在並 不是 一個 有 很多 答案 的 領域 吧 我 覺得現 在 是 更 多 的 是屬 於 有 很多 問題 的 領域然 後 所以 很 歡迎 感興趣 的 同學們 投入 到 這些 領域 當中然 後 我 覺得 就是 尤其 是 在 中美 这个 背景 下 文化 系统 当中 很 有 可能 最后 会 得到 不 一样 的 这种 结果 也 有 可能 有些 大家 公认 的 解决方案 在 某个 社会 当中 是 公认 的 解决方案 在 另 一个 社会 当中 并 不 一样 最后 大家 会 怎么 发展 其实 都 是 一个 比较 开放 比较 有意思 的 结果 好 那 我们

就 说 到 了 最后 一个 公平 追责 和 透明性 透明性 是 怎么回事 對

透明性 我覺 得 都 是 感覺 更是 一個 基礎 的 這也 是 我 個 人 可能 做 研究 更 多 的 一個 就是 說 能 不能 解釋 讓 人 大家 知道 這個 AI 是 怎麼 工作 的 或者 AI 做 某 一個 比如 說 診斷 的 時候 認為 你 得 了 癌症 是 為 什麼 能夠 讓 人 明白 這個 決定 背 後

的 原因 AI 不是 不行 吗? 就是 深度 学习 把 数据 往里 扔 是 吧, 搞 你 个 什么 多少 层 多少 层 一 出来, 那 不能 解决 呀, 这 怎么办 呢?

对, 这是 一个, 这 当中 是 会 有 很多 trade off 吧, 这 也 是 一个 很 积极 的 研究 领域, 有 很多 新 的 方法, 日新月异 地 提出 来 吧。

哦 真的 吗? 给 我们 开开眼, 有 什么 方法 呢?

哦 对, 比如 有 一个 比较 classic 的 方法 叫 LIME, 就是说 深度 学习 这样 的 model 虽然 比较复杂, 但是 我们 可能 可以 在 一些 局部 领域 用 一些 比较简单 的 模型 来 近似 这个 深度 的 模型。 我 就 可以 在 局部 的 比如说 通过 在 一个点 周围 采样 然后 看到 这个 机器 会 怎么 预测 然后 我 不用 这个 复杂 的 模型 根据 这些 机器 的 预测 我 重新 拟合 一个 很 简单 的 比如 线性 模型 然后 通过 这个 线性 模型 里面 的 这个 系数 来 判断 这些 AI 把 哪些 信息 看 得 比较 重 我 觉得 这是 一个 比较 经典 的 方法 稍微

理解 一下 深度 学习 是 多少 层 每层 之间 那些 神经元 在 连接 比如说 某 一块 你 把 神经网络 给 划分

了 吗 还是 怎么样 對, 一般 來 說 我 剛才 指 的 就是 在 你 的 輸入 空間 上 比如 說 是 現 在 我 看到 你 的 決定 恭喜 你 你 這個 貸款 獲得 了 批准 然後在 這個點 附近 我 找 一些 跟 你 很 接近 的 人 就是 稍微 差一點 甚至 有 的 時候 做 的 這種 application 其實 都 不是 真實 的 就是 有 一些 假 的 人 這種 人現 實中 完全 不 存在 然後我 就 採樣 了 一些 然後我 看 這些 機器 在 你 周圍 是 怎麼 運作 的 然后 这个 基本 的 假设 就是说 在 你 周围 的 时候 我 可以 用 一个 很 简单 的 模型 来 模拟 这个 比较 深 的 这个 神经网络 然后 这个 很 简单 的 模型 可能 就 会 比较 直接 找到 告诉 你 我 根据 你 的 年龄 啊 你 现在 的 收入 啊 这 两个 比较 重要 这是 为什么 你 贷款 获得

了 批准 就 周围 的 意思 就是说 你 先 把 它 预测 到 一个 范围 里 大概 這個 周圍 是 指

你 個 人 的 周圍 就是 別人 跟 你 背景 差不多 的 人 比如 說 我 隨便 假設 有 另 一個 人 這個 收入 我 不 知道 你 收入 多少 所以 比如 另 一個 人 年齡 跟 你 差 一 兩歲 收入 跟 你 差個 四五 萬然 後 就 這樣 有 好多 個點 出來 之 後 每 一个点 都 会 让 AI 产生 一个 预测 这样 我 大概 就 知道 在 这个 局部 范围 之内 这个 AI 把 多少 权重 放在 了 这个 收入 上 多少 权重 放在 你 年龄 上 多少 权重 放在 了 你 这个 性别 上 有 娃 没娃 多少 权重 放在 了 你 这些 因素 上

就是说 我们 还是 人类 试图 解决 它 这个 模型 是 怎么回事 的 就是 它 并 没有 让 机器 去 理解 而是 说 我们 试图 理解 机器 大概 是 这样 对

我 觉得 解释 其实 很多 程度 是 这 也 是 一个 很 有趣 的 方向 就是 我 觉得 现在 很多 的 这个 叫做 PostHocExplanation 就是说 先有 了 这个 模型 然后 我们 再 来 解释 这个 模型 这是 一个 现在 比较 火 的 一个 领域 叫 PostHoc 就是 在 这个 事情 发生 之后 然后 我 再 来 解释 就 在 这个 模型 预测 这个 模型 已经 训练 好 这个 模型 预测 已经 出现 了 然后 我来 解释 这个 模型 是 怎么 做 这个 预测 的 但 也 有 一些 是 说 怎么 我 从 最 开始 就是 建 一些 可 解释 的 模型 一般来说 比较 著名 的 这个 就是说 一些 比较 线性 模型 的 变种 或者 是 泛化 的 线性 模型 然后 一般来说 线性 模型 是 大家 认为 比较 可以 解释 的 但 我們

人類 能 理解 的 模型 真的 能達

到 那個 效果 嗎 對 就是 大家 都 會 說 有 這種 tradeoff 我覺 得 這也 是 一個 比 較 active 的 debate 然 後 比如 杜克大學 有 一個 教授 叫 CynthiaRudin 她 就 比 較 著名 的 站 隊 這個 人類 可以 解釋 的 模型 其實 也 可以 做得好 她 做 了 很多 這種 有趣 的 工作 就是 說 確實 是 在 很多 比如 我們 剛才 說 的 問題 當中 其實 跟 大家 所 想像 一般 的 機器 人工智能 比數 據 其 實並 沒有 那麼 豐富 比如 說 Compass 最 後 可能 每個 人 就 只有 七八 個 特徵然 後 或者 說 是 貸款 你 投入 的 填度 的 信息 其實並 沒有 那麼 複 雜然 後 在 這些 問題 上 在 它 的 一些 結果 當中 是 可以 看到 確實 是 一些 相對 來 說 可 解釋 很多 的 模型 其實 是 可以 和 這個 神經 網絡 達 到 比 較類 似的 效果

那 要是 遇到 像 围棋 这样 的 是 不太可能 的 然后 AI 来 教给 我们 它 是 怎么 的 结果 了

对 对 对 我 觉得 对 围棋 这样 的 是 不太可能 用 这 也 是 就是 领域 有 一个 我 觉得 个人 觉得 比较 有意思 的 问题 就是 什么 时候 应该 采用 什么样 的 模型 其实 并 并不一定 是 越 复杂 模型 越好 这 当中 尤其 是 你 考虑 到 别的 时候 另外 有 一个 比较 极端 的 工作 就是说 在 比如说 刚才 这种 预测 某个 人 未来 会 不会 犯罪 这个 问题 上 最 簡單 的 規則 基 於 的 模型 就是 說 比如 這個 人 年齡 大 於 50 就 怎麼樣 或者 這個 人過 去 沒 有 犯過 罪 就 怎麼樣 這簡單 的 幾條 規則 就 可以 和 機器 差不多 但 我 覺得 這些 都 是 還是屬 於 比 較 開始 的 階段 吧 我 覺得 就是 長 遠來 說 我 覺得 隨著 就是 這些 問題, 尤其 是 到 了 透明, 其實 另外 一部分 的 透明, 比如 說 這些 模型 背 後 的 數據 是 哪些, 它 最 後 收集 了 你 哪些 數據, 收集 了

哪些 別人 的 數據, 這些 可以 說

是 最 基本 的 透明, 就是 這個 模型 是 基 於 什麼樣 的 數據 來 建立 的。 他用 了 哪些 feature 这个 我 感觉 都 是 也 是 透明 的 一部分 没有 到 具体 到 某个 模型 上 而是 就是说 你 的 数据 上 有

什么 那 这个 也 非常 的 重要 是 吧 比如说 你 做 一个 贷款 想 知道 你 什么 因素 是 和 这个 结果 有关 的 是 吧 我们 不能 让 大家 不 知道 你 用 了 我 什么 信息 来 预测 我能 不能 贷款 我能 不能 上学 是 吧 这个 也 是 非常 重要 要 让 我们 清楚 你 到底 看 什么 你 的 标准 是 什么 是 吧 对

對, 然 後 這個 尤其 是 在 一些 比如 說 比 較 複 雜的 互聯網 生態 當中 其實 是 很 複 雜的, 比如 說 在 一個 Amazon 或者 是 阿里 上 淘寶上 預測 你 會 買 哪些 東西 這個 過程 當中 可能 有 很 複 雜的 數據 交易, 這些 網站 可能 買 了 你 不 只是 阿里 的 交易 记录 淘宝 上 的 交易 记录 可能 天猫 上 的 数据 也 用 上 了 或者 是 甚至 是 很多 阿里 下面 的 分支 你 的 所有 数据 可能 都 用来 预测 你 下 一个 东西 想 买 什么 然后 这个 过程 当中 让 用户 有 更 多 至少 知情权 甚至 是 控制权 决定 哪些 数据 可以 被 用 就是 都 是 一个 相关 的 其实 是 比较 重要 的 方向 非常 重要 的

问题 我們 剛才 說 了 一個 fact 就是 公平性、 追責 和 透明度 聽 上去 就是 要 管教 一下 AI 是 吧 AI 太爛 了 是 吧 要 管教 管教 這個 就是 這麼 一個 領域 嗎 你 們 這個 領域 大概 就是 做 這個 工作

嗎 我 覺得 fact 可能 更 多 的 是 在 思考 怎麼 來 控制 AI 吧 但是 我 自己 之前 說 的 這種 human centeredAI 或者 是 廣義的 思考 AI 和 人的關 係 我 覺得 還有 很 重要 的 一塊 就是 AI 其實 也 是 可以 做 很多 對 社會 有益 的 事情 對 整個 社會 有 幫助 比如 說 有 一些 很 有趣 的 工作 就是 說 AI 怎麼 可以 來 幫 我們 保護 環境 啊 怎麼 可以 知道 現在 各種 珍稀 動物 還有 多少 個 但是 我 這裡舉 一個 在 比 較 跟 社科 跟 我們 之前 舉的 例子 比較 相關 的 是 一個 芝加哥大 學 就 一個 同事 的 一個 工作 就是 說 怎麼 用 通過 算法 來個 性化 的 短信 提醒 來 讓 人 更 有 可能 去 使用 一些 社會給 他們 福利 比如 說 在 美國會 定期 如果 你 足夠 貧窮 的 話 定期 都 會 有 一些 類似 於 低保 的 東西會給 你 一些 可以 有點 像 糧票 的 東西 吧 你 可以 拿 這些 東西去 買 吃 的 但是 很多 州 都 會 有 一個 要求 是 說 你 要 提前 一段 時間 叫 一個 表來 讓 大家 知道 你 會 需要 這個 但是 很多 時候 尤其 是 貧窮 的 人 反而 會 很 容易 忘掉 這 一步 或者 是 三八 號有 可能 就 沒 有 去

做 這些 事情 那 這個 怎麼 辦

呢 他們 做 的 這個 工作 就是 可以 通過 一些 短信 提醒 的 方式 但是 更 重要 的 是 說 如果 只是 比較 難易 的 方法 比如 說 沒 有 人工智能 我 就是 有 一個 短信 然後把 這個 短信 發給 了 所有人

禮你 的 這個節 日期 還有 三天 請 沒 有 填表 的 話 請 填表

對 但 實際上 這個 過程 其實 有 很多 種 不同 的 提醒 方式 比如 說 你 的 鄰居 已經 在 昨天 填 了 這個表 了 或者 是 你 上 個 月 填 了 這個 表上 個 月 在 這 一天 填過 這個表 所以 就是 有 很多 種 不同 的 方式 提醒 不同 的 人然 後 因為 每個 人思維 方式 是 不 一樣 的 所以 你 可能 甚至 是 每个 人 每个 月 的 思维 方式 是 不 一样 所以 他们 就 会 有 一个 动态 的 这样 一个 系统 可以 相当于 智能 的 来 推荐 这种 短信 然后 可以 大幅 的 提高 大家 去 填 这个 表去 使用 这些 粮票 然后 来 降低 这种 贫穷 的 概率 这个 可能

确实 是 非常 重要 确实 可能 是 非常 有 效果 你 一个 短信 怎么 说 确实 是 不 一样 这个 要是 换 一个 党 是 吧 從 民主 黨換 到 共和 黨 是不是 就要 讓 這個 算法 寫 得 更 讓 你 不太可能 去 填 對 這個 回到 了

之前 說 的 價值 問題 就是 這些 東西 很 難 說 是 你 就 讓 AI 就 去 做 這件 事情 就是 在 這個 整個 過程 當中 有 很多 決定 是 由 人來 做 的 我 就 不 太 評價 民主 黨 和 共和 黨之間 的 區別 但是 這確 實是 一個 很 重要 的 問題 在 這種 兩黨 體系 當中 大家 會不會 來 回換 基礎 的 價值觀 也 會 使得 很多很多 算法 首先 不一樣然 後 算法 的 結果 算法 對 這個 社會 的 影響

也 會 很 不 一樣 短信 感觉 跟 骚扰 短信 差不多 你 看 那些 营销 骚扰 短信 也 都 差不多 这 感觉 同一个 技术 可以 做 核电站 也 可以 做 核武器 是 吧 对 是

的 我 觉得 这 就是 这个 过程 当中 为什么 一定 要 有人 的 一个 很 重要 的 原因 我们 聊 了

这么 多 谭 教授 在 芝加哥大学 开 了 一门 课程 是 吧 就是 专门

讲 这些 东西 是 吧 對, 我 有 一個 研究生 課程 研究生 討論 課

就是 專門講 兩個 話題 叫 HumanCenteredMachineLearning 對,

然 後 大家 如果 Google 一下 加 GitHub 應該 就 能 找到 我們 可以

放到 我們 的 shownotes 上 這門 課程 在 GitHub 上會放 一些 什麼 東西 主要

都 是 一些 相關 的 論文會 讓 大家 可以 看到 一些 相關 的 內容然 後 也 會 有 一些 裡面 可能 也 有 一 兩個 類似 於 更 像是 Demo 性質 的 也 会 有 一些 类似 于博客 或者 我们 讨论 到 的 这些 例子 相关 的 博客 可能

在 下面 留言 好 那 我们 有 兴趣 的 朋友 们 可以 去 看 谭 教授 的 这个 课程 的 这个 GitHub 上面 可以 看到 这个 领域 最 经典 的 论文 和 一些 最新 的 这些 例子 可以 学到 和 这个 世界 顶级 的 研究型 大学 的 研究生 课程 一样 的 内容 我们 一般 会 问 嘉宾 一个 问题 就是 这个 领域 未来 向 哪个 方向 发展 呢 看来 我们 过去 一般 嘉宾 的 领域 都 是 一个 相对 比较 成熟 的 领域 这次 我们 这个 领域 是 一个 还是 相对 比较 新 的 领域 这个 领域 未来 要往 哪个 方向 去 呢 这里 我

简单 说 三点 我 觉得 第一个 首先 是 這個 我 覺得 這個 領域 對 於 很多 現在 的 教育 的 挑戰 就是 需要 有 更 多 這種 多學科 的 合作 就是 需要 不 只是 傳統 的 計算機 背景 的 人來 做 需要 很多 還有 懂 法律 懂哲學 懂 法律 懂哲學 懂 經濟 懂 心理 懂 社會學 的 人 一起 來 參 與 到 這個 不 只是 有 有 的 時候 大家 會 把 這個 描述 成是 說 大家 有 不同 的 专才 然后 来 合作 但是 我 觉得 更 常规 的 来说 是 需要 一些 更 新型 的 人才 吧 可能 在 最 开始 训练 的 时候 就 比较 勃然 勋书 然后 对 各个领域 都 有 一些 涉猎 然后 不 只是 听 计算机 科学家 讲 这个 算法 而是 自己 对 这些 看法 有 一些 理解 我 觉得 现在 尤其 是 在 美国 有 很多 参议院 可能 对 这些 完全 不 知道 会 使得 立法 和 技术 之间 有 比较 大 的 一些 距离 然后 可能 以后 很多 法律 对于 技术 来说 完全 不合理 所以 谭

教授 认为 我们 整个 社会 的 整个 教育 不光 是 这个 领域 的 教育 都 希望 整个 的 大众 甚至 是 我们 一些 精英 人才 会 有 多方面 的 知识 能够 思考 这个 问题 对

我 觉得 除了 精英 人才 就是 尤其 是 对于 普通群众 我 觉得 这 尤其 是 刚才 说 的 最后 这个 透明性 的 问题 尤其 是 这个 人工智能 用 的 更 多 的 时候 需要 也 會 需要 有 更 多 科普 的 教育 要 讓 大眾 知道 你 被 什麼 控制 你 哪些 數據 被 使用 你 這些 跟 你 人生 各 方面 息息 相關 的 各個 決定 如何 被

算法 影響 是不是 我們 學 比如 說學 計算機 的 人 也 要 明白 在 這個 技術 之外 的 這些 問題 這些 如何 人 和 計算 機的關 係 的 問題 是 要 懂 那麼 一點 是 吧 要 懂 一些 基本 的 常識

我 覺得 這是 一個 這樣 一個 多學科 的 各個 方面 不僅 是 研究 層面 在 教育 層面 就是 我覺 得 是 可以 有 很大 的 進步 了然 後 第二 點我要 說 的 就是 這個 法律 刚才 可能 在 聊 fire 的 时候 都 聊过 就是 这种 法律 和 技术 之间 的 碰撞 我 觉得 会 越来越 有趣 也 越来越 激烈 了 就是 会 有 更 多 更 多 新 的 方式 影响 到 技术 怎么 改变 然后 法律 怎么 制定 我 觉得 这个 也 是 我 觉得 短期内 可能 最 重要 就是 这些 很多 我们 聊到 的 问题 不是 只 通过 技术 可以 解决 的 是 需要 有 尤其 是 和 立法 或者 是 監督部門 有 比 較 深度 的 這種 合作 和 碰撞 有 的

时候 可能 也 是 要 用 社会规范 做 这 行业标准 是 什么 你 要 做到 这个 做到 这个 对 然后 最后

一点 就是 结合 最后 说 的 那个 短信 提醒 就是 有 很多 可以 真正 深入 到 社会 然后 让 大家 从中 受益 的 角度 我 觉得 这个 也 是 可能 大家 都 在 说 怎么 让 人工智能 落地 但 我 觉得 很多 时候 可能 就 也 需要 大家 投入 到 这些 对 社会 有 帮助 的 这些 领域 当中 然后 真正 让 这些

为 人 服务 好 非常 的 棒 这个 领域 看来 是 非常 非常 重要 的 领域 非常 非常 新 的 领域 有 很多很多 未来 的 重要 的 发展 可以 影响 我们 人类 的 这个 人类 社会 那 如果 要 进入 这个 领域 比如说 这么 重要 的 一个 领域 这么 有 前途 的 领域 如果 是 谁 要 想 进入 这个 领域 不管 是 去 大学 做 研究 啊 还是 说 要 去 某些 其他 不 知道 什么 什么 的 比如 去 法律 部门 啊 还是 去 NGO 啊 做 这方面 的 工作 那 应该 做 哪些方面 准备 呢 或者说 是 怎么样 能够 进入 这些 方面

领域 呢 对 我 觉得 大学 研究 可能 是 这些 当中 最 领先 的 部分 但 我 觉得 现在 就是 越来越 多 大学 可能 都 有 相关 的 教授 做 一些 相关 的 研究 真的 越来越 多 了 对 如果 大家 感兴趣

那 他们 喜欢 什么样 的 背景 博士生

呢 我 觉得 每个 人 背景 都 不 一样 我 觉得 就 像 刚才 说 的 这种 多 学科 的 合作 其实 最后 这个 现阶段 可能 如果 你 各 方面 都 能 有 一些 了解 可能 会 很 有 帮助 然后 如果 在 一些 计算机系 可能 大家 会寄召 一些 计算机 背景 比较 深 的 人 也 会 找 一些 比较 社科 背景 的

人 社科 的 就是 大 社科 嘛 就 像 法律 经济 您 刚才 说 的 这些 法律 经济 哲学 对 我

觉得 每个 人 的 角度 都 不 一样 所以 我 觉得 从 我 的 角度 来说 因为 我 在 一个 计算机系 工作 所以 可能 对于 很多 听众 来说 计算机 还是 一个 很 好 的 如果 你 对 这方面 感兴趣我 觉得 大家 并 不会 设置 很多 屏障 说 你 不 懂 这些 不能 来 做 这些 研究

所以 学 计算机 还是 一个 在 这个 领域 非常 需要 的 需要 学 这方面

人才 的 對 我 覺得 各個 方面 的 人才 都 是 很 需要 的 但是 如果 這個 聽眾 本來 就是 比較 偏 執著 的 背景 我覺 得 更 重要 的 是 你 對 這些 問題 感興 趣然 後 想要 去 研究 這些

沒有 我們 聽眾 什麼 都 有 如果

是 各種 人 都 有 的 話 那 就 大家 都 有 可能 可以 提供 的 視角 和 幫助 吧 那

如果 是 社會 科學 背景 那 需要 學 一些 AI 嗎 還是 不 需要

這個 我 覺得 就是 現在 計算機 其實 很 廣會 有 一些 在 計算機 的 老師 也 可以 不 需要 學 AI 或者 是 不 需要 真的 可以 研發 AI 來 做 這些 但是 我個 人 還是 會 希望 學生會 都 能 至少 懂 AI 到 可以 解釋 一個 模型 是 怎麼 work 的 那 很 不

容易 啊 能 解释 一个 神经 脑子 怎么 工作 的 就 相当 不 容易

啊 对 但 就是 这是 一个 我 觉得 核心 就是 这是 一个 很 新 的 领域 然后 我 觉得 如果 大家 感兴趣我 觉得 都 是 可以 至少 了解 一下 然后 决定 你 有没有 兴趣 做 得 更 深入 一些 然后 我 觉得 在 社会 的 各个 层面 可能 都 会 需要 对 这个 话题 感兴趣 的 人来 把 人工智能 真的 做到 为 人 服务

今天 非常感谢 谭 教授 在 百忙之中 抽出 时间 来 给 我们 科普 这样 一个 新 的 可能 大家 了解 不太多 的 领域 如果 喜欢 我们 的 节目 请 在 各大泛 用型 播客 平台 订阅 和 收听 我们 的 节目 如果 有 什么 想 说 的 可以 在 我们 的 听众 群 或者 是 我们 能够 评论 的 平台 上面 评论 我们 也 招 志愿者 来 帮 我们 来 进行 一些 制作 工作 所以 有 兴趣 的话 可以 给 我们 发信 好 那 我们 就 后会有期 拜拜