#46 自然语言处理的前世、今生以及广泛应用

我們 日常 使用 的 應用 機器 翻譯 語音 助手 AI 講書 等 其 實都屬 於 一個 叫做 自然 語言 處理 的 領域 今天 我們 請 來 了 這個 領域 的 專家來 和 我們 聊 一聊 這個 領域 是 幹什麼 的 它 的

前世 今生 和 未來 上述 的 最 後 這一點 最 關鍵 就是 叫 說

人話

比如 說 咱們 都 有 字典 那麼 是不是 就 拿 它 就 已經 可以 完成 一些 簡單 的 翻譯 任務 了 我簽 租房 合同 的 時候 我 可以 由 一個 機器 來 幫 我 審核 上 已經 提到 了 一個 詞 叫做 語意 我們 叫做 Semantics 這 裏

是 牛油果 烤 麵 包 大家 好 我 是 斯托 亚特 我 是 Sean 今天 我们 非常 有幸 的 请 到 了 博言 RSVP. AI 的 联合 创始人 和 AI 负责人 并且 是 大 数据 智能 数据 驱动 的 自然语言 处理 技术 的 编著者 之一 崔安琪 崔 博士 来到 我们 这 期 节目 给 我们 聊一聊 自然语言 处理 的

故事 主持人 好 听众 朋友 们 大家

好 我 是 崔安琪 崔 博士 的 這個 公司 叫做 博研 RSVP. AIRSVP 是 什麼 意思 謝 這個 問題

非常 好 这个 词 在 英语 国家 里 更 流行 一些 那么 它 实际 是从 法语 的 一句 短语 缩写 来 的 法语 原文 是 这个 叫 heibondeisivuple

这 发音 非常 标准 非常 像 法语 但是 是 什么 意思 呢 就是 翻译成

英语 就是 pleaseresponse, pleasereply 就是 请 回复 的 意思 在 英语 国家 一般 用 这个 RSVP 作为 发 邀请 请柬 最后 最后 的 一个 缩略语 就是说 我 邀请 你 来 请 你 回复 我 还

真不知道 一直 是 个 法语 词 啊 很 厉害 啊 那 你们 借助 这个 词是 想 表达 一个 什么 意思 呢

我们 借助 这个 词 就是说 我们 公司 呢 实际上 是 做 这种 对话 最早 我们 的 技术 也 是从 对话 系统 问答 系统 起源 的 所以 也 是 希望 人 说 一句 话 机器 做 回复 或者 机器 问 一句 话 人来 做 回复 就 有 这种 一来一往 一问一答 的 形式 所以 就是 pleasereply 嘛 所以 我们 公司 呢 就 起 了 这个

名字 就是 那 你 后面 叫点 AI 肯定 这个 意思 就是说 这是 一个 用 AI 技术 来 回复 的 意思 吧 大概 就是 我 理解 就是 会 自动

回复 对 不 对 對 我們 是 一家 人工智能 公司 所以 對話 系統 問答 系統 這也 是 人工智能 技術 裏 面 我們 叫 自然 語言 處理 相關 的 一些 子 領域 所以 我們 這家 人工智能 公司 在 這 方面 做 了 很多 技術 上 的 探索 商业化 的 落地

那 问答 系统 大概 会 运到 什么

地方 呢 简单 来说 吧 像 大家 现在 所有 用 咱们 这种 什么 语音 助手 像 咱们 手机 里 的 语音 助手 啊 包括 智能 音箱 啊 现在 很多 智能 设备 的 这种 对话 交互 其实 都 可以 算 自然语言 处理 解决

的 问题 的 范畴 能 不能 就 大概 的 给 大家 介绍 一下 自然语言 处理 大概 是 一个 什么样 的 领域

呢 笼统 来说 就是 所有 跟 语言 相关 的 跟 人类 语言 相关 的 场景 相关 的 事情 都 是 自然语言

处理 要来 做 的 就 所有 相关 的 事情 就是 不光 像 识别 语言

对 我 还是 拿 语音 助手 来 简单 的 做 个 比方 当然 这 只是 其中 一部分 什么 意思 咱们 比如说 对 着 手机 我 说 OKGoogle 或者 Siri 我 想 问 一个 问题 比如说 明天 多少度 What stheweathertomorrow 那么 这个 过程 当中 都 有 哪些 技术 首先 第一步 我 说 的话 是 要 由 计算机 把 它 转成 文本 这步 我们 叫做 语音 识别 简称 ASR 把語 音信 號把聲 音信 號轉成 文字 文本 然 後 第二步 就是 我們 要 理解 這句 文本 是 什麼 意思 明天 多少度 What stheweatherliketomorrow 或者 是 What sthetemperaturetomorrow 然 後 包括 說

我 可能 比較 說 話 比 較 奇怪 我 就 說 Siri 你 幫 我查 一查 天氣 明天 多少度 電來 導去 換來 復 去 的 那 種問 同一 個 意思 也 要 計算 機要 理解

還 有人 這麼問 Siri 的 嗎 你

不要 低估 大家 會 怎 麽 調戲民眾

對 這個 例子 非常 生動 我們 在 實際 處理 的 時候 就是 說 同樣 是 表達 同一 個 意圖 的 句子 會 有 很多很多 種 可以 說 是 無窮 無 盡 的 你 幫 我查 一下 對 吧 你 請 你 告訴 我 你 好不好 告訴 我 呀 等等 都 可以 作為 這個 前綴 對 吧 對 所以 這 一步 的 難點 就是 我們 要 把 人 不管 怎 麽 表達 的 一句 話 我們 要 理解 它 的 目的 意图 他 的 目标 就是 在 问 明天 的 天气 那么 一旦 我们 理解 了 之后 那么 进入 到 第三步 我们 就 需要 去 解答 这个 问题 或者说 做 一个 回复 哎呀

这个 问题 就 深 了 啊 这 问题 就 深 了 怎么 回答 这个

问题 呢 那么 首先 我们 要 有 知识 对 吧 如果 是 问 问题 的话 我要 有 相应 的 知识 我 做 一个 回复 的话 我要 想 知道 你 比如说 这 一件 事 的 下 一步 要 做些 什么 对 吧 理解 你 的 指令 比如说 我 说 你 把 空调 打开 对 吧 那 我 要 知道 这 里面 有 空调 我 屋子里 有 空调 等等 打开 电源 等等 这些 一系列 事情 比如说 我们 要 把 这里 要 做 的 事 都 解决 掉 我 可以 去 各种 地方 查 答案 查 知识 把 它 组装 起来 这 是 这 一步 的 核心 所在

嗯 那 我们 现在 理解 了 他

的 意图 之后 呢 之后 我们 找到 了 知识 对 找到 知识 之后 呢 我们 就 需要 这时候 为了 给 人 一个 回复 嘛 我们 要 把 它 拼装 成 一个 答案 或者 拼装 成 一个 回复 就 说好 的 那么 明天 的 天气 是 比如说 30 度 或者 是 25 度 有 雨 你 要 注意 带 好 雨伞 那 麽 這 裏 邊也會 有 各種 各樣 的 策略 你 就算 是 一個 問天氣 這樣 簡單 的 一個 問題 我 也 可以 有 不同 的 比如 說 我 可以 很 生硬 地告訴 你 明天 就是 多少 多少 攝氏度 說 完 了 我 也 可以 很 貼 心地 告訴 你 明天 太熱 了 你 出門 要 註 意 防

曬 明天 太熱 寶 貝 註 意

防 曬 喲 對 所以 這 裏 你 可以 你 就 想想 人 在 處理 這同樣 一個 問題 你 可以 有 各種 各樣 的 同樣 有 這些 知識 對 吧 我 同樣 知道 明天 是 30 攝氏度 我 需要 我 怎 麽

去 回 復 給 你 最后 呢 怎么 能够 还 需要 把 它 转化 为 这个 自然语言 吗 我们 能够 听

的 语言 吗 到 刚才 说 的 这 一步 其实 已经 是 把 我 有 的 这些 知识 转 成 一句 人 说 的话 了 然后 到 最后 一步 第五步 就是 把 这个 文本 的 这 一段话 呢 把 它 读出来 就

相当于 是 声音 进来 声音 出去 对

这 是 一个 比较 完整 的 语音 助手 的 流程 当然 实际 当中 我们 比如说 咱们 在 用 一些 网站 上 或者 是 聊天 窗口 里 的 这种 客服 助手 其实 是 直接 用 文字 用 文本 跟 他 就 交流 了 所以 这里 就 不 涉及 一点 就

相当于 是 第一步 和 第五步 就 去掉 了 就 直接 是 二 三四 对

二三 四二 三四 对 是 的 那 這個 說 的 是 我們 說 的 是 雲 助手 對 吧 分 了 這五 部分 那 自然 語言 處理 就 只 包括 這五 方向 嗎 還是 還有 其他 的 領域 也屬 於 自然 語言

處理 剛才舉 這個 例子 只是 為 讓 大家 更好 的 理解 自然 語言 處理 有 哪些 事 可 做 那麼 實際上 這個 自然 語言 處理 我們 叫做 NaturalLanguageProcessing 為 什麼 我 說 它 是 跟 所有 的 人類 語言 相關 的 事情 它 都 可以 做 呢 我 可以 再舉 一些 例子 比如 說 机器翻译 这个 我 觉得 大家 现在 可能 用 的 也 非常 多 不管 是 网页 版 的 像 Googletranslate 这些 网页 工具 或者 是 一些 手机 上 的 app 或者 是 现在 有 很多 的 翻译机 或者说 那种 笔式 的 随身携带 的 这种 翻译机 都 可以 做 机器翻译 这件 事情 那么 这 也 是 自然语言 处理 的 一个 主要 的 任务 那么 除此之外 你 比如说 搜索引擎 里面 也 会 有用 到 大量 的 自然语言 处理 技术 它 本身 相当于 是 一个 交叉 的 系统 交叉 的 学科 之前 咱们 节目 也 讲 到 过 搜索 技術 對 吧 講 這個 Google 啊 百度 啊 等等 搜索引擎 那麼 這裡邊 其實 也 有用 到 了 大量 的 自然 語言 處理 的 技術 和 方法 這也 是 一大 一大 一大 塊 那麼 我 覺得 還有 一個 不得不 提 的 就是 大家 每天 應該 都 會 用 的 就是 拼音 輸 入法 拼音

輸 入法 也 算 自然 語言 處理

對 拼音 輸 入法 包括 其實 不光 是 拼音 輸 入法 了 其實 咱們 看 英文 的 輸 入法 輸入 英文 也 有 這個 裡邊 也 會 起到 很大 作用 我 想 大家 可以 想一想 因为 我 不 知道 咱们 听众 包括 主持人 咱们 年龄段 是 如何 最早 如果 大家 仔细 回想 一下 自己 最早 用 电脑 的 时候 那 时候 用 的 是 什么样 的 输入法 好使 不好 使 跟 现在 相比 肯定 我 觉得 现在 肯定 是 比 当年 好使 的 对 吧 那么 这里 边 其实 就是 用 很多 NLP 的 技术 来 提高 它 的 实用性 的 我 记得 印象 比较

深刻 的 一 开始 就是 用 一些 系统 自带 的 输入法 我 记得 叫 微软 ABC 我 记得 还 蛮 深刻 的 它 那个 彩虹 色 非常 有 年代 感 的 彩虹 色 ABC 三个 字母 然后 后来 我 记得 是 SOGO 输入法 后来 出现 了 那 时候 对 大家 来说 是 一个 蛮 很大 的 体验 提升 吧 我 记得 其中 印象 是 比较 深刻 的 一点 是 在于 比如说 你 会 发觉 互联网 上面 很多 新 的 词汇 出现 然后 你 会 发觉 原来 那种 比较 传统 的 输入法 是 肯定 不能 给 你 这些 新 的 词 的 然后 比如说 奥利 给 它 肯定 是 不 知道 什么 意思 然后 后来 的话 你 发觉 用 搜狗 输入法 的 时候 它 中间 会 有 一个 它会 有 一个 第二个 选项 它会 有 一个 云 的 符号 然后 比如说 你 输入 完 之后 它会 好像 就 是从 服务器 那边 去 搜索 说 有没有 最近 一个 新 的 词 长成 这个 样子 的 它 会 给 你 一个 比较 时髦 一点 的 词会 给 你

选项 这个 好像 已经 是 非常 新 的 了 在 我 印象 中 输入法 最 开始 是 单字 输入 后来 可以 输入 词 了 好像 微软 abc 是 已经 可以 输入 词 了 对 吧 后来 出现 了 像 微软拼音 这样 的 是 可以 整句输入 对 吧 但是 整句输入 的 不太好 后来 出现 了 以 搜狗 拼音 为首 的 一系列 输入法 自然语言 实际上

是 与 计算机 语言 机器语言 相对 应

的 一类 那 为什么 不 叫 人类

语言 呢 计算机 语言 也 是 人类 发明 的 对 不 对 对 啊

我们 程序员 就 不是 人 了 吗 这 突然 是 什么 意思 我 觉得 这个 可能 发明 跟 站 在 我们 程序员 的 角度 来说 我们 平时 工作 这么 苦 逼 的 在 那边 写 代码 就 觉得 这个 东西 太 不 自然 太 辛苦 然后 开始 写 完 代码 之后 跟 同事 聊天 就 觉得 这太 自然 了 还是 说人话 上 说

的 最 最后 这 一点 最 关键

就是 叫 说 人话 说 人话 那 不是 又 说 回来 了 吗 要 叫 人类 语言 了 变成 你 为了

让 机器 听懂 你 想 做 的 事情 你 就要 用 机器语言 跟 他 去 说 如果 你 跟 一个 人 打交道 那 你 就 用 一个 自然

的 语言 跟 他 说法 家 说道 法 自然 是 吧 就是 他 我们 什么 也 不 做 我们 什么 都 不 做 就 应该 出 的 是 这个 语言 是 吧 广义 的 上

说 算

关键在于 你 是否 在 通过 广播操 的 形式 传达 出 了 你 所要 表达 的 意图 因为 刚才 提到

语音 助手 这个 例子 我 一直 有个 困扰 着 我 的 一个 问题 因为 大家 比如说 耳熟能详 的 李开复 他 其实 当初 在 他 读 博士 的 时候 他 研究 的 就是 语音 助手 自然语言 处理 其实 是 伴随 着 可以 说 伴随 着 人工智能 的 发展 很 早就 有 了

人工智能 最 开始 是 什么

时候 开始 的 这个 你们 前面 节目

没有 讲 吗 没有 啊 从来 我们

从来 没有 讲过 呀 人造 智能 这个 事 可以 说 从 上古 时期 就

有 了 上古 时期 了 啊 就

说 这里 边 就是 一说 又 扯开 了 咱们 这 节目 又 停 不了 了 你 比如说 诸葛亮 做 木牛流马 说 现代 人工智能 实际上 是 在 上 世纪 50 年代 我们 叫 达特茅斯 会议 上面 几个 一大堆 专家 一堆 大佬 们 学者 开了个 会 在 这个 时候 可以 定义 为 现代 人工智能 的 诞生 所以 说 从 上 世纪 50 年代 开始 很多 计算机 科学家 数学家 搞 认知 的 搞 语言学 的 等等 就 都 开始 在 想 办法 用 计算机 来 处理 自然语言 那么 那 时候 其实 就 开始 做 了 你 比如说 有 机器翻译 那 时候 实际上 就 开始 尝试 了 到 后来 比如说 有 这个 知识 工程 专家系统 等等 到 后来 李开复 那个 时代 呢 多多少少 还有 一些 这部分 的 影子 再 到 后来 咱们 知道 有 这个 大 数据 统计 方法 统计 机器 学习 逐渐 成熟 了 成熟 一些 了 以后 就 有 大量 的 这种 基于 统计 模型 的 这种 人工智能 和 自然语言 处理 的 方法 然后 到 最近 这些 年 就是 深度 学习 为 代表 的 一系列 的 模型 和 方法 处理 技术 所以 说 自然语言 处理 这门 学科 和 它 相关 的 技术 发展 实际上 是 和 人工智能 的

发展 一起 前进 的 从头 慢慢来 讲讲 就是说 最 开始 的 时候 自然语言 处理 是 怎么 做 的 呢 这个 问题

非常 好 你 比如说 咱们 现在 听众 也 可以 简单 想一想 假比 说 做 翻译 这件 事情 用 最 简单 的 最最 土 的 办法 可以 怎么 来 做 比如说 咱们 都 有 字典 对 吧 每个 词 对应 的 中文 什么 意思 英文 什么 意思 英汉字典 汉英字典 那么 是不是 就 拿 它 就 已经 可以 完成 一些 简单 的 翻译 任务 了 那么 有 了 词 以后 我 是不是 可以 概括 出来 一些 基本 的 语法 比如说 我 录音 Irecord 主动 主为 并 我 吃 我 吃 苹果 Ieatanapple 这里 比如说 苹果 我 翻译 到 英文 里边 我要 加 量词 对 吧 那么 量词 呢 这里 需要 有 你 要 区分 这个 a 和 an 的 区别 然后 呢 动词 我 需要 有 比如说 实态 语态 对 吧 那么 比如说 吃 我 翻译成 eat 吃 了 我 可以 翻译成 haveeaten 对 吧 那么 我 可以 定义出 一系列 的 规则 来 做 翻译 所以

这个 说 的 是 文本 到 文本 的 翻译 是 吧 就 通过 一个 简单 的 规则 把 它 映射 过去 把 它 变换 过去 那么 那个 时候 还 没有 语音 识别 和 语音 合成

这样 的 事情 对 最早 年 的 时候 呢 实际上 声音 处理 或者说 声音 的 信号处理 还 停留 在 以 信号处理 手段 为主 的 一系列 方法 上面 你 想 咱们 可能 如果 是 学 理工科 的 听众 朋友 们 大家 会 可能 在 本科 时候 都 学过 像 信号处理 像 快速 互联 电换 等等 一系列 的 技术 时域 频域 的 转换 等等 最早 的 时候 其实 是 停留 在 这个 阶段 那么 到 后来 其实 随之 发展 那么 在 时域 或者 在 频域 空间 里面 可以 捕捉到 这些 信号 上 的 一些 规律 只不过 人 可能 理解 的 起来 比较 抽象 可能 比如 先高 再 低 或者 哪个 频段 上 有 一些 什么 特征 他 就 对应 于 我 说 1 可能 再有 一些 什么 特征 对应 我 说 2 对 吧 那么 后面 就 有 一系列 的 方法 来 把 这些 特征 映射 到 我 实际 的 一个 文本 上面 那么 语音 识别 这个 事情 就 可以 完成 了 李开复 那个 时代 实际上 他会 有 大量 的

工作 是 做 这个 事情 我們 說 到 在 語音 上 可能 是 在 八 九十年代 開始 用 信號 處理 的 我 聽 上去 大概 這個 意思 最 初期 的 是 以 映射 關 係 為 主 的 機器 翻譯 這裡 面線索

非常 多到 後 來 實際 上 就 會 發現 我 光靠 寫 這些 規則 還不夠 為 什麼 呢? 我 遇到 很多 不同 的 场景 不同 的 知识 实际上 比如 一个 词 的 翻译 方法 是 不 一样 的 这里 有 很多 例子 了 你 比如说 最 常见 的 说 英文单词 这个 bank 你 可以 当做 河岸 来 理解 可以 当做 银行 来 理解 对 吧 那么 他 在 要 结合 他 整个 句 这句 话 前后 我们 叫 上下文 context 结合 他 前后 出现 的 词 出现 的 场景 来 决定 这个 词是 什么 意思 所以 这里 就 逐渐 的 需要 把 很 大量 的 知识 融入 进去 这个 时候 所以 就 出现 了 陆陆续续 知识 工程 这个 方面 很多 的 工作 包括 持续 到 今天 我们 所 听到 的 像 知识 图谱 等等 也 都 是 在 延续 这 一部分 的 工作 就是 如何 把 大量 人类 知识 融合 到

计算机系统 里面 来 这个 大概 是 什么

时候 的 事 这个 大概 应该 是从 人工智能 开始 以后 也 就 也 有 很多 学者 陆陆续续 在 做 这件 事情 当然 这里 边 的 实际上 有 一些 的 高潮 也 有 一部分 的 低谷 所以 从事 的 人 的 多少 和 技术 的 进展 的 速度 不太 一样 但是 总的来说 这部分 也 是 最早 开始 人们 就 开始 做 了 这 相当于 是 另外 一个 路线 对 另外 一些 事 吧 你们 可以 这么 理解 因为

这里 要 做 的 事太多 了 那 我们 说 的 这两点 都 是 还是 前 人工 叫 什么 前 机器 学习 时代 的 事情 那 后面 什么 时候 开始 进入 机器 学习 时代 了 呢

那么 实际上 为了 让 机器 学习 所谓 机器 学习 让 机器 自动 的 对 吧 从 一些 数据 当 中学 出 一些 有用 的 模型 有用 的 知识 那么 这时候 呢 就要 从 后边 说 所谓 统计 模型 产生 和 这个 发展 以后 进入 到 统计 机器 学习 时代 或者 我们 可以 叫做 以 特征 为主 的 这 一类 模型 和 技术 方法 上 那么 大概 意思 就是说 通过 人 我 先 总结 一系列 的 特征 这个 特征 就 可以 稍微 抽象 一点 了

什么 叫做 特征 呢 可以 举个 例子

吗 比如说 咱们 拿 情感 分析 这个 场景 吧 情感 分析 我们 叫 sentimentanalysis 情感 分析 也 是 自然语言 处理 当中 的 一大 研究 任务 简单 说 什么 意思 就是说 判断 这 一句 话 是 高兴 是 不 高兴 是 褒义 是

贬义 这个 我 看 好像 我 平时 是 有 接触 到 因为 大家 我 看到 有些 公司 会 做 分析 你 在 appstore 上面 大家 留言 然后 再 看 这些 留言 大概 意思 是 在 骂 你 的 app 还是 在 夸 你 的 app 这 算作 是 情感

对 这 都 算是 情感 分析 的 应用 场景 咱们 常用 的 像 appstore 像 各类 的 像 eo 美团 点评 这类 的 点评 类 网站 或者 像 国内 用 豆瓣 对 吧 这 一类 有 大量 的 用户 贡献 的 这些 地方 包括 像 推特像 微博 这 一类 的 社交 媒体 上面 都 会 用到 这 一类 的 技术 那么 我们 分析 人 说 的 是 高兴 还是 不 高兴 对 吧 那么 大家 表达 多少 举个 例子 有 一个 明星 对 吧 有 一个 事 了 有 多少 人 是 支持 他 的 有 多少 人 是 反对 他 的 都 可以 通过 情感 分析 技术 来 完成 那么 这 里面 说 回来 刚才 咱们 说 这个 所谓 特征 那么 如果 我们 定义 出来 一些 特征 就 可以 去 分析 人 的 微博 了 比如说 咱们 最 简单 来说 这 一句 话 里 或者说 这 一条 微博 上面 如果 出现 了 笑脸 那 他 就是说 的 高兴 所以 我 可以 定义 一个 特征 叫做 这 一条 微 博里 出现 没 出现 笑脸 或者说 出现 了 多少 笑脸 那么 光有 笑脸 肯定 不够 了 我们 还 可以 说

现在 这个 环境 上面 笑脸 已经 是

有 非常复杂 多数 的 句子 都 没有

笑脸 对 吧 对 多数 没有 这种 情感 符号 怎么办 呢 比如说 他 说 我 他 里边 出现 了 高兴 这个 词 就 可以 认为 是 一条 褒义 的 positive 微博光 出现 高兴 这 两个 字 还 不够 我 是不是 就 可以 创建 一个 一本 词典 就 叫做 情感 词典 里边 有 所有 的 这种 表达 情感 词 高兴 开心 喜欢 或者 是 难过 痛苦 等等 喜怒哀乐 各种 词 我 都 汇聚 在 里面 好 那么 我们 就 可以 说 统计 这 一句 话 里 出现 了 多少 个 褒义 的 词 出现 了 多少 个 贬义 的 词 都 可以 作为 我 的 feature 我 的 input 我 总结 好 这些 feature 以后 那么 所谓 这个 统计 模型 是 干什么 呢 就是说 我 不 一定 是 像 规则 时代 说好 如果 出现 褒义 的 词 比 贬义 的 词多 那么 就是 整体 是 褒义 的 对 吧 可能 是 我 定义 规则 的 时候 我 这么 写 了 但 如果 有 这个 统计 模型 的话 它会 有 比如说 给 你 赋予 一些 不同 的 权重 在 这些 不同 的 特征 上 通过 数据 的 训练 大 数据 的 训练 训练 出 一些 不同 的 权重 也 就 说 可能 是 2.9 个 这个 比 那个 大概 可能 是 相除 的 关系 或者 是 相乘 的 关系 或者 是 有 一个 什么 神经 复杂 神经网络 一些 复杂 的 运算 结果 出来 最后 有个 输出 是 它 是 褒义 的 还是 贬义 的 这 就是 统计 模型 的 作用 就 相当于 是

说 有 就是 大家 可以 说 还 不错 这 也 是 褒义 然后 但是 同时 又 说 烂透 了 这个 事 其实 是 非常 非常 负面 但是 你 会 发觉 一句 句子 又 有 一些 还 不错 的 一些 就是 表面 上 看上去 就是 比较 OK 的 一些 褒义 的 词 同时 又 有 一个 非常 负面 的 词 这时候 统计 模型 就 可以 帮 我们 解决 这些 问题 统计

模型 的 好处 是 在于 我 只用 人工 定义 出来 特征 以后 我 不 需要 定义 那个 规则 了 而 由 这个 模型 去 帮 我 发现 一些 隐含 的 规则 这是 统计 模型 的 一大 优势 所以 在 这个 时代 不管 是 咱们 说 做 机器翻译 做 情感 分析 做 很多 的 自然语言 处理 任务 包括 做 这个 语音 处理 语音 处理 也 是 在 这个 语音 识别 也 是 在 统计 时代 有 了 一大 飞跃 那么 都 是因为 这里 边 我们 不 需要 人工 定义 一些 明确 的

规则 了 就 相当于 是 我 不用 告诉 机器 说 糟透了 它 是 有 0 到 9 分 0 到 10 分它 是 10 分坏 我 不用 告诉 它 它 自己 可以 知道 说 糟透了

其实 是 坏 的 那 深度 学习 对于 自然 源 处理 带来 的 什么

变化 呢 实际上 刚才 讲 到 这儿 我 想 听众 朋友 们 已经 能够 想到 一个 问题 了 就是说 我要 定义 多少 种 的 特征 对 吧 有没有 情感 词 有没有 否定词 可能 这里 边有 一些 转折 词 但是 也 会 有 影响 对 不 对 那么 再 往后 可能 就是 我人 根本 想不到 的 一些 点 可能 它 隐含 着 对 我 最后 这句 话 的 处理结果 是 有

影响 的 你 真是太 聪明 了 对

这种 话 如果 我们 放在 一个 不同 的 语境 里 那么 实际上 它 可以 有 不同 的 解读 那么 所以 到 这时候 做 大量 的 特征 我们 叫 特征 工程 的 事情 这是 那个 年代 大家 去 做 featureengineering 绞尽脑汁 去 想 大量 的 特征 然后 去试 哪个 有效 哪个 没效 也 是 相当 耗费 精力 的 一件 事情 所以 再 往后 到 深度 学习 时代 可以 简单 的 理解 成为 他会用 深度 学习 的 模型 自动 的 去 捕捉 这些 特征 如果 听众 朋友 们 之前 听 了 咱们 前面 那 一期 讲 图像处理 的 节目 那么 里面 也 会 提到 这个 概念 就是说 你 可能 一张 图 里边 有 不同 的 边 有 不同 的 线条 对 吧 有 直线 有 折线 那么 实际上 煽动 学习 做 的 事情 他 不 需要 人去 定义 说好 有 四个 角 四条 边 就是 正方形 不 需要 人 定义 这个 事 了 那么 深度 模型 可以 去 挖掘出 特征 同样 对于 文本 也 如此 对于 语音 信号 也 如此 你 只要 把 数据 灌 给 它 它 自动 的 会 挖掘 出来 一些 隐含 的 特征 那么 最后 达到 一个 好 的 结果 那么 这就是说 深度 学习 它 的 模型 足够 的 深 我们 说 神经网络 层数 足够 的 多 那么 再 加上 现在 很多 新 的 一些 模型 的 设计 比如说 长短 记忆 LSTM 然后 包括 像 一些 注意力 的 机制 Attention 加上 后面 这些 像 Transformer 到 后面 Bert 这 一系列 的 处理 手段 相当于 机器 能够 挖掘 的 这种 隐含 的 意思 更 多 了 所以 最后 它 的 处理 效果 就 更好 那么 这里 边 我们 特别 需要 提醒 听众 朋友 们 是 说 文本 它 之所以 处理 比 图像 比 语音 都 要 难 因为 文字 的 这个 咱们 说 所谓 一个 字 或者 一个 字符 它 本身 就是 比较 抽象 的 一个 符号 了 对 吧 你 说 图像 里边 我 随便 改 几个 像素 可能 不 影响 整个 图片 的 意思 但是 文字 一句 话 里 你 稍微 改 几个 字 那 整个 这句 话 的 意思 就 完全 不 一样 所以 这 里面 就 需要 通过 机器 来 多 挖掘 每个 字 甚至 这个 字 后面 的 每个 音 或者说 某个 笔画 都 有 可能 影响 我 这句 话 的 一个

意思 畢竟 人類 跟 文字 玩來 玩 去 已 經有 這麼 幾 千年 的 歷史 包括 有諾 貝爾文學 獎裡面 這種 文學大師 不斷 在 拓寬 文字 表達 的 界線 我 覺得 計算機 碰到 這種 情況 也

挺頭 疼 的 這個 可能 剛好 回答 了 一個 我 剛想問 的 問題 我 也 問了 很多 嘉賓 的 問題 是 為 什麼 深度 學習 從 圖 像 處理 開始 要 过 了 很多年 才 给 自然语言 处理 带来 一个 本质 的 提升 看来 这个 是不是 问题 就 在于 他 的 输入 其实 已经 是 一个 很 抽象 的 概念 是 这样 的

自然语言 可以 说 是 由 人类 的 智慧 凝结 出来 的 一种 表达形式 所以 咱们 其实 现在 看 说 语音 处理 很多 时候 咱们 说 这个 语音 转 文本 这个 事 做 的 其实 在 多数 场景 下 已经 做 得 很 不错 了 对 吧 你 环境 OK 的话 语言表达 不错 据 我 了解 咱们 牛肉 果 烤面包 节目 也 在 运用 语音 识别 的 技术 来 把 我们 整个 对话 的 这个 音频 转 成 文本 转 成 字幕 方便 大家 去 閱讀 和 方便 搜索引擎 檢索 說 到 這兒 也 歡迎 更 多 的 聽眾 朋友 們 加入 志願者 來 一起 貢獻 這個 事 因為 什麼 呢 用 了 語音識別 技術 以後其實 大量 的 我們 這些 對 話 轉出 來 的 結果 已經 都 挺 不錯 的 了 所以 其實 這裡邊 人 需要 做 的 事情 不是 特別 多 了 我 发觉 这 一期

真的 是 不错 我 发觉 嘉宾 比 我们 还 勤奋 的 给 我们 节目 做广告 希望 我们 下次 以后 来 的 嘉宾 也 秉承 这样 的 优良传统 你

要 这么 说 以后 大家 都 不敢

来 了 谢谢 刚才 提到 这个 语音 文本 和 图像 之间 的 区别 我 在 想 是不是 原因 是 在于 其实 自然语言 处理 的 深度 学习 做 的 事情 其实 和 图像识别 的 深度 学习 做 的 事情 其实 还是 不同 阶段 的 事情 就 给 我 感觉 人们 对于 自然语言 处理 的 深度 学习 能 做到 的 事情 的 期待 相当于 是 说 能够 在 图像识别 里 我 给 你 一幅 毕加索 的 画 你 告诉 我 毕加索 想要 表达 什么 而 不仅仅 说 是 现在 的 用户 告诉 我 这 是 只 猫 就是 给 你 照片 说 这 是 猫 是 的

上 讲 的 这 一点 非常 关键 其实 从 我们 从业者 的 角度 来讲 我们 经常 会 接触 很多 不同 的 有 客户 也好 对 吧 有 朋友 也好 他们 都 会 问 说 感觉 上 图像处理 你 看 人脸识别 现在 做 多 好 啊 对 吧 能 从 成千上万 的 人 里边 找出 你 是 谁 然后 现在 还 能 做 美颜 等等 觉得 已经 有 非常 大 的 突破 语音 处理 也 不错呀 我 说 什么 很多 都 能 听得懂 但是 为什么 你们 做 文本 这块 这么 难 呢 其实 这 也 就是 刚才 上 所 讲 的 这里 任务 的 其实 这里 的 任务 的 阶段 其实 是 不 一样 的 你 如果说 我们 现在 做 这个 文本 我能 告诉 你 每个 词是 什么 意思 这 一点 也 能 做 的 相对 来讲 比较 好 了 但 如果 你 把 它 连 起来 而且 它 背后 的 意图 到底 是 什么 这 一点 还是 需要 从业者 们 包括 咱们 的 听众 朋友 们 继续 投身于 这个 事业 去 持续 攻克 的 一系列

的 任务 这 也 欢迎 做 图像识别 的 那些 从业者 们 说 到 自然语言 处理 他们 解决 这么 难 的 问题 是 吧 你们 也 可以 考虑 什么 时候 做 一个 艺术 分析 名画 鉴赏 器 做 出来 了解 作者 背后 想要

告诉 你 什么样 的 故事 我们 既然 都 已经 说 到 深度 学习 了 那么 肯定 必然 要 问 一个 问题 就是 前 两年 火到 全网 大家 全在 提 的 那个 词 叫做 BERTBERT 是

怎么回事 说 到 BERT 实际上 是 前 几年 Google 推出 的 一个 深度 的 模型 那么 它 这个 模型 一 推出 以后 在 很多 传统 的 自然语言 处理 任务 上 都 横扫 了 其他 传统 的 解决 方法 所以 基本上 也 成为 现在 大家 做 NLP 各种各样 任务 的 一个 先行 步骤 了 那么 这里 呢 其实 就 说 到 其实 是 跟 咱们 刚才 提 的 这 一系列 的 发展 历史 是 有关 的 就是说 深度 的 模型 可以 挖掘 文本 当中 很多 隐含 的 信息 但是 他 怎么 去 发现 这个 事 呢 这里 边 其实 可以 讲 自然语言 处理 传统 上 对于 计算机 的 处理 来讲 是 把 这 一句句 的话 或者 这个 段落 等等 一个 文档 等等 当做 一个 序列 来 处理 的 所谓 序列 就是 排成 一串 的 这个 字 或者 词对 吧 所以 他分 比如说 可以 有 在 字 级别 上 的 处理 字 网上 是 词 短语 句子 等等 段落 文章 等等 它 是 当做 序列 来 处理 的 那么 这里 要 提到 的 一个 特别 重要 的 概念 就 叫做 语言 模型 languagemodel 所谓 语言 模型 就是说 出现 一个 词 之后 出现 下 一个 词 的 概率 是 多少 这是 传统 上 语言 模型 的 定义 比如说 我 现在 说 一句 话 那么 我 说 到 这儿 to 我 后边 不 说 了 那么 大家 可能 想 我 说 到 这突 后边 那字 多半 情况 下 就是 个然 对 吧 我 说 这 突然 我 不 说 突破 也 有 可能 对 所以 突然 突破 可能 是 比较 大 的 两个 概念 但是 呢 可能 我 说 突然 后 我 说 个 苹果 我 说 个 这个 杯子 那 这个 概率 就 很小 对 不 对 这 就是 语言 模型 来 解决 的 任务 那么 现于 传统 的 模型 它 的 表达能力 包括 计算机 的 处理 能力 那么 很多 时候 我们 把 这 一个 序列 来讲 算 这个 词 的 时候 下 一个 词 我 只能 拿 前面 一个 词 或者 前面 几个 词来 处理 因为 太多 了 我算 不动 我 的 模型 支持 不够 了 那么 有 了 深度 模型 以后 他 就 可以 处理 的 更 多 其实 说实话 每 一个 词 他 到底 是 什么 对 吧 或者 他 的 意思 是 什么 可能 跟 你 整句话 前面 后面 都 有 影响 甚至于 跟 临近 的 句子 也 都 有 影响 所以 bert 这里 边 呢 特别 重要 的 就是 他 加入 了 一些 机制 他 比 之前 的 一些 甚至 比 之前 的 一些 深度 模型 的 模型 都 加入 了 一些 机制 就是 他 能够 处理 所谓 这种 全向 的 字词 之间 的 关系 比如说 我 这 一个 字 我 现在 说话 当中 的 一个 词 一个 字 可能 跟 我 这句 话 开始 的 有 一点点 的 关系 跟 我 结尾 的 某个 词 也 有 一部分 的 关系 但是 具体 有 多少 关系 呢 我 人 不 需要 去 定义 我 不 需要 去 干预 他 就 通过 他 的 大量 的 数据 去 训练 他 就 可以 学到 这种 隐含 的 关系 那么 BERT 里 加入 了 一些 机制 像 Transformer 包括 他 这个 所谓 注意力 注意力 就是说 我 更 集中 在 某个 地方 去 注意 所以 他会 更好 的 发现 这种 隐含 的 关系 这样 使得 我 最后 算 出来 的 结果 更准 那 就 相当于

是 我们 做 就是 高考 语文 卷子 的 时候 阅读 理解 让 他 一篇 文章 给 你 放 给 你 可以 全部 读完 之后 下面 有道 题目 说 哎 这 其中 的 某句 话 的 某个 字 到底 是 什么 意思 呀

是 的 是 的 这个 比喻 非常 好 咱们 做 阅读 理解 包括 英文 咱们 有 阅读 题 对 吧 那么 有 的 题目 可能 就是 简单 的 我 找到 这 一句 话 填 一个 事实 填 一个 里边 的 答案 就 可以 了 这 是 简单 的 提示 这么 做 的 复杂 的 题 我 那 时候 特别 头疼 就是说 这 篇文章 作者 的 中心思想 是 啥 这 是 我 非常 头疼 的 题目 那么 这些 实际上 就是 一些 隐含 的 一些 隐含 的 情绪 隐含 的 意图 在 里边 了 所以 深度 学习 它 的 擅长 就 在于 你 不 需要 人去 定义 说好 我 第一段 讲 了 这个 所以 他 说 那个 你 不 需要 人去 定义 了 他 可以 去 捕捉 整段 话 的 意思 一些 我 觉得 咱们 就 想象 一些 非常 抽象 的 一些 那种 感觉 就 好 了 他 能 捕捉到 那些 感觉 然后 给 你 最后 述出 一个 正确 答案 来 那 听

你 说来 Bert 有 了 之后 那么 计算机 已经 是 一个 高 考生 的 水平 他 已经 能够 做 阅读 理解 了 那 岂 不是 自然语言 处理 就 没有 什么 问题 了 吗 他 已经 到 了 一个 高 考生 去 做 语文 阅读 理解 这么 一个 水平 其实

前些年 有 很多 的 学者 都 开始 做 这件 事情 就 叫做 机器 阅读 理解 MachineReadingComprehension 对 那么 你 比如说 以 斯坦福大学 他们 的 叫 SCRAT 数据 级 评测 为 代表 现在 包括 国内 中文 也 有 很多 的 类似 于 数据 级 评测 任务 等等 是 做 阅读 理解 这件 事 他 的 目的 他 的 任务 就是 给 你 一篇 文章 简单 的 一个 百科 文章 或者 一个 段 我 提 一个 问题 跟 这个 段里 相关 的 一个 问题 然后 让 你 找 出来 这个 答案 是 什么 这个 机器 已经 做 的 这 已经 在 前些年 机器 包括 这个 BERT 模型 等等 已经 超过 人 的 阅读 力

的 水平 了 哇 那就是说 如果 用 这个 去 高考 作弊 那 应该 就是 可以 考个 状元 了 是 吧

但是 咱们 就 怕 这个 但是 为什么 呢 这里 的 任务 都 是 一些 简单 的 事实上 的 事实 型 的 问题 和 答案 就是说 这里 提到 的 一些 里边 指出 的 一个 什么 什么 事是 在 什么 什么 地方 通过 这个 可以 答 你 如果 真去 做 推理 做 一些 复杂 的 指代 等等 这些 东西 机器 现在 还 做 不到 所以 说

就是说 机器 可以 考 GRE 考 不了

高考 语文

这里 其实 就 说 到 像 现在 自然语言 处理 仍然 是 很 有 挑战 的 一个 研究 领域 就是说 到底 人 是 怎么 来 理解 这 一段话 的 或者说 你 问 我 一句 问题 我 怎么 来 理解 这个 事情 我 怎么 来 回答 这里 还是 有 很多 可以 做 的 东西 那么 现在 很多 比较 有 前瞻性 的 学者 们 都 在 研究 比如说 在 下一代 人工智能 不光 是 自然语言 理解 了 就是 它 跟 人 的 认知 其实 是 有 关系 的 就是说 我们 到 现在 科学 上 还 没有 真正 闹 明白 整个 人 的 认知 是 怎么 个 过程 那么 如果 我们 用 现在 这个 方法 我们 当然 说 从 深度 学习 这个 发展 来看 我们 已经 迈上 了 一个 很大 的 台阶 但 对于 一个 真正 的 咱们 看 科幻电影 里 的 那种 一个 人 一个 机器人 能够 跟 人 自然 的 自然 的 去 对话 呢 还有 很大 的 距离 这是 一块 然后 像 比如说 深度 学习 的 模型 他 最后 算 出个 结果 但是 为什么 算 出 这个 结果 啊 比如说 我 这段 答案 我算 出来 说 ok 这个 答案 阅读 理解 的 这个 答案 出现 在 第二句 的 最后 几个 词 为什么 在 这 为什么 第三句 的 那 几个 词 就 不是 了 比如 同样 可能 这 几句话 里 有 一些 干扰 项 对 吧 为什么 这个 能算 的 对 下 一个 那个 就 被 干扰 项 干扰 了 你 光靠 这 一个 模型 是 搞不定 的 这里 边 也许 也 是 有 很多 需要 探索 的 地方 就

相当于 是 现在 深度 学习 做 阅读 理解 只能 做 考生 不能 做 老师 别人 问 你 为什么 选 这个 我 这个 也 不 太 知道 实际上 大家

可以 关注 各种 社交 媒体 上 比如 微博上 有 很多 我们 这些 学者 他会用 一个 标签 叫做 自然语言 理解 自然语言 处理 太难 了 大家 去 搜 一下 有 各种各样 的 例子 各种各样 的 段子 你们

这种 学者 在 那边 平时 研究 之余 在 那边 吐槽 抱怨 的 专用 的

话题 专用 的 话题 对 那么 实际上 大家 看一看 都 是 人 生活 当中 遇到 的 各种各样 的 现象 但是 机器 暂时 还 处理 不了 的 一些 典故 我 这 其实 咱们 今天 节目 就 不 去 多 讲 例子 了 这个 大家 搜一 搜 其实 有 很多 类似

的 我 经常 看见 什么 马 老师 刘老师 他们 在 这发 的 这些 段子 我 就 觉得 这个 不是 自然语言 处理 太难 我 也 看不懂 对 所以 这里

边 需要 你 有 很多 背后 的 知识 我们 叫 背景 知识 对 吧 你 生活 在 比如说 你 生活 在 美国 有 当地 的 一些 背景 的 知识 使得 你 能够 理解 很多 的 你 像 你 看 美剧 里面 的 很多 背景 的 那些 所谓 梗 或者 那些 段子 对 吧 你 能 理解 你 生活 在 中国 的 环境 里 也 有 中国 很多 背景 的 知识 那么 比如说 你 作为 一个 不同 时代 的 人 又 有 不同 时代 的 一些 表述 方法 所以 这 都 是 会 影响 到 及其 处理 自然语言 的 可以 说 是 一个个 的 难点 所以

我们 的 听众 如果 没有 看到 过 那些 自然语言 太难 了 就 可以 去 微博上 搜索 景号 自然语言 处理 太难 了 景号 就 可以 看到 各种各样 的 段子 崔 博士 最 喜欢 的 段子 是

哪个 呢 我 经常 会 给 人举 的 例子 呢 是 这么 个 例子 比如说 我 问 比如 我 问 司徒 你 有没有 上 的 手机号 啊 你 说 我 有 可以 告诉 我 吗 可以 单纯 看着 两句话 的 解答 其实 没 毛病 对 吧 我 问 一个 一般 的 疑问句 你 有没有 我 有 我解 回答 了 你 的 问题 挺 好 的 但是 日常 当中 你 说 谁 是 对 吧 对 但是 如果

你 比如说 你 男女朋友 之间 女朋友 问 问题 男朋友 这么 回答 直接 被 抽

死 对 对 这里 有 很多 情感 的 因素 在 里面 对 吧 这个 话术 的 因素 在 里面 對 啊 女朋友 發一個 啊 我 不 生氣 你 說 她 生氣 了 她 生氣 了 還是 沒生氣 對 吧 所以 這裡面 都

是 她 自己 也 不 知道 啊

就是 說 這是 我 比 較 喜 歡舉 例子 的 一些 想段 這個 聽

上去 確實 非常 的 難 啊 有 的 時候 我們 人類 也經 常有 誤會 對 吧 我們 以 為 是 什麼 意思 其實 是 一個 別 的 意思

那麼 說 到 這兒 呢 其實 雖然 它 很 難 但是 可以 說 近些年 的 这些 比如说 像 统计 机器 学习 深度 机器 学习 所 带来 的 一系列 的 飞跃 其实 已经 带给 我们 很多 生活 当中 带来 的 变化 你 就 像 刚才 说 我 说 这个 你 可以 告诉 我 吗 对 吧 类似 于 这种 的 问题 咱们 可以 想象 像 我们 因为 我们 公司 做 一些 解决方案 的 时候 我们 会 接触 一些 比如 电商 的 客服 这个 咱们 这个 买 东西 之后 的 客服 那么 有 的 客服 质量 比较 有 的 客服 服务 比较 热情 比较 好 你 问 他 说 我 这 东西 有 什么 型号 怎么 用 啊 他 如果 是 一个 比较 好 的 客服 呢 他 会 给 你 前前后后 把 整个 一个 产品 怎么 使用 有 什么 问题 需要 注意 什么 等等 都 会 推荐 给 你 如果 是 一个 非言 了 事 的 客服 他 就 说 这个 是 这么回事 你 自己 琢磨 去 吧 这个 意思 他 就 不 给 你 多 说 了 所以 这个 事情 其实 虽然 刚才 我举 的 是 个 例子 但是 在 实际 当中 在 我们 包括 做 解决方案 做 商业化 落地 的 时候 也 都 是 会 遇到 的 问题 但是 不管 怎么样 的 大家 现在 其实 我 觉得 特别 是 中国 的 很多 电商 平台 都 已经 用 上 了 机器人 客服 他 能够 说实话 他 能够 解决 掉 相当 一部分 相当 一部分 简单 的 问询 你 比如说 我 就 刚 我 买个 东西 我过 两天 我 说 我 那个 东西 寄到 哪 了 直接 这个 机器人 他 就 可以 理解 这句 话 然后 从 他 系统 里边 调 出来 物流 情况 直接 推给 你 就 可以 了 并不需要 一个 接 一个 人工 客服 再 去 操作 再 去 点 回复 你 一个 结果 这样 其实 可以 大大的 提高 它 的 处理 效率 我 在 加拿大 生活 期间 也 是 遇到 很多 的 咱们 这些 行业 我 想 两位 嘉宾 也 可以 补充 如果 是 人工 客服 你 往往 要 等 半天 这个 电话 接 进去 然后 再 去 操作 其实 效率 还是 蛮 低 的 确实

是 这样 尤其 是 AT&T 的 客服 是 吧 一打 就是 一个半 小时 我们

不能 说 这种 话 到时候 说不定 要

成为 我们 的 赞助商 我们 没有 赞助商 我们 没有 任何 赞助商 我们 需要 郑重声明 有些 节目 听 上去 是 有 赞助 的 但是 我们 没有 任何 赞助

那 我 看来 就是说 相当于 现在 的 自然人 处理 在 客服 这件 事情 上 相当于 是 说 他 已经 能够 做到 一个 差 客服 的 水平 了 但是 到达 好 客服 还是 任重 而 道 是

的 所以 从 其实 从 我们 从业者 或者说 我 现在 毕竟 是 在 创业 公司 工作 那么 咱们 跳开 说 一个 做 一个 技术 研究 人员 的 角度 来 说话 那么 实际上 我们 可以 基于 现在 的 这 一部分 技术水平 已经 可以 做 很多 任务 了 你 比如 刚才 我 的 意思 是 说 他 可以 作为 一个 初级 的 客服 一个 前台 客服 来 帮 大家 解决 很多 简单 的 问题 对 吧 真正 有 疑难杂症 了 有些 复杂 的 问题 了 再 去 转 人工 这 也 是 现在 很多 企业 的 一些 处理 當然 我 也 知道 很多 人會 吐 槽 現在 這個 機器 人 客服 不夠 聰明 對 吧 我 想 这里 其实 最 主要 的 原因 就是 因为 这些 商家 没有

用 我们 公司 的 产品 我 觉得 对 我 现在 觉得 我 在 没有 使用 过贵 公司 的 产品 所以 我 觉得 所有 的 电子 客铺 的 目的 就是 为了 让 我 不要 转 人工 就是 把 我 绕 进去 转 不到

人工 关键 是 他们 没有 用到 好

的 技术 关键 是 他们 没有 用到 我们 这个 国研 RSVP. AI

的 技术 谢谢 谢谢 我 觉得 给

各位 听众 可以 提个 建议 下次 你 去 打 客服 的 时候 他们 机器 的 服务 特别 烂 的 时候 你 可以 跟 他们 人工 客服 说 推荐

你们 公司 使用 我 还 以为 你 要说 你 要 跟 他们 机器 说 欢迎 使用 RSVP 的 AI 的 机器

谢谢 主持人 咱们 开个 玩笑 其实 就是说 现在 呢 其实 不管 是 中国 还是 美国 还是 世界 吧 做 类似 的 这个 不管 是 创业 公司 的 还是 大 公司 等等 做 类似 事情 的 人 都 非常 多 所以 呢 所有 我们 这些 从业者 都 在 用 技术 来 试图 改变 大家 的 生活 那么 刚才 只是 举到 了 一个 简单 的 克服 场景 的 一个 例子 那么 其实 还有 很多 类似 的 场景 你 比如说 嗯 这个 你 比如说 像 我们 做 文本 分析 常 文本 分析 我们 给 企业 去 做 的 时候 大家 经常 需要 涉及 到 一些 比如说 长篇 的 合同 一些 规章制度 等等 那么 机器 其实 都 是 可以 去 帮助 来 分析 比如说 这 合同 里 的 一些 关键 要素 是不是 齐全 对 吧 那么 这里 写 的 有没有 一些 违规 的 地方 比如说 咱们 如果 这套 系统 将来 用 在 咱们 消费者 那 比如说 我 一个 比较 好 的 场景 是 什么 呢 我 作为 一个 比如说 我 出去 租房 对 吧 我 签 这个 租房 合同 的 时候 我 可以 由 一个 机器 来 帮 我 审核 这 里面 说 的 若干点 若干 关键 的 条文 有没有 问题 对 吧 是不是 能够 保障 我 的 权益 那么 传统 上 很多 律师 做 的 简单 的 工作 就 可以 由 机器 来 完成 那 当然 复杂 的 一些 这里 边 的 一些 坑 啊 一些 这个 专业 的 表述 肯定 还是 要 由 律师 来 做 的 但是 也 简单 的 东西 我 就 做 个 比 对 比如说 这家 租房 agent 租房 公司 他 提供 的 是不是 符合 政府 指导 的 这个 租房 合同 模板 对 吧 我 做 一个 简单 的 比 对 总是 可以 的 就 这 就 比 我 人工 我 再 去 一行 一行 去 看 那樣 節省 我 的 時間 對 吧 所以 這也 是 其實 可以 做 的 一件 事

我 覺得 這個 非常 重要 每次 我 上 什麼網 站 註 冊 呀 或者 什麼 裝軟件 的 時候 都 有 很大 很大 的 用戶 條例 對 呀 用戶 條例 誰 看過 這我 沒關 係 我 就 交給 AI 看 一下 跟 我 說 有 沒 有 有 問題 的 條款 有 問題 的 條款 告訴 我 是 哪 一條 沒 有 我 就點 了 有 了 你 就給 我 看

一眼 甚至 自然语言 处理 你 也 不用 这么 做 的 精确 比如说 你 觉得 三段 地方 有 问题 你 把 它 给 亮 出来 让 我 自己 读 一下 这样的话 我 也 不用 全部 20

多页 全部 自己 看 对 呀 这页 有 问题 这 也 可以 收集 你 的 什么 什么 数据 哇塞 哇塞 不 注册 非常 的 有用 对 对 这

也 是 一个 比较 好 的 场景 所以 其实 类似 的 场景 非常 多 如果 咱们 有 时间 我 接着 再 讲 一 讲 比如说 我们 现在 还 在 做 的 一项 技术 就是说 简历 的 识别 我 想 大家 咱们 听众 朋友 们 也 听 了 之前 几期 牛肉 锅 烤面包 里边 会 讲 到 比如说 职业 发展 对 吧 包括 硅谷 湾区 等等 互联网 公司 等等 一些 情况 那么 大家 将来 投 简历 找 工作 肯定 是 不可避免 的 那么 这里 边 其实 我 的 简历 能 不能 那么 这 里面 其实 我 想 说 的 是 作为 一个 招聘 公司 一个 猎头公司 或者 大 企业 的 人力资源部 门 它 可以 用 一些 简历 识别 的 技术 自动 的 把 你 简历 里面 这些 人 名字 你 的 教育 背景 你 的 工作 经历 相关 的 联系方式 抽取 出来 那么 灌到 他 的 系统 里边 我 现在 其实 已经 有 一些 公司 这么 在 做 了 因为 每个 人 的 简历 其实 模板 都 不 一样 每个 人 的 模板 都 不 一样 百花齐放 但是 人 看 为什么 能看懂 因为 你 里边 这 几个 块 都 是 在 那 的 比如说 名字 对 吧 你 的 教育 经历 你 的 工作 的 过程 这个 一系列 的 过程 这 几个 大块 都 在 呢 所以 机器 做 这方面 是 没有 问题 的 我们 可以 把 这 里面 的 相关 信息 筛选 出来 让 你 这个 候选人 可以 更好 的 匹配 到 公司 所 需要 的 岗位 上面 去 这 也 是 可以 节约 大量 的 人力 成本 的

一个 地方 你 说 到 招聘 其实 让 我 想 起来 我 之前 听 另外 一个 朋友 跟 我 介绍 他 的 项目 是 也 是 一个 跟 招聘 相关 的 他们 就 会 有 企业 公布 他们 的 招聘 的 要求 然后 他们 会 收到 很多 电话 然后 他们 做 的 事情 就是 会 问 那些 应聘者 几个 问题 说 你 有没有 类似 之前 的 工作 或者说 你 有没有 什么 大学 的 文凭 这些 比较 基本 的 问题 其实 那个 自然 源 处理 都 能够 处理 掉 同时 可以 帮 他们 筛选 掉 可能 至少 一半 以上 的 来 电话 的 人 你 说

以后 电话 面试 就是 在 机器 在 面试 了 吗 我 觉得 这 听 上去 很 可怕 的 事 啊 就是

我们 可能 跟 客服 一样 他 先 问 你 几个 基本 的 问题 然后 最后 再 转接 到 人工 去 对

上 说 的 非常 好 现在 其实 已经 有 公司 在 做 这个 事 了 就是 作为 一个 初筛 嘛 对 吧 咱们 很多 公司 都 有 初筛 这个 环节 如果 初筛 通过 了 我 帮 你 约 一下 面试 时间 这 其实 都 不 需要 人来 做 对 吧 都 可以 由 机器 完成 非常

的 非常 的 有用 对 那么 我

想 再 比如说 那么 我想 再举 一个 例子 咱们 可能 能 用到 海外 产品 的 朋友 们 已经 会 体会 到 比如说 用 Gmail 大家 现在 看 它 里边 有 一些 比如说 智能 回复 或者 是 智能 提醒 我 这 两天 回 一些 邮件 当然 是 英文 邮件 了 我 打 一个 词 他 就 可以 提示 后面 一个 词 都 是 自然语言

处理 技术 来 做 的 说起 Gmail 我 最近 我 这些 年 觉得 很 可怕 的 一件 事情 我 那些 信 里面 说 我 的 机票 旅馆 订单 都 被 Gmail 给 识别 出来 然后 还 给我发 提醒 还 在 地图 上 给 我 标注 我 觉得 哇塞 多么 可怕 的 一件 事情 我 觉得 比较

可怕 的 事情 就是 当 我 回复 一封 奇妙 的 时候 就 像 刚才 说 的 就是 我刚 写 完 一个 字 爱 他 开始 就 开始 自动 补完 后面 的话 了 我 觉得 挺准 的 我 就 一直 按 taptaptaptap 就 用 他 的 东西 然后 回复 完 之后 就 仔细 一想 就是 要 我

何用 我 印象 中 在 十几年 的 时候 十几年 前 的 时候 好像 那个 时候 我 在 微软 的 时候 有 一个 大佬 在 说 这个 未来 的 愿景 他 就 说 我们 想 我们 要 想 很多 我们 无法 想象 的 事情 比如说 啊 现在 我们 都 想 收 邮件 我们 会 不会 这样 我们 第二 我 每 每天 早上 起床 之后 会 有 一个 语音 助手 跟 你 说 啊 你 你 收到 了 尚 和 崔 博士 的 来信 尚 要 什么 怎么 怎么样 我 替 你 回复 说 同意 了 然后 他 说 这话 之后 全场 哄堂大笑 因为 那个 时候 还是 10 年 大家 认为 这件 事情 根本 就 无法 想象 的 事情 但是 他 说 这些 事情 是 他 认真 的 但是 你 如果 十多年 后 再 想 这句 话 的话 你 会 觉得 这件 事情 也 可能 已经 不 那么 遥远

了 对 吧 说不定 再 过 一个月 吉庙 推出 一个 新 功能 他 就 用 自动 补完 的 技术 帮 你 把 一封 邮件 从头到尾 全部 都 写

完 发给你 这里 其实 可以 绕 回到 咱们 刚才 没聊 完 的 话题 就是 拼音输入 法 拼音输入 法 包括 英文 输入法 都 是 基于 就是说 在 后来 这个 时代 都 是 基于 你 之前 打 的 一系列 的 字 来 预测 你 下 一个 字 或者 下 一个 词是 什么 这 就是 咱们 刚才 讲 语言 模型 基于 前面 预测 后面 然后 什么 深度 模型 等等 这些 所 完成 的 事情 所以 从 输入法 这个 层面 大家 可能 已经 体会 到 了 我 现在

输入法 越来越 智能 确实 我 觉得 输入法 可能 是 越来越 越来越 智能 不光 是 中文 输入法 啊 包括 英语 输入 时候 的 英语 补全 啊 自动 提示 啊 我 觉得 都 还是 在 有 很大 的 提升 有 的 时候 我 觉得 他 也 是 过于自信 啊 有 的 时候 我 打 的 是 对 的 他 就 给 我 认为 我 是 打 的 是 别的 都 给 我

更正 了 啊 对 这里 其实 就是 他 这个 模型 算 的 好不好 对 吧 或者说 你 说 的话 可能 不是 大部分 人 所说 的 那样 那么 他 自然 预测 的 就 不准 了 所以 从 这个 话题 呢 就 可以 再往 下 说 到 比如说 搜索引擎 咱们 大家 也 会 看到 很多 像 什么 typehead 这个 各种各样 的 技术 在 搜索引擎 里 也 都 可以 完成 了 所以 就是说 你 从 一个 小 的 输入法 到 网大 的 说 咱们 邮件 里 的 内容 的 回复 到 搜索引擎 里 我 一个 查询 词 的 预测 就是 我 查询 词 或 查询 一句 话 的 时候 预测 其实 都 是 NLP 发展 的 一个 过程 我 想 这个 可能 咱们 这些 不管 是 搞 IT 的 还是 其他 朋友 们 都 已经 体会 到 了 这 一个 一个 的 变化

这 感觉 就 像是 跟 一个 秘书 一样 就是 比较 差 的 秘书 你 要 原本 原模 原样 的 把 你 要 的 东西 给 他 说好 然后 现在 有 一个 非常 贴心 的 秘书 跟 了 你 十几年 这时候 你 基本上 给 他 十个 眼神 他 就 大概 能够 知道 你 要 的 是 什么

对 对 上去 这个 例子 非常 的 形象 所以 我们 为什么 我们 公司 也 说 想 去 帮助 企业 做 自己 的 这个 做 企业 的 AI 助手 呢 也 是从 这个 角度 出发 就是说 我们 这个 助手 啊 我们 这个 技术 用 在 一个 企业 环境 里 对 吧 那么 逐渐 的 通过 你 企业 里 大量 的 训练 对 吧 这个 这个 过程 其实 就是 训练 对 吧 你 训练 人 也 是 训练 训练 机器 也 是 训练 训练 模型 也 是 训练 那么 逐渐 的 可以 更好 地 帮助 企业 完成 很多 的 任务 很多 的 事情 那么 我 再举 几个 例子 方便 我 再举 几个 例子 方便 剪辑 NLP 自然语言 处理 还 可以 做 其他 的 一些 应用 场景 的 任务 比如说 像 新闻 和 内容 的 推荐 这 也 是 一个 比较 重要 的 NLP 应用 场景 大家 现在 咱们 看 特别 是 有 一些 像 抖 音像 各种 的 这种 小视频 的 网站 包括 像 微博 这类 的 社交 媒体 网站 它 因为 现在 的 问题 是 在于 信息 太多 了 你 看 不 过来 所以 必须 要 有 算法 来 帮助 推荐 给 用户 你 所 想 的 感兴趣 的 话题 和 你 想 看到 的 内容 那么 这里 边 就 需要 分析 啊 这里 边 的 内容 到底 是 什么 你 像 文本 类 的 网站 啊 社交 媒体 他 就 需要 文本 的 处理 技术 啊 自然语言 处理 技术 来 分析 这里 边 的 内容 啊 如果 是 一些 视频 网站 那么 就 需要 一些 视频 分析 的 技术 那么 从 视频 分析 出来 一些 关键 的 内容 对 吧 然后 再 从 内容 去 做 算法 做 推荐 那么 最终 呈现 给 用户 你 最 想 看 或者说 猜测 你 最 想 看 的 内容 这 也 是 一个 比较 有 发展 的 方向 让 我 想

起来 刚才 你 提到 这些 推荐 系统 我 觉得 体会 还 挺 深刻 的 我 记得 以前 可能 技术 还 没有 那么 发达 的 时候 你 看 完 一篇 文章 他 可能 会 推荐 给 你 同一个 作者 写 的 其他 的 文章 就 到 这 一步 就 为止 了 但 我 之前 在 用 头条 的 时候 就 还 蛮 被 惊艳 到 就 相当于 是 我 先点 开 一篇 文章 它 是 讲 电子游戏 的 然后 他 后来 就 给 我 推荐 了 一个 游戏 叫做 人王 它 也 是 另外 一个 电子游戏 然后 推荐 完 这个 东西 我读 了 这 篇文章 了 之后 他 知道 我 在 玩 这个 游戏 然后 他 开始 给 我 推荐 日本 战国时期 历史 的 文章 它 不是 电子游戏 但是 他 通过 这些 文本 分析 意识 到 这个 游戏 的 背景 是 发生 在 日本 战国时期 的 然后 再 通过 这边 开始 给 我 触类旁通 的 推荐 很多 其实 并 没有 直接 跟 那个 内容 相关 的 东西 上 居然

看 头条 我 对 上 有 了 重新 的 认识 我 跟 你 说

头条 这种 东西 是 属于 你 闭 着 眼睛 强迫 自己 用 一个月 然后 他 就 会 变得 非常 了解 你 开始 给 你 推荐 非常 相关 的 文章 之前 一 开始 的 时候 打开 来 你 都 是 知道 的 你

懂 的 是 这样 的 所以 大家 可以 看到 NLP 技术 已经 给 给 我们 带来 了 很多 新 的 功能 新 的 产品 以及 新 的 体验 对 吧 就是说 这种 东西 其实 在 过去 是 完全 不可 想象 的 这 也 是 为什么 现在 这个 时代 像 头条 抖音 这 一类 公司 也 非常 的 火 这个 也 是 说 有 了 这个 技术 的 催生 以后 他们 捕捉到 好 的 商业模式 以后 可以 就是 真正 可以 给 大家 带来 很多 翻天覆地

的 变化 哎 我 觉得 这些 说 的 都 非常 的 直观 啊 你 说 包括 像 无论是 做 搜索引擎 的 还是 做 内容 推荐 的 这些 读懂 里面 内容 是 什么 意思 这 都 是 他们 的 非常 核心 的 一个 技术 吧 我 觉得 可能 放在 十年 前 可能 大家 不可 想象 我们 要 读懂 一个 里面 的 内容 但是 现在 可能 就 会 变成 了 标配 了

对 吧 那麼 說 到 讀 懂 這個 呢 可以 增加 一個題 外話 有 一個 比較 經典 的 思想 實驗 叫做 中文 屋子 問題 這也 是 人工智能 很多 學者 或者 什麼 都 會 提到 的 就是 說 到底 什麼 叫 讀 懂 你 像 剛才 咱們 講到 這些 媒體 啊 他 推薦 了 一些 我 感兴趣 的 文章 叫做 读懂 如果 是 咱们 做 考试 不管 是 考 GRE 考 高考 考 阅读 理解 我能 把 那些 选项 填对 了 认为 是 读懂 对 吧 但是 就算 我 阅读 理解 我 拿 了 满分 你 可以 就 说 我 真的 读懂 了 这 篇文章 吗 也 未必 所以 这个 中文 屋子 的 思想 实验 是 什么 意思 呢 当然 他 是因为 是 这个 讲 英语 的 人 提 的 所以 他 说 中文 是 对 他 不 懂 所以 对于 咱们 这些 听众 来讲 咱们 可以 说 一个 比如说 一个 法语 啊 一个 西班牙语 啊 或者 或者 是 甚至于 就 一些 更 啊 更 小 的 语言 咱们 不 懂 的 一些 语言 那么 好 呃 我 把 就是 比如说 想象 啊 我 把 你 关到 一个 屋子里 然后 呢 我 给 你 一本 给 你 一个 手册 就是 告诉 你 处理 的 顺序 是 什么 相当于 给 你 一个 程序 吧 一个 程序 手册 那么 我会 给 你 一份 比如说 这个 奇怪 的 比如说 法语 的 一个 阅读 理解 试卷 你 其实 看不懂 对 吧 那么 看不懂 没关系 你 按照 我 这个 步骤 我 这个 手册 上面 比如说 先 把 第一个 字符 跟 第二个 字符 相加 或者 是 把 第三句 话 找 第五句 话 什么 什么 给 你 一系列 的 这种 机械式 的 执行 过程 你 按照 我 这个 东西 算下来 你 最后 就 可以 算 出 一个 结果 你 就 把 那 A 填上去 把 B 填上去 就 完 了 如果 我 给 你 一本 非常 强大 的 手册 你 照着 这个 说明书 一步 一步 做 下来 把 卷子 一交 从 外 在 外界 人 看来 你 这里 边 这个 屋子 里边 坐 着 的 是 一个 懂 法语 的 人 所以 他 答对 了 可是 你 拿 的 是 这么 一个 手册 你 真的 读懂 了 吗 这里 边 的 核心 就 在于 说 我们 怎么 来 認為 是 讀 懂 和 沒 有 讀 懂 這件 事情 對 吧 這又 回到 剛才 咱們 說 很 難 的 哲學

問題 了 這個 進入 哲學 層面 了

當然 我 覺得 人 跟 那個 不 一樣 的 時候 是 比如 說別 人 跟 你 說 蘋果 的 時候 你 不僅 你 會 回答 跟 蘋果 相關 的 語言同 時 你 還會 出力 旁通 的 想到 那個 形狀 你 會 開始 流口水 這些 東西 證明 了 你 看相

當於是 理解 不过 你 要 这样 说 的话 就是 我们 人类 有 的 时候 我们 认为 我们 懂 了 东西 我们 真的 懂吗 我们 人类 的 懂 又 是 什么 一个 概念 呢 这 真的 到 了 哲学 层次 可能 就是 非常 非常 深入 了 我 觉得 我们 就 不用 继续 讨论 了 我 觉得 是

的 是 的 所以 我们 作为 从业者 来说 我们 能 做 的 就是说 把 在 一个 现在 很多 这个 场景 下面 对 吧 帮助 大家 解决 现在 存在 的 很多 问题 完成 我们 很多 的 任务 其实 就 已经 能够 给 大家 带来 很多 生活 上 的 改善 和 效率 上 的 提升 了 我们 说

了 这么 多 的 应用 还有 什么

主要 的 应用 吗 其他 的 应用 有 一些 比如 像 提到 的 商品 的 评论 电影 评论 书评 等等 这是 一类 还有 一类 是 我们 叫做 机器 写作 如果 有些 听众 朋友 们 关注 前些年 的 新闻 可能 会 看到 有些 美国 的 媒体 已经 开始 尝试 用 机器 来 创作 新闻 了 创作 一些 简单 的 新闻 你 比如说 一场 体育比赛 体育比赛 这种 新闻 其实 它 是 有 套路 的 无非 就是 时间 地点 对 吧 然后 经过 等等 谁 先 投 了 个 球进 没进 对 吧 然后 下半场 有 什么 情况 把 这 几个 关键点 其实 你 捕捉到 以后 机器 就 可以 生成 出来 一篇 自然语言 写作 的

我 经常 吐槽 说 新浪 体育 的 标题 我 都 可以 猜出来 就是说 梅西 如果 一场 进 了 两个 球 就是 梅西 两球 巴萨 取胜 黄马 如果 梅西进 了 个 球 助攻 一个 就是 梅西 传设 什么 如果 要是 梅西进 了 一个 球 下半场 进 就是 梅西 绝杀 什么 巴萨 怎么 怎么样 如果 梅西 没有 进球 就是说 梅西 雅虎 巴萨 怎么 怎么着 我 就 可以 写 出来 说不定 人家 已经

偷偷 开始 使用 自然语言 处理 的 技术

我 觉得 还 真的 有 可能 因为 这个 我 也 能 写 出来 对

所以 这 其实 就是说 你 知识 位 能 观察出来 比较 明显 的 现象 说明 他 的 可能 规则 库 比较简单 对 不 对 他 考 一个 规则 对 吧 就是 你 刚才 讲 的 这个 规则 就 可以 生成 出来 一些 新闻标题 那么 如果 再 智能 一点 可能 我 增加 一些 不同 的 表述 可以 让 题目 看起来 更 丰富 一些 这个 领域 我们 叫做 自然语言 生成 NaturalLanguageGeneration 除了 可以 写 新闻 应用 比较 多 的 还有 写 商品 的 描述 就是 在 电商 平台 上面 很多 的 描述 可以 用 机器 来 生成 比如说 这是 一个 卖 衣服 的 卖 包 的 对 吧 它 的 款式 它 的 颜色 它 的 定价 等等 它 的 一些 特点 我 只要 告诉 他 一些 简单 的 词 或者 一些 简单 的 参数 他 就 可以 给 我 生成 出来 一个 这 一件 非常 精美 的 上衣 非常适合 于 你 在 什么 场合 穿 等等 一系列 的 自然语言 描述 让 你 看起来 比较 好 这 就 不 需要 人工

再 去 写 了 我 在 想 一个 非常 有意思 的 一点 就是 大家 会 发觉 现在 人工智能 很 好 的 一点 是 在于 可以 做到 很 好 的 个性化 就是 千人 千面 看到 的 东西 都 是 不 一样 我 在 想 如果 开始 用人 自然语言 处理 去 写 商品 评论 的话 如果 可以 收集 到 一些 观看 者 的 数据 就 比如说 他会 发觉 比如 像 我们 是 科技 从业者 所以 当 我们 看 一个 电子产品 的 时候 他们 就会用 一些 比较 专业 的 语言 跟 你 说 它 的 像素 是 怎么样 它 的 处理器 是 怎么样 但 同时 如果 看 的 人 是 一个 普通 的 对于 电子 领域 不 了解 的 人 他 就 跟 你 说 啊 这 东西 很快 然后 他 的 他 的 让 你 看上去 画面 会 比较 清晰 颜色 比较 生动 会 用 不同 的 语言 去 讲述 同样 理解 这个 听 上去 很

可怕 就是说 现在 你 打开 纽约时报 每个 人 看 的 文章 是 一样 的 以后 打开 纽约时报 每个 人 看到 那个 字 都 是 不 一样 的 这个 听 上去 很 可怕 的 一件 事情

刚才 上 讲 的 这个 场景 非常 好 非常 诱人 这 也 是 现在 这个 研究者 们 所 做 的 一个 比较 热门 的 这 也 是 现在 从业者 们 这 也 是 现在 研究者 们 所 做 的 一个 比较 热门 的 方向 就是 叫做 自然语言 写作 的 风格 问题 可能 大家 会 知道 前 几年 深度 学习 做 图像处理 火 的 时候 可以 把 一个 比如说 梵高 的 星空 的 风格 应用 到 我 的 一张 日常 照片 当中 来 形成 一个 那种 玄幻 的 效果 那么 同样 的 对于 写作 的 风格 也 可以 做 这件 事情 事实上 已经 有 很多 研究者 尝试 这件 事情 你 比如说 某人 在 推特 上面 经常 发 大量 的 推文 那 我 就 可以 把 他 的 语言 习惯 语言 风格 学 出来 对

就是 我 的 推特 后面 就要 给 我加 一个 sad

这有 一些 不同 的 风格 有 一些 比如说 你 用词 的 风格 对 吧 我 语句 的 风格 通过 这个 东西 来 生成 一个 新 的 推文 好像 看起来 也 是 他 说 的 就 有点像 咱们 图像处理 现在 咱们 换脸 这个 技术 相对 已经 比较 成熟 了 对 吧 那么 文本 这里 边 也 在 做 这件 事 所以 如果 做好 了 真的 能 形成 真的 能 成为 刚才 尚 和 司徒 所说 的 这种 场景 不光 是 我 看到 的 報紙 是 用 我 喜歡 的 風格 對 我 說 甚至 於 有 沒 有 可能 他 以 我 的 語言習 慣來 說話 對 吧 做 一個 虛擬 的 一個 人物 這其實 是 有 可能 做 的 現在 其實 有些 当然 这里 牵扯 的 技术 会 比较 多 比如说 我 的 嗓音 对 吧 我 的 语音 这部分 呢 由 语音 的 这部分 模拟 来 做 这个 现在 已经 有 一些 比较 好 的 技术 了 然后 呢 然后 就是 我 说 的 内容 也 通过 我 的 风格 来 做 调节 形成 最终 的 一个 真正 假 的 人 然后 如果 再 加上 一个 假 的 外貌 对 不 对 那 真正 就 可以 把 我 把 一个 人 给 复制 出来 了 这

感觉 是 连 个性 都 已经 复制

出来 嗯 刚才 说 到 那个 自动 生成 商品 我 想 起来 上集 我们 的 孙博士 说 他 的 远大理想 就是 在 YouTube 看 一个 做菜 视频 然后 把 菜 谱写 出来 我 觉得 这个 崔 博士 可以 和 孙博士 合作 一下 看 一下 做菜 的 视频 然后 把 这个 把 这个 菜 的 广告 写 出来 你 可以 进行 一些 合作 司徒

说 的 非常 好 其实 现在 已经 有 很多 做 图像 和 文本 或者 是 视频 和 文本 交叉 的 任务 了 你 比如说 给 一个 图片 给 一个 照片 生成 一句 关于 这个 照片 的 描述 当然 不是 简简单单 说 这里 边有 一只 猫 有 一只 狗 了 对 吧 我 可以 生成 一个 比较 好 的 比如说 有 一只 猫 在 草地 上 愉快 地 玩耍 对 吧 或者 那 一张 照片 是 在 一个 平静 的 湖面 上 有 两个 人 在 在 这个 黄昏 下饭 粥 对 吧 等等 已经 有 很多 任务 在 做 这个 事情 了 就 给 我

感觉 就是 刚才 也 提到 过 图像识别 和 语意 识别 其实 他们 在 专攻 的 领域 是 相当于 不同 阶段 的 事情 就 给 我 感觉 现在 图像识别 相当于 是 一个 眼力 很 好 的 人 他 可以 跟 你 说 我 看到 了 什么 我 看到 了 什么 然后 自然语言 处理 相当于 是 一个 很 懂 人心 的 人 他 会 然后 相当于 是 这个 眼力 很 好 的 人 跟 很 懂 人心 的 人 是 说 我 看到 这个 东西 你 告诉 我 它 到底 什么 意思 不过

我 倒 是 综合 了 上 一集 孙博士 和 这集 崔 博士 说 的话 来说 好像 两个 领域 都 有 共同 的 特点 就是 在 理解 表象 上面 已经 有 了 很大 的 突破 但是 真正 理解 它 的 意义 真正 理解 是 怎么回事 方面 还是 有 那么 一段路 要 走 可能 两个 领域 可能 面临

同样 的 问题 这个 其实 刚才 上 已经 提到 了 一个 词 叫做 语意 我们 叫做 semantics 所谓 语意 呢 就是 在 这 一个 表现 背后 啊 我 觉得 通俗 的 讲 就是 它 背后 所 表达 的 一些 含义 啊 一些 意图 啊 等等 这个 事 咱们 刚才 一直 没有 讲 实际上 你 可以 说 文本 里边 有 它 的 语意 对 吧 我们 很多 NLP 的 任务 就 叫做 语义 分析 语义 理解 Semantics 这种 处理 这是 文本 里面 那么 其实 我 想 大家 平时 在 交流 当中 也 会 说 到 比如说 图像 当中 图像 背后 也 蕴含着 语义 甚至于 一个 音乐 一个 作品 一个 电影 背后 一段 音乐 背后 也 有 它 的 语义 对 吧 它 所 表达 的 一些 意图 和 想想 想 表达 的 一些 事情 啊 这个 所以 广义 来说 都 是 有 这个 有 这个 所以 从 广义 上 来说 都 是 有 这个 方法 和 背后 的 原理 的 那么 这个

所有 和 语音 有关 的 都 是 自然语言 处理 的 范畴 吗 可以 这么

说 吧 自然语言 处理 更 多 的 是 关注 像 自然语言 啊 包括 文本 的 这个 语音 里面 的 它 背后

的 语意 啊 至于 理解 毕加索 背后 他 通过 话 想要 表达 什么 这个 就 交给 图像识别 人去 做 吧 所以

毕加索 是 算 自然语言 还是 算 图像 呢 应该 算 自然 图像处理 所以 这块

其实 就是 后面 的 很多 交叉 对 交叉学科 的 研究 方向 了 对 吧 图像 里 的 语义 对 吧 图像 里 的 内容 包括 做 视频 内容 其实 简单 的 来说 简单 的 场景 咱们 现在 可能 有 一些 视频 网站 已经 提供 这个 功能 就是说 我 想 找 比如说 这个 剧 里边 有 一个 什么 什么 人物 在 马路上 跑 的 场景 这 就是 一种 在 视频 里边 找 语意 的 技术 或者说 咱们 想 找 比如说 我 想 找 牛油果 烤面包 里 跟 这个 租房子 有关 的 某 一个 片段 对 吧 这 就 是从 咱们 声音 信号 当中 找 背后 的 寓意 我 想 找 比如说 有 哪 几期 里边 有 做 技术 的 嘉宾 和 我们 主持人 之间 因为 一个 技术 点 展开 了 深入 的 讨论 我 提 这么 一个 问题 其实 就是 在 咱们 这个 节目 里 去 找 背后

的 寓意 这个 技术 现在 的 技术 离能 回答 这个 问题 还有 多远 现在

在技术上 有 一些 前沿 的 进展 但是 离 实用化 还有 一定 的 距离 实用 上 更 多 的 事情 是 在 做 所谓 俗称 我们 叫 打点 就是 人工 的 把 一些 关键 针 里边 的 关键人物 关键 要素 标出来 打 一些 标签 就 说 这个 画面 里边 有人 有 那 几个 人物 他们 在 跑步 他们 在 吃饭 他们 在 划船 他们 在 游泳 等等 我 通过 打 标签 的 方式 打 出来 然后 再 去 做 搜索 这是 现在 工业界 或者说 在 应用 场景 里边 做 的 一些 办法 但是 实际上 技术 上 有 一些 东西 已经 可以 做 了 只不过 这里 就 回到 咱们 说 深度 学习 包括 统计 学习 大 数据 这里 边 就 说 这些 数据 从 哪来 如果 没有 人去 标注 这些 东西 那么 光靠 机器 去学 难度 还是 比较 大 的 所以 这里 可以 再说 回 Bert 他 之所以 能够 取得 非常 好 的 成绩 就 在于 他 能够 利用 未 标注 的 数据 那么 所谓 未 标注 就是说 他 可以 运用 到 这 一句 话 里 自然 存在 的 结构 信息 他 里边 比如 用到 一个 特点 就是说 抠掉 一个 词 然后 呢 去 预测 这个 词是 什么 就 有点像 咱们 做 完形填空 一样 closetest 那么 这个 东西 就 语料 是 现成 的 对 吧 有 多少 文章 就 有 多少 的 语料 我 就 可以 随机 说 这 是 他 的 一大

创新 哇 这个 厉害 了 感觉 高中

的 时候 折磨 过后 我们 的 语文 和 英文 的 问题 现在 大家 都 在 折磨 计算机 在 做 这些 事情

那么 在 BERT 之后 像 分词 这样 的 事情 还 重要 因为 我们 就算 不 懂 计算机 的 人 也 都 知道 分词 很 重要 因为 汉语 里面 你 要 理解 一句 话 你 光 看 字 是 不行 的 你 要 看 什么 是 一个 词是 吧 那么 在 BERT 之后 类似 于 像 这些 分词 啊 这些 这 这 这 这些 还 很 重要 吗 对 咱们 讲

今天 讲 NLP 都 没有 讲 分词 幸好 现在 司徒 给 兜 回来 了 因为 咱们 刚才 没有 话题 就 去 说 到 这儿 分词 词性 标注 还 这 是 非常 传统 的 任务 也 是 现在 做 的 非常 好 的 已经 已经 做到 比较 成熟 的 技术 了 所以 现在 基本上 都 是 不 需要 担心 那么 这里 呢 会 有 几个 问题 刚 开始 的 时候 我 说 我们 拿 深度 学习 模型 不 需要 做 分词 我们 把 每个 字 单独 的 送进去 就 已经 能 达到 不错 的 程度 了 这个 没有 问题 但是 实际上 到 后来 包括 像 Bert 也 有 这个 特点 就是说 实际上 你 给 他 一些 不同 层次 的 知识 是 有 帮助 的 就是说 人 辛辛苦苦 总结 出来 这些 知识 多多少少 还是 能 帮助 的 所以 像 Bert 包括 很多 模型 它会 在 不同 的 层次 上 有 不同 的 输入 他 既 把 characterlevel 既 把 字 层面 做 输入 也 把 词 层面 做 输入 甚至 要 把 句子 层面 也 一起 做 输入 送进来 反正 他 有 计算能力 他 是 算计 呗 对 吧 他 足够 深 所以 你 给 他 这些 输入 他 都 处理 得 了 那么 他 就 可能 从 里边 发掘出来 很多 蕴含 的 信息 而且 效果 确实 会 比 你 只 送给 一个 字 效果 要 好 所以 这么 来说 分词 还是 有 作用 的 而且 在 一些 不 需要 深度 学习 的 一些 场景 下面 那么 用 分词 也 可以 提升 很多 的 效率 和 很多 的

这个 还是 很 有意思 的 理论 上 说 一个 强大 的 模型 它 可以 自己 把 词 都 分 出来 但是 你 如果 给 它 再 分 一个 版本 再标 一个 版本 再 放上去 还是 能 提高 它 的 模型 的 效率 这 还是 很

有意思 一件 事 因为 理论 上 的 模型 是 好 但是 好 的 模型 在 哪 也 是 要 靠 人 去 设计 的 对 吧 之所以 Bert 能够 这个 达到 好 的 效果 这个 BERT 也 是 人 设计 出来 的 BERT 里 用到 的 这些 机制 刚才 讲到 的 这个 Transformer 机制 Attention 等等 这些 神经网络 模型 里边 常用 的 一些 结构 也 都 是 人 设计 出来 的 目的 也 是 在于 让 原来 那种 最土 的 这种 全 连接 的 网络 能够 有 办法 能 捕捉到 一些 更 有 价值 的 因素 在 否则 的话 这里 可能 会 需要 更 高 的 成本 和 更 大量 的 数据 避免 了 一些 噪声 所以 这 也 是 现在 深度 学习 模型 的 主要 的 工作 和 我 个人 认为 也 是 有 一定 的 平静 的 地方 也就是说 到底 人 是不是 通过 这种 方式 来 学习 如果 咱们 能 知道 人 的 学习 方法 可能 就 不 需要 这么 复杂 的 数据 这么 复杂 的 模型 那 就 能够 更好 更快 的 学到 知识 了 今天 咱们 聊天 我 觉得 形式 也 挺 自由 的 所以 里边 讲 到 应用 讲 到 场景 但 其实 很多 自然语言 处理 技术 里 的 一些 关键 的 概念 你 比如说 像 命名 实体 识别 刚才 我们 提到 语言 模型 其他 的 还有 一些 词 的 模型 词带 模型 词 嵌入 主题 模型 等等 这些 概念 今天 咱们 没有 时间 去 讲 了 都 偏 技术

观众 朋友 们 如果 想要 了解 更 多 这些 技术 的 细节 有 什么样 的 书籍 可以 了解 好 的 比较

推荐 的 一本 就是 偏 科普 的 一本 叫做 《 数学 之美 》 这个 书 其实 出 的 比较 早 了 大概 得 有 五六年 时间 了 是 吴军 博士 的 作品 他 里边 讲到 了 很多 很 有意思 的 自然 源 处理 相关 的 场景 和 应用 作为 一个 科普读物 如果 咱们 的 听众 朋友 们 对 计算机 学科 对 自然语言 处理 不是 特别 了解 的话 可以 用 这 本书 来 做 入门 和 了解 一些

基本 的 概念 所以 说 它 虽然 叫 数学 之美 但是 其实 它 是 在 讲 自然语言 处理 的 问题 对

就是说 这些 数学 的 模型 可以 解决

哪些 问题 哦 有意思 那么 除了 这 本书 还有 什么 别的 更深 的 推荐

除了 这 本书 如果 咱们 听众 朋友 们 有 一定 的 计算机 背景 愿意 在 自然语言 这个 方向 做 继续 深入 那么 我 就 不得不 自卖自夸 一下 欢迎 来看 这个 由 欢迎 来 欢迎 购买 叫做 大 数据 智能 数据 驱动 的 自然语言 处理 技术 这 本书 这 本书 是 由 清华大学 的 著名 的 自然语言 方面 的 老师 刘志源 老师 还有 我 然后 还有 其他 很多 位 学者 一起 写 的 一本 这种 我们 叫 半 科普 就是说 得 有 一定 的 计算机 背景 然后 有 一定 的 人工智能 背景 那么 在 看 这 本书 可以 很 好 的 了解 自然语言 处理 里 的 一些 基本 的 概念 和 基本 的 任务 除了 今天 刚才 讲到 的 这些 应用 场景 包括 像 比如说 司法 里边 的 用语 司法 场景 里 用到 的 自然 源 处理 医疗 里边 的 包括 咱们 现在 比较 火 的 智能 投顾 金融 方面 的 这里 边 都 会 有 涉及 讲 的 会 稍微 深 一些 有 一定 的 模型 和 原理 在 里面 同时 这 本书 第一 作者 刘志源 老师 他 也 是 在 社交 媒体 上 非常 活跃 的 一位 可以 说 是 知乎 大 V 也 是 微博上 的 大 V 大家 多 关注 关注 他 的 一些 内容 所以 八卦

一下 他会 使用 你 刚才 提到 的 那个 话题 吗 就是 人工 语言 好像 是 人工 语言 都 会 考虑 问题

是 吧 自然语言 处理 太难 了 刘老师

也 是 他 那个 微博上 很多 这个

对 对 对 所以 一 搜 可能 大部分 都 是 他 的 刘志源 老师 在 知乎 上 有 非常 多好 的 回答 对于 大家 了解 自然语言 处理 这门 学科 都 是 很 有 帮助 的 包括 他 也 写 过 一个 挺长 的 帖子 叫做 自然语言 处理 难 在

哪儿 大家 可以 去 看一看 我 昨天 看 了 一 下去 上网 搜 了 一下 这 本书 在 kindle 电子书 是 13 块钱 人民币 多 还是 确实 是 不贵 啊 确实 是 感兴趣 的 朋友 们 可以 去 看一看 这个 半 科普 的 这 本书 我们 有 我们 的 刘 教授 和 崔 博士 主编 的

这本 半 科普 书 謝謝 主持人 國內 的 朋友 們 在 很多 購書網 站上 經 常有 這種 什麼 晚檢 各種 活動 埋起 來 也 很 方便 還有 什麼

更 深入 的 嗎 就是 說 半 科普 從全 科普 半 科普 有 沒 有 什麼 專注 性質 的 入門書 呢

如果 是 自然 語言處 理想 了解 更 多 的 內容 的 話 其實 大家 可以 在 這本 《 大數據 智能 》 這本書 的 後 面 專門 有 一個 章節 刘老师 写 了 说 大家 怎么 来 了解 自然语言 处理 相关 的 前沿 进展 比如说 有 相关 的 著作 相关 的 论文 去 什么 地方 比如说 学术会议 去 找 这些 相关 的 论文 去 看 等等 都 有 比较 好 的 推荐 包括 我们 每 一章 的 作者 在 最后 都 有 一些 推荐 读物 那么 比较 经典 读物 其实 可以 推荐 一本 是 由 宗成庆 老师 写 的 《 统计 自然语言 处理 》 里边 是 很多 自然语言 处理 的 任务 以及 在 统计 模型 下 是 怎么 来 解决 的 然后 刘老师 前 几天 刚刚 出版 了 一本 在 Springer 出版社 的 一本 可以 说 免费 叫 免费 阅读 的 一本 著作 叫做 表示 学习 自然语言 处理 里 的 表示 学习 RepresentationLearningforNaturalLanguageProcessing 这是 免费

阅读 哇 相当 的 不错 对 这

本书 是 大家 可以 免费 下载 它 是 遵从 了 叫 什么 CCby4.0 对 这 本书 是 可以 免费 大家 免费 下载 阅读 的 所以 如果 想 了解 这个 想 表示 学习 这 里面 的 一些 深入 工作 的话 可以 读 一下

这 本书 好 所以 那 我们 今天 就 聊 了 很多很多 我们 从 自然语言 是 什么 聊到 了 自然语言 的 历史 历史 从 我们 非常简单 的 机器 分析 到 一直 到 BERT 时代 的 很 厉害 的 模型 然后 我们 讲 了 很多很多 的 现在 的 应用 以及 未来 我们 的 学者 们 希望 能够 做成 的 应用 然后 我们 讲 了 简单 的 讲 一 讲 为什么 自然语言 处理 那么 难难 在 哪儿 我们 讲 了 一下 如果 要 进入 这个 领域 能够 学 能够 通过 什么 有 什么 书 可以 读 最后 我们 的 崔 博士 我们 几乎 每次 都 要 问 嘉宾 一个 问题 如果 有 我们 的 朋友 们 想要 进入 这个 领域 那 他们 应该 做 什么 哪 方面 的 准备 工作 呢 应该 学 什么 专业 应该 做 哪 方面 的 准备 呢 好

的 谢谢 主持人 谢谢 司徒 我 也 欢迎 我 毕竟 也 是 在 NLP 领域 混 了 比较 长 的 时间 我 也 是 非常 认同 这个 领域 所谓 我们 叫 自然语言 处理 是 非常 有 前景 的 一个 有 前景 有 挑战 的 一个 学科 方向 有人 讲 这个 叫 原理 解释 人工智能 里边 皇冠 上 的 明珠 我 也 欢迎 更 多 的 听众 朋友 们 投身 到 这个 领域 里 来 从 准备 上 来讲 我 想 基本上 大家 需要 学好 最 基本 的 可能 是 计算机 了 对 吧 计算机 啊 编程 啊 这些 基础 的 基本技能 因为 我们 毕竟 是 用 计算机 来 处理 自然语言 的 那么 除此之外 呢 肯定 会要 涉及 到 很多 的 数学模型 也就是说 这 是 跟 机器 学习 相关 的 那么 在 之前 比如说 讲 图像处理 等等 也 都 是 其实 我 觉得 也 差不多 就是 也 需要 学好 一些 比如 像 基本 的 数学 对 吧 包括 要 统计 等等 这个 来 更好 的 了解 和 更好 的 研究 相关 的 这些 数学模型 来 帮 大家 来 解决 这些 的 任务 那么 实际上 对于 自然语言 处理 这里 来讲 可以 说 不 需要 大家 有 特别 多 的 所谓 语言学 上 的 知识 这里 其实 有 很多 的 历史 上 的 一些 你 说 是 分歧 也好 或者 是 一些 花絮 也好 会 有 很多 的 流派 会 有 的 流派 就是说 我 就 纯用 数学模型 可以 搞定 一切 有 的 流派 呢 就是说 语言学 里边 会 有 很多 的 知识 这个 语言学 的 知识 会 能够 帮助 机器 来 做 的 所以 这里 呢 倒 不是 说 特别 强求 这 一点 但是 如果 我 想 大家 既然 要 从事 这个 方向 呢 提早 积累 一些 跟 语言学 相关 的 知识 你 至少 要 知道 比如说 主为 编 各种 的 词 是 怎么回事 这 还是 有 好处 因为 大家 整天 打交道 的 都 是 这些 问题

好 我们 前面 问 了 几次 嘉宾 这个 问题 崔 博士 是 唯一 一个 推荐 大家 加入 他们 这个 领域 的 说明 这个 领域 可能 确实 是 一个 正经 之上 的 领域 我们 前面 不乏 有 劝退 的 嘉宾 所以 看来 自然语言 处理 确实 是 一个 和 他们 不 一样 蒸蒸日上 的 领域 我 觉得 这里

可以 有 几个 角度 去 理解 可能 有 的 领域 比较 成熟 了 不 需要 太多 新 的 从业者 对 吧 从 我们 自然语言 理解 角度 讲 可以 做 的 事情 太多 了 难度 也 非常 大 所以 大家 进来 还且 有 可 做 的 事儿 且 做 不 完 的 这 是 一个 再 一个 从 另外 一个 角度 就是说 我们 这个 方向 虽然 它 难 虽然 有 挑战 但是 有 可 做 的 事儿 是 好事儿 对 吧 会 有 很多 新 的 突破 那么 这些 新 的 突破 也 需要 一代 一代 的 从业者 去 完成 能够 坚持 下来 像 我们 公司 因为 是 在 像 我们 公司 因为 总部 是 在 江安 大 的 华田湖 江安 大 大家 也 知道 是 可以 说 是 深度 学习 的 发源地 了 这 一波 深度 学习 的 热潮 也 正是 因为 这 几位 深度 学习 的 学者 坚持 了 下来 在 之前 有过 一段 神经网络 的 低谷 但是 他们 没有 放弃 一直 坚持下去 所以 才 带来 了 这 一波 啊 给 这个 不光 是 学术界 也 给 工业界 甚至 给 咱们 的 日常生活 带来 这么 多 的 发展 所以 也 是 欢迎 大家 投身 这个 领域 一直 坚持下去 一定 能够 做出 很

好 的 成绩 来 看来 是 漫漫 长路 啊 我们 才 刚刚开始 啊 我们 的 伟大 愿景 还要 有赖于 各位 有志 青年 啊 继续 好 那 就 感谢 我们 的 崔 博士 来到 我们 的 节目 给 我们 带来 了 精彩 的 分享 好 那 我们 感谢 收听 我们 的 牛油果 卡 面包 节目 如果 喜欢 我们 节目 可以 在 各大泛 用型 播客 平台 或者 喜马拉雅 或者 小 宇宙 进行 订阅 和 收听 好 我们 后会有期 下期

再见 谢谢 再见 拜拜