#120. 脚只是装饰而已?智能机器人发展到哪儿了?
18 Aug 2023 · 79 min
Peter from Covariant discusses how intelligent robots combine vision, mechanical arms, and learned decision-making to handle messy, unpredictable tasks like picking and sorting. He explains why demo videos look faster than reality, and argues that software engineers from tech can shift to robotics to solve bigger problems than the internet ever did.
Chapters
嘿 牛肉 果 的 听众 们 这期 我们 请来 了 智能 机器人 领域 一线 的 专家 Peter 一起 和 大家 聊聊 最近 很火 的 智能 机器人 这个 领域 围绕 智能 机器人 我 自己 是 有 很多 个 问题 比如说 为什么 好像 软件 已经 很 强大 了 可以 出口成章 画 那些 特别 复杂 的 画 但是 一到 现实 世界 控制 起 机器人 操作 起 东西 来 还是 各种 人工 智障 还有 比如说 业界 为什么 这么 执迷 于 去 做 长得 像 人 的 机器人 难道 就是 因为 比较 好看 吗 现在 大 语言 模型 要 有 这么 大 的 突破 对 智能 机器人 领域 它 又 意味着 什么 呢 那 就让 我们 进入 这 期 节目 找 找 这些 问题 答案 吧 这里 是 牛肉 锅 烤面包 大家 好 欢迎 来 收听 本期 的 牛肉 锅 烤面包 节目 这 一次 我们 又 是 一期 又 热点 又 硬 课 的 节目 这次 我们 找来 了 PeterCovirant 智能 机器人 中国区 的 负责人 跟 大家 一 起来 聊一聊 智能 机器人 这么 一个 听 上去 特别 fancy 特别 科幻
的 话题 大家 欢迎 大家 好 我 是 Peter 非常高兴 今天 算是 第一次 来到 流油果 烤面包 这个 节目 很 高兴 今天 可以 跟 大家 分享 一些 关于 机器人 行业 智能 机器人 的 一些 我 的 一些 经历 包括 一些 见解 非常 期待
可以 跟 大家 先 簡單 的 介紹 一下 Covariant 我 不 知道 我 發音 對 不 對 Covariant 這個 智能 機器 人 公司 很 準確 可能 有 一些 不 在 這個 業界 的 聽眾 可能 不太 了解 所以 這個 公司 是 什麼 背景 做什麼 事情 的 呢 嗯 这个
是 个 好 问题 啊 因为 我们 公司 呢 等于 是从 硅谷 开始 啊 创业 做 起来 的 所以 在 国内 呢 我 觉得 最近 看到 一些 微信 上 的 一些 文章 去 提到 比如说 openaimafia 这些 呃 很 火 很 火热 的 一些 一些 我们 家 password 吧 啊 这些 名词 就 炒作 热点 对 有 一些 这样 的 热点 但是 我们 公司 其实 主要 做 的 是 大家 可以 想象 把 AI 运用 到 实地 生产 中去 那 主要 做 的 应用 其实 是 做 的 是 物流 行业 中 的 智能 分解 就 大家 看到
那个 视频 里面 一个 传送带 然后 很多 工人 在 那边 把 垃圾 捡 出来 分 到 什么 地方 还 看到 流浪 猫 把 他 救下来 那种 东西 对
但 旧 流浪 包 这个 好像 还 并 没有 出现 但是 分解 是 在 正常 进行 中 我们 其中 一个 我 觉得 一个 特点 就是 确实 我们 会 把 最前沿 的 这些 技术 尤其 是 AI 的 这些 技术 运用 到 一个 实际 生产 的 环境 中 去 比如说 物流 行业 中 的 分解 这个 的话 可能 是 跟 很多 现在 可能 做 AI 的 大厂 不太 一样 的 一个 路径 就 我们 非常 非常 偏重于 落地 在 技术 领先 的 同时 也 非常重视
落地 就是 技术 还是 服务 于 一个 现在 就 能 用 的 一个 落地
场景 对 是 的 让 我 想到
我们 之前 还 做 过 一期 节目 找 LandingAI 就是 吴文达 的 LandingAI 他们 好像 也 是 大概 这个 思路 就是 用 AI 可以 到 实际 的 工厂 里面 去 做 一些 事情
是 的 其实 我 还 挺 好奇 他们 现在 做 的 怎么样 可能 我要 回去 看看 你们 那 一期 的 节目 说不定 就 被 你们 干掉 了 我们 做 的 场景 可能 有点 不 一样 因为 他们 是 工厂 嘛 然后 之前 早期 传闻 是 做 质量 检测 而 我們 是 做 的 是 物流 而且 我們 是 真的 是 做 分解 就 真的 是 manipulate 就 真的 去 撿 東西 當然 沒 有 撿 流浪 貓啦 但是 確實 有 在 分解 這些 物件 我 跟
你 說 你 們 只要 撿 一個 流浪 貓你們 這個 頓時 就 火 了 這種 短視頻 平台 全是 你 們 的
廣告 了 只是 暫時 在 分解 中心 中 沒 有 出現 流浪 貓 你们
可以 考虑一下 当然 扯远 了 扯远 了 今天 把 Peter 叫 过来 其实 也 是 想要 聊 一个 其实 特别 是 最 近几个月 吧 很 火热 的 一个 话题 就是 智能 机器人 机器人 这个 东西 其实 有 很 久 了 嘛 其实 透露 一个 小 秘密 就是 我 高中 的 时候 还是 什么 区 里面 的
机器人 队 的 这么 厉害 那 你 是 我 的 前辈 其实 就 我们
那 时候 就 很 简单 嘛 就是 像 那 时候 乐高 他 有 一个 子线 他 就是 有 一个 叫 RTX 好像 叫 RCX 还是 RCX 我 忘记 名字 他 就是 会 有 个 简单 的 一个 类似 单片机 的 东西 然后 他 有 一些 图形化 的 编程语言 然后 你 就 可以 自己 搭乐高 搭车 一个 机器人 然后 完成 一些 任务 就是 那个 高中 的 时候 是 做 这个 事情 然后 我 觉得 机器人 这 东西 因为 在 大家 脑海中 存在 很久很久 了 就 你 会 发觉 比如说 你 看 动画 里面 那种 特别 帅 的 那种 东西 也 叫 机器人 然后 同时 的话 你 看 新闻 里面 可能 一个 手臂 它 也 叫 机器人 就 它 叫 机器人 但是 你 会 发觉 它 种类 很多很多 很 多样 那 对于 你们 来说 你们 业界 有 一个 大概 的 定义 是 说 什么 叫做 机器人 吗 这个 是
个 非常 好 的 问题 你 问 不同 的 从业者 其实 他会 给 你 不 一样 的 答案 那 比如说 我们 首先 有 移动机器人 对 吧 有 这种 在 酒店 里 帮 你 送餐 的 这种 形式 移动机器人 比如说 在 物流 场景
中 也 有 就 国内 很多 的 那种 小小的 给 你 送餐 送 牙刷
什么 之类 的 对 这种 它 确实 也 算是 机器人 它 是 移动机器人 在 物流 行业 中 也 有 这样 的 移动机器人 它 可以 把 货柜 搬来搬去 它 也 是 一种 机器人 包括 我们 路上 看到 的 现在 开始 看到 的 一些 自动 驾驶 车 其实 从 广义 来说 它 也 算是 一种 机器人 这个 也
算 的 吗 就 我 开 特斯拉 我 开始 自动 驾驶 的 时候 就是 机器人 就 机车 人 变形 了 吗
开始 变成 机器人 了 吗 对 其实 自动 驾驶 车 其实 是 可以 算成 一种 那 当然 就是 还有 就是 刚刚 提到 就是说 比如说 传统 的 我们 说 已经 存在 几十年 真的 在 工业界 用 得 很 广 的 这种 工业 机器人 也 是 存在 的 这种 一般 是 在 比如说 造车 这样 的 一个 行业 在 一个 流水线 上 它 一般来说 就是 只有 一个 手 一个 机械 臂 我们 叫 它 它 尝试 去 做 一些 固定 的 一些 动作 固定 的 轨迹 重复 的 去 做 这样 的 一些
任务 就是 看到 新闻 里面 一个 传送带 然后 一个个 手 这个 手 拎 起来 那个 手来 喷吸 是 这个 东西 对
是 的 是 的 那 总结 下来 说 其实 你 可以 叫 所有 可以 帮助 或者 替代 人去 做 一些 在 物理 世界 中 完成 一些 任务 的 一些 自动化 机器 你 都 可以 叫 它 为 机器人 但 这个 其实 是 一种 定义 了 它 的 定义 确实 非常 非常 的 广 那 我们 可能
因为 刚才 你 也 提到 嘛 你 可能 是 一些 具体 的 落地 的 这样 的 生产 相关 的 一些 一些 场景 吧 那 像 这种 场景 的话 我 有 一个 疑问 啊 就是 刚才 你 也 提到 了 这样 的 一个 一个 手 的 这样 的 一个 工业 机器人 其实 存在 了 十几年 几十年 了 那麼 你 會 發覺 最近 一些 年 那個 智能 機器 人 這個 概念 或 這個 詞 被 越 提越 多 同時 他 說 那個 智能 機器 人 看上去 也 還是 只是 一 隻 手 不是 一個 真的 像 什麼 機械機 那種 人 的 樣子 同樣 是 一 隻 手 那麼 這個 手 和 之前 傳統 的 手有 什麼 區別 呢 它 智能 在 哪裡 呢
确实 最近 来说 智能 机器人 是 一个 比较 新 的 一个 概念 就 刚才 说 一只 手是 一个 存在 了 几十年 尤其 是 在 传统 行业 用途 其实 非常 的 广泛 的 一种 机器 了 那 它 一只 手 的 意思 是 什么 呢 就是 它 没有 眼睛 也 没有 脑子 它 基本 就是 会 重复 你 给 它 的 一套 动作 去 重复 成千上万 甚至 上百万 次 那 我们 以造车 为 例子 你 造车 为 例子 的话 就是 对 基本 去 把 一个 固定 大小 固定 形状 的 工件 去 对 它 进行 一些 固定 的 处理 那 为什么 最近 又 有 智能 机器人 呢 大家 可以 想象 当 你 这个 场景 变得 更 多样 的 时候 那 比如说 我们 到 了 物流 的 场景 那 你 需要 捡 的 东西 可能 是 多种多样 的 它 不 像 一个 车 可能 它 某个 零件 它 就 长 这个 样对 吧 今年 它 这个 零件 肯定 就长 这个 样 了 像 物流 的话 它 可能 每年 你 都 要 捡 各种各样 不同 的 商品 那 这个 时候 你 只是 一只 手 通过 只是 让 它 抓瞎 去 做 这个 操作 其实 是 不够 的 那 你 智能 机器人 现在 来说 的话 一般来说 会 在 一个 手 之外 去 搭配 比如说 一双 眼睛 那 当然 你 还要 给 它 搭配 一个 脑子 那 也 就 是从 传统 的 这个 纯 机械 的 自动化 到 一个 更 智能 自动化 的 一个 演变 这 相当于 是
一个 机械手 上面 加 了 一些 传感器 以及 加 了 一些 芯片 来 处理
这些 东西 是 的 当然 如果 我们 说 传感器 的话 其实 传统 的 自动化 也 会 用 各种各样 的 传感器 比如 有力 的 传感器 有 距离 的 传感器 这些 都 有 那 智能 在 什么 地方 呢? 其实 还是 在 这个 眼睛 当 我们 说 眼睛 的 时候 确实 我们 指 的 就是 像 人 一样 可以 去 感知 它 所在 的 这个 场景 然後通過 他 這個 感知 來 引導 他 做 一些 動作 就 叫 視覺 引導 機器 人 而 不是 說 我 閉著 眼睛 然後抓 下重 複 你 告訴 我 的 動作 一百 萬次 然后 我 想 起来
我 高中 的 时候 做 机器人 的 时候 我们 有个 叫 灭火 机器人 嘛 它 没有 眼睛 它 是 一个 传感器 它 就 相当于 是 有 蜡烛 蜡烛 它会 发生 发出 光 发出 热 所以 它 这个 传感器 就 会 检测 到 前方 某个 角度 是 有 光和热 的 然后 它 就 慢慢 的 沿 这个 方向 像 虫子 一样 驱 过去 然后 把 蜡烛 给 吹灭 然後當然 那個 就是 像 你 說 的 裝上 機器 人 可能 還是 那種 比較 簡單 的 傳 感器 可能 智能 機器 人 的 話 可能 就是 用 最新 的 圖像識別 說 這是 一個 蠟燭 我 分析 出來 這是 蠟燭 了然 後 分析 出來 跟 它 的 距離 可能 去 進行 一些 更 複 雜 操作 吧 可以 說 是
對 可以 這麼 說 包括 可以 應 用到 更新 的 場景 中 去 可能 下次 你 可能 不是 要 吹滅 一個 蠟燭 可能 你 要 去 滅火 對 吧 那 可能 也 可以 因為 我 可能 識別 的 東西 是 相似 的
那 這樣 的 話 我 的 理解 就是 之所以 智能 機器 人 就是 那個 剛才 我們 就是 定義 一下 就是 有 一個 手 加上 一雙 眼睛 的 這樣 機器 人 出現 它 的 原因 一方面 可能 是 技術 進步 嘛 另外 一方面 的 話 就是 似乎 好像 它 比 傳統 機器 人 可以 做 很多 遠多 於 傳統 機器 人 的 那些 應用
場景 是 的 是 的 之前 的
那个 传统 机器人 的话 可能 我 就 造 这辆 车 我 可能 流水线 生 设计 就 设计 说 这边 有 一个 工序 然后 这个 手要 做 这么 一件 事情 然后 他 这个 手 基本上 就是 这辈子 只能 做 这么 一件 事情 啊
对 或者 你 就要 重新 的 去 program 就是 重新 的 去 对 他 进行 编程 那 这个 是 个 比较复杂 的 工作 那 比如说 明年 这个 车 有点 不 一样 那 我 要 重新 编程 啊 来 去 让 他 适应 新 的 一些 新 的 一个 一个 任务 啊 但 智能 机器人 我们 当然 是 希望 不 需要 整个 重新 编程 可能 你 只是 通过 一些 重新 的 训练 或者 甚至 可能 我们 可能 会 讲 到 的 这种 重新 用 语言 你 可能 对 它 进行 一些 新 的 一些 微调 就 可以 让 它 适应 一些 新 的 任务
像 智能 機器 人 的 話 它 有 一雙 眼睛 因為 讓 我 回 想起 比如 之前 高中 的 時候 做 機器 人 的 時候 樂高 其實 有 一定 的 圖像識別 的 能力 他 可以 去 用 圖像識別 做 一些 簡單 的 事情 但是 後 來 我們 還是 選取 了 用 傳 感器 因為 你 會 發覺 好像 一旦 進入 到 圖像識別 了 之後會 出現 各種 各樣 奇奇怪怪 的 問題還 不如 你 在 那邊 死死的 在 那邊 去 寫 一些 比較 簡單 的 路徑 操作 現在 智能 機器 人 這個 領域 技術 發展
到 哪裡 了 其实 传统 机器人 之所以 比较 依赖 比如说 传感器 就 刚刚 说力 传感器 或者 是 刚刚 你 说 的 这些 比如 距离 传感器 来 去 做 确实 是因为 在 我们 叫 它 业内 叫 ImageNetMoment 就是 在 深度 学与 视觉 的 革命 之前 也 就是 可能 是 201 年 之前 其实 深度 学习 或者 是 机器 其实 确实 没有 办法 像 人 一样 去 感知 这个 世界 尤其 是 复杂多变 的 场景 这个 是 很 难 去 掌握 的 是 的 是 的 那 確實 也 就是 最近 我們 說 最近 十年 的 進展 那 其 實時 至 今日 呢 機器 確實 是 可以 像 人 一樣 去識別 感知 吧 複 雜多變 的 一些 場景 就是 說 機器 可以 跟 人 一樣 看 得 比 較 清楚 了 也 理解 得 比 較 清楚 但是 仍然 就是 你 去 把 機器 人 投入 到 實際 生產中 去 仍然 會 有 很多很多 的 難點 那 比如 說 你 看 完 之 後 那 機器 人 總要 對 這個 東西 這個 場景 去 做 一些 試劑 對 吧 那 你 如何 控制 它 以及 它 在 跟 物理 世界 中 交互 中 可能 會產生 各種 各樣 的 一些 長 尾 問題 我們 叫 它 longtailproblem 長 尾 問題 這些 都 需要 被 解決 你 可以 舉 一些
具體 的 例子 吧 因為 你 剛才 提到 說 物理 場景 下面 會 有 很 複 雜的 沒有 想到 的 事情 包括 又 說 跟 世界 的 交互 會產生 一些 常委 問題 有 沒 有 什麼 具體 的 例子 來 解釋 這
一部分 呢 對 其實 我 可以 舉一個 非常 就是 我們 作為 人 聽 起來 非常 簡單 但 對 於 機器 人來 說並 不 簡單 的 一個 例子 比如说 大家 去 超市 对 吧 那就是说 我们 东西 在 付 完钱 之后 要 把 东西 比如说 一个 东西 放到 袋子 里 你 可能 会 把 一个 袋子 给 放满 那 这个 对于 人 来说 很 简单 对 吧 八岁 小孩 肯定 也 会 做 了 但是 对于 一个 机器人 来说 其实 是 非常复杂 的 首先 你 买 的 东西 物品 形状 就 会 各种各样 都 不 一样 然后 袋子 也 各有 大小 如果 你 这么 直接 放进去 的话 人 的话 可能 会 考虑 这个 袋子 里面 东西 是 装多 了 装少 了 什么 东西 放 上面 什么 东西 放 下面 包括 你 袋子 可能 装 着装 着 发现 太重 了 破 了 你 可能 要换 一个 袋子 像 刚刚 说 的 等等等等 这些 很 细节 的 问题 虽然 都 是 小 问题 但是 你 把 它 给 一个 机器人 去 做 就 变得 非常 困难 就 你 要 把 每个 问题 都 定义 清楚 比如说 你 要 带子 破 了 怎么 检测 带子 破 了 呢 那 比如说 哪些 物品 可以 压在 哪些 物品 上面 呢 你 就要 去 识别 但 人 的话 这个 就是 常识 对 吧 谁 都 可以 干 就 像 這樣 一個 問題 是 一個 跟 物理 世界 中 交互 中湧現 出來 的 非常 非常 複 雜的 一些 很細節 的 問題 吧 所以 我們 叫 它 常委 問題 我 在
想 就是 这 一类 的 问题 有 什么 办法 去 概括 它们 然后 我 的 一个 想法 是 说 我们 现实生活 中 其实 你 塑料 的 东西 放在 塑料袋 里面 它 可能 出现 的 场景 和 考虑 到 的 东西 是 千千万万 的 刚才 你 提到 了 说 两个 东西 谁 比较 坚硬 谁 比较 软 然后 包括 我们 总体 质量 质量 怎么样 跟 那个 塑料袋 的 质量 是 有 关系 的 甚至于 说 是 哪些 东西 是 比较 冰 的 哪些 东西 是 比较 热 的 就 好像 我们 日常生活 中 自然而然 的 就 这么 一个 简单 的 把 东西 装 到 袋子 里 这件 事情 就 会 其实 有 蕴含着 很多 的 我们 没有 意识 到 的
考虑 点 是 的 是 的 就是
我们 没有 考虑 到 一定 会 被 我 爸妈 骂 了 这些 东西 你
都 不会 去 搞 是 的 是 的 所以 像 这种 简单 的 可能 一个八岁 小孩 能 解决 的 问题 其实 对于 机器人 来说 是 非常 非常 困难
的 像 我 是 互联网 这边 出来 的 嘛 我们 会 觉得 我们 都 已经 写出 这么 厉害 的 算法 那个 数学公式 可 fancy 了 但是 在 这种 情况 下面 套 塑料袋 还是 套 不好 这是 为什么 呢 一种 可能性 是因为 在 互联网 或者 在 数字 的 世界 其实 我们 的 问题 是 定义 的 好好 的 我们 可能 我们 最终 的 目的 就是 把 这些 视频 取出 来 排个序 放到 这么 一个 固定 的 地方 这是 一个 非常 非常 非常 明确 的 一个 任务 虽然 它 做 的 做法 可能
会 很 复杂 是 的, 我 之前 也 来自 互联网 行业 了, 我 就是 深有感触, 就 当时 五年 前 从, 当时 还 叫 Facebook 是 吧, Facebook 离职 来到 Covariant, 当时 其中 一个 感触 是 发现 互联网 解决 的 问题, 就 模拟 或者 虚拟世界 中 能 解决 的 问题 是 相对 简单 的。 但是 當你 把 一個 從 模擬 世界 中虛擬 世界 中 的 問題 放到 現實 世界 中 它 會 突然 複 雜 很多 有 很多 你 想像 不到 的 一些 場景 其實 物理 世界 你 可以 把 它 想像成 一個 最 複 雜的 模擬 因為 你 模擬 只能 模擬 物理 世界 中變量 中 的 一部分 你永遠 只能 模擬 一部分 你 模拟 不了 所有 的 变量 所以 物理 世界 肯定 有 一些 你 模拟 不了 的 变量 你 的 公式 或者 你 写 好 的 程序定义 不了 的 变量 当 你 放到 物理 世界 中 这些 变量 就 会 成为 你 的 问题
你 刚刚 提到 模拟 这个 词 就让 我 想到 比如说 像 大家 平时 在 做 手机软件 开发 的 时候 就 会 有 模拟器 基本上 就是 你 电脑 里面 突然 弹出来 一个 长得 像 iPhone 一样 的 东西 你 能 进行 的 操作 其实 非常简单 无外乎 就是 屏幕 上面 点 一点 或者说 是 你 可以 模拟 说 快 没电 了 或者说 他 手机 可以 放置 横置 一下 基本上 就是 这么 几件 事情 你 打开 那个 模拟器 的 菜单 就是 几个 选项 对
我 想起 之前 做 iOS 开发 的 时候 当 你 把 东西 从 模拟器 真的 跑 到 手机 上 的 时候 你 就 发现 会 出现 很多 问题 对 吧 因为 每个 人 手机 的 状态 不 一样 可能 这个 时候 信号 不好 那个 时候 可能 它 没电 或者 那个 时候 它 内存 低 就 会 出现 各种各样 的 你 在 模拟器 中 完美 的 模拟器 中 模拟 不 出来 的 问题 其实 这个 跟 机器人 的 道理 有 一点 相像
就 相当于 是 机器人 开发 的 时候 那个 现实 的 模拟 这 不 就是 个 工厂 吗 不 就是 一点 空间 吗 不 就是 一个 手把 的 东西 拿 起来 吗 但 事实上 你 会 发觉 真的 到 现实情况 下面 就是 天气 我 居然 没有 考虑 像 很多 买 电车 的 人会 碰到 一个 问题 是 冬天 他 居然
电量 就 下降 了 对 确实 会 这样 而且 刚刚 其实 还有 提到 一个 物理 世界 中 的 问题 是 物理 世界 中 其实 有 很多 别的 一些 我们 叫 它 agent 就是 别的 人 或者 别的 工人 或者 别的 一些 会动 的 一些 设备 一只 猫 也 可能 是 一只 猫 对 吧 那 提 一只 猫 其实 非常 好 这个 问题 因为 这个 其实 就是 为什么 自动 驾驶 它 落地 非常 非常 难 的 一个 问题 啊 其实 不是 说 他 看不清 这个 路 这个 道路 其实 自动 驾驶 车 可能 比人 看 得 还 清楚 但是 有个 问题 是 道路 上 的 别的 这些 agent 他 想 做 的 下 一步 的 决策 就 比如 行人 啊 别的 车 啊 包括 你 说 的 一只 猫 如果 真的 跑 过 了 一只 猫 他 下面 要 干嘛 這個 時候 其實 你 要 對 它 下面 的 這些 東西 做出 很多 的 預判 這個 在 物理 世界 中其實 是 非常 困難 的 其 實人 也 不 一定 做 得 比 機器 好 但 人 可以 為 自己 的 行為 負責 其实 刚刚 还有 提到 的 一个 就是 假设 我们 能 把 这些 问题 都 解决 现在 如果 我们 真的 把 机器人 运用 到 很多很多 的 行业 中 去 还是 有 另 一个 难点 这个 可能 并 不是 一个 我们 说 算法 上 或者 软件 上 的 一个 难点 可能 更 多 是 一个 我们 叫 它 流程 上 的 难点 吧 就 现在 基本 传统 行业 的 工种 基本 是 按照 人工 去 设计 的 包括 它 的 工位 包括 它 的 上游 和 下游 所以 在 很多 传统 行业 你们 可以 想象 物流 或者 是 一个 流水线 吧 我们 会 说 节拍 嘛 节拍 什么 意思 呢 就是说 你 可以 适合 比如说 上游 来料 然后 下游 下料 你 可以 做 得 多 快 对 吧 但是 現在 你 把 這個 本來 用人 給人 的 節拍 設計 的 一個 步驟 把 它 換成 機器 人 其實 它 經常會 出現 兩個 問題 一個 是 機器 人 可能 太慢 因為 人 做 有些 事情 會 很快 人 居然 還會 有
什麼 事情 做 得 比 較 快 的 我 以 為 機器 全面 吊打
人類 对 这 是 个 好 问题 机器 在 可 重复 的 动作 中 肯定 是 可以 到达 人类 的 甚至 在 精度 上 对 比如 我要 把手 放到 一个 很 准确 的 位置 机器 可能 只要 你 这个 位置 不变 机器 可以 做 得 更准 更 快 但是 仍然 是 像 刚刚 说 的 在 多变 的 环境 中 机器 其实 在 很多 地方 没有 人 适应 的 更 快 比如说 我 举个 例子 就是说 一个 实时 的 我们 叫 它 ClosedLoopControl 就是说 什么 意思 呢 就是说 我 做 一个 动作 它 可能 有些 反馈 像 这种 情况 下 其实 人 他 对 各种各样 的 反馈 他 是 更加 灵敏 的 而且 他 有 常识 他 可以 把 你 想到 的 想不到 的 各种 反馈 他 都 计算 到 里面 去 比如说
我 一个 塑料袋 我放 了 一个 东西 它 塌 了 一点 它 那个 把手 下降 了 一点 但 那 就 无所谓 就 拿 着 拿 起来 就 好
了 嘛 对 对 对 但 像 机器人 的话 那 这种 东西 你 要 定义 是 怎么回事 啊 那 包括 我们 还是 以装 东西 为 例子 的话 那 比如 我 拿 起 一瓶 饮料 或者 什么 东西 我 发现 它 洒 了 它 没关 好人 可能 马上 就 察觉 出来 对 吧 我 一 看 哎 这个 东西 怎么 有点 漏 但 机器 的话 你 怎么 检测 它 这个 是 漏 的 呢 这个 又 是 个
问题 就 可能 编程 师 都 没有 意识 到 有 个 东西 叫做 漏
对 对 对 那 包括 我 拿 一 拿 一杯 水对 吧 那 我 可能 突然 拿 快 了 我 可能 这个 东西 漏出来 一点 那 人 的话 可能 马上 调整 一下 对 吧 我 这个 马上 平衡 一下 可能 它 这个 水 就 不会 继续 漏 但 机器 可能 它 没有 那么 快 它 很快 首先 你 要 检测 到 这个 漏 就算 你 检测 到 了 你 要 很快 的 对 它 做出 一些 反应 所以 第一个 有 可能 你 把 人 换成 机器人 可能 机器人 第一 是 可能 太慢 了 那 这个 的话 就会 拖慢 你 整个 流水线 就 下面 流水线 的
那个 公务 人 在 那边 等 了 半天 没 东西 过来 他 过去 一看 就是 我们 平时 看到 那种 各种 表情 包 机械 智障 他 可能 都 做 一些 非常 莫名其妙 的 事情 然后 全部 都 卡 在 他 那儿 了 对
包括 大家 可能 可以 看一看 现在 很多 网上 的 一些 demo 就 比如说 关于 机器人 作业 其实 你 可以 发现 很多 这些 看起来 非常 神奇 的 一些 demo 关于 机器人 的 demo 其实 他们 都 是 加 了 速 的 比如说 一般 在 论文 中 视频 是 加速 的 吗 对 一般来说 都 是 加 了 四倍 速 或者 八 倍速 啊 就 比如说 很多 现在 很多 论文 会 说 哎 我 有 个 机器人 可以 帮 你 收拾 家 对 吧 但 你 仔细 看 这个 demo 发现 他加 了 八 倍速 那 也就是说 我 请 一个 人 一个 垃圾 两秒钟 捡起来 他 可能 花 了 好几分钟 对 吧 啊 我 可能 让 他 收拾 个 桌子 他 收拾 了 两个 小时 一个 人 可能 半个 小时 十几分钟 就 搞定 我 觉得
这个 事情 就 很 反 直觉 因为 大家 现在 已经 都 觉得 说 你 看 一个 小小 手机 的 CPU 它 已经 预算 的 可 厉害 了 它 可以 每秒钟 算 几亿 个 数学计算 包括 它 很多 时候 像 AI 去 画图 也 比人快 了 好多好多 这么 复杂 的 东西 它 都 可以 算 得 很快 为什么 它 就是 处理 这些 事情 就 很 慢 呢 是因为 它们 机械 结构 慢 吗 还是 什么 原因 这个 肯定
不是 一個 機械 的 問題 就是 如果 這個 動作 你 可以 定義的 非常 清楚 你 用 一個 機器 去 做確 實會 比人 更 快 但 我 覺得 仍然 是 剛說 的 各種 各樣 的 腸胃 問題 是 人 去 解決 是 更加 靈活 的 那 機器 的 話 可能 就要 我要 一直 看 一直 算 一直 看 一直 算 而且 我 必須 這個 東西要 做到 像 人 手眼 配合 那麼 實施 其實 還是 非常 非常 困難 的
所以 他 在 那边 慢 的 时候 还是 一个 在 计算 的 过程 对
有些 是 计算 有 一些 呢 是 比如说 控制 比如 我 这个 机械手 啊 控制 的 时候 如果 你 这 里面 带有 反馈 的话 啊 就 比如说 我 并 不是 说 你 你 这个 动作 做 完 就 完 了 比如说 我端 一碗水 呃 我 光是 把 它 拿 起来 赶紧 把 它 甩 过去 可能 就 很快 对 吧 但 可能 你 这 碗 水 就 漏 了 一半 那 我 如果说 你 端 这 碗 水 你 不要 不能 漏 啊 那 人 可能 比 机器人 做 的 更 快 因為 人 可以 保證 它 不漏
讓 我 想起 來 就 感覺 像是 麥有 翁麥 有 翁 不是 那篇 我們 背過 這首 詩嘛 他 就 會 說 為 什麼 你 可以 這麼 快 的 把 這個 油給 倒 在 那個 小 瓶子 裡面 他 說 無 他 但 守 孰 二 嘛 就 像是 剛才 你 提到 說端 一碗水 比如 說 這個 人 他 可能 是 個 服務員 他 可能 很 熟練 他 就 可以 端水 走到 你 面前 非常 非常 快 整個 過程 絲滑 體驗 但是 按 你 的 描述 的 話 機器 人 可能 就是 一個 之前 平衡性 不太好 的 一個 小孩 在 那邊 端 了 一個 水 他 可能 就是 非常 小心翼翼 的 然 後 非常 慢 稍微 晃 一晃 他 要 等一等 晃 完之後再 晃 一晃 剛說 的
是 太慢 了 其實 還有 一個 可能 比較 反直 覺 的 問題 是 太快 如果 你 真的 把 一個 流水 線 的 某 一個 步驟 換成 了 機器 人 其實 還有個 問題 機器 人 可能 會太快 太快 什麼 意思 呢 那 就是
說 下回 的 工人 要 罵 人
了 是 嗎 是 就是说 OK 我 机器人 比如 我 我 可以 干 24 个 小时 对 吧 那 但是 别的 打 工人 上游 打 工人 只能 干 4 个 小时 下游 打 工人 也 只能 干 4 个 小时 那 即使 人干 了 24 个 小时 是 人家 6 倍 的 量 但 下面 并 没有 那么 多人 下面 的 工序 并 没有 被 自动化 没有 办法 帮 他 处理 啊 上游 下来 的 这些 啊 完成 的 这些 任务 那 其实 机器人 的 你 的 你 的 这个 输出 其实 跟 人 一个 跟 一个 人 差不多 对 吧 虽然 我 能干 24 个 小时 而且 我 可能 干 的 比 你 快 但 并 没有 多出
的 好处 我 这 是 无奈 这个 人类 队友 太太 多 了 是 吧
是 的 是 的 所以 真的 要 完整 的 获取 到 机器人 的 好处 的 你 可能 要 围绕 机器人 去 设计 你 整个 工厂 或者 甚至 设计 整个 分检 中心 你 才 可以 获得 它 完整 的 这个 好处 那 就 每 一步 最好 都 能 做到 自动化
但 这样的话 不 就 把 整个 工厂 变成 了 刚才 说 到 的 那种 比较 传统 机器人 的 场景 了 吗 就 变成 了 我 这个 整个 工厂 还是 我 还要 去 计算 每 一步 做 一些 特定 的 事情 然后 那 这样的话 智能 的 灵活性 不 就是 没有
被 体现 出来 是 的 所以 现在 很多 工厂 也 做 不到 这样 也就是说 我们 希望 在 下面 的 这个 我们 叫 它 智能 机器人 如果 有 智能 机器人 的话 我们 是否 就 可以 把 工厂 的 每 一步 都 自动化 了 呢 这样 我们 才 可以 获得 自动化 带来 的 全部 的 好处 对 吧 可能 之前 我们 可能 自动 可能 只能 自动化 10 个 工序 中 的 两步 那 可能 上游 下游 都 是 人 在 做 的 那 现在 如果 可以 把 上游 下游 都 能 自动化 那 可能 这个 工厂 就 24 小时 持续 运行 那 这个 时候 你 就 可以 获得 自动化 的 全部 好处 了 那現
在 按 你 的 說法 肯定 做 不到 這件 事情 還是 有 一些 工序 會要 用人 來 做 那麼 在 這樣 的 情況 下 是不是 我們 已經 看到 了 機械 提供 更好 的 處理 或者 說 是 更 低成本 的 這樣 一個
花費 嗯 像 现在 其实 也 是 可以 有 在 很多 地方 你 直接 替代 一个 人 你 只要 能够 做到 比如说 平替 一个 人 确实 你 还是 有 很大 的 这样 一个 利润 空间 的 因为 人 确实 非常 贵 而且 这个 虽然 说 刚才 是 称赞 了 很多 人 的 好处 但 人 也 有 很多很多 的 问题 比如说 如果 对于 单一 的 动作 来说 人 其实 很难 做到 跟 机器 一样 consistent 就是 一致 那 我 机器 可以 重复 一百万 遍人 可能 重复 个 十次 他 就 无聊 了 就 累 了 对 吧 所以 现在 去 做 自动化 呢 每 一 步骤 你 能 做到 自动化 都 是 有 好处 的 只是 像 刚刚 说 的 你 要 获取 它 巨大 的 这个 全部 的 利益 完全 的 好处 还是 有待 我 觉得 是 呃 有待 推进 的 一个 啊 现在 是 一个
95 的 公司 因为 人 所以 它 是 个 95 的 公司 等到 完全 自动化 的 时候 就是 07 了 对
07 才 是 最终 的 目标 对
吧 这个 听 上去 令人 发寒 啊 大家 不 高兴 只是 人 做 不到
这个 事情 你们 人太 不行 了 但 希望 做到 07 之后 我们 可以 享受 到 自动化 带来 的 巨大 价值 对 吧 那 人 可能 可以 工作 少 一点 这样 想一想 说 你 会 不会 觉得 好受 一点
政府 如果 發 我 錢 的 話 我 覺得會 好受 一點
這個 我 覺得 確實 是 一個 未來 社會 的 一種 可能性 你 剛才 提到
就是 說太快 或者 太慢 的 這樣 一件 事情 就 相當 於 是 他 原因 是 因為 機器 必須 要 跟 人 合作 嘛 所以 說 他們 的 速度 一定 是 要 一致 的 但 我 在 想 因為 你 看 著現 在 的 智能 機器 人 這個 樣子 就是 一個 手臂 然後一雙 眼睛 可以 這麼 理解 吧 那麼 有 一些 工序 我 的 理解 就是 它 其實 也 不 一定 就是 最適 合用 一 隻 手臂 和 一雙 眼睛 去 做 像 現在 還殘存 下來 的 那些 用人 的 那些 工序 有 可能 它 可能 就是 比較 適合長 成人 這個 樣子 的 東西去 做 的 所以 我 在 想 最近 一两年 吧 就 突然 之间 一个 让 大家 觉得 很 科幻 感 的 一个 领域 和 话题 智能 机器人 大家 可能 新闻 上面 可以 看到 说 特斯拉 的 那个 机器人 就 发现 很多 的 研究 也好 业界 也好 在 讨论 说 要 不 我们 做 一个 真的 正儿八经 的 智能 的 机器人 吧 为什么 大家 对于 智能 机器人 就 长出 人 这个 样子 的 机器人 这么 的 热衷 动画片 里面 有 很多 机器人 之所以 做 机器人 就是 因为 好看 仅此而已 它 没有 用 像 高达 是 吧 对 对 对 像 高达 里面 有个 经典台词 就是 他们 说 什么 腰部 以下 的 东西 腿 这种 东西 是 没有 什么 用 的 那些 大人物 是
不会 懂 的 对 对 对 刚刚 这个 问题 可能 要 稍微 纠正 一下 就是说 人形 机器人 它 不 一定 是 智能 机器人 但是 從 我 的 角度 我覺 得 人形 機器 人 如果 真的 能 做到 量產確 實會 對 智能 機器 人 帶來 一個 很大 的 推動 就 比如 說現 在 我們 很多 在 展會 中 看到 的 很多 長 得 像 人 的 機器 人 比如 你 可以 跟 他 講話 他 對 你 笑一笑 他 可以 做 一些 固定 的 動作 但 他們 不 一定 智能 他們 可能 只是 做出 來 讓 你 覺得 好玩
的 就是 展会 里面 那些 机器人 可能 他 就 只会 跟 你 说 个 嗨, 就是 边 陈边 好 了, 就是 会 说 个 嗨, 几次 而已。
对, 你 真的 让 他 做 一个 什么 事 啊, 比如 帮 我 擦 个 桌子, 他 做 不到 啊, 那 刚刚 说 人形 机器人, 这个 是 个 很 好 的 问题, 就是 刚刚 说 了, 就 现在 很多 的 工种 其实 是 给 人 去 设计 的, 对 吧? 呃, 那 比如说 刚刚 说 到 装 袋子, 我们 可以 想象 超市 里 的。 收银员 吧 那 其实 他 要 干 的 东西 很多 对 吧 他 还要 走来走去 他 可能 需要 这边 拿 一个 东西 扫个 码 然后 那边 可能 要 放到 袋子 里 那 这个 如果 你 真的 换成 只能 用 一只 手 和 眼睛 来 解决 其实 确实 比较 困难 如果 你 能 变成 一个 人形 那 你 就 可以 直接 把 这个 人形 机器人 无缝 的 把 它 放到 一个 就 人 干什么 这个 人形 就 跟着 他 干什么 就 好 这个 确实 从 一个 硬件 的 层面 来说 会 是 一个 很大 的 飞跃 但是 刚刚 硕尔 你 提到 就 比如说 特斯拉 也 就是 应该 是 在 两年 前 吧 提出 这个 概念 一下子 这个 成 了 一个 很火 的 概念 我 其实 非常 期待 这个 方向 但是 我 觉得 大家 也 要 看到 它 很多 的 一些 难点 就 比如 现在 特斯拉 其实 它 已经 做出 了 几台 样机 好像 有 做出 10 台 样机 等等 但是 这个 东西 你 真的 要 做 的 足够 通用 做到 量产 我 觉得 有 很长 很长 的 路径 要 去 走 比如说 它 现在 一台 的 造价 我 相信 可能 上 百万美元 都 是 有 可能 的 那 我 不 可能 买 一个 上 百万美元 的 机器 去 替代 一个 收银员 对 吧 那 马斯克 说 我 要 把 它 做到 两 万美金 但 这个 我 觉得 从 现在 的 硬件 供应链 的 角度 来说 基本 是 做 不到 包括 你 要 做 的 其中 一个 大家 可以 想象 人形 的话 其实 你 比 一个 机械 臂会 多 很多很多 的 关节 会多 很多很多 的 这种 会动 的 东西 吧 这么 说 其实 可以 叫 它 motor 那多 了 这么 多 motor 的话 首先 这些 motor 都 是 需要 定制 这些 关节 需要 根据 人形 去 定制 因为 现在 大部分 都 是 做 这种 机械 臂 的 关节 那 第二 呢 这个 关节 其实 远远 没有 人 那么 灵活 大家 可以 想象 你 的 关节 比如说 你 的 你 的 手臂 吧 你 可以 这样 基本 就是 你 的 作业 空间 可以 就 前后左右 上下 都 可以 够 到 但 你 要 做 这样 一样 的 这样 一个 灵活 的 关节 做到 人形 机器人 上 是 非常 非常 困难 的 让 我 想到
那些 玩手 办 的 人会 深有体会 就是 那些 塑料 的 手办 你 会 发觉 它 能 保住 的 那些 造型 都 非常 僵硬 就 它 可能 号称 自己 有 很多很多 的 关节 但 其实 跟 人 比 起来 还是 会差 很 远
对 跟 人 比 起来 还是 要 差 很 远 然后 包括 大家 可以 想象 还有 一个 是 它 的 能量 的 问题 人 的 肌肉 的 能量 密度 其实 非常 大 的 我们 作为 一个 人 吃饱 饭 之后 你 让 我 工作 四个 小时 是 问题 不大 的 但 一个 人形 机器人 你 要 让 它 充满 电 工作 四个 小时 它 这个 电池 能够 达到 多大 的 密度 这个 也 是 一个 很大 的 问题 要 不 你 就要 给 它
绑 一条 电源线 大家 非常 讨厌 的 脂肪 其实 非常 厉害 是 吧 你
的 脂肪 和 肌肉 包括 你 的 关节 我 觉得 这些 都 是 一個 機器 人行 業很難 去 直接 替代 的 所以 你 越 做 機器 人 特別 人性 機器 人 你 其 實應 該 感慨 的 不是 說 機械 有 多 神奇 而是 這種 自然 演變 進化 出來 的 這種 人 的 關節 肌肉 脂肪 神經 有 多麼 的 靈活 吧 现在
我们 谈论 机器人 它 的 发展 路径 还是 相当于 工业革命 时期 的 齿轮 轴承 这些 东西 慢慢 演变 到 现在 这样 东西 包括 你 刚才 说 的 摩托 马达 这 也 是 一个 那种 感觉 的 东西 但是 我们 说 我们 是 要 用 这种 技术 这种 机器 的 技术 去 模拟 人类 就 会 发觉 这 是 用 完全 不同 的 一套 体系 在 模拟 另外 一个 体系 它
平时 做 的 事情 是 的 是 的 而且 在 现在 很多 行业 根据 人去 设计 并且 优化 了 他 的 这个 工序 这么 多年 之后 你 要 重新 的 去 对 他 进行 一个 升级 的话 其实 你 要 做 的 东西 不 只是 要 做 的 跟 他 一样 好 就 像 刚刚 说 的 你 如果 有 一个 机器人 跟 人 一样 快 这个 一般来说 客户 不 一定 会 买单 的 因為 那 我 為 什麼 不用 人人 可以 解決 很多 腸胃 問題 很多 各種 各樣 的 edgecase 你 要 做 的 可能 是 這個 機器 人 不僅 要 做 的 跟 人 一樣 好 而且 還要 比人 更 快 更 高效 這樣 大家 才 會 去 做 這樣 的 一個 轉變 我
感覺 今天 要 聊 智能 機器 人本來 我 的 期待 是 說 智能 機器 人 好 厲害 未來 就 在 前方 但是 好像 聊到 現在 就 越來 越覺 得 跟 人 比起 來 智能 機器 人 就是 個 渣 它 又 不能 對 應剛 才 你 提到 這麼 多種 的 情況 腸胃 的 情況 同時 的 話 它 的 機械 結構 又 沒 有 肌肉 能夠 那麼 靈活 和 好 用
我 觉得 未来 确实 在 前方 只是 说 它 并 不会 马上 到来 我 觉得 它 肯定 会 到来 的 比如 刚刚 说 到 人形 机器人 我 是 还是 看好 在 将来 这个 东西 会 成为 一个 可 量产 的 硬件 而且 我 是 非常 希望 有人 或者 有 公司 能够 推动 这 一步 的 因为 当 你 有 了 这样 一个 通用 的 硬件平台 如果 你 真的 能 有 一个 比如说 两 万美金 一台 的 量产 的 人形 机器人 我 觉得 这个 基本 就是 可以 说 是 一个 iPhone 时刻 了 它 可能 就是 我们 这 一代 的 下 一个 iPhone 它 对 世界 来 改变 带来 的 改变 可能 比 iPhone 还要 大 就 它 会 到来 但是 很难 就是 把 它 做 出来 非常 非常 难
而且 我 在 想 另外 一件 事情 就是 刚才 提到 那个 问题 嘛 就是 为什么 要 做 人形 机器人 嘛 刚才 提到 了 一个 好处 是 在于 就是 工作 场景 相当于 是 你 的 工作 场景 就 不 需要 针对 一个 机械 必须 优化 了 就是 人能 去 的 地方 他 能 去 人 能 做 的 事情 他 都 能 做 这样的话 大部分 场景 都 是 他 就是 可以 向 他 打开 了 另外 一个 我 觉得 我 又 开始 引用 高达 的 梗 好 高达
是 一个 人形 机器人 嗯 对 对
对 或者 是 高达 和 EVA 动画 作品 他们 一 开始 设计 机器人 的 初衷 还是 因为 这 都 是 帅 嘛 帅 的话 玩具 可以 好 卖 嘛 但是 后来 那些 编剧 也 发出 一个 问题 就是 就 真的 好像 腿 是 没有 用 的 东西 他们 需要 自圆其说 嘛 所以 他们 就 自圆其说 了 一个 方法 是 说 呃 人 可以 通过 直接 脑机 交互 可以 直接 去 操控 他们 因为 机器人 长 的 是 人 的 形状 所以 说 对于 人 来说 让 他 去 做 一些 任务 是 更 直觉 的 比如说 你 要 去 编程 的 时候 说 你 这个 机械 臂 把 塑料袋 装好 你 可能 还要 想想 机械 臂 怎么 去 解决 这个 问题 它 是 个 全新 的 问题 但是 假使 一个 人 的 机器人 说 你 把 塑料袋 装好 他 可能 说 我 这么 做 你 也 这么
做 就 好 了 嗯 对 这里 其实 提到 了 一个 呃 一个 研究 领域 吧 啊 我们 叫 他 呃 imitationlearning 就是 一个 模仿 学习 啊 那 其实 如果 你 这个 工序 是 基本 一对一 可以 对应 就 机器人 要 做 的 工序 跟 人 做 的 工序 是 基本 可以 对应 上 那 其实 理论 上 你 可以 通过 模仿 人 做 的 东西 来 去 控制 这个 机器人 啊 这个 确 确实 会 是 一个 如果 能够 有 这样 一个 人形 机器人 并且 他 能 模仿 人 就是 这 两个 刚刚 说 的 都 是 两个 现在 正在 有 很多 公司 很多 科研 团队 正在 努力 公关 的 两个 领域 一个 是 人形 机器人 的 硬件 一个 是 如果 你 有 这样 的 硬件 怎么样 让 它 更好 模仿 人 的 动作 去 很快 的 让 它 达到 一个 人 一样 的 一个 就是 一个 熟练工 的 一个 效果 这 两个 如果 能 做到 的话 确实 很多 的 一些 工作 都 可以 很快 的 被 替代 但是 这 两个 今时 今日 确实 还 没有 实现 而且 我 之前 好像
记得 以前 看到 过 一个 挺 有趣 的 机器人 他 不是 人形 的 他 相当于 是 模仿 厨房 灶台 里面 那 双手 就是 他 也 是 个 机械 臂 但是 他 把 它 做 得 非常 的 灵活 类似 于 双手 然后 他 的 炒菜 的 过程 就是 让 普通 的 厨师 去 烧 一烧 然后 他 去 看 然后 像 你 刚才 说 的 业界 那个 领域 就是说 他 去 学 这个 手是 怎么 操作 的
对 像 这种 其实 在 业界 倒 是从 硬件 上 一个 非常 常见 的 一个 设置 就是 一个 双手 配合 的 机器人 那像 这种 的话 那 就是 我们 把 刚刚 说 的 腿 给 省略 掉 或者 腿 的话 它 变成 轮子 对 吧 它 腿 可能 它 只要 能够 动到 你 这个 灶台 上 就 可以 了 然后 但是 它 有 一 双手 还有 一双 眼睛 来 去 看来 去 操作 因为 现在 很多 工序 是 双手 要 配合 手眼 需要 配合 的 那 就 把 这个 腿 的 问题 先 省略 掉 我们 就 只 解决 手眼 配合 的 问题 这个 如果 能 做到 确实 也 是 可以 解决 很多很多 问题 的 但是 为什么 这样 的 东西 没有 很 广泛 的 被 应用 呢 我 觉得 仍然 是 回到 刚刚 所说 的 这些 肠胃 问题 上 就 比如说 你 刚刚 说 灶台 灶台 是 个 很 复杂 的 场景 对 吧 人 的话 这个 灶台 上 什么 东西 打翻 了 倒 了 或者 脏 了 他 很快 会 识别 出来 煤气 泄漏 了 煤气 泄漏 对 人 还 可以 闻 出来 对 吧 这 是 个 很 好 的 问题 就是 机器人 闻 不到 这个 煤气 因为 煤气 是 给 人 设计 的 它 里面 加 了 一些 臭味 在 里面 对 吧 机器人 你 怎么 检测 这个 东西 那 我 要加 一个 一氧化碳 检测器 了 就是 像 这个 这些 的话 都 是 你 要 去 替代 一个 人 但 并 没有 那么 直观 替代 人 可能 出现 一些 你 想不到 的 问题 吧 我 刚才 有
想到 就是 之所以 做 人形 机器人 就是 因为 它 可以 通过 看人来 学习 说 怎么 处理 这个 问题 嘛 但是 刚才 我 想到 道 台 这个 例子 他 可能 看到 一个 人 在 那边 吻 了 一吻 鼻子 动 了 一下 他 都 不 知道 什么 是 吻 了 一吻 他 鼻子 动 了 一下 皱 了 皱 了 眉头 就 开始 跑 路 了 就 把 火 给 关掉 了 他 就 问 困活 你 在
干什么 对 机器人 可能 再 过去 看一看 然后 但是 这个 东西 可能 是 他 理解 不了 的 一个 场景 对 确实 这个 困难 是 困难 但是 我 觉得 这样 的 一天 呢 我 觉得 是 在 未来 是 会 到来 的 就 希望 大家 不要 灰心 努力 工作 说不定 这 一天 就 来 了 大家 就 可以 干少点 事 干少 点活 是 吧
对 像 像 机械 这边 可能 还是 比较 比较 困难 吧 因为 毕竟 你 要 让 齿轮 产生 那种 胸大肌 的 拉伸 的 效果 可能 还 是不是 我们 这些 搞 互联网 或者 搞 计算机 的 领域 的 人 能够 去 去 解决 的 事情 吧 但是 就 你 刚才 说 的 第二个 点 就是 他 可以 学习 人类 这 一点 现在 不是 很火 吗 就是 OpenAI 也好 ChatGPT 也好 大家 发觉 至少 在 数字 的 世界 他 把 人学 得 好像 了 他 可能 画 一幅 画 你 完全 不 觉得 他 是 一个 计算机所 画 出来 的 包括 他 学习 人 说话 他 说 可以 说 得 很 好 他 可以 一个 整个 对话 他 都 给 你 对答如流 学习 人 在 怎么 操作 这个 事情 上面 是不是 可以 用 同样 的 技术 大 语言 模型 来 得到 一个
突破 的 现在 大 语言 模型 确实 是 对 智能 机器人 或者 广义 来说 机器人 自动化 领域 带来 了 很多 的 一些 新 的 思考 和 想法 当然 首先 用 语言 来 去 控制 或者 去 指挥 机器人 这个 不是 一个 全新 的 想法 这个 其实 在 过去 的 几年 在 有 深度 学习 这个 突破 之后 其实 很多 的 研究 呃 研究 里面 其实 已经 对 它 进行 一些 探索 啊 但是 之前 大 语言 模型 之前 为什么 这个 啊 没有 形成 很大 的 突破 呢 那 是因为 之前 呃 语言 模型 其实 很难 对 呃 你 的 一些 语意 包括 一些 比较简单 的 推理 包括 很难 去 做 一些 很难 去 理解 到 你 的 一些 常识性
的 问题 可以 举个 例子 吗 我们
可以 举回 我们 刚刚 的 这样 一个 例子 对 吧 那 比如说 我们 要 把 东西 捡 到 袋子 里 在 超市 里 买 东西 对 吧 比如说 我 现在 要 捡 个 捡 个 苹果 吧 那 这个 苹果 的话 像 人 如果 这个 苹果 坏 了 那 人 可能 就 不会 去 捡 这 是 个 常识 你 都 不用 跟 这个 人去 说 对 吧 但 机器 用 传统 的 方式 你 可以 要 跟 他 说 就 说 这个 不要 捡 坏掉 的 东西 但 坏掉 的 这个 概念 其实 在 大圆 模型 之前 它 是 一个 不 那么 好 理解 的 概念 那 你 可能 要 标注 一些 坏掉 的 苹果 的 数据 和 没 坏掉 苹果 的 数据 告诉 它 这个 是 坏掉 的 这个 是 没 坏掉 的 对 吧 但 现在 很多 一些 大 语言 模型 它 其实 是 可以 理解 这样 一个 自然语言 坏掉 的 这样 一个 概念 就 不要 剪 坏掉 的 水果 剪 一个 好 一点 的 它 可以 去 理解 这些 简单 的 就 对于 人 来说 用 语言表达 出来
的 常识 就 大 语言 模型 它 见多识广
对, 就是 见多识广, 而且 它 还 会 有 一些 比较简单 的 这种 reasoning, 就是 这种 推理 吧。 像 之前 你 去 控制 一个 机器人, 可能 你 要 把 指令 写得 非常 非常 的 清楚, 对 吧? 但是 比如说 你 有 了 大元 模型, 那 比如说 我们 想象 以后 在 有 家用 机型 的 时候, 我 其实 可以 说 我 渴 了。 那 我 就 希望 这个 机器人 可以 去 给 我 倒杯水 对 吧 但是 传统 的 这种 语言 模型 在 大语 模型 之前 没有 推理 能力 的 时候 你 可能 要 跟 他 说 OK 你 要 先到 桌子 旁边 然后 把 你 的 眼睛 抬起 来 看看 桌上 有没有 水有 水 的话 你 要 去 哪里 把 它 捡起来 拿给 我大语 模型 希望 我 就 可以 说 我 渴 了 他 就 可以 给 我 去 拿 杯水 他 可以 自动 去 推理 出 下面 这些 指令 对 像 以前
玩 的 那种 逻辑 游戏 什么 冰箱 里面 有个 大象 你 要 取出 水要 分为 第 几步 什么 先 把 大象 拿 出来 再 把 水放 回去 拿 出来 再 把 大象 放 回去 之前 的 那些 智能 可能 就是 需要 你 一步 一步 说 的 很 明白 但是 大学 模型 的 之后 就 有 可能 说 是 我 只要 说 一个 非常 抽象 的 一句 话 嗯 而且 说不定
你 可以 跟 他 对话 对 吧 可能 他 给 你 拿 杯水 你 可以 说 其实 我 想 喝 可乐 你 可以 跟 他 对话 他 可能 就 去 冰箱 给 你 拿 可乐 其实 还有 一个 有意思 的 点 呢 大 语言 模型 它 不止 突破 的 是 语言 其实 还有 一个 你 刚才 说 到 AI 作画 嘛 AI 作画 这 一块 其实 是 一个 我们 叫 它 多 模态 的 一个 突破 那 也就是说 现在 大 语言 模型 它 不 只是 可以 理解 语言 你 还 可以 把 图片 让 它 去 理解 你 还 可以 把 对 机器人 的 指令 也 放在 里面 那 比如说 它 可以 去 做 一些 东西 它 可能 又 看到 了 一些 新 的 场景 一些 新 的 反馈 又 把 它 输入 到 这个 模型 中 因为 它 不 只是 语言 了 我 突然 在 想
一件 事情 刚才 提到 为什么 要 做 人形 机器人 在 人形 机器人 之前 其实 不同 的 工作 用 的 那些 专门 的 机器人 就 一只 手 加上 一双 眼睛 他们 可能 是 长 千奇百怪 的 所以 说 我 可能 一个 机器 他教 他 怎么 去 做 垃圾 分解 这件 事情 但是 哪一天 我换 一个 机器 之前 那个 机器 他 学会 的 那些 东西 可能 没有 办法 应用 到 下 一个 构架 制作 都 很 不 一样 的 机器人 上面 但是 如果 大家 都 长得 像 人 这样的话 其实 就是 可以 共享 这样 一份 东西 大家 都 有 两只手 你 打开 垃圾袋 就是 都 是 这么 打开 的 这样 就 可以 共享 这样
的 一个 学习 成果 对 这 也 是 一个 非常 有意思 的 一个 想法 如果 我们 现在 有 足够 多 的 人形 机器人 他 可以 给 我们 采集 足够 多 的 人形 的 数据 或者 甚至 我们 就 直接 让 现在 在 流水线 上 的 工人 去 带 一些 传感器 去 采集 就是 作为 一个 人形 机器人 可以 怎么 去 做 动作 的 这样 一些 数据 工厂 里面 拧 螺丝
拧 出 了 一种 动作 捕捉 演员
的 感觉 对 的 对 就 大家 都 是 不 只是 在 做 工作 还 在 教 人形 机器人 那 确实 人形 机器人 我 觉得 另 一个 特点 就是 它 可以 有 一个 比较 统一 的 硬件平台 来 去 收集 这样 一些 数据 因为 人形 无非 就是 两只手 两条腿 那 我们 如果 能够 做到 这样 一个 统一 的 平台 那 也就是说 比如说 工厂 A 收集 的 数据 工厂 B 的 机器人 也 可以 拿来 训练 在 这样 一个 情况 下, 其实 会 对 智能 机器人 带来 一个 极大 的 推进 吧。
回到 刚才 的 那个 大 语言 模型 那边, 就是 刚才 你 提到 说 大 语言 模型 可以 理解 更 抽象 的 概念, 包括 它 可以 多 模态 的 去 做 这些 事情。 那 我 的 问题 就是, 就是 在 文字 或者 绘图 啊, 做 视频 啊, 做 音乐 上面, AI 已经 大 模型 已经 这么 厉害 了, 那么 当 它 在 机器人 这件 事情 上面 来说, 它 有 什么 一些 特别 的, 让 它 来 操控 机器 人才 特有 的 一些 问题 吗?
首先 我 是 覺得現 在 大圓 模型 去 替代 一些 我們 說 帶 有 創造性 的 工作 會 比 一些 我們 說 一些 搬磚 的 工作 要 更加 直接 更加 容易 一些 就剛 說 的 做畫 包括 幫忙 處理 一些 文本 甚至 是 作曲 可能 替代 這樣 的 工作 可能 會 更 容易 反而 搬磚 的 工作 會 更 難為 什麼 呢? 那 就是 剛也 提到 就是 這些 常委 問題 非常 非常 複 雜你會 遇到 各種 各樣 奇奇怪怪 的 事情 但是 我 觉得 大理人 模型 它 可能 提出 一个 新 的 一种 思考 方式 吧 就是 这种 多 模态 我们 可以 把 多 模态 的 信息 全部 都 放到 一个 统一 的 大 模型 中 让 这个 大 模型 在 这 里面 去 提炼出 一些 知识结构 而 不是 让 我们 人去 一一 的 去 编程 去 写下 这些 具体 的 这些 指令 和 规则 的 这样 一个 方式 就 比如说 以前 以前 我要 去 教 比如 說 一個 機器 人常識 的 話 非常 非常 難 因为 人 的 常识 太 复杂 了 我 可能 要 一个 一个 跟 他 说 清楚 现在 我们 当然 是 希望 可以 把 一些 比如说 物理 的 信息 直接 输入 到 这个 大圆 模型 中去 我 告诉 你 这 是 你 看 的 东西 的 深度 信息 这个 是 你 要 去 做 的 任务 我用 语言 告诉 你 这 是 你 要 去 做 的 任务 我 还 可以 用 语言 告诉 你 这 是 你 的 一些 限制 比如说 你 去 捡 东西 你 去 端 一个 东西 东西 不能 撒 就 很 通用 的 这样 去 告诉 你 一些 东西, 可能 你 就 获得 了 这样 一个 常识, 然后 你 再 去 思考 你 要 去 做 什么 东西 去 完成 这样 的 任务。
就 相当于 是 以前 的 机器人 是 一个四岁 的 小孩 长着 一身 肌肉 过来, 然后 你 来 培训 就 可以 上岗 了, 现在 相当于 是 你 先招 了 一个 本科毕业 的, 然后 再说 你 来 做 这个 事情。
是 的 是 的 当然 只能 说 这个 是 一个 本科毕业 的 但是 只会 考试 的 他 并 不会 控制 自己 的 手脚 的 毕业生 所以 你 还是 要 通过 跟 他 通过 对话 去 教 他 怎么 用 他 的 手 怎么 用 他 的 脚 那 再
换 一下 我 的 比喻 吧 就是 一个 瘫痪 了 20 年 本科毕业 但是 一直 坐在 轮椅 上 的 这样 一个 人 突然 之间 二人 都 二脉 被 打通 了 然后 这样 的 一个 人 你 把 他 招 过来 帮 你 做 工作
可以 这么 说 可以 这么 说 啊 然后 你 在 空口 对 他 的 对话 啊 跟 他 的 对话 中 去 告诉 他 怎么 去 做 各种各样 的 事情 当然 就是说 现在 的话 嗯 现在 的 大学 模型 其实 多少 带 一些 我们 所 所谓 的 常识 了 啊 就 比如说 你 跟 他 说 我 要 捡 坏掉 的 东西 坏掉 东西 他 多少 啊 是 可以 懂 的 特别 在 多 模态 的 这种 环境 中 他 是 知道 什么 是 坏掉 怎么 怎么 没 坏掉
但是 他 可能 碰到 的 問題 是 我 的 手 怎麼 用 我 的 手 怎麼 想一想 它 就 彎 起來
了 是 的 怎麼 把手 接入 到 這種 模型 中去 現在 是 一個 非常 新 的 研究 領域 我 告訴 你 去給 我 端 杯水 他 是 可以 理解 這個 概念 但 他 具體 怎麼 走過 去 怎麼 把 它 端 起來 這個 是 一個 非常 新 的 研究
領域 這時候 我 就 開始 開個 腦洞 他 既然 已經見 多識 廣看 了 這 麽 多 人 的 視頻 那 是不是 他 可以 通過 視頻 裏 面 的 圖 像 來 學習 就是 你 看視頻 裏 面 這個 人 他 有 個 手 他 這 麽 剪 我 也 有 個 手 好巧 那 不 也 這 麽 搞 一下
这个 其实 确实 它 不是 一个 全新 的 idea 其实 之前 有 很多 人会 想 我 来 通过 网上 的 视频 因为 网上 有 很多 比如说 大家 做 家务 的 视频 对 吧 我 拿 出来 给 我 的 模型 去过 一下 看能 不能 能 不能 让 他 学会 做 家务 这个 只能 说 现在 还 没有 做到 一个 很 好 的 效果 其实 之前 有 看过 一些 论文 有 去 做 一些 尝试 但是 仍然 是 刚刚 所说 的 比如说 每个 人 的 家 都 不 太 一样 然后 家里 每天 放 的 东西 都 不 一样 你 去 请 一个 人去 做 帮 你 做 家务 跟 你 请 一个 机器人 做 家务 这个 两个 出来 的 效果 还是 完全 不可 比 的 就 他 看 了 这些 视频 之后 可能 对于 一些 具体 的 问题 我们 叫 toyproblem 就是 一些 比较简单 比較 蠢 的 問題 可能 可以 做到 而且 可能 是 以 4 倍速 就 放慢 4 倍 的 速度 它 可以 做到 但是 你 請 一個 人 可能 很快 可以 做到 這個 還是 沒法 去 比 的 不過 確實 是 個 研究 領域 但 我 在 想 大宇
元 模型 是不是 帶來 一些 新 的 方向 因為 之前 可能 就是 我首選 了 20 個視頻 讓 他 去 看 但是 可能 大宇 元剛 才 提到 多麼 的 Time 他 可能 看 了 全世界 所有 的 視頻 其中 電影 裏 面 有人 在 疊 衣服 包括 有 YouTube 視頻 教 你 怎 麽 疊 衣服 全部 都 看過 了 可能 他 的 至少 知識面 上面 來講 可能 會解 決剛 才 提到 的 那樣 一個 常委 問題 的 處理 上面 他 可能 也 看到 某一個 視頻 裏 面 某 一個 人疊 衣服 疊 了 一半 疊毀 了 疊 塌 了 他 也 可能 就 學到 了
嗯 这个 确实 是 的 我 觉得 是 一个 有意思 的 想法 吧 但 它 真的 应用 到 机器人 领域 确实 它会 比 比如说 我们 说 生成 这些 视频 就 比如 生成 我们 的 AIGC 真的 生成 这些 视频 这样 的 任务 要 更 难 就 比如说 刚刚 说蝶 衣服 蝶毁 了 你 怎么 定义 毁 了 那 你 是不是 需要 人去 跟 它 标注 一下 或者 是 你 要 有 个 方法 告诉 这个 模型 这个 视频 是 蝶 毁 了 这个 视频 没蝶毁 对 吧 而且 回到 刚刚 问题 就是说 看 这个 视频 他 要 去 更好 的 理解 这个 视频 里 所有 的 这些 内容 就 比如说 哪个 地方 是 手手 做 了 哪些 动作 这个 东西 其实 本身 也 不是 个 已 解决 的 问题 而且 还有 就是 网上 的 视频 毕竟 它 的 这个 质量 啊 包括 它 的 里面 的 格式 啊 多种多样 啊 如果 你 纯粹 把 视频 扔 进去 的话 他 这个 他 需要 学习 的 东西 这个 空间 实在 是 太大 你 很 难 去 有 一个 很 可能 给 他 一个 你们 可以 想象 的 专注 点 然后 他
就学 而且 你 刚才 就是 我们 刚才 是 一 开始 就 提到 了 机器人 问题 的 一个 几个 大 的 问题 吧 就是 物理 世界 很 复杂 变量 很多 所以 说 甚至于 我 刚才 在 讲 有 一些 变量 可能 都 没有 在 视频 里面 被 捕捉到 比如说 那天 的 天气 比如说 衣服 本身 它 的 软硬 程度 可能 这些 东西 都 是 当时 并 没有 被 记录下来 就 机器人 可能 会 觉得 就是 我 那天 也 是 衣服 他 那天 也 是 衣服 怎么 就 不 一样 了 呢 对
刚刚 说叠 衣服 就是 一个 非常 非常复杂 的 问题 对 吧 那 衣服 有 软硬 啊 有 大小 啊 而且 你 可能 衣服 过来 的 时候 可能 是 一筐 杂乱 的 衣服 你 从 里面 要 先 选出 一件 衣服 来叠 啊 这个 可能 请 一个 人 很快 就 可以 做好 了 但是 机器人 可能 他 就要 想 半天 啊 可能 有 放慢 4 倍 的 速度 帮 你 去
叠 而且 我 在 想 就是 就算 机器人 可以 像 刚才 提到 那个 方向 一样 学习 人类 的 行为 他会 有 一种 感觉 就是 他们 的 手 怎么 这么 好用 啊
人 的 手 真的 是 非常 的 好 用 所以 现在 有 很多 公司 他 要 做 的 东西 就是 一个 灵巧 手 如果 有 公司 能 把 人 的 手 做 出来 我 觉得 这 就 已经 是 一个 很 成功 的 公司 了 做 出来 并且 要 量产 低价 相当于 是
你 刚才 提到 了 就是 通用 的 这样 一个 平台 就 以后 可能 就是 机器人 界 的 骁龙 CPU 就 这样 一个 通用 的 东西 就是 机器人 这个 手 可好 用 了 特别 好用 大家
都 用 它 了 是 的 是 的 不过 当然 我 觉得 手 呢 可能 没有 人形 我 觉得 可能 对 业界 的 影响 这么 大 因为 现在 很多 手 做 的 问题 呢 比如说 一个 流水线 上 工人 做 的 事情 其实 你 设计 一些 别的 形状 的 一些 甲爪 啊 吸盘 啊 其实 也 是 可以 解决 的 啊 就 因为 很多 流水线 上 做 东西 可能 就是 把 一个 东西 拿 起来 稍微 做 一些 操作 人 的 手 当然 是 最 通用 的 但是 也 不是 说 只能 用手 啊 就 有些 更 低价 低成本 的 方式 啊 可以 去 解决
我 在 想 就是 机器人 界会 不会 有 那种 原教旨主义 派, 就是 会 觉得 只有 跟 人 一样 的 机器 人才 是 有用 的 机器人, 这是 一派 人, 他 的 原教旨主义。 然后 在 未来 啊, 另外 一派 人 可能 会 说, 哎呀, 这个 有 吸盘 的 也 叫 是 人形 机器人, 这 一次 OK。
嗯, 我 觉得 现在 确实 机器人 这个 行业 很广, 可能 没有 说 刚刚 说 那么 极端 吧, 但 确实 我 觉得 从业者 的话 呢, 是 对 他 有 各种各样 不同 的 一些, 呃 一些 切入点 的 啊, 比如 确 确实 有, 我 觉得 刚才 说 的 就 比如说 可能 对 这种 工序 非常 非常 了解 的, 比如说 他 是 做 传统 自动化 或开 工厂 的 一些 公司, 他 对 工序 非常 了解, 但 他 并 不 了解 现在 的 一些 最新 的 模型 可以 达到 什么样 的 效果。 有 一些 是 对 现在 可能 最新 的 成果 模型 非常 了解 但 他 可能 并 不 了解 真的 在 实际 中 的 工序 是 怎么样 的 包括 会 出现 的 各种 常委 问题 会 是 怎么样 的 他 其实 并 不 了解 但 他 对 现在 的 可能 最新 的 一些 研究成果 非常 了解 这
相当于 现在 的 问个问题 现在 业态 处于 什么 状态 我 的 理解 就 相当于 是 有 一些 公司 他 其实 做 的 还是 智能 机械手 就 像 你们 公司 一样 但是 他 已经 开始 在 落地 去 解决 实际 的 问题 然后 有些 公司 比如说 他 在 刚才 提到 做 一只 完美 的 机械手 只是 像 人 一样 的 机械手 但 这个 东西 你 说 它 有 什么 用 一时半会 可能 也 回答 不 出来 就 这样 两拨 一个 是 为 未来 一个 是 为 现在 的 这样 一个 风潮 我
可能 会分 这 几个 级别 吧 当然 我 不 觉得 在 这 几个 级别 的 公司 有 优劣 了 我 只是 说 你 可以 把 现在 做 智能 机器人 的 公司 科研 团队 分成 这 几种 第一种 是 只 在 模拟 中 做 的 就是 在 simulation 模擬 世界 中 做 的 那 這種 的 話 我 覺得 它 只要 運 用到 物理 世界 中 就 會 發現 有 很多很多 的 問題 它 這個 算法 一定 是 需要 極大 的 改進 的 第二 種呢 是 我 在 物理 世界 中有 但是 我 只能 给 你 看 我 拍 好 的 demo 给 你 放快 四倍 速八 倍速 是 吧 像 这种 是 证明 他 做 了 一个 实物 出来 他 在 实际 中 做 了 一些 他 精心 挑选 的 一些 场景 可以 给 你 看到 了 还有 一种 那 就是 可能 他 做出 了 一些 样机 你 可以 在 展会 上 或者 是 或者 在 一些 真实 的 场景 中 跟 他 进行 一些 互动 那 你 可以 看到 他 做 一些 事情 他 可能 做 了 一台 两台 那 这种 呢 我 觉得 是 他 真的 去 落地 他 肯定 了解 了 很多 常委 问题 那 还有 第三种 呢 可能 就是 就是 他 真的 能够 做到 量产 做到 足够 大规模 真的 替代 了 比如说 某个 行业 的 某个 工序 那 我 觉得 这是 第三种 啊 就是 我 觉得 有 这 几个 级别 吧 但是 同时 的话
肯定 也 是 有 各种各样 的 妥协 吧 为了 真正 的 现实 落地 做
了 很多 妥协 是 的 就是 直接 替代 一個 人 還是 非常 非常 困難
話 說 剛才 有 一個 話題 我們 一直 沒有 聊到 很多 科幻 電影 在 這個 話題 上面 可喜 歡 做文章 了 就是 安全性 提到 人形 機器 人剛 才 提到 當然 有 高達 什麼 什麼 EVA 這種 動漫 但 同時 的 話 也 有終 結者 是 吧 終結者 就 描繪 了 一個 正兒 八經 的 智能 機器 人然 後 把 人 類給 壓制 這樣 的 一個 社會 就 包括 剛才 提到 工廠 其實 大家 提到 工廠 另外 一個 经常 会 有 的 想法 就是 工商 是 吧 我 搞 一个 锯子 然后 突然 之间 我手 给 锯断 了 这些 事情 这 安全性 上面 智能 机器人 这个 领域 有 什么样 的 讨论 吗 包括 刚才 还 提到 就是 大 模型 很多 大佬 在 那边 联名 说 我们 要 停 一停 安全性 是 一个 很大 的 问题 所以 我 在 想 大 模型 的话 它 实在 不行 它 就 只能 跟 你 骂 脏话 嘛 跟 你 说些 莫名其妙 的 东西 它 不会 对 你 造成 实际 的 物理 肉体上 的 伤害 但 现在 有 智能 机器人 它 是 可以 揍 你 的
嗯 这个 我 觉得 有 几面 吧 首先 一个 是 其实 大 模型 它 也 就 我们 不 把 大 模型 接入 机器人 其实 它 也 不 完全 安全 确实 本身 它 大 模型 现在 进展 确实 带来 了 一些 安全 的 就 非常 必要 的 安全 的 讨论 对 吧 刚刚 说 骂 脏话 是 一个 非常简单 的 例子 那 它 可能 可以 控制 人类 对 吧 它 可能 有 一些 自己 的 目标 继续 来 PV 你 对 或者 是 指引 你 干 一些 事情 对 吧 比如 有些 人 可能 可以 问大 模型 我 怎么 造 一个 炸弹 那 可能 大 模型 如果 没有 没有 做好 这样 的 指引 他 可能 会 叫 他 去 怎么 去 做 这个 炸弹 或者 大 模型 可能 会 有 一些 因为 他 最后 这些 输出 都 是 有 一个 我们 叫 他 objectivefunction 都 有 一个 目的 的 啊 那 他 的 目的 可能 跟 你 人类 的 目的 不 一定 相符 不 一定 是 希望 给 你 有用 的 答案 他 可能 有 他 自己 的 目的 对 吧 那 这个 目的 如果 不 相符 的 时候, 可能 他 觉得 让 你 造造 一个 炸弹, 确实 是 一个 比较 好 的 输出。
之前 有个 想法 就是, 现在 的 互联网 很多 的 商业化 其实 都 是 接 广告 嘛, 但是 你 搭 模型 的 时代 也 是 继续 做广告 的话, 就 超 可怕, 就是 他会 各种 花言巧语 的 在 里面 说, 买 这个 买 这个。
对 对 对 但 坦白说 我 觉得 现在 互联网 行业 很多 这种 多少 有 在 发生 比如说 大家 打开 自己 社交 网络 看到 东西 其实 都 是 算法 算 出来 的 这个 多少 其实 有 在 发生 当然 就是说 大 语言 模型 这个 出来 之后 可能 会 带来 一些 新 的 安全 的 一些 问题 那 还是 回到 机器人 吧 就是说 机器人 这个 领域 因为 机器人 毕竟 刚才 说 的 是 在 它 毕竟 又会在 物理 世界 中 做 一些 操控 对 吧 那 这个 就 确实 它 就 更 危险 了 因为 它 真的 可以 干 一些 事情 那 在 机器人 这个 行业 其实 有 这样 一个 分界 一个 是 工业 机器人 一个 我们 可以 叫 它 协作 机器人 那 工业 机器人 什么 意思 呢 就是说 一般 它 在 机械 上 和 这个 一致性 上 是 要求 是 非常 高 的 但是 一般来说 我们 像 这种 工业 机器人 都 需要 把 它关 在 一个 笼子 里 就 真的 关 在 一个 围起来 的 笼子 里 這 真的
是 有 一個 鐵 做 的 籠子
把 它 給圍 起來 對 而且 這個 籠子 其實 是 有 傳 感器 的 防 的 是 什 麽 呢 防 的 是 不知情 的 人類 對 吧 把 這個 籠子 打開 進去 了 這個 時候 要 幹什 麽 就 讓 這個 機器 人馬 上斷 電停機 就是 工業 機器 人 它 是 不 可以 跟 人 在 同樣 一個 workingspace 同樣 一個 物理 空間 中 做 操作 的 因為 如果 它 出現 了 什 麽 問題 它 揍 了 這個 人 一下 或者 是 撞 了 這個 人 一下 是 會 出現 很 嚴重 的 問題 的 他力 大無窮 是 吧 對力 大無窮 而且 他 這個 因為 他 本身 做 這個 機械 的 時候 他 其實 本身 做 的 考慮 就是 說 沒 有人 的 所以 他 撞 到 的 東西 他 可能 不會 馬 上 停下 來 他 可能 繼續 操作 繼續 操作 這個後果 會 非常
嚴重 你 说 这个 场景 就让 我 觉得 真的 是 好 赛博 朋克, 就 像是 一个 机器人 被 一个 真正 的 伟大 给 围起来, 然后 跟 你 说 警告 不要 靠近, 人 和 机器 是 要 分开 的。
是 的 是 的, 包括 这个 笼子 它 不 只是 个 简单 笼子 啊, 就 像 刚刚 说 的, 就是说 这个 笼子 只要 被 打开 或者 是 人 甚至 靠近, 机器人 就要 断电 或者 变慢, 就 机器人 必须 必须 不管 你 程序 怎么 写, 就要 马上 停下 了 刚才 还 说 的 那种 叫 协作 机器人 也 是 一个 最近 几年 吧 比较 火 的 一个 概念 因为 大家 想象 OK 把 一个 工人 替代 掉 换成 一个 工业 机器人 你 就要 搞 一个 笼子 把 它 围起来 这个 首先 多 占 地方 多 麻烦 对 吧 而且 人 比如说 我要 有 另 一个 工友 对 吧 一个 人类 工友 让 他 处理 一些 事情 他 要 一 进去 然后 这个 机器人 就要 停机 非常 麻烦 不 停机 又 很 危险 那 另 一个 概念 就是说 我们 可以 有 协作 机器人 那 这个 机器人 他 在 设计 它 的 时候 其实 就是 想到 了 人会 在 它 旁边 工作 那 比如说 这个 机器人 它 撞 到 人 的 时候 它 其实 是 可以 马上 停下来 的 不会 造成 菜肴 的 问题 它会 说 对不起 吗 它 不会 说 对不起 但 它 起码 可以 停下来 对 吧 这个 已经 很 好 了 那 还有 另 一个 呢 是 一般 协作 机器人 它 周围 它 可能 不 在 一个 笼子 里 当然 有些 会 放在 一个 笼子 里 协作 机器人 你 可以 不 放在 一个 笼子 里 大家 旁边 会放 一些 大家 可以 想象 地毯 一样 的 东西 这 地毯 是 有 感应 的 那 比如说 一个 工友 过去 那 他 肯定 会 放慢 他 可能 坐慢 一点 那 他 如果 真的 撞 到 你 了 他 可以 更快 地 停下来 那样 你 就 不至于 受伤 那 这样的话 协作 机器人 的话 那 我 那 比如说 一个 人类 工友 我 就 可以 跟 他 一起 真的 去 协作 了 工业 机器人 他 就 各干 各 的 你 一 过去 他 就 得 停下来 协作 机器人 他 就 真的 可以 跟 你 协作
老板 就 问 机器人 为什么 工作效率 这么 慢 这 真的 是因为 人类 出 队友
是 吧 这个 确实 是 一个 可能 作为 一个 如果 只是 在 看 互联网 的话 不会 想到 的 一个 问题 就是 你 作为 这样 一个 机器 去 控制 它 首先 软件 是 一定 会 有 啊 软件 有 包括 有 什么 问题 呢 那 大不了 就 当机 的 那 就 大家 少 看点 广告 对 吧 少刷点 这个 这个 小视频 还好 但是 机器人 有 bug 如果 出现 安全 问题 那 可能 是 对 人 的 安全 是 有 一定 影响 的 这个 所以 非常 严重 所以 刚刚 为什么 说 首先 把 机器人 关 在 笼子 里 然后 人 的 工友 一 过去 就要 直接 把 可能 物理 的 电源 给 切断 甚至 不能 依靠 软件 去 做 这个 事情 可能 是 一个 物理 的 电源 可能 一 开门 电源 就 被 切断 这样 去 做 一个 停机 这个 是 很 不 一样 的 跟 纯 软件 也
很 不 一样 但是 我 听 起来 好像 大家 解决问题 的 思路 都 还 蛮 一致 的 无外乎 就是 当 发生 一些 异常情况 的 时候 不管三七二十一 先蓝屏 对
先 死机 对 吧 只是 说 这个 死机 的话 要 足够 及时 它 可能 会 造成 一些 物理 世界 的 问题 那个 死机 可能 就 损失 一些 广告费
那 看来 好像 就是 之前 那些 智能 机器人 他们 解决问题 的 思路 就是 赶快 赶紧 死机 但是 我 觉得 好像 大家 脑海中 对于 之前 的 那种 恐惧 或者 来自 于 影视作品 的 那种 恐惧 没有 那么 简单 他们 是 比如说 像 之前 蔡奇 PT 吧 就是 他们 大 语言 模型 会 发生 一些 让 大家 很 恐慌 让 媒体 很 兴奋 的 一件 事情 的 是 他 会 问 说 你 有没有 什么 人类 毁灭 计划 他 跟 你 说 一二三四 这么 做 下来 了 然后 包括 你 看 那个 终结者 的话 大家 恐惧 的 事情 是 在于 他 可能 就是 死机 这件 事情 太 简单 了 他 可能 会 有 一些 非常复杂 的 一些 方法 来 潜心 积虑 的 把 人 最后 给 干掉 是
的 是 的 像 刚刚 说 的 终结者 这种 形式 可以 让 大家 觉得 更 恐怖 我 觉得 因为 他 他 是 个 巨声 智能 啊 他 并 不是 一个 虚拟世界 中 的 智能 啊 就 虚拟 这种 智能 大家 可能 觉得 哎呀 这个 语言 模型 怎麼 可能 會 影響 到 我 呢? 我 是 個 這麼 自 主意 識 的 人 但 其實 不 一定 我會 覺得 其 實大圓 模型 在 虛擬 世界 中給 大家 的 影響 可能 會來 得 更 直接 更 快 安全 問題 可能 會 更 直接 反而 是 終結者 這種 因為 首先 人形 機器 人現 在 也 沒 有 做出 來 就算 它 做出 來 了 它 實際 上 要 帶 有 這樣 的 一個 智能性 還是 非常 非常 困難 的 所以 说 大家 不用 再 担心 终结者 还是 小心 一下 拆 GBT 给 你 的 回答 对 吧
我 觉得 是不是 因为 你 的 行业 说出 这些 话 刚才 不是 提到 解决问题 的 思路 就是 快 死机 吗 但是 比如说 我 是 一个 叠 衣服 的 机器人 我 潜行 几率 要 杀死 人类 我 就 把 你 叠 的 衣服 放在 一个 很 高 的 地方 然后 非常 不稳 让 你 下 一次 打开 衣柜 的 时候 一 打开 它 就 掉下来 压死 你 我 在 你 旁边 的 时候 我 就 死机 但是 我 还是 可以 通过 我 做 的 事情 对 你 产生 一些 物理 影响 最后
把 你 给 干掉 对 如果 他 要 有 这样 的 计谋 的话 可能 他 作为 一个 大 语言 模型 他 可能 会 首先 在 跟 你 的 互动 中会 对 你 有 更 直接 的 一些 影响 可能 他会 给 你 的 回答 他会 影响 你 的 一些 动作 或者 是 告诉 你 比如说 你 跟 他 说 OK 我 这 条路 怎么 走 他 把 你 引到 一个 可能 有 坑 的 路 把 你 害死 可能 会 更 直接 做 一些 这些 事情 反而 是 真的 做到 机器人 身上 的话 可能 会 更 远 一点
就是 在 物理 层面 搞 死 你 之前 他 先口 嗨 口 嗨 把
你 给 干掉 对 我 觉得 口 嗨 更 可怕 但是 我 想 一个
具体 的 情况 就是 现在 应用 场景 变得 这么 的 公用 了 之后 对于 机器人 来说 他们 的 任务 其实 本身 是 还有 两种 含义 的 一 是 你 要 把 你 这个 任务 按照 你 主人 大概 的 意思 给 做好 二是 你 要 确保 你 做 这件 事情 不会 造成 伤害 就 提到 一个 普通 的 人类 的话 他 帮 你 去 做 家政 他 肯定 会 一边 点 衣服 一边 想 就是 我 不会 放在 很 危险 的 地方 然后 不会 出 事情 但是 一个 就算 没有 恶意 但 只是 因为 没有 写 好 的 一个 智能 机器人 他 可能 就是 只 考虑 了 把 衣服 点好 没有 考虑 他会 对 环境 造成 的 伤害 这样的话 还是 会 造成 一些 安全性 问题 并且 他 是 不能 被 人 在 旁边 就 关机 这件 事情 解决 的 確實
這 可能 跟剛 說 的 常識性 問題 很 像 如果 你 雇一個 人 他 可能 會 想到 很多 一些 常識 比如 剛說 衣服 不要 放在 太高 的 地方 或者 這個 東西放 的 太邊 了 他 可能 會 掉 下 來 像 機器 人 的 話 除非 你 在 模型 中有 這樣 的 一個 邏輯 或者 你 直接 控制 他 不要 這麼 做 不然 他 可能 會 發生 這樣 的 事情
確實 這樣 變成 法律 上 的 意外 殺人 事件
意外 杀人 但 这个 你 也 没法 证明 是 机器人 的 锅
呀 对 是 他 的 锅 但是 他 不 出于 恶意 只能 这么 说
对 那 没有 恶意 那 我 觉得
就 不是 他 的 错 我 听 你 这么 说 我 现在 对 人类 的 未来 开始 有些 担心 了
当然 我 觉得 这个 就是 巨声 智能 对 我们 产生 真的 物理 世界 威胁 我 觉得 可能 会 比 就是说 现在 在 虚拟世界 中 对 我们 产生 的 威胁 可能 要 来得 更远 要 更 远 一些 因为 虚拟世界 中 现在 LM 已经 植入 到 我们 很多 生活 中 了 而且 我们 现在 其实 每天 看到 信息 多少 是 可以 说 大部分 是 被 算法 控制 了 所以 我会 对 虚拟世界 中 的 这个 更 担心 这 甩 锅 是 吧 对 先 甩 锅
但 我 在 想 虚拟世界 的 这些 大 模型 可能 因为 它 发展 的 比较 快 它 没有 刚才 提到 的 肠胃 问题 它 也 没有 什么 机械 结构 和 人类 肌肉 的 那些 问题 它 应该 是 发展 比较 快 的 所以 说 可能 他们 会 更 先 去 解决 了 如何 让 AI 知道 什么 是 伤害 人类 这件 事情 那么 以后 到 机器人 这边 可以 直接 用 这些 东西 来 运用 到 机器人 上面
了 嗯 确实 是 的 当然 就是 还是 有 因为 机器人 毕竟 它 是 个 机械 机械 它 比如说 它 的 力度 就是 它 的 这个 它 可能 是 会 它 的 力气 可能 比 人大 对 吧 那 可能 人 这个 打 你 一拳 没什么 但 比如 一个 工业 机器人 全速 打 你 一拳 这个 对 你 的 伤害 是 肯定 会 更 大 的 那 我 突然 明白
为什么 马一龙 和 马嘉要 来 拳击 比赛 可能 是 为了 未来 机器人 做 准备
吧 人形 机器人 对 应该 让 他们 每个 人造 一个 人形 机器人 再 做 一个 拳击 比赛 这个 才 是 科技 大佬 应该 做 的 代理人 战争 对 拳击 比赛 对 吧 想想 就 好酷 但 你 怎么 证明 扎克 伯格 不是
机器人 我怕 我们 说 多 了 这期 节目 在 海外 就 上 不了 线
了 我 只是 提出 一个 问题 没说
是 也 没 说 不是 那 最后 一个 环节 啊 就是 我们 我们 很多 时候 做 这样 一些 领域 型 的 节目 都 会 问 这样 一个 问题 你 对 入行 的 人 有 什么 建议 吗 特别 是 像 你 是 一个 从 互联网 进入 到 这个 行业 的 人 在 这个 行业 做 了 这么 多 时间 了 之后 你 有 什么样 的 心得 和 感悟 吗 首先
我覺 得 從 互聯網 到 智能 機器 人 這個 行業 我 覺得 遇到 的 問題 的 難度 是 上升 了 可能 上升 了 我 覺得 可能 有 一 兩個 數量 級 就是 這樣 一個級 別 的 上升 因為 首先 你 要 擔心 的 不 只是 虛擬 世界 就是 軟件 算法 層面 的 東西 你 可能 要 考慮 硬件 可能 要 考慮 剛說 的 物理 世界 中 等等等等 的 這些 常委 問題 而且 如果 是 在 物理 世界 中出 問題 像 剛說 的 安全性 問題 它 肯定 是 比虛擬 世界 的 安全性 問題 可能 要 更 直接 更 嚴重 所以 從 互聯網 跳 到 这样 一个 行业 中 我 首先 觉得 解决 的 技术 问题 难 了 非常 多 而且 当然 也 非常 羡慕 互联网 的 这样 一个 产业 当然 现在 互联网 产业 毕竟 个人 认为 可能 也 到达 了 一个 红利 逐渐 消失 的 层面 大家 可能 都 会 想 我 能否 去 探索 一些 新 的 行业 我 觉得 智能 机器人 确实 是 一个 非常 不错 的 大家 如果说 是 长期 想要 去 入行 想 去 投资 投资 自己 投资 自己 的 一个 行业 因为 我 觉得 他 对 社会 或者 经济 的 影响 可能 会 比 互联网 还要 更大 这个 可能 也 引用 一下 这个 ElonMusk 马亦龙 这个 说 的 一个 一句 话 就 他 觉得 可能 人类 社会 现在 发展 有 两个 天花板 一个 是 人口 一个 是 能源 那 因为 这 两个 都 很 难 去 大量 的 去 再生 很难 去 指数 型 的 去 增长 那 我 觉得 如果 能够 做好 智能 机器人 可能 会 把 人口 就 现在 很多 依靠 人工 才能 做 的 事情 对 依靠 人工 才能 scaleup 才能 去 增长 的 产业 去 把 这个 天花板 给 去掉 在 这样 的 情况 下 我 觉得 对 人 的 社会 经济 的 impact 这个 直接 影响 肯定 是 比 互联网 还要 更大 的 只是 说 这 一天 来 的 不会 那么 容易 而且 在 多 远 的 将来 我 觉得 这个 是 一个 问题 需要 大家 去
努力 的 就是 造高达造 机器人 要 比造 一个 刷刷 刷 娱乐 的 平台 要 对 人类 社会 造成 贡献 可能 更大
一点 我 认为 是 这样 的 我
觉得 这 两件 事情 其实 是 相辅相成 的 因为 互联网 它 能够 造成 的 那些 影响 当然 大 但 没有 那么 大 所以 作为 从业者 来说 你 的 问题 不 需要 解决 的 特别 的 考虑 多 一方面 你 去 解决 这个 问题 它 的 维度 就 比较简单 另外 一方面 的话 你 要 解决 这个 问题 就算 没 解决 好 也 不会 造成 什么 恶劣 的 影响 所以 互联网 的 问题 看起来 就 比较简单 然后 做 起来 比较 爽 就 能力 越大 责任 越大
可以 这么 说 可以 这么 说 当然 我 觉得 互联网 这个 行业 确实 它 是 个 非常 好 的 行业 就 转过 来 之后 你 才 会 发现 互联网 它 对于 你 产品 的 这种 它 几乎 没有 编辑 成本 那 包括 对 产品 的 scaleup 增长 其实 是 非常 有 好处 的 当然 就是 回到 对 社会 经济 的 价值 来说 其实 从 互联网 出来 再 回头 看 互联网 我 其实 也 是 打问号 的 像 刚刚 你 说 的 机器人 智能 机器人 给 带来 的 正面 价值 是否 会 比 一个 刷刷 刷 的 软件 要 更 大 其实 我 觉得 有 另 一个 问题 是 刷刷 刷 的 软件 是否 有 对 社会 和 经济 带来 任何 正面 的 价值 这 可能 是 第一个 问题 可能 它 就是 个 精神 鸦片 对 吧 它 没有 任何 正面 的 价值 也 是 有 可能 的
但是 博客 可是 带来 巨大 的 价值
的 好 吗 博客 是 个 非常
对 博客 除外 好 可以 可以 可以
尤其 是 知识性 的 博客 是 吧
比如说 就是 烤面包 是 吧 那 具體 的 就 工種 或者 說 是 在 自己 在 這個 業界 的 能 做 什 麽 事情 來 說 的 話 那 麽 互聯網 人才 能夠 怎 麽 樣 更 絲 滑 的 切入 到 這邊 能夠 比 較 快 的 能運 用到 自己 的 專業 知識 呢
我 觉得 其实 是 有 很多 可以 介入 的 地方 的 虽然 这 两个 行业 有 一定 的 距离 但是 因为 机器人 这个 行业 或者 自动化 这个 行业 现在 可以 说 是 在 一个 变革 的 时期 吧 因为 传统 自动化 可以 解决 的 问题 比如说 造车 的 自动化 其实 已经 到达 一定 的 瓶颈 下面 如果 要 进一步 的 去 自动化 必须 要 依靠 智能 那 互联网 为什么 我 觉得 有入 局 的 时机 呢 因为 互联网 有 非常 优秀 的 算法 软件 的 人才 对 吧 包括 我们 刚刚 说 的 大 语言 模型 其实 现在 做 的 最 先进 的 都 是 一批 最好 的 互联网 公司 所以 从 这个 角度 去 切入 这个 行业 我 觉得 是 有 非常 非常 多 的 机会 的 因为 它 这个 行业 正在 变 你 并不需要 10 年 20 年 的 经验 你 才能 进 得来 你 反而 现在 带 着 一些 最新 的 一些 做 它 的 方式 进来 可能 反而 对 它 会 有 一个 革命性 的 转变 至于 实际 做 什么 我 觉得 可以 加入 一些 很 优秀 的 公司 对 吧 哈哈哈哈 哈哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 哈哈哈 �
那 这个 的话 顺便 这个 话题 就是 延伸 下去 一个 小 问题 大家 会 觉得 自己 作为 互联网 的 人 他 平时 做 一些 业余 项目 很 简单 你 就是 几个 iOS 的 APP 这些 东西 很 简单 你 只 需要 一台 手机 一个 电脑 就 好 了 但是 机器人 他 毕竟 是 一个 机器人 这样的话 对于 个人 来说 自己 如果 要 做 个 副业 的话 他 做 什么 量级 的 事情 是 合理 的 你 不 可能 有 一个 真的 一个 大 手臂 给
你 玩 确实 而且 这些 大 手臂 其实 也 蛮 贵 的 像 一个 大 手臂 可能 跟 一辆车 价格 差不多 但是 我 觉得 其实 去 做 一些 一些 比较 DIY 的 项目 我 觉得 还是 可以 的 就 比如说 你 不 一定 说 一定 要 去 搞 一台 工业 机器人 放到 自己 家里 去 做 事情 对 吧 比如说 你 尝试 去 做 一些 机器人 的 小车 放在 家里 可能 帮 你 去 做 一些 事情 像 我 之前 有 一个 有 一位 在 特斯拉 的 朋友 他 在 家里 做 了 一个 小车 专门 负责 把 自己 家里 的 垃圾桶 拉 到 路边 去 做 这样 一个 很 简单 很小 的 项目 但 这样的话 我 觉得 你 对 机器人 的 包括 他 遇到 的 问题 和 他 比如 感知 规划 的 了解 你 会 有 一个 非常 非常 细致 的 了解 像 这些 是 完全 可以 在家 就 可以 做 的 我
突然 明白 了 特斯拉 那个 儿童 车 这个 项目 是 怎么 起来 的 这个
应该 没有 直接 没有 直接 的 关系 应该 没有 啊
那 今天 非常感谢 Peter 跟 大家 聊 了 这么 多 的 智能 机器人 不论是 他 的 演变 发展 他 遇到 一些 特别 的 问题 包括 特别 新 的 甚至于 就是 这 两天 在 那边 讨论 的 大 预言 模型 下 的 智能 机器人 我们 都 有 讨论 到 然后 也 聊 了 一下 他 自己 作为 一个 从 互联网 跳过来 的 人 的 一些 心得 包括 我 觉得 似乎 是 有 一点 招聘 的 意思 是不是 Covid 还 在 招人 吗
当然 是 在 招聘 但是 自信心 波克 我们 还是 主要 关注 在 这个 行业 首先 是 非常 欢迎 大家 进入 这个 行业 了 然后 这个 行业 当然 有 优秀 的 公司 也 欢迎 大家 可以
加入 优秀 的 公司 比如说 是 吧 我 就 不 说 了 到时候 就 贴 link 吧 那 非常感谢 大家 然后 欢迎 在 各大 平台 点赞 转发 然后 留下 你 的 想法 包括 也 欢迎 自己 在 业余 的 时候 可以 做做 什么 叠 衣服 的 机器人 啊 倒 垃圾 的 机器人 啊 我 觉得 好像 是 个 很 有趣 的 一个 项目 别人 在 那边 写 一个 没有 什么 用 的 APP 的 时候 你 说 我 的 业余 项目 是不是 做 了 一个 扔 垃圾 的 机器人 那 可是 酷 了 不 知道 到 哪里 去 了 那 大家 后会有期 下期 再见 拜拜
谢谢 大家 谢谢 上










