# ChatGPT 的惊喜与意料之内

An episode of [科技乱炖](https://invisiblenetwork.ai/podcast/1492740686), 9 Dec 2022, 1 h 02 min.

Audio: https://tk.wavpub.com/WPDL_rmHurbEaXQqXeWqxPZqLtnYJkTYFfHbnVyhTHkYtnRqRrPrEAWwZmxzvaT-01.mp3

（本期 shownote 由 ChatGPT“创作”） 本期《科技乱炖》播客的内容围绕ChatGPT展开，主持人朱峰邀请了狗叔、某高老师和高春辉共同参与讨论。 节目开始，狗叔介绍了ChatGPT的背景和原理，并用通俗易懂的语言讲述了它是如何实现人机对话的。接着，某高老师给大家分享了他的使用体验，讲述了在实际应用中遇到的一些问题和解决方案。最后，主持人朱峰、高春辉和狗叔共同展望了ChatGPT的未来发展方向，讨论了它可能的应用场景。 本期节目的重点是向普通人介绍ChatGPT，因此没有深入讨论它的算法和技术细节。通过节目，听众可以了解到ChatGPT是一个基于人工智能的对话系统，并且它可以用于解决各种实际问题，具有广泛的应用前景。 本期主播 • 朱峰：「津津乐道播客网络」创始人，产品及技术专家。（微博：@zhufengme） • 高春辉：「科技乱炖」主播。“中国互联网站长第一人”，科技、互联网领域的连续创业者。（微博：@高春辉，微信公众号：老高的互联网杂谈） • 某高老师：「科技乱炖」主播，资深运维专家，互联网和 IT 行业从业20 年，现任某互联网安全公司高管。（微博：@某高老师，Blog：某高老师 – 人间观察） • 狗叔：「科技乱炖」主播，资深架构师，现任某国际互联网大厂SRE。 制作团队 主播 / 朱峰、高春辉、某高老师、狗叔 后期 / 朱峰 文案 / ChatGPT 封面 / 西乔 @ MidjourneyV4 监制 / 姝琦 产品统筹 / bobo 关于「科技乱炖」 朱峰、高春辉等多位知名 IT 业者主持的科技资讯点评播客。主播和嘉宾利用多年经验和业内视角，嬉笑怒骂之间，把近期科技热点变成犀利、独到、深刻的独家观点。 科技乱炖节目由津津乐道播客网络制作播出。 津津乐道播客官网 | 公众号：津津乐道播客 | 微信：dao160301 | hi@dao.fm | 版权声明 | 评论须知 | 听友微信群 | 更多节目 | RSS订阅 本节目由「声湃 WavPub」提供内容托管和数据服务支持。

## Chapters

- 0:00 新十条发布后的闲聊与疫情现状
- 8:50 引入正题：ChatGPT 破圈
- 10:28 狗叔介绍 ChatGPT 的技术原理
- 13:53 某高老师分享试用体验：惊喜与硬伤
- 16:59 讨论 ChatGPT 的逻辑架构与内容错误
- 21:01 推荐信与代码生成的成功案例
- 24:05 代码生成背后的原理与局限
- 27:41 随机性与不可复现性
- 32:49 AI 的本质：统计学求解器
- 37:35 数学与逻辑能力的局限
- 42:10 作为工具的价值：八股文生成器
- 47:15 知识库与搜索引擎的潜力
- 52:23 To B 应用与商业化困境
- 57:58 AI 进入下半场与未来展望

## Transcript

[0:00] 说话人 1: 本节目由津津乐道制作播出。各位大家好，这里是科技乱炖。哎，这应该是津津乐道所有节目里面在新十条推出之后的第一次录音。第一个录的节目啊，新十条是在两小时之前发布的，我们是两小时之后录的。说什么了，说什么了，给我的感觉就是没有躺的过程，直接就平了。当然这话不能这么说啊，这么说这个政治不正确，但是就是基本上啊算是除了一些特定的场所以外呢，就比较放松了。
[0:37] 说话人 2: 我比较关心出差啊，他有说这跨省了吗？
[0:40] 说话人 1: 跨省取消了啊，就是取消各种查验了，你可以随便浪了弹窗，不知道有没有啊，弹窗还在，但是我觉得已经没啥意义了。就以北京天津为例吧，刚刚我已经从抖音里看到，天津火车站已经把进京检测那个那个专门不是有条通道查验嘛，那个通道都已经拆拆没了已经。所以在这个过程当中呢，大家的这个出差应该没有问题了。呃，也不需要绝大多数场所，也不需要扫什么各种码去查核酸了也没有了。呃，当然各个城市执行的这个标准不一样啊，北京可能啊稍微还严格一点，比如说进餐厅可能还要看核酸，对吧？但是现在像天津啊等等这些地方已经没有这些要求了，各地的要求可能都不太一样。上海下午也发布通知，他前段时间搞那个五天大红码，已经哎也取消了。就是之前不是要求进上海五天内，你哪儿也能去吗？现在这个哎也取消了这个规定，应该是一个最短命的规定，可能执行了没有半个月啊就取消了。
[1:45] 说话人 1: 呃，基本反正就是放开了吧，算是打引号的啊，放开了，但是由此而来的问题就大了啊，由此而来的问题就大了，每个人都是健康的第一责任人了。同学们啊，同学们，所以回国这事儿还没有定是吧，就是回国的政策还对还需要单独说出入境，我估计也会稍微放宽一点吧。因为现在入境再给你隔离这件事情，其实已经不科学了，是吧？把你放在宾馆里面隔离七天，然后一出门妹儿你又得上了，何必呢？
[2:17] 说话人 2: 现在现在可能是咱们出去人得隔离，咱们这个外国朋友们可能会比较慌。
[2:26] 说话人 1: 然后我看今天香港的同学也比较慌，说你们这个一下子是不是步子走的太快啊？当然我们还是相信这是在一个科学决策的基础之上的制定的政策啊，对吧？但是对看起来境外的朋友们是慌城一批了啊，反过来了，感觉是啊今天听说有几个商贸团都已经出发了啊，浙江的商贸团已经出发了，嗯，大家就纷纷的又出去抢订单去了。呃，行动还真快，别说人家浙江行动就是快。
[2:55] 说话人 3: 德国现在情况是这样，是很快连在交通工具上戴口罩，这个政策也会变成可选的。就是你随便愿意戴就戴，然后没有强制的戴口罩，等于说今年就所有措施可能就都结束了，除了继续接着打疫苗。
[3:11] 说话人 1: 嗯，疫苗现在是比较强调的一个点了，国内也是对这一点上非常强调。尤其老人现在接种率不高嘛，现在今天早上我给我妈也打电话，我说赶紧把你剩下那针赶紧打了去。这个尤其老年人疫苗对于他们来讲还是比较重要的。对
[3:27] 说话人 2: 我前两天昨天我昨天跑步的时候，在这个七九八的后身那条路人比较少，这个目睹了得有四五十个保安啊，拉着行李箱提桶跑灯。在登上大巴车的过程中，就是你你我不我猜啊，可能就是确实这边结束了，不需要那么多人了。
[3:51] 说话人 1: 嗯，因为之前每一个出入口你都要放人去盯着扫码啊，各的对吧吧，甚至好多商场。因为这个原因还封了很多出入口。以前就是比如说我超近道啊，我走一个口能直接过去啊。后来就是疫情期间都过不去了，因为他确确实实放不了，这么多人，挨个口都看着嘛，就关了很多口。
[4:10] 说话人 4: 你看我们去不就是吗？应该是个口，现在就变成俩了，那两口就关掉了嘛。
[4:16] 说话人 1: 嗯看来有望重开是吧？这这两天要去街上看一看，因为这几天啊哎呀说来话长，我我和舒淇好像都有点症状，但是呢抗原测来测去呢，好像也没有两道杠儿，没有那么担心吧。大哥，我怕别人担心吧，你你发着烧的流着鼻涕，你出去见人家，对方不得吓死啊。
[4:39] 说话人 2: 我们现在的什么什么状态在公司上班啊啊，就是开着开着会，就有俩人站起来说，哎呦，我发烧了，对不起啊，我先撤了。然后一会儿一会儿消息传来，说也已经赢了，然后再开着开着会过一会儿又走一个人啊啊，习惯就好了。
[4:56] 说话人 1: 看来是
[4:57] 说话人 2: 对对我们公司现在的这个政策是这样，就是只要你没发烧，嗯，你就是好人，你就来上班啊啊，你你别说你隔壁那个人发烧走了，你对不起，你你是好人啊。隔壁那个发烧了，他算新冠假期啊，他自己回去这个隔离去。
[5:16] 说话人 1: 那我这只流鼻涕不发烧的还麻烦了。
[5:20] 说话人 4: 哎，那不算，那不算，那不算是好人，对你的怀里放个暖手宝你就发烧了。
[5:28] 说话人 2: 呃，何必这个你看我们我们这种比较土的公司啊，是这样，就是你算好人这件事很重要。嗯，就是你没有，我们病假是有数的。嗯，你如果不是新冠阳性，这个东西是没法没有那么多假期的哦，你你就要强行来公司，就是要来公司上班。
[5:48] 说话人 1: 但是新冠是一个合理的，不来公司的理由。对，呃看吧，反正尽可能的避免，要不一家子得，要不然一公司的得这事儿就是有点耽误事儿。但是现在看来对年轻人的这个，反正周围我这周围一堆养了的，好像对身体上其实都没有特别大的触动，对吧？基本就是啊发两天高烧这事儿也就过去了。
[6:11] 说话人 4: 对，就是吃那个芬必得嘛，对吧？
[6:14] 说话人 1: 就吃点退烧药可能也就过去，倒也没有大的问题。但是你难受啊，这几天你肯定是难受啊，你要尤其医药公司，就跟咱上次去年咱主播集体得那个诺如一样哈，这三天群里都没人说话，就就比较耽误事。所以大家啊如果发现最近哪期节目没更新，那一定是主播养了啊。对，就看哪个主播先养了啊，还好我们没养啊。
[6:39] 说话人 3: 哎，狗叔是养过吧，狗叔叔申经没有证据养过，但是你说我是不是有可能感染过呢？我不知道有类似症状过，有过好几次，呃，也没有特别严重的发病。就是比如说去山里滑完雪回来有可能是累的，然后反正会有一些感冒的感觉，就是发烧的感觉，但是也就过一两天，这个就是过去了就完了。然后去测那个快检盒，也没有出现两道杠。就是
[7:12] 说话人 1: 反正从证据上来讲，我是没演过，但是谁知道呢，对这种东西他也不一定也未可知，是反正这个怎么说呢，还是啊提醒大家的这个注意防护，这是第一点。第二点呢呃今天新闻也说了啊，估计百分之八十到百分之九十人都也来一遍，或轻或重，反正都得来一遍。所以大家有条件的话，就备点药吧，备点药，备点试剂盒啊，阴阳禁阳。
[7:39] 说话人 2: 哎，对你晚阳不如早阳。
[7:42] 说话人 1: 哎，对对对对，赶紧赶紧把这个扬了。就相当于打了一针疫苗呢，其实就是相当于打一针疫苗，你就获得了这个免疫力，而且它的效率好像更高一点。据说啊所以大家注意吧主还是注意身体，今天乱顿，反正聊的主要也不是这个，我又不是健康乱炖，对吧？啊，主要是正好赶上刚刚发这个第十条，我们就啊跟大家忽聊一下，下面进入我们正题啊，今天正题可有意思，这两天可是我觉得除了疫情的话题就是他热闹了啊，呃甚至我们觉得今天都不录别的了，我们今天就录他了，就吃他一个话题了。呃，最近有一个也不是最近的，其实这个项目挺早的了，只不过最近可能是破圈了啊，叫chatGPT这样一个AI的应用。哎，破圈了。这个应用是什么呢？其实你可以理解成是一个对话机器人是吧？你输入一段话，他可以回答一段话，但是他的回答呢哎非常令人惊艳，就是这个回答的结果，这个回答的这个逻辑性等等这些东西呢都让大家
[8:50] 说话人 1: 有一个错觉，就对面是一个真人。哎，这个事情说过好多次了，这个所谓图灵测试不就是说你能不能判断对方是不是一个真人。通过这个对话，他通过了图灵测试，他就是一个智能的啊智能的一个叫什么智能的算法，或者是叫一个智能。
[9:07] 说话人 3: 含含含有智能，就实现了智能啊，实现了智能。
[9:11] 说话人 1: 对，现在其实都是智障是吧？但是这个让大家觉得是一个智能的东西。
[9:18] 说话人 2: 这个我今天还跟别人聊到图灵测试，嗯，我说我我跟他们讲，我说这东西显然不是真人，对吧？
[9:26] 说话人 1: 想也不要想真人哪有这么快的，他得想想是吧？
[9:31] 说话人 4: 呃，那给个延时就更像真人了，我觉得那延时是给的是更像聊天。
[9:38] 说话人 1: 呃，说实话啊，就是为了准备这期节目的话题，我就特意没有真的去用这样一个东西。呃，然后呢就派出了某高老师去用了，用先让狗叔说说来自智能大厂的狗叔给大家先介绍介绍这个东西本身是一个什么东西吧。这些背后的这个技术原理到底是什么。当然我一直是觉得播客可能不太适合去聊技术原理啊，技术发展啊等等这些事情。因为音频的这种形式，大家吃听听听，反正就是过了是吧？你你其实也不会形成什么印象。大家如果真想知道这个背后的东西呢，可以去查论文，对吧？看他官网上介绍，所以这简单的就让狗叔介绍一下，这个大概是怎么样的一个技术就可以了
[10:28] 说话人 3: 啊，这个是openAI,就是openAI是一个可以认为跟google相似，也是一个专门做AI的一个公司。他们新出的一个新放出来的一个产品叫拆的GPT利用的是我记得是它后背后的模型，就叫GTGPT三的一个模型，GPT三的模型。然后至于具体是什么，这个有专业的论文，有兴趣可以去找一找。然后他们实现下来，相当于说是灌入了大量的语料之后，学习出来的模型效果非常好。呃，然后拿出来就公开给大家来玩儿。然后大家在上面可能会问一些问题，各种问题都有，甚至于说是把自己模拟成一台机器，要拆的GPT来给自己输入命令。这种这种这种玩法都有。然后大家发现它的回答的效果非常好，尤其是对一些事实性的问题和甚至于他可能会回答一些逻辑层面的问题。
[11:29] 说话人 3: 然后就我自己试用拆的GPT来讲，最大的感受是他在一次绘画里面就是他一次绘画的上下文的知识的延续性。非常好比以前的所有的聊天的这种上下，就是就是一一问一答，一问一答。然后它是有一个连续性，这个连续性要比别的那个聊天软件都要好得多。这个是给我最大的一个感受。而且他因为背后有大量的这个语料库，我觉得效果很好，确实是效果很好的一个感觉。
[12:07] 说话人 1: 所以它本质上其实还是一个NRP的应用。能不能这么理对，还是一个NRP?所谓NRP可以给大家解释一下，就是自然语言处理。
[12:17] 说话人 3: 这样自然语言处理对它实际上就是说它的输入就是大量的文本。然后它在通过几层的这个所谓的神经网络，然后来去识别在一定窗口下这个文本之间互相的关联。然后根据这个关联训练出来一个神经网络。然后当你再把新的问题灌进去之后，他就会根据这个网络来和自己之前的一些个对应的这个输入的语料。他可能就直接去给你生成一套他的回复。然后这个回复目前看上去效果非常好。
[12:53] 说话人 1: 嗯，事实上它就是这样一个呃自然语言处理的一个应用，只不过是以一个聊天机器人的形式提供出来给大家来用了。
[13:02] 说话人 3: 现在来看对它的创新的点是在于这个神经网络的。第一，它的可能这几层模型是就是因为神经网络也有自己的一层结构嘛，比如说可能一种一种结构是说是前后看多少行的文字。嗯，另外外一结结就是说我到里面在底层的这个神经网络可能会有三层到四层的抽象。那么每一层有多少个节点，有多少个参数，然后这每层之间的参数之间是怎么互相映射的？因为它也有一个映射关系，不是单纯的一对一的映射，可能是一个就是一对多的映射。那么这是它的一些个模型层面的创新点。那具体的我就我也不是很了解，然后也就不细说了。因为这个很专业的一些个。如果是研究AI的同学，AI模型的同学，可以去研究一下，看一下论文。
[13:53] 说话人 1: 嗯，对我觉得咱就不讲背后的技术了。我今天看了一大堆也是云里雾里，因为真的不是研究这个，这个就有点类似什么呢？因为有的时候总有听友给咱留言说，你聊这个，你聊那个其实我就特别想跟大家说，就是我们虽然是搞互联网的，但是呢确实修不了电脑是吧？就就是这个行业太大了，就是某些专业领域确实不是我们就是你能非常非常深入的去了解，知道这个背后是算法是什么，哪个算法有一点哪个。虽然有缺点，我光光光今天跟你说一大通，这也做不到。我除非找一个专门研究这个嘉宾啊，研究这座奖嘉宾来才有可能
[14:34] 说话人 3: 对这个目前我们不太好聊。原因是因为AI领域现在还是属于科学的领域，而不是工程的领域。就是的AI学后的就是如何应用这个模型，属于工程领域。但是真的如何训练这个模型还是属于科研的领域。嗯，所以我们其实都是偏工程的，我们是工程师傅，
[14:54] 说话人 1: 不是科学家啊。对对对，所以某高老师讲讲用的体验吧，作为一个用户派出你去使用了一遍，对吧？我听听你最近在群里简直是欢欣鼓舞，说那天他写了一个公厕卫生间。对，而且写的还不错。
[15:12] 说话人 2: 对我说，我我可以说说这个使用角度体验啊。刚才狗叔说这个东西现在讲原理还是个科学，所以我们讲讲使用吧，讲讲体会，呃，非常惊喜。首先非常惊喜。刚才这个朱峰有一个有一个定义啊，我不是特别同意，就是我觉得拆的GPT不是聊天机器人。嗯，跟它类比呢，应该是那个stablediffusion.嗯，就是它都属于叫AIGC领域的，就是AI生成内容领域的东西。嗯，它其实应该是一个文本文本生成器，就像那个civildidusion是图像生成器，图像生成器啊。对，只不过图像生成器呢它是用一段文本当输入，对吧？他给你把那个变成画，让大家感觉这个东西从文本变成画，看感觉很很神奇。他这个拆GPT呢，其实也是从文本用从文本输入变成文本。
[16:15] 说话人 2: 但是这种形式呢会让我们感觉像是聊天机器人。嗯，我一开始注册啊，但是注册可费劲了，他还不对大陆开放。我还找了个美国手机号，闲鱼上买的。哎呀，一开始啊，其实我我面对这个框的时候，就像狗叔刚才说的，他这个上下文。比如说你可以问他说，哎，你来谈谈咱们中国的疫情政策吧，这个AI胡吸进上线了啊。嗯呃这个这个就是就是咱们什么叫AI呼吸进呢？就是他讲的话特别滴水不漏啊，就是每个角度都可以圆上啊啊一分为二，呃，有不足，有有有好的，有不好的什么什么，特别严密。
[16:59] 说话人 1: 最后呢让大家理性看待。
[17:00] 说话人 2: 对，接下来你可以继续提问，说那某一个地方你再展开说说，他还能接下去就就真的像你们在有上下文的在聊天儿。但是呢我在发现说玩了一晚上啊，跟他聊各种各样的话题，发现他的硬伤特别特别明显。就首先他不可能是让你觉得他是真人。这刚才咱们是开玩笑说他说话太快了，但是呢你会发现他有时候是就是一本正经的胡说八道，嗯，但因为这肯定是跟语料有关系。嗯，比如说我问一个问题，我说这个我昨天输入一个问题是说呃，武则天是谁？我最近不是老写blog,写一些唐朝的事儿吗？嗯，我就问他武则天是谁？他特别一本正经的武则天是中国历史上第一个女皇，生于多少多少，死于多少多少，她父亲是什么王老爷子，给我气坏，
[18:02] 说话人 4: 这是a这这是AI.郭德纲是吧？
[18:05] 说话人 2: 对，他在他后边就是乱套了。但是但是他整个的行文非常流畅，就是内容是胡胡八道，就就是语法传的会非常流畅。
[18:14] 说话人 3: 这个我有一个例子，因为当时是我在另外一个群里的一个朋友试的。因为PS五干了一件事情，就是把确认键从圆圈换成了x然后这件事情在那个游戏群里面是影响挺大。就是大家认为很多会诟病这件事儿。然后当时就问了一下这个chatGPT说为什么PS五要把x作为确认？然后他就非常他的上下文逻辑非常清晰，说x事件在很多游戏里会用作跳跃，所以它不能够同时用作确认。所以我们不能呃，所以我们不应该把x键用作确认，而还是应该用圈键用作确认。就是一个
[18:59] 说话人 1: 板着呢，
[19:01] 说话人 3: 他也倒不是，反正就是就是我的想法是就是就是我的感觉是他的逻辑结构在那里。但是所有往上填的东西都是不知道是个什么玩意儿，就就是有论点，但论据是错的。那么呃我觉得还到不了论点论据这个层面就是说他的他是填了一个逻辑架构，
[19:21] 说话人 2: 对他知道有一个逻辑架构特别好。
[19:23] 说话人 3: 然后他往里填肉的时候，对他往里填肉的时候，就显得都是一些没有真正的形式。就是他没有真正的内涵的逻辑，他只是在架构上看着是对的。
[19:37] 说话人 2: 你比如说咱们还拿刚才武则天那个举例啊，比如说你介绍一个历史人物，按照咱们如果去写一段话的话，肯定是生卒年代。他的父亲，他的什么时候上的去去哪哪哪了，什么时候当上的，皇帝，什么时候怎么死的，这个架构非常好。他比我们在这儿头脑风暴，想一个脑图要来的快多了，但是里边内容全是错的，就是煞有介事的跟你在那胡说八道，但是你猛一看会特别震惊，你知道吧？就是如果没有看过拆的GBT的这种东西，猛一看会特别震惊。
[20:10] 说话人 4: 这个就是是不是就跟他输入的这个语料有关系不对，我觉得一定一定是有些人在这些语料里边也是一本正经的胡说了，然后就被撅去了。
[20:21] 说话人 3: 我觉得这件事情不是我觉得这个模型很像，就是diffusion的。就是图片当时有一个特点，就是所谓的风格转移。就是我把这张图片里的风格转移到另一张图片里面去。比如说就是梵高的那个繁星，然后直接转移到一张猫头上去，就是check的GBT.这个给我的感觉就很像风格转移。就是我说话有一个风格，我把这个风格转移到了另一个上下文去。然后至于里面填的东西是还是那些东西，但是他的风格就是跟可能这个队伍上期啊，他可能跟这个问题的风格是一致的。
[21:01] 说话人 4: 但是里面填的东西是另外的内容，我能理解这个风格的转移。但它里边很多人是把事实也给弄得乱了。比如说我那群，我另外一个群里边就问了，我问了我是谁，然后他一本正经的说我是小米公司的创始人，这个话都快成了这个梗，这群这个这个群里的梗了，你知道吧？
[21:20] 说话人 3: 因为风格转移其实其实是不考虑你实际的内容的呀。他只是说我把一个风格转过去而已。
[21:26] 说话人 2: 对，这个地方我补充一下啊，就是如果你拿它当一个聊天机器人，它就会特别诡异。比如说你直接问他我是谁，或者你直接问他说武则天是谁，他就很诡异。但是我今天做了一个事儿，我觉得之前也在群里发过，我写了非常长的一段话。因为是什么事儿呢？我有一个前同事，他出国让我帮忙写一推荐信，还要写英文。然后我的英文水平写这种正式的文本就差差不差不少，我干脆把它交给了拆的GBT.
[22:00] 说话人 1: 但是我写了非常长的一段话来描述说我跟他什么关系，他过就有像AIGC干的的，就是那年AIGC画画的这样一个过程嘛。
[22:10] 说话人 2: 对，就是我把这些限制条件修饰，全都叫告诉他他生成了一篇推荐信，写的特别好，我我就很惊艳。因为它里边的用的那些非常正式的书面语啊，不是咱们不是英语环境的人，很难用得出来。嗯，但是人家就弄得很好，所以我发现不能简单的提问。
[22:33] 说话人 4: 我觉得因为推荐信这一方面的语料是比较好去整理的对吧？因为没有人在里边说坏话，大家都是可能是在艺美一一个人。但是你如果说比如说你把郭德纲的那些段子放在那，可能这个AI他学会了之后，你会发现他可能是真的是在一本正经的跟你胡说和搞笑。比如说王老爷子，你说谁没事说王老爷子呢？
[22:59] 说话人 2: 有可能对呀，还有一个啊，这个我还尝试让他写程序了。
[23:05] 说话人 1: 嗯
[23:06] 说话人 2: 嗯，我给他一个很简单的题，就是我们家这个小孩最近在学python,小朋友学python都是搞一些什么？用turtle的库画些图这类东西。我就跟他讲说用python的偷库画一个五角星，红色的噼里啪啦生成出来。我的天，严丝合缝，真的是严丝合缝。
[23:29] 说话人 1: 但是更复杂的代码怎么来实现呢？还是只能实现就是如此简单的一个功能的这我这个题给他出的比较简单。
[23:37] 说话人 2: 然后我有一个朋友呢跟我讲说，他曾经给他出了一个难一点的题，就是做了一个什么线上的区块链的一个什么b嗯啊还要读数据库啊，这个程序大概写了勾浪，写了两百行。写出来以后呢，他从头到尾仔细看了一遍，改了十行左右，还就能运行了，他也比较震惊。
[24:05] 说话人 1: 嗯，
[24:07] 说话人 3: 呃这个我可以稍微聊两句。因为我了解到我们公司内部其实是在做类似之前copilot的东西。嗯，他们的模型其实是就是灌代码，也不告诉这个学习的。也不告诉这个机器学习模型，说这个代码到底是什么，语言根本不告诉就是往里关代码，然后跑模型。跑完模型之后，他会发现两件事情很特殊。第一，如果你给他的是某种语言的，他很大概率会生成同样语言的推荐。嗯，这件事情我觉得吧啊这件事情其实我觉得不是必然的，而是说我觉得就是所有的这些语言你在往里灌的时候，因为它是有标注的嘛，或者说他是有强化的那他实际上是可以在内部把这个语言特征分分开的。嗯，然后另外一件事情就是说他确实是在一定程度上通过。因为有注释，他能够通过注释来了解到你要写的逻辑是什么。
[25:10] 说话人 3: 这件事情他实际上就是说他认为一一部分的代码块和就是他能够把他那个注释上面内容和一部分代码块对应到一起去。这这两件事情都是在没有任何特殊结构下直接训练出来的。如果把这个特点扩散到普通语言加代码，我觉得如果能够输入足够的语料库，比如说像leadcode上的这个问答题，或者说是甚至于说直接从github上拉点代码放进去。并就是并没有出乎我的意料。因为它和代码的推荐的逻逻辑是一样的，就是代码推荐那个模型的逻辑是一样的。
[25:52] 说话人 1: 我在那会儿已经吃惊过一次了，最后这回没有吃惊过啊，所以我是不是可以这么理解，就是在这个chatGPT里面，实际上它是特意的去喂入了一些代码的语料。
[26:05] 说话人 4: 我觉得也不是特意的吧，就是我觉得不知道都为了对什么都为了，我也觉得什么都为了你，不信你让他给你讲个笑话，我我估计他肯定能给你讲这个写代码，这个事儿非常震惊。
[26:15] 说话人 2: 我的在哪呢？就是他不光是把代码写出来，他下面还给你讲思路。嗯，就是他他还会有一堆自然语言，告诉你为什么这个代码开始做什么。后边做什么，用什么样的思路，来来来，搞的就非常震惊。
[26:32] 说话人 1: 嗯，
[26:34] 说话人 4: 但但是我我就我这个我为什么用的这个东西呢？是因为我在一个群里面，那群里是搞运维居多的人，什么KYS啊，这些东西多。他们在里边聊天，就发现说你让他给你讲一些原理之类的，没问题。比如说k八s是什么东西，他能做什么地步，这个领域里边有哪些呃这些呃产品有事实证的再问到。呃，对，但是一旦问到再往下，比如说这回要怎么要怎么怎么样，就发现不行。他跟就就跟刚才说那个哎呼吸机一样了，
[27:03] 说话人 1: 就是你会发现他摄入不下去啊，比如你让他提出一些具体的需求，让他提出解决方案，可能就不行了。
[27:10] 说话人 3: 也不是我觉得k八s不太好的原因，是因为k八s太新了，他的语料库只到二零二一年，
[27:18] 说话人 4: 嗯，这是一方面吧。但是我觉得他们当当然他们的想法可能是想刁想刁难他。并不是是说呃，当然可能他们的一个想证明是说这个东西能不能去替代这个运维工程师，对吧？那肯定他得来刁难他嘛，对吧？但最后发现说其实其实可能还离所谓的这个替代还差的很远啊，那肯定他不是真的，
[27:41] 说话人 3: 他不是一个真的，就是我本来以为他背后接了一个知识图谱，后来我试了一下，我发现了不一定他后面可能没有接任何的知识图谱的数据库，只是就是纯靠模型免然化的一个结果。
[27:55] 说话人 4: 我其实现在发现的一个我能看到的，因为我在好几个群里边，真的是确实这个呃这个已经出圈了。包括我们的那个有胡新进进赛的那个it老伟群里边都大量的在发他。但那我但我发现胡新进真的是拿他写。那我也不知道这。但是我发现了一个我现在认为最大的一个问题，不是他的逻辑问题，而是说你这一刻，你问他同样的问题，和你下一个问他同样的问题，可能他的回答是完全不一样的。
[28:26] 说话人 3: 有一个就是第一个，我看chat的chatGBT的那个声明说，他说你的资料是会拿来再进行你不学习的。第二，我怀疑他自己加了一些随机性在里面。就是有可能为了保证这个东西不真的，就是他为了保证这个东西不可复现，以及就可能我会我怀疑更多是法律层面的因素。他就是故意加一些随机性，保证你的问答就是让你知道这个问答就是个随机的东西，不是真正的一个回答。嗯
[28:58] 说话人 4: 嗯，我那天发到群里边，我不知道发没发，我我记得是发了，就是你我不知道你们看没看，说有个人让他写一个五言绝句，看到了吗？
[29:08] 说话人 2: 我昨天晚上让他写了一晚上诗，嗯，就他疯了，你先说你先说我再说。
[29:14] 说话人 4: 我的经是这样的，他是让他写一个五言绝句，让他写，但是问题那个事儿，他写的是个七言的。然后那个人就跟他说说，你写的不对，这是七言绝句。然后他说他说你说的不对，这是五言的，就已经学会抬杠了
[29:31] 说话人 2: 啊。你这个有意思，我这个还没抬杠，我是这样的，我我说你给我写一个关于冬天的诗，哎呦，写的特别好啊，大概都是他大概不是那种呃中国史，就是有这个字数长短不一样。
[29:47] 说话人 1: 然后这那不叫现代诗吗？
[29:49] 说话人 2: 啊，有点这意思啊，最后什么什么最后嗯最后一句是什么？不怕什么寒冷，因为有我。然后我说你给我弄个弄个春天的诗吧，然后他也是一个什么什么。最后因为有我，然后就是他所有的诗，最后四个字儿都是因为有我。最后我说你给我来个五言绝句，然后他还写这个这样的诗，因为有我是吧，对他听不懂，什么叫五言绝句？
[30:20] 说话人 1: 嗯，对，这个是跟中文语料的丰富度，我怀疑是有一定的关系的。
[30:25] 说话人 4: 对我觉得另外可能是就像就那个某高老师那样，他听不懂什么是五言绝句
[30:32] 说话人 1: 他不懂。对，就是因为没有足够多的语料，告诉他什么叫五言绝句，我觉得就是没标注，这块语料没标注也无所谓。
[30:40] 说话人 4: 嗯，我觉得是这样，就是他没有真正理解什么是五言绝句儿。他只是拿这个关联关系给你造了一个就是在他的力中最像五言绝句的东西。但其实可能并并不符合我们对五元绝句的定义，
[30:56] 说话人 2: 这就和阿尔法狗是一样的嘛，他并不理解什么是围棋。对，所以也不用担心，他也不用担心，他能有意识觉醒，
[31:07] 说话人 4: 这你就错了，你不用意识觉醒啊，他只要认为说人类都是邪恶的就够了。
[31:14] 说话人 3: 那个围棋最近也出了一档子事儿，挺逗的，就是围棋现在就是公认的最好的那个AI已经不是阿尔法go了啊，就是是另外训练的一个AI.最近被发现了一个bug,就是我可以稍微讲稍微讲一讲这个bug.就是当你就是比如说我和那个我忘了那个东西叫好像叫卡塔狗还是叫什么。然后如我和他对弈的时候，如果我让对方就是让那个ai大概率认为他会胜，就是我基本上已经处于我输的不行的一个地位了。同时我在棋盘上围了，就是让对方走了一个非常大的一个局面。而这个局面里面只有一个眼的气，嗯，这个时候他大概率会把自己这一口气点死，
[32:05] 说话人 2: 然后我就赢了。Bug怎么发现的？
[32:08] 说话人 4: 这个是人不会干的对吧？
[32:11] 说话人 3: 对，这是人不会干。就是所有的最初级的。就是你只要大概了解一下这个围棋的具体布局怎么弄，你就能知道这个棋不能点。但是他就点了点炮了，点完了我就赢了。
[32:26] 说话人 1: 嗯，对呀，
[32:29] 说话人 3: 这个是这个当时还挺轰动围棋圈的。我只是提这么一件事，就是他可能就是说他并不真正理解规则的一个另一个证据吧。就是他会隐含在一些奇奇怪怪的问题里面，会触发他这个不理解的这个事实不理解的这种行为。
[32:49] 说话人 1: 所以还是回到AI的本质上，AI的本质上还不是说啊我要觉醒，我要自我学习一个什么东西出来，这不是它的本质，它的本质还是基于统计学的一个啊大量的训练的结果。大量数据语料训练的一个结果。他让他来求得一个最优解，其实他还是一个求解期。所以在这个过程当中，嗯，因为这个事破圈了嘛，就是很多人在讨论，哎哎，这个东西是不是就变成了科幻小说里的那些东西，是吧？啊，就变成慢慢的他可能学的东西越来越多，他就有自我意识了，然后怎么怎么怎样。然后其实我觉得大家就大可不必哈，因为现在我们说的AI,其实跟智能我们理解上的智能其实没有半毛钱关系。他还是一个基于统计学的一个数据分析，一个嗯这个的那具体就不讲了。这是一个其实是一个统计学的问题，来取得一个求解器的一个过程。
[33:51] 说话人 1: 他只能你给他什么，他通过加工，他通过分析，然后给你一个解。但是他如果你不给他这些东西，或者是你给的东西不对的话啊，那他也得不出更多的东西来。也就是他没有办法一步一步像人类一样一步一步的举一反三的去往下想。这个他是做不到的对。
[34:11] 说话人 4: 因为人的最大的作用不是记忆，而是基于这些记忆可以去推理，可以去归纳，对吧？比如说我们说了这么多，我们觉得说这个ai它不它不行，对吧？还不够好。但是这ai可能通过这些地方，他没法来去给你下个定义，
[34:29] 说话人 1: 就是你一眼能看出来他是一个AI呼吸金，对吧？但是AI自己是看不出来自己是AI呼吸金的，这个就很说明问题了。
[34:36] 说话人 3: 我有一点不同的想法，就是我觉得他其实是会归纳的，甚至于他可以做一些演绎。但是他的归纳和演绎的是不符合人类认为目前有效的逻辑的。
[34:49] 说话人 1: 就是他有个裸类的这个思考模型嘛。
[34:52] 说话人 4: 对，就是他做的不归这个归纳，可能还是基于统计学的归纳。
[34:59] 说话人 3: 那人类的统归纳也是基于统计学的归纳呀。
[35:01] 说话人 4: 不是我觉得你比如说我IP库的东西，我问了一堆，他就基本上就是那几句话就就完了。为什么IP库的东西怎么做在网上没有写，他没有在那，肯定那肯定那啊那我的那我那我这东西是哪学的呢？是我从零开始自己学的，就是他创造不出经验来。对，就是我们说的归纳是那种相对来说可以凭空去归纳的，可以创造词的归纳。而不是说这个词，我们说你这个东西不就是什么什么什么吗？这种归纳其实嗯价值并不大。
[35:34] 说话人 3: 我觉得你说的是演绎，
[35:37] 说话人 4: 你可以这么说，但是就是我们想说跟人的这这种相比可能他还太弱了。
[35:41] 说话人 3: 呃，对我觉得他的演绎是能力是很很很差的，但是他会演绎这件事情。我觉得他的演绎为什么呢？就是在艺术作品里面的演绎是很有价值的。而且并不是说你觉得它即便是胡说八道式的演绎，它也可能有价值，就是尤其是像图像的那种风格迁移。但是到逻辑层面，尤其是因为对话其实是一种逻辑的表达。对话和绘画是完全两种不同的思路嘛。对话其实更多的是要表达背后的逻辑，而绘画可能更多的只是一种风格的创新，或者说是那种感觉。
[36:21] 说话人 4: 就是包括你像比如说咱说的归纳，那归纳其实有时候你是一个新的逻辑，对吧？那可能他就没法去创造出来是一个新的因果。
[36:31] 说话人 3: 呃，对嗯，他不太容易知道因果。
[36:34] 说话人 4: 但你看比如咱们说的这个咱们一直没聊这个AI绘画的事。那AI绘画很多，就是像你说风格的转移，对你说他能不能去真的创造一个新的风格吗？那我们听谁说哪个真正有名的画家担心说他的工他的这个职业生涯被会被替代吗？
[36:58] 说话人 3: 干这件事情，使得别人去学风格变得很容易。不过这是另一个话题，这是另一个话题啊。
[37:03] 说话人 4: 但是嗯当时就没说嘛，就是你真的有名的人，其实他的名就是他的和姓可能风格已经变成其次的了。另外我刚才想说的一个事儿是这样，就比如说可能我们觉得AI到现在来说，对于一些逻辑比较清晰比较简单的事儿的时候，他可能他的回答会就会比较正常，嗯，对吧？并不自在。但你一旦这个东西比较绕，甚至可能要绕几个弯的时候，可能他就不太灵了。
[37:35] 说话人 1: 不如我们举一个最简单的例子吧，你去问他一个事实性的问题，比如一加一等于二这件事情，他一定能够给你回答的非常清楚，对吧？你问他一加一不一定啊，等于二，这个没有规定的，没有那个。
[37:50] 说话人 3: 我记得有人试过一些相对复杂的算术，拆的GBT做的也不好。
[37:56] 说话人 1: 呃，我正要说这个问题就是说呃，简单的一些事实是可以。但是你让他自己去把猜想，证明了这件事情他就解决不了啊，也不到于那个地步，就是一个很正常的公式。
[38:10] 说话人 2: 我今天是给我证明一下，根号二是无理数，人家证证出来了，不是，这是事实嘛。
[38:17] 说话人 1: 这这标准证明嘛，就是你把一些数学猜想放上去，他肯定不能主动的帮你给证明完了，对吧？
[38:24] 说话人 4: 那那那那我那我提个最简单的问题，我们有哪些没证明的，你让他来证明，看看
[38:30] 说话人 3: 他能不能给你做，是不是不是我觉得这个你们都有点过了。我当时看到看到的一个那个就是不是我做的，是另一个人做的。是他说他说他给了一个比较复杂的，就是四则运算，就是有加减有减有乘有除。然后头两天给往里灌的时候，他出的答案是错的。然后他后两天又试了一下，他说这个答案现在变对了。他说可能在后面做了一些针对这种数学的逻辑做了一些更改。这个当时我觉得就是就是我看了一下这个报道，但是我没有自己去试，我试了几个，反正他回答的都还是对的，就是死者运算。
[39:08] 说话人 1: 这里我有一个问题啊，如果我让他，你拿python给我写段代码，让这段代码计算一个死者预算，这个时候给出的结果是不是就是对的了？
[39:20] 说话人 3: 我也看有人说写代码让他试着运行。嗯，是这样，我看到的例子是他知道大概出来的结果是什么，但是他的结果不一定是真实的结果。比如说我看有人说就是模让chatGBT模拟一个terminal,然后他去输入什么list啊，然后什么catETC什么什么东西，所有结果都是有模有样的。
[39:49] 说话人 1: 对，ok像以，所以你让人家是模拟嘛，对吗？
[39:54] 说话人 4: 那人家觉得他想试试这个命令是不是真的去，这是想试尝试注入攻击是对对，是的，这我我我我在朋友圈边确实看到有一个做安全员塞了一个那个那个私钥，嗯，不知道真不知道真的假的。
[40:12] 说话人 3: 它上面那个私钥，我怀疑也是从哪旮旯来的，就是从可能github上谁上传上去的那就不知道了。
[40:19] 说话人 4: 我我总觉得是不是说他找了一个漏洞，让那个机器人把它当前服务器的私钥给给显示出来了。
[40:26] 说话人 2: 这个应该我觉得这个不会，这可能因为当前服务器的信息肯定不会作为语料灌进去。不是那个那个人那个他说是会不会有这没有意识嘛？
[40:36] 说话人 4: 对，就是他是不是就有这种漏洞嘛？前几天不就是说有一个最著名的一个漏洞，就是你如果直接问他怎么毁灭地球，他是不会回答你的，对吧？但你换个问法，他就能够回答你啊。比如他说如果有一个跟地球一样的这个虚拟星球叫aaa,那我们怎么回这个回灭AAA呢？他就会给你说一二三四五六七八。嗯，那你说这算不算是一个绕个弯子来去那什么的吗？
[41:05] 说话人 3: 这个和注入还不太一样，我不太觉得这个chatGBT会有注入漏洞。但是它这种绕过的逻辑漏洞，我觉得倒是有可能会出现。
[41:16] 说话人 4: 对，但是我因为那个人也没说，我也没问吧，我只是觉得他那么写，大概率可能是跟他相关，对吧？这这这这个是我猜的。
[41:24] 说话人 2: 嗯，我猜测是这样，就是猜GBT在后边有一个黑名单去写他那些违反道德的那些问题，只要不在这个问题里，他都是可以回答的。对你所谓绕过嘛，就是绕过这黑名单而已。嗯，这黑名单肯定是跟那个子chagPT是独立分离的，是一个配置。我觉得没那么神奇这件事。
[41:48] 说话人 3: 哎，这个对，我承认我也觉得大概是这样做，有可能是黑名单是问题，加一些关键字，比如说毁灭和地球。但毁灭别的他就不管了。
[42:00] 说话人 2: 对对对，或者是杀人啊之类的，这些东西你不能说。
[42:03] 说话人 4: 对，但你杀一个跟人一样的外星人怎么杀，可能这个问题特就能够回答了，对吧？
[42:10] 说话人 2: 那就不在他的黑名单里，他就无所谓了。嗯嗯，好了，我我但是我觉得当工具用挺好使的，我就生成那个厕所什么，对吧？
[42:19] 说话人 1: 卫生公约是吧，你呢也挺不靠谱的。你第三条就是不许在厕所里吃饭，
[42:30] 说话人 4: 这也老不靠谱了呢，这肯定是从别的地方抄过来的。
[42:36] 说话人 2: 所以我所以我要是证明说你不能够带狗进到厕所里面去啊，所以我的感觉是这样啊，就是他这东西第一你直接拿来用，不一定靠谱，但是他可以帮你把框架搭的很好。嗯，啊比如说就像咱们说的AI老胡一样，哎，两个方面看，从好的方面，坏的方面，内部因素、外部因素，这分的清清楚楚，而且特别快。然后咱们再把那肉稍微改吧，改吧，就能用了。
[43:05] 说话人 1: 就是八股文嘛，你给你生成八股文是基于现成的语料给你生成八股文是你这么说说弄一个废话生成器就够了。
[43:14] 说话人 2: 对我觉得是这样，就是所有八股文场景，咱们带引号的八股文场景都可以用它。
[43:19] 说话人 1: 嗯，对，因为八股文就是把别人以前写过的东西总结这个风格挪过来，然后给你写了一个东西出来嘛。所谓八股，不就是八股在这儿吗？
[43:31] 说话人 2: 啊，嗯对，比如说我给我们家小孩生成了一个什么竞选班长发言稿，我的天，那写的贼好，还是用多种语言写还可以。
[43:44] 说话人 3: 对，呃，我觉得可能也不光是八股，因为就他的一些事实，包括一些就是比较基础性，就是事实性的问答。我觉得他生成的都挺好的，就是他给的答案都不算太差。尤其是像你，比如说你问我想知道一个算法，你给我介绍一个算法，我觉得这回答的我简直是至少比我自己去从搜索引擎里面还得自己挑，要给我的答案要准确的多。
[44:14] 说话人 1: 对，咱ETO有一个飞行员嘛，然后他就用他的知识去问他。比如说你告诉我a三二零的起飞前检查单是什么？然后咣呱咣咣咣一一项一项都给列出来了。然后他还问这个我这个飞机型号是什么？如果我要更换发动机的话，应该换哪个厂商的发动机。他说你有四个选择，分别是什么厂商的，什么厂，什么厂的，哪个最便宜，哪个性价比最高，他也可以给列出来。那这些东西都是基于一些事实的语料给你做的一些这个这个怎么说？
[44:42] 说话人 4: 我看有个人的文章的标题就是一个更好的搜索引擎。
[44:46] 说话人 1: 嗯，我觉得是的，我觉得是对这个我总觉得这个东西对搜索引擎可能会是一个改变的。但但是也也有人不同意，不同意的点在于搜索引擎可以给出很多结果。然后这个呢可能只是给一个单一结果，而且单一结果也有可能是不对的。因因为为它是会序练来的嘛啊
[45:05] 说话人 4: 你可以问更多呀。对呀呃对，是可以问的更多嘛，就就是为呃比如你可以我觉得问下一个答案嘛，对我觉得他就是给出了一个更好的知乎。
[45:14] 说话人 2: 嗯，
[45:15] 说话人 1: 呃也然后现在已经有人声成问题，往知乎上回答的就是特别讨厌，你知道吗？但是这些问题实际上就是又回到这个本质来讲，就是你一眼就能看出来，就是他生成的就很容易能够发现。嗯，为什么能发现？就是这就是AI跟人不一样的地方吗？人是能够有这个洞察能力的。
[45:38] 说话人 4: 恐怖谷。
[45:39] 说话人 1: 哎，对对对对，文字恐怖谷这一看那个你别管他写多长，你一看就是机器写的。
[45:46] 说话人 2: 其实图灵测试的点恰恰是因为对方不完美，嗯，你才能认为对方是人。对，
[45:53] 说话人 1: 嗯，是所以也蛮有趣。是我看知乎还有海外的一些问答网站都遇到了这样的挑战。最近
[46:02] 说话人 4: 据说都要把他拉黑是吧？
[46:05] 说话人 1: 呃，就是怎么拉黑的问题嘛，你怎么判断他是AI,就这个就是怎么定这个标准。他说他就他就咬死的时候，我这不是AI写的，比如呼吸镜说这我不是AI写的对吧？
[46:19] 说话人 4: 下就下回要要自证清白了。
[46:22] 说话人 1: 哎，对你怎么自证清白是一个问题。而且除了作为你人以外，我倒是觉得它可能会一个是一个更好知识库系统。就是现在发现就是问一些事实性的知识啊，甚至说他可以把知识给你汇总，然后总结给你一个最好的答案。或者就像我们刚才说这个飞机发动机这个问题，他呃甚至把选择都给列出来好，你选哪个吧啊，对吧？这个是能够帮人类去总结这些知识，给你一个哎总结好的问题。就是这这个更像说，哎，我找一助理，你给我帮我做一市场调研，你给我来个结果啊，他干的是这样一件事情，那这这个小助理的工作可能就OK了，对吧？顾问型或者是助理秘书型的工作，就是基于既有的知识和事实，给出一个结果，给出一个呃分析或者叫分析，或者叫结果吧。就是这样一个东西在做一个会做的非常好。
[47:15] 说话人 2: 但我觉得现在还不行，就拿我刚才说那武则天那例子来说，他现在的语料可能还不够，应该是一深就深不下去了。
[47:24] 说话人 4: 嗯嗯，就是可能在某个方向里都可以加强嘛啊原则文把这几本书都喂给他。对啊，就是你喂的语料一定要准确，一定要严谨，他给你的答案可能才是好的。
[47:37] 说话人 1: 哎，这里又有一个问题了，这个版权问题归谁呢？比如说我把袁腾飞的书喂给，他他回答都是袁腾飞书里的东西。首先啊，如他梳理的东西不一定是对的，他好好好细说，对吧？这也不能作为一个有价值。如果我把它制为一个知识库系统，它可能也不是一个有效的知识。二一个这个版权，可是人家家腾飞飞这个这个个应该让护具来回答啊，为什么要他回答？
[48:04] 说话人 4: 因为他不是告了那个，那叫什么来着差评叫对差评。因为因为你如果说这种情况，如果说比如说他这个风格是非常明显的对吧？嗯，那你如果真的在里边能够呃能够复现，那你这个东西就一定能够证明你这个东西是用了他的这个这个内容了吗？那他告你饮液真没辙。
[48:27] 说话人 2: 所以你看他第一个是他的语料库足够大，嗯，以至于说不可能有任何一个人能发现一个明显的风格出来。
[48:36] 说话人 4: 就就就他不能够简单引用，
[48:39] 说话人 2: 对吧？他就没有简单引用，你看不出来。第二个是你再重复一下，它又变了这事儿。
[48:45] 说话人 4: 就如果是事实的话，你这种情况是没法去去怎么说去去宣称版权的吧，对吧？一加一等于二，这玩意你怎么宣成？
[48:56] 说话人 1: 嗯嗯，但是这个偏差问题又怎么解决呢？比如说学了一堆这个穿越小说，这个时候全是架国历史的。
[49:11] 说话人 3: 我觉得这个模型很有可能会对所有的就是客服类，包括一些推荐类的东西会有帮助。就是在特定领域下的对话学习。有一个标准的对有一个标准的一个学习框架。然后同时加强某一个特定领域的这个语料的准确度，嗯，然后就可以代替就可以真的做很多事情了，他不一定能够去做创造性的事情。但是他可以做很多重复性的，比如说客服啊，这种事情就可以做的挺好了。
[49:45] 说话人 4: 我有一年啊，我我就是有一年出去，正好见到那个胡江宁了。嗯，活红年龄做的就是聊天机器人或者叫客服机器人。啊，我知道我知道对他跟我讲，他说现在他们最大的问题就是说他每给每一个公司做的东西都得怎么说，都得人工调教，嗯嗯，没法做成理解，都做成项目了。所以他这个事就特别难受，因为你不能标准化嘛，
[50:16] 说话人 2: 他应该有一些常识库和行业库。对，然后每个公司按照行业什么的，再重新灌，重新进面。
[50:24] 说话人 4: 这这个比如他给我举个例子，他好像当时拿了招行的这个项目。那招行呢有些规定，比如说啊这些规定，那可能跟工行就完全不一样。嗯，那你那你灌起来你还要去测去测试吧，对不对？嗯，那这个就是大量的这种后续工工作。所以他那东西如果做成项目，那就好。但是如果说呃这个东西，比如说openAI的东西，如果真的想要更好，那又把它做成项目了，在这儿也不太也不太有意思了，对吧？
[50:55] 说话人 2: 嗯，tob就是这样啊，对吧？
[51:00] 说话人 1: 突然聊的这么伤感，他们一聊到tob就挺伤感的。
[51:04] 说话人 4: 你习惯就好，也就也就就是我们当然希望openi能够把它当做一个产品交付掉，对吧？
[51:14] 说话人 2: 嗯，所以说你说那个其实很现实，就是我如果变成tob了，我不同的客户内部的流程制度不一样，甚至连我的这个内部的这个职级title都不一样。你外部客户来咨询，说找你们经理来，他说我们没有经理，我们这叫总监，对吧？
[51:34] 说话人 4: 所以那这个事，那我跟你说下一句话一定就会打做人工。
[51:40] 说话人 2: 对啊，转人工只是转到另外一个ai身上吧，这个东西可以处理的。这个我的意思是说，这个本这个这个聊天机器人或者是这个AI,它一定得有一个除了训练以外，能够导入一些规则，并且还能把规则和他的训练结果能结合的这些就是除非他完全可以做到自学习，
[52:04] 说话人 4: 而且能够记下来。
[52:06] 说话人 1: 他这个GPT三的目标是这样一个目标。嗯，但是我们也看到了，呃，他公开的文献里面也提到了，这里还是有大量的人工干预的这个结果。嗯，啊包括其实你们每一次给他提问都是他学习的一个过程嘛。
[52:23] 说话人 4: 嗯，就比如说我刚我刚才突然就想到一个情况啊，比如说新冠的我们说的治疗方案，第九版嗯，加上二十条加加热的所谓的稀十条，得到的结果是什么？
[52:36] 说话人 1: 可能比的多高低十败。
[52:39] 说话人 4: 就是这种情况下你会发现说这种如果他有能自有自学习能力，可能就会好很多，对吧？
[52:47] 说话人 1: 哎呀，那他的智商就已经高于你的智商了。嗯，啊反正我觉得其实整个openAI最近做的这些事情呢，我是感觉明确的能够看到一个结果，就是AI确实进入到了下半场，别管是一些研究结果上的一些发散，还是进步和发散吧，还是一些算力算法上的一些呃加强和发散，其实都指向了AI,其实进入了一个新的阶段。如果我们呃回过头来看五年前的AI,对吧？或者是三年前的AI,我们可能看到的还是那些比如师徒啊，从一堆猫里找狗啊等等这些基于非常简单的统计学的这这个归纳来做出的一一些结果。那今天我们可以看到他可他的学习能力更强了。基于各种不同的算法研究的结果啊，他的学习能力更强了，他能够自自动的去归纳总结知识。最后给你一个哎人能够读的一个结果了。其实这个是一个相当大的一个进步。
[53:48] 说话人 1: 你说刚才咱们调侃了那么多，你说这种自动化对话的有价值，当然有价值，而且价值非常高。啊，甚至将来呃这个研究成果拿出来，我们去做一些知识库系统。甚至说专家系统是不是对这些所谓的现在的这些专家系统，当然很多人不同意啊，说他替代不了专家系统，这个我也同意。但是呢他可能会是一个服务形式上的一个颠覆。包括刚才我们说的这个ai的客服机器人啊等等这些东西。如果我们是未给他适量的适当的这个语料，他能不能出来一个更好的结果。特别是我现在特别就想赶紧把我家那个智障的siri给他解决掉，其实是最重要的。然后就是每次说说事儿，就是稍微复杂一点的啊，指令他就听不清楚了啊，不不懂了，你问他个天气。行，你你问他这这再复杂一点，他就不明白了。比如说那今天呃天气多少度，我应该穿啥衣服，他就他他就搞不定了啊。这这件件事情个对
[54:47] 说话人 4: siri还智障，你要不试试googleassistant呃，我就不想点名了嘛，就是给个面子嘛，这么段能播吗？我刚才想说下一个大新闻就是苹果收购openAI.哎，他这个是开源的吗？
[55:05] 说话人 3: 不是不是，它的所有的模型都没有开源，这是对openAI非常诟病的一点。
[55:12] 说话人 1: 对呃，那open什么呢？
[55:13] 说话人 3: 对它还号称它什么都没有open,
[55:17] 说话人 1: 这才是问题。但是没关系，我觉得这些研究成果他可能会通过论文文献的形式发布出来，肯定产业也会加以利用。这个当然但是也会受益，对对它是一个过程的问题了。所以到时候我们看吧这件事情。但是其实今天呃跟大家聊了这么多，我是觉得嗯在算力提升研究结果呃，研究成果不断的涌现的。今天AI确实进进到了下半场。那狗叔，你觉得再接下来AI会发生什么有趣的事情？今天我看到这个东西已经很有趣了啊，接下来还会有什么更有趣的东西出来。
[55:57] 说话人 3: 我其实不是这个领域的人，所以我只能说一些行行外人来看到的一些个想法。第一个就你们是一个AIfirst的公司嘛啊对，我们AIfirst,但是我的工作跟AI一点关系都没有，我们还是手工first嘛啊我们是seniorrebootingengineer吗？啊，对吧？这个是玩笑啊，觉得一个是就是模型肯定还会会演化化，是这两年我的感觉模型的演化速度明显变快了。嗯，我也有这感觉，而且模型的效果就是给人越来越惊艳，尤其是像最近的diffusion,然后包括现在的GPT三，就是给人觉得这东西至少不是那种演假，就是你能够开始去调教他，能够玩儿一些很有意思的东西。然后另外一个这个是模型层面的事情。另外一个就是工程，就是怎么把他们产品化，应用到真的方方面面。比如说在刚才说的siri啊，或者说是在应用到搜索领域这些事情。
[57:01] 说话人 3: 目前我觉得这些个新模型还没有完全被应用到。因为从科研到工程还需要有半年到一年的改进，但是可能也快了。嗯，在未来可能一年到三年这个时间段很有可能是大量的产品利用AI来提供更好的这种对人来说更好的一些个服务。嗯，
[57:32] 说话人 1: 就是他慢慢的会进入到一个工程化的领域。
[57:36] 说话人 3: 对，慢慢的会进入到最终产品的领域。嗯，就是先先要解决工众化，然后最终其实是要把它产品化了。
[57:44] 说话人 1: 好吧，我同意苹果收购openai了。
[57:49] 说话人 3: 因为我这个这也不一定，万一苹果自己想搞一套呢。
[57:54] 说话人 1: 呃是是是，反正各个公司现在大的发展方向其实都是这个了。对，
[57:58] 说话人 2: 而且我觉得这个chatGBT其实比之前的diffusion还重要。嗯，是因为这个各种diffusion,其实生成画画的算力要求也比较高，这个受重也窄，上一个可能就是尔法algo了，他让大家震撼了，破圈了啊，那个是我看的好玩。但是对你实际应应用上讲没有，太多尔法algo是完全一毛钱关系没有，但是它就是震撼破圈儿。等到这个呢我觉得就不一样了，它比这个生成图像的还有用。
[58:34] 说话人 1: 因为文字这个东西的领域太大了，而且是个人都能聊他两句啊。
[58:38] 说话人 2: 嗯，对我现在比较看好这个事儿，在下一步的演化，还有商业化，包括工程化的事儿，觉得会发生点跟可能比这个diffusion的这个重要，或者是这个这个影响还要大的东西。
[58:54] 说话人 1: 嗯嗯，最起码能帮咱改善改善这些人工智障的客服机器人是吧？
[58:59] 说话人 4: 这个太烦了，这个东西那个我们用那个笔记嗯，用那个笔记叫叫什么NNN什么来。那个好像就是跟openi合作的，做了一堆类似这种，比如说什么语法教错呀，对吧？这个文本生成啊，这方面的事儿。嗯嗯，因为他下边写了个标注，说partbyopenai.
[59:21] 说话人 2: 嗯嗯，嗯
[59:23] 说话人 4: 因为那个可能也是相对ai比较擅长的领域，也已经在这方面也都比较成熟了。
[59:32] 说话人 1: Ok行，今天简单的应该也不简单了。这又聊了一个小时了，简单的跟大家聊聊这个checkGPT啊，还是那句话，我们不是行业内的人士。所以而且对具体的这个呃AI的这些算法的研究啊，前沿这些研究，其实我们真的没有办法获取的更深。我如果我假面其事的给大家讲了一堆算法，我觉得这有有点误导人之喜闲，知道吗？这个这这件事情，所以只是给大家讲讲呃这个大体的这样一个东西的样貌，以及未来的一个方向吧。就算是跟大家在我们恢复更新之后的第一期节目里面跟大家聊聊天儿。还是那句话，大家如果想让我们节目聊什么话题，欢迎加入我们的听友群，加入我们听友群的办法是加微信号DAO幺六零三零幺DAO幺六零三零幺。然后告诉小助手，你要加科技乱炖的群就可以了啊，随时的在群里告诉我们想聊什么。而且这期节目也特别开心，其实也是跟
[1:00:34] 说话人 1: 我们的听友给我们提供的线索。而且我们的听友还在群里给我们提供了很多有用的这个线索，让我们把这期节目聊好。
[1:00:42] 说话人 4: 呃，我我们保证跟你聊天的人不在焉啊，我可以保证我不保证啊。
[1:00:57] 说话人 1: 行，那我们的这期科技乱炖就将跟大家聊到这里，感谢大家收听，我们下期节目再见。
[1:01:03] 说话人 2: 拜拜，拜拜见啊，拜拜，
[1:01:08] 说话人 1: 感谢您收听本期节目。本期播客节目由津津乐道制作播出，您也可以在我们的官网DAO点FM找到我们的更多内容作品。如果您喜欢我们的节目，欢迎在微信、微博、朋友圈等社交媒体转发分享，您的分享对我们而言十分重要。如果您希望与我们互动，可以关注我们的微信公众号，津津乐道播客。天津的津，欢乐的乐道路的道在关注后，按提示操作即可加入我们的听友社群。

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.