No.417 自然语言处理的句法分析流派

上一期电台讲的是1956年第一界人工智能大会——达特茅斯会议。在上一期电台中,我讲了日后不同流派都参与了会议,唯独缺少自然语言翻译这个流派。为什么会这样呢?原因也很简单,自然语言翻译这个流派起步早,走的远,但是没有意识到自己也是人工智能不可分割的一部分。当然了,后来就不同了,人们意识到,自然语言处理不仅是人工智能,而且可能是最先取得突破的那部分,当然了,这是后话,自然语言处理也是进了好几次ICU才抢救回来的,否则不可能有今天。

自然语言处理跟IBM也有非常大的关系。如果大家长期听我的电台,会知道上世界50年代,各家计算机公司打的头破血流,当时冷战时期,大家都在拼命的提高自己的科技能力,当时IBM开发了自己的IBM 701计算机,这台计算机也被称之为“国防计算机”,其研发的目标是用于朝鲜战场上。这台计算机成功的奠定了IBM在计算机历史上的地位,有钱了,就得做点事情,加强这个地位。所以IBM会到处给钱,给机器,让大学或者研究机构基于它家的机器做点事情。基于这种情况,IBM给了一台IBM 702给乔治敦大学,做的事情是把冷战时期苏联的文档,一键翻译成英语。显然,这个项目最初也是为战争服务的,他们还限定了一个领域,使用机器翻译来翻译俄语,领域是在无机化学上。这就是大名鼎鼎的乔治敦实验。

这个项目搞了两年,到1954年,这比达特茅斯会议还要早两年,所以,人工智能的第一次会议到底算在谁头上,不好说啊,乔治敦大学和IBM公司共同举办了一次公众展示,展示了一个早期的计算机自动翻译系统,它能将俄语句子翻译成英语。这个实验涉及了大约60个俄语句子,它们被翻译成英语以证明机器翻译的可行性。这次展示引起了很大的关注和兴趣,因为它表明计算机可能在语言翻译方面具有潜力。这次翻译之后,大家开始扎堆到机器翻译这个领域,高烧一直持续了十年,十年后,高烧退了,机器翻译直接被烧进了ICU,落寞了很多年,直到后来又被人拾起来研究,这是后话。反正,人工智能的每一个领域都反复坐过山车,起起伏伏的。要有一颗大心脏以及有眼光的人持续不断的投入,才可能取得成果。跟风只能跟一时,风头过去,就一地鸡毛。

当时的技术非常原始,而且翻译质量与人类翻译相比还有很大的差距,乔治敦实验仍然被认为是自然语言处理(NLP)和机器翻译(MT)领域的一个重要的历史事件。它标志着计算机翻译研究的开始,预示着未来计算机可以在语言理解和翻译方面发挥作用。当时大家都不知道怎么做,到底怎么样,计算机才算理解了句子的涵义?这个到今天依旧公说公有理,婆说婆有理,莫衷一是。当时做了严格的限制,总共只有60句话,据说俄语的语法跟英文的语法有些类似,所以他们想办法搞了6条规则,把这60句话中涉及到的200多个单词搞了很多遍,最后翻译出来的质量非常的不好。本来这台机器是给朝鲜战争准备的,还有个下一步计划是做中英翻译,显然他们低估了俄语,更不要说中文了。俄语也是多少个字母文字,至少有办法通过纸纸带输入到计算机中,但是当年中文连通过输入纸带的方法都没有,只好作罢。中文可能比较难,今天我用GPT4,来理解下面这段话中的意思,GPT4都不能很好的理解:阿呆给张领导送红包,两人对话颇有意思。张:你这是什么意思?阿呆:没什么意思,意思意思。张:你这就不够意思了。阿呆:小意思,小意思。张:你真有意思。阿呆:其实没别的意思。张:那我就不好意思了。阿呆:是我不好意思。

自然语言处理的第一次火爆就是这样起来的,很多的机构,尤其是军方,都配置了IBM 701系列机器,用来做翻译,结果发现实在是不太靠谱,钱都给IBM赚去了。他们用了10年,到1964年的时候,终于不想做冤大头了,找了个第三方机构来评测一下,这些钱是不是打了水漂啊?于是美国科学院成立了一个自动语言处理顾问委员会,简称ALPAC(Automatic Language Processing Advisory Committee),这个委员会拿了一笔钱,搞了两年,写了一份报告,报告的名字叫《语言与机器》。这份报告对当时的机器翻译(MT)技术进行了评估。报告结论是,机器翻译的质量还远未达到实用水平,而且在可预见的未来内也不太可能实现。报告建议减少对机器翻译的投资,转而支持其他类型的语言学研究,以及使用人类翻译。

ALPAC报告对当时的机器翻译研究产生了深远的影响。报告发布后,美国政府大幅削减了对机器翻译研究的资助,导致该领域的研究几乎完全停滞了近十年。这段时间被一些人称为NLP的“冰河时期”。但是,我们也要客观一点,尽管ALPAC报告对机器翻译的发展产生了阻碍作用,它也间接促进了计算语言学和自然语言处理其他领域的研究,包括语料库建设、语言统计模型的发展等。长远来看,这些研究为后来的机器翻译技术的复兴和成功打下了基础,尤其是随着计算能力的增强和统计方法的应用,机器翻译在21世纪取得了显著的进展。

在机器翻译技术被打入冷宫之后,如果还有人研究,一般来说,这个人是真的热爱。因为没有钱拿了,还自己研究,这种人除了热爱,我找不出第二个理由。这种人非常非常少,我反正没见过,只在电影中看过,如果大家看过一个叫《爆裂鼓手》的电影,也许能体会到一点。我身边,包括我自己,都不是这种人。我性格太过于懦弱,所以,一事无成。幸好,这个世界上有那种为了真爱投入一切的人,在自然语言处理中,就有这么一位有着无穷精力的家伙,他的名字叫——乔姆斯。

我先来介绍一下这位不可忽视的牛人,他出生于美国,一生是个刺头,一身反骨。如果放在中国,那肯定是被骂死的人。他出生于1928年,有多聪明我觉得就不用说了,肯定比绝大部分人聪明,老天爷赏饭,他随便就上了宾大,在大一的时候,就去听宾大里博士的课程,觉得就这,有什么好研究的,傻子都会的内容,还要老师教?于是,在学校里混了一年之后,就觉得退学不干了,全都会,老师教不了,没办法。宾大里也有牛人,有个教授听说了有这么个刺头学生,就找来问问,看看是不是学武的奇才。找来一看,觉得有点天份,就说,别学了,你不啥都会么?我这里有一本尚未出版的书,研究人类语言的,这本书叫《结构语言学方法》,本人是开创结构主义语言学的开山祖师,会说12门语言,你要不试试?

有挑战才有意思,于是乔姆斯没退学,直接跟着这位老师,哈里斯读硕士了。哈里斯虽然没有他的学生这么出名,但是,由于他学生太出名了,所以他也就更出名了,碰上一个好学生,是非常非常重要的。就跟古希腊哲学家一样,大家一说,就知道最著名的人是苏格拉底,为什么知道他,因为他的学生是柏拉图。虽然苏格拉底没有留下任何文本,但是架不住柏拉图天天说这是我老师说的。柏拉图也很幸运,他有个学生叫亚里士多德,亚里士多德又是帝师,他有个学生叫亚历山大大帝,这些哲学家之间的师徒关系非常重要,因为他们的思想不仅相互影响,而且一代代传承下来,对后世产生了深远的影响。像我这种,别说传播老师的思想了,我老师都不认识我了,当我喊了个老师之后,他一脸诧异,啥,我教过你么?我还得提示老师,老师,你还记不记得,当年我在中学读书的时候,你是班主任,我天天掀女生的裙子,你天天打我。老师恍然大误,说,原来是你小子啊。现在还掀女生裙子么?我说那时候小,不懂事,现在不掀了,都是她们主动掀。我老师大为震惊,说你现在干啥工作?我说我现在是妇产科医生。

太深入的我也不懂,因为乔姆斯写的书《语言学理论的逻辑结构》(The Logical Structure of Linguistic Theory),我看过英文版——的封面,有1300多页,望而却步。后来他当教授,不可能讲1300多页的书啊,所以有个精简版的书叫《句法结构》,这本书其实是他的博士毕业论文,大约200页不到。有兴趣的听众可以买回来放在书架上吃灰,这种书不是让你读的,你买了就是对社会做贡献。这本书是商务出版社出的,顶多出3000本,因为不会有人买这本书,但是他们竟然出了中文版,说明他们有情怀。我们买书,也是有情怀,跟我打赏女主播一样,别问为什么,爱是不需要说出口的。别问我是谁,请与我相恋(我在看直播的时候,那个女的唱的是别问我是谁,请与我make love)。

这本100多页的书,我看完了,我简单的说一下,就是要教会计算机分析句子成分。我老师从初中教到高中,我一直没学会语法,至今还不会分析句子成分,但是乔姆斯是教会电脑来分析句子成分,说明电脑比我聪明。按照乔姆斯的理论,句子可以通过一系列规则得到解析,句子可以分成主谓宾什么的,又分成从句什么的,总之,最后把句子给解析成一棵语法树。他的这个方法一直与时俱进,有兴趣的听众可以自己找来仔细阅读,尤其是你从事自然语言处理,这个人你是绕不开的。

即使你不读他的书也没关系,基于他的书,有一个普林斯顿大学开发的字典叫WordNet,这个字典是免费的,如果大家在手机上安装了那种Mdict,或者欧陆字典什么的,可以装一个试试。WordNet 的设计是基于心理语言学的原则,目的是反映出在日常使用中单词之间的关系。不同于传统的辞典,WordNet 以独特的方式组织数据,使得它更接近于一个词汇网络而不仅仅是一个列表。开发这个字典的是老乔的朋友,叫米勒,也是第一个认识到乔姆斯理论重要性的科学家。

我的很多听众喜欢听八卦,其实很多计算机界的人,是闷葫芦,没什么八卦可讲。但是乔姆斯就不同了,他本身就是个八卦。前面我不是提到么,他是自带流量的人,人家不用蹭流量,他本身就是流量。他可能是有史以来,所说的话被人引用最多的人。现在互联网时代,又有了社交媒体这个放大器,他说的话就被引用的更多了。跟很多科学家一样,他在完成了他的工作之后,像罗素差不多,奠定了自己在学术界的地位之后,他就开始进军政治界了。用鲁迅的话来说,搞计算机救不了美国人。他开始了他的喷人之旅。

其实这早就有苗头。还记得刚刚我说的那本200页不到的书么——《句法结构》。这是他的博士毕业论文。当时美国正在打越南战争,要征兵。他是反战的,肯定不想去当兵。当时美国有个规定,只要你拿了博士学位,就可以不用去当兵。他当时在哈佛当访问学者,就去问哈佛,给我个博士学位,我不想当兵了。哈佛直接给整不会了,太直接了,比阿Q对吴妈的表白还要直接,哈佛拒绝了他这种直白到近乎不要脸的请求。他转身去了他的母校——宾大,把对哈佛讲的话对宾大讲了一遍。宾大一听,考虑了一周,说他得参加个答辩,流程要走一走,于是,他就写了这个不到200页的小册子,他的导师让他书面回答了几个问题,博士学位到手。这么说,乔姆斯的博士学位也是假的,中国有很多人的博士学位也是假的,比如方鸿渐的博士学位。

乔姆斯是犹太人,他最看不起的国家是——以色列。他认为以色列的做法简直了,你不可能通过一个睡前故事当作建国的根据。所以乔姆斯是少有的,作为犹太人,而拿不到以色列签证的人之一。最近不是那边发生战争了么,这位本身就是流量的老人,多少视频又被拿出来播放。在联合国网站上是这么介绍他的:乔姆斯基出生在一个犹太家庭,然而多年来他却能跳出自己民族的藩篱,对巴勒斯坦民族几十年来所遭受的压迫表达同情与声援,并坚定地对以色列在巴勒斯坦领土上所实施的占领予以强烈谴责。作为一名美国人,他不顾人们的非议,长期以来一直对美国的外交政策进行大胆抨击。由于他的仗义执言和所产生的巨大影响力,乔姆斯基被许多人视为“眼中钉、肉中刺”,据说在尼克松时代还曾被白宫列入“敌人名单”。由于不断受到死亡威胁,他所在的麻省理工学院也不得不为其提供“便衣”保护。

老爷子今年95岁了,思维依旧敏捷,我们经常看到的那种老古董现象,在他的身上没有丝毫迹象。一般来说,由于代沟的原因,年轻人是不太支持老年人的,他是个特例,站在年轻人一边并不难,难的是能持续不断的站在年轻人一边,并且被年轻人所认可。他写的书,他的思想,历久弥新。中国有他的一本书叫《乔姆斯基精粹》,书里选了他写的25篇文章,跨度从1957年到2006年,长达50年,我觉得还是比较有可读性的。

中国的歌手刀郎前段时间唱了一首新歌叫《罗刹海市》,这首歌里有一句歌词叫生儿维特根斯坦,我当时听了以后,有点奇怪,因为维特根斯坦是做自然语言处理的。在美国的科技界,不管你是谁,就像乔姆斯这样级别的人物,也不可能一言九鼎,他说啥就是啥。他只是自然语言处理中的一种力量,他只是句法分析的流派。而自然语言中,还有几种力量根本就不认可句法分析,其中就有刀郎老师说的维特根斯坦的情景流派,还有贾里尼克所倡导的统计流派,这三个主要的流派互相竞争,共同发展,一次次的把自然语言处理从ICU中拯救出来,最终完成了目前大语言模型的样子。

这一期时间差不多了,下一期,介绍一下自然语言处理的另外两个不可忽视的流派,探讨一下我们所处的位置,为什么现在大语言模型在处理自然语言的时候这么流畅,这并不是一个人,一个公司的力量,其背后,早有无数科学家在这方面积累,床上一分钟,床下十年功。下一期,我们继续研究人工智能在自然语言处理这个分支上所走过的路,所经历的历史,了解历史,才能认识未来。

0 0 投票数
文章评分
订阅评论
提醒

0 评论
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x
滚动至顶部