摘要:一個非終結(jié)符可以被展開稱為一個串,如上定義便是將這個非終結(jié)符展開稱為一個又終結(jié)符和非終結(jié)符混合而成的串。特別注意我定義的方法僅僅用于修飾非終結(jié)符,而非展開式,雖然這個例子中我的方法更靠近方法,但并意味著用于修飾展開式。
各位久等了,本系列在新一年的連載中,形式會加入少許變化。首先,我會將 tao 語言編譯器(以及運(yùn)行環(huán)境)的全部內(nèi)容貼在 GitHub 上,在閱讀本系列的時候,需要對照 GitHub 上的內(nèi)容。以取代之前一段一段貼代碼的這種形式。此外,本系列也不會像之前那樣貼出每一行代碼,并對其進(jìn)行講解,取而待之,僅僅對核心代碼和有代表性的代碼進(jìn)行講解。如有疑問,歡迎評論。
GitHub 中的 tao 語言編譯器項目
目前為止,我們已經(jīng)寫好了如下幾個文件:
- com.taozeyu.taolan.analysis |- FirstSetConstructor |- LexicalAnalysis |- LexicalAnalysisException |- NonTerminalSymbol |- SignParser |- TerminalSymbol |- Token
上一章中 NonTerminalSymbol.java 文件中留著一個 TODO,現(xiàn)在我把它填上:
static enum Exp { //空白 SplitSpaceSign, SpaceOrEnter, Space, //基本單元 Enter, This, Null, Boolean, Number, Variable, String, RegEx, Element, //表達(dá)式相關(guān) L0Expression, L0ParamExpression, L0Sign, L1Expression, L1ParamExpression, L2Expression, L2ParamExpression, L2Sign, L3Expression, L3ParamExpression, L3Sign, L4Expression, L4ParamExpression, L4Sign, L5Expression, L5ParamExpression, L5Sign, L6Expression, L6ParamExpression, L6Sign, L7Expression, L7ParamExpression, L7Sign, L8Expression, L8ParamExpression, L8Sign, L9Expression, L9ParamExpression, L9Sign, L10Expression, L10ParamExpression, L10Tail, L10TailOperation, L11Expression, //控制流語法 Chunk, StartChunk, Line, Command, Operate, When, DefineVariable, DefineVariableElement, DefineFunction, ParamsList, IfElseChunk, TryCatch, WhileChunk, DoUntilChunk, ForEachChunk, ForEachCommand, ForEachCondition, //語法糖 Lambda, List, Map, MapEntry, Invoker, InvokerBraceless, InvokerBanLambda, InvokerBracelessBanLambda, ParamList, ParamListBanTokens , Array, Container, }
這個 Exp 的枚舉類型代表著一系列被命名了的非終結(jié)符。
之后,我們需要做以下幾個工作:
定義出 tao 語言的文法。
寫一個 Complier-complier,并用它分析之前定義的 tao 語言文法,得出一部分必要的信息,并將這些信息保存在 NonTerminalSymbol 節(jié)點(diǎn)中。
寫一個 Parser,結(jié)合文法定義,以及 Complier-complier 分析出的信息,將一段 tao 語言的源代碼分析成語法樹。
OK,上面列出的清單就是一個寫出一個可用的 Parser 的一個大致計劃了。我們一步一步來吧。
首先,我們先寫出一個 SyntacticDefine.java 文件。
源代碼我就不貼了,請大家自行打開連接觀看。(PS:之后的源代碼文件會越來越長,我不一定會貼全部,請大家適應(yīng)通過打開 GitHub 頁面查看源代碼的方式。)
可以看出,SyntacticDefine.java 中這個巨大的 static 塊中定義了 tao 語言的全部內(nèi)容。
在此,我稍微解釋一下我是如何定義 tao 語言的文法的。例如:
node(Exp.Line).or(Exp.Command) .or(Exp.Operate) .or(Exp.DefineVariable) .or(Exp.DefineFunction) .or(Exp.IfElseChunk) .or(Exp.WhileChunk) .or(Exp.DoUntilChunk) .or(Exp.ForEachChunk) .or(Exp.TryCatch)
每一個 Exp 枚舉類型都代表一個被命名的非終結(jié)符,如上這個定義代表如下一組展開式:
Line -> Command | Operate | DefineVariable ...
注意到,Line 這個非終結(jié)符存在很多中展開式,即它可能被展開為多種形式,因此在 static 塊中,使用 or() 方法將其并列。
node(Exp.Array).or(token(Type.Sign, "["), Exp.SpaceOrEnter, Exp.List, Exp.SpaceOrEnter, token(Type.Sign, "]"))
一個非終結(jié)符可以被展開稱為一個串,如上定義便是將 Array 這個非終結(jié)符展開稱為一個又終結(jié)符和非終結(jié)符混合而成的串。
我使用 token() 這個方法來定義終結(jié)符,例如 token(Type.Sign, "[") 則定義了一個左方括號的終結(jié)符。由于 Array 只有一種展開形式,因此只調(diào)用了一次 or 方法。
node(Exp.SplitSpaceSign).or(token(Type.Space)).sign("+")
對非終結(jié)符可以使用量詞進(jìn)行修飾,我使用 sign() 方法來代表量詞。如上這行定義,代表 SplitSpaceSign 這個非終結(jié)符可以展開為 1~N 個 space 類型的終結(jié)符。(特別注意:我定義的 sign() 方法僅僅用于修飾非終結(jié)符,而非展開式,雖然這個例子中我的 sign 方法更靠近 or 方法,但并意味著 sign 用于修飾展開式。)
node(Exp.L2ParamExpression).or(Exp.L3ParamExpression, node().or(Exp.L2Sign, Exp.L3ParamExpression).sign("*"))
在展開式中可以加入匿名非終結(jié)符,即調(diào)用 node 方法,但參數(shù)留空。匿名非終結(jié)符可以讓我很方便的定義某些只在展開式中出現(xiàn)一次的非終結(jié)符,這樣我就沒有必要為每一個非終結(jié)符起一個名字了。
被命名的非終結(jié)符和匿名非終結(jié)符沒有任何區(qū)別,它們僅僅就是形式上的不同罷了,請勿把它們當(dāng)成有實質(zhì)不同的東西。
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/65516.html
摘要:希臘字母表示空,這個產(chǎn)生式表明非終結(jié)符可以產(chǎn)生一個空。此外,對于一個文法之中的非終結(jié)符,還有集集的概念。對于一個非終結(jié)符而言,它的集指可能展開的各種形式中,位于第一的所有終結(jié)符所組成的集合。 上一章中,我說 Parser 的工作就是依據(jù)文法定義,找到一個與源代碼匹配的展開方案就可以了。聽起來我們只要先給出一個 tao 語言的文法定義,然后寫一個找匹配方案的的程序就可以了。 然而事情情況...
摘要:目前為止我們創(chuàng)建的文件列表新上一章中我們提到了個方法它們可以用來描述非終結(jié)符和展開式的形式,那么它們又是如何工作的呢文件中定義了一些方法。特別的,注意如下代碼這個方法可以紀(jì)錄被掉的一組非終結(jié)符,紀(jì)錄這些東西有什么用,將在隨后的章節(jié)介紹。 目前為止我們創(chuàng)建的文件列表: |- com.taozeyu.taolan.analysis |- FirstSetConstructor ...
摘要:從展開式中,可以看出,除了這個非終結(jié)符,還有其他一些非終結(jié)符。是可能展開的形式之一,在語言中,如下代碼就是一行典型的從表達(dá)式來看,它是由一個級表達(dá)式和一個類型的非終結(jié)符組成。但特別注意結(jié)尾的數(shù)量詞表明,整個非終結(jié)符都是可選的。 目前為止我們創(chuàng)建的文件列表: |- com.taozeyu.taolan.analysis |- FirstSetConstructor |- ...
摘要:是的,這個系列將呈現(xiàn)一個完整的編譯器從無到有的過程。但在寫這個編譯器的過程中,我可不會偷工減料,該有的一定會寫上的。該語言的虛擬機(jī)將運(yùn)行于之上,同時編譯器將使用實現(xiàn)。我早有寫編譯器的想法之前沒寫過,故希望一邊寫編譯器一邊完成這個系列。 是的,這個系列將呈現(xiàn)一個完整的編譯器從無到有的過程。當(dāng)然,為了保證該系列內(nèi)容的簡潔(也為了降低難度),僅僅保證編譯器的最低要求,即僅能用。但在寫這個編譯...
摘要:而,稱之為非終結(jié)符。而這個展開方案中對各個非終結(jié)符產(chǎn)生式的選擇過程,即是對源代碼中每一個部分的定性過程。這個過程讓能夠理解源代碼各個部分表示的含義,并以此生成對應(yīng)的語法樹。 我需要定義出 tao 語言的細(xì)節(jié),在此,需要引出文法這一概念。所謂文法,即是用于描述語言的一種工具。 例如,一個賦值語句可能寫成如下形式: variable = 1 + 3 如何充分定義這個賦值語句的形...
閱讀 2287·2021-11-15 11:36
閱讀 1459·2021-10-14 09:42
閱讀 4296·2021-09-30 09:52
閱讀 1821·2021-09-24 10:24
閱讀 1037·2021-09-02 09:56
閱讀 2791·2019-08-30 13:11
閱讀 3120·2019-08-30 13:06
閱讀 1002·2019-08-30 12:56