摘要:返回的語法樹作為結(jié)果被傳遞到文法中,其結(jié)果可能是。每個元素的子節(jié)點全部執(zhí)行完畢,才會生成當(dāng)前節(jié)點的語法樹。更多討論討論地址是精讀手寫編譯器語法樹如果你想?yún)⑴c討論,請點擊這里,每周都有新的主題,周末或周一發(fā)布。
1 引言
重回 “手寫 SQL 編輯器” 系列。之前幾期介紹了 詞法、文法、語法的解析,以及回溯功能的實現(xiàn),這次介紹如何生成語法樹。
基于 《回溯》 一文介紹的思路,我們利用 JS 實現(xiàn)一個微型 SQL 解析器,并介紹如何生成語法樹,如何在 JS SQL 引擎實現(xiàn)語法樹生成功能!
解析目標(biāo)是:
select name, version from my_table;
文法:
const root = () => chain(selectStatement, many(";", selectStatement)); const selectStatement = () => chain("select", selectList, fromClause); const selectList = () => chain(matchWord, many(",", matchWord)); const fromClause = () => chain("from", matchWord); const statement = () => chain( "select", selectList, "from", chain(tableName, [whereStatement, limitStatement]) );
這是本文為了方便說明,實現(xiàn)的一個精簡版本。完整版見我們的開源倉庫 cparser。
root 是入口函數(shù),many() 包裹的文法可以執(zhí)行任意次,所以
chain(selectStatement, many(";", selectStatement));
表示允許任意長度的 selectStatement 由 ; 號連接,selectList 的寫法也同理。
matchWord 表示匹配任意單詞。
語法樹是人為對語法結(jié)構(gòu)的抽象,本質(zhì)上,如果我們到此為止,是可以生成一個 基本語法樹 的,這個語法樹是多維數(shù)組,比如:
const fromClause = () => chain("from", matchWord);
這個文法生成的默認語法樹是:["from", "my_table"],只不過 from my_table 具體是何含義,只有當(dāng)前文法知道(第一個標(biāo)志無含義,第二個標(biāo)志表示表名)。
fromClause 返回的語法樹作為結(jié)果被傳遞到文法 selectStatement 中,其結(jié)果可能是:["select", [["name", "version"]], ["from", "my_table"]]。
大家不難看出問題:當(dāng)默認語法樹聚集在一起,就無法脫離文法結(jié)構(gòu)多帶帶理解語法含義了,為了脫離文法結(jié)構(gòu)理解語法樹,我們需要將其抽象為一個有規(guī)可循的結(jié)構(gòu)。
2 精讀通過上面的分析,我們需要對 chain 函數(shù)提供修改局部 AST 結(jié)構(gòu)的能力:
const selectStatement = () => chain("select", selectList, fromClause)(ast => ({ type: "statement", variant: "select", result: ast[1], from: ast[2] }));
我們可以通過額外參數(shù)對默認語法樹進行改造,將多維數(shù)組結(jié)構(gòu)改變?yōu)閷ο蠼Y(jié)構(gòu),并增加 type variant 屬性標(biāo)示當(dāng)前對象的類型、子類型。比如上面的例子,返回的對象告訴使用者:“我是一個表達式,一個 select 表達式,我的結(jié)果是 result,我的來源表是 from”。
那么,chain 函數(shù)如何實現(xiàn)語法樹功能呢?
對于每個文法(每個 chain 函數(shù)),其語法樹必須等待所有子元素執(zhí)行完,才能生成。所以這是個深度優(yōu)先的運行過程。
下圖描述了 chain 函數(shù)執(zhí)行機制:
生成結(jié)構(gòu)中有四個基本結(jié)構(gòu),分別是 Chain、Tree、Function、Match,足以表達語法解析需要的所有邏輯。(不包含 可選、多選 邏輯)。
每個元素的子節(jié)點全部執(zhí)行完畢,才會生成當(dāng)前節(jié)點的語法樹。實際上,每個節(jié)點執(zhí)行完,都會調(diào)用 callParentNode 訪問父節(jié)點,執(zhí)行到了這個函數(shù),說明子元素已成功執(zhí)行完畢,補全對應(yīng)節(jié)點的 AST 信息即可。
對于修改局部 AST 結(jié)構(gòu)函數(shù),需等待整個 ChainNode 執(zhí)行完畢才調(diào)用,并將返回的新 AST 信息存儲下來,作為這個節(jié)點的最終 AST 信息并傳遞給父級(或者沒有父級,這就是根結(jié)點的 AST 結(jié)果)。
3 總結(jié)本文介紹了如何生成語法樹,并說明了 默認語法樹 的存在,以及我們之所以要一個定制的語法樹,是為了更方便的理解含義。
同時介紹了如何通過 JS 運行一套完整的語法解析器,以及如何提供自定義 AST 結(jié)構(gòu)的能力。
本文介紹的模型,只是為了便于理解而定制的簡化版,了解全部細節(jié),請訪問 cparser。
最后說一下為何要做這個語法解析器。如今有許多開源的 AST 解析工具,但筆者要解決的場景是語法自動提示,需要在語句不完整,甚至錯誤的情況,給出當(dāng)前光標(biāo)位置的所有可能輸入。所以通過完整重寫語法解析器內(nèi)核,在解析的同時,生成語法樹的同時,也給出光標(biāo)位置下一個可能輸入提示,在通用錯誤場景自動從錯誤中恢復(fù)。
目前在做性能優(yōu)化,通用 SQL 文法還在陸續(xù)完善中,目前僅可當(dāng)學(xué)習(xí)參考,不要用于生產(chǎn)環(huán)境。
4 更多討論討論地址是:精讀《手寫 SQL 編譯器 - 語法樹》 · Issue #99 · dt-fe/weekly
如果你想?yún)⑴c討論,請點擊這里,每周都有新的主題,周末或周一發(fā)布。
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/97073.html
摘要:經(jīng)過連續(xù)幾期的介紹,手寫編譯器系列進入了智能提示模塊,前幾期從詞法到文法語法,再到構(gòu)造語法樹,錯誤提示等等,都是為智能提示做準(zhǔn)備。 1 引言 詞法、語法、語義分析概念都屬于編譯原理的前端領(lǐng)域,而這次的目的是做 具備完善語法提示的 SQL 編輯器,只需用到編譯原理的前端部分。 經(jīng)過連續(xù)幾期的介紹,《手寫 SQL 編譯器》系列進入了 智能提示 模塊,前幾期從 詞法到文法、語法,再到構(gòu)造語法...
摘要:引言是一個版語法解析器生成器,具有分詞語法樹解析的能力。實現(xiàn)函數(shù)用鏈表設(shè)計函數(shù)是最佳的選擇,我們要模擬調(diào)用棧了。但光標(biāo)所在的位置是期望輸入點,這個輸入點也應(yīng)該參與語法樹的生成,而錯誤提示不包含光標(biāo),所以我們要執(zhí)行兩次。 1. 引言 syntax-parser 是一個 JS 版語法解析器生成器,具有分詞、語法樹解析的能力。 通過兩個例子介紹它的功能。 第一個例子是創(chuàng)建一個詞法解析器 my...
摘要:總結(jié)做語法解析器錯誤提示功能時,再次刷新了筆者三觀,原來我們以為的必然,在編譯器里對應(yīng)著那么多可能。語法解析器為了讓報錯符合人們的第一直覺,對錯誤信息做了過濾,只保留剩余數(shù)最短的那條錯誤信息。 1 引言 showImg(https://segmentfault.com/img/remote/1460000016244315?w=1522&h=272); 編譯器除了生成語法樹之外,還要在...
閱讀 3239·2021-11-22 09:34
閱讀 2871·2021-09-22 15:28
閱讀 882·2021-09-10 10:51
閱讀 1904·2019-08-30 14:22
閱讀 2399·2019-08-30 14:17
閱讀 2811·2019-08-30 11:01
閱讀 2376·2019-08-29 17:19
閱讀 3722·2019-08-29 13:17