实现中文编程语言:解析器上的明珠使用现代的PEGs
4.0 解析如何工作: PEGs 解析词令
不使用EBNF,有更现代的PEGs。
而EBNF的替代者为 PEGs
结束符: assignment <- NAME '=' expr ';'
运算符: expr <- term { '+'/'-' term }
乘除: term <- factor { '*'/'/' factor }
词: factor <- NUMBER / NAME / '(' expr ')'
PEGs 看起来类似EBNF,选择 / 取代了 |, 比如:
rule <- e1 / e2 / e3
它的解析规则是:
尝试 解析 e1, 如果成功,完成
或者,解析 e2,如果成功,完成
或者,解析 e3,如果成功,完成
或者,报错。
它的规则秩序意义在于: 规则列表的第一个具有较高优先级。 这意味着更好的重试错误跟踪回溯。
PEGs是更现代的,解析表达式语法大多数编译器书籍并没有它的介绍.
相关材料: 基于识别的语法基础。 POPL 2004 ACM
4.1 错误处理:消费需要前瞻性,一个前瞻点 LookHead
如何观察现在是否匹配,我们把词令转换为模型,并以前面所讲的解析方式PEGs解析为语句
我们先观察Tokens的Data 如何被准备以消费的。
首先准备结束标记
type EOFs struct {
Type string
Value string
Lineno string
}
然后准备控制方式,包括从链表获取token,如果不知道如何做,可以参考我前面的系列文章
///Data 来自分词器的传入令牌, 可迭代对象
type Tokens struct {
Data *tlink
Lookahead *Token
}
// 获取一个Token, FIFO 模式返回链表的 单个 Token 对象 不更新 当前 that 的属性,
func (that *Tokens) GetToken() (*Token, *EOFs) {
...
}
在Tokens管理对象中,刷新获取到的token对象到 前瞻点
//刷新 token 到 lookhead
// expected_types可选参数, 刷新 下一个 token
// 当 Lookahead 的 类型与 expected_types 中的类型一致时,返回 Lookahead
func (that *Tokens) Peek(expected_types ...string) *Token {
if that.Lookahead == nil {
tok, eof := that.GetLinkToken()
if eof != nil {
return nil
}
that.Lookahead = tok
}
if expected_types != nil {
for _, st := range expected_types {
if that.Lookahead.Type == st {
return that.Lookahead
} else {
continue
}
}
} else {
return nil
}
return nil
}
在此时,Peek函数将作为主要的裁定是否符合前文提到的解析规则,并在此处控制是否匹配并返回。
4.2 把token转化为 有意义的语句,以便执行
接3.2,从Add开始,我们实现前文提到的解析顺序
//后加减
func ParseAddTerm(tokens *Tokens) *Node {
var left *Node
left = ParseMulTerm(tokens)
for {
tok, bl := tokens.Accept([]string{"PLUS", "MINUS"}...)
if !bl {
break
}
right := ParseMulTerm(tokens)
Nodes := &Node{Data: &BinOp{Op: tok.Value, Left: left, Right: right}}
left = Record_lineno(Nodes, tok.LineNo)
}
return left
}
让我们重复一次这个函数的逻辑:解析词:
term:
start -> factor -> -end->
| |
<- * <-
| |
<- / <-
//第二乘除
func ParseMulTerm(tokens *Tokens) *Node {
var left *Node
left = ParseLgTerm(tokens)
for {
tok, bl := tokens.Accept([]string{"TIMES", "DIVIDE"}...)
if !bl {
break
}
right := ParseLgTerm(tokens)
Nodes := &Node{Data: &BinOp{Op: tok.Value, Left: left, Right: right}}
left = Record_lineno(Nodes, tok.LineNo)
}
return left
}
//第一
func ParseLgTerm(tokens *Tokens) *Node {
var left *Node
left = parse_factor(tokens)
for {
tok, bl := tokens.Accept([]string{"LAND", "LOR"}...)
if !bl {
break
}
right := parse_factor(tokens)
Nodes := &Node{Data: &BinOp{Op: tok.Value, Left: left, Right: right}}
left = Record_lineno(Nodes, tok.LineNo)
}
return left
}
解析因子 factor:
start -> INTEGER -> -end->
| |
<- FLOAT <-
| |
<- NAME <-
//term等
func parse_factor(tokens *Tokens) *Node {
// 运算符解析
if optok, ok := tokens.Accept("INTEGER"); ok {
intger := Integer{Value: optok.Value}
nodes := MakeNode(intger)
modelRef := Record_lineno(nodes, optok.LineNo)
return modelRef
//正负号
} else if optok, ok := tokens.Accept([]string{"PLUS", "MINUS"}...); ok {
values := parse_factor(tokens)
Nodes := &Node{Data: &UnaryOp{Op: optok.Value, Operand: values}}
return Record_lineno(Nodes, optok.LineNo)
} else {
msg := fmt.Sprintf("Bad factor with tokens:%v \n", tokens)
logger.Panic(msg)
}
return nil
}
学习,在实践中求证,在思考中提炼。大难不死,必有后福,巨大的痛苦,同时其后的乐趣也是丰厚的。
我们将得到一些回报。
4.3 语法的最后,语句
解析表达式_Parsing Expressions 语句: 把指令集成为语句,statement。
我们已经了解了PEGs本质上很类似于代数的运算顺序,并且有一个形象的卷的过程。现在让我们回顾,我们在干什么
1 理解如何指定语法
2 消费:提炼一种如何解析计算任务的直觉
3 组合为语句
正常的消耗令牌
//正常消费预期匹配的词令牌,否则返回nil 不消耗
func (that *Tokens) Accept(expected_types ...string) (*Token, bool) {
tok := that.Peek(expected_types...)
if tok != nil {
that.Lookahead = nil
return tok, true
}
return tok, false
}
比如实际的比如下代码
print 3 + 4 * 5;
我们将得到一个结果:
model *tlink {size: 1,
head: *nodes (*Node)(0xc0001011d0)
{data:BinOp {Expression: nil,
Op: "+",
Left: *Node {Next: nil,
Data: (*Integer)
data:{Value:"3"},
Right: *Node {Next: nil,
Data: (*BinOp) BinOp {Expression: nil,
Op: "*",
Left: *Node {Next: nil,
Data: (*Integer),
data:{Value:"4"},
Right: *Node {Next: nil,
Data: (*Integer),
data: {Value:"5" }
prev: *nodes nil,
next: *nodes nil},
tail: *nodes (*Node)(0xc0001011d0)
{data: ...}
这正是我们需要的
现在我们需要实现对tokens链的消费,比如我们需要把如下表达式实现
3 + 4 * 5;
其计算顺序是
(3) + (4 * 5)
tree-walk 表示
+ ---> + ---> 23
* 3 20 3
4 5
在下一章节我们开始在硬件中组织计算。
5 结语:
选择发布在这个平台,是希望借华为平台这个巨人的路径走的更远。 谢谢。
- 点赞
- 收藏
- 关注作者
评论(0)