bufio.Scanner默认按行分割,需用Split函数自定义分隔逻辑;SplitFunc须处理data不完整和atEOF状态,正确实现三步:找分隔符、切token、更新剩余数据。

Scanner默认按行分割,但Split函数能彻底接管分隔逻辑
Go 的 bufio.Scanner 默认只支持按行(\n、\r\n)切分,一旦遇到自定义分隔符(比如 "|||"、"\x00" 或 JSON 行边界 "\n" 以外的流协议),必须用 Split 函数替换默认行为。它不是“配置项”,而是直接传入一个符合 bufio.SplitFunc 类型的函数——这个函数决定每次 Scan() 返回哪一段字节。
写SplitFunc时必须处理data不完整和atEOF状态
常见错误是忽略 atEOF,导致最后一段数据永远扫不到;或没判断 data 长度不足,直接 panic。正确逻辑分三步:找分隔符位置 → 切出 token → 更新剩余未处理数据。以下是一个安全匹配 "|||" 的示例:
func splitOnTriplePipe(data []byte, atEOF bool) (advance int, token []byte, err error) {
if len(data) == 0 {
return 0, nil, nil
}
if i := bytes.Index(data, []byte("|||")); i >= 0 {
return i + 3, data[0:i], nil
}
if atEOF {
return len(data), data, nil
}
return 0, nil, nil
}
关键点:
-
return 0, nil, nil表示暂不切分,等更多数据到来(Scanner会继续读) -
atEOF为true且没找到分隔符时,必须返回整段剩余数据,否则丢失末尾 - 分隔符长度(这里是
3)必须显式加到advance,否则下次data会重复包含分隔符头几位
用Scanner.Split设置后,Scan()才真正生效
设置 Split 必须在第一次调用 Scan() 之前,且不可逆。常见误操作:
使用 uber-go/dig 在 Golang 中实现依赖注入——基于反射容器,提供 Provide/Invoke、dig.In/dig.Out 参数与结果对象,支持命名依赖等
立即学习“go语言免费学习笔记(深入)”;
- 先
Scan()再Split()→ 无效,仍按行分 - 对已开始扫描的
Scanner多次Split()→ panic:panic: bufio.Scanner: Split function set twice - 传入的
SplitFunc返回负数advance→ 直接 panic
正确用法:
sc := bufio.NewScanner(r)
sc.Split(splitOnTriplePipe)
for sc.Scan() {
fmt.Printf("got: %q\n", sc.Text())
}
if err := sc.Err(); err != nil {
log.Fatal(err)
}
性能与边界:大分隔符、超长行、二进制数据要特别小心
Scanner 内部有默认缓冲区(64KB),且 SplitFunc 每次只看到当前缓冲区内容。这意味着:
- 分隔符跨缓冲区(如前半在上一块末尾,后半在下一块开头)→
SplitFunc找不到,必须靠return 0, nil, nil等待合并 - 单个 token 超过缓冲区大小 →
Scan()返回ErrTooLong,需用sc.Buffer([]byte{}, max)手动扩大 - 二进制数据含
\x00等控制字符 →sc.Text()会截断(因内部转string后以\x00为结束),应改用sc.Bytes()
最易被忽略的是:分隔符本身不能出现在 token 内容中,否则逻辑失效——这本质是协议设计问题,SplitFunc 不做转义,也不校验合法性。

















