青训营 | Tx's Blog

第三节：高质量编程与性能调优实战

1.高质量编程

原则：

简单性：1.消除多余的复杂性，以简单清晰的逻辑编写代码

2 . 不理解的代码无法修复改进

可读性：1. 代码是写给人看的，而不是机器

编写可维护代码的第一步是确保代码可读

生产力：1. 团队整体工作效率非常重要

》如何编写高质量的Go代码

使用gofmt自动格式化代码

》注释

》小结

核心目标是降低阅读代码的成本
重点考虑上下文信息，设计简洁清晰的名称

defer语句会在函数返回前调用，顺序是后进先出，即从下往上执行

极客兔兔

第四节：高性能 Go 语言发行版优化与落地实践

Auto memory management: 自动内存管理

Grabage collction: 垃圾回收（GC）
Mutator: 业务线程，分配新对象，修改对象指向关系
Collector: GC 线程，找到存活对象，回收死亡对象的内存空间
Serial GC：只有一个collector
Concurrent GC: 并发 GC，mutators和collectors可以同时执行
Parallel GC: 并行 GC，支持多个collector同时回收

评价GC算法：

安全性：不能回收存活的对象
吞吐率：1 - GC时间/程序执行总时间
暂停时间：stop the world
内存开销：GC元数据开销
Tracing garbage collection: 追踪垃圾回收
- Copying GC: 复制对象 GC（将存活对象复制到另外内存空间）
- Mark-sweep GC: 标记-清理 GC（将死亡对象的内存标记为可分配）
- Mark-compact GC: 标记-压缩 GC（原地整理对象，移动到内存开头）

分带GC：

分带假说（Generational hypothesis）：most objects die young

Intution: 很多对象分配后很快就不使用了

年龄：GC使用的次数

目的：针对年轻和老年的对象指定不同的GC策略，降低整体内存管理的开销

不同年龄的对象处于heap的不同区域

年轻代：

常规的对象分配
存活对象少，可以采用copying collection
GC吞吐率很高

老年代：

对象趋向于一直活着，反复复制开销较大
可以采用mark - sweep collection

Reference counting: 引用计数

每个对象都有与之关联的引用计数
存活条件：当且仅当引用数大于0

优点：内存管理的操作被平摊到程序执行过程中

内存管理不需要了解runtime的实现细节：智能指针（C++）

缺点：

维护引用计数的开销较大，通过原子操作保证操作的原子性和可见性
无法回收环形数据结构
内存开销：每个对象引入额外的内存存储引用计数
引发暂停

Go 内存管理及优化

1.分块：

TCMalloc: TC is short for thread caching

目标：为对象在heap上分配内存

提前将内存分块：

调用系统调用 mmap() 向os 申请一大块内存，例如4 MB
先将分配的内存划分成大块，例如 8 KB，称作 mspan
再将大块继续划分成特定大小的小块，用于对象分配
noscan mspan：分配不包含指针的对象
scan mspan ：分配包含指针的对象——GC需要扫描

对象分配：根据对象大小，选择合适的块返回

2.缓存

- Go 内存管理构成了多级缓存机制，从 OS 分配得的内存被内存管理回收后，也不会立刻归还给 OS，而是在 Go runtime 内部先缓存起来，从而避免频繁向 OS 申请内存。内存分配的路线图如下。

3.优化

对象分配是非常高频的操作，每秒分配GB级别的内存

大部分是小对象

Go内配比较耗时：

分配路径长：g -> m ->p -> mcache -> mspan -> memory block -> return pointer
pprof: 对象分配的函数是最频繁调用的函数之一（runtime,mallocgc）

4.字节跳动的优化方案

Balanced GC
核心：将 noscan 对象在 per-g allocation buffer (GAB) 上分配，并使用移动对象 GC 管理这部分内存，提高对象分配和回收效率

每个 g 会附加一个较大的 allocation buffer (例如 1 KB) 用来分配小于 128 B 的 noscan 小对象

bump pointer 风格的对象分配。示意如下。

if g.ab.end - g.ab.top < size {
    // Allocate a new allocation buffer
}
addr := g.ab.top
g.ab.top += size
return addr

分配对象时，根据对象大小移动 top 指针并返回，快速完成一次对象分配
同原先调用 mallocgc() 进行对象分配的方式相比，balanced GC 缩短了对象分配的路径，减少了对象分配执行的指令数目，降低 CPU 使用

从 Go runtime 内存管理模块的角度看，一个 allocation buffer 其实是一个大对象。本质上 balanced GC 是将多次小对象的分配合并成一次大对象的分配。因此，当 GAB 中哪怕只有一个小对象存活时，Go runtime 也会认为整个大对象（即 GAB）存活。为此，balanced GC 会根据 GC 策略，将 GAB 中存活的对象移动到另外的 GAB 中，从而压缩并清理 GAB 的内存空间，原先的 GAB 空间由于不再有存活对象，可以全部释放，如下图所示。

上图上方是两个 GAB，其中虚线表示 GAB 中对象的分界线。黑色表示 GAB 中存活的对象，白色表示死掉的对象。由于 GAB 中有存活对象，整个 GAB 无法被回收。

Balanced GC 会将 GAB 中存活的对象移动到下面的 GAB 中，这样原先的两个 GABs 就可以被释放，压缩并清理 GAB 的内存空间。

Balanced GC 只负责 noscan 对象的分配和移动，对象的标记和回收依然依赖 Go GC 本身，并和 Go GC 保持兼容。

编译器和静态分析

编译器的结构

静态分析：不执行代码，推导程序的行为，分析程序的性质。
控制流：程序的执行流程
数据流：数据在控制流上的传递

上图的程序转换成控制流图 (control-flow graph)

通过分析控制流和数据流，我们可以知道更多关于程序的性质(properties) ，这些事实可以帮助我们做编译优化。

例如上面的程序。我们通过分析数据流和控制流，知道这个程序始终返回 4。编译器可以根据这个结果做出优化。

Intra-procedural analysis: 函数内分析：在函数内进行控制流和数据流的分析
Inter-procedural analysis: 函数间分析：除了函数内的分析，还需要考虑跨函数的数据流和控制流，例如参数传递，函数返回值等

Go 编译器优化

目的

用户无感知，重新编译即可获得性能收益
通用的优化手段

现状

采用的优化较少
追求编译时间短，因此没有进行复杂的代码分析和优化

思路

面向后端长期执行的任务
用适当增加编译时间换取更高性能的代码

函数内联

定义：将被调用函数的函数体的副本替换到调用位置上，同时重写代码以反映参数的绑定
优点
- 消除调用开销
- 将过程间分析的问题转换为过程内分析，帮助其他分析
缺点
- 函数体变大
- 编译生成的 Go 镜像文件变大
函数内联在大多数情况下是正向优化，即多内联，会提升性能
采取一定的策略决定是否内联
- 调用和被调用函数的规模
Go 内联的限制
- 语言特性：interface, defer 等等，限制了内联优化
- 内联策略非常保守
字节跳动的优化方案
- 修改了内联策略，让更多函数被内联
- 增加了其他优化的机会：逃逸分析
开销
- Go 镜像大小略有增加
- 编译时间增加
- 运行时栈扩展开销增加

逃逸分析

定义：分析代码中指针的动态作用域，即指针在何处可以被访问
大致思路
- 从对象分配处出发，沿着控制流，观察数据流。若发现指针 p 在当前作用域 s:
  - 作为参数传递给其他函数；
  - 传递给全局变量；
  - 传递给其他的 goroutine;
  - 传递给已逃逸的指针指向的对象；
- 则指针 p 逃逸出 s，反之则没有逃逸出 s.
优化：未逃逸出当前函数的指针指向的对象可以在栈上分配
- 对象在栈上分配和回收很快：移动 sp 即可完成内存的分配和回收；
- 减少在堆上分配对象，降低 GC 负担。

课后

从业务层和语言运行时层进行优化分别有什么特点？
- 业务层优化
  - 针对特定场景，具体问题，具体分析
  - 容易获得较大性能收益
- 语言运行时优化
  - 解决更通用的性能问题
  - 考虑更多场景
  - Tradeoffs
从软件工程的角度出发，为了保证语言 SDK 的可维护性和可拓展性，在进行运行时优化时需要注意什么？
- 软件质量
  - 保证接口稳定的前提下改进实现
  - 测试驱动
  - 通过清晰的文档告诉用户这一项优化做了什么，没做什么，能达到怎样的效果
  - 隔离，优化代码用选项和原先的路径隔离，保证优化未启用时的行为同以前一致
  - 可观测、可灰度、可回滚
自动内存管理技术从大类上分为哪两种，每一种技术的特点以及优缺点有哪些？
什么是分代假说？分代 GC 的初衷是为了解决什么样的问题？
年轻代：大部分对象很快不使用
老年代：持续存活的对象
指定不同GC策略，减少内存管理开销
Go 是如何管理和组织内存的？
分块、缓存
为什么采用 bump-pointer 的方式分配内存会很快？
https://www.jianshu.com/p/85b1d2e7aaed
指针碰撞(Bump the Pointer)：如果内存空间以规整和有序的方式分布,即已用和未用的内存都各自一边,彼此之间维系着一个记录下一次分配起始点的标记指针,当为新对象分配内存时,只需要通过修改指针的偏移量将新对象分配在第一个空闲内存位置上
优点：
- 消除了标记-清除算法当中,内存区域分散的缺点,我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可。
- 消除了复制算法当中,内存减半的高额代价。
缺点：
- 从效率上来说,标记-整理算法要低于复制算法。
- 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址。
- 移动过程中,需要全程暂停用户应用程序。即:STW
为什么我们需要在编译器优化中进行静态代码分析？
函数内联是什么，这项优化的优缺点是什么？
什么是逃逸分析？逃逸分析是如何提升代码性能的？

第五节：设计模式之 Database/SQL 与 GORM 实践

01.理解database/ sql

1.1基本用法

数据库不可或缺，关系数据库首要。go标准库database/sql包

database/sql包只是提供统一的接口，对于具体怎么连接数据库和解析都不管，对于mysql ，需要github.com/go-sql-driver/mysql ，这个包提供了连接和解析数据库。

第8行使用driver + DSN 初始化DB连接

第10-14行执行一条sql ， driver将sql发送给数据库，通过rows取回返回的数据，需要释放连接，避免资源泄漏

16-26行处理返回的数据，将数据scan到user字段中，这里rows是游标，Next()会不断找到下一条数据。

1.2设计原理

对于不同数据库，只需不同的驱动接口。

连接池：池化技术。昂贵的、费事的资源维护到池子里。大幅度提高性能。

02.GORM使用简介

03.GORM设计原理

04.GORM最佳时间

第八节：网络

看抖音时，从应用层来说，要解析域名DNS，然后视频图片下载HTTP，评论是动态API，泛HTTP；

路由是改Mac地址，找到发包口

ARP协议：

逻辑同网段才能发送ARP
ARP请求广播，ARP应答单播
免费ARP？ARP代理？

RPC框架--远程过程调用

需要解决的问题：1. 函数映射

数据转换为字节流
网络传输

分层设计 - 以Apache Thrift 为例