博客
关于我
70 行 Go 代码打败 C!
阅读量:567 次
发布时间:2019-03-09

本文共 2799 字,大约阅读时间需要 9 分钟。

用Go语言编写高效的wc命令

作为一名程序员,挑战编写高性能的wc命令总是很有趣的。这次,我们将用Go语言来实现一个高效的wc命令,挑战传统的C语言实现。

背景

Chris Penner最近发布了一篇文章,展示了如何用80行Haskell代码击败C语言版wc命令(https://chrispenner.ca/posts/wc)。这引发了广泛讨论,许多开发者开始尝试用其他语言实现wc命令。以下是一些值得挑战的语言:

  • Ada
  • C
  • Common Lisp
  • Dyalog APL
  • Futhark
  • Haskell
  • Rust
  • 今天,我们将用Go语言来实现这一挑战。作为一种支持并发原语的编译语言,Go语言有望轻松匹配C语言的性能。

    实现思路

    虽然wc命令的设计目标是从标准输入读取文本、处理空白字符和解析命令行参数,但我们将简化实现,专注于核心逻辑。具体来说,我们将:

  • 读取文件路径和文件内容
  • 统计行数、单词数和字节数
  • 使用简单的状态机来跟踪空白字符
  • 基准测试

    为了比较Go语言和C语言版本的wc命令,我们将使用GNU的time工具包,分别从运行时间和内存使用两个方面进行评估。以下是测试基准:

    • 处理器:Intel酷睿i5-6200U(2个物理核,4个线程)
    • 内存:4+4 GB @ 2133 MHz
    • 存储:240 GB M.2固态硬盘
    • 操作系统:Fedora 31 Linux

    简单实现

    我们的Go实现将直接从文件中读取字节,并使用简单的状态机来跟踪空白字符。具体代码如下:

    const bufferSize = 16 * 1024reader := bufio.NewReaderSize(file, bufferSize)lineCount, wordCount, byteCount := 0, 0, 0prevByteIsSpace := truefor {    b, err := reader.ReadByte()    if err == os.EOF {        break    }    byteCount++    switch {    case '\n':        lineCount++        prevByteIsSpace = true    case ' ', '\t', '\r', '\v', '\f':        prevByteIsSpace = true    default:        if prevByteIsSpace {            wordCount++            prevByteIsSpace = false        }    }}

    优势分析:

    • 内存使用:Go语言的内存使用效率远高于C语言。
    • 性能:在我们的初步测试中,Go实现的运行时间接近C语言版本。

    优化与改进

    为了进一步提升性能,我们可以采取以下优化措施:

  • 缓冲读取:

    将输入分成多个缓冲块(chunk),并使用并发处理来提高读取效率。

  • 并行化处理:

    利用Go语言的并发原语,将文件读取和统计分配给多个 goroutine,提升整体处理速度。

  • 内存管理:

    使用 bufio.ReaderSize 来优化缓冲读取,减少内存分配和释放的开销。

  • 并行化实现

    为了实现并行化,我们可以创建一个 Chunk 结构,存储每个缓冲块的信息。然后,将输入分配给多个 goroutine进行处理:

    type Chunk struct {    PrevCharIsSpace bool    Buffer []byte}func GetCount(chunk Chunk) (line, word int) {    line := 1    word := 1    prevIsSpace := chunk.PrevCharIsSpace    for _, b := range chunk.Buffer {        switch b {        case '\n':            line++            prevIsSpace = true        case ' ', '\t', '\r', '\v', '\f':            prevIsSpace = true        default:            if prevIsSpace {                word++                prevIsSpace = false            }        }    }    return line, word}func main() {    numWorkers := runtime.NumCPU()    chunks := make(chan Chunk)    counts := make(chan Count)    for i := 0; i < numWorkers; i++ {        go ChunkCounter(chunks, counts)    }    buffer := make([]byte, bufferSize)    lastCharIsSpace := true    for {        bytes, err := file.Read(buffer)        if err == os.EOF {            break        }        chunk := Chunk{            PrevCharIsSpace: lastCharIsSpace,            Buffer: buffer[:bytes],        }        chunks <- chunk        lastCharIsSpace = IsSpace(buffer[bytes-1])    }    close(chunks)    for i := 0; i < numWorkers; i++ {        count := <-counts        total.LineCount += count.Line        total.WordCount += count.Word    }    close(counts)}

    性能评估:

    • 运行时间:并行化实现的运行时间显著降低,甚至超过了C语言版本。
    • 内存使用:并行化虽然提升了性能,但也增加了内存消耗。

    最终总结

    虽然本文并未暗示Go语言比C语言更强,但我们希望通过这一实现展示Go语言在系统编程方面的潜力。

    如果你对本文有任何建议或疑问,欢迎在评论区留言。

    转载地址:http://bfqpz.baihongyu.com/

    你可能感兴趣的文章
    python前端之css
    查看>>
    Python制作进度条,原来有这么多方法
    查看>>
    Python制作简单的学生成绩管理系统
    查看>>
    python制作甘特图的基本知识(附Demo)
    查看>>
    python制作一个简单的服务器,【Python】 做一个简单的 http 服务器
    查看>>
    Python到底能做什么?它的优点在哪?
    查看>>
    python利用pytorch库导出图像分割算子
    查看>>
    python利用pyshark监听网卡来抓包其中pyshark中摸索的一些可用参数
    查看>>
    python利用excel分析过杀漏失
    查看>>
    python判断汉字数目
    查看>>
    python判断文件是空的,如果是空的,就删除
    查看>>
    python判断密码是否正确_python密码判断是否符合要求的方法
    查看>>
    python判断字符串包含中文_Python 判断字符串是否包含中文
    查看>>
    python删除第一行_Python 乱码指北:一行删掉根目录
    查看>>
    Python删除列表元素的三种方法
    查看>>
    python初步学习-python数据类型-集合(set)
    查看>>
    python列表生成字典_Python中将字典转换为列表的方法
    查看>>
    python列表对应元素合并为列表及判断一个列表是几维
    查看>>
    python列表去重复后按照顺序_从包含不可共元素的Python列表中删除重复元素,同时保留顺序?...
    查看>>
    python列表前几个_python之列表
    查看>>