答案是使用Go语言实现轻量级搜索引擎,包含文档加载、分词、倒排索引构建与关键词搜索功能。通过strings.Fields或正则进行英文分词,利用map[string][]int结构存储倒排索引,对每个词项记录其出现的文档ID,并在搜索时对多个关键词的文档列表求交集,返回匹配结果。

用Go语言实现一个简单的搜索引擎工具,核心目标是快速索引文本内容并支持关键词查询。虽然不像Elasticsearch那样复杂,但适合学习倒排索引、分词和基本检索逻辑。下面是一个轻量级实现思路与代码结构。
1. 基本功能设计
这个简单搜索引擎包含以下功能模块:
- 文档加载:从文件或内存中读取文本内容
- 分词处理:将文本切分为独立的词项(token)
- 倒排索引构建:记录每个词出现在哪些文档中
- 关键词搜索:输入关键词,返回匹配的文档列表
2. 分词与文本处理
Go标准库没有内置中文分词,但英文或空格分隔的文本可以直接处理。对于简单场景,使用strings.Fields或正则提取单词即可。
示例代码:
立即学习“go语言免费学习笔记(深入)”;
func tokenize(text string) []string { // 转小写,去除标点,按空格分割 re := regexp.MustCompile(`[a-zA-Z]+`) words := re.FindAllString(strings.ToLower(text), -1) return words }
3. 构建倒排索引
倒排索引是搜索引擎的核心。我们用map存储每个词对应的文档ID列表。
结构定义:
type Index map[string][]int func (idx *Index) Add(docID int, content string) { words := tokenize(content) seen := make(map[string]bool) for _, word := range words { if !seen[word] { (*idx)[word] = append((*idx)[word], docID) seen[word] = true } } }
这里对每个词去重,避免同一文档在同一个词下多次出现。
4. 实现搜索功能
搜索时查找每个关键词对应的文档ID,取交集得到同时匹配多个词的结果。
简单实现:
func (idx Index) Search(query string) []int { words := tokenize(query) if len(words) == 0 { return nil } // 获取第一个词的文档列表作为初始结果 result := make([]int, len(idx[words[0]])) copy(result, idx[words[0]]) // 与其他词的文档列表求交集 for _, word := range words[1:] { result = intersect(result, idx[word]) } return result } func intersect(a, b []int) []int { i, j := 0, 0 var res []int for i < len(a) && j < len(b) { if a[i] == b[j] { res = append(res, a[i]) i++ j++ } else if a[i] < b[j] { i++ } else { j++ } } return res }
5. 完整使用示例
把上面组件组合起来:
func main() { var index Index = make(map[string][]int) docs := []string{ "Go is a great programming language", "Search engine in Go is fun", "Simple tools work well", } // 建立索引 for i, doc := range docs { index.Add(i, doc) } // 搜索 query := "go search" results := index.Search(query) fmt.Printf("Matched documents: %vn", results) for _, id := range results { fmt.Printf("Doc[%d]: %sn", id, docs[id]) } }
输出:
Matched documents: [1] Doc[1]: Search engine in Go is fun
基本上就这些。不复杂但容易忽略细节,比如大小写处理、重复词、性能优化等。后续可扩展支持中文分词(如“gojieba”)、持久化索引、TF-IDF排序等。
相关标签:
golang 搜索引擎 word go go语言 app 工具 ai 标准库 golang String Token int Go语言 map elasticsearch 搜索引擎 性能优化


