第四模块

第四功能模块的简要设计

@Luxiaoye支持原创

永不言弃的黄金精神

第四模块_第1张图片

作业链接:https://edu.cnblogs.com/campus/fzu/2019FZUSEZ/homework/9819

此次团队编程中,我主要编写第四模块

基本要求

-m 指定需统计的词组长度
-n 指定需要输出的词频排行的前n项

4、统计文件中各词组(单词)的出现次数,最终只按照字典序输出频率最高的n个,n由输入参数指定。

  • 该功能不影响单词总数统计
  • 同一词组(单词)不区分大小写;例如,file、File和FILE是同一个单词
  • 频率相同的单词,优先输出字典序靠前的单词,例如,windows95,windows98和windows2000同时出现时,则先输出windows2000
  • 输出的单词统一为小写格式。

在经过队友把文本内容处理之后,会变成如下格式。

格式:去掉不是规定单词的单词,单词之间只用空格隔开,可以多个空格,单词的字母数大于等于4。

样例

标准样例
文件输入

Monday Tuesday Wednesday Thursday
Friday

文件输出

: 1
: 1

自定义样例

文件输入

       Iiii    loove china       china love iiii
dsaaa bdsadsb AAAa aaaa   aaaa aaaa aaaa AAAA
Posoa jihoasj akkkp  jihoasj akkkp

文件输出

: 4
: 1
: 1
: 1
: 1
: 1
: 1
: 1
: 1
: 1

需要实现的功能

  1. 打开文件流

  2. 单行读入

  3. 以r'(+?)个空格分割,就是多个空格分割。

  4. 处理分割后的数据分组

  5. 统计词组 频

  6. 根据传参 m 和 n来输出规定格式数据

  7. 写规定格式数据流到文件

    大致思路流程图

    第四模块_第2张图片

文本词组频统计算法简要介绍

切割聚合算法

对字符串切割并根据规定长度聚合词组函数算法,注释有算法介绍

//对字符串切割并根据规定长度聚合词组
vector split(const string& str,const string& delim){
    vector res;
    vector result;
    res.clear();
    result.clear();
    string ss;
    //以delim切割字符串到string向量res里面
    if("" == str) return res;
    char* strs = new char[str.length() + 1];
    strcpy(strs,str.c_str());
    char* d = new char[delim.length() + 1];
    strcpy(d,delim.c_str());
    char* p = strtok(strs,d);
    while(p){
        string s = p;
        res.push_back(s);
        p = strtok(NULL,d);
    } 

if(res.size() >= m){//如果这一行的单词个数小于规定的词组长度,则不予加入词频的统计范围
    //从此行第0个单词开始到 单词数-m 个单词
    for(int kk = 0; kk <= res.size()-m; ++kk){
        ss="";
        //从第kk个单词开始,后数m个,将这些单词以规定格式聚合
        for(int i = kk; i < kk + m -1; i++){
            ss.append(res[i]) ;
            ss.append(" ");
        }
        //最后一个单词后不聚合空格
        ss.append(res[kk+m-1]);
        //将聚合后的放入向量result中
        result.push_back(ss);
    }
}   
return result;
}

我重载了sort算法用于词频排序,因为map本身就是按字典序排列所以我只需要按词频排序

bool cmp(const pair& a, const pair& b) {
        return a.second > b.second;
}

统计词组的词频算法

 string  line; //保存读入的每一行
     map mp;
     while(getline(f,line))//读入一行会自动把\n换行符去掉 
     {
        //转小写 
        transform(line.begin(),line.end(),line.begin(),::tolower);
​       //空格分割后在all_str中保存单词
        vector all_str = split(line," ");
        for(int i = 0; i < all_str.size(); ++i){
            flag = 0;//定义flag标志此次词组是否出现
​           /*
            flag==0未出现 map中插入词组及次数1
            flag==1出现过 map.second的次数++
            */

​           for(map::iterator j = mp.begin(); j != mp.end(); ++j){
​               pair it = *j;
​               if(all_str[i] == it.first){
​                   it.second++;
​                   mp.erase(all_str[i]);
​                   mp.insert(it);
​                   flag = 1;
​               }
​           }
​       //若flag为0   
​       if(!flag){
​           pair p_tmp(all_str[i], 1);
​           mp.insert(p_tmp);
​       }
​       }
​   }
    //将统计完成的词组及词频map插入到总的vec中排序
​   vector< pair > vec(mp.begin(), mp.end());
​   sort(vec.begin(), vec.end(), cmp);

输入到文件流函数

    //定义changdu为要输出的所有的词组的长度
    /*
    若未指定m,则changdu取10与所有词组总长度的最小值
    若指定m,则changdu取m与所有词组总长度的最小值
    */
    outfile.open(argv[outputpos],ios::app);
    if (m != 0) {
        if (vec.size() <= n)
            changdu = vec.size();
        else changdu = n;
        for (int i = 0; i < changdu; ++i) {
            outfile << "<" << vec[i].first << ">: " << vec[i].second << endl;
            cout <<"<" << vec[i].first << ">: " << vec[i].second << endl;
        }
    
    } else {
        if (vec.size() <= 10)
            changdu = vec.size();
        else changdu = 10;
        for (int i = 0; i < changdu; ++i) {
            outfile << "<" << vec[i].first << ">: " << vec[i].second << endl;
            cout << "<" << vec[i].first << ">: " << vec[i].second << endl;
        }       
    }
    outfile.close();

编码体会

更进一步掌握了vector和map的用法及结合使用

程序截图

第四模块_第3张图片

第四模块_第4张图片

你可能感兴趣的:(第四模块)