HermesAgent方言识别能力受限于STT模型版本、音频预处理及语言强制设置;需确认使用large-v3方言微调模型,通过离线测试、强制语言模式、发音词典和关闭降噪等方法系统验证与优化。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您在使用HermesAgent时尝试用粤语、四川话或东北话发出指令,但系统将其识别为普通话甚至误转成完全无关的文本,则说明其方言识别能力尚未覆盖该口音。以下是针对HermesAgent中文语音识别能力,特别是方言适配性的具体测试与验证方法:
一、确认当前STT模型对非标中文的支持范围
HermesAgent默认语音识别后端为Whisper系列模型,其方言识别能力高度依赖所加载模型的训练数据构成。tiny/base/small等轻量模型主要基于标准普通话语料训练,对方言泛化能力极弱;而large-v3模型虽含少量粤语样本,但未覆盖闽南语、吴语及多数西南官话变体。
1、检查当前启用的STT模型尺寸:运行hermes config get stt.model_size命令获取输出值。
2、若返回值为tiny、base或small,则表明系统未加载具备方言潜力的模型版本。
3、查阅~/.hermes/models/whisper/目录下是否存在large-v3-zh-yue或large-v3-sichuanhua等命名子目录。
4、如不存在,需手动下载对应方言微调模型并解压至该路径,再修改config.yaml中stt.model_path字段指向新路径。
二、通过本地音频文件进行离线方言识别测试
绕过实时麦克风采集链路,直接输入已录制的方言语音片段,可排除VAD(语音活动检测)模块在嘈杂环境下的误判干扰,精准定位STT核心识别瓶颈。
1、准备一段10秒以内的粤语语音文件cantonese_test.wav,确保采样率为16kHz、单声道、PCM编码。
2、执行离线转录命令:hermes stt transcribe --audio cantonese_test.wav --language zh-yue。
3、观察终端输出文本是否包含“呢度”、“咗”、“啲”等典型粤语助词与代词。
4、若输出为“这里”、“了”、“的”等普通话对应词,或出现大量乱码与重复字,则确认模型未激活粤语识别分支。
三、启用Whisper的多语言强制识别模式
Whisper原生支持按语言代码强制指定识别目标语种,即使音频中混有普通话成分,也能抑制模型向通用中文路径坍缩,从而提升对方言特征的敏感度。
1、编辑~/.hermes/config.yaml,在stt:区块下添加字段:forced_language: zh-yue(粤语)、zh-sichuan(四川话)或zh-northeast(东北话)。
2、保存后重启语音服务:hermes voice stop && hermes voice start。
3、说出预设测试句:“我哋依家要开风扇”,注意语速放慢、字音清晰。
4、比对识别结果中“我哋”是否被保留,而非转为“我们”,“依家”是否识别为“现在”或保持原字形。
四、注入方言发音词典增强识别鲁棒性
在不更换模型的前提下,通过构建轻量级发音映射表,将高频方言词汇与其标准拼音或近音普通话写法建立关联,由前端预处理器完成归一化,提升Whisper对非常规读音的容错率。
1、创建~/.hermes/dict/cantonese_pronunciation.csv,内容格式为:字词,拼音,替换词(例如:咗,zou3,了;啲,di1,的)。
2、启用词典插件:运行hermes tools install pronunciation-dict。
3、在config.yaml中设置stt.pronunciation_dict: ~/.hermes/dict/cantonese_pronunciation.csv。
4、重新启动HermesAgent,用含“咗”、“啲”的句子测试,观察输出是否优先采用“了”、“的”等替换词而非原字。
五、验证系统级音频预处理对口音的影响
部分方言识别失败源于前端音频增强模块过度压制非标准频段能量,导致声调轮廓失真。关闭降噪与自动增益控制(AGC),可保留更多原始语音特征供STT模型判别。
1、进入~/.hermes/config.yaml,定位audio_input:配置节。
2、将noise_suppression:设为false,automatic_gain_control:也设为false。
3、保存配置并重启服务:hermes agentstop && hermes agentstart。
4、在安静环境中重试同一句四川话:“你吃饭没得?”,记录识别结果中“没得”是否被正确捕获为“没有”或保留原词。


















