查询结果与统计
查找、模式和条件这几个条件决定查询收集哪些命中,显示条件则决定你从中看到什么。它可以列出命中、统计命中、用统计检验比较几组文档、追踪命中在每个文档中或在各个时间段中的分布、找出它们的搭配词和关键词,或者确定它们之间的共现。每一种结果都可以导出为表格、附带生成该结果的查询的文本文件,或者图片。各个条件的详细说明见第 15 章“构建查询”。
本章的例子使用本指南的示例项目“气候辩论”。要重现这些例子,请选取文件 ▸ 导入 ▸ 示例项目,LemmaLoom 会以你偏好的界面语言载入这个项目。例子中的数字大多是为了简便而虚构的,因此与截图中显示的数字不同。如果某个例子用的是示例项目本身的计数,文中会明确说明。
关键术语
- 命中是执行查询后返回的一项内容,可以是词、句子、编码实例、话轮、文档或编码。结果上方的横栏显示查询输出中的命中总数,例如 312 个命中。
- 分组依据键按命中的某项特征给命中分组,例如编码、说话人,或者所在文档的“立场”之类的属性。键的每个不同的值在输出中各占一行。
- 度量是一行结果中显示的数值,可以是命中数或文档数、比率、覆盖率或占比。
- 比率是命中数除以命中所在文本的词数。比率经过标准化,所以长短不同的文本可以相互比较。
- 文档级键是一种分组依据键,它对每个文档只有一个值。“立场”之类的属性、文档的分组、文档的语言以及文档本身,都是文档级键。比较中的检验需要文档级键才能运行,因为比较的对象是文档。
- 检验估计单凭偶然有多容易产生你在各组之间观察到的差异。它给出 p 值和效应量,两者都在本章后文的 p 值与效应量中说明。
选择显示的内容
点按显示条件,会看到最多七种结果,具体有哪些取决于你的查询。七种并不总是全部出现,这要看查询分析的是什么(即分析单位,也就是查找要找的内容),以及它在什么范围内搜索(即范围,可以是文档、文档集或项目一级)。
| 显示 | 得到的结果 | 适用于 |
|---|---|---|
| 列表 | 命中本身,显示为索引行或记录表 | 所有查询 |
| 数量 | 一个数字,或者按一两个分组依据键的值分别给出的数字 | 所有查询 |
| 比较 | 每组的数字,附带统计检验 | 文档集、项目和所有项目 |
| 随时间变化 | 一张折线图,或者每个文档一条显示命中位置的条带 | 片段单位,以及文档 |
| 搭配词 | 在命中附近出现得比偶然预期更频繁的词 | 词、模式匹配和文本匹配 |
| 关键词 | 一个文档集比参考语料用得更多或更少的词 | 文档集或项目中的词 |
| 网络 | 各个值一同出现的次数表 | 片段单位 |
片段单位指在文档中有位置的所有分析单位,也就是查找菜单中除资料库下的条目(如文档、编码和文档集)以外的全部单位。
通常先从列表开始。浏览列表返回的命中,可以判断查询是否找到了你需要的内容。对命中的质量满意之后,数量会给出命中总数,以及命中在编码、说话人或属性之间各有多少。比较用统计方法评估各组文档之间观察到的差异是否大于巧合所能造成的差异。处理有关位置和时间的问题时,随时间变化很有用。搭配词和关键词都用于回答与词汇有关的问题,网络则直观地显示编码或其他值之间的共现。
显示条件中可用的选项随所选结果的种类而不同。在列表、数量或比较中选定的限制,切换到搭配词、关键词或网络之后仍然有效。限制复选框本身虽然从视图中消失,限制却继续生效,直到你切换回去、取消勾选它,再回到所选的种类。
结果区域
无论在哪里创建查询,结果都直接显示在查询构建器下方。在文档集和项目中,结果占据查询视图中左栏和各个条件下方的全部水平空间。在查询窗口(窗口 ▸ 查询)中,结果同样占满整个宽度。构建器和结果之间的分隔条可以按你的喜好调整两个区域的大小。查看文档时,检查器的查询分面下半部分显示结果。
如果查询不涉及分析大型文档集、项目或所有项目的文本,每次编辑它都会自动运行。分析这类文本的查询则会等你启动。这类查询的结果区域中会出现运行查询按钮,由此可以认出它们。在多大的文档集、项目或所有项目中会出现这种情况,详见第 15 章“构建查询”中的运行查询。要运行查询,请点按结果区域中的运行查询按钮,按下 ⌘R(编辑 ▸ 运行查询),或者点按构建器上方横栏中的三角形图标。
查询在后台异步运行,所以在它执行期间你可以继续阅读或编码。在后台运行的查询在构建器上方的横栏中有自己的进度圆环,执行开始时它随即启用,以百分比显示已分析的文档所占的比例。执行期间,三角形会被停止按钮取代。查询分析文档的同时,结果实时更新,在执行结束之前一直呈淡色。执行结束之前,结果中的列表最多只显示前 5,000 个命中,列表底部还会给出找到的命中总数,例如显示 5,000 / 12,431。按文档顺序以外的任何顺序排序的列表,在此之前保持文档顺序,结束后才排序。随时点按停止都可以结束执行,并保留已得到的部分结果。关键词列表只在查询完成后才出现。
结果区域顶部的横栏,即结果栏,概括结果。对大多数查询,它给出命中数,例如 312 个命中。资料库条目查询给出条目数,例如 14 个结果;网络给出它所连接的值的个数,例如 10 个节点。除了这些计数,如果查询不得不略去一些文档,结果栏还会显示读取了多少个文档(见下文的略去的文档),并显示你下钻的值(见本章后文的下钻)。结果栏右侧有筛选字段(用于筛选查询结果)、导出(带向上箭头的方框)和在窗口中打开结果(两个向外指的箭头)。在文档的查询分面中,结果栏只有摘要、读取的文档数和下钻的值,导出则位于分面顶部、结果上方的横栏中。
查询无法运行时,结果区域会说明原因,例如需要文档集或项目、未选择文档集或无效模式。这时三角形按钮已停用,它的悬停提示给出同样的原因。查询运行后没有返回任何匹配时,结果区域显示无匹配项。
略去的文档
查找词、模式匹配、句子、短语、名词块或发现的查询只对已建立索引的文档起作用。尚未建立索引的文档会被排除,使用英语、德语和汉语以外语言的文档也是如此。使用词数的结果(例如每万词、秩检验或 DP)同样会排除这些文档。结果栏会告诉你读取了多少个文档,例如 12 / 14。提前停止查询时,也会出现这个数字。
在 14 个文档中的 12 个上得出的比率、计数或统计检验,对另外两个文档什么也说明不了。如何查看每个文档的索引情况并完成索引,详见第 21 章“分析与索引”。
筛选结果
筛选字段可以缩小结果显示的范围。假设一个查询返回了数百个命中,其中有几个只来自某一个文档或某个编码,而你现在只想看这几个命中。这时在筛选字段中输入几个字符即可,只有包含这些文字的行会留下来,大小写不予区分。
筛选的方式因结果类型而异。在列表中,筛选查看每个命中的文本及其周围的上下文、文档标题,以及编码或说话人之类的其他列。在计数、比较、搭配词、关键词和网络中,筛选依据的是行的名称。在文档内位置条带中,筛选只查看文档标题。除了单个数字和折线图,所有结果类型都可以使用筛选。
请记住,筛选只是把行隐藏起来。结果栏中报告的命中总数、各行中的数字以及所有检验,仍然考虑全部命中。限制决定列表中实际显示多少个命中,因此筛选只作用于限制之后剩下的命中。导出只保留通过筛选的行。
在窗口中查看结果
点按结果栏右侧的在窗口中打开结果按钮,当前显示的结果会在一个新窗口中打开,这个窗口有自己的结果栏、筛选字段和导出按钮。窗口标题由查询名称、范围以及你下钻的值(如果有的话)组成,命中数旁边也会再次显示这个名称。


这个窗口保留你打开它时的结果状态,因此你可以调整查询或范围,再次运行,然后把新结果与之前的结果并排比较,例如把按立场统计的“恐惧”编码实例与按立场统计的“希望”编码实例放在一起对照。在窗口中同样可以下钻和打开命中。
查询运行结束之前,这个按钮一直处于停用状态。点按构建器上方横栏中的窗口按钮,则会在查询窗口中打开整个查询(见第 15 章“构建查询”中的查询窗口)。
列表
列表显示查询实际找到的命中。出现在文本某处的命中以索引行的形式显示,文档或编码之类的资料库对象则以表格的形式显示。如果遇到出乎意料的计数,请查看列表弄清原因。
索引行
索引行是一个词或一段文字的命中列表,它把每一次出现放在中间一栏,两侧是它的上下文。顺着中间一栏往下看,就能同时看到一个词或一段文字的多种用法。


索引行的各列如下:
- 文档表示文档集、项目或所有项目中包含该命中的文档。
- 左语境和右语境显示命中前后最多 70 个字符,所有换行都替换为空格。
- 匹配是搜索过程中找到的实际匹配内容。超过 400 个字符的匹配会被截断,并以“…”结尾。
- 还有几列与查询的单位类型有关:编码实例有编码,备忘录有内容和关联编码,书签有评论,链接有另一文档和关系,话轮有说话人和开始,分析器的发现有发现,短语有短语标签和短语功能,对齐有译文文本。
- 位置准确说明命中在文档中的什么地方。位置的形式类似 ¶4·2,表示该文档第四段的第二个句子。如果命中所在的文档尚未建立索引,句子编号会被省略,位置就变成 ¶4 这样的形式。
- 涉及类别或在创建查询时使用了着色依据时,会显示类别。同样,选择所有项目时会显示项目。最后,按命中得分排序时会显示得分。
列表中的每个命中都可以直接带你到它在文档中的位置。连按两次命中,选中命中后按下 Return 键,或者选中命中后从它的快捷菜单中选取跳转到来源,都可以做到这一点。LemmaLoom 会在预览标签页中显示包含该命中的文档(除非它已经打开),并高亮显示匹配内容。如果命中属于另一个项目,LemmaLoom 会切换到那个项目。
在文档的查询分面中,命中以一种较窄的索引行形式显示。每个命中占一行,显示前后的词,中间是粗体的匹配内容,下方是位置。连续几个命中出现在同一位置时,位置只在第一个命中下显示一次。点按一个命中,它就会显示在阅读器中。


列表中命中的顺序取决于显示条件中显示文档顺序的菜单。可选的顺序如下:
- 文档顺序保持文档集或项目中的顺序以及文本中的顺序。这是默认设置。
- 匹配按匹配内容本身的字母顺序排列。
- 左语境按前面的词排列命中,从匹配的位置开始倒着读左语境。
- 右语境按右语境中后面的词排列命中。
- 文档按文档标题的字母顺序排列命中。
- 频次按命中的频次排列,即统计各命中的匹配内容出现的次数。统计频次时,大小写和重音造成的差异一律忽略。重复次数最多的命中排在最前面。
- 得分按命中的得分排列,得分较高的命中排在上面。只有当查询带有由类似某编码的片段或冻结值生成的加权词表时,才提供这一项。此外,在这种排序方式下,包含词表中的词少于两个的命中会被略去,因此命中总数会比最初的数目少。详见第 17 章“查询模式与发现”中的句子的打分方式和第 18 章“使用查询结果”中的冻结值。
列表最多显示多少个命中,受两项设置的限制。在显示条件中勾选限制,然后设定要显示的命中数;它的初始值为 50,最多为 10,000。另一项限制适用于所有列表,它在选项条件中显示为上限,初始值为 5,000,可以按 1,000 的步长在 1,000 到 200,000 之间取值。每当查询返回的命中多于这些数字所允许的数目,列表下方就会出现一行文字,例如显示 5,000 / 12,431。请注意,结果栏中的命中数始终包括所有命中。按文档顺序排列时,列表保留最先找到的命中。按其他顺序排列时,LemmaLoom 会分析查询返回的全部命中,按你指定的方式排序,然后只保留排在前面的部分。列表最好保持简短。只有在需要每一个命中时(例如要完整导出),才把命中数的限制设高。
记录
查找设为资料库下的某个单位时,列表会生成一个表格视图,每一行代表项目中的一个条目。要把项目中的文档、编码或其他条目连同它们的各项特征并排查看时,请使用列表。例如,可以用列表找出没有日期的文档或很少使用的编码。第一列对文档是标题,对其他条目是名称。其余各列取决于单位。
| 查找 | 名称之后的列 |
|---|---|
| 文档 | 作者、日期、语言、分组、标签、词符 |
| 编码 | 路径、编码实例、已编码文档、标签 |
| 编码集 | 编码 |
| 文档集 | 种类、文档 |
| 分组 | 文档 |
| 属性 | 类型、所属、已设置值 |
| 标签 | 使用次数、项目、文档、编码 |
| 词典词条 | 类别、词典、命中 |
| 分析器 | 语言、图例键 |
| 项目 | 标签、文档 |
点按列标题,表格按这一列排序;再点按一次,顺序反转。数值按大小排序,文本按字母顺序排序。最初的顺序可以用显示条件中显示文档顺序的菜单设为名称或文档顺序。要查看一个文档,请连按两次它所在的行,或者选中这一行后按下 Return 键,也可以右键点按它并选取跳转到来源。


计数
数量把命中变成数字。最基本的形式是不带分组依据键,这时数量返回一个数字;加上一个键得到列表,加上两个键得到表格。计数反映的是文档实际的样子。如果要问各组之间的差异是否超出偶然的水平,请使用比较(见本章后文的比较各组)。
统计全部命中
分组依据留空时,数量返回一个大号数字,下方是度量的名称(默认为命中,除非你更改了显示命中的菜单),还有一行类似 7 个命中,分布于 4 个文档的文字。在“气候辩论”项目中,编码“恐惧”位于“情绪”之下,用于任何表达或唤起恐惧的片段。统计它在“行动派”文档集中的编码实例,可以看出行动派文本诉诸恐惧的频率,以及有多少篇文本这样做。


要统计一个编码的编码实例:
- 打开文档集或项目的查询视图。
- 在查找中选取编码实例。
- 在条件中点按添加,然后选取添加规则。
- 在新规则的字段菜单中选取编码。
- 选择这个编码作为规则的值。
- 在显示中选取数量。
无论查询找的是什么,计数的步骤都与此类似。例如,在查找中使用词,并加一条关于词元的规则,就能统计一个词出现的次数。
分组计数
分组依据键显示命中如何分布。在“气候辩论”这个例子中,每个文档都带有“立场”属性(即“行动派”、“怀疑派”或“中立”)。因此,先按编码、再按“立场”给项目中的编码实例分组,就能看出辩论各方分别使用哪些编码,如下图所示。




要按组统计命中:
- 在显示中选取数量。
- 点按分组依据。随即出现一个键行,其中有显示字段的菜单。
- 在旁边的字段菜单中,选取要据以分组的特征,例如编码。
- 如需表格,请再次点按分组依据。
- 在第二行的字段菜单中选取第二个特征,例如属性 ▸ 立场。
使用一个键时,得到的是一个列表,每个值一行,按从大到小排列。每一行都有一根细长的条形,显示它的值相对于最大值的大小。如果列表有 2 到 30 行,列表上方还会有一张条形图,检查器中除外。代表类别的行带有为类别指定的颜色。


使用两个键时,列表变成表格。行对应第一个键的值,列对应第二个键的值。左上角写明两个键,如编码 × 立场。单元格中的值是同时对应两个键的度量,值越大,颜色越深。没有命中的单元格留空。将鼠标指针悬停在任意单元格上,可以查看它所在的行标签和列标签。表格可以用来同时考察两项特征,例如怀疑派使用的编码是否与行动派不同。查询视图左栏中模板下的按属性统计编码实例模板,会生成一张类似的表格,按编码和分组排列。
分组依据键
每个键行中显示字段的菜单提供以下来源:
| 分组依据 | 按什么给命中分组 | 适用于 |
|---|---|---|
| 字段 | 在字段菜单中所选字段的值 | 所有查询 |
| 文档 | 文档 | 文档集、项目或所有项目中的片段单位和文档 |
| 项目 | 项目 | 所有项目 |
| 语言 | 文档的语言 | 文档集、项目或所有项目中的片段单位和文档 |
| 类别 | 查询的类别;对于文本匹配,还有词典类别 | 带类别的查询,以及文本匹配 |
| 文档内位置 | 命中的开头落在文档的哪个十分之一,例如 0–10% 或 10–20% | 片段单位 |
| 媒体时间 | 命中所在话轮在录音的第几分钟开始 | 片段单位 |
字段菜单列出所选查询单位类型可用的字段,分类方式与条件的结构相同。存放自由文本的字段(例如备忘录的内容)不在其中,因为几乎每个命中都会自成一行。如果查询涵盖多个文档并查找片段单位或文档,文档字段分组、语言、格式、标签、属性、日期和创建时间始终包括在内。选取属性会打开一个子菜单,列出项目的属性。选取统计量,以及对编码实例选取编码属性,也会以同样的方式打开子菜单。
如果字段是日期类型,例如文档的日期或创建时间,它所在的行中会出现显示每个值的菜单。选取每个值,找到的每个日期各占一行;选取按年,日期按年份合并成行;选取按月则按月份合并。如果字段是日期属性,例如“发表日期”,它的每个日期各占一行。同样,数字字段(例如“读者数”)的每个数值也各占一行。十个文档有十个不同的值,就会得到十行。


各行按显示的数字从大到小排列。例外的是文档内位置、年份和月份的行,它们保持自然顺序。在表格形式的查询结果中,行和列按键的值的顺序排列,通常是字母顺序。
对某个键没有任何值的命中,例如以分组分组时“2024 热浪报告”中的编码实例,显示在无值一行下。一个命中有多个值时,例如一个文档带有多个标签,它在每个值下各计一次。因此,各行之和可能超过实际的命中数。
在数量和比较中,勾选显示条件中的限制,可以限制显示的行数。它的初始值为 50,最多为 10,000 行。
度量
显示命中的菜单决定每一行显示哪个数字。数量、比较和随时间变化提供这个选项;无论选择什么,文档内位置条带都显示单个命中。如果要比较的文档或组大小不同(通常都是如此),建议使用每万词。除文档外的资料库单位只提供命中和占比。
| 度量 | 显示 | 显示形式 |
|---|---|---|
| 命中 | 命中数 | 整数 |
| 文档 | 至少有一个命中的文档数 | 整数 |
| 每万词 | 每 10,000 词文本中的命中数 | 一位小数 |
| 覆盖率 | 命中所覆盖的文本所占的比例 | 带一位小数的百分数 |
| 占比 | 这一行在全部命中中所占的比例 | 带一位小数的百分数 |
每万词
长度不同的文本,计数很难相互比较。一篇 600 词的博客文章中有 6 处模糊限制语,相当于每千词 10 处;而一篇 3,000 词的文本中有 6 处,则是每千词 2 处。比率用命中数除以词数,再乘以 10,000,得出更便于处理的数字,从而让这种比较标准化。
其中 是这一行的命中数, 是这一行所代表的文档的词数。词数根据已建立索引的正文统计,不计标点符号。如果这一行对应的是文档级键,例如“立场”, 就用具有该值的文档的词数来计算。对于其他所有键,无论是编码键还是词元键, 都是查询读取的全部文档的词数之和。
假设“怀疑派”文档集中的三篇纸媒文档共有 1,800 词,其中有 24 处模糊限制语,比率为 。两篇网络文档共有 1,200 词和 30 处模糊限制语,比率为 。另一方面,在“怀疑派”文档集按编码分组的列表中(共 3,000 词),一个有十个编码实例的编码,比率约为 。
一行的比率把所含全部文档的命中数和词数合在一起计算。因此,长文档对所得比率的影响大于短文档。比较中的秩检验则为每个文档单独计算比率。
文档只有在建立索引时才得到词数。文档建立索引之前,基于词的查询会完全忽略它,结果栏会显示读取了多少个文档。词以外的其他单位在词数统计出来之前就会统计命中,因而得出虚高的比率。
覆盖率
覆盖率是以字符计算的度量:
是至少被一个命中覆盖的字符总数, 是这一行所代表的文档的字符总数,文档的选取方式与每万词相同。命中相互重叠的字符只计一次。
例如,“时间不多了”约有 1,700 个字符,假设其中有三个“恐惧”编码实例,长度分别为 50、90 和 70 个字符,后两个重叠了 23 个字符。被覆盖的字符总数就是 ,覆盖率为 ,即 11.0%。
覆盖率最适合编码实例,因为它表示你用某个编码标注了文本的多大比例。对于词,覆盖率给出的是被覆盖字符的比例,在大多数情况下用处不大。
占比
占比计算一行的命中在查询范围内的命中总数中所占的比例。例如,如果“行动派”文档集有 54 个编码实例,其中 7 个是“恐惧”编码实例,“恐惧”这一行的计算结果就是 。如果有些命中落在多个值下,各行之和可能超过 100%。
下钻
计数中的每个数字都代表一些命中,这些命中可以展开成列表。
- 点按数量或比较列表中的一行、表格中的一个单元格,或者随时间变化折线图中的一个点。结果区域按文档顺序列出这个值背后的命中;片段单位显示为索引行,查找为文档之类的资料库单位时显示为记录表。结果栏写明这个值。例如,按文档统计词典类别模板所生成表格中的一个单元格,会显示为不必恐慌 · 缓和语。
- 连按两次一个命中,即可在它所在的文档中打开它。
- 要返回,请点按这个值的名称旁边的 ×。计数会立即恢复。


生成下钻列表时,不考虑显示条件中的限制,但会考虑选项条件中设定的上限。只要修改查询的任何部分,下钻就会立即结束。显示下钻列表期间,导出可以导出当前列表,操作菜单则作用于列表中的命中,例如用这些命中所在的文档创建一个文档集(见第 18 章“使用查询结果”)。对于折线图,如果有第二个分组依据键,点按图表中的任意位置,会生成该位置上所有折线的命中列表。
要获取搭配词或关键词所在的片段,请使用索引行模板。
比较各组
比较的用法与数量相同,但还会检验各组之间的差异。
进行比较
在“气候辩论”中,“怀疑派”文档集的五个文档分为“纸媒”和“网络”两个分组。此外,项目中还有一部词典“模糊限制语”,收录也许之类使说法变得缓和的词。按分组比较每万词的模糊限制语用量,问的就是怀疑派在网络上是否比在纸媒上更常使用模糊限制语。为制作下图,查询查找文本匹配,使用显示词典的菜单,并在其下方的菜单中选取“模糊限制语”。


要比较几组文档:
- 在显示中选取比较。
- 点按分组依据。
- 在新行的字段菜单中,选取文档的某项特征,例如分组或某个属性。
- 在显示命中的菜单中选取每万词。
- 显示自动的菜单保持不变,除非下面的其他某种检验更适合你的问题。
在这个例子中,各行显示合并计算的比率,“网络”为 133.1,“纸媒”为 102.7。各行下方有一行给出检验结果,这里是 Mann-Whitney U 检验: U = 1.00, p = 0.248, r = 0.516。网络文档使用模糊限制语稍多一些。下文的 p 值与效应量详细说明这些数字的含义。p 值低于 0.05 时,检验行颜色较深;高于 0.05 时显示为灰色。你可以选中检验行的文字并拷贝。
比较使用一个分组依据键时,检验需要文档级键。文档级键包括语言、项目以及文档字段(例如分组、日期或某个属性)。文档虽然也是文档级键,但它形成的每个组只包含一个文档,检验行因此没有意义,请直接查看各行的数字。使用编码、词元或文档内位置之类的键时,比较只显示数字;这些键是在文档内部给命中分组,而不是给整个文档分组。没有分组键时,比较只显示一个数字。使用两个键时,检验改为针对表格进行(见本章后文的表格中的检验)。


显示自动的菜单中的各项检验作用如下:
- 自动在度量为文档时选用出现检验,否则选用比率秩检验。自动适合大多数情况。
- 比率秩检验比较各组中文档的比率。比较两个组时,它执行 Mann-Whitney U 检验;比较三个或更多组时,执行 Kruskal-Wallis H 检验。
- 出现检验比较各组中至少有一个命中的文档数是否不同。比较两个组时,它使用 Fisher 精确检验;组更多时,使用卡方检验。
- 基于计数的卡方检验比较每组的命中数和总词数,每个词都作为一次观测。
- 最后,不检验只显示各行,不显示检验行。
解读检验结果时,请注意以下几点:
- 第一,检验不考虑各行中显示的数字。秩检验以各文档的比率为基础,出现检验则统计有命中和没有命中的文档。当查询考察的是词、模式匹配、句子、段落、文本匹配、短语、名词块或发现,或者度量为每万词或覆盖率时,比率是每个文档的命中数除以该文档的词数。在其他任何情况下,例如查找编码实例且度量为命中时,秩检验改为除以每个文档的字符数。基于计数的卡方检验在这些情况下没有词可以比较,会得出 χ² = 0.00 和 p = 1.000,这两个数字没有意义。阅读秩检验或基于计数的卡方检验的结果之前,应先把显示命中的菜单设为每万词。除此之外,度量只影响自动所做的选择。
- 第二,所有组都包括在内,被限制或筛选字段隐藏的组也不例外。
- 第三,缺少键值的文档自成一组,即无值;即使它们因为没有命中而不显示为行,也照样参与比较。在“气候辩论”项目中,“2024 热浪报告”和“碳税之争”不属于任何分组。因此,在项目一级以分组字段分组时,比较的是三个组。要在比较中排除没有值的文档,必须在只包含有值文档的文档集中进行比较。
- 第四,取多个键值的文档(例如带有多个标签)会相应地出现在每一个组中。检验假定每个文档只属于一个组。请选择每个文档只取一个值的键,例如选择器属性或分组本身。
p 值与效应量
即使没有任何因素把几组文档区分开来,它们的比率也很少恰好相等。因此,检验会给出这种差异纯属随机产生的可能性,以及差异本身的大小。
p 值衡量的是,假如所比较的各组之间实际上没有差异,单凭偶然出现观测到的差异或更大差异的可能性有多大;它的取值在 0 到 1 之间。p 值为 0.04,意味着单凭偶然,大约每 100 次比较中有 4 次会出现这样的结果。许多学科把 p < 0.05 的结果视为显著。p 值并不是差异存在的概率;p > 0.05 只说明证据不足,原因往往是样本量不够。
效应量按某种标准化的尺度衡量各组之间的差异。效应量不随样本量增大而增长,而 p 值既取决于效应量,也取决于观测的数量。在几百个文档中,一个差异无论多么微不足道,都可能在 p < 0.05 的水平上达到统计显著。解读效应量 r、φ 和 V 的常用经验法则认为,0.1 为小,0.3 为中等,0.5 为大。ε² 采用平方的尺度,所以 0.01、0.09 和 0.25 分别对应小、中、大。
检验行显示比较文档组所用的假设检验类型,以及检验统计量的值、p 值和效应量。检验统计量是假设检验根据输入的数据算出的一个数,这里的例子包括 U 统计量、H 统计量和 χ² 统计量。有些检验行在检验统计量之外还给出额外的信息,即自由度(df,见下文三组及以上的秩检验中的说明)。p 值小于 0.001 时,检验行显示 p < 0.001。
两组的秩检验
秩检验考察一组文档的比率是否往往高于另一组文档的比率。秩检验只依据比率的排名,而不依据比率的大小;因此,单单一个比率很高的文档,并不一定能让结果偏向它所在的组。比较两个组时,这种检验称为 Mann-Whitney U 检验。
这个例子中的数字是虚构的,以便计算更简单。假设“怀疑派”文档集包括 3 篇纸媒文章和 2 篇网络文章,每篇共 600 词,其中的模糊限制语如下:
| 文档 | 分组 | 模糊限制语 | 比率 | 秩 |
|---|---|---|---|---|
| 净零代价高昂 | 纸媒 | 3 | 50 | 1 |
| 模型总是失准 | 纸媒 | 6 | 100 | 2 |
| 转型谁来买单 | 网络 | 12 | 200 | 3 |
| 科学从无定论 | 纸媒 | 15 | 250 | 4 |
| 不必恐慌 | 网络 | 18 | 300 | 5 |
检验从三个步骤开始。
- 每个文档各自算出每 10,000 词的比率,例如“模型总是失准”为 。没有命中的文档以比率 0 参与检验。
- 所有文档按比率排名,这个名次就是秩,最低的为 1,最高的为 5。
- U 统计一组领先的次数。一篇纸媒文章和一篇网络文章组成一对,共有 对。其中 5 对是网络文章的比率较高;只有一对,即“科学从无定论”(250)对“转型谁来买单”(200),是纸媒文章的比率较高。U 取两个次数中较小的一个,所以 。
第 3 步中的次数也可以用秩来计算:
这里 和 是相互比较的两组文档各自的大小(分别为 2 和 3)。参数 是第一组文档(本例中为网络文章)的秩之和,。两个文档的最小秩和是 。所以 ,从而 。
接下来把这个 统计量与两组文档之间没有差异时单凭随机性会得到的值相比较。在所有配对中,预计两组各自领先的比例大致相等,因此这个值应该接近 。U 与这个值的典型距离就是它的标准差,记作 ,计算公式为
其中 是文档总数。因此 。统计量偏离预期平均值的标准差个数等于
对于单凭偶然得到的值,这个 z 统计量服从钟形的正态分布。大多数值落在 −2 和 2 之间,落在更远处的很少。在 0 的任意一侧,与 0 的距离至少为 的值约占整个分布的 0.248,这就是 p 值。在电子表格程序中,可以用 =2*NORM.S.DIST(-1.155,TRUE) 得到这个值。
效应量是 z 统计量与 (文档数的平方根)之比:
这里 表示不计正负号的 z 统计量。效应量的范围从 0(哪一组都不占优势)到接近 1(一组压倒另一组)。即使第一组的每个文档都胜过第二组的每个文档,效应量也仍然小于 1;对于 2 个和 3 个文档的两组,它约为 0.77。
因此,检验行显示为 Mann-Whitney U 检验: U = 1.00, p = 0.248, r = 0.516。尽管效应量很大,网络文章也在六对中的五对里领先,p 仍大于 0.05。检验只涉及五个文档,如此不均衡的分布单凭偶然,大约每 100 次比较中仍会出现 25 次。如果同样的模式在每组二十个文档中重复出现,p 值会更小。
多个文档的值相同时就会出现并列。并列的文档(例如几个比率为 0 的文档)取它们本应得到的各个名次的平均值,所以并列第 1 和第 2 名的两个文档,秩都是 1.5。两个组中各有一个文档并列时,这一对给两边各计半次。在 LemmaLoom 中,并列会使 σ 略微减小。p 值来自基于正态分布的近似。样本较小时(每组少于约十个文档),请只把它当作粗略的参考;本例的精确 p 值是 0.40,而不是 0.248。
三组及以上的秩检验
比较三个或更多组时,秩检验称为 Kruskal-Wallis H 检验。这种检验考察各组的平均秩之间的差异是否超出了纯随机过程所能预期的程度。
假设你想考察“广泛传播”智能文档集中的模糊限制语如何随各文档的立场值分布。把分组依据设为属性 ▸ 立场即可。查询考虑六个原文文档,每个立场值两个,比率如下:
| 立场 | 比率 | 秩 | 平均秩 |
|---|---|---|---|
| 行动派 | 0、20 | 1、2 | 1.5 |
| 怀疑派 | 50、300 | 3、6 | 4.5 |
| 中立 | 120、260 | 4、5 | 4.5 |
平均秩指一个组内各秩的平均值。本例有三种立场、共六个文档,所有文档的平均秩是 。如果立场对排名没有影响,三个组的平均秩都会在 3.5 左右。偏离 3.5 的程度用下式中的 H 来量化:
表示文档总数, 表示第 组的文档数, 表示该组的平均秩。 的意思是“对每个组计算后面的式子,再全部相加”。差值要取平方,因为平方让高于和低于 3.5 的偏离按大小同等计入,然后再乘以相应组的文档数。前面的系数把 H 换算到卡方分布的尺度上。
对这三种立场:
如果有文档的比率相同,上面的统计量需要校正,即除以 ,其中每个 是共有某一个比率的文档数。如果六个文档中有 2 个比率相同,这个校正项就是 。没有任何并列时,校正系数就是 1。
单凭偶然得到的统计量服从卡方分布。决定这种分布的是它有多少个自由度。这里自由度比组数少一,因为知道了其他所有组的平均秩,最后一组的平均秩也就随之确定。所以,3 个组时 df = 2。p 值实质上就是单凭偶然得到与观测值一样极端或更大的值的概率。自由度为 2 时,p 值等于 ,其中 是指数常数,约为 2.718( 是自然对数的底,计算器上有一个键可以求 的任意次幂)。因此本例中 。也可以在电子表格中用公式 =CHISQ.DIST.RT(3.43,2) 计算这个概率;这个函数适用于任意自由度。
效应量 的定义如下:
如果所有平均秩都相等,这个效应量为 0。各组分得越开,它就越接近最大可能值 1。
Kruskal-Wallis H 检验的检验行显示为 Kruskal-Wallis H 检验: H = 3.43, df = 2, p = 0.180, ε² = 0.686。两篇行动派文本使用模糊限制语最少。虽然效应量相当大,但总共只有六个文档,没有足够的证据排除偶然。即使得到非常小的 p 值,结果也只说明存在差异;要知道哪些组较高,请逐行查看。
基于计数的卡方检验
基于计数的卡方检验假定每组中的每个词都是一次观测。因此,每个词要么是命中(1),要么不是(0)。这种检验在许多语料库语言学论文中很常见,适合用来与以往的研究相比较。
对于“怀疑派”文档集中的例子,你会得到下面这张表:
| 模糊限制语 | 其他词 | 词数 | |
|---|---|---|---|
| 网络 | 30 | 1,170 | 1,200 |
| 纸媒 | 24 | 1,776 | 1,800 |
| 合计 | 54 | 2,946 | 3,000 |
“模糊限制语”和“其他词”两列下的四个单元格构成列联表;“词数”列和“合计”行是它们的和。假如发表媒介对模糊限制语的数量没有影响,一个单元格中的模糊限制语数就会与它所在行的词数成比例。每个单元格都有一个期望频数,等于行合计乘以列合计,再除以总计。因此,网络文章中模糊限制语的期望频数为 ,其他三个单元格依次为 32.4、1,178.4 和 1,767.6。一般来说,检验统计量 (卡方;χ 是希腊字母 chi)的计算公式为
其中 表示每个单元格的观测频数, 表示该单元格的期望频数。求和遍及列联表中的所有单元格。每一项都取平方,这样即使观测值与期望值之差为负,结果也是正数。每个平方项再除以 ,按差值相对于 的大小来加权,所以同样是 8.4 的差值,在小单元格中的分量比在大单元格中更重。例如:
四项分别约为 3.267、2.178、0.060 和 0.040,所以 。列联表的自由度(df)等于(行数减 1)乘以(列数减 1),所以这张表的自由度为 1()。自由度为 1 的卡方分布表如下:
| χ² 至少为 | p 至多为 |
|---|---|
| 3.84 | 0.05 |
| 6.63 | 0.01 |
| 10.83 | 0.001 |
χ² 统计量为 5.54,介于 3.84 和 6.63 之间,所以 p 介于 0.05 和 0.01 之间。计算 =CHISQ.DIST.RT(5.54,1) 可知 p = 0.019。要用克莱姆 V 系数(Cramér's V)计算效应量,请使用以下公式:
其中 表示总计, 表示表格的行数和列数中较小的那个。这张表有两行两列,所以 ,。结果为 。因此,检验行显示为卡方检验: χ² = 5.54, df = 1, p = 0.019, V = 0.043。
回想一下,用同样的虚构计数,前面的秩检验得出 p = 0.248,而这里的检验得出 p = 0.019。两个概率不同,是因为两种方法不同;秩检验考虑的是五个文档,而这种检验把 3,000 个词当作各自独立的观测来分析。由于作者有各自的写作习惯,话题也成群出现,同一篇文本中的词并不相互独立,因此只要文本之间本身有差别(几乎总是如此),这种检验给出的 p 值往往偏小。正因为如此,自动选用秩检验,而不是这种方法。
由于模糊限制语在全部词语中只占极小的一部分,V 会非常接近 0,换成几乎任何词都是如此。对这种检验来说,解读 V 统计量没有多大意义。
出现检验
出现检验考察含有命中的文档所占的比例在一组中是否大于另一组。度量为文档时,自动会选择出现检验;当你关心的是有没有出现,而不是出现次数时,请使用它。对于两个组,出现检验使用 Fisher 精确检验,不做近似,逐一计算每一种可能。
以“气候辩论”为例,查询考察“时间节点”,这是“紧迫性”的子编码,用于目标年份或截止日期。查询要看的是怀疑派的纸媒文章和网络文章在是否提到时间节点方面有没有差别,而不管提到多少次。这意味着要把度量设为文档,因为出现一次就够了。这里的编码实例只来自“怀疑派”文档集,在条件中按编码“时间节点”筛选,结果按分组分组。
要进行出现检验:
- 按照本章前文进行比较中的说明设置一个比较。
- 在显示每万词的菜单中选取文档。
这些数字直接来自项目本身的统计数据。三篇纸媒文档中有一篇带有“时间节点”编码,两篇网络文档则都带有“时间节点”编码。
| 带有“时间节点”编码实例 | 没有 | |
|---|---|---|
| 纸媒 | 1 | 2 |
| 网络 | 2 | 0 |
Fisher 检验假定各边际合计是固定的,也就是说,文档总数固定为 5,纸媒文章总数固定为 3,带有“时间节点”编码的文档总数也固定为 3。在这个假定下,如果发表媒介没有影响,编码就会落在从这 5 个文档中随机选出的 3 个文档上。从 个对象中选出 个的方式数记作 ;例如 ,表示从四个对象中选两个有 6 种组合。计算组合数时,用从 开始递减的 个自然数之积,除以从 1 开始递增的 个自然数之积()。所以 。在电子表格中,可以用 =COMBIN(5,3) 计算 ,结果为 10。
在全部三个带编码的文档中,恰好有 个是纸媒文档的组合有 种,即从三篇纸媒文档中选 篇的选法数,乘以从两篇网络文档中选 篇的选法数。
| 带编码实例的纸媒文章数 | 选法数 | 概率 |
|---|---|---|
| 1 | 3 × 1 = 3 | 3/10 = 0.300 |
| 2 | 3 × 2 = 6 | 6/10 = 0.600 |
| 3 | 1 × 1 = 1 | 1/10 = 0.100 |
带编码的纸媒文章不可能为零篇,因为网络文章只有两篇。观测到的分配(一篇纸媒文章)的概率是 3/10。p 值把可能性不高于它的每一种分配的概率加在一起,这里是一篇纸媒文章(3/10)和三篇(1/10),所以 。
检验行显示为费希尔精确检验: χ² = 2.22, df = 1, p = 0.400, φ = 0.667。其中的卡方值是根据上面那张 2×2 表算出的同一个统计量,仅供参考;p 值来自 Fisher 检验。Phi 是 2 行 × 2 列表格的克莱姆 V 效应量,。按照经验法则,这个效应量算是相当大的。不过,五个文档同样不足以达到显著。
按卡方检验统计量的分布来读,χ² = 2.22 对应 p ≈ 0.136,约为 Fisher 精确概率法所得 0.400 的三分之一。不过,期望频数必须大于 5 左右,卡方分布才能很好地拟合。本例中,带编码的纸媒文章的期望频数只有 ,不带编码的为 1.2;网络文章带编码的相应为 ,不带的为 0.8。Fisher 的计算则精确地数出了每一种可能。
有两个以上的组时,出现检验变为卡方检验,所用的是一张类似的表格,列出各组中有命中和没有命中的文档数。效应量照例用克莱姆 V 系数衡量。如果所有文档都有命中,或者都没有命中,则不显示检验行。
表格中的检验
使用两个分组依据键的比较会生成一张表格,它的检验是基于单元格计数的卡方独立性检验。用这种检验可以判断你的资料中两项特征是否相关,例如“立场”与分组。单元格的期望频数同样是它的行合计与列合计之积,除以表格中观测的总数;没有命中的行不参与计算。
只有当查找为文档或其他资料库单位,使每个命中都代表一个独立的实体时,自动才会选择卡方检验。对于片段一级的查询,它不选择任何检验,因为来自同一文档的观测并不相互独立。如果仍要检验得到的表格,需要选择基于计数的卡方检验或出现检验。两者都返回单元格计数的卡方统计量。比率秩检验不对表格做任何检验。
对于超过两行或两列的表格,克莱姆 V 系数按两个维度中较小的那个计算。例如一张表格有 3 行 4 列,观测总数为 60,。于是 ,。
选择检验
| 问题 | 度量 | 检验 |
|---|---|---|
| 一组的文档是否更常使用某种内容? | 每万词 | 自动(秩检验) |
| 一组中是否有更多文档用到它? | 文档 | 自动(出现检验) |
| 我的数字与检验词频的语料库研究相比如何? | 每万词 | 基于计数的卡方检验 |
| 两项文档特征是否相关,例如“立场”和分组? | 查找文档,两个分组依据键 | 自动 |
随时间变化
随时间变化显示命中如何沿着某种有先后次序的东西分布,比如每个文档内的位置、录音经过的分钟数、文档的日期等。在没有指定分组依据键的查询中选取随时间变化,会添加文档内位置,每个文档一条条带;使用其他键时,图形采用折线图的形式。
命中落在每个文档的什么位置
借助条带,可以探究有关文本结构的问题,例如某个主题出现在文章的开头还是结尾。此外,条带还能让你判断这个主题是出现在文档集的每个文档中,还是只出现在少数几个文档中。以“气候辩论”为例,你可能想知道恐惧出现在行动派文本的哪些地方。下图显示“行动派”文档集中的“恐惧”编码实例,它们是用条件中一条关于编码的规则找到的。


查询读取的每个文档都显示为一行,包括标题、条带和命中数。条带表示命中在文档中从开头(左端)到结尾(右端)的分布;每个命中在它开始的位置显示为一道小刻度线。没有命中的文档显示一条空条带和计数 0。
条带上方列出分布范围,它给出在处理的全部文档中至少有一个命中的文档数,例如 4 / 6。统计量比例偏差(DP)衡量命中在各文档之间相对于文档大小分布得有多均匀:
其中 是文档 中的命中数, 是所有文档中的命中总数。同样, 是文档 的大小, 是所有文档的大小。分析词时,或者度量为每万词或覆盖率时,大小指文档中处理的词数(见本章前文的进行比较)。在其他情况下,例如查找编码实例且度量为命中时,大小指文档的字符数。两种情况下算出的份额往往几乎相同。第一个分数表示文档在命中中所占的份额,第二个分数表示它在全部分析文本中所占的份额。分数两边的两条竖线表示取两者之差的绝对值(即两者“之间的距离”,不管正负号)。
设想一个文档集有三个文档,分别有 500、500 和 1,000 词,含有 2、0 和 2 个“恐惧”编码实例。按文本份额,这几个文档分别占 0.25、0.25 和 0.5;按命中份额,分别占 0.5、0 和 0.5。因此
分布范围为 2 / 3。DP 等于 0 表示命中完全按比例分布。DP 越接近 1,表示命中越集中在文本的一小部分。请注意,DP 衡量的是命中在各文档之间的比例,与命中在每个文档中的位置无关;要了解位置,请看命中在条带上的位置,或者使用数量并按文档内位置分组,这样所有文档会合并起来,每个有命中的十分之一占一行,从 0–10% 到 90–100%。
日期和录音中的趋势
如果键是日期字段、媒体时间或其他任何有顺序的键,随时间变化就使用折线图。再添加一个分组依据键,每个值各有一条线,图表下方显示图例。将鼠标指针悬停在图表上,可以看到该点的值;点按则可以下钻到它的命中。
“气候辩论”中的所有文档都有日期字段,所以你可以追踪“恐惧”编码实例在辩论各个月份中的情况,每条线代表一种立场。度量为每万词。


要创建按日期变化的折线图,请按以下步骤操作:
- 在显示中选取随时间变化。随即出现一个文档内位置键行。
- 在这一行显示文档内位置的菜单中选取字段。
- 在旁边的字段菜单中选取一个日期字段,例如日期。
- 在显示每个值的菜单中选取按年或按月。
- 如需每组一条线,请点按分组依据,然后在新行的字段菜单中选取第二个键,例如属性 ▸ 立场。
- 在显示命中的菜单中选取每万词。
话轮随时间变化模板查找话轮,先按媒体时间、再按说话人字段给它们分组。当前范围中包括音频或视频文档时,才会出现这个模板。每个点统计在录音的某一分钟内开始的话轮,标为 0:00、1:00,依此类推。对于“电台辩论”,“主持人”、“活动人士”和“怀疑论者”各有一条线。


每万词和覆盖率除以每一行所涵盖文档的文本量。所以指定日期时,文本是那一年或那一个月的文档的文本。使用媒体时间和文档内位置时,文本是读取的全部文档的文本,这意味着折线的形状与使用命中时相同;这时请使用命中。
搭配词
搭配词列表列出的词,在命中附近出现得比按其总体出现情况所预期的更频繁。例如,在示例项目“气候辩论”中,词元气候的搭配词可能有政策、科学和危机。可以把搭配词列表看作一个词常伴词语的概括。用它可以研究一个词在许多文档中的用法,或者找出值得细读的说法。
生成搭配词列表
下图显示“气候辩论”项目中气候的搭配词,按 logDice 得分排序。


要生成搭配词列表:
- 打开文档集或项目的查询视图。
- 在左栏的模板下点按搭配词。这个模板查找词元等于某个值的词。
- 在条件中输入你感兴趣的词元作为值。
如有需要,调整显示条件中的设置:
- 显示词元的菜单决定统计什么,可以按你的需要选择词元(词元)、不分大小写的单个词(词),或者 NOUN、ADJ 之类的词类(词类)。
- 窗口决定查看每个命中前后各多少个词;取值范围为 1 到 10,默认值为 5。
- 显示 logDice 的菜单决定搭配词按哪种关联度量排序;默认值为 logDice。
- 最少表示一个词至少要与命中一同出现多少次才会列入;取值范围为 1 到 50,默认值为 3。


在每个文档的查询分面中,顶部横栏里有一个模板菜单,其中就有搭配词模板;这个菜单的图标形似魔杖。
结果以表格显示,每个词旁边是它的数量(在命中附近出现的次数)、频次(在所搜索的文档中出现的次数),最后是按你的设置计算的关联得分。表格按得分从高到低排序,默认最多显示 200 个条目。表格上方的节点命中显示用于计算搭配的命中数(在语料库语言学术语中,节点词指要查找的词)。在检查器中,数量和频次的值显示在每个词的下方。
对于每个命中,在同一个句子内收集它两侧的词,每侧最多为窗口所设的个数,途中遇到的标点符号一律忽略。属于命中本身的词不计在内。如果多个命中彼此靠得很近,重叠的词会针对每个命中分别计数。
计算搭配需要知道每个命中在词序列中的位置。文本匹配只有在文本行的第一个菜单显示词、词形或词元,并且第二个菜单显示词条或词典时,才提供这种位置信息。在其他情况下,例如按文本匹配或使用正则表达式时,没有命中可以用来计算搭配词,列表为空。
关联得分
七种得分都从计算四个变量开始。仍以气候附近的政策为例,假设:
- 是数量的值,即这个词在窗口中出现的次数。
- 是所有窗口长度之和。四十五个命中、每侧五个词,本应是 450,但靠近句首或句尾的命中,窗口较短。
- 是频次的值,表示这个词在整个项目中出现的次数。
- 是项目中的词数。
如果政策是随机分布的,窗口在 9,000 个词中占 360 个,就会分到它 10 次出现中同样比例的一份。因此期望频数为:
这些得分中有很多在计算时用到对数;对数表示 10(或其他任何底数)需要取多少次幂才能得到这个值。例如,1,000 以 10 为底的对数是 3();8 以 2 为底的对数()是 3,因为翻倍三次得到八。自然对数记作 ,它针对 这个数(约为 2.718)提出同样的问题,可以用计算器上的 ln 键求得。对于这三种对数,1 的对数都是 0,大于 1 的数的对数为正,0 和 1 之间的数的对数为负。同样,8 以 2 为底的对数也可以用 除以 求得。
| 得分 | 公式 | 政策 | 的 |
|---|---|---|---|
| MI | 3.91 | 0.89 | |
| MI3 | 9.08 | 11.53 | |
| T-Score | 2.29 | 2.91 | |
| Z-Score | 8.85 | 3.96 | |
| Log-Likelihood | 见下文 | 25.58 | 14.22 |
| Dice | 0.03 | 0.09 | |
| logDice | 9.05 | 10.51 |
的这一列假定它在窗口中出现 40 次,在项目中出现 540 次,所以期望频数为 。在上表中,两列显示了各种得分对一个特定搭配词(政策)和一个非常常见的词(的)的排序有多么不同。
MI(互信息,mutual information)衡量观测频数 比期望 高出多少次翻倍,即多少比特。对政策来说,,意思是它出现的次数是纯随机分布时预期的十五倍; 比特,略少于四次翻倍。MI 偏向较少见的搭配词。一个词如果在整个项目中只出现一次,而这一次恰好在气候旁边,它的期望为 ,得分约为 4.64,比政策本身还高。最少可以把这类罕见词挡在列表之外。
MI3 在相除之前先把观测频数取三次方,这样会加大常见搭配的权重。这里政策的得分为 ,而的排得更高。
T-Score 计算观测频数减期望频数之差与观测频数平方根之比。对政策来说,结果是 。T-Score 随观测频数增大而增大,偏向高频的搭配词。语料库语言学家往往把 2 看作超出偶然的关联的粗略迹象。
Z-Score 计算同一个差值与期望频数平方根之比,这里是 。罕见词的期望频数很低,因此 z 值会极高。
Log-Likelihood 在本章后文的两个得分的算法中有说明,它用一个由对数推导出的统计量,检验计数与期望是否有显著差异。计算时,先用观测频数建立一张列联表,再根据行合计和列合计算出期望,就像本章前文基于计数的卡方检验中介绍的卡方检验一样。对政策来说,四个计数分别是窗口中的政策()、窗口中的其他词()、窗口外的政策()以及其余所有的词()。每个单元格都有对应的期望频数,即 0.4、359.6、9.6 和 8,630.4。最后,对数似然值为:
就政策这个例子而言,这个值为 。对数似然检验用来估计偏离偶然期望的统计显著性,判断标准与卡方检验统计量相同;p 值小于 0.05、0.01 和 0.001,分别对应高于 3.84、6.63 和 10.83 的值。对于关键词列表,只需要与词本身有关的两个部分,即 和 。
Dice 把共同出现的次数与两个边际总数相比,政策的得分为 。只有当窗口中的每个词都是政策,并且政策的每次出现都在窗口中时,Dice 才等于 1。logDice 是把 Dice 指数换算到最大值为 14 的尺度上,政策的 logDice 为 。Dice 减半时,logDice 的得分减少 1;Dice 加倍时,得分增加 1。logDice 不受文档集大小的影响,所以文档集大小不一时,适合使用 logDice。此外,在“气候辩论”这样较小的项目中,logDice 会把的这类高频词排得很高。
需要一份兼顾各方面的列表时,使用 logDice;要找较罕见的搭配词,使用 MI 并调高最少;要看最常相伴的词,使用 T-Score;要看证据最强的搭配,使用 Log-Likelihood。在依靠某个搭配词之前,先用索引行模板列出它所在的片段。
关键词
关键词列表指出一组文档比另一组文档明显更常用或更少用的词。它主要用于探索,在你决定编码什么或追踪哪些词之前,发现文档中某些值得注意的地方。在“气候辩论”中,把行动派与怀疑派相比较,行动派的关键词列表可能包括我们、希望和孩子,这些是行动派用得更多的词。反过来,模型和大约之类的词可能出现在用得较少的词中。查看这些值得注意的词的索引行,就能发现它们为什么突出。索引行模板可以找出包含这些词的片段。
在 LemmaLoom 中,两批文本之间的差异是相对于目标语料和参考语料来计算的;目标语料是查询所涵盖的那组文档,参考语料是与之比较的对象(项目的其余部分、另一个文档集或整个项目)。
生成关键词列表
关键词列表通常针对文档集生成,可以在文档集的查询视图中生成,也可以在窗口 ▸ 查询中把文档集选为范围后生成。要为单个文档生成关键词列表,请把这个文档单独放进一个文档集。示例项目“气候辩论”分别有“行动派”和“怀疑派”两个文档集,所以你可以比较行动派和怀疑派双方所用的词汇。


要生成关键词列表:
- 打开文档集,点按查询。
- 在左栏的模板下点按关键词。
在显示条件里显示项目其余部分的菜单中选择参考语料:
- 项目其余部分把目标语料与项目中的其余部分相比较。如果项目中的所有文档都使用同一种语言,就用这一项;否则参考语料也会混有多种语言,因此建议改为与文档集比较,在那里你可以选择一个只包含目标语料所用语言文档的文档集。
- 在这个菜单中选取文档集后,下一步是在随后出现的菜单中选择另一个文档集,与目标语料相比较。选择之前,结果区域显示未选择文档集。如果选择的正是生成关键词列表的那个文档集,则显示没有可比较的对象。同时属于两个文档集的文档会被重复计数。
- 整个项目比较目标语料与整个项目(包括目标语料本身)之间的差异,因此得出的差异往往比使用项目其余部分时略小。要用同一个基准衡量多个文档集时,这种比较很有用。
- 在显示词元的菜单中保留词元,把一个词的各种形式按它的词典形式合在一起计数(英语的 run、runs 和 ran 算作一个词)。某个特定形式很重要时,选取词,这时每种拼写分开计数。两种方式都忽略大小写。
- 显示 LL ≥ 3.84 的菜单暂时保持不变。它会隐藏那些差异很可能只是偶然的词(见下文的两个得分的算法)。


与你在项目的查询视图中运行的其他任何查询一样,在那里运行的关键词查询以整个项目为目标语料。因此,显示文档集的菜单只提供这一项,比较是相对于你选择的文档集进行的。具体来说,关键词模板要在项目中创建了文档集之后才可用,它默认选择项目中的第一个文档集,你可以在显示该文档集名称的菜单中更改这一选择。以其他参考语料保存的关键词查询,在项目一级打开时也会自动切换为文档集。
条件中列出的所有规则,对比较的两边同等适用。如果某条规则筛掉了一些常见词,这些词也会从参考语料一边排除,也就是说,每个列表上方显示的数字是减去被筛掉的词之后的计数。不过,要让规则作用于参考语料,也必须搜索参考语料的文档。这使得计算时间比条件为空时更长。
与目标语料一样,参考语料也遵循选项条件中的语料设置,它决定考虑哪些文档(原文、译文或两者)。
正关键词下列出在目标语料中比在参考语料中出现得更频繁的词,负关键词下列出出现得较少的词。两个列表都按对数似然从高到低排序,默认最多包含 200 个关键词。表格中的每一行包括:
- 数量,即关键词在目标语料中出现的次数。
- 参考,即它在参考语料中出现的次数。两批文档的大小通常不同,所以这两个计数不能直接比较。两个得分在计算时都会考虑这种不平衡。
- 对数似然,显示频率差异并非随机的证据有多强。这里两个计数都会用到。
- 对数比,即频率之间的差异有多大。
列表上方,节点命中显示查询总共找到了多少个词(包括标点符号)。目标语料词数和参考语料词数分别显示目标语料和参考语料中不含标点的词数。
如果参考语料中没有已建立索引的文档,就没有可与之比较的对象,结果区域会显示无匹配项。
只有在各自那一批文本中(正关键词看目标语料,负关键词看参考语料)至少出现三次的词,才有资格成为候选关键词。
数字会计入,标点符号和其他符号则不计。尚未建立索引的文档在两边都不包括。如果目标语料中出现这种情况,结果栏会显示其中计入了多少个文档,例如“行动派”文档集的 5 / 6。
两个得分的算法
排序完全依据对数似然值。因此,差异很小的高频词可能排得很高,而差异很大的低频词却可能连临界值都达不到。本节末尾的的和温度计两个词就是这两种情况的例子。在决定深究某个关键词之前,两列都要看。
期望频数
对数似然分析把期望频数与观测频数相比较。由于两批文本的大小可能不同,对数似然首先在假定这个词在目标语料和参考语料中占同样比例的前提下,计算期望频数。期望频数的公式如下:
其中 和 分别表示目标语料和参考语料中的期望频数; 和 表示这个词在目标语料和参考语料中出现的次数; 和 表示两者以词计的大小,即显示为目标语料词数和参考语料词数的数字。1 始终代表目标语料,2 代表参考语料。分数是这个词在全部文本中所占的份额。下面这个例子中的数字是虚构的,以便计算更简单。在“气候辩论”中,假设目标语料是“怀疑派”文档集的 3,000 词,参考语料是项目中其余文档的 6,000 词。在这种情况下,大约在目标语料中出现 18 次,在参考语料中出现 9 次,总共出现 27 次,也就是大约每 333 词出现一次。目标语料占全部 9,000 词的三分之一,所以预期它包含 27 次出现中的三分之一,参考语料包含另外三分之二(即期望频数),因此 ,。
对数似然
对数似然在显示 LL ≥ 3.84 的菜单中缩写为 LL,在对数似然列中以数值显示,它量化一个词在两批文本中的观测频数与期望频数之间的偏差。它在公式中记作 ;这里的 2 并不表示平方,而是名称的一部分。
指自然对数,在本章前文的关联得分中有说明。
这个公式的括号中有两个部分,分别对应两批文本。每个部分都把观测频数与期望频数相比较。两者完全相等时,它们的商为 1,自然对数为 0,这一部分对总和的贡献也就为 0。观测频数之和与期望频数之和总是相同;对大约来说,18 + 9 = 9 + 18 = 27。这意味着一个词在第一批文本中出现得比期望多,在第二批中就一定比期望少,反之亦然。所以偏高的一边贡献正值,偏低的一边贡献负值。在任何一对中,正的部分都大于负的部分,所以结果不会是负数。偏离越大,得分增加得越多。
每个对数都乘以各自的计数,这意味着频繁观察到的差异在得分中分量重得多;因此,常见词比较容易得到高分。前面的 2,以及用 代替以 10 为底的对数,使公式的结果与卡方分布处在相近的尺度上,各个阈值正是来自卡方分布。如果某个计数恰好为零,相应的那一项就略去不计,因为零没有对数。
对大约来说,,自然对数约为 0.6931;,自然对数约为 −0.6931。因此
计算结果就是列中显示的值 12.48。
单凭对数似然得分,很难判断是否显著,因为计数也会随偶然波动。例如,只要把一批文本随机分成两部分,每部分使用各个词的频率就会有所不同,从而得出正的对数似然得分。阈值会隐藏那些得分很可能只是随机偶然所致的词。
| 阈值 | 没有真实差异、却仍达到这个得分的词所占的比例 |
|---|---|
| LL ≥ 3.84 | 约每 100 个中有 5 个() |
| LL ≥ 6.63 | 约每 100 个中有 1 个() |
| LL ≥ 10.83 | 约每 1,000 个中有 1 个() |
这些是自由度为 1 的卡方分布的临界值, 表示本章前文 p 值与效应量中讨论的 p 值。大约的得分约为 12.5,超过了全部三个临界值。
关键词列表同时考察成千上万个词。如果其中 2,000 个词没有真实差异,那么在 LL ≥ 3.84 时,其中仍有大约 100 个(每 100 个中有 5 个)会通过,而在 LL ≥ 10.83 时只有 2 个会通过。不过,大型项目中的真实差异建立在大量出现次数之上,会远远超过这些临界值,因此使用更严格的临界值几乎没有代价。
对数比
对数比公式计算比率之间差异的大小:
分子是这个词在目标语料中的使用率,分母则是它在参考语料中的使用率。对数 表示这个比值翻倍了多少次; 表示目标语料的使用频率是参考语料的两倍, 表示四倍, 表示八倍。如果 等于 0,两边使用这个词的频率相同; 则表示目标语料使用它的频率只有参考语料的一半。不过,如果用不取对数的比值表示,“两倍”(等于 2)和“一半”(等于 0.5)与 1 的距离并不相等。相比之下,对数比把两者分别放在 +1 和 −1,与 0 的距离相等,因此正关键词和负关键词可以在同一个尺度上解读。
计算 时,每个计数都加上 0.5;这样分母和对数的真数中都不会出现零,因为除以零和零的对数在数学上都没有定义。
以大约为例:
这里,目标语料的比率是 ,约为每 1,000 词 6 次。参考语料的比率是 ,约为每 10,000 词 16 次。前者除以后者得 3.89,介于 2(翻倍一次)和 4(翻倍两次)之间,所以对数比约为 1.96。因此,怀疑派使用这个词的频率几乎是项目其余部分的四倍。
在上面提到的两批文本中,的在目标语料中出现 210 次,在参考语料中出现 330 次,而期望频数分别为 180 和 360。它的对数似然值约为 7.3,超过了最低的两个阈值,说明存在差异的证据相当充分。不过,它的对数比只有 0.35,相对较低,因为目标语料使用它的频率约为参考语料的 1.3 倍。
温度计在目标语料中出现三次,在参考语料中出现一次,期望频数分别为 1.33 和 2.67。根据两批文本的相对大小调整后,目标语料使用它的频率是参考语料的六倍。考虑到这一点,它的对数比为 2.22,高于大约;然而它的对数似然得分只有 2.90,没有通过最低的阈值,因为整个差异只建立在四次出现之上。
网络
网络显示一个键的各个值一同出现的频繁程度。它通常用来描绘编码共现,即哪些编码用于相互重叠的片段,以及重叠的频繁程度。想了解你所用编码之间的关系时,网络很有用,可以作为动手查看这些重叠之处的起点。下图显示整个“气候辩论”项目中的编码共现。


要显示编码共现:
- 在查询视图左栏的模板下点按编码共现。这个模板查找编码实例,按编码分组,并把相互重叠的编码实例连接起来。
要以其他方式连接命中,请在显示重叠的菜单中选择一项:
- 重叠连接相互重叠(即有部分字符重叠)的两个命中。
- 与之同句连接在同一个句子中开始的命中,例如编码实例或词。只有已建立索引的文档中的命中才会被连接。当查找为句子时,每个命中本身就是一个句子,因此不会有命中被连接。
- 与之同段连接在同一个段落中开始的命中。
- 与之同一话轮连接在转写文本的同一个话轮中开始的命中,例如编码实例。当查找为话轮时,每个命中本身就是一个话轮,因此不会有命中被连接。


结果是一张对称的表格,行和列都是这些值,结果栏显示值的个数,例如 13 个节点;每个单元格给出具有这两个值的相连命中有多少对。因此,如果值为“情绪 › 恐惧”和“紧迫性 › 临界点”的单元格中是 4,就表示有 4 对相互重叠的命中,每对都包含“恐惧”和“临界点”。一个“恐惧”编码实例与 3 个“临界点”编码实例重叠,会在这个总数中计 3。把命中的值与其自身相比的对角线单元格始终为空,因为只统计值不同的命中对。单元格颜色越深,计数越大。
网络只有一个分组依据键。它默认显示命中最多的 40 个值,每个文档中最多连接前 2,000 个命中。关于编码之间共现的检验,见第 13 章“编码分析”中的文档中的共现。
导出结果
如果想在其他地方使用结果、记录发现的过程或者与人分享结果,请导出它们。查询有了结果之后,结果栏右侧会出现导出按钮。在文档的查询分面中,导出按钮则位于分面顶部的横栏中。可用的格式有 CSV、Markdown、PNG 和 PDF,下面还有拷贝。除拷贝以外,选取任何一种格式都会打开存储对话框,默认文件名为查询的名称。


CSV
CSV 格式以表格形式存储结果,电子表格和统计软件都可以读取。想自己进行计算或制作图表时,请选择 CSV。各列因结果而异:
| 结果 | 列 |
|---|---|
| 索引行或记录 | 列表的各列 |
| 一个数字 | 度量、值、命中、文档 |
| 一个分组依据键 | 键、度量(度量为命中和文档时是值)、命中、文档 |
| 两个分组依据键 | 第一列是两个键的名称,然后第二个键的每个值各占一列 |
| 折线图 | 键、系列、度量(度量为命中和文档时是值)、命中 |
| 文档内位置 | 文档、命中、大小、位置 |
| 搭配词 | 搭配词、数量、频次、得分、对数似然 |
| 关键词 | 词、目标、参考、对数似然、对数比、方向 |
| 网络 | 键,然后每个值各占一列 |
除文档外的资料库单位导出时不含文档列。
无论 Mac 使用什么语言,数值一律只由数字和小数点组成,例如 12431.5。覆盖率和占比的数值以小数表示;0.1296 代表 13.0%。每万词保留小数点后两位。大小指计算 DP 时所用的文档大小,即文档的词数,或者在命中落在每个文档的什么位置中说明的情况下,文档的字符数。位置列出每个命中在各自文档中开始的位置,以 0 到 1 之间的小数表示,用空格分隔。方向表示一个关键词是正关键词还是负关键词。如果结果带有检验,最后一行就是检验,例如 Kruskal-Wallis H 检验、H(2) = 3.429、p = 0.1801、ε² = 0.686。
文件以 UTF-8 格式保存,所以各种特殊字母或汉字都能原样进入电子表格程序。所有不是数字、并且以 =、+、- 或 @ 开头的单元格都会加上撇号作为前缀,这样电子表格会把它们当作文本处理。
附带来源记录的 Markdown
Markdown 文件既记录查询的结果,也记录这些结果是如何得出的。Markdown 文件的内容包括:
- 查询的名称,作为标题
- 查询本身,与查询文本条件中显示的相同
- 适用范围,即为查询选择的文档、文档集或项目
- 文档,即分析的文档数与文档总数,例如 12 / 14
- 语料,即选项条件中的设置
- 度量,结果使用度量时列出
- 日期,即执行导出的日期,以及 LemmaLoom 版本
- 结果
- 检验结果(如果有),写法与 CSV 文件相同,例如
Kruskal-Wallis H 检验: H(2) = 3.429, p = 0.1801, ε² = 0.686
索引行显示为一连串引文,每个命中一条,匹配内容为粗体,下方是文档名称及其位置。其他所有结果都显示为 Markdown 表格,各列与 CSV 文件格式相同。
PNG 和 PDF
PNG 和 PDF 用于把结果的快照导出到幻灯片演示文稿或纸质报告中。图片宽约 900 点,采用 LemmaLoom 当前所用的外观,即浅色或深色。图片最多可以包含 200 行或 200 个命中,底部有一行显示范围、读取的文档数和日期。在图片中,索引行只包括左语境、匹配内容本身和右语境。检验结果列在所属表格的下方。
PNG 以双倍分辨率渲染。PDF 只有一页,高度取决于结果的长度;无论怎样缩放,文字和线条都保持清晰,适合打印。
拷贝
拷贝把与 CSV 文件相同的表格以制表符分隔的形式放到剪贴板上。你可以把它粘贴到电子表格程序中,或者粘贴到文字处理程序的表格功能中。有关 LemmaLoom 中其他导出方式的更多信息,见第 22 章“交换与导出”。