一、引言
（一）研究背景与意义
在当今数字化信息爆炸的时代，知识抽取作为自然语言处理领域的关键任务，对于从海量文本数据中提取有价值的结构化知识至关重要。随着大模型技术的飞速发展，其在知识抽取任务中的应用日益广泛。然而，如何优化大模型在知识抽取中的性能，成为了亟待解决的问题。
在大模型知识抽取任务中，生成控制参数 Temperature（温度）和 Top_p（核采样阈值）对抽取效果起着关键调节作用。Temperature 通过调整概率分布的平滑度来控制输出的随机性。当 Temperature 值较高时，模型会倾向于选择低概率的词，从而增加生成文本的多样性，但同时也可能引入更多的噪声和不确定性；当 Temperature 值较低时，模型更倾向于选择高概率的词，生成的文本更加确定和保守，但可能缺乏多样性。Top_p 则通过动态筛选候选词来平衡多样性与准确性。它会根据累积概率选择一个最小的词集合，使得这些词的概率总和超过设定的阈值 p，然后从这个集合中进行采样。这种方法可以在保证一定准确性的前提下，提高生成文本的多样性。
然而，当前研究缺乏针对知识抽取任务特性的参数优化体系，导致在实体识别、关系抽取等场景中常出现抽取偏差或冗余。在实体识别中，由于参数设置不合理，可能会将一些非实体的词汇误识别为实体，或者遗漏一些关键实体；在关系抽取中，可能会错误地识别实体之间的关系，或者无法准确抽取复杂的关系。这些问题不仅影响了知识抽取的准确性和可靠性，也限制了大模型在实际应用中的效果。
本研究旨在揭示 Temperature 和 Top_p 这两个参数的作用机制，构建适配不同抽取场景的最佳实践框架，提升大模型在知识抽取任务中的可靠性与效率。通过深入研究这两个参数在不同场景下的表现，我们可以更好地理解它们对知识抽取结果的影响，从而为实际应用提供更科学的指导。在金融领域的知识抽取中，通过合理调整参数，可以更准确地抽取金融事件、实体和关系，为风险评估、投资决策等提供有力支持；在医疗领域，可以更精准地抽取疾病症状、治疗方法等知识，辅助医生进行诊断和治疗。
（二）核心问题与研究目标
- 参数作用机制不明确：Temperature 如何影响抽取结果的确定性？虽然我们知道 Temperature 控制着输出的随机性，但具体到知识抽取任务中，它是如何影响模型对实体和关系的判断，进而影响抽取结果的确定性，目前还缺乏深入的研究。例如，在不同的 Temperature 值下，模型在识别复杂实体时的准确性和稳定性如何变化，需要进一步探究。Top_p 在句法复杂文本中如何优化候选词筛选？句法复杂的文本中，词汇之间的关系更加复杂，Top_p 在这种情况下如何准确地筛选出与知识抽取相关的候选词，以提高抽取的准确性，也是一个需要深入研究的问题。比如，在处理包含多层修饰关系的句子时，Top_p 如何有效地排除干扰词汇，选择关键的候选词。
- 场景适配策略缺失：闭域精确抽取与开放域多元抽取的参数配置差异为何？闭域精确抽取通常有明确的实体和关系类型定义，要求抽取结果具有高度的准确性；而开放域多元抽取则更注重发现新的实体和关系，对多样性有一定要求。在这两种不同的场景下，Temperature 和 Top_p 的最佳配置应该有所不同，但目前缺乏相关的研究和指导。长文本结构化任务中如何避免语义漂移？在长文本结构化任务中，由于文本内容丰富，模型在生成过程中容易出现语义漂移的问题，即生成的内容逐渐偏离原始文本的主题。如何通过调整 Temperature 和 Top_p 等参数，避免语义漂移，保证长文本结构化任务的准确性，也是亟待解决的问题。
通过理论分析与实验验证，本研究的目标是明确两参数对抽取准确性、多样性的影响规律，提出分场景参数优化方案。通过大量的实验和数据分析，我们可以确定在不同场景下，Temperature 和 Top_p 的取值范围对抽取准确性和多样性的具体影响，从而为不同的知识抽取任务提供针对性的参数优化建议。在闭域精确抽取任务中，可以通过降低 Temperature 值和适当调整 Top_p 值，提高抽取的准确性；在开放域多元抽取任务中，可以适当提高 Temperature 值和 Top_p 值，以增加抽取结果的多样性。同时，我们还将探索如何结合其他技术和方法，进一步优化参数配置，提高大模型在知识抽取任务中的性能。
二、核心概念与技术原理
（一）Temperature：随机性调节的核心参数
Temperature（温度）在大模型的知识抽取任务中扮演着至关重要的角色，它是控制生成文本随机性的核心参数。在大模型生成文本的过程中，模型会计算出每个可能的下一个词（token）的概率分布。Temperature 通过缩放 logits 概率分布来控制生成的随机性，其计算公式为：
\(P(token) = \frac{\exp(logits / T)}{\sum \exp(logits / T)}\)
在这个公式中，\(P(token)\)表示某个 token 被选中的概率，\(logits\)是模型预测的未经过归一化的得分，\(T\)就是 Temperature 参数。从公式中可以看出，Temperature 参数通过对 logits 进行缩放，改变了概率分布的形状，从而影响了模型对下一个 token 的选择。
当 Temperature 值较低时，比如在 0.1 – 0.5 的范围内，概率分布会变得较为尖锐。这意味着模型更倾向于选择那些概率较高的 token，因为这些 token 的概率被放大，而低概率 token 的概率被进一步缩小。在知识抽取任务中，这种情况下模型的输出更加确定和保守，适合进行精确抽取。在代码实体抽取中，低 Temperature 可以确保模型准确地识别代码中的变量名、函数名等实体，减少错误识别的可能性。因为在代码领域，准确性是至关重要的，一个错误的实体识别可能会导致代码解析错误。在数值型关系抽取中，如从文本中抽取价格、数量等数值以及它们之间的关系，低 Temperature 能保证抽取结果的精确性。例如，在处理金融文本时，准确抽取股票价格、交易数量等信息对于金融分析至关重要。
当 Temperature 值较高时，处于 0.7 – 1.0 的范围，概率分布会变得扁平化。此时，模型会有更大的概率选择那些原本概率较低的 token，从而激活更多的可能性，提升抽取的多样性。在多义实体扩展任务中，高 Temperature 有助于模型发现同一实体的不同含义。以 “苹果” 为例，它既可以指水果，也可以指苹果公司。高 Temperature 下，模型更有可能根据上下文识别出 “苹果” 在不同语境中的不同含义，从而扩展对该实体的理解。在隐含关系挖掘中，高 Temperature 能使模型捕捉到文本中一些不太明显的关系。在一些复杂的文本中，实体之间的关系可能不是直接表述的，而是需要通过语义推理来发现。高 Temperature 可以让模型在更广泛的词汇空间中进行探索，从而挖掘出这些隐含关系。
在命名实体识别（NER）任务中，Temperature 的作用也十分显著。低 Temperature 可以有效减少跨类实体混淆的问题。当识别文本中的 “苹果” 时，低 Temperature 能使模型更准确地判断它是指水果还是公司，避免将其误判为其他类别。这在专业性较强的文本中尤为重要，因为这些文本中实体的类别往往比较明确，需要准确识别。而高 Temperature 则有助于发现未登录实体，也就是那些在训练数据中没有出现过的新实体。在新兴技术领域，新的术语和概念不断涌现，高 Temperature 可以让模型在生成过程中尝试选择一些新的词汇，从而有可能识别出这些新兴的技术术语，为知识抽取提供更全面的信息。
（二）Top_p：候选词筛选的动态阈值
Top_p（核采样阈值）是大模型知识抽取中另一个关键的参数，它通过动态筛选候选词来平衡多样性与准确性，在知识抽取任务中起着不可或缺的作用。
Top_p 的工作原理是在生成每个词时，模型首先计算出词汇表中所有可能词的概率分布。然后，将这些词按照概率从高到低进行排序，并累加它们的概率。当累加的概率超过设定的 Top_p 阈值时，就停止累加，仅保留这个子集内的词作为候选词，模型从这些候选词中进行采样来选择下一个词。与 Top_k 固定数量筛选不同，Top_p 自适应调整候选集大小，避免低概率词干扰。Top_k 是直接选择概率最高的前 K 个词作为候选词，而不考虑这些词的概率总和以及其他词的可能性。而 Top_p 则更加灵活，它根据概率总和来动态确定候选词集合的大小，这样可以更好地适应不同的文本和任务需求。
在实际应用中，Top_p 的取值对知识抽取效果有显著影响。当 Top_p 取值在 0.7 – 0.8 之间时，模型会聚焦于高概率词，这种设置适合专业领域术语抽取。在医学领域，抽取 “二尖瓣狭窄” 等专业术语时，这个范围内的 Top_p 值可以使模型准确地捕捉到这些高概率出现的专业词汇，因为在医学文本中，这些术语的出现概率相对较高，通过聚焦高概率词可以提高抽取的准确性。当 Top_p 取值为 0.9 – 0.95 时，候选范围会扩大，模型能够捕捉到语境相关的低频词。在长文本中，跨句关系的连接词可能出现的概率较低，但对于理解文本的整体结构和关系非常重要。较大的 Top_p 值可以使模型将这些低频但关键的连接词纳入候选词集合，从而更准确地抽取文本中的关系。
（三）参数协同作用机制
Temperature 和 Top_p 并不是孤立地发挥作用，它们之间存在着紧密的协同作用机制，共同影响着大模型在知识抽取任务中的表现。
在大模型的生成过程中，Temperature 先对模型输出的概率分布形态进行调整。如前文所述，低 Temperature 使概率分布尖锐，模型倾向于选择高概率的 token，生成的文本更加确定和保守；高 Temperature 则使概率分布扁平化，增加了低概率 token 被选择的可能性，从而提升了生成文本的多样性。而 Top_p 则在 Temperature 调整后的概率分布基础上，对候选词进行筛选。它根据设定的阈值，从调整后的概率分布中选择一个子集的词作为候选词，进一步控制了模型生成的范围和方向。
通过合理组合这两个参数，可以满足不同知识抽取场景的需求。在精确模式下，将 Temperature 设置为 0.3 左右，同时 Top_p 设置为 0.7 左右，这种组合可以有效降低生成的随机性，使模型更专注于选择高概率的 token，同时过滤掉大部分低概率的噪声词。在需要准确抽取特定领域知识的场景中，如金融领域的财报分析，精确模式可以确保抽取到的实体和关系准确无误，为后续的分析和决策提供可靠的数据支持。在探索模式下，将 Temperature 提高到 0.8 左右，Top_p 设置为 0.9 左右，此时模型在合理范围内增强了多样性。在开放域知识抽取任务中，需要发现新的实体和关系，探索模式可以让模型在更广泛的词汇空间中进行探索，增加发现新信息的可能性，同时又通过 Top_p 的筛选保证了一定的准确性。
三、对知识抽取任务的影响机制分析
（一）对抽取准确性的影响
在知识抽取任务中，Temperature 和 Top_p 参数对抽取准确性有着复杂且关键的影响。
- 低 T + 低 Top_p：当 Temperature（T）处于较低水平，如 0.2 – 0.4，同时 Top_p 取值也较低，在 0.5 – 0.7 之间时，模型的行为表现出高度的确定性和聚焦性。在实体抽取任务中，这种参数组合能够有效抑制非相关 token 的生成。在处理文本 “人工智能技术在医疗领域的应用” 时，低 T 和低 Top_p 使得模型更精准地定位 “人工智能” 这一实体，将其作为一个完整的词汇进行抽取，而不会因为随机性的干扰将其拆分为 “人工” 和 “智能” 两个部分。这是因为低 T 使得模型更倾向于选择高概率的 token，而低 Top_p 则进一步缩小了候选词的范围，只保留了最有可能的词汇，从而提升了实体边界定位的精度。
然而，这种参数设置并非完美无缺。它存在遗漏多义词正确语义的风险。在面对多义词时，由于模型过于保守，可能无法充分考虑到语境信息，从而选择了错误的语义。当文本中出现 “java 是一种广泛应用的编程语言” 时，如果模型采用低 T 和低 Top_p 的参数设置，可能会因为 “java” 常见的含义中有咖啡，而在训练数据中 “java” 作为咖啡的出现频率较高，导致模型错误地将 “java” 识别为咖啡，而遗漏了其作为编程语言的正确语义。
- 高 T + 高 Top_p：当 Temperature 升高到 0.8 – 1.0，Top_p 取值也提升至 0.9 – 0.95 时，模型的行为发生了显著变化，更注重语境关联和多样性。在关系抽取任务中，这种参数组合展现出独特的优势。当处理文本 “用户投诉产品存在质量问题” 时，高 T 和高 Top_p 使得模型能够通过对语境的深入分析，挖掘出 “产品缺陷 – 负面评价” 这样的隐含关系。高 T 增加了模型选择低概率 token 的可能性，使得模型能够从更广泛的词汇空间中寻找潜在的关系线索；高 Top_p 则在保证一定准确性的前提下，扩大了候选词的范围，有助于捕捉到那些不太明显但与语境相关的关系。
但是，高 T 和高 Top_p 也带来了引入无关实体的风险。在处理包含 “苹果” 的文本时，由于模型的随机性增加，可能会同时将 “苹果” 识别为水果和公司两个实体，即使在特定语境下只有其中一个含义是相关的。这就导致了抽取结果中出现冗余信息，降低了抽取的准确性。在文本 “我喜欢吃苹果，它的口感很脆” 中，模型可能会因为高 T 和高 Top_p 的设置，错误地将 “苹果公司” 也纳入抽取结果，尽管这里的 “苹果” 明显指的是水果。
（二）对抽取多样性的影响
Temperature 和 Top_p 参数在知识抽取任务中对抽取多样性的影响也十分显著，尤其在开放域事件抽取场景中表现突出。
在开放域事件抽取中，高 T（0.9） + Top_p（0.95）的参数组合能够激活更多的事件类型，极大地提升抽取的多样性。当输入 “企业融资新闻” 时，在这种参数设置下，模型的表现与低 T 和低 Top_p 时截然不同。模型不仅能够抽取到 “融资 – 金额 – 投资方” 这样的基础三元组，还能通过对文本语境的深度挖掘和对低概率词的探索，识别出 “战略投资 – 产业链协同” 等扩展关系。这是因为高 T 使得模型的输出更加随机，能够探索到更多潜在的事件类型和关系；高 Top_p 则在保证一定准确性的基础上，扩大了候选词的范围，为发现新的关系提供了更多可能性。
在处理包含复杂事件的新闻文本时，高 T 和高 Top_p 的组合可以让模型捕捉到一些隐含的、不常见的事件关系。在报道企业并购事件时，除了基本的并购方、被并购方和并购金额等信息，模型还可能发现诸如 “并购 – 市场份额扩大 – 行业竞争格局改变” 等深层次的关系，从而为用户提供更全面、丰富的事件信息。这种多样性的抽取结果在需要对事件进行全面分析和理解的场景中具有重要价值，能够帮助用户从多个角度了解事件的全貌和影响。
（三）对结构化输出的影响
在知识抽取任务中，尤其是表格型知识抽取场景下，Temperature 和 Top_p 参数对结构化输出的格式和准确性有着关键影响。
在表格型知识抽取中，低 T（0.2） + Top_p（0.6）的参数设置能够确保格式严格对齐，这对于保证抽取结果的准确性和可用性至关重要。在处理包含日期字段的表格时，低 T 使得模型更倾向于选择高概率的、符合日期格式规范的 token，从而避免生成多余字段或格式错误。如果文本中提到的日期是 “2025 – 09 – 25”，低 T 和低 Top_p 的设置可以有效防止模型将其误写为 “2025 – 09 – 25 号”，因为低 T 减少了模型选择错误 token 的可能性，而低 Top_p 则进一步限制了候选词范围，使得模型更专注于生成正确格式的日期。
在处理复杂表格结构时，低 T 和低 Top_p 的组合有助于模型准确识别表格中的表头、表身和表尾等结构元素，并将抽取到的信息准确地填充到相应的位置。在抽取财务报表中的数据时，模型能够准确地将收入、支出、利润等数据与对应的项目名称进行匹配，避免出现数据错位或遗漏的情况。这种严格的格式对齐能够提高抽取结果的可读性和可分析性，使得后续的数据处理和分析工作更加高效和准确。
四、分场景最佳实践策略
（一）闭域精确抽取场景（如金融报表、法律文书）
在闭域精确抽取场景中，如金融报表和法律文书的处理，对抽取的准确性要求极高，任何细微的错误都可能导致严重的后果。在金融领域，错误的财务数据抽取可能会误导投资者的决策，引发金融风险；在法律领域，不准确的法律条款抽取可能会影响案件的判决结果。因此，针对这种场景，建议将 Temperature 设置为 0.2 – 0.4，Top_p 设置为 0.6 – 0.8。
在实体抽取过程中，通过句法依赖树辅助 Top_p 筛选是确保实体完整性的关键实施要点。以金融报表中的 “关联交易金额” 为例，句法依赖树可以分析词语之间的语法关系，确定 “关联”“交易”“金额” 之间的紧密联系，从而辅助 Top_p 筛选，确保这三个词被完整地识别为一个实体，而不是被拆分成多个独立的词汇。这种方法可以有效提升实体边界定位的精度，减少实体漏判的情况。在处理法律文书时，对于一些复杂的法律术语，如 “不可抗力条款”，通过句法依赖树分析，可以准确地将其识别为一个完整的实体，避免将 “不可抗力” 和 “条款” 分开识别，从而提高实体抽取的准确性。
在关系抽取方面，利用领域知识库约束 Top_p 候选集是减少关系错误的重要手段。在金融场景中，我们可以预先建立一个领域知识库，其中包含各种预设的关系，如 “净利润 – 同比增长”“资产负债率 – 季度披露” 等。当模型进行关系抽取时，根据领域知识库对 Top_p 候选集进行约束，只保留符合预设关系的候选词，从而有效排除不相关的关系，降低关系错误率。在处理法律文书时，领域知识库可以包含各种法律概念之间的关系，如 “犯罪行为 – 罪名”“法律责任 – 处罚方式” 等。通过领域知识库的约束，模型可以更准确地抽取法律文书中的关系，提高关系抽取的可靠性。
在某银行财报抽取任务中，采用 Temperature=0.3，Top_p=0.7 的参数配置，与默认参数相比，实体漏判率下降了 23%，关系错误率降低了 18%。这充分证明了在闭域精确抽取场景中，合理设置 Temperature 和 Top_p 参数，并结合有效的实施要点，可以显著提升知识抽取的准确性，为后续的金融分析和决策提供可靠的数据支持。
（二）开放域多元抽取场景（如网络文本、行业报告）
开放域多元抽取场景，如网络文本和行业报告的处理，需要模型能够捕捉到更广泛的信息，包括多义实体和隐含关系。在这种场景下，建议将 Temperature 设置为 0.6 – 0.8，Top_p 设置为 0.85 – 0.95。
在处理多义实体时，高 Top_p 能够纳入低频语义，而 Temperature 的随机性可以平衡不同语义的抽取概率。以 “区块链” 为例，它既可以作为一种技术术语，也可以在金融应用中出现。高 Top_p 值使得模型在生成过程中能够考虑到更多的候选词，从而有更大的机会识别出 “区块链” 在不同语境下的不同含义。而 Temperature 的适度随机性则可以确保模型不会过于偏向某一种语义，而是根据上下文灵活地选择合适的语义。在一篇关于金融科技的行业报告中，提到 “区块链技术在金融交易中的应用”，通过高 Top_p 和适当的 Temperature 设置，模型能够准确地将 “区块链” 识别为金融应用中的技术，而不是仅仅局限于其作为技术术语的含义。
在长文本中挖掘隐含关系时，采用动态 Top_p 衰减策略是一种有效的方法。在生成初期，将 Top_p 设置为 0.95，以充分探索文本中的各种潜在关系。随着生成的进行，逐渐将 Top_p 降至 0.8，聚焦于已经发现的重要关系，避免语义漂移。在一篇关于人工智能发展的网络文本中，开始时高 Top_p 可以让模型探索到 “人工智能 – 技术突破”“人工智能 – 市场应用” 等多种潜在关系；随着生成的深入，降低 Top_p 可以使模型更加聚焦于这些已经发现的重要关系，如进一步挖掘 “人工智能 – 市场应用 – 具体案例” 等更详细的关系，而不会因为过度探索而偏离主题。
KnowLM 项目在通用领域关系抽取中，采用了上述策略，使新发现关系数量提升了 35%，且保持了 78% 的关系准确率。这表明在开放域多元抽取场景中，合理设置 Temperature 和 Top_p 参数，并运用有效的实施要点，可以显著提高模型对多义实体和隐含关系的抽取能力，为知识发现和分析提供更丰富的信息。
（三）长文本结构化抽取场景（如学术论文、专利文档）
长文本结构化抽取场景，如学术论文和专利文档的处理，需要模型能够准确地提取文本中的关键信息，并将其结构化呈现。针对这种场景，建议将 Temperature 固定设置为 0.5，Top_p 在前 500token 设置为 0.9，后续 token 设置为 0.7。
在长文本的不同部分，信息密度和重要性有所不同，因此需要进行分段动态调优。在引言和方法部分，这些部分通常包含大量的专业术语和关键信息，将 Top_p 设置为 0.9 可以确保模型能够保留这些专业术语，准确地抽取关键信息。在一篇关于机器学习算法的学术论文中，引言部分提到了 “深度神经网络”“卷积神经网络” 等专业术语，高 Top_p 设置可以使模型准确地识别这些术语，并将其纳入抽取结果中。而在结论部分，主要是对研究成果的总结和概括，将 Top_p 设置为 0.7 可以确保模型能够聚焦于核心观点，避免引入过多的冗余信息。在结论部分提到 “本研究提出的算法在准确率上有显著提升”，低 Top_p 设置可以使模型准确地提炼出这一核心观点，而不会受到其他无关信息的干扰。
利用句法依赖增强可以辅助 Top_p 筛选跨句实体关联词。在长文本中，实体之间的关系往往跨越多个句子，通过 POS（词性标注）和依赖树嵌入，可以分析句子之间的语法关系，找到跨句实体关联词。在专利文档中，可能会出现 “本发明提出了一种新的技术方案，该方案包括……” 这样的表述，通过句法依赖分析，可以确定 “本发明” 与 “技术方案” 之间的关联，辅助 Top_p 筛选，确保这些跨句实体关联词被准确地识别和抽取，从而提高长文本结构化抽取的准确性。
（四）参数调优实验设计
为了确定不同场景下 Temperature 和 Top_p 的最佳取值，需要进行科学的参数调优实验设计。
- 评估指标
- 精确性：实体边界 F1 值用于衡量模型对实体边界的识别准确性，它综合考虑了精确率和召回率，能够更全面地反映模型在实体抽取任务中的性能。关系三元组准确率则用于评估模型抽取的关系三元组（实体 1，关系，实体 2）的正确性，直接反映了模型在关系抽取任务中的精确性。
- 多样性：新实体发现率衡量模型在抽取过程中发现新实体的能力，对于开放域知识抽取任务来说，这是一个重要的指标，能够反映模型对新知识的探索能力。关系类型覆盖率则用于评估模型抽取的关系类型的丰富程度，体现了模型对不同关系的识别能力。
- 结构性：输出格式合规率用于评估模型输出的知识结构是否符合预设的格式要求，在表格型知识抽取等场景中，确保输出格式的合规性对于后续的数据处理和分析非常重要。如在 JSON 格式的知识抽取中，要求输出的 JSON 字段完整、格式正确，输出格式合规率就是衡量这一要求的重要指标。
- 实验步骤
- 基准测试：使用公开数据集，如 ACE2005（一个广泛用于信息抽取研究的数据集，包含多种类型的文本和丰富的标注信息，可用于评估模型在命名实体识别、关系抽取等任务上的性能）、SciERC（专门用于科学文献关系抽取的数据集，包含大量科学论文中的文本和关系标注，适合评估模型在科学领域的关系抽取能力），固定其他参数，测试 T∈{0.1,0.3,0.5,0.7,0.9} 与 Top_p∈{0.5,0.7,0.9,1.0} 的组合效果。通过在这些公开数据集上进行基准测试，可以客观地评估不同参数组合在不同任务和领域中的性能表现，为后续的参数调优提供参考。
- 消融分析：对比单参数调优与联合调优的差异，如在 T=0.5 时，观察 Top_p 从 0.7 升至 0.9 对抽取多样性的提升幅度。通过消融分析，可以深入了解每个参数对模型性能的单独影响，以及参数之间的协同作用，从而更有针对性地进行参数调优，提高模型在知识抽取任务中的性能。
五、挑战与未来方向
（一）当前技术挑战
- 参数交互复杂性：在大模型知识抽取任务中，Temperature 和 Top_p 参数的交互作用呈现出高度的复杂性。不同类型的模型，如 BERT 类模型和 GPT 类模型，对这两个参数的敏感性存在显著差异。BERT 类模型由于其双向编码的特性，更注重上下文信息的融合，因此对 Top_p 参数在筛选关键上下文词汇时更为敏感。在处理一篇科技文献时，BERT 类模型需要通过 Top_p 准确筛选出与专业术语相关的上下文词汇，以准确理解文献内容。而 GPT 类模型以其自回归生成的方式，更侧重于生成的连贯性和逻辑性，对 Temperature 在控制生成随机性方面的变化响应更为明显。在文本续写任务中，GPT 类模型需要通过调整 Temperature 来平衡生成内容的创新性和合理性。目前缺乏一种统一的调优公式来指导这两个参数在不同模型中的设置，这使得研究人员和开发者在实际应用中需要花费大量的时间和精力进行反复试验和调试。
- 领域适配成本：对于新兴领域，如中医药和量子计算领域，由于其独特的专业术语和知识体系，现有的大模型知识抽取方法往往难以直接适用。在中医药领域，大量的中医术语如 “气血”“经络”“方剂配伍” 等具有深厚的文化内涵和独特的语义，与通用领域的词汇存在很大差异；在量子计算领域，“量子比特”“量子纠缠”“量子门” 等专业概念也需要特定的知识背景才能准确理解。为了确定在这些新兴领域中 Temperature 和 Top_p 的最优参数，需要手动标注大量的样本数据。这一过程不仅需要领域专家的参与，耗费大量的时间和人力成本，而且由于标注的主观性和数据的稀疏性，可能导致标注结果的不一致性和不准确性，从而影响参数调优的效果和知识抽取的质量。
（二）未来研究方向
- 自动化调优算法：开发基于强化学习的参数优化模型是未来的一个重要研究方向。这种模型可以根据实时抽取效果动态调整 Temperature 和 Top_p 参数，实现参数的自动化调优。在处理一篇新闻报道时，模型可以实时分析抽取到的实体和关系的准确性和多样性，根据强化学习算法的反馈，自动调整 Temperature 和 Top_p 的值。如果发现抽取到的实体过于单一，缺乏多样性，模型可以适当提高 Temperature 值，增加生成的随机性；如果发现抽取到的关系存在较多错误，模型可以降低 Top_p 值，缩小候选词范围，提高抽取的准确性。通过这种方式，模型可以不断优化参数配置，以适应不同的文本和任务需求，提高知识抽取的效率和质量。
- 多模态融合优化：结合图像 OCR、表格结构等信息，构建跨模态参数调节模型是未来的另一个研究方向。在中医药领域，许多知识不仅存在于文本中，还包含在中医药图谱、方剂配伍图等图像和表格中。通过 Graph RAG 技术扩展，可以将文本中的知识与图像、表格中的知识进行融合，实现跨模态的知识抽取。在处理中医药文献时，模型可以同时分析文本中的描述和图谱中的信息，根据多模态信息的特点动态调整参数。对于图像中的关键信息，模型可以通过调整参数更准确地抽取相关的知识；对于表格中的数据，模型可以优化参数配置，确保数据的准确提取和结构化表示。这种跨模态的参数调节模型可以充分利用多模态数据的互补性，提高知识抽取的全面性和准确性。
- 可解释性增强：通过注意力可视化分析 Top_p 筛选的关键 token，量化 Temperature 对实体抽取顺序的影响，是未来增强模型可解释性的重要研究方向。通过注意力可视化技术，可以直观地展示模型在生成过程中对不同 token 的关注程度，从而深入了解 Top_p 筛选关键 token 的机制。在处理一篇法律文书时，注意力可视化可以显示出模型在抽取法律条款时，对哪些 token 给予了更高的关注，这些 token 是如何影响实体和关系的抽取结果的。同时，通过量化 Temperature 对实体抽取顺序的影响，可以更清楚地了解 Temperature 在控制生成过程中的作用。在不同的 Temperature 值下，观察模型抽取实体的顺序变化，分析这种变化对知识抽取结果的影响，有助于研究人员更好地理解模型的行为，为参数调优和模型改进提供依据。
六、结论
Temperature 与 Top_p 的协同调优是提升大模型知识抽取效果的关键技术路径。本研究通过解析两参数的作用机制，提出闭域精确、开放域多元、长文本结构化三类典型场景的最佳实践策略，并构建了包含评估指标与实验步骤的调优框架。实验结果表明，合理调整参数可显著提升知识抽取的准确性、多样性与结构化输出质量。
然而，当前参数调优仍面临交互复杂性高、领域适配成本大等挑战。未来可进一步结合自动化算法与多模态技术，推动参数优化从经验驱动转向数据驱动，为大模型在垂直领域的知识抽取应用提供更普适的解决方案。随着技术的不断发展，有望实现更高效、智能的知识抽取，为各行业的数字化转型和创新发展提供有力支持。
