Skip to main content
Open In Colab在 GitHub 上打开

CoNLL-U

CoNLL-U 是 CoNLL-X 格式的修订版。注释以纯文本文件(UTF-8,规范化为 NFC,仅使用 LF 字符作为换行符,包括文件末尾的 LF 字符)进行编码,包含三种类型的行:

  • 在 10 个字段中包含单词/标记注释的单词行,由单个制表符分隔;见下文。
  • 标记句子边界的空行。
  • 以哈希 (#) 开头的注释行。

这是如何以 CoNLL-U 格式加载文件的示例。整个文件被视为一个文档。示例数据 (conllu.conllu) 基于标准 UD/CoNLL-U 示例之一。

from langchain_community.document_loaders import CoNLLULoader
API 参考:CoNLLULoader
loader = CoNLLULoader("example_data/conllu.conllu")
document = loader.load()
document
[Document(page_content='They buy and sell books.', metadata={'source': 'example_data/conllu.conllu'})]