Skip to main content
Open In Colab在 GitHub 上打开

Microsoft OneDrive

Microsoft OneDrive(以前称为SkyDrive) 是由 Microsoft 运营的文件托管服务。

此笔记本介绍如何从OneDrive.默认情况下,文档加载程序会加载pdf,doc,docxtxt文件。您可以通过提供适当的解析器来加载其他文件类型(请参阅下面的更多内容)。

先决条件

  1. 使用 Microsoft 标识平台说明注册应用程序。
  2. 注册完成后,Azure 门户会显示应用注册的“概述”窗格。您将看到 Application (client) ID。也称为client ID,此值在 Microsoft 标识平台中唯一标识您的应用程序。
  3. 在第 1 项中将执行的步骤中,您可以将重定向 URI 设置为http://localhost:8000/callback
  4. 在您将执行第 1 项的步骤中,生成新密码 (client_secret)。
  5. 按照本文档中的说明添加以下内容SCOPES (offline_accessFiles.Read.All) 添加到您的应用程序。
  6. 访问 Graph Explorer Playground 以获取OneDrive ID.第一步是确保您使用与您的 OneDrive 帐户关联的帐户登录。然后您需要向https://graph.microsoft.com/v1.0/me/drive响应将返回一个带有字段的有效负载id,其中包含您的 OneDrive 帐户的 ID。
  7. 您需要使用命令安装 o365 软件包pip install o365.
  8. 在步骤结束时,您必须具有以下值:
  • CLIENT_ID
  • CLIENT_SECRET
  • DRIVE_ID

🧑 从 OneDrive 提取文档的说明

🔑 认证

默认情况下,OneDriveLoader期望CLIENT_IDCLIENT_SECRET必须存储为名为O365_CLIENT_IDO365_CLIENT_SECRET分别。您可以通过.envfile 添加到应用程序的根目录下,或在脚本中使用以下命令。

os.environ['O365_CLIENT_ID'] = "YOUR CLIENT ID"
os.environ['O365_CLIENT_SECRET'] = "YOUR CLIENT SECRET"

此加载程序使用代表用户调用的身份验证。这是用户同意的 2 步身份验证。当您实例化加载程序时,它将调用将打印一个 URL,用户必须访问该 url 才能同意应用程序获得所需的权限。然后,用户必须访问此 URL 并同意该应用程序。然后,用户必须复制生成的页面 URL 并将其粘贴回控制台。如果登录尝试成功,该方法将返回 True。

from langchain_community.document_loaders.onedrive import OneDriveLoader

loader = OneDriveLoader(drive_id="YOUR DRIVE ID")
API 参考:OneDriveLoader

身份验证完成后,加载程序将存储一个令牌 (o365_token.txt) 在~/.credentials/文件夹。此令牌稍后可用于身份验证,而无需前面解释的复制/粘贴步骤。要使用此令牌进行身份验证,您需要更改auth_with_tokenparameter 设置为 True。

from langchain_community.document_loaders.onedrive import OneDriveLoader

loader = OneDriveLoader(drive_id="YOUR DRIVE ID", auth_with_token=True)
API 参考:OneDriveLoader

🗂️ 文档加载器

📑 从 OneDrive 目录加载文档

OneDriveLoader可以从 OneDrive 中的特定文件夹加载文档。例如,您希望加载存储在Documents/clients文件夹中的文件夹。

from langchain_community.document_loaders.onedrive import OneDriveLoader

loader = OneDriveLoader(drive_id="YOUR DRIVE ID", folder_path="Documents/clients", auth_with_token=True)
documents = loader.load()
API 参考:OneDriveLoader

📑 从文档 ID 列表加载文档

另一种可能性是提供object_id对于要加载的每个文档。为此,您需要查询 Microsoft Graph API 以查找您感兴趣的所有文档 ID。此链接提供了有助于检索文档 ID 的终端节点列表。

例如,要检索有关存储在 Documents 文件夹根目录中的所有对象的信息,您需要发出以下请求:https://graph.microsoft.com/v1.0/drives/{YOUR DRIVE ID}/root/children.获得感兴趣的 ID 列表后,您可以使用以下参数实例化加载程序。

from langchain_community.document_loaders.onedrive import OneDriveLoader

loader = OneDriveLoader(drive_id="YOUR DRIVE ID", object_ids=["ID_1", "ID_2"], auth_with_token=True)
documents = loader.load()
API 参考:OneDriveLoader

📑 选择支持的文件类型和首选解析器

默认情况下OneDriveLoader加载 中定义的文件类型document_loaders/parsers/registry使用默认解析器(见下文)。

def _get_default_parser() -> BaseBlobParser:
"""Get default mime-type based parser."""
return MimeTypeBasedParser(
handlers={
"application/pdf": PyMuPDFParser(),
"text/plain": TextParser(),
"application/msword": MsWordParser(),
"application/vnd.openxmlformats-officedocument.wordprocessingml.document": (
MsWordParser()
),
},
fallback_parser=None,
)

您可以通过将handlersargument 设置为OneDriveLoader. 传递一个字典,映射文件扩展名(如"doc","pdf"等) 或 MIME 类型(如"application/pdf","text/plain"等)到解析器。 请注意,您必须以独占方式使用文件扩展名或 MIME 类型,并且 不能混合它们。

不要包含文件扩展名的前导点。

# using file extensions:
handlers = {
"doc": MsWordParser(),
"pdf": PDFMinerParser(),
"mp3": OpenAIWhisperParser()
}

# using MIME types:
handlers = {
"application/msword": MsWordParser(),
"application/pdf": PDFMinerParser(),
"audio/mpeg": OpenAIWhisperParser()
}

loader = OneDriveLoader(document_library_id="...",
handlers=handlers # pass handlers to OneDriveLoader
)

如果多个文件扩展名映射到同一 MIME 类型,则最后一个词典项将 应用。 例:

# 'jpg' and 'jpeg' both map to 'image/jpeg' MIME type. SecondParser() will be used 
# to parse all jpg/jpeg files.
handlers = {
"jpg": FirstParser(),
"jpeg": SecondParser()
}