微软 OneDrive
Microsoft OneDrive (formerly
SkyDrive) 是由微软运营的文件托管服务。
这个笔记本介绍了如何从OneDrive加载文档。默认情况下,文档加载器会加载pdf、doc、docx和txt文件。你可以通过提供适当的解析器来加载其他类型的文件(详见下方)。
前置条件
- 使用Microsoft身份平台注册应用程序的说明。
- 注册完成后,Azure门户将显示应用注册的概述窗格。您会看到应用程序(客户端)ID。这个值也被称为
client ID,它是您的应用程序在Microsoft身份平台中的唯一标识符。 - 在您将要遵循的步骤项1中,您可以将重定向URI设置为
http://localhost:8000/callback - 在步骤 项目1 中,您将在应用程序密钥部分生成一个新密码 (
client_secret)。 - 按照此文档中的说明,将以下
SCOPES(包括offline_access和Files.Read.All)添加到您的应用程序中。 - 访问 Graph Explorer Playground 以获取您的
OneDrive ID。第一步是确保您已使用与您的 OneDrive 账户关联的账户登录。然后,您需要向https://graph.microsoft.com/v1.0/me/drive发起请求,响应将返回一个包含字段id的数据负载,该字段保存了您的 OneDrive 账户的 ID。 - 您需要使用命令
pip install o365安装o365包。 - 在完成步骤后,您必须拥有以下值:
CLIENT_IDCLIENT_SECRETDRIVE_ID
🧑💻 指南:从OneDrive导入您的文档
🔑 认证
默认情况下,OneDriveLoader 假设 CLIENT_ID 和 CLIENT_SECRET 的值必须存储为分别名为 O365_CLIENT_ID 和 O365_CLIENT_SECRET 的环境变量。您可以通过在应用程序根目录下的一个 .env 文件中传递这些环境变量,或者在脚本中使用以下命令来实现。
os.environ['O365_CLIENT_ID'] = "YOUR CLIENT ID"
os.environ['O365_CLIENT_SECRET'] = "YOUR CLIENT SECRET"
此加载器使用一种名为 代表用户进行身份验证 的认证。这是一种两步认证方式,需要用户的同意。当你实例化加载器时,它会打印一个 URL,用户必须访问该 URL 在应用程序所需的权限上提供同意。用户必须访问此 URL 并在应用程序上授予所需权限。然后,用户必须复制结果页面的 URL 并将其粘贴回控制台。如果登录尝试成功,则方法将返回 True。
from langchain_community.document_loaders.onedrive import OneDriveLoader
loader = OneDriveLoader(drive_id="YOUR DRIVE ID")
完成身份验证后,加载器将在~/.credentials/文件夹中存储一个令牌(o365_token.txt)。此令牌可以在不需要之前所述的手动粘贴步骤的情况下用于后续的身份验证。为了使用此令牌进行身份验证,在加载器的实例化过程中需要将auth_with_token参数更改为True。
from langchain_community.document_loaders.onedrive import OneDriveLoader
loader = OneDriveLoader(drive_id="YOUR DRIVE ID", auth_with_token=True)
🗂️ 文档加载器
📑 从OneDrive目录加载文档
OneDriveLoader可以从您的OneDrive中的特定文件夹加载文档。例如,您想要加载存储在Documents/clients文件夹内的所有文档。
from langchain_community.document_loaders.onedrive import OneDriveLoader
loader = OneDriveLoader(drive_id="YOUR DRIVE ID", folder_path="Documents/clients", auth_with_token=True)
documents = loader.load()
📑 从文档ID列表加载文档
另一个可能性是为每个您想要加载的文档提供一个object_id列表。为此,您需要查询Microsoft Graph API以找到所有感兴趣的文档ID。此链接提供了用于检索文档ID的端点列表。
例如,要检索存储在Documents文件夹根目录下的所有对象的信息,您需要向https://graph.microsoft.com/v1.0/drives/{YOUR DRIVE ID}/root/children发起请求。一旦您获得了感兴趣的ID列表,就可以使用以下参数实例化加载器。
from langchain_community.document_loaders.onedrive import OneDriveLoader
loader = OneDriveLoader(drive_id="YOUR DRIVE ID", object_ids=["ID_1", "ID_2"], auth_with_token=True)
documents = loader.load()
📑 选择支持的文件类型和首选解析器
默认情况下 OneDriveLoader 使用默认解析器加载 document_loaders/parsers/registry 中定义的文件类型。
def _get_default_parser() -> BaseBlobParser:
"""Get default mime-type based parser."""
return MimeTypeBasedParser(
handlers={
"application/pdf": PyMuPDFParser(),
"text/plain": TextParser(),
"application/msword": MsWordParser(),
"application/vnd.openxmlformats-officedocument.wordprocessingml.document": (
MsWordParser()
),
},
fallback_parser=None,
)
您可以通过向 `1` 传递 `0` 参数来覆盖此行为。 传入一个字典,该字典映射文件扩展名(如 `2`, `3` 等)或 MIME 类型(如 `4`, `5` 等),以指定解析器。请注意,您必须使用其中一种方式进行映射,而不能混合使用两者。
Do not include the leading dot for file extensions.
# using file extensions:
handlers = {
"doc": MsWordParser(),
"pdf": PDFMinerParser(),
"mp3": OpenAIWhisperParser()
}
# using MIME types:
handlers = {
"application/msword": MsWordParser(),
"application/pdf": PDFMinerParser(),
"audio/mpeg": OpenAIWhisperParser()
}
loader = OneDriveLoader(document_library_id="...",
handlers=handlers # pass handlers to OneDriveLoader
)
在多个文件扩展名映射到相同的MIME类型时,将应用最后的字典条目。 示例:
# 'jpg' and 'jpeg' both map to 'image/jpeg' MIME type. SecondParser() will be used
# to parse all jpg/jpeg files.
handlers = {
"jpg": FirstParser(),
"jpeg": SecondParser()
}