Skip to main content

📄️ RankLLM Reranker

RankLLM 是一个灵活的重排序框架，支持列表式、成对式和点对式排序模型。它包含 RankVicuna、RankZephyr、MonoT5、DuoT5、LiT5 和 FirstMistral，并集成了 FastChat、vLLM、SGLang 和 TensorRT-LLM，以实现高效的推理。RankLLM 针对检索和排序任务进行了优化，能够利用开源大语言模型以及 RankGPT 和 RankGemini 等专有重排序器。它支持批量推理、首令牌重排序，以及通过 BM25 和 SPLADE 进行检索。