Tools
Firecrawl
OpenClaw może korzystać z Firecrawl na trzy sposoby:
- jako dostawcy
web_search - jako jawnych narzędzi pluginu:
firecrawl_searchifirecrawl_scrape - jako zapasowego mechanizmu wyodrębniania dla
web_fetch
Jest to hostowana usługa wyodrębniania i wyszukiwania, która obsługuje omijanie zabezpieczeń przed botami oraz buforowanie, co pomaga w przypadku witryn intensywnie korzystających z JS lub stron blokujących zwykłe pobieranie przez HTTP.
Instalowanie pluginu
Zainstaluj oficjalny plugin, a następnie uruchom ponownie Gateway:
openclaw plugins install @openclaw/firecrawl-pluginopenclaw gateway restartweb_fetch bez klucza i klucze API
Jawnie wybrany hostowany zapasowy mechanizm Firecrawl dla web_fetch zapewnia dostęp startowy bez klucza API. Dodaj FIRECRAWL_API_KEY w środowisku Gateway lub skonfiguruj go, gdy potrzebujesz wyższych limitów. Firecrawl web_search i firecrawl_scrape wymagają klucza API.
Konfigurowanie wyszukiwania Firecrawl
{ tools: { web: { search: { provider: "firecrawl", }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webSearch: { apiKey: "FIRECRAWL_API_KEY_HERE", baseUrl: "https://api.firecrawl.dev", }, }, }, }, },}Uwagi:
- Wybranie Firecrawl podczas wdrażania lub za pomocą
openclaw configure --section webautomatycznie włącza zainstalowany plugin Firecrawl. web_searchz Firecrawl obsługuje parametryqueryicount.- Aby użyć ustawień charakterystycznych dla Firecrawl, takich jak
sources,categorieslub pobieranie treści wyników, użyjfirecrawl_search. baseUrldomyślnie wskazuje na hostowaną usługę Firecrawl pod adresemhttps://api.firecrawl.dev. Zastąpienie go adresem samodzielnie hostowanej usługi jest dozwolone tylko w przypadku prywatnych lub wewnętrznych punktów końcowych; protokół HTTP jest akceptowany wyłącznie dla takich prywatnych celów.FIRECRAWL_BASE_URLjest współdzieloną zmienną środowiskową używaną jako wartość zapasowa bazowych adresów URL wyszukiwania i pobierania treści Firecrawl.- Domyślny limit czasu żądań wyszukiwania Firecrawl wynosi 30 sekund; parametr
timeoutSecondsnarzędziafirecrawl_searchzastępuje go dla danego wywołania.
Konfigurowanie zapasowego mechanizmu Firecrawl dla web_fetch
{ tools: { web: { fetch: { provider: "firecrawl", // jawny wybór włącza tryb zapasowy bez klucza }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webFetch: { baseUrl: "https://api.firecrawl.dev", onlyMainContent: true, maxAgeMs: 172800000, timeoutSeconds: 60, }, }, }, }, },}Uwagi:
- Jawnie wybrany zapasowy mechanizm Firecrawl dla
web_fetchdziała bez klucza API. Po skonfigurowaniu OpenClaw wysyłaplugins.entries.firecrawl.config.webFetch.apiKeylubFIRECRAWL_API_KEY, aby uzyskać wyższe limity. - Wybranie Firecrawl podczas wdrażania lub za pomocą
openclaw configure --section webwłącza plugin i wybiera Firecrawl dlaweb_fetch, chyba że skonfigurowano już innego dostawcę pobierania. firecrawl_scrapewymaga klucza API.maxAgeMsokreśla maksymalny wiek wyników w pamięci podręcznej (w ms). Wartość domyślna to 172 800 000 ms (2 dni).- Domyślna wartość
onlyMainContenttotrue, atimeoutSeconds— 60. - Starsza konfiguracja
tools.web.fetch.firecrawl.*itools.web.search.firecrawl.*jest automatycznie migrowana przezopenclaw doctor --fix. - Zastępowanie bazowego adresu URL pobierania treści Firecrawl podlega tej samej regule dotyczącej hostowania i adresów prywatnych co wyszukiwanie: publiczny ruch do usługi hostowanej korzysta z
https://api.firecrawl.dev, a adresy zastępcze samodzielnie hostowanych usług muszą wskazywać prywatne lub wewnętrzne punkty końcowe. - Przed przekazaniem adresów URL do Firecrawl narzędzie
firecrawl_scrapeodrzuca ewidentnie prywatne adresy docelowe, adresy local loopback, adresy metadanych oraz adresy korzystające z protokołów innych niż HTTP(S), zgodnie z zasadami bezpieczeństwa celówweb_fetchdla jawnych wywołań pobierania treści przez Firecrawl.
firecrawl_scrape używa ponownie tych samych ustawień i zmiennych środowiskowych plugins.entries.firecrawl.config.webFetch.*, w tym wymaganego klucza API.
Samodzielnie hostowany Firecrawl
Ustaw plugins.entries.firecrawl.config.webSearch.baseUrl, plugins.entries.firecrawl.config.webFetch.baseUrl lub FIRECRAWL_BASE_URL, jeśli uruchamiasz Firecrawl samodzielnie. OpenClaw akceptuje http:// tylko dla celów local loopback, sieci prywatnej, .local, .internal lub .localhost. Publiczne niestandardowe hosty są odrzucane, aby klucze API Firecrawl nie zostały przypadkowo wysłane do dowolnych punktów końcowych.
Narzędzia pluginu Firecrawl
firecrawl_search
Użyj tego narzędzia, jeśli zamiast ogólnego web_search potrzebujesz ustawień wyszukiwania charakterystycznych dla Firecrawl.
Parametry:
querycountsourcescategoriesscrapeResultstimeoutSeconds
firecrawl_scrape
Użyj tego narzędzia w przypadku stron intensywnie korzystających z JS lub chronionych przed botami, z którymi zwykłe web_fetch radzi sobie słabo.
Parametry:
urlextractModemaxCharsonlyMainContentmaxAgeMsproxystoreInCachetimeoutSeconds
Tryb niewykrywalny i omijanie zabezpieczeń przed botami
firecrawl_scrape i zapasowy mechanizm Firecrawl dla web_fetch domyślnie używają proxy: "auto" oraz storeInCache: true, chyba że wywołujący zastąpi te parametry. firecrawl_search i dostawca Firecrawl dla web_search nie udostępniają ustawień proxy ani storeInCache; tryb niewykrywalnego serwera proxy ma zastosowanie tylko do żądań pobierania treści i pobierania stron.
Tryb proxy Firecrawl steruje omijaniem zabezpieczeń przed botami (basic, stealth lub auto). W trybie auto po niepowodzeniu podstawowej próby żądanie jest ponawiane przy użyciu niewykrywalnych serwerów proxy, co może zużywać więcej środków niż pobieranie wyłącznie w trybie podstawowym.
Jak web_fetch korzysta z Firecrawl
Kolejność wyodrębniania przez web_fetch:
- Readability (lokalnie)
- Skonfigurowany dostawca pobierania, taki jak Firecrawl (gdy został wybrany lub automatycznie wykryty na podstawie skonfigurowanych danych uwierzytelniających)
- Podstawowe oczyszczanie kodu HTML (ostatni mechanizm zapasowy)
Ustawienie wyboru to tools.web.fetch.provider. Jeśli je pominiesz, OpenClaw automatycznie wykryje pierwszego gotowego dostawcę pobierania stron na podstawie dostępnych danych uwierzytelniających. Oficjalny plugin Firecrawl zapewnia ten mechanizm zapasowy.
Powiązane
- Omówienie wyszukiwania w internecie -- wszyscy dostawcy i automatyczne wykrywanie
- Pobieranie stron internetowych -- narzędzie
web_fetchz zapasowym mechanizmem Firecrawl - Tavily -- narzędzia wyszukiwania i wyodrębniania