Tools
فایرکراول
OpenClaw میتواند از Firecrawl به سه روش استفاده کند:
- بهعنوان ارائهدهندهٔ
web_search - بهعنوان ابزارهای صریح Plugin:
firecrawl_searchوfirecrawl_scrape - بهعنوان استخراجکنندهٔ پشتیبان برای
web_fetch
این یک سرویس میزبانیشدهٔ استخراج/جستوجو است که از دور زدن ربات و ذخیرهسازی موقت پشتیبانی میکند؛ قابلیتی که برای سایتهای متکی بر JS یا صفحاتی که واکشی سادهٔ HTTP را مسدود میکنند مفید است.
نصب Plugin
Plugin رسمی را نصب کنید، سپس Gateway را راهاندازی مجدد کنید:
openclaw plugins install @openclaw/firecrawl-pluginopenclaw gateway restartweb_fetch بدون کلید و کلیدهای API
گزینهٔ پشتیبان میزبانیشدهٔ Firecrawl برای web_fetch که بهطور صریح انتخاب شده است، دسترسی اولیه را بدون کلید API فراهم میکند. هنگامی که به محدودیتهای بالاتری نیاز دارید، FIRECRAWL_API_KEY را در محیط Gateway اضافه یا آن را پیکربندی کنید. web_search و firecrawl_scrape در Firecrawl به کلید API نیاز دارند.
پیکربندی جستوجوی Firecrawl
{ tools: { web: { search: { provider: "firecrawl", }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webSearch: { apiKey: "FIRECRAWL_API_KEY_HERE", baseUrl: "https://api.firecrawl.dev", }, }, }, }, },}نکات:
- انتخاب Firecrawl در راهاندازی اولیه یا
openclaw configure --section web، Plugin نصبشدهٔ Firecrawl را بهطور خودکار فعال میکند. web_searchبا Firecrawl ازqueryوcountپشتیبانی میکند.- برای کنترلهای ویژهٔ Firecrawl مانند
sources،categoriesیا خراشدادن نتایج، ازfirecrawl_searchاستفاده کنید. - مقدار پیشفرض
baseUrl، سرویس میزبانیشدهٔ Firecrawl درhttps://api.firecrawl.devاست. بازنویسیهای خودمیزبان فقط برای نقاط پایانی خصوصی/داخلی مجاز هستند؛ HTTP فقط برای همان مقصدهای خصوصی پذیرفته میشود. FIRECRAWL_BASE_URLمتغیر محیطی پشتیبان مشترک برای URLهای پایهٔ جستوجو و خراشدادن Firecrawl است.- مهلت زمانی پیشفرض درخواستهای جستوجوی Firecrawl برابر ۳۰ ثانیه است؛ پارامتر
timeoutSecondsدرfirecrawl_searchآن را برای هر فراخوانی بازنویسی میکند.
پیکربندی گزینهٔ پشتیبان Firecrawl برای web_fetch
{ tools: { web: { fetch: { provider: "firecrawl", // انتخاب صریح، گزینهٔ پشتیبان بدون کلید را فعال میکند }, }, }, plugins: { entries: { firecrawl: { enabled: true, config: { webFetch: { baseUrl: "https://api.firecrawl.dev", onlyMainContent: true, maxAgeMs: 172800000, timeoutSeconds: 60, }, }, }, }, },}نکات:
- گزینهٔ پشتیبان Firecrawl برای
web_fetchکه بهطور صریح انتخاب شده است، بدون کلید API کار میکند. در صورت پیکربندی، OpenClaw برای دستیابی به محدودیتهای بالاتر،plugins.entries.firecrawl.config.webFetch.apiKeyیاFIRECRAWL_API_KEYرا ارسال میکند. - انتخاب Firecrawl هنگام راهاندازی اولیه یا اجرای
openclaw configure --section web، Plugin را فعال میکند و Firecrawl را برایweb_fetchانتخاب میکند، مگر اینکه ارائهدهندهٔ واکشی دیگری از قبل پیکربندی شده باشد. firecrawl_scrapeبه کلید API نیاز دارد.maxAgeMsمیزان قدیمیبودن مجاز نتایج ذخیرهشده در حافظهٔ موقت را کنترل میکند (میلیثانیه). مقدار پیشفرض ۱۷۲٬۸۰۰٬۰۰۰ میلیثانیه (۲ روز) است.- مقدار پیشفرض
onlyMainContentبرابرtrueو مقدار پیشفرضtimeoutSecondsبرابر ۶۰ است. - پیکربندی قدیمی
tools.web.fetch.firecrawl.*وtools.web.search.firecrawl.*بهطور خودکار باopenclaw doctor --fixمهاجرت داده میشود. - بازنویسیهای URL پایه/خراشدادن Firecrawl از همان قاعدهٔ میزبانیشده/خصوصی جستوجو پیروی میکنند: ترافیک میزبانیشدهٔ عمومی از
https://api.firecrawl.devاستفاده میکند؛ بازنویسیهای خودمیزبان باید به نقاط پایانی خصوصی/داخلی منتهی شوند. firecrawl_scrapeپیش از ارسال URLهای مقصد به Firecrawl، مقصدهای آشکارا خصوصی، local loopback، فراداده و URLهای غیر HTTP(S) را رد میکند و برای فراخوانیهای صریح خراشدادن Firecrawl از قرارداد ایمنی مقصدweb_fetchپیروی میکند.
firecrawl_scrape از همان تنظیمات و متغیرهای محیطی plugins.entries.firecrawl.config.webFetch.*، از جمله کلید API الزامی آن، دوباره استفاده میکند.
Firecrawl خودمیزبان
هنگامی که Firecrawl را خودتان اجرا میکنید، plugins.entries.firecrawl.config.webSearch.baseUrl، plugins.entries.firecrawl.config.webFetch.baseUrl یا FIRECRAWL_BASE_URL را تنظیم کنید. OpenClaw فقط برای مقصدهای local loopback، شبکهٔ خصوصی، .local، .internal یا .localhost، نشانی http:// را میپذیرد. میزبانهای سفارشی عمومی رد میشوند تا کلیدهای API مربوط به Firecrawl بهطور تصادفی به نقاط پایانی دلخواه ارسال نشوند.
ابزارهای Plugin مربوط به Firecrawl
firecrawl_search
هنگامی که بهجای web_search عمومی به کنترلهای جستوجوی ویژهٔ Firecrawl نیاز دارید، از این ابزار استفاده کنید.
پارامترها:
querycountsourcescategoriesscrapeResultstimeoutSeconds
firecrawl_scrape
برای صفحات متکی بر JS یا محافظتشده در برابر ربات که web_fetch ساده در آنها عملکرد ضعیفی دارد، از این ابزار استفاده کنید.
پارامترها:
urlextractModemaxCharsonlyMainContentmaxAgeMsproxystoreInCachetimeoutSeconds
حالت مخفی / دور زدن ربات
مقادیر پیشفرض firecrawl_scrape و گزینهٔ پشتیبان Firecrawl برای web_fetch، proxy: "auto" بههمراه storeInCache: true هستند، مگر اینکه فراخواننده این پارامترها را بازنویسی کند. firecrawl_search و ارائهدهندهٔ Firecrawl برای web_search هیچ کنترلی برای proxy/storeInCache ندارند؛ حالت پروکسی مخفی فقط برای درخواستهای خراشدادن/واکشی اعمال میشود.
حالت proxy در Firecrawl دور زدن ربات را کنترل میکند (basic، stealth یا auto). اگر تلاش پایه ناموفق باشد، auto با پروکسیهای مخفی دوباره تلاش میکند؛ این کار ممکن است نسبت به خراشدادن صرفاً پایه، اعتبار بیشتری مصرف کند.
نحوهٔ استفادهٔ web_fetch از Firecrawl
ترتیب استخراج web_fetch:
- Readability (محلی)
- ارائهدهندهٔ واکشی پیکربندیشده، مانند Firecrawl (در صورت انتخاب یا شناسایی خودکار از اعتبارنامههای پیکربندیشده)
- پاکسازی پایهٔ HTML (آخرین گزینهٔ پشتیبان)
گزینهٔ انتخاب tools.web.fetch.provider است. اگر آن را حذف کنید، OpenClaw نخستین ارائهدهندهٔ آمادهٔ واکشی وب را از میان اعتبارنامههای موجود بهطور خودکار شناسایی میکند. Plugin رسمی Firecrawl این گزینهٔ پشتیبان را فراهم میکند.
مرتبط
- نمای کلی جستوجوی وب -- همهٔ ارائهدهندگان و شناسایی خودکار
- واکشی وب -- ابزار
web_fetchبا گزینهٔ پشتیبان Firecrawl - Tavily -- ابزارهای جستوجو و استخراج