Web Scraping Extract API
API 한 번의 호출로 Web Scraping Extract 데이터를 받아 가세요. Fetches one web page and returns structured extraction output under the WebPage extraction field.
2026년 10월 업데이트SocialCrawl 팀이 직접 관리해요
웹 페이지 하나에서 직접 건넨 스키마나 자연어 프롬프트에 맞춰 구조화된 필드만 뽑아 반환합니다.
페이지 본문 전체가 아니라 가격이나 작성자처럼 특정 값만 필요할 때 사용하세요.
Web Scraping Extract API, 직접 써 보세요
코드 한 줄 짜기 전에, 실제 데이터부터
68개 플랫폼을 병렬로 검색합니다
Extract API로 무엇을 할 수 있을까요
Extract 엔드포인트가 통합 스키마와 계산 필드를 담은 Web Scraping 데이터를 한 번의 요청으로 보내드려요. 스크래핑 인프라를 직접 만들거나 유지할 필요가 없어요.
요청 예시
curl -H "x-api-key: YOUR_API_KEY" \
"https://www.socialcrawl.dev/v1/web/extract?url=https%3A%2F%2Fexample.com%2Fpricing&prompt=Extract+plan+names+and+prices."import requests
response = requests.get(
"https://www.socialcrawl.dev/v1/web/extract",
params={
'url': 'https://example.com/pricing',
'prompt': 'Extract plan names and prices.',
},
headers={"x-api-key": "YOUR_API_KEY"},
)
data = response.json()const response = await fetch(
"https://www.socialcrawl.dev/v1/web/extract?url=https%3A%2F%2Fexample.com%2Fpricing&prompt=Extract+plan+names+and+prices.",
{
headers: { "x-api-key": "YOUR_API_KEY" },
},
);
const data = await response.json();파라미터
| 파라미터 | 필수 | 설명 |
|---|---|---|
| url | 예 | Public URL to extract from. |
| schema | 아니오 | JSON object schema describing the data to return. |
| prompt | 아니오 | Plain-language extraction instruction. |
| only_main_content | 아니오 | Strip nav, headers, footers and sidebars and keep the article body. Default true; send false when you need the whole page, including the chrome. |
| timeout | 아니오 | Hard cap on each page load in milliseconds, 1 to 30000. A page that exceeds it fails and is refunded rather than returning a partial capture. |
| max_age | 아니오 | Accept an upstream-cached copy up to this many milliseconds old, which is faster and costs the same. Default 172800000 (48 hours); send 0 to force a live fetch. |
| proxy | 아니오 | Proxy tier: basic, auto, or enhanced. Raise it only when a site blocks the default tier - enhanced is slower. (basic | auto | enhanced) |
Web Scraping Extract API는 무엇을 돌려주나요
모든 응답은 하나의 통합 스키마를 따라요. 크레딧을 쓰기 전에 어떤 필드가 돌아오는지, 실제 응답 본문 그대로 확인해 보세요.
응답 예시 보기
{
"success": true,
"platform": "web",
"endpoint": "/v1/web/extract",
"data": {
"page": {
"url": "https://example.com/pricing",
"final_url": "https://example.com/pricing",
"status_code": 404,
"scrape_id": "01a0fca4-fd91-722e-9e06-e3ef59ae1f08",
"fetched_at": null,
"content": {
"markdown": null,
"html": null,
"raw_html": null,
"summary": null
},
"media": {
"screenshot_url": null,
"audio_url": null,
"video_url": null
},
"extraction": {
"plans": [
{
"planName": "Example Domain 1",
"price": 0
},
{
"planName": "Example Domain 2",
"price": 0
}
]
},
"answer": null,
"highlights": null,
"change_tracking": null,
"page_count": null,
"total_page_count": null,
"fetch": {
"cache_state": "hit",
"cached_at": "2026-10-02T12:32:15.056Z",
"proxy_tier": null
}
}
},
"credits_used": 5,
"request_id": "req_example000000",
"cached": false,
"credits_remaining": 9999,
"source": "captured",
"captured_at": "2026-10-02T12:44:30.566Z",
"redacted": true
}통합 응답 구조를 보여 주는 실제 샘플이에요. 필드 값은 조회한 대상에 따라 달라져요.
Web Scraping Extract API는 어떻게 동작하나요
API 키와 함께 GET 요청을 보내면, 통합 스키마와 계산 필드를 담은 깔끔한 JSON이 돌아와요.
메서드
GET
응답 형식
JSON
소셜 미디어 데이터를 몇 초 만에 수집하는 방법
개발자를 위한 가장 빠른 소셜 미디어 스크래핑 API. 월간 활성 사용자 100억 명 이상을 포괄하는 68개 플랫폼에서 프로필, 게시물, 댓글, 분석 데이터를 수집하세요.
모든 플랫폼을 하나의 스키마로
동일한 응답 구조로 68개 플랫폼을 조회하세요. 연동은 한 번이면 충분합니다.
단순 수집을 넘어 계산된 필드 제공
엔드포인트가 해당 지표를 지원하고 계산에 필요한 원본 값이 있을 때, 정규화된 레코드에 engagement_rate, estimated_reach, content_category, language를 함께 담아 바로 활용할 수 있습니다.
코드 한 줄 쓰기 전에, 데이터부터
Visual Data Explorer에 URL만 붙여넣으면 결과 카드와 정형화된 테이블, CSV 내보내기를 바로 사용할 수 있습니다.
import requests
response = requests.get(
'https://www.socialcrawl.dev/v1/tiktok/profile',
params={'handle': 'charlidamelio'},
headers={'x-api-key': 'sc_YOUR_API_KEY'}
)
data = response.json(){
"success": true,
"platform": "tiktok",
"data": {
"author": {
"username": "charlidamelio",
"followers": 152400000
},
"engagement": {
"likes": 12400000000,
"engagement_rate": 0.087
},
"metadata": {
"language": "en",
"content_category": "lifestyle"
}
}
}Web Scraping Extract 데이터, 가져올 준비 되셨어요?
API 키 받고 60초 안에 Web Scraping 데이터를 받아 가세요.
