پردازش گروهی متن

شروع در داشبورد

در /developers/batches فایل CSV یا JSONL را انتخاب کن یا متن را بچسبان. پیش‌نمایش ردیف‌ها را بررسی کن، دستور مشترک و سقف اعتبار را تعیین کن و هزینه را برآورد کن. فقط پس از زدن «شروع پردازش» کار ثبت می‌شود. با تغییر ورودی‌ها باید دوباره برآورد بگیری. نتیجهٔ هر کار از بخش کارهای اخیر قابل دریافت است.

ثبت کار با API

POST /v1/batches بدنهٔ {name,max_credits,requests} می‌گیرد. هر ردیف requests شامل custom_id یکتا و body با model، input، instructions اختیاری و max_output_tokens است. حداکثر ۱۰۰۰ ردیف، ورودی ۳۲۰۰۰ نویسه و خروجی ۲۰۴۸ توکن برای هر ردیف. کل بدنه باید زیر ۴ مگابایت باشد. داشبورد CSV با ستون‌های custom_id و input، یا JSONL با یک ردیف API در هر خط را می‌خواند.

هزینه

POST /v1/batches/estimate با همان بدنه سقف برآورد را می‌دهد. max_credits سقف کل کار است؛ حساب باید هنگام اجرای هر ردیف اعتبار داشته باشد. قیمت فعلی استاندارد است: تخفیف، صف اولویت‌دار یا زمان پایان تضمین‌شده ارائه نمی‌شود. ردیف‌های لغوشده پیش از اجرا هزینه ندارند. هر ردیف با شناسهٔ مستقل در دفتر اعتبار ثبت می‌شود.

وضعیت و خروجی

GET /v1/batches/{id} تعداد موفق، ناموفق، لغوشده و مصرف را می‌دهد. GET /v1/batches/{id}/results خروجی ردیفی است؛ format=csv یا format=jsonl فایل قابل دریافت می‌دهد. وضعیت completed یعنی همهٔ ردیف‌ها به وضعیت نهایی رسیده‌اند؛ failed را جدا بررسی کن. فایل و نتایج ۷ روز نگهداری می‌شوند.

لغو و تکرار

POST /v1/batches/{id}/cancel ردیف‌های شروع‌نشده را لغو می‌کند؛ ردیف در حال اجرا ممکن است تمام شود. POST /v1/batches/{id}/retry با max_credits یک کار تازه فقط از ناموفق‌ها می‌سازد. EXECUTION_INTERRUPTED به‌معنی نتیجهٔ نامعلوم پس از قطع اجراست؛ ابتدا گزارش request_id را بررسی کن. این ردیف‌ها فقط با include_uncertain:true دوباره اجرا می‌شوند. ردیف موفق خودکار تکرار نمی‌شود.

دسترسی و تحویل

ثبت، لغو و تکرار به responses:write و خواندن به usage:read نیاز دارند. Idempotency-Key را برای تکرار همان ثبت ثابت نگه دار. رویداد batch.completed یا batch.cancelled برای وب‌هوک فرستاده می‌شود. پس از بستن مرورگر هم پردازش ادامه دارد.