OpenAI در حال توسعه یک مدل CriticGPT است که قادر به تشخیص خطاهای تولید کد GPT-4 است

OpenAI مطالعه ای را در مورد یک مدل جدید هوش مصنوعی (AI) در روز پنجشنبه منتشر کرد که می تواند خطاهای GPT-4 را در تولید کد تشخیص دهد. این شرکت هوش مصنوعی گفت که چت بات جدید با استفاده از چارچوب یادگیری تقویتی از بازخورد انسانی (RLHF) آموزش داده شده و توسط یکی از مدل های GPT-4 طراحی شده است. چت بات در حال توسعه برای بهبود کیفیت کدهای تولید شده توسط هوش مصنوعی که کاربران از مدل های زبان بزرگ دریافت می کنند، طراحی شده است. در حال حاضر، این مدل در دسترس کاربران یا آزمایش کنندگان نیست. OpenAI همچنین چندین محدودیت مدل را برجسته کرده است.

OpenAI جزئیات مربوط به CriticGPT را به اشتراک می گذارد

شرکت هوش مصنوعی جزئیات مدل جدید CriticGPT را در یک پست وبلاگ به اشتراک گذاشت و اشاره کرد که این مدل مبتنی بر GPT-4 است و برای شناسایی خطاهای کد تولید شده توسط ChatGPT طراحی شده است. این شرکت ادعا می‌کند: «ما دریافتیم که وقتی مردم از CriticGPT برای بررسی کد ChatGPT کمک می‌گیرند، ۶۰ درصد از افرادی که کمک دریافت نمی‌کنند بهتر عمل می‌کنند». این مدل با استفاده از چارچوب RLHF توسعه داده شد و نتایج در یک مقاله تحقیقاتی منتشر شد.

RLHF یک تکنیک یادگیری ماشینی است که خروجی های ماشین و انسان را برای آموزش سیستم های هوش مصنوعی ترکیب می کند. در چنین سیستمی، ارزیاب های انسانی بازخورد عملکرد هوش مصنوعی را ارائه می دهند. این برای تنظیم و بهبود رفتار مدل استفاده می شود. به افرادی که به هوش مصنوعی بازخورد می دهند، مربیان هوش مصنوعی می گویند.

CriticGPT بر روی حجم زیادی از داده های کد حاوی خطا آموزش داده شده است. وظیفه مدل هوش مصنوعی یافتن این اشکالات و بررسی کدهاست. برای این کار، از مربیان هوش مصنوعی خواسته شد تا علاوه بر خطاهای طبیعی، خطاها را در کد یادداشت کنند و سپس نظرات نمونه بنویسند که گویی آن خطاها را کشف کرده اند.

هنگامی که CriticGPT چندین نسخه از نقد خود را به اشتراک گذاشت، از مربیان خواسته شد که نشان دهند آیا خطاهایی که معرفی کرده‌اند توسط هوش مصنوعی در کنار خطاهای طبیعی شناسایی شده است یا خیر. OpenAI در تحقیقات خود دریافت که CriticGPT 63 درصد بهتر از ChatGPT در تشخیص خطاها عمل می کند.

با این حال، این مدل همچنان از محدودیت هایی رنج می برد. CriticGPT بر روی رشته های کوتاه کد تولید شده توسط OpenAI آموزش دیده است. این مدل هنوز روی مجموعه های طولانی و پیچیده از وظایف آموزش ندیده است. شرکت هوش مصنوعی همچنین دریافت که چت بات جدید هنوز از توهم رنج می برد (تولید پاسخ های واقعی نادرست). علاوه بر این، این مدل در سناریوهایی که چندین باگ در کد رایج است، آزمایش نشده است.

بعید است که این مدل منتشر شود زیرا برای کمک به OpenAI طراحی شده است که بهتر بفهمد کدام تکنیک های آموزشی می توانند خروجی های با کیفیت بالاتری تولید کنند. اگر CriticGPT عمومی شود، اعتقاد بر این است که در ChatGPT ادغام شده است.