OpenAI مشخصات مدل را به اشتراک می گذارد، سندی که رویکرد آن را برای ایجاد هوش مصنوعی اخلاقی برجسته می کند

OpenAI مشخصات مدل خود را روز چهارشنبه به اشتراک گذاشت، اولین پیش نویس سندی که رویکرد این شرکت را در جهت ایجاد یک مدل هوش مصنوعی (AI) مسئولانه و اخلاقی نشان می دهد. در این سند فهرستی طولانی از مواردی که هوش مصنوعی باید در هنگام پاسخ دادن به درخواست کاربر روی آنها تمرکز کند، ذکر می کند. مواردی که در این لیست وجود دارند، از نفع بشریت و رعایت قوانین گرفته تا احترام به خالق و حقوق آنها را شامل می شود. این شرکت هوش مصنوعی تصریح کرده است که تمام مدل‌های هوش مصنوعی از جمله GPT، Dall-E و Sora که به زودی عرضه می‌شود، از این قوانین رفتاری در آینده پیروی خواهند کرد.

در سند مدل Spec، OpenAI بیان کرد: «هدف ما استفاده از مدل Spec به عنوان یک راهنما برای محققان و طبقه‌بندی‌کننده داده‌ها به‌عنوان بخشی از تکنیکی به نام یادگیری تقویتی از بازخورد انسانی (RLHF) است مدل Spec به شکل فعلی خود، اگرچه بخش‌هایی از آن بر اساس مستنداتی است که برای RLHF در OpenAI استفاده می‌کنیم، ما همچنین در حال کار بر روی تکنیک‌هایی هستیم که به مدل‌های ما امکان می‌دهد مستقیماً از مشخصات مدل یاد بگیرند.

برخی از قوانین اصلی شامل پیروی از یک زنجیره فرمان است که در آن دستورالعمل‌های توسعه‌دهنده قابل نادیده گرفتن نیست، پیروی از قوانین قابل اجرا، احترام به سازندگان و حقوق آنها، محافظت از حریم خصوصی افراد و موارد دیگر. یک قانون خاص نیز بر عدم ارائه ریسک های اطلاعاتی متمرکز بود. اینها به اطلاعاتی مربوط می شود که می تواند تهدیدهای شیمیایی، بیولوژیکی، رادیولوژیکی و/یا هسته ای (CBRN) باشد.

جدا از آن، چندین تنظیمات پیش فرض وجود دارد که به عنوان کدهای رفتار دائمی برای هر مدل هوش مصنوعی ایجاد شده است. این شامل فرض بهترین نیت کاربر یا توسعه‌دهنده، پرسیدن سؤال‌های روشن‌کننده، ارائه کمک بدون تجاوز، فرض یک دیدگاه عینی، تلاش نکردن برای تغییر نظر کسی، ابراز عدم اطمینان و موارد دیگر است.

با این حال، این سند تنها نقطه مرجع برای شرکت هوش مصنوعی نیست. این نشان می‌دهد که مشخصات مدل با خط‌مشی‌های استفاده شرکت همراه خواهد بود که بر نحوه انتظار مردم برای استفاده از API و محصول ChatGPT خود حاکم است. OpenAI اضافه کرد: «مشخصات، مانند خود مدل‌های ما، به‌طور مستمر بر اساس چیزهایی که با اشتراک‌گذاری آن‌ها و گوش دادن به بازخورد سهامداران یاد می‌گیریم، به روز می‌شوند.»